Open3

オープンソースのプロンプトエンジニアリングプラットフォーム「Latitude」を試す

kun432kun432

GitHubレポジトリ

https://github.com/latitude-dev/latitude-llm

Latitude

オープンソースのプロンプトエンジニアリングプラットフォーム

🌈なぜ Latitude なのか?

Latitude は、開発者や製品チームが自信を持って AI 機能を作成できるプラットフォームです。その機能は以下の通りです。

  1. プロンプトの管理を容易に: コードでプロンプトを隠すのではなく、Latitude では誰もが一緒に作業することができます。
  2. テストを支援: AI は常に同じ回答を返すとは限らず、厄介な場合もあります。Latitude は LLM を使用して他の LLM の回答をチェックし、誤りやテーマから外れた回答がないかを確認します。
  3. 洞察の提供: LLMリクエストのパフォーマンスに関する詳細な分析を提供します。これには、さまざまなAIモデルやプロンプトのバージョンにおける応答時間やコスト比較が含まれます。

Latitudeは、これらの便利なツールをすべて1か所に集約します。つまり、手間をかけずにAIを製品に追加し、そのパフォーマンスを監視することができます。

公式の紹介動画
https://www.youtube.com/watch?v=jPVn9kf4GrE

機能

  • 👥 共同作業が可能なプロンプトマネージャー
  • 🚀 パラメータ、スニペット、ロジックなど、高度な機能のサポート
  • 🔄 プロンプトのバージョン管理
  • 🔌 容易な統合を可能にするAPI + SDK
  • 🔍 ビルトインの監視機能
  • 📊 バッチまたはリアルタイムでの評価
  • 🌟 コミュニティ主導のオープンソース

公式ドキュメント

https://docs.latitude.so/guides/getting-started/introduction

ライセンスはLGPL3.0

kun432kun432

Latitudeは、クラウドサービスとセルフホストで利用ができる。今回はセルフホストで試して・・・

見たかったのだが、残念ながらセルフホストの場合のドキュメントは"TODO"ステータスとなっている模様。

https://docs.latitude.so/guides/self-hosted/quick-start

docker-compose.yamlはあるけども、んー、ちょっと様子見。

kun432kun432

ということで、セルフホストのドキュメントが揃った場合も踏まえて、クラウドサービスのものを少し試してみようと思う。

なお、料金はこちら

https://latitude.so/pricing

"Hobby"という無料のTierがある、以下のような制約があるが、とりあえず試す程度ならいけそう。

  • 1 user
  • Up to 40k runs/month
  • 30-day log access

https://latitude.so/ にアクセスして、"Get started for free" をクリック。

名前・メアド・ワークスペース名を入力して、アカウントを作成。

以下のようにダッシュボードが表示される。