Open1

オープンソースのRAGフレームワーク「Cognita」を試す

kun432kun432

https://www.truefoundry.com/blog/cognita-building-an-open-source-modular-rag-applications-for-production

https://github.com/truefoundry/cognita

なぜCognitaを使うのか?

Langchain/LlamaIndexは、jupyterノートブック上で迅速な実験やプロトタイプ作成に使える、使いやすい抽象化機能を提供している。しかし、本番環境に移行する際には、コンポーネントがモジュール化され、容易にスケーラブルで拡張可能でなければならないといった制約がある。そこでCognitaが活躍する。Cognitaは、Langchain/Llamaindexを使用し、RAGコンポーネントのそれぞれがモジュール化され、API駆動で、簡単に拡張可能なコードベースの組織を提供する。Cognitaはローカルのセットアップで簡単に使用することができ、同時にノーコードUIをサポートし本番環境を提供する。また、Cognitaはデフォルトでインクリメンタルインデックスをサポートしている。

んんん?LangChainとLLamaIndexをさらにラップしてるの???

たしかにLangChainを使っている。ただ、LlamaIndexは見当たらないな。

https://github.com/truefoundry/cognita/blob/ecc33b00765ff301741b12d2d1bc775eae8952c9/backend/requirements.txt#L2-L4

ちょっと興味はあるので、少し触ってみる。ローカルにも建てれるっぽいし。