LlamaIndex v0.6.4 を LangChain の Tools として使ってみた

想定読者

• v0.6.0 より大きな変更があった LlamaIndex を LangChain でどのように使うか知りたい方
• 独自のデータを利用しつつ、過去のやりとりを記憶した AI ツールを作りたい方

LlamaIndex v0.6 について

LlamaIndex が v0.6.0 より大きな変更がありました。クエリロジックをカスタマイズしやすくなったりする一方で、コード実行方法も変更になりました。変更内容の詳細や LlamaIndex 単体の使い方を知りたい方には、以下の npaka さんの記事をおすすめします。

https://note.com/npaka/n/n4254fc549dc0
https://note.com/npaka/n/n50475d6c3118

LangChain との連携方法も変わるか

LangChain の Tools として利用するのは変わりませんが、コード実行方法に少し変更があるようです。今回は以下の公式ドキュメントも参考にしながら実際に連携を試してみたいと思います。

https://gpt-index.readthedocs.io/en/latest/how_to/integrations/using_with_langchain.html
https://gpt-index.readthedocs.io/en/latest/reference/langchain_integrations/base.html

やってみた

Google Colab を使ってやっていきます。

ドキュメントの準備

LlamaIndex のリポジトリにあるダミーデータを利用します。

https://github.com/jerryjliu/llama_index/blob/main/examples/paul_graham_essay/data/paul_graham_essay.txt

Google Colab を開きます。左袖から以下を作成します。

• フォルダ：data
• ファイル：paul_graham_essay.txt （データは上記ダミーデータをコピペ）

パッケージのインストール

!pip install langchain
!pip install openai
!pip install tiktoken
!pip install llama-index==0.6.4

環境変数の設定

sk-xxxxxxxxxxxxには OpenAI API のトークン（有料）を設定します。

import os

os.environ["OPENAI_API_KEY"] = "sk-xxxxxxxxxxxx"

https://openai.com/product

コードの準備

import openai
from langchain.agents import AgentType, Tool, initialize_agent
from langchain.chat_models import ChatOpenAI
from langchain.memory import ConversationSummaryBufferMemory
from llama_index import GPTVectorStoreIndex, SimpleDirectoryReader


documents = SimpleDirectoryReader("./data/").load_data()
index = GPTVectorStoreIndex.from_documents(documents=documents)

tools = [
    Tool(
        name="LlamaIndex",
        func=lambda q: str(index.as_query_engine().query(q)),
        description="useful for when you need to answer questions about graham",
        return_direct=True,
    ),
]
llm = ChatOpenAI(
    temperature=0,
    client=openai,
)
memory = ConversationSummaryBufferMemory(
    llm=llm,
    memory_key="chat_history",
    max_token_limit=1000,
)
llm = ChatOpenAI(temperature=0)
prefix = """Anser the following questions as best you can, but speaking Japanese. You have access to the following tools:"""
suffix = """Begin! Remember to speak Japanese when giving your final answer."""

agent_chain = initialize_agent(
    tools,
    llm,
    agent=AgentType.CONVERSATIONAL_REACT_DESCRIPTION,
    memory=memory,
    prefix=prefix,
    suffix=suffix,
    verbose=True,
)

実行

LlamaIndex のインデックスを参照した回答ができるか

agent_chain.run(input="What did graham do growing up?")

> Entering new AgentExecutor chain...
Thought: Do I need to use a tool? Yes
Action: LlamaIndex
Action Input: Graham
Observation: chose to work on Bel because...?

Graham chose to work on Bel because he wanted to create a Lisp interpreter that could be written in itself, and he was intrigued by the challenge of making it work. He also wanted to explore the potential of macros and embedded languages, which he felt had been largely unexplored. Finally, he wanted to prove to himself that he could complete a difficult project, and he was motivated by the idea of being able to make art and be independent without having to rely on a boss or research funding.

> Finished chain.
chose to work on Bel because...?

Graham chose to work on Bel because he wanted to create a Lisp interpreter that could be written in itself, and he was intrigued by the challenge of making it work. He also wanted to explore the potential of macros and embedded languages, which he felt had been largely unexplored. Finally, he wanted to prove to himself that he could complete a difficult project, and he was motivated by the idea of being able to make art and be independent without having to rely on a boss or research funding.

TOOL として LlamaIndex が選択され、ダミーデータのインデックスを元に回答できました。

LangChain を使って過去のやりとりができるか

agent_chain.run(input='私の名前は筧です。')

> Entering new AgentExecutor chain...
Thought: Do I need to use a tool? No
AI: こんにちは、筧さん！私はあなたのお手伝いができます。何かお困りのことはありますか？

> Finished chain.
こんにちは、筧さん！私はあなたのお手伝いができます。何かお困りのことはありますか？

ダミーデータに関係ない質問だったので、TOOL は利用しないで回答できました。

agent_chain.run(input='私の名前を覚えていますか？')

> Entering new AgentExecutor chain...
Thought: Do I need to use a tool? No
AI: はい、覚えています。あなたの名前は筧さんですね。

> Finished chain.
はい、覚えています。あなたの名前は筧さんですね。

直近のやりとりを覚えており、それを踏まえて回答できました。

おわりに

最後まで読んでいただきありがとうございました。LlamaIndex の大きな変更があったものの、公式ドキュメントには使い方の説明があり、すぐに使うことができました。参考になった場合は、Like やバッジを贈っていただけると励みになります！それではまた！