「ChatGPT-LangChainによるチャットシステム構築［実践］入門」読書メモ

以下の「ChatGPT-LangChainによるチャットシステム構築［実践］入門」の読書メモを記載する。

https://gihyo.jp/book/2023/978-4-297-13839-4

3.5. Chat Completions APIをさわってみる

• model：使用するモデルのIDを定義する。
• messages：roleとcontentをJSON形式で指定しメッセージを送付する。
  • role：メッセージを送付する役割。system / user / assistant 等を指定可能。
  • content：メッセージの内容。
• stream：メッセージをストリーミングで送付するかどうかを定義する。True / Falseを指定可能。

3.6. Function calling

• functions：nameとparametersを指定し関数を呼び出す。
  • name：事前に定義した関数の名前。
  • parameters：関数の引数。
• function_call：モデルの関数呼び出し方法を定義。noneを指定すると、通常のテキストを返す。autoを指定すると、関数を実施しその結果を返す。パラメータ「function_call」のデフォルトの動作は、functionsを与えなかった場合はnone、与えた場合はautoになる。

4.2. Language models

• Model I/O：あらゆる言語モデルとインターフェイスの構成要素を提供するモジュール群。
  • Docs：Model I/O | 🦜️🔗 Langchain
• Language models：異なるLLMの共通のインターフェースで使用可能にするModel I/Oの一種。
  • Docs：Language models | 🦜️🔗 Langchain
• LLMs：1つのテキストの入力に対して1つのテキストの出力を返すLanguage modelsモジュール。
  • Docs：LLMs | 🦜️🔗 Langchain
  • API：langchain.llms.openai.OpenAI — 🦜🔗 LangChain 0.0.320
• Chat models：チャット形式のやりとりを入力して応答を得るLanguage modelsモジュール。
  • Docs：Chat models | 🦜️🔗 Langchain
  • API：langchain.chat_models.openai.ChatOpenAI — 🦜🔗 LangChain 0.0.320
  • Streaming：ストリーミング形式で応答を得る。
    • Docs：Streaming | 🦜️🔗 Langchain
    • API：langchain.callbacks.streaming_stdout.StreamingStdOutCallbackHandler — 🦜🔗 LangChain 0.0.320

4.3. Prompts

• Prompts：入力のプロンプトを作成するModel I/Oの一種。
  • Docs：Prompts | 🦜️🔗 Langchain
• PromptTemplate：プロンプトをテンプレート化するPromptsモジュール。
  • Docs：Prompt templates - PromptTemplate | 🦜️🔗 Langchain
  • API：langchain.prompts.prompt.PromptTemplate — 🦜🔗 LangChain 0.0.320
• ChatPromptTemplate：プロンプトをテンプレート化するPromptsモジュール。
  • Docs：Prompt templates - ChatPromptTemplate | 🦜️🔗 Langchain
  • API：langchain.prompts.chat.ChatPromptTemplate — 🦜🔗 LangChain 0.0.320

4.4. Output parsers

• Output parsers：出力された回答を整形するModel I/Oの一種。
  • Docs：Output parsers | 🦜️🔗 Langchain
• PydanticOutputParser：LLMの出力からPythonのオブジェクトを取得するOutput parsersモジュール。
  • Docs：Pydantic (JSON) parser | 🦜️🔗 Langchain
  • API：langchain.output_parsers.pydantic.PydanticOutputParser — 🦜🔗 LangChain 0.0.320

4.5. Chains

• Chains：さまざまな処理を連鎖させるモジュール群。
  • Docs：Chains | 🦜️🔗 Langchain
• LLMChains：PromptTemplate / Language model / OutputParserをつなぐChainsモジュール。
  • Docs：LLM | 🦜️🔗 Langchain
  • API：langchain.chains.llm.LLMChain — 🦜🔗 LangChain 0.0.320
• SimpleSequentialChain：ChainとChainをつなぐChainsモジュール。
  • Docs：Sequential | 🦜️🔗 Langchain
  • API：langchain.chains.sequential.SimpleSequentialChain — 🦜🔗 LangChain 0.0.320

4.6. Memory

• Memory：履歴を保持するモジュール群。
  • Docs：Memory | 🦜️🔗 Langchain
• ConversationBufferMemory：会話履歴を保持するMemoryモジュール。
  • Docs：Conversation Buffer | 🦜️🔗 Langchain
  • API：langchain.memory.buffer.ConversationBufferMemory — 🦜🔗 LangChain 0.0.320

5.1. Data connection

• Retrieval(Data Connection)：RAG(検索拡張生成)で使用可能なモジュール群。
  • Docs：Retrieval | 🦜️🔗 Langchain
• Document loaders：データソースからドキュメントを読み込むRetrievalモジュール。
  • Docs：Document loaders | 🦜️🔗 Langchain
  • API：langchain.document_loaders.git.GitLoader — 🦜🔗 LangChain 0.0.320
• Document transformers：ドキュメントに何らかの変換をかけるRetrievalモジュール。
  • Docs：Document transformers | 🦜️🔗 Langchain
  • API：langchain.text_splitter.CharacterTextSplitter — 🦜🔗 LangChain 0.0.320
• Text embedding models：ドキュメントをベクトル化するRetrievalモジュール。
  • Docs：Text embedding models | 🦜️🔗 Langchain
  • API：langchain.embeddings.openai.OpenAIEmbeddings — 🦜🔗 LangChain 0.0.320
• Vector stores：ベクトル化したドキュメントの保存先Retrievalモジュール。
  • Docs：Vector stores | 🦜️🔗 Langchain
  • API：langchain.vectorstores.chroma.Chroma — 🦜🔗 LangChain 0.0.320
• Retrievers：入力のテキストと関連するドキュメントを検索するRetrievalモジュール。
  • Docs：Retrievers | 🦜️🔗 Langchain
  • API：langchain.vectorstores.chroma.Chroma — 🦜🔗 LangChain 0.0.320
  • API：langchain.chains.retrieval_qa.base.RetrievalQA — 🦜🔗 LangChain 0.0.320

5.2. Agents

• Agents：必要に応じてさまざまなツールを使いながら、LLM自身に動作を選択してもらうモジュール群。
  • Docs：Agents | 🦜️🔗 Langchain
• Agent Types：エージェントの種類。ZERO_SHOT_REACT_DESCRIPTION(単一ツール/Function callingなし)、OpenAI Functions(単一ツール/Function callingあり)、OpenAI Multi Functions Agent(複数ツール/Function callingあり)等がある。
  • Docs：Agent Types | 🦜️🔗 Langchain
  • API：langchain.agents.agent_types.AgentType — 🦜🔗 LangChain 0.0.320
  • API：langchain.agents.initialize.initialize_agent — 🦜🔗 LangChain 0.0.320
  • API：langchain.agents.load_tools.load_tools — 🦜🔗 LangChain 0.0.320
• Tools：エージェントが対話するために使用できるインターフェイス。
  • Docs：Tools | 🦜️🔗 Langchain
  • API：langchain.tools.base.Tool — 🦜🔗 LangChain 0.0.320