🦜

001 : LangChain (v 1.xx) チャット OpenAI, Ollama

に公開

LangChain V1.xx について、公式ドキュメント「LangChain Docs」をベースに、インストールから順に説明していきます。
誤字、脱字、説明の誤りなどありましたらご指摘いただけるとありがたいです。

まずは、異なるLLMとAPIでチャットできるところを目指します。

LangChainを使えばLLMの切り替えが簡単だということを実感していただきたいです。

[前提条件]

  • Pythonの仮想環境の構築については触れません。
  • Pythonライブラリのインストールには uv を使用します。
  • Pythonのバージョンは3.12以上です。
  1. LangChainのインストール
uv add langchain
  1. まずは、OpenAIとチャットが出来る環境を作ります。
    OpenAIと接続するためのライブラリをインストールします。
uv add langchain-openai

執筆時点、LangChainで使用できる有名どころのLLMは以下です。
(https://docs.langchain.com/oss/python/integrations/providers/overview)

OpenAI, Anthropic(Claude), AWS, Ollama, Groq, Huggingface, Chroma, Deepseek など

ここまでで、pyproject.tomlは以下です。
(バージョンはインストールした日によって変わる可能性がありますので、参考用)

[project]
name = "langchain_explanation_001"
version = "0.1.0"
description = "Add your description here"
readme = "README.md"
requires-python = ">=3.12"
dependencies = [
    "langchain>=1.2.7",
    "langchain-openai>=1.1.7",
]
  1. OpenAIとチャットができる環境をつくります。
  • OpenAIのAPIキーを作成する
    有償でOpenAIのAPIを使用することをお勧めします。
    私は、OpenAIのAPIを使うときにはほとんど”gpt-4o-mini”を使っていますが
    学習目的で $10 チャージして半年かぐらい使っていてもまだ使い切れていません。
    APIキーは、”sk-JE..”のようなキーです。

  • APIキーを .env ファイルに設定する
    環境変数でAPIキーを設定する方法がLangChainDocsには記載されていますが、今後、定義するものが増えることも考慮して、私は、.envファイル(”ドット”から始まっています)に定義することをお勧めします。

これから作成するpythonのスクリプトを作成する場所と同じ場所に .env ファイルを作成し、以下のように定義します。
”your-api-key”のところに、取得したAPIキーを記載します。

OPENAI_API_KEY="your-api-key"
  1. pythonスクリプトの作成
    調査、基本的な動作の確認は、VS codeでJupyter note bookを使用しています
    VS codeの拡張機能で、Jupyterをインストールし、pythonスクリプトのファイルの拡張子を
    ipynbにすればJupyter note bookとして使用できます。
  • API keyを .envから持ってくるために、python-dotenvというライブラリを使います
    まずは、dotenvのライブラリをuvでインストールします。
uv add python-dotenv

python-dotenvは.envファイルを「pythonスクリプトを実行するフォルダー」または「親ディレクトリ」を探します。それを考慮して、.envファイルを配置してください。

python-detenvが.envファイルを読み込んだときに、すでに同じ名前の環境変数が定義してあった場合は、上書きはしません。上書きをする場合(常に.envの定義を優先する)は、
load_dotenv(overrdide=True)とします。

from dotenv import load_dotenv
load_dotenv(override=True)

pythonスクリプトの中で、環境変数の読み込み方は以下です。

今後、.envに定義した環境変数が増えることも考慮して、all([api_key])としています。リストの中に環境変数を追加すれば定義忘れを発見できます。

import os
try :
    api_key = os.getenv("OPENAI_API_KEY")
    if not all([api_key]):
        raise RuntimeError("Missing one or more required environment variables in .env")
    print(f"api_key : {api_key}")
except RuntimeError as e:
    print(f"Configuration error: {e}")
    exit(1)
  1. OpenAIとのチャット
  • チャットをする前準備
    何のモデルを使うか、API keyなどを設定します。
    ここでは、値段が安くレスポンスも悪くない"gpt-4o-mini"を使います。
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
    model="gpt-4o-mini",
    api_key=api_key
)

llmのインスタンスを出力すると設定したLLMのいろいろな情報が取得できます。

print(llm)

profile={'max_input_tokens': 128000, 'max_output_tokens': 16384, 
'image_inputs': True, 'audio_inputs': False, 'video_inputs': False,
'image_outputs': False, 'audio_outputs': False, 'video_outputs': False,
'reasoning_output': False, 'tool_calling': True, 'structured_output': True,
(以下、略)
  1. いよいよチャットです。
    設定するものは、
    <1> システムメッセージ("system") : チャットの相手をするLLMの特徴、性格などを定義する
    <2> チャットするメッセージ("human")
    invoke()のメソッドで実行されます。
messages = [
    (
        "system",
        "あなたは日本語を英語に翻訳する優秀なアシスタントです。ユーザからの文章を翻訳してください。",
    ),
    ("human", "私はプログラミングが好きです。"),
]
ai_msg = llm.invoke(messages)
ai_msg

レスポンスだけを取得する場合は以下です。

print(ai_msg.content)

  1. LLMをollamaにしてやってみます
  • ollamaは、オープンのLLMです。
    今回は、翻訳目的なので、翻訳に強そうなLLMモデル “translategemma”を使ってみます。
    ollamaのインストーの仕方はいろいろと情報が上がっていますのでそちらを参照してください。

  • ollamaがインストールされているサーバがpythonのスクリプトを起動するPCとは別の場合。
    “base_url”のパラメータを使ってollamaに接続します。
    今回は同じPC内なので localhost です。

  • “translategemma”のダウンロード
    4b, 12b, 27bとありますが、一番小さい 4bを使ってみます。

ollama pull translategemma:4b
  • pythonスクリプトでの設定
    OpenAIと使い方はほぼ同じ。
    ターミナルからLangChainのollamaをインストールして、
uv add langchain_ollama

pythonのスクリプトは以下

from langchain_ollama import ChatOllama

llm = ChatOllama(
    model="translategemma:4b",
    base_url="http://localhost:11434", # ollamaが起動しているサーバ
    validate_model_on_init=True
)

質問のところは、OpenAIと同じです。

messages = [
    (
        "system",
        "あなたは日本語を英語に翻訳する優秀なアシスタントです。ユーザからの文章を翻訳してください。",
    ),
    ("human", "私はプログラミングが好きです。"),
]
ai_msg = llm.invoke(messages)
ai_msg

以下のような感じでgpt-ossからのレスポンスを取り出します。

print(ai_msg.content)

ここまでです。
LangChainを使うと異なるLLMを使う場合でも少ない修正で対応できることを実感できると思います。
次回もLangChainを使って、Hugging FaceのLLMでチャットをやります。

Discussion