Open4

LangChainメモ

こまきちこまきち

試しにv2でやってみる

requirements.txt
langchain==0.2.11
langchain-aws==0.1.12
angchain-community==0.2.10
langchain-core==0.2.24
langchain-text-splitters==0.2.2
langsmith==0.1.93
こまきちこまきち

Chatをストリーミングで行う

from langchain_aws import ChatBedrock

chat = ChatBedrock(
    model_id='anthropic.claude-3-haiku-20240307-v1:0',
    streaming= True,
    model_kwargs={
        'temperature': 0,
        'max_tokens': 100,
    }
)

for chunk in chat.stream("自己紹介してください。n"):
    print(chunk.content, end="", flush=True)