Open4
LangChainメモ
Prompt Engineering Guideというものがあるらしい
試しにv2でやってみる
requirements.txt
langchain==0.2.11
langchain-aws==0.1.12
angchain-community==0.2.10
langchain-core==0.2.24
langchain-text-splitters==0.2.2
langsmith==0.1.93
Model:Bedrock(Claude 3 Haiku)
Chatをストリーミングで行う
from langchain_aws import ChatBedrock
chat = ChatBedrock(
model_id='anthropic.claude-3-haiku-20240307-v1:0',
streaming= True,
model_kwargs={
'temperature': 0,
'max_tokens': 100,
}
)
for chunk in chat.stream("自己紹介してください。n"):
print(chunk.content, end="", flush=True)