langchain-nextjs-templateを試してみる

こちらのテンプレートを試してみる

.env.example を .env.local へコピーし, OpenAIのapiKeyだけ入れる

pnpmで立ち上げてみる

pnpm i
pnpm dev

海賊のフリをしたchatアプリ？がデフォルトで入ってそう

普通に話せてそう。

実装を見てみる。

api側はroute handlerになってて、nextの最新を追っていてありがたいです。

vercel AI SDKが使われていて、デフォルトでstreamの実装になっているので、リアルタイムでレスポンスが返ってくるように実装されていそうですね。

過去の会話文はバックエンド側ではなく、フロントに表示されているものを全てAPIに投げていそう。
バックエンド側で、過去の会話をhistory, 最新の会話をinputとしてプロンプトを組み立てている。

ローカルで起動したollamaと繋ぎ込んでみるサンプル

他のモデルでも試せる

このスクラップは2023/11/19にクローズされました