Open3
Prompt Engineering
RAG基礎
RAGを使用しない一般的なチャットボットでは、以下のような問題がありました。
最新情報を取得できない
社内の専門知識を取得できない
専門家の知識を取得できない
結果的に、「ハルシネーション(本当っぽい嘘)」をついてしまうことさえあります。
これらの問題を解決するために、RAGが開発されました。
RAGを使用することで、生成AIは外部の情報を検索し、その情報を文章生成に利用することができます。
最新情報を取得可能
社内の専門知識を取得可能
専門家の知識を取得可能
また、付随的なメリットとして、「文献(エビデンス)に基づいた回答」が可能となります。
このように、信頼性のある情報を参考にすることを「グラウンディング(Grounding)」と呼んだりします。
環境構築
mise
miseとpythonの仮想環境の構築
terminal
$ mise ls
# 結果
Tool Version Config Source Requested
python 3.13.0 ~/dev/python/rag-python/.mise.toml 3.13.0
されていない場合は、
terminal
$ mise install python@3.13.0
$ mise use python@3.13.0
→ .mise.tomlが作成される
[tools]
python = "3.13.0"
pythonの仮想環境
一般的なやつでつくる
$ python -m venv venv
$ touch requirements.txt
$ mkdir app
$ cd app
$ touch main.py
ついでに、tauriでデスクトップアプリのチャットボットを作ってみる
参考