Zenn
🗂

LLMにおけるRAG（Retrieval-Augmented Generation）とは？

2025/03/03に公開
RAG
中野哲平
tech

1. RAG（Retrieval-Augmented Generation）とは？

RAG（検索拡張生成） とは、大規模言語モデル（LLM）が外部の情報を検索（Retrieval）し、その情報を基に文章を生成（Generation）する手法です。
通常のLLMは事前に学習した知識のみを使用して応答を生成しますが、RAGを利用すると、最新の情報や特定のデータセットを組み合わせた高精度な応答が可能になります。

2. RAGの仕組み

RAGは主に2つのフェーズから成り立ちます。

  1. 検索フェーズ（Retrieval）

    • LLMの応答を強化するために、外部のデータベースや検索システム（ベクトルデータベースなど）から関連情報を取得します。
    • 例: 質問 → 検索エンジンやナレッジベースをクエリ → 関連情報を取得

  2. 生成フェーズ（Generation）

    • 検索で取得した情報を元に、LLMが回答を生成します。
    • 例: 検索結果 + LLMの推論 → 質問に対する高精度な回答を生成

💡 ポイント: 通常のLLMは事前学習データの範囲でしか回答できませんが、RAGを使うと動的に情報を取得できるため、最新情報や専門的な知識を反映できます。

3. なぜRAGが必要なのか？

LLM単体では、以下の問題点があります。

課題 RAGの解決策
事前学習データが固定 RAGで最新情報を取得できる
正確性の欠如（ハルシネーション） 検索で信頼できる情報を補強
特定のドメイン知識が不足 カスタムデータを検索し、専門知識を提供
プライベートデータにアクセス不可 内部データベースや企業内ナレッジを統合

4. RAGのアーキテクチャ

RAGを実装するには、以下のコンポーネントが必要です。

(1) クエリの処理

  • ユーザーからの質問をLLMに入力
  • クエリの意味をベクトル化（エンコーディング）

(2) 情報検索（Retrieval）

  • 検索対象: ベクトルデータベース（FAISS, Pinecone, ChromaDB など）、従来の全文検索（Elasticsearch など）
  • 検索手法: k-Nearest Neighbors（k-NN）、BM25、類似度検索（cosine similarity）

(3) 応答生成（Generation）

  • 検索結果をプロンプトに追加
  • LLMがコンテキストを考慮して最適な回答を生成

(4) 応答の提供

  • ユーザーに自然な回答を返す
  • 信頼スコアや出典情報を付与可能

5. RAGの具体的な活用例

RAGはさまざまな分野で活用されています。

用途 説明 具体例
チャットボット LLMがFAQデータベースや企業ナレッジを検索して回答 AIカスタマーサポート
法律・医療 最新の法律文書や医療論文を検索し、専門的な回答を生成 AI弁護士、AI診断システム
ドキュメント検索 社内ドキュメントを検索し、適切な情報を提示 企業内検索エンジン
ニュース要約 最新のニュース記事を検索し、要約を生成 ジャーナリズム、報道AI
学術研究 研究論文を検索し、関連する情報を統合 AIリサーチアシスタント

6. RAGの実装方法

RAGをPythonで実装する例を示します。

📌 ① FAISSを用いたRAGの簡単な実装 

from langchain.embeddings import OpenAIEmbeddings
from langchain.vectorstores import FAISS
from langchain.chains import RetrievalQA
from langchain.chat_models import ChatOpenAI

# 1. データをベクトル化し、FAISSに保存
documents = ["LLMとは？", "RAGの仕組み", "GPT-4は何ができるか？"]
embeddings = OpenAIEmbeddings()
vectorstore = FAISS.from_texts(documents, embeddings)

# 2. クエリを受け取り、検索する
retriever = vectorstore.as_retriever()
qa_chain = RetrievalQA.from_chain_type(llm=ChatOpenAI(), retriever=retriever)

# 3. 質問を入力
query = "RAGとは何ですか？"
response = qa_chain.run(query)
print(response)

このコードでは、FAISS（Facebook AI Similarity Search）を使ってテキストデータをベクトル化し、検索→生成を行うRAGモデルを構築しています。

📌 ② Pineconeを使用したRAG 

from pinecone import Pinecone
import openai

# Pineconeのセットアップ
pc = Pinecone(api_key="YOUR_API_KEY")
index = pc.Index("rag-database")

# クエリの埋め込みを取得
query_embedding = openai.Embedding.create(
    model="text-embedding-ada-002",
    input="最新のAI技術を教えて"
)["data"][0]["embedding"]

# 近似検索
results = index.query(query_embedding, top_k=3)

# LLMへの入力
context = "\n".join([match["text"] for match in results])
prompt = f"以下の情報をもとに質問に答えてください。\n\n{context}\n\n質問: 最新のAI技術とは？"

# OpenAI GPTで回答生成
response = openai.Completion.create(model="gpt-4", prompt=prompt)
print(response["choices"][0]["text"])

Pineconeを使用すると、大規模なベクトル検索を効率的に行い、RAGのスケールアップが可能になります。

7. RAGとファインチューニングの違い

LLMを改善する方法として、**RAGとファインチューニング（Fine-tuning）**がありますが、違いを比較します。

手法 特徴 メリット デメリット
RAG 動的に情報を検索し、応答を生成 - 最新情報に対応可能
- ファインチューニング不要		 - 外部データが必要
- 検索精度に依存
ファインチューニング 事前学習済みのモデルに追加学習を行う - 特定のタスクに最適化
- 一度学習すれば高速		 - 最新情報を反映できない
- 計算コストが高い

💡 動的な情報取得が必要ならRAG、特定のタスクに最適化するならファインチューニングが適しています。

8. まとめ

  • **RAG（Retrieval-Augmented Generation）**は、LLMが外部の知識を検索して回答を生成する手法。
  • 最新情報や専門知識を取り入れられるため、汎用LLMよりも正確な回答が可能。
  • ベクトル検索（FAISS, Pinecone）と組み合わせて実装すると効果的。
  • ファインチューニングとは異なり、動的なデータ更新が可能。

LLMを強化する手法として、RAGは今後さらに重要になるでしょう！

Discussion