AIエージェントの考えすぎを防いでRAGの精度を向上

導入

こんにちは、株式会社ナレッジセンスの須藤英寿です。

今回は、AIエージェントが陥る考えすぎ(過剰推論)を防いで、精度を向上させる手法ReaRAGについて紹介します。

https://arxiv.org/pdf/2503.21729

サマリー

2025年はAIエージェント元年と呼ばれるように、Web検索やコード生成の分野でAIエージェントの活躍の舞台は広がっています。しかし、AIエージェントの抱える問題の一つ「過剰推論」によって回答にたどり着けなくなる問題があります。ReaRAGはこの「過剰推論」をファインチューニングで防ぐことに成功しています。

ポイントは、ツール(Web検索など)そのものと少ない手数で回答にたどり着くパターンを学習するという点です。ツールの使用方法を学習することは多いですが、利用するツールそのものとそのツールを少ない手数で利用する様子も学習に含めることで、ツール利用の精度が大幅に向上します。

エージェントの過剰推論問題

過剰推論による問題

例えば、「請求書払いに対応している、法人向けのチャットサービスを一覧にして」という質問をＷｅｂ検索で解決しようとするとします。この時、「Ａ社は請求書払いに対応しているか？」を確認するときに検索で見つからなかった場合に、何度も繰り返し検索してしまう(過剰推論)。という問題が発生することがあります。

こうした過剰推論は、時間やコストの無駄になるだけでなく、その後の推論において過剰に推論した無駄な文字列が影響して、その後の出力の精度にも悪影響を与えてしまいます。

手法

まずは、ReaRAGがどういった手順で動作するかについて説明します。
　　　　　　　　　　　　　　　　　　　　　　　　　　　　

ReaRAGは一般的なRAGをLLMの思考のループ内で使用し、回答を作り出します。
具体的には、以下のような手順を繰り返して回答を導き出そうとします。

1. Thought: 回答にどんな情報を知る必要があるかを考える
2. Action: 使用するツールを指定する
3. Observation: ツールを使用した結果を受け取る

Actionでfinishが選択されると、そこでループは終了します。この動作は比較的一般的なもので、ReaRAGの特徴はむしろ学習過程にあります。ポイントは以下の2点です。

• ReaRAGで使用するToolを利用して、思考する過程を学習データに利用する
• 使用する学習データはできるだけ短いステップで回答にたどり着いているものを利用する

理想的なツールの使用法を学習することで、「過剰推論」を防ぎ高い精度を実現しています。

成果

既存のRAGの手法と、ReaRAGの各種ベンチマークにおける精度の比較を行っています。特に多段階の推論が必要なタスクにおいては、既存よりも15%近くの精度向上を実現していると記載されています。

続いて、各種ベンチマークにおける回答にたどり着くまでに要した繰り返しの回数を示すグラフです。Search-o1と比較して、おおよそ2~4割ほど繰り返し回数が削減されていることが見て取れます。これは、学習の成果が現れているポイントとなっています。この繰り返し回数の削減が、一つ前の表で示した精度にプラスの影響を与えたと考えられます。

まとめ

今回は、ツールを上手に使う方法を学習させることで、検索の性能を向上させる手法、ReaRAGについて紹介しました。手法こそ違うものの、2025年2月に発表されたOpenAI社のDeepResearchも、検索ツールの使用方法をLLMに学習させることで高い検索性能を実現しています。その点で、かなり裏付けのある手法で、ReaRAGもオープンソースのモデルでも実現できている点から、かなり応用の効く手法と言えそうです。
一方で、ReaRAGの手法は使用するToolを事前に決めておく必要がある点から、決して楽に導入できる手法ではないと言えそうです。使用するモデルとツールが完全に決まっているタスクが生まれて、プロンプトの調整では効かないレベルの精度を実現する必要が生まれてから、取り入れるべき手法だと考えています。