🙂
ChatHubを活用して複数LLMを同時に使える
知っている方が多い気もしますが、ChatHubについて。
このツールは、Chrome拡張のツールです。
1つのブラウザ画面上で複数のLLMを動かすことができます。
驚くべきことに、プロンプトをSubmitすると複数のLLMが同時に回答生成します。
下記画像は、厚生労働省のホームページに公開されている記事の概要を生成するようにプロンプトを書きSubmitした結果です。
LLMは、左からOpen AI Chat GPT-4o、Gemini1.5flash、Claude3 opusです。
並べてみると、複数のLLMの回答生成速度がわかり、参考になります。
例えば、上記スクショで試した回答速度はGPT-4oが初速が速くそのまま高速に回答しきり、快適でした。
この並べるやり方ですが、ハルシネーション(AIが事実に基づかない回答をすること)を検知できる可能性が高まると思います。複数のLLMの回答を見て比較して、誤った情報を生成していることを検知していくイメージです。
あとは、複数LLMの回答の中で一番良いものを選ぶのも仕事が捗りますよね。
生成AI系のYouTubeを見た時に、ChatHubを使っている方がいて、便利そうなので調べて投稿しました!
Discussion