📑

複数のAIと同時にチャットし、比較できるツールを作りました (ChatHubをForkして)。

に公開

このツールは何?

Claude, Gemini, OpenAIなどのAI APIを設定し、それぞれのAIを並べて当時にチャットできるツール。
Chrome Extensionとして実行可能。

背景

次々と新しい生成AIが登場し、しのぎを削る今この世の中。
それぞれのLLMを横並びで比較できたら、めちゃくちゃ便利なのに……」
そんな便利なツールがあるんです。それがChatHub。
https://chathub.gg/ja/

でも、困ったことがあったんです。
それは、「AIサービスは手持ちのAPIを使いたいから、こんなに高い月額プランはいらない!」

というのもあるのですが、実は会社から各AIのAPIが支給されることになりました。それがAPIプロキシ的なサービス経由で提供されており、少し特殊仕様だったので、そのままだと使えない! ということがあったのです。

なんとありがたいことに、ChatHubの少し前のバージョンが、Open-Sourceとして公開されていました。そこで、ChatHubフォークして自分でカスタマイズしてアプリケーションを作りました。名付けて「HuddleLLM」です

我ながらかなりいい出来なので、せっかくなのでご紹介させてください。

新しくつけた機能

1. Chatbot・API設定の自由度アップ

まずは、設定画面を大幅に変更し、自分でAIのAPI設定を行えるようにしました。
こんな感じで、各Custom Chatbotを、任意数作成できるようにしました。

各チャットボットの設定 チャットボットカード画面

この最初の実装をやってたころは、AI Code Agentはまだそんなに良くなくて、自分自身もTypeScript触ったこともないどころか、Web技術もHTMLくらいしか知らないような状況でした。
まさにChatHubを使いChatGPT, Claudeに聞きながら進めてました(当時のGeminiはポンコツだった)。
2つのコードを比較することで知識も付きつつ、まだまだ性能が低かったAIの誤りに気がつくことができたり、よりよい構造のコードを選んだりしながら進められました。本当にChatHubのアイデア、設計、実装の素晴らしさに感銘するとともに、絶対に自分のアプリケーションを完成させて社内でブイブイ言わせてやろう!と決意しました。

1.5 Chatbot・API設定のテンプレートとしてのエクスポート

自分のアプリケーションの設定を、API Keyを除いて出力することができるようにしました。
また、インポート時も取捨選択が可能としました。
これは主に社内で、会社支給APIを使った設定を展開するのに使っています(使ってくれている人がほとんどいないのが現状ですが……)。

2. プロパガンダ機能

ChatHubを使っていくうちに、明らかに誤ってる情報を上書きしたり、いいなと思ったレスポンスからチャットを続けたいと感じるようになってきました。
そこで追加したのがPropaganda機能。

AIからのResponseの横についているPropagandaボタンを押すことで、その回答で他のAI Chatbotからの返答も上書きすることができるようにしました。

https://www.youtube.com/watch?v=8y_T5vS1mBc

機能の名前について
もともとPropagateという機能にしようと思ったのですが、日本語で考えたときに「プロパゲート」や「伝播」という名前はしっくり来ませんでいた。ある一つのAIの応答・思想で、他のすべてのAIの会話履歴も強引に上書きするというところから、Propagandaという名前にしました。

3. URLの内容取得機能

@URL という構文でチャットを投げると、そのURLの内容をFetchしてAIに渡してくれます。
しかも、ブラウザのセッションを使うので、ログインが必要なWebサイトでも、他のタブでログインしていれば内容を取得できます。

4. Chatのペア保存機能

同時にチャットするAI Chatbotの組み合わせを保存し、Side barから簡単にアクセスできるようにしました。

5. アドレスバーからの直接起動

アドレスバーから、検索のように生成AIにクエリを投げられるようにしました。
https://youtu.be/XOD8MumYkiM?si=j4XGZLd7jpxGmC1L

6. その他

モバイルでの利用も想定して上下2分割レイアウトを追加したり、Side barを畳んだ時の幅を細くしたり、Markdownのレンダリングを変更したり、画像を複数添付可能にしたり……などなど、微調整を行っています。

公開先

作成したアプリケーションはGitHub, Chrome Web Storeで公開しています。
https://chromewebstore.google.com/detail/edjbcjkcabpmpcpnpfjfcehegjkacgod?utm_source=item-share-cb

https://github.com/bondICha/HuddleLLM---Chat-with-multiple-AI-API-together

Androidスマホでも使える[1]ように、Edge Add-onストアでも公開しています。しかし、MicrosoftのレビューがChrome Web Storeと比べ大変遅いことや、謎の理由で更新申請が差し戻しされることが多いなどの理由で、更新がかなり遅くなっています。

謝辞

ChatHubを開発し、OpenSourceとして公開してくださったWong2氏に感謝申し上げます。
また、各社のAIが使えるAPIキーを、なんと社員に支給してくださり、自由に使わせてくださるという大変に太っ腹な対応をしてくれた所属先会社にも甚大な感謝をしております。
なお、本プロジェクト・アプリケーションの公開に所属先会社は一切関係・関知をしておらず、これにより発生したあらゆる問題は私個人に帰属します。

脚注
  1. Android版Microsoft Edgeで任意の拡張機能が利用可能に!Canaryビルドで対応 https://roboin.io/article/2024/04/04/microsoft-edge-for-android-now-supports-any-extensions/ ↩︎

Discussion