Open3
オレオレ最強のGPT実行環境の模索
ChatGPT ではない環境で、安定して、精度よくGPTモデルを使いたい。
今のところの最強みを感じるプラットフォーム。
Azure Open AI:GPT4V-turbo
- 早い!トークン数多い!精度もよい。こいつのAPI Keyを利用する。
UI(Chat Bot):https://github.com/mckaywrigley/chatbot-ui
- Modelを切り替えたり、どこからでもアクセス出来て、認証をちゃんと出来たり、Strageを持ってたり、見やすいUIに整えられてたり、入力時のパラメータをいじれるのでとても良い。
模索と書いているが現状解を載せたので、もし使い方など聞かれたら詳しく書くことにする。
ざっくり書くと、Azure Open AIを申請→Modelをデプロイ→API Keyを取得→Chat Botにログイン→Azure Open AIを選択してAPI Keyを挿す→幸せハッピー