Azure ChatGPTを試す（ローカルDocker）
kun4322023/08/15時点、どうやらレポジトリが削除されている模様。理由は不明だけど、自分のforkしたレポジトリを見てみるとfork元が知らないところになってて、かなり歴史が巻き戻ってるように見える。よくわからない・・・
forkしたレポジトリはここ。一応IMEの修正は入れてある。
ということで以下はもはや古い記事になっているという点に注意。
Azure公式からChatGPTのクローン実装が出た。
ざっと見た感じAzureのリソースを複数使って構築するように見える。One click deploymentはあるものの、Azureさっぱりわからない身としては運用できる気がせず、個人的にちょっと躊躇。
ドキュメントをよく見るとローカルインストールの方法も記載されていて、
- CosmosDBだけはAzureに作成する必要がある
- Node.js環境が必要そうだけど、Dockerfileが用意されている
ということで、これぐらいなら簡単に試せそうということでやってみる。
と思ったけど、既にまとめられていた。
Dockerの場合についても書かれてるので、ほぼこれに従えばOK。ちょっとだけハマったのはこれ。
~~.env.exampleがtypo含んだままコミットされてる。PR出てるので多分すぐに治るはず。~~修正されていた。
こんな感じの画面。
OpenAI本家や他のChatGPTクローンと比べるとめちゃめちゃシンプル、というかまだ機能的には足りない感じ。
- 認証はAzure ADかGitHub OAuthが使えるのでこれは良さそう。
- 会話履歴とストリーミングはサポートされてる。
- 設定を見る限り、モデルの変更はできなさそう。
-
IME変換→確定時のENTERでsubmitされてしまう。もうIME圏の宿命。PR出してマージされました - リクエストがエラーになっても何も表示されないし、過去の会話を修正してregenerateとかもない。
- 他のChatGPTクローンにあるような細かい機能は現時点では存在しない。
今後に期待かなー。
kun432個人的には
- 今の機能だと社内向けで使うというにはちょっと足りない印象。今後継続的に開発が進むなら期待できるのかも。
- でもそれならBing Enterpriseでいいんじゃないかなという気もする。Azureの運用コスト（人・カネ）を考えるとBingにお金払って解決するほうが楽じゃないかなあという個人的な思い。
- あとこれがんがん手を入れたとしたらBing Enterpriseと競合しない？さすがにそこまでは行かないと思うけど。
- オープン実装なら、少なくともLibreChatのほうが現時点での完成度は高くておすすめ。
という感じ。
kun432IME変換→確定時のENTERでsubmitされてしまう。もうIME圏の宿命。
ChatGPTくんに聞きながらPR出した。1行のFIXで済むとは。
マージされた🎉
masatatsu8Azure初体験ながら、ようやく Azure App Service 上にデプロイできました。
しっかし、アプリ自体はめちゃくちゃシンプルですね。
マルチアカウント環境で使うと、チャット履歴が共有されます。
issue では、今後そのあたりを改善していくとありましたが、先は長そうですね。
社内向けChatGPT環境を構築しようと思っているのですが、どれをベースにするか
まだ迷ってます。
kun432まだ出たばかりですしこれからに期待ですが、基本的にオープンソースなので他の選択肢も共通ですが、自社で保守できるリソースがあるかどうかに尽きるではないかと思います。
その観点でいうと、Bing Chat Enterprise は広く受け入れられやすいとは思いますね。ChatGPTとインタフェースは違いますが、保守考えなくていいのでエンジニアリソースが少ない企業でも活用しやすいでしょうし、管理機能もあるようなのである程度統制も効かせれそうに見えます（まだ使ったことはない）