Bing Chat Enterprise について本当に知りたかったこと
この記事について
この記事では、Bing Chat Enterprise について、エンタープライズ企業のユーザーとして 真に知っておくべきこと と考え、調査したことについて記載しています。
なんでこの記事を書こうと思ったのか
正直にいうと、Bing Chat Enterprise に関する世の中の解説記事は大半がゴミレベルの内容ばかりだと感じたためです。Google などで Bing Chat Enterprise と検索しても、有効化方法、ユーザープロンプトは Bing AI の学習に利用されない といったような、プレスリリースの時に公開された内容をそのまま記載している記事ばかりで、正直、SEO ばかり気にして中身のない企業ブログや個人の Note 記事ばかりが出てくる状況...正直、公式 Docs だけ見とけ というレベルのものしか出てこない状況でした。
(正直、+1 以上の情報もない、アフィカスレベルの内容丸々転記しただけの記事は消滅して問題なし)
そのため、1 エンタープライズ企業の情シス社員として、社内で Bing Chat Enterprise を導入するために必要となる (であろう) 情報について、調査を行った内容を記事化し、Bing Chat Enterprise に関して真に必要とされる情報を知りたい方の助けになりたいという想いでこの記事を書いています。
Bing Chat Enterprise について本当に知りたかったこと
この記事では、Bing Chat Enterprise に関する以下のことについて記載しています。
- Bing Chat Enterprise をユーザー個別に ON/OFF させることは可能なのか
- Bing Chat Enterprise の利用規約はどこを見れば確認できるのか
- ユーザープロンプトの通信経路/保存先について
- Bing Chat Enterprise におけるユーザープロンプトの監視について
- Bing Chat Enterprise 関連のログ出力について
Bing Chat Enterprise をユーザー個別に ON/OFF させることは可能なのか
Bing Chat Enterprise 自体の機能 ON/OFF については、他記事などでも多く記載されている通り、テナント全体で機能をオプトイン/オプトアウトすることができます。(知らない方は公式 Docs でも見てください)
ただし、真に知りたいのは テナントで有効にした後、ユーザー/デバイス単位で Bing Chat Enterprise 機能を有効/無効にしたりできるのか という部分です。
結論から言うと、SR でも確認しましたが、Bing Chat Enterprise をユーザー/デバイス単位でブロックする機能については、現時点 (2023/08) では提供に至っていないとのことでした。
お書き添えいただいた内容をもとに弊社公開情報および過去事例にて調査を行った結果、現時点では本機能はテナント単位の設定となり、特定のユーザーのみ利用可能とする機能の実装にいたっていないことを確認いたしました。
この度はご要望に沿うご案内とならず大変心苦しい限りではございますが、ご理解賜りますようお願い申し上げます。
そのため、Bing Chat Enterprise を有効化する際は、特に何も設定しなければ Microsoft Entra ID テナント下に存在する全ユーザー (ライセンスプランの要件を満たす全ユーザー) に対して展開される、という点を理解しておく必要があります。
(2023/09/16 追記)
Microsoft により、Bing Chat Enterprise を一部のユーザーに絞ってロールアウトするオプションが新たに公開されました。
<!--
Bing Chat Enterprise を有効化し、Bing Chat は無効化させる
※ 確認中
企業の中で Bing Chat Enterprise を開放するにあたり、Bing Chat は無効化させたい という話はあると思います。
Bing Chat Enterprise は、ユーザープロンプトの内容が AI (GPT-4) の学習に使用されず、組織外部にデータが流出しないことが保証されますが、通常の Bing Chat はそうでないため、誤って Bing Chat が利用されることを管理者視点で防止したいというのは普通の話だと思います。
これについては、公式ページ (Bing Chat Enterprise FAQ) に記載があるので、参考にしてください。
Customers who do not want to offer Bing Chat Enterprise to their users can opt out prior to late August or any time after. More information on how to do this can be found here: https://learn.microsoft.com/bing-chat-enterprise/
-->
Bing Chat Enterprise の利用規約はどこを見れば確認できるのか
企業内で Bing Chat Enterprise を展開するにあたっては、サービスに関する契約や利用規約などの確認も必要になると思います。
契約内容に関しては、Microsoft 365 のサブスクリプションに内包される Bing Chat Enterprise を利用する場合は、Microsoft 365 側の契約に内包されると思われるため、そちらを確認するといいと思います。(ESA 契約とか)
利用規約については、(公式 Docs のメニューからは探しにくいですが) Bing Chat Enterprise の補足条項というものがあるため、こちらを参照するのが良いです。
ユーザープロンプトの保存先について
Bing Chat Enterprise を企業の中で展開するにあたって重要なのは、各国の法令対応なども考慮し、ユーザープロンプトの入力内容がどういう経路で completion 処理のために embedding model に渡り、どういう形でデータ保存される (または保存されないのか) という部分を把握することです。
こちらの点について Microsoft に確認したところ、以下の回答が返ってきています。
completion 処理とはユーザーが入力したチャットの履歴を以降に入力したチャットにもクエリとして送信し、米国データセンター側にて受け取ったクエリ コンテキストを保管して AI が処理するという一連の動作であると認識しております。
上記を踏まえ、ユーザーが入力したプロンプトや completion 処理のための履歴は Bing Chat Enterprise を処理している内部セッション(チャットセッション) に一時的に保持されているという動作となることを確認いたしました。なお、Bing Chat Enterprise のタブを開き直すことで入力していたチャット履歴が消え、Bing 検索履歴としても出力されない動作となることから、チャットセッションという一時的な保持という認識でございます。
ということで、ユーザープロンプトを含むプロンプト内容は、チャットセッション(おそらくメモリ上)にだけ保存され、ブラウザのタブを開き直したり終了したりすることで、それまでのチャット履歴 (チャットセッション) はロストされ、復元不可になるということのようです。これはいいですね。
あとは、Bing Chat Enterprise において、completion の処理の過程でユーザープロンプトがどのように embedding model に渡るのかという点ですが、これは公式 Docs に記載があります。
In order to provide a chat response, the de-identified prompt associated with the conversation will be sent to Bing Chat, which leverages global data centers for processing and may process data in the United States. Optional, Bing-backed connected experiences do not fall under the Microsoft EU Data Boundary (EUDB) commitment. Learn more: Continuing Data Transfers that apply to all EU Data Boundary services.
先述の内容と合わせると、ユーザープロンプトは、チャットセッションのみに保存されて、そこから直接、米国などの DC にチャットセッション内で送信され、GPT-4 から返されるプロンプトも含め、データセンターには保存されず、Microsoft 側も内容は確認不可、ということですね。(まあ、Microsoft 側が確認できないし DC にデータが残らないのは当たり前)
よって、企業として気にするポイントとしては、データの保存はなされないとは言え、一時的に国外にプロンプトの内容が流出する という点です。日本を含めた各国の法令対応などを検討する際に、この観点は重要になるかと思います。
(2023/09/16 追記)
グローバルデータセンターというワードが具体的にどこの国を指すのかについては、Microsoft 社に確認したところ、米国に存在するとのことでした。
ただし、米国内の細かい地理については、非公開とのことです。
Bing Chat Enterprise におけるユーザープロンプトの監視について
Bing Chat Enterprise のデータはチャットセッション上にしか保存されないということですが、組織内の管理者は入力した内容を確認したり監視したりすることはできるのか、という点は気になるかと思います。また、Azure OpenAI Service のコンテンツフィルターのように、一部のカテゴリに関するプロンプトについては制御を行いたいなど、企業固有の思いもあると思います。
Microsoft に確認したところ、現時点 (2023/08) 時点では、ユーザープロンプトの監視やコンテンツフィルターに相当する機能の提供には至っていない、とのことでした。
Bing Chat Enterprise に記載した内容は保持されないため、ユーザーが入力したプロンプトを調べる方法は無い認識でございます。
ご要望の動作とならず恐縮でございますが、現時点での機能上の制限として、何卒ご理解いただきたく存じます。
ただ、企業としては、特に Azure OpenAI Service のコンテンツフィルターに相当するような機能や、コンプライアンス観点での有事におけるプロンプト確認については、機能として必要だと考え、Feedback portal に機能要望として投稿をしてもらいました。
もしよければ、今これを読んでいる方も、ぜひ機能提供希望の Vote をお願いします。
Bing Chat Enterprise 関連のログ出力について
先述の通り、ユーザープロンプトについては管理者として確認ができないとありましたが、Bing Chat Enterprise へのサインインログなどのような、他の各種ログはどうなんだ、という話です。
こちらですが、Microsoft に確認したところ、現時点 (2023/08) では、Bing Chat Enterprise へのサインインログの提供もない、とのことでした。監査ログの提供もなさそうとのことです。
ただし、サインインログ観点においては、Bing Chat Enterprise を利用するには、Bing へのログインが必須 (前提条件) であり、Bing のサインインログは出力されるため、一部代替は可能ではないか、とのことです。
検証の結果、サインイン ログに、Bing Chat Enterprise のサインイン ログは記録されない動作であることを確認いたしました。
Bing Chat Enterprise は、Bing にサインインしていればアクセス可能な動作となります。
Bing Chat Enterprise で別途サインインの動作はないため、Bing Chat Enterprise のサインイン ログは記録されない動作であると判断いたします。
正直なところ、Bing へのログイン ≠ Bing Chat Enterprise の利用 ではありますが、サインインログが 0 というよりはマシと思われるため、現状は Bing へのサインインログを流用することになりそうです。
本件についても、Feedback portal に機能要望として投稿をしてもらいましたので、もしよければ Vote をお願いします。
Discussion
私もVoteしました。 活用率を知りたいので、Webサイトのアクセスログでもよいのでわかると嬉しいのですが。。。