この記事について
顧客データ活用を支援しているインキュデータでは、企業が保有するデータと生成AIの利用支援を行っています。
Microsoft社の公式ドキュメントの情報を元に記載していますが、独自の解釈が含まれます。
2024年6月時点との変更点まとめ
東日本リージョンの標準デプロイが利用できるモデルの終了・アップグレード日が変わりました。
- GPT-4(vision-preview)は2024年11月15日以降に更新されるとされました。
- GPT-3.5-turbo（0613）の終了日が2024年8月1日から2024年10月1日になりました。
- GPT-3.5-turbo-16k（0613）の終了日が2024年8月1日から2024年10月1日になりました。
2024年6月時点の情報はこちらのページをご確認ください。
2024年6月から2024年8月の間に起きたこと
世間で起きたこと
東日本リージョンを含むモデルの終了日が変わりました。
日経クロステックさんから記事が出て、各社苦労していることが紹介されました。
インキュデータ社内の対応
6月時点で問題が発覚した後、GPT3.5は利用できる範囲と期間での運用として、グローバル標準デプロイでGPT-4oを基本的に利用する方針としました。
プロビジョニング済みデプロイは予算が合わず、利用を断念しました。
今後はどうするか
現在東日本リージョンを利用している方は大きく次の3つの案が検討できると考えます。
- 他のデプロイ方式などで、Azureを利用し続ける
- プロビジョニング済みデプロイを利用できるサービスを利用する
- AWSなどに移行する
Azureを利用し続ける
Azureを利用し続ける場合は、3つのデプロイ方式を選択できます。
デプロイの種類
3つのデプロイがあります。
- グローバル標準（動的リージョン）
- 標準（リージョン指定）
- プロビジョニング済み（リージョン指定）
グローバル標準（動的リージョン）
GPT-4oやminiなど最新のモデルが利用できます。
リージョンは動的にルーティングされますので、処理されるデータセンターの位置は特定できません。
- GPT-4o - GlobalStandard
- GPT-4o-mini - GlobalStandard
標準（リージョン指定）
2024年10月まではGPT-3.5を利用でき、11月を目処にプレビュー版のGPT-4を利用できます。
GPT-4モデルの正式アップデートを待つかたちとなります。
東日本リージョンで提供されているモデル
- GPT-4(vision-preview)
- 2024年11月15日以降はturbo-2024-04-09へアップグレード
- GPT-3.5-turbo(0613)
- 2024年10月1日で終了
- GPT-3.5-turbo-16k(0613)
- 2024年10月1日で終了
プロビジョニング済み（リージョン指定）
利用量を指定して前払いする仕組みです。
プロビジョニング済みデプロイを利用するためには、Microsoft社の営業/アカウントチームとの接点が必要です。接点がない場合は、購入自体ができません。[2]
東日本リージョンで提供されているモデル
- GPT-4o（2024-05-13）
プロビジョニング済みデプロイを利用できるサービスを利用する
プロビジョニング済みデプロイを利用できるサービスを提供している企業があります。
リージョン指定かつGPT-4oを利用したい場合はこの案も検討できます。
AWSなどに移行する
Amazon BedrockでClaudeなどのモデルがアジアパシフィック（東京）リージョンで利用が可能です。
また、Llamaなどのモデルを自社環境下で運用することも考えられます。
移行コストを含め検討が必要です。
課題
東日本リージョンでの提供を待つ場合の課題
新たな発表を待つことになり、将来的な計画が立てられません。
グローバルリージョンの課題
個人情報を入力する可能性がある場合は、個人情報保護法の対応が必要となります。
グローバルリージョンは越境移転という問題を考慮する必要があります。
個人情報の利用の本人同意を得るためにプライバシーポリシーの更新やAzureとDPAの契約を別途進める必要があります。
他社移行の課題
すでにAzureのAI SearchなどAzureが提供するサービスを利用して構成している場合は、それらのサービスも移行するかの検討が必要です。
APIとして部分的に利用することも検討できますが、制約事項としてクローズドなネットワークを要求されている場合は移行することも検討する必要があります。
ローカルLLMへの移行の課題
Azureの1サービスとして利用できていたLLMを自社で運用することになるので、追加の運用工数を考慮する必要があります。
まとめ
モデルは利用期限があり、アップグレードされるものとして設計する必要があることを痛感しました。
東日本リージョンで利用できるモデルが拡充されることを期待します。
Discussion