はじめまして、ますみです！
株式会社Galirage（ガリレージ）という「生成AIに特化して、システム開発・アドバイザリー支援・研修支援をしているIT企業」で、代表をしております^^
この度、弊社にて、貴重な失敗経験をしたため、このナレッジを共有させていただきます。
具体的には、生成AIエンジニアの方々に向けた、AOAI（Azure OpenAI Service）についての警告記事になります。
AOAIとは？
AOAI（Azure OpenAI Service）は、「Azure上でOpenAIのモデルを利用するためのサービス」です。
PTUとは？
PTU（Provisioning Throughput Unit、プロビジョニング スループット ユニット）とは、「事前に指定するモデル処理容量の単位」です。
今回のインシデント
結論から言うと、AOAIのモデルをデプロイしたところ、APIをまだ使用していないのに、数時間後に約5万円の課金が発生していることを確認しました。
社内で、予算アラートを設定していたため、その晩に課金されていることが発覚し、弊社のCTOが急いでリソースを消してくれたため、5万円の被害で収まりました。
もしも弊社のCTOが気づいてくれていなかったら、毎日数十万円の課金がずっと続くところで、かなりヒヤリハットでした。。。
インシデントの原因分析
多くの人は、「AOAIは従量課金だし、なんでそんなことが起きたの？」と疑問に思ったかと思います。
一般的なAOAIのモデルをデプロイする際に、「グローバル標準」がデフォルトで設定され、従量課金（使った分だけ課金）の設定になります。
しかし、この設定で**「Provisioned-Managed」を選択すると、PTU（Provisioning Throughput Unit）が設定され、従量課金ではなく、時間単位の課金になってしまいます。**
今回のケースでは、この「Provisioned-Managed」になっていたことが原因でした。
しかも、「Provisioned-Managed」における課金金額の設定値は、デフォルトで最大値が設定されています。
ここで、多くの人が「あえてProvisioned-Managedに設定することなんてないから、自分は大丈夫」と思ったかと思います。
しかし、一部のモデルでは、「グローバル標準」の設定ができず、デフォルトで「Provisioned-Managed」が指定されることがあります。
これに気づかずに、デプロイをすると、数時間で約5万円が課金される大変な状態になります。
何も知らない人が、AOAIのモデルをデプロイする際に、この設定を見落とす可能性は十分にあり得るため、本当に注意が必要です。
対処法
「Provisioned-Managed」についての社内周知
この「Provisioned-Managed」についての社内周知が最も効果的です。
この記事を急いで書いた背景に、同じようなインシデントが他社の現場でも起きないようにしたいと思ったためです。
この記事の内容は、自由に共有していただいて構わないいため、ぜひ社内やSNSにて共有していただけると幸いです。
予算アラートの設定
もう一つの対処法として、予算アラートの設定があります。
多くの企業では設定しているかと思いますが、一定の金額に到達したら、メール通知することができます。
具体的な設定方法は、下記にまとめました。
予算アラートの作成方法
まず、左側のサイドメニューの中の「コスト管理 > 予算」にアクセスします。
そして、「追加」をクリックします。
下記のように予算の設定をします。
最後に、通知先を設定して、完了です。
最後に
最後まで読んでくださり、ありがとうございました！
この記事を通して、少しでもあなたの学びに役立てば幸いです！
宣伝：もしもよかったらご覧ください^^
『AIとコミュニケーションする技術（インプレス出版）』という書籍を出版しました🎉
これからの未来において「変わらない知識」を見極めて、生成AIの業界において、読まれ続ける「バイブル」となる本をまとめ上げました。
かなり自信のある一冊なため、もしもよろしければ、ご一読いただけますと幸いです^^
参考文献
株式会社Galirageのテックブログです！ Galirageでは、生成AIのシステム開発・コンサルティング・研修を行なっております。 ▼ 問い合わせ先 ▼ info@galirage.com
Discussion