【警告】AOAIのモデルをデプロイしただけで約5万円も課金された話
はじめまして、ますみです！
株式会社Galirage（ガリレージ）という「生成AIに特化して、システム開発・アドバイザリー支援・研修支援をしているIT企業」で、代表をしております^^
この度、弊社にて、貴重な失敗経験をしたため、このナレッジを共有させていただきます。
具体的には、生成AIエンジニアの方々に向けた、AOAI（Azure OpenAI Service）についての警告記事になります。
AOAIとは？
AOAI（Azure OpenAI Service）は、「Azure上でOpenAIのモデルを利用するためのサービス」です。
PTUとは？
PTU（Provisioning Throughput Unit、プロビジョニング スループット ユニット）とは、「事前に指定するモデル処理容量の単位」です。
今回のインシデント
結論から言うと、AOAIのモデルをデプロイしたところ、APIをまだ使用していないのに、数時間後に約5万円の課金が発生していることを確認しました。
社内で、予算アラートを設定していたため、その晩に課金されていることが発覚し、弊社のCTOが急いでリソースを消してくれたため、5万円の被害で収まりました。
もしも弊社のCTOが気づいてくれていなかったら、毎日数十万円の課金がずっと続くところで、かなりヒヤリハットでした。。。
インシデントの原因分析
多くの人は、「AOAIは従量課金だし、なんでそんなことが起きたの？」と疑問に思ったかと思います。
一般的なAOAIのモデルをデプロイする際に、「グローバル標準」がデフォルトで設定され、従量課金（使った分だけ課金）の設定になります。
しかし、この設定で**「Provisioned-Managed」を選択すると、PTU（Provisioning Throughput Unit）が設定され、従量課金ではなく、時間単位の課金になってしまいます。**
今回のケースでは、この「Provisioned-Managed」になっていたことが原因でした。
しかも、「Provisioned-Managed」における課金金額の設定値は、デフォルトで最大値が設定されています。
ここで、多くの人が「あえてProvisioned-Managedに設定することなんてないから、自分は大丈夫」と思ったかと思います。
しかし、一部のモデルでは、「グローバル標準」の設定ができず、デフォルトで「Provisioned-Managed」が指定されることがあります。
これに気づかずに、デプロイをすると、数時間で約5万円が課金される大変な状態になります。
何も知らない人が、AOAIのモデルをデプロイする際に、この設定を見落とす可能性は十分にあり得るため、本当に注意が必要です。
対処法
「Provisioned-Managed」についての社内周知
この「Provisioned-Managed」についての社内周知が最も効果的です。
この記事を急いで書いた背景に、同じようなインシデントが他社の現場でも起きないようにしたいと思ったためです。
この記事の内容は、自由に共有していただいて構わないいため、ぜひ社内やSNSにて共有していただけると幸いです。
予算アラートの設定
もう一つの対処法として、予算アラートの設定があります。
多くの企業では設定しているかと思いますが、一定の金額に到達したら、メール通知することができます。
具体的な設定方法は、下記にまとめました。
予算アラートの作成方法
まず、左側のサイドメニューの中の「コスト管理 > 予算」にアクセスします。
そして、「追加」をクリックします。
下記のように予算の設定をします。
最後に、通知先を設定して、完了です。
最後に
最後まで読んでくださり、ありがとうございました！
この記事を通して、少しでもあなたの学びに役立てば幸いです！
おまけ①：生成AIアカデミー
より専門的な「生成AIエンジニア人材」を目指しませんか？
そんな方々に向けて、「生成AIアカデミー（旧：生成AIエンジニア塾）」というプログラムを始めました🎉
最終的なゴールとして、『エンタープライズ向けの生成AIシステムを構築するためのスキルを習得し、大手案件で活躍できる人材』を目標とします。
また、一人一人にしっかりと向き合って、メンタリングをできるようにするため、現在メンバーの人数制限をしております。本気度やスキルレベルの高い人から、順番にご案内しております。
▼ 登録はこちらから ▼
おまけ②：AI Newsletter for Biz
最新のAIニュースの情報を収集しませんか？
AI Newsltter for Bizは、ビジネスパーソン向けに「AIニュース」を定期配信する完全無料のニュースレターです📩
一人でも多くの方にとって、「AI人材としてのスキルアップ」につながれば幸いです^^
また、現在、登録者限定で「明日から使える 無料AIサービス3選」のPDFを配布中です 🎁
※ ご登録完了のメールに、PDFリンクを添付いたします。
期間限定のプレゼントとなりますので、ぜひ、お早めにご登録ください！
▼ 登録はこちらから ▼
参考文献
Discussion