🏦
OpenAIのプロジェクトを分割してうっかりTPMやRPMの圧迫を防ごう
(多分)最近OpenAIにプロジェクトを分けられる機能が追加されました。
これのいいところは、下図のようにプロジェクト and モデル毎にTPMとRPMに上限値を設けられることです。
ちなみにですがデフォルトプロジェクトでは上限値を設定できません。なので本番のキーだけデフォルトプロジェクトで使って、それ以外は新規に作ったプロジェクトで作るのが良いのではないかと。
(モデル一個一個ポチポチして設定するのめんどい、一括で全量の2%とか設定させてくれ。)
これにより「うわっ、うっかりローカルの検証でリクエスト送りまくってTPM/RPM圧迫して本番でエラー出るようになっちゃったぜ〜！！」という事態を防ぐことができます。
まあ現状でも10000RPM使えたのでそんなに起きんやろという気持ちもしましたが、リスクを0にできるのであればそうしておくに越したことはありません。
正直紹介したかったのは上記の情報だけなのでこの記事はもう終わりでいいのですが、一応追加の周辺情報もいくつか。
一度作ったプロジェクトは削除できない
お気をつけください。
モデルも制限できる
使えるモデルを絞ることもできます。
User API key から Project API key に変更
今までユーザに紐づいていたAPIキーがプロジェクトに紐づくAPIキーへと変わります。
これまでのAPIキーはどのプロジェクトにも紐づいていない(?)ため、そのままだとRPM/TPMの上限設定が活きません。なのでおそらく全部一旦 revoke するのが良さそうです。
以上、冒頭にも貼りましたが他にも今回のプロジェクトの変更はこちらにまとまっているのでご参照ください。
それでは！
Discussion