Open5

Amazon Bedrock のコスト計算

nukopynukopy

料金がかかるのは：

  • モデルの推論
  • カスタマイズ

推論については 2 つの料金プランがある。自分は 1 のオンデマンド。

Amazon Bedrock では、モデルの推論とカスタマイズに料金がかかります。推論については、2 つの料金プランからお選びいただけます:
1.オンデマンド: このモードでは、時間ベースの期間に関する確約をすることなく、従量制料金で FM を使用できます。
2.プロビジョンドスループット: このモードでは、時間ベースの期間に関する確約をする代わりに、アプリケーションのパフォーマンス要件を満たす十分なスループットをプロビジョニングできます。

nukopynukopy

オンデマンドモードでは「入力トークンの処理」、「出力トークンの生成」に課金される。これらはなんなのか？

オンデマンドモードでは、使用した分のみのお支払いとなり、時間ベースの契約はありません。テキスト生成モデルでは、入力トークンの処理および出力トークンの生成ごとに課金されます。埋め込みモデルでは、入力トークンの処理ごとに課金されます。トークンは数文字で構成されており、ユーザー入力と、結果を生成するためのプロンプトを理解するためにモデルが学習する基本単位です。画像生成モデルでは、生成されたすべての画像について課金されます。

トークンとは

トークンは数文字で構成されており、ユーザ入力と、結果を生成するためのプロンプトを理解するためにモデルが学習する基本単位。

簡単に言うと、

  • 入力トークン：ユーザがモデルに送信するテキスト
  • 出力トークン：モデルが生成するレスポンス

これらのトークン数に基づいて課金される仕組みになっている。