Open1
OpenAI APIについて
kamimiOpenAI API
料金体系
- 使用するモデルによって異なる
Tips
- Hard LimitとSoft Limitを設定しておくべき
Hard limit
When your organization reaches this usage threshold each month, subsequent requests will be rejected.
Soft limit
When your organization reaches this usage threshold each month, a notification email will be sent.
Text CompletionのAPI
- model（💰）：使用するモデル。これによって料金が変わる
- prompt：テキスト補完を使用するためのプロンプト
- max_tokens：テキスト補完を行う最大トークン
- temperature：数が大きければランダムになる
- top_p：temperatureの代替。temperatureかtop_pのどちらかを設定する。両方は非推奨。
- n（💰）：各プロンプトに対して生成する補完候補の数。このパラメータは多くの補完を生成するため、トークン割り当てをすぐに消費してしまう可能性があります。max_tokensとstopを適切に設定し、慎重に使用してください。
- stream：レスポンス取得の進捗をストリームバックする。
- logprobs：？（まだ理解できていない）
- echo（💰）：リクエストのプロンプトをレスポンスにも含める→これ含めるとトークン数を消費するので不要なら入れないほうがよさそう
- stop（💰）：？（まだ理解できていない）
- presence_penalty：正の値は、新しいトークンがこれまでのテキストに現れるかどうかに基づいてペナルティを課し、新しいトピックについて話すモデルの可能性を高める。
- frequency_penalty：正の値は、これまでのテキストにおける既存の頻度に基づいて新しいトークンにペナルティを与え、モデルが同じ行をそのまま繰り返す可能性を減少させる。
- best_of：？（まだ理解できていない）
- logit_bias：指定したトークンが補完に現れる可能性を変更する（例えば料理レシピの提案をしてもらうとする。卵アレルギーなのでその単語を含んだレシピを抜きたかったりする場合に使える）
- user：エンドユーザーを表す一意の識別子で、OpenAIの監視や不正利用の検知に役立つ
知っておくべき単語
- トークン
- 料金にも関わる
- 単語数
- 日本語は英語よりもトークン数が多くなる傾向にある
- playgroundsでトークン数を知ることができる
- リクエスト前にトークン数を取得する方法は今のところ存在しない