Closed3
Cloudflare AI GateWayを使ってみる
RuruCunOpenAIAPIを使ってアプリを作りたい。
インフラをCloudflareに寄せているので、便利そうなAIGatewayを使ってみる。
分析やログ、キャッシュやレート制限がCloudflare上でできるので便利といった感じっぽい。
RuruCunチュートリアルを並走する。
AI Gatewayの作成
Cloudflareのダッシュボードへアクセス。
画面中心にゲートウェイを作成ボタンがあるので、クリック。
とりあえず「test」で作ってみる。
無事testが作成され、設定画面に飛ばされる。
RuruCunこれで準備は完了。
Cacheやレート制限を有効にしたい場合は設定画面で有効にする。
フロント側でOpenAIのAPIを叩く処理にcloudflareのbaseURLを追加する。
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: 'my api key', // defaults to process.env["OPENAI_API_KEY"]
baseURL: "https://gateway.ai.cloudflare.com/v1/ACCOUNT_TAG/GATEWAY/openai"
});
baseURLは設定画面の右上「test API Endpoints」から確認できる。
OpenAIを選択すると、APIのURLや例が表示される。
このスクラップは3ヶ月前にクローズされました