Cloudflare AI GateWayを使ってみる

RuruCun

OpenAIAPIを使ってアプリを作りたい。

インフラをCloudflareに寄せているので、便利そうなAIGatewayを使ってみる。

分析やログ、キャッシュやレート制限がCloudflare上でできるので便利といった感じっぽい。

RuruCun

チュートリアルを並走する。

AI Gatewayの作成

Cloudflareのダッシュボードへアクセス。

画面中心にゲートウェイを作成ボタンがあるので、クリック。

とりあえず「test」で作ってみる。

無事testが作成され、設定画面に飛ばされる。

RuruCun

これで準備は完了。

Cacheやレート制限を有効にしたい場合は設定画面で有効にする。

フロント側でOpenAIのAPIを叩く処理にcloudflareのbaseURLを追加する。

import OpenAI from 'openai';

const openai = new OpenAI({
	apiKey: 'my api key', // defaults to process.env["OPENAI_API_KEY"]
	baseURL: "https://gateway.ai.cloudflare.com/v1/ACCOUNT_TAG/GATEWAY/openai"
});

baseURLは設定画面の右上「test API Endpoints」から確認できる。

OpenAIを選択すると、APIのURLや例が表示される。

このスクラップは2024/01/30にクローズされました