問題

Vercel AI SDKを使って、Cloudflare AI Gatewayを介してGoogle AI Studio APIにつなぐとエラーになる

解決

https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/google-ai-studio/v1beta

Base URLの末尾に/v1betaをつける。

起こっていること

ドキュメントどおりにするとhttps://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/google-ai-studioをベースURLに設定したくなる。
あくまでこれはバージョン指定抜きのベースであることに気をつける必要がある。

公式の@google/generative-aiを使う場合は、勝手にバージョン指定をつけてくれるのでこのままの設定でよいが、ai + @ai-sdk/googleの場合は明示的にバージョンを付け加える。

その際、Cloudflare側のドキュメントを読むと/v1にしたくなるが、現行の@ai-sdk/googleのコードが/v1beta想定になっており、/v1とはリクエストのフォーマットが違うことからsystemを設定するとリクエストエラーになってしまう。

以上から、現行のバージョンでは/v1betaを指定してあげる必要がある。