VertexAIでClaude3 Opusを使用時のRegion設定問題（2024年5月）

背景

最近、Google CloudのVertexAIを使用して、AIモデルのClaude3 Opusを使用した際、予期せぬエラーに直面しました。以下、遭遇した問題とその解決策を共有します。

問題の詳細

Claude3 Opusを使用しようとすると、次のような500エラーが発生しました。

500 Internal Server Error
Message: [{
  "error": {
    "code": 500,
    "message": "Internal error encountered.",
    "status": "INTERNAL"
  }
}]

一方、同じ設定でHaiku、Sonnetモデルを使用した場合は、問題なくレスポンスが返ってきました。この状況から、問題の原因を特定するためにさまざまな設定を見直しました。

解決策

問題の原因は、Request時に指定するRegion設定にありました。us-central1リージョンを指定していたのですが、マニュアルに記載されていたまま（といっても特定Region指定の記述は無し）のus-east5に変更したところ、問題が解消されました。

この問題は、Claude3 Opusがまだプレビュー段階であるため発生した可能性があります。しかしながら、Region設定が不適切であれば、より具体的な400系のエラー（クライアントエラー）を返してほしいと感じました。