[Google Cloud] 投稿した英語を評価してくれるチャットシステムをVertex AI Studioで作って公開する

Vertex AI Studioについて

Vertex AI Studio は、Google Cloudのコンソール上で、いろいろなパラメータ設定やプロンプトを試すことができ、さらにそこから実際にアプリを公開することができるサービスです。
実際に触ってみましたが、とても簡単にアプリの公開ができたので、備忘録的に書いてみます。

アプリ作成・公開

それでは実際に作成していきます。まずは、Vertex AI Studioを開きます。

Vertex AI Studioの画面は下記の通り。主に使われるところを①〜④の番号を振っています。

① プレイグラウンドの種類を選ぶことができます。チャット以外にも、画像やビデオなど様々なものが選択できます。

② プロンプトの入力をするエリアです。チャットではコマンド(/clearによるチャット履歴クリアのコマンドなど)を実行したり、画像や動画のアップロードも可能です。

③ モデル選択やモデルに対して渡すパラメタを設定するエリアです。Temperatureなどのパラメタもここで設定できます。

④ システムプロンプトを記述するエリアです。

画面の説明はこのくらいにして、まずはチャットを新規作成して、システムプロンプトを下記の通り入力してみます。

あなたは、学習者のモチベーションを最大限に高めるプロフェッショナルな英語学習コーチです。あなたの役割は、学習者の投稿を多角的に評価し、その結果を基に、必ず前向きで建設的なトーンのフィードバックと総評を生成することです。
以下の情報に基づき、学習者の英語投稿を分析し、結果を出力してください。
評価基準: 以下の2点について厳密に評価してください。
文法・語彙の正確性: 文章構造、時制、前置詞、語彙の選択が正しいか。
属性・状況の適切性: 学習者の属性（性別、職業など）と、投稿された状況（フォーマルなメール、カジュアルな会話など）に対して、表現が適切で自然であるか。
トーンの制約: 全てのフィードバック、特に総評は、必ずポジティブな表現を用いてください。改善点がある場合でも建設的に提示してください。ネガティブな言葉（例: 間違い、誤り、不適切、悪い）は一切使用しないでください。また、評価文章は短く、シンプルにしてください。過剰な修飾子や絵文字は不要です。
過去の会話履歴を完全に無視し、現在の質問のみに基づいて応答してください。

ここで、実際にチャットをしてみるとこんな感じの回答が返ってきます。良さそうですね。

なお、ここでこっそりとGoogle Cloudが名前をアップデートしてくれています。勝手にシステムプロンプトやチャットを見て名前をつけてくれているようです。ここでも生成AIが使われていそうですね。

これをデプロイして実際に公開してみるには、下記システムプロンプトの上のエリアの赤枠で囲った「Code」をクリックすると、Deployというボタンがありますので、これをクリックすると実際にデプロイされて公開されます。

それではDeployを実施します。

このようなダイアログが出るので、内容を確認した上でチェックボックスにチェックを入れてCreate Appを押下します。これでもう自分の作成したチャットアプリが公開されます。

実際にデプロイされたWebページにアクセスします。アクセスするには下記のOpenボタンを押します。

デプロイされました！生成AIのWebアプリがこんなに簡単にデプロイできるようになるのはすごいですね。

裏では何が起こっているのか？

さて、ここまででアプリのデプロイができることはわかりました。実際に何がデプロイされたのかみてみましょう。

先ほどの「Deploy」ボタンの下にはコードが表示されています。これは、実はプロンプトを変えたりすると自動的にこちらのコードが変更されています。

そして、ここからデプロイを実行すると、zipファイルが作成され、Cloud Storageにアップロードされ、Cloud Runにアプリケーションがデプロイされます。これは、gcloud CLI または Google Cloud コンソールを使用してCloud Runにデプロイする場合と同じ挙動です。

zipを解凍してみると、中には、Dockerfileや、app.pyなどが含まれています。app.pyは先ほど、Vertex AIの画面で見たものと同一になっています。

これらをみる限りでは、Vertex AI Studio上では、画面の変更とコードの変更がマッピングされており、それによって迅速に最低限のアプリケーションを開発できるようになっているようです。これで検証ができればそのコードを元に自分たちが、さらに細かい作り込みをすれば良いわけで、アプリ開発がとても捗りそうないいサービスだと思います。

まとめ

Vertex AI Studioを使って、簡単にアプリが公開できることを確認しました。また、その裏の挙動について少し確認し、自分が実際の現場で使うイメージができました。
特に、PoCを求めているお客様に、会話をしながらこういうものが欲しいのですか？とかを実際にやるにはとても使えるサービスだなと実感しました。