OpenAI Agent Builderを使ってGuardrail実装してみた
今回は、現地時間10月6日にOpenAIが発表したAgent Builderという機能を早速使ってみました。Agent Builderを利用することで、GUIを利用してエージェントを作成することができるようになります。
Agent Builderとは？
Agent BuilderはOpenAI DevDay 2025にて発表された新しいプロダクトとなっています。Agent Builderを利用すると、ドラッグアンドドロップでロジックを構成し、ツールを接続やカスタムガードレールを構成するためのキャンバスを利用できます。また、プレビューの実行、インラインのeval設定、完全なバージョニングをサポートしており、迅速な反復に最適な製品となっています。すでにn8nやDify、langflowなどを利用したことがある方はそれに近いイメージを持っていただけるかなと思います。より詳しい解説や同時に発表されたChatkitなどの説明は以下の公式リリースに書かれていますのでぜひ参照ください。
早速使ってみる
今回はAgent Builderを利用してGuardrail機能を実装してみようと思います。Agent Builderのドキュメントは以下に展開されていますので、ぜひ合わせてご確認ください。
Agent Builderへアクセス
Agent Builderにアクセスするには、以下のリンクを開きます。最初はログインを求められると思います。設定が完了したら以下のようなトップ画面が表示されるかと思います。
単純なチャットを作成する
新しくワークフローを作成してみましょう。今回は1から作りたいので、+ Createを推して新しいキャンバスを作成します。新しいキャンバスを作成すると最初から以下のようにStartとMy Agentが登録されています。
チャットだけであればこの要素だけで足りています。そこで、My Agentの出力先にEndを追加してワークフローが終了することを明示します。
それでは実際にチャットを試してみましょう。右上のPreviewを選択するとチャットのプレビューが利用できます。試しにエージェントに挨拶してみました。
挨拶をしたらリーズにんぐが実施され、ちゃんと返事が来ることを確認しました。
Guardrailの実装
それでは今回の目的であるGuardrailを実装します。Guardrailとはエージェントなどが思わぬ動作をしないように、その入力に対してチェックをかける機能です。
Agent BuilderではGuardrailsというコンポーネントがあるので、それを利用してまずは以下のようにワークフローを設定します。Guardrailコンポーネントを選択すると右上のような設定画面が表示され、どれか一つでも検知項目をONにするとコンポーネントにPassとFailの二つが表示されます。Passは問題ない入力であることを示し、FailはGuardrailによって検知された項目があることを意味します。今回はPassの場合はそのままエージェントに流し、Failになった場合は処理を終了させる設定にしています。
なお、Guardrailの検知項目は色々あり、例えば今回はクレジットカード番号を入力しますが、歯車マークを押すことでどのような項目を検知するか決めることができます。例えばPersonally identifiable informationの場合、以下のようなものが用意されています（スクロールするともっと出てきます）。
それではこの仕組みを利用してチャットをしてみましょう。今回はURLを検知項目として利用してみます。URLないの情報をPythonで取得する方法教えてと言ったところ、URLが一つ検知されたのでFailに処理が流れたことが確認できました。
このように検知したい項目にチェックを入れるだけでGuardrailが導入できるのでとても便利です。他にもハルシネーション対策やjailbreak対策もあるので、今後使ってみたいところです。
まとめ
今回はOpenAIが最近リリースしたAgent Builderを利用してGuardrailを作成してみました。機能はn8nやDifyと比較するとシンプルではありますが、シンプルゆえにとても使いやすくなっているので、ノーコードでワークフローを作成してみたい方はぜひ試してみてください。
Discussion