👀

【CODE BLUE 2025 レポート】AIエージェントSaaSを安全に提供するための自社サンドボックス基盤

に公開

はじめに

先日、セキュリティイベント「CODE BLUE」に参加しました。
本記事では、聴講したセッション「AIエージェントSaaSを安全に提供するための自社サンドボックス基盤」について、投影スライドと当日の内容を基に、私自身の言葉でまとめています。

イベント概要

  • イベント名:CODE BLUE Tokyo 2025
  • 開催日:2025年11月18日, 19日
  • 開催場所:ベルサール高田馬場

https://codeblue.jp/

Speaker

GMO Flatt Security株式会社 - pizzacat83(ぴざきゃっと) 氏
https://flatt.tech/

レポート

背景

AIエージェントは自律性が重要です。
AIエージェントは凄まじいスピードで膨大な量の作業を行うことができる反面、人間が介在することなく悪意ある操作が行われてしまうというリスクが存在します。
対策の一つとして、AIエージェントが操作前に、これから行う操作を人間に確認して承認を得るというものがあります。
この方法は、一定のセキュリティが担保されますが、人間がボトルネックになるといえます。

  • 確認が手間になり、おろそかになる
  • AIエージェントの自律性を最大化できない (スピードが出ない)

つまり、人間の承認を必要とせずに、スピードを担保する必要があると考えられます。

AIエージェントの権限と隔離

セキュリティを犠牲にせずにAIエージェントの自律性を確保するためには、AIエージェントの特性に応じて、適切な権限を割り当てることが重要です。
以下の表は、AIエージェントがアクセス可能な情報と外部アクセス権限の観点から、許容できるリスクを整理した結果です。

アクセス可能な情報 外部アクセス権限 リスクの許容
機密情報 インターネットへのアクセスなし 許容できる
機密情報 インターネットへのフルアクセス 許容できない
一般公開ページの情報 インターネットへのフルアクセス 許容できる

この結果から、インターネットへアクセスできない環境であれば、AIエージェントは人間の承認を得るといった制限なく、自由な操作を許可しても構わないということがわかります。

続いて、ファイルを読み書きしたりコードを実行したりするような、コンピューティング環境を持つAIエージェントの権限について考えてみます。

  • ローカルAIエージェント:全ての内部リソースにアクセス可能
  • クラウドホスト(マルチテナント)AIエージェント:エージェントAがアクセス可能なリソースに、エージェントBもアクセス可能

適切なアクセス権限を設定できていない場合、機密情報の漏洩といったセキュリティリスクが発生します。
さらに、複数のエージェントが操作するリソースが同一の場合、操作による結果がコンフリクト(衝突)すると、セキュリティとは異なる観点で、正常な動作が保証できなくなるという問題があります。
サンドボックス化の必要性
サンドボックス化の必要性

つまり、エージェントごとに動作環境を隔離する必要があるといえます。

サンドボックス化

先述した問題から、サンドボックス化の必要性が出てきます。
サンドボックス化の際、権限の境界について考えることが、サンドボックスに何を含めるべきか判断する手助けになります。
横と縦の両方の権限の境界で考えることが重要です。

  • 横の権限
    • 独立した権限
    • 例:XはAのみにアクセス可能、YはBのみにアクセス可能
  • 縦の権限
    • 上下の権限
    • 例:XはAとBにアクセス可能、YはBのみにアクセス可能

AIエージェントをサービスとして提供するには、

  • VM(仮想マシン)レベルの隔離性
  • エージェントごとの隔離性
  • 数秒で起動する高速性
  • マルチテナントでのリソース共有
  • スケーラビリティ

といった技術的にチャレンジングな課題を解決する必要があります。

ここからは、GMO Flatt Securityが提供する、ソフトウェアのセキュリティ診断を自律的に行うAIエージェントのTakumiがどのようにして、これらの課題を解決したのかを説明します。


Firecracker

サンドボックス基盤は、AIエージェントからのリクエストに応じて、APIサーバからリクエストを転送し、VMノードを立ち上げるという構造となっています。
このVMノードを作成する際に、Firecrackerを使用しています。
Firecrackerには、以下のような特徴があります。

  • 高速で軽量なVMモニタ
  • AWSが管理するOSS (LambdaやFargateなどで利用されている技術)
  • Minimalな構成となるため、AttackSurfaceが少ない

サンドボックスのアーキテクチャ

AIエージェントをサンドボックス化するためのアーキテクチャとして2種類が紹介されました。

  • Agent in box
    • エージェントを環境に閉じ込める
    • LLMのAPIキーを環境に含まないといけない (漏洩の可能性がある)
  • Action in box
    • 操作のみを環境に閉じ込める
    • LLMは操作内容(実行命令)を発行しているだけのため、LLMと操作の分離が可能
    • 実行の対象をネイティブではなく、サンドボックス環境を指定する
    • LLMのAPIキーが漏洩する可能性があるのは(不正)操作時のため、動作環境を隔離している本手法では、漏洩の可能性は低い

サンドボックス化のアーキテクチャ
サンドボックス化のアーキテクチャ

Takumiでは、エージェントが動作する際に、"Action in box"で専用のサンドボックス環境を構築し、動作範囲を隔離しています。

感想

AIエージェントのセキュリティ対策として、環境をサンドボックス化するという発想は非常に学びが多い内容でした。
エージェントに細かな権限設定を行うことは難しいため、実行環境を分離するアプローチは有効だと感じています。
今後、AIエージェントを活用したシステムを構築する際に、検討してみようと思います。

株式会社サイバーセキュリティクラウド テックブログ

Discussion