はじめに
先日、セキュリティイベント「CODE BLUE」に参加しました。
本記事では、聴講したセッション「サイバー脅威インテリジェンス（CTI）の共創モデルの設計と運用：AIと人の役割設計とヒューマン・イン・ザ・ループ（HITL）」について、投影スライドと当日の内容を基に、私自身の言葉でまとめています。
イベント概要
- イベント名：CODE BLUE Tokyo 2025
- 開催日：2025年11月18日, 19日
- 開催場所：ベルサール高田馬場
Speaker
日本電気株式会社(NEC) - 角丸 貴洋 氏
レポート
サイバー脅威インテリジェンスの領域でのAI活用について
インテリジェンスアナリストは、サイバーセキュリティリスクやビジネスリスクを提言するための意思決定が円滑に行われるように支援することを目的として、脆弱性情報の観測や評価といったリサーチ業務を行います。
しかし、AIエージェントもリサーチを行うことができます。
ここでは、サイバー脅威インテリジェンスを支えるAIエージェントを開発 / 運用してきた実務の観点から、技術的な話ではなく「何をAIに任せ、何を人が担うのか」について話しています。
その前に、対象とするAIについて整理します。
Gartnerの定義によると、AIには3種類があります。
-
生成AI
- 利用者が指示や質問をすると、その場で文章や画像を生成する
- 例：ChatGPT
-
AIエージェント
- 人の細かな指示がなくても、最小限の監督で必要に応じて様々なタスクや環境に適応して動作する
- 例：Agentモード
-
Agentic AI
- 状況を見る(認識する) / 判断する / 行動する 小さな自律的な複数のエージェントが協力して、より複雑かつ複合的に動作する
ここでは、AIエージェントを対象とします。
インテリジェンスアナリストが直面する3つの課題
インテリジェンスアナリストがサイバー脅威インテリジェンスを提供するときに直面する課題は、以下の3つです。
- 即時性と可搬性：タイミングを逸していないか、使いやすいか
- 要件への適合性：意思決定者が求めている要件に合致しているか
- 合理性と正当性：意思決定者が結果を受け入れ、行動に移せるか(Actionable)
リサーチ業務において、生成AIを"そのまま"活用してみたところ、3つの課題が影響して、生成AIへの期待に対するギャップが発生しました。
| 期待 | ギャップ |
|---|---|
| 常に最新の情報を反映してほしい | LLMが持っている知識の制約 |
| 脅威レポートを適切に構造化してほしい | 重要な要素が抜けている |
| 比較的誰でも安定した結果を得たい | 要件に合致する出力のために試行錯誤が発生 |
| 少々修正する程度のドラフトを作成してほしい | 出力結果を丁寧にレビューする必要がある |
実業務でのAIエージェントの応用例
期待に対するギャップを踏まえ、リサーチ業務において実際に行っている、AIエージェントの応用例が2つ紹介されました。
(1) 構造化フォーマットへ変換するアプリケーション
- 入力：脅威レポートや記事といった自然言語の文章
- 出力：タイトル、概要説明、出典情報といった構造化された形式 (脅威データベースへ蓄積)
(2) レポートの横断的分析アプリケーション
- 入力：要件に基づいたクエリ(プロンプト)
- 出力：複数の情報源を参照して、レポート形式でまとめた調査結果
業務フロー
先述した構造化業務(情報整理)と調査業務という、2つの応用例を合わせた全体の業務フローについて図示します。
AIエージェントを活用した業務フロー図
AIエージェントを活用することで、構造化業務では、作業時間を平均43.2%削減(昨年同月比)できたそうです。
さらに、調査業務では、作業時間を約50%削減できたと報告しています。
AIエージェントと人の役割分担
先程の業務フロー図で注目すべきは、意思決定に関しては人間が介在することです。
角丸氏は、AIエージェントの得意な部分が見えてきたと語っています。
| AIエージェントが処理すると効率的な部分 | 人が判断や指示した方がいい部分 | 最終的に人の確認が必要な部分 |
|---|---|---|
| フォーマットに沿った出力 | 要件の具体化や詳細化 | AI整理結果の妥当性の判断 |
| 抽出ルールに基づく判断 | 必要な粒度や範囲の設定 | 情報の抜け漏れの気付き |
| 類似性や差分の機械的推論 | 観点の設定(何が重要か) | 組織特性や事業理解 |
| 過去の事例の検索と照合 | 意味付け(意図の理解) | 最終的な意思決定 |
| 仮説候補の列挙 | 地政学的文脈の付与 |
それぞれの役割について、以下のようにすることを推奨しました。
- AIエージェント：知識の処理、形式知による思考
-
人：暗黙知的思考
- 背景や文脈を与えること
- 観点や評価指標を示すこと
- 期待する成果の形を具体化すること
ヒューマン・イン・ザ・ループの設計
「ここだけは人が判断する」という線引きを設けるためには、業務を熟知した現場とAIの専門家が一体となって設計する必要があります。
AIに任せない部分を決めることも重要です。
例えば、考慮するべき観点として以下があります。
- 背景や文脈を整えること (専門家の構造的かつ体系的な理解を活かす)
- 思考の方向性を的確なタイミングで与える (要件に対する齟齬を少なくし、手戻りを最小限に)
- 信頼できない情報を入れ込ませない (一旦、思考過程に組み込まれると取り除くのは困難)
- AIの全ての出力結果を人がレビューする負担 (最終的には人が意思決定を行うため)
人によって、成長度合いに違いがある？
角丸氏は、人によって収集や分析力をつけていく成長度合いに違いがあるかもしれないと語っています。
AIの出力結果を受けて、「ただ修正するだけの表層的理解をする人」もいれば、「疑問を持って調査する、文脈的 / 構造的 / 体系的 理解をする人」もいるといいます。
この気付きを基に、人の成長を支援するAIとの共創モデルについて提案しています。
- ティーチング型
- 答えを示すだけのAI
- 構造的 / 体系的 理解が進まない
- 利用者によって習熟度の差が出る
- 熟練者の壁打ち相手としては良い
- コーチング型
- なぜそうなったのかを示すAI
- 考える力が育つ
- 利用者の成長速度が向上する
- 初学者には良い
さらに、成長を図る仕組みを利用することも提案しています。
- 人の成長を可視化：The Mandiant Cyber Threat Intelligence (CTI) Analyst Core Competencies Framework
- AIの指標評価：CTIBench
感想
AIに対し、自分はどのような役職でどのような立場なのかを伝えることは出力結果の精度向上に寄与すると考えています。
そのため、自身の成長度合いを可視化するという考え方は、納得 / 勉強になりました。
業務内容の特性を考慮しつつ、有効にAIを活用できるように、講演から得た学びを活かしていきたいです。
Discussion