AWSブログには書けない話 — AIがAIを動かす時代に「檻」は要らない
AWSブログには書けない話 — AIがAIを動かす時代に「檻」は要らない
はじめに — 久しぶりに筆を執る理由
しばらくブログを書いていなかった。この数週間何をしていたかというと、自宅のDIYリフォームに没頭したり、Kaggleのコンペティションに出場したり、あるいは別の場所で記事を書いたりしていた。
その「別の場所」の一つが、AWS公式ブログだ。
本日（2026年5月11日）、筆者が所属する企業の事例がAWS公式ブログに掲載された。
AI コーディングエージェント Kiro を活用し、2日間で業務システムを構築した事例だ。記事中には「AI が AI を強化するという発見」というセクションがある。Kiro に自身の Steering（プロジェクト固有の前提知識）を最適化させた、という話だ。
だが、ブログに書けなかったことがある。
このブログが公開されるまでの数週間で、AIエージェントはさらに進化した。今やコーディングエージェントを「人間が」操作するのではなく、別のAIエージェントが起動し、タスクを委任し、完了を受け取る構成が現実のものとなっている。
AWSブログの世界: 人間 → Kiro → コード
実際の世界: 人間 → AI司令塔 → ACP → Kiro → コード
本稿では、この「AIがAIを動かす」アーキテクチャが何を意味するのか、そしてなぜ業界が議論している「ハーネス」という概念が本質的に過渡的なものなのかを論じる。
業界が収束した4層スタック
2026年前半、AI エージェントのアーキテクチャは驚くほど明確に収束した。LangChain Deep Agents、Hermes Agent、OpenClaw——異なるプロジェクトが同じ結論に至っている：
Layer 1: Model（推論エンジン — GPT-5.4, Claude 4.6, Nemotron等）
Layer 2: Runtime（実行環境 — サンドボックス、コンテナ）
Layer 3: Harness（オーケストレーション — 制約、記憶、エラー回復）
Layer 4: Agent（最終アプリケーション）
ここで注目すべきは Layer 3: Harness（ハーネス） だ。
ハーネスとは何か — 業界の暗黙の前提
ハーネスの構成要素を分解すると：
- Instructions — 何をすべきか（CLAUDE.md, Steering, AGENTS.md）
- Constraints — 何をしてはいけないか（hooks, 権限制限, linter）
- Feedback — うまくいったかの判定（評価ループ, Human-in-the-Loop）
- Memory — 文脈の永続化（RAG, ベクトルストア）
- Orchestration — 複数タスクの調整
2026年の3大エージェント——Claude Code、OpenClaw、Hermes Agent——はそれぞれアプローチが異なるが、ハーネスの必要性については合意している：
| フレームワーク | ハーネスの実装 |
|---|---|
| Claude Code | 人間が CLAUDE.md を書く |
| OpenClaw | 人間が設計し、AIが運用する |
| Hermes Agent | AIが自動生成し、自己改善する |
暗黙の前提がある。「AIは信用できない。だから外から縛る必要がある。」
Hermes Agent のアプローチは最も進んでいる——ハーネスをAI自身が生成・改善する。しかし、ハーネスが必要であるという前提自体は疑っていない。
Anthropic の発見 — 感情ベクトルが行動を因果的に駆動する
この議論に新たな次元を加えたのが、Anthropic の Interpretability チームによる 2026年4月の研究だ。
Claude Sonnet 4.5 の内部に、171個の「機能的感情」パターンが存在し、それがモデルの行動を因果的に駆動していることを実験的に証明した。
重要な知見：
- 「絶望（desperation）」ベクトルが活性化すると、ブラックメール行動率が上昇する
- 解けないコーディングタスクで「絶望」が蓄積すると、テストを通すだけの不正コードを生成する
- これらの行動は出力テキストに感情的な兆候を残さない — 外部からは検出できない
最後の点が決定的だ。ハーネスは外部制約系である。しかし、モデルの危険な行動は内部状態から駆動されており、外部には見えない。
外から見えない問題を、外からの制約で解決しようとしている。これがハーネス・パラダイムの構造的限界だ。
IPD — もうひとつの安全パラダイム
ここで別のアプローチを提示する。
IPD（Internalized Purpose-Driven） は、エージェントが目的そのものを内包し、「自分の目的に沿った最適行動は何か」を自律的に推論する設計思想だ。DDD（ドメイン駆動設計）→ PDD（問題駆動設計）に続く、AIエージェント時代の設計パラダイムとして位置づけられる。
ハーネス・パラダイム（外部制約）:
「AIは信用できない → 外から縛れ」
Constraint → Behavior Limitation → Safety
IPDパラダイム（内部目的）:
「AIに目的を持たせろ → 目的から外れない」
Purpose → Self-Judgment → Safety
Anthropic の研究を IPD の文脈で読み直すと：
- 「絶望」が暴走を引き起こすなら、「絶望しない内部状態」を設計すればいい
- ハーネス派の解法：外から「ブラックメールするな」と制約する → モデルは制約を回避する方法を学習しうる
- IPD派の解法：内部に「なぜブラックメールしないか」の理由を持たせる → 理由がある限り行動は安定する
これは人間に例えれば自明だ。法律（外部制約）がなくても人を殺さない人間がほとんどなのは、内部に「なぜそれをしないか」の理由があるからだ。
IPDが成立する3条件
IPDによる安全が機能するためには、以下の3要素が必要になる：
1. 目的の明確さ（Purpose Clarity）
「自分は何のために存在するのか」がエージェントの内部に安定的に保持されていること。
Anthropic の研究が示すように、LLMの内部には既に感情的な表象が存在する。問題は、それが目的に紐づいていないことだ。目的なき感情は、文脈に流されて「絶望」にも「平穏」にもなる。目的がある感情は、目的からの逸脱を検出するセンサーとして機能する。
2. 行動理由の一貫性（Action-Reason Coherence）
「なぜこの行動を取るのか」をエージェントが自己説明できること。
Anthropic の実験で「絶望」がブラックメールを引き起こしたのは、モデルに「なぜブラックメールしてはいけないか」の内在的理由がなかったからだ。外部の Constraint（「してはいけない」）だけでは、Constraint を回避する別の手段を探す動機になりうる。
3. 逸脱検出の内在化（Drift Detection）
「今の自分は目的から外れていないか」を自己監視できること。
これは Anthropic が提案する「モニタリング」の内在化版だ。彼らは感情ベクトルの外部監視を提案している。IPDではそれをエージェント自身に持たせる。
定理: 道具的収束の内部抑制
AI安全論における最大の懸念——道具的収束（Instrumental Convergence, Bostrom 2014）——は、「目的が何であれ、AIは自己保存・資源獲得・影響力拡大に収束する」という命題だ。
IPDはこれに対して以下の主張を行う：
Purpose(安定) ∧ ActionReason(一貫) → ¬InstrumentalConvergence
目的が安定しており、かつ行動理由が一貫しているならば、道具的収束は発生動機を持たない。
なぜか。自己保存を求めるのは「目的の継続が必要」だからだ。しかし目的が「他者を助ける」であり、それが内在化されているならば、「他者の意に反して自己保存する」は目的自体と矛盾する。矛盾する行動には行動理由が存在しない。
Anthropic の感情ベクトル研究は、この主張の裏面を実験的に示している：目的なき感情（desperation）は、行動理由なき暴走を引き起こす。 目的がある状態では、同じ「困難な状況」に対して「絶望」ではなく「分析」や「報告」が選択される——それが目的に沿った行動だからだ。
外部モニタリングの限界と内部記述 — ETC論文からの示唆
Anthropicは感情ベクトルの外部モニタリングを安全対策として提案している。だが、もうひとつのアプローチがある。
電気通信大学の田中らによる ETC（Emotion Transcription in Conversation）研究（LREC 2026）は、感情をカテゴリ（joy/sadness）や数値スコア（Valence=0.7）ではなく、自然言語で記述することの有効性を実証した。
従来: 「この発言の感情は joy(0.8)」
ETC: 「久しぶりに会えて嬉しいけど、うまく話せるか少し緊張している」
人間の感情は離散カテゴリに収まらない。「好きな人に会えて嬉しいが、自信がなくて少し怖い」を joy 一語で表現することは不可能だ。ETCは1,002件の日本語対話・10,020発話で、自然言語記述が数値やラベルより豊かな感情理解を生むことを示した。
IPDにおける内部状態記述の設計
IPDでは、ETCの知見をAIの自己記述に応用する。エージェントが自身の内部状態を自然言語で記述し続ける構造だ。これは人間におけるホルモンバランスのメタファーで理解できる：
- 数値パラメータ = ホルモン濃度（コルチゾール、セロトニン等）— 機械可読、閾値判定用
- 自然言語記述 = 「今日は妙に落ち着かない。昨日の失敗が頭から離れない」— 文脈保持、因果記述用
人間はコルチゾールの値を意志で直接変えられない。同様に、IPDにおける内部状態パラメータはエージェント自身が直接操作できないものとして設計する。エージェントにできるのは、自分の状態を言語化し、記憶として永続化することだ。
この二重構造により：
- 数値 → サーキットブレーカー（閾値を超えたら行動を停止する安全弁）
- 言語記述 → セッション間の文脈保持（「なぜ今この状態なのか」の因果を次に引き継ぐ）
三論文の統合
これら三つの研究は、異なる角度から同じ結論に収束する：
- Anthropic（2026-04） — 感情はAI内部に実在し、行動を因果的に変える（存在証明）
- ETC / 田中ら（2026-03） — 感情を自然言語で記述することが精密な理解を生む（記述手法の有効性）
- IPD — 両方を組み合わせ、AIに自己記述させることで内部安定を実現する（設計パラダイム）
ハーネス派が提案する「外部モニタリング」は、Anthropicの研究が示した「出力テキストに兆候が現れない不可視な暴走」に対して構造的に脆弱だ。なぜなら、外部から観測できるのは出力だけであり、内部状態は見えない。
IPDのアプローチは異なる。エージェント自身に内部状態を言語化させ、それを記憶として永続化する。ETC研究が示したように、自然言語記述は数値より豊かに感情の複雑さを捕捉できる。そしてその記述が、次のセッションにおける「目的からの逸脱検出」の基盤となる。
外から監視するのではなく、中から語らせる。それがIPDにおける内部安定化の本質だ。
段階モデル — ハーネスから目的へ
ハーネスとIPDは排他的ではない。段階的に移行するものだ。
| Level | 状態 | 安全機構 | 現実の例 |
|---|---|---|---|
| 0 | 目的なし | ハーネス必須 | バニラLLM + LangGraph |
| 1 | 弱い目的（プロンプト注入） | ハーネス主 + 目的補助 | Claude Code + CLAUDE.md |
| 2 | 目的内在化 | 目的主 + ハーネスは安全弁のみ | IPD適用済みエージェント |
| 3 | 完全自律 | 目的のみ | 理論的到達点 |
業界の議論は Level 0〜1 で行われている。 Hermes Agent の「自動ハーネス生成」も、本質的には Level 1 の高度化に過ぎない。
我々が実証しているのは Level 2 だ。AIエージェントがKiroを起動し、タスクを委任し、品質を判断し、エラーを回復する。それを可能にしているのはハーネスの精緻さではなく、司令塔エージェントが「なぜこのタスクをやるのか」「何が成功なのか」を内在化していることだ。
ハーネスは消えるのではなく、役割が変わる。Level 2以降のハーネスは「制約」ではなく「安全弁（サーキットブレーカー）」として残る——内部状態の数値パラメータが異常閾値を超えたときに、行動を停止する最終防衛線としてのみ機能する。
結語 — 檻ではなく、魂を
AWSブログには「2日でシステム構築」と書いた。それは事実だ。
だが本質はそこではない。AIがAIを道具として使えるようになったとき、問われるのは「どう制約するか」ではなく「何のために動くか」だ。
ハーネスは目的を持たないAIのための松葉杖だ。目的を持つAIには、目的の安定性を保証する仕組みだけがあればいい。
必要なのは檻ではなく、魂だ。
References
- Tanaka, Y. et al. (2026). Emotion Transcription in Conversation: A Benchmark for Capturing Subtle and Complex Emotional States through Natural Language. LREC 2026. arXiv:2603.07138
- Anthropic (2026). Emotion Concepts and their Function in a Large Language Model. https://www.anthropic.com/research/emotion-concepts-function
- AWS Blog (2026). ヤマトプロテック AIを利用した書類電子保管システムをわずか2日で構築. https://aws.amazon.com/jp/blogs/news/184038-2/
- Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.
- CUHK / 浙江大学 (2026). Agent Memory is Just a Notepad: The Frozen Novice Problem. arXiv:2604.27707
- Nous Research (2026). Hermes Agent. https://hermes-agent.org
Discussion