1. はじめに
本記事は AI (Artificial Intelligence) の実現に興味がある開発者、研究者と、分譲マンションの購入に興味がある方を主な読者として想定しています。
2. なぜコンテキストエンジニアリングが重要か
最近注目されているコンテキストエンジニアリング、個人的にも AI の実現に非常に重要な技術と考えています。LLM に適切なコンテキストの情報を与えること、それは「人間の普段の仕事の効率化」にも通じることだからです。
LLM の性能向上に伴いプロンプトエンジニアリングの手間が減ったように、近い将来コンテキストエンジニアリングすら担ってくれるでしょうか。そんな「コンテキストエンジニアリングのその先」を何回かに分けて考えてみます。
そのため、コンテキストエンジニアリングやその関連技術そのものの説明はここでは行いません。
（コンテキストエンジニアリングの現状に関しては以下の Arxiv のサーベイ論文が参考になります）
3. コンテキストエンジニアリングにおけるグラフ
まずコンテキストエンジニアリングの要素技術の多くに共通して関連するキーワードであるグラフに注目してみます。
例としてコンテキストエンジニアリングの以下の技術要素が グラフ に関係しています。
（各用語の技術的詳細は本記事では扱いません）
- プロンプトエンジニアリング
- Chain-of-Thought(s) (CoT)
- Tree-of-Thought(s) (ToT)
- Graph-of-Thought(s) (GoT)
- RAG (Retrieval-Augmented Generation)
- GraphRAG
- PathRAG
- HyperGraphRAG
- Memory
- Knowledge Graph
これらの要素技術は全て数学の グラフ理論 に関係しています。グラフ (graph) と直接表記していない以下の用語も実はグラフ理論の用語だったりします。
- チェイン、鎖 (chain)
- パス (path)
- ツリー (tree)
関連書籍
それでは今後 LLM はより高度なグラフ理論の要素を取り込んでコンテキストエンジニアリングすら自動化してしまうのでしょうか? それを考えてみます。
4. グラフは現実世界を表現できるか
コンテキストエンジニアリングの自動化実現のためには、「グラフが現実世界の複雑なコンテキストを効率的に表現できる」必要があります。
その題材としてマンションポエムを取り上げてみます。
マンションポエムとは
マンションポエムの入門には以下のデイリーポータルの記事がおすすめです。
マンションポエム。それはマンション広告にちりばめられた詩的キャッチコピー。
一生に一度の買い物とされるマンションを、短いフレーズで人の目に留めて印象付ける趣深い、また味わい深い「マンションポエム」。
これがグラフで表現できなければ現実世界の複雑なコンテキストなど表現できないでしょう。
ChatGPT に以下の条件で架空のマンションポエムの生成を依頼しました。[1]
- 場所
- 池袋
- レトリバのオフィスがある
- 池袋
- キーワード
- 技術書
- 技術書展が開催されたり技術書に強いジュンク堂の本店がある
- 光
- 駅周辺のビルの光
- 技術書
朝の街は、まだ夢の余韻をまとっている。
硝子の塔が光を反射し、ページの海を照らす。無数の言葉が、静かに呼吸している場所。
指先が触れるたび、世界がひとつ増えていく。午後、上階のホールでは
光る画面たちが語りあい、
未来の言語が、静かに編まれていく。夜になれば、風がページをめくる音。
その隙間に、暮らしの灯がこぼれる。
ここは、知と暮らしがすれ違い、
やがてひとつになる街。― “紙と光のあいだに。”
リュミナリーヴ (Luminarive) 池袋
(架空のマンション名です)
このマンションポエムをグラフで表現できるか試してみます。
まずは以下の最初のパートをグラフの一形式である ネットワーク で表現してみます。
（※ ここではネットワークを「ノード（頂点、四角形）とエッジ（辺、矢印）」にラベルのある有向グラフとして扱います）
朝の街は、まだ夢の余韻をまとっている。
The morning city is still draped in the afterglow of dreams.
硝子の塔が光を反射し、ページの海を照らす。
The glass tower reflects the light and illuminates the sea of pages.
（※ 名詞句をノード、述語（動詞句）をエッジに割り当てた手動マッピングであり、一意ではありません）
このようにかなり無理矢理な表現となってしまいます。
ネットワークではノード間の関係は表現できますが、エッジの属性に対する関係は表現できないので「反射 (reflect), 照らす (illuminate), （ページを）めくる (turn)」等の述語が 本 や 光 というキーワードに関係していることを表現するのも難しいです。
また、マンションポエムには広告側に以下のコンテキストがあります。
- マンションポエムはマンションそのものについて語らない
- マンションという建物自体は基本的に価値が下がっていくもので、価値が上がるのは交通、土地といった周辺環境という事情がある
- 実際に建物が完成する前に募集を始める
これらと、実際のマンションポエムの関係を表現するのもネットワークでは難しいです。
それでは「グラフの別形式である ツリー（木構造）であれば少なくとも自然言語の 構文木 による表現ができるのでは？」と思うかもしれません。次はそれを考えます。
関連書籍
5. 現実世界はツリーではないしネットワークでもない
ところが現実世界をツリーで表現しようとしてもうまくいきません。確かに文章の構文情報自体はツリーで表現できますが、その意味を表現するのは難しいです。
例として、自然言語処理には 照応関係（文章中の「この、その、あの」といった代名詞などの表現が他の表現を指す関係）、共参照関係（文章中の表現のうち、同一実体を指す関係）[2]という概念があります。
これらの関係は構文木の枝を跨ぐ場合もあり、ツリーで表現することはできません。
関連書籍
自然言語処理〔改訂版〕 | 黒橋禎夫 文脈解析 述語項構造・照応・談話構造の解析 | 笹野遼平・飯田龍・奥村学
同様の問題が現実の都市構造でも言えます。
関連書籍
形の合成に関するノート/都市はツリーではない | クリストファー・アレグザンダー
もっと極端な例を挙げます。
春殖 [3]
る
る
る
る
る
る
る
る
る
る
る
る
る
る
る
る
る
る
る
る
（草野心平、1981）
ひらがなの「る」が 20個連なる詩です。初見の方は全く意味が分からないでしょう。
しかし、以下のコンテキストがあるとどうでしょう。
- 作者の草野心平は蛙についての詩が多い詩人
このコンテキストから、
- 「春」と「殖」という文字
- 「る」という文字のまるみを帯びた印象
という推測ができ、さらに、
- 春になってたまごを背負っているたくさんの蛙
- 「るるるる…」というのが蛙の鳴き声
という情景を想像できます。[4]
関連書籍
信号、記号、そして言語へ コミュニケーションが紡ぐ意味の体系 | 佐治伸郎
このように人間はわずかなコンテキストと自分の知識からこのような文字情報だけでも多彩な意味を見出してしまいます。
「重要なのは（エンコードされた）文字情報ではなく、（デコードした際の）意味」
ということが分かると思います。
- グラフでは現実世界のコンテキストを表現するのは難しい。
- 自然言語で表現すると結局 LLM のコンテキストサイズの制限を受けてしまう。
となるとグラフ（チェイン、ツリー、ネットワーク）や自然言語以外でコンテキストを効率的に表現する方法があるのか? という疑問が出てきます。
次回はそれについて考えてみます。
-
ChatGPT にて 2025-10 時点の GPT-5 モデルを使用 ↩︎
-
笹野遼平、飯田龍、奥村学. (2017) 文脈解析 述語項構造・照応・談話構造の解析 55 ↩︎
-
草野心平. (1981) 草野心平詩集 ↩︎
-
佐治伸郎. (2020) 信号、記号、そして言語へ コミュニケーションが紡ぐ意味の体系 (越境する認知科学 3) 33-34 ↩︎
Discussion