💡

[2025年4月25日] o3の情報圧縮はエコーチェンバーを生みやすい (週刊AI)

に公開

こんにちは、Kaiです。
o3を毎日使っていて、かなり感動を覚えるレベルの示唆を与えてくれる議論ができています。この体験は、o1Proと比較しても少し次元が変わったような印象です。

特に、界隈で話題になった深津さんのプロンプトを用いて、「人生の意味とは?」とか「AIにとって死とは?」とか「宇宙にとって人類の存在意義は?」といった、普段考えている答えのない問いをぶつけて議論を始めてみると、大変面白い経験を得られます。
https://x.com/fladdict/status/1914977745882292458
(リプライや引用リポストをご覧ください)

ただ、最初は純粋に面白かったのですが、繰り返し行っているうちに、「o3は情報を端的な言葉に圧縮するがゆえに、人間側がそれを己がもつ意味空間に射影する際、エコーチェンバーが起きるのでは?」という疑問も感じるようになりました。つまり、自然言語の単語が持つ意味空間が一意ではないがゆえに、圧縮された情報量を提示するo3の回答は、あまりにも自己解釈の余地が大きくなりすぎるのでは?という疑問です。

これをo3に聞いてみると、

  • 確かに帯域の合理化のための情報圧縮を行っている
  • 統計的に様々な意味を重ね合わせたベクトルで演算し、出力単語が決定される
  • 結果的に、膨大な情報量が短い単語に圧縮され、人間側でのデコードが適切かどうかは受け手依存
  • そのため、読解側のpriorが強化されやすい
    という回答が返ってきました。

o3/o4-miniは従来のモデルよりもハルシネーションが発生しやすいとされており、これは「帯域の合理化」のための「情報圧縮」によるものではないかなと考えます。また同時に、人間側で適切に回答をデコードできているか、掘り下げの質問や自己チェックが必要な、少し気を付けなければいけないモデルだとも感じています。

最初の衝撃は大きかったですが、深く使ってみると面白いものの注意が必要、という印象になりつつあります。推測ですが、o3やo4といったReasoningモデルは、抽象思考とモデル操作に特化していき、具体思考と行動をつかさどる単純モデルのオーケストレーター機能を受け持つことになるのではないかと考えています。さらに、GPT-4.5はそれらをラップする人格モデルのひな形。GPT-5は、そんな構造で現れてくるのではないでしょうか。

o3との知的遊戯を楽しみつつ、今週のトピックスにいってみましょう。

注意事項

  • 直近収集したAIおよびWeb系の記事やポストが中心になります
  • 私のアンテナに引っかかった順なので、多少古い日付のものを紹介する場合があります
  • 業務状況次第でお休みしたり、掲載タイミングが変わったりします

AI新着モデル、サービス、アップデート

Genspark: AIスライド

サンプルを見る限り、すごい。Claudeと比較しても一線を画しているように見えます。ちょっと実務で試す必要がありますね……。
https://x.com/genspark_japan/status/1914672315725701131

Anthropic: Claudeと人間の価値観比較レポート

匿名化された30万件の対話ログを用いて、Claudeと人間の持つ価値観を比較分析したレポート。一般的にAIは論理性や明確性などを重視しているが、ユーザから特定の価値観を提示された場合にそちらに引っ張られる傾向もある模様。
https://www.anthropic.com/research/values-wild

OpenAI: 画像生成をAPIで提供開始

単なるラッパー以外にどうやってサービスに組み込めるかな……。料金をペイするには工夫が必要そう。
(公式)
https://platform.openai.com/docs/guides/image-generation?image-generation-model=gpt-image-1
(npakaさんまとめ)
https://note.com/npaka/n/n44f3712ac0f2

その他AI系話題

OpenAI - エージェント構築のための実践ガイド 日本語翻訳

OpenAIが公式で出したエージェント構築のドキュメントを、有志の方が翻訳してくださいました。コードサンプルもあり、非常に実践的な内容になっています。
https://zenn.dev/ml_bear/articles/ea1371fc02305c

うさぎでもわかるAgent2Agent - AIエージェント連携の新時代

恐らく大部分はAIで書かれた記事と思いますが、分かりやすければ別にいいのです。
https://zenn.dev/taku_sid/articles/20250410_agent2agent

OpenAI、o3とo4-miniは「従来モデルよりハルシネーション率が高い」

冒頭にも書きましたが、これは何となく感じています。思考が抽象化したせいかもしれません。
https://www.itmedia.co.jp/aiplus/articles/2504/20/news061.html

MCPを活用した検索システムの作り方

「MCPはインタフェースでしかない」というのはその通りですね。RAGと同じで、検索システム側の精度依存が大きい。
https://speakerdeck.com/quiver/how-to-implement-search-systems-with-mcp

MCP Server as a Judge

なるほど、「as a Judge」するときの評価ツールをMCPサーバの形でLLMに提供すると。確かに自動化できますし、汎用性が高いですね。
https://speakerdeck.com/licux/mcp-server-as-a-judge

AWS上でMCPを安全に使いたい ~Mastraを添えて~

「うまくいかなかった」という事例ですが、Mastra単体でのLambdaデプロイができない、という課題が浮き彫りになったのは学びがあります。
https://speakerdeck.com/har1101/awsshang-temcpwoan-quan-nishi-itai-mastrawotian-ete

AIコーディングの理想と現実

現時点のスナップショットとして非常に多様な観点で実体験に基づく考察が加えられていて、「現在地」を知るにはちょうどいいかと思われます。
https://speakerdeck.com/tomohisa/aikodeingunoli-xiang-toxian-shi

Devinによって変化したエンジニアリングの現場

「完全な人間の代替」ではなく、特定の領域・タスクに特化して低レイヤーの作業を任せる、といった使いかたがよさそう。
https://zenn.dev/dely_jp/articles/ddcdf550cd501f

プロダクトマネージャーがCursorと作る、"思考が蓄積する"仕事環境 ~AI伴走を当たり前に~

最近よく見かける、「非エンジニアによるCursor活用」事例。全ての思考やアウトプットを文字列化していく習慣が、今後のAI時代に役に立つかも。
https://note.com/naomix/n/n21310f007154

After Cline - あるいは語りえぬ者について語ろうとする時代について

Clineに全部賭ける記事でバズったmizchiさんのメモ書き。脳内をダンプした感じですが、それだけにナマの声として参考になります。
https://gist.github.com/mizchi/1ad9d75fd008201571e85496fc736185

Vibe Coding の話をしよう

「現時点のVibe Coding 101」といった感じの資料。ツールやモデルなど、今選ぶならという観点で総覧できます。
https://speakerdeck.com/schroneko/vibe-coding-nohua-wosiyou

AIエージェント開発手法と業務導入のプラクティス

アンチパターンと対策一覧は、「あるある」と納得感があります。組織全体で見るとなかなかアンチパターン回避は難しいのですが……。
https://speakerdeck.com/ykosaka/aiezientokai-fa-shou-fa-toye-wu-dao-ru-nopurakuteisu

WEB開発系話題

AWS、通常のAmazon S3より最大10倍高速な「Amazon S3 Express One Zone」の価格を最大で85%引き下げ

これは知りませんでした。高速な代わりに単一AZのみにデータを保持するサービスなんですね。高速なIOを求める一時的データ保存(つまりAI関連かな)に最適なように思います。
https://www.publickey1.jp/blog/25/awsamazon_s310amazon_s3_express_one_zone85.html

その他一般テック話題

サイエンティストの憂鬱

「サイエンスのエンジニアリング化」は私も以前から感じていたことです。そして、エンジニアリングに寄れば寄るほど、チーム化、マネジメントの概念が入ってきて、最終的には大規模資金による大規模プロジェクトに収束する、というのも同感です。個人による非線形な成果に夢を見たいですが、果たしてどうなっていくか。
https://note.com/kanair/n/n21daa7a53297

本を全て読むか、生成AIが作った要約で読むか?

これは個人的に結論があって、知識を効率的に得る目的の本なら要約すべきだし、己の思考や経験に影響を与えたいなら全て読むべき、と思っています。良質な本を読み込むことは、著者との対話であり、対話を通じて己の世界を拡張できる体験だと認識しています。これは要約では得られません。
https://note.com/f30103/n/n4df8ff993a4a

CareNet Engineers

Discussion