DeepSeek-OCR：テキスト文脈を「視覚」で圧縮するという大胆な試み
DeepSeek-OCR：テキスト文脈を「視覚」で圧縮するという大胆な試み
大規模言語モデルの時代において、「コンテキスト長」はほぼすべてのシステム設計で避けて通れない課題になっています。
対話履歴、長文ドキュメント理解、マルチターンの Agent 推論など、どのユースケースでも token 数は計算量・メモリ・レイテンシに直結します。
そんな中、DeepSeek チームが公開した次の論文が非常に興味深いものでした。
DeepSeek-OCR: Contexts Optical Compression
この研究は単なる OCR の改良ではありません。
むしろ、次のような根本的な問いを投げかけています。
テキストを一度「画像」に変換し、それをモデルに“見せる”ことで、
より少ない token で同じ情報量を保持できないだろうか？
なぜ「光学的コンテキスト圧縮」なのか
既存の LLM は、入力シーケンスが長くなるほど計算量が 二次的に増大します。
一方で、私たちは日常的にこんなことをしています。
情報が詰まった PDF 1 ページを、たった 1 枚の画像として扱う。
DeepSeek-OCR はこの直感に基づき、
- テキスト → 画像（2D マッピング）
- 画像 → 少数の vision token
- vision token → テキスト復元
という 圧縮・復元のループを OCR という形で検証しました。
先に結論から
論文で示された最も印象的な結果は次の通りです。
-
約 10× の圧縮率（テキスト token / vision token）
→ OCR 精度 約 97% -
約 20× の圧縮率
→ 精度は 約 60% を維持
つまり、
一定の条件下では、テキスト文脈はほぼ無損失で視覚的に圧縮できる
ということを実証しています。
DeepEncoder：圧縮のために設計された Vision Encoder
このアプローチを成立させるため、著者らは既存の VLM Encoder を使わず、
新たに DeepEncoder という構造を設計しています。
1. Window Attention と Global Attention の直列構造
- 前段：SAM ベースの Window Attention
→ 高解像度な局所情報を処理 - 後段：CLIP ベースの Global Attention
→ 文書全体の意味構造を把握
2. 中間に 16× Token Compression を挿入
Global Attention に入る前に、2 層の畳み込みで vision token を 16 分の 1 に圧縮。
- 1024×1024 入力
- 約 4096 token → 約 256 token
これにより、高解像度でも activation を抑えられます。
3. マルチ解像度をネイティブにサポート
Tiny / Small / Base / Large / Gundam といった複数モードを持ち、
- 短い文書：64〜100 token
- 新聞・スキャン PDF：タイル + グローバルビュー
というように、圧縮率そのものを調整可能にしています。
OCR を超えた「文脈処理エンジン」
DeepSeek-OCR は実験上 OCR を中心にしていますが、実際の能力はそれ以上です。
- レイアウト理解付き文書解析
- 表 → HTML
- グラフ → 構造化データ
- 化学式 → SMILES
- 幾何図形 → 構造表現
- 約 100 言語の PDF に対応
OmniDocBench では、1000 未満の vision token で
数千 token を使う既存モデルを上回る結果も示されています。
「忘却」を設計できるという発想
論文後半で特に印象的だったのが、この比喩です。
人間の記憶は時間とともに曖昧になる
視覚情報も距離が遠くなるほど解像度が下がる
古いコンテキストほど低解像度でレンダリングし、
徐々に圧縮していくことで、
- 直近の情報：高精細・高 token
- 過去の情報：ぼやけた・低 token
という **自然な「忘却メカニズム」**を実装できる可能性が示唆されています。
これは「無限コンテキスト」を現実的に近似する一つの方向性かもしれません。
個人的な所感
この論文を読んで感じたのは、
私たちは「テキスト token」という形式に縛られすぎていたのではないか
という点です。
論文を整理・比較する過程で、
構造化や視覚化された表現の方が、
長期的には理解や再参照がしやすい場面も多く感じました。
実際に内容を整理する際は、論文の要点をまとめた共有ページを手元に置きながら読み進めていまし
た。
参考
- DeepSeek-OCR: Contexts Optical Compression
Haoran Wei, Yaofeng Sun, Yukun Li
DeepSeek-AI
長文コンテキスト、VLM、あるいは文書処理の設計に興味がある方には、
非常に示唆に富んだ一編だと思います。
Discussion