【M4 Mac mini / 16GB】AI検証ログ #01:Dify × ローカルLLM環境構築
はじめに
はじめまして。元NWエンジニアの現在ITエンジニアのdaduと申します。
普段、開発・検証環境としては Ryzen 5 2600 / メモリ 32GB の自作 Windows PC をメインに使用しています。
今回、Apple Store でのアプリ公開を見据えた開発環境の確保と純粋な興味のためにM4 Mac mini (16GBモデル) を導入しました。
本記事では、Mac 初心者(ITも初心者)である元ネットワークエンジニアが、Dify + Ollama によるローカル LLM 環境を構築し、特定モデル(Llama 3.2 Vision)においてリソースの限界に直面した際の記録となります。
検証環境
- Hardware: Mac mini (M4, 2024) / RAM 16GB / SSD 256GB
- OS: macOS Tahoe 26.1
-
Infrastructure:
- OrbStack: Mac 本体のリソース効率を優先し、Docker Desktop ではなく OrbStack を採用。
- Ollama: LLM 推論サーバーとして使用。
- Dify: オーケストレーションツール(Docker 版)。
環境構築とモデル選定
環境構築自体は OrbStack のおかげもあり、非常に軽量かつスムーズに完了しました。
問題はモデルの選定です。
業務での生成AI活用を模索する中で、マルチモーダルなタスク(画像認識・OCR)の検証をしたかったため、以下のモデルを選択しました。
-
Model:
llama3.2-vision:latest(11B)
実は特に選出した強い根拠はなく、
とりあえずマルチモーダルの精度が高めで動きそうなサイズを適当に決めました。
Dify 上で適当なチャットフローを構築

"こんにちは"の返信だけで19秒もかかった

さらにスワップが発生して赤くなってたりする。。。

次にOCRを有効にしてアクティビティモニタの画像解析させてみたが少しずつ動きはするが明らかにMac miniが限界来ていそうなのでやむを得ず処理を停止 ※5分以上動いてた

リソース消費の検証:スワップ領域の急増
Dify 経由で画像ファイルをアップロードし、OCR 処理および内容解析を実行したところ、即座にシステム全体のレスポンスが低下しました。
なんとなくアクティビティモニタでリソースを常時監視していましたが、そこで以下の状況を確認。
- メモリプレッシャー: グラフが「レッド」まで急上昇。
- スワップ使用領域: ピーク時は9GB 超
アクティブな LLM モデルが物理メモリを大きく超えてスワップ(SSD への退避)を始めた際のパフォーマンス低下は顕著でした。画面がカクついてまともに動かないこともしばしば。
何より、買ったばかりのデバイスの SSD に対して、LLM の推論による高頻度なスワップ書き込みが発生し続ける状況は、ストレージの製品寿命(TBW)の観点からもあまり良いものではないらしいので動作確認だけして一旦、完了。
今回の知見
- 16GB モデルにおける 11B Vision モデルの限界: 11B クラスの Vision モデルは、画像エンコーダーのメモリ消費も相まって、16GB 環境では実運用に耐えないレベルでスワップが発生する。
- モニタリングの重要性: Apple シリコンはメモリ効率が良いと言われるが、LLM のような巨大な重みをロードする処理では、物理メモリの絶対量が正義であることを再認識した。
今後の展望
今回の検証により、16GB モデルで Dify を常駐させつつ画像解析を行うには、より軽量な VLM(Vision Language Model)の選定が不可欠であることが分かりました。
次回は、MiniCPM-V や Qwen2-VL といった、よりパラメータ数が少なく、かつ日本語 OCR 性能に定評のある軽量モデルに切り替えたり、スワップを抑制した実用的なラインを検証していきたいと思います。(またはメモリ増設モデルを買い直すか。。。)
Discussion