🐙

【学習ログ】ローカルでGPT OSSを動かす準備 #2 ローカルマシンの容量チェックとDocker環境の準備

2025/08/12に公開

はじめに

前回の記事（#1 LLMの仕組みを3つのレイヤーで整理してみた）では、LLMをモデル層・アーキテクチャ層・推論フレームワーク層の3つのレイヤーに分けて整理した。

この理解を踏まえると、次のステップは実行環境の準備になる。

今回は、ローカルマシンの容量やメモリを事前にチェックし、Docker環境を整えるまでの流れをまとめる。

特にgpt-oss-20bのように16GB以上のメモリを必要とするモデルは、環境によってはそもそも動かないため、事前確認が重要になる。

なぜDockerを利用するのかというと、モデル実行環境をホストマシンに直接構築すると、依存関係やライブラリの競合によるトラブルが発生しやすいためである。

Dockerを使えば、モデルごとに異なる依存関係を隔離した環境で動かすことができ、セットアップや再現性の確保が容易になる。

また、他のマシンやクラウドに同じ環境を展開する場合も、Dockerイメージを使えばほぼ同一の環境を短時間で用意できる。

モデルはサイズが大きく、1つで数GB〜数十GBになることもある。

特に複数モデルを試す場合は、ストレージの空き容量を十分に確保しておく必要がある。

Macの場合は以下のコマンドで空き容量を確認できる。

df -h /

空き容量がモデルサイズ＋α（キャッシュやログ分）を下回っている場合は、不要ファイルの削除や外部ストレージ利用を検討する。

推論時に必要なメモリはモデルによって異なる。

例として、gpt-oss-20bは16GBメモリが必要で、8GBメモリのMacBook Airでは実行できない。

Macの場合、搭載メモリは端末ホーム左上のAppleアイコン経由で確認できる。

Docker Desktopをインストールして、ローカルでコンテナ実行できる状態にする。
公式サイト: https://www.docker.com/

デフォルトのDockerメモリ設定では、LLM推論に必要な容量が不足することが多い。

Docker DesktopのSettings > Resources > Memoryで、モデルの必要メモリ量に応じて割り当てを増やす。

軽量モデルなら4〜8GB、大規模モデルなら12GB以上の設定が目安になる。

ローカルマシンのストレージやメモリの状態を把握し、Docker環境のメモリ設定まで整えておくことで、モデル実行時のエラーや不要なやり直しを減らせる。

ここまで準備が整えば、次は実際に軽量なGPT OSSモデルをローカルで動かし、ターミナルから対話できる環境を作っていく段階に入る。