🐳
DeepSeek R1モデルをSSDに保存して使う方法
Ollama を使用して DeepSeek R1 モデルをローカル環境で使用する際に,パソコンのストレージ容量が不足していて,モデルを SSD に保存して使用する必要があったので,その方法を備忘録としてまとめました.
TD;LR
- SSD にモデルを保存するためのフォルダを作成
- モデルの情報を SSD に保存
- リンクを作成する
もう少し詳しく
1. SSD にモデルを保存するためのフォルダを作成
- SSD に接続
- モデルの保存先のフォルダを作成
- 今回は,
Ollama
というフォルダを保存先として作成 -
MySSD
の部分は自身の SSD の名前に置き換え
- 今回は,
mkdir /Volumes/MySSD/Ollama
2. モデルの情報を SSD に保存
すでに,ollama pull
でモデルをダウンロードしている場合は,~/.ollama/models
にモデルが保存されている.(macOS の場合)
Linux, Windows を使用している場合は,下記のリンクを参考にしてください.
下記のコマンドを実行して,blobs
と manifests
フォルダを SSD に移動する.
mv ~/.ollama/models/blobs /Volumes/MySSD/Ollama/
mv ~/.ollama/models/manifests /Volumes/MySSD/Ollama/
Ollama のインストール,DeepSeek R1 モデルのダウンロード
Ollama のインストールは下記から!
-
brew でインストールする場合
https://formulae.brew.sh/formula/ollama
Ollama を使用した DeepSeek R1 モデルのダウンロードは下記から!
DeepSeek R1 モデルサイズと推奨されるハードウェアのスペック
MODEL | RAM NEEDED | RECOMMENDED GPU |
---|---|---|
1.5B | 4GB | Integrated |
7B | 8–10GB | NVIDIA GTX 1660 |
14B | 16GB+ | RTX 3060/3080 |
70B | 40GB+ | RTX 4090/A100 |
3. リンクを作成する
~/.ollama/models
にリンクを作成する.
Ollama にモデルがどこに保存されているかを”教える”ために,リンクを作成する.
今回はblobs
と manifests
フォルダを SSD に保存したので,それぞれのリンクを作成する.
ln -s "/Volumes/MySSD/Ollama/blobs" ~/.ollama/models/blobs
ln -s "/Volumes/MySSD/Ollama/manifests" ~/.ollama/models/manifests
リンクが正しく作成されているかを確認する.
ls -l ~/.ollama/models
動作確認
ollama run deepseek-r1:7b
を実行して動作していることが確認できたら,終了です!
最後に
今回私がローカル環境で DeepSeek R1 モデルを使用するきっかけとなったのは Cline で使用するためです.
興味がある人は下記の記事を参考にやってみてください!
Discussion