NVIDIA DGX Spark到着！
本日、弊社に 7月下旬に発注していたDGX Spark が到着しました。
こちらの記事で既に多くの検証が行われているため、特に目新しい情報はないかもしれませんが、動作確認を兼ねて gpt-oss 120B の実行まで試しました。
今回の検証においても、記事が非常に参考になりました。
gpt-oss 120bの実行については、公式通りのOpenWebUIを使用しています。
初期設定
初期設定としてユーザー、パスワード、ロケールの設定を行うと初期設定でしばらく待つことになります。
40分ほど待ったと思います。
DGX Dashboard
ブラウザでhttp://localhost:11000にアクセスするとDGX Dashboardが表示されます。
nvidia-smi
nvidia-smiを実行すると、以下のエラーが出ました
NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA driver.
DGX Dashboardでアップデート
ダッシュボートのsettingsにあるSystem Updateを実施しました。
アップデート後は再起動を要求されます。
再起動後に無事nvidia-smiが応答するようになりました。
serio@spark-c499:~$ nvidia-smi
Fri Nov 14 06:49:14 2025
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 580.95.05 Driver Version: 580.95.05 CUDA Version: 13.0 |
+-----------------------------------------+------------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+========================+======================|
| 0 NVIDIA GB10 On | 0000000F:01:00.0 On | N/A |
| N/A 45C P0 7W / N/A | Not Supported | 3% Default |
| | | N/A |
+-----------------------------------------+------------------------+----------------------+
+-----------------------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=========================================================================================|
| 0 N/A N/A 3293 G /usr/lib/xorg/Xorg 256MiB |
| 0 N/A N/A 3481 G /usr/bin/gnome-shell 172MiB |
| 0 N/A N/A 5008 G .../7297/usr/lib/firefox/firefox 322MiB |
+-----------------------------------------------------------------------------------------+
Start Building on DGX Sparkの手順でgpt-oss 120bを実行
こちらに色々なサンプルが掲載されており、
今回はこの中のOpenWebUI with Ollamaを試しています。
-
手動設定のページに移動
-
Dockerをログインユーザーで使えるように権限設定
ここからは手動設定のページにある手順です。sudo usermod -aG docker $USER newgrp docker -
コンテナイメージをPull
OpenWebUIのコンテナイメージをPullします。
Ollama連動版ですのでコンテナ1つでOllamaとOpenWebUIが連動しています。docker pull ghcr.io/open-webui/open-webui:ollama -
コンテナ起動
docker run -d -p 8080:8080 --gpus=all \ -v open-webui:/app/backend/data \ -v open-webui-ollama:/root/.ollama \ --name open-webui ghcr.io/open-webui/open-webui:ollama -
起動するまで待つ
docker psで状態が見られます。
コンテナの状態がhelthyになるまで待ちましょう。
-
OpenWebUIにアクセス
ブラウザでhttp://localhost:8080にアクセスします。 -
初回起動時は管理者の登録が必要です。
登録するとチャットインターフェースが表示されます。 -
gpt-oss 120bのダウンロード
画面左上のモデルを選択をクリックすると検索ボックスがあるので、ここにgpt-oss:120bと入力すると、「Ollama.com から "gpt-oss:120b" をプル」 という表示が現れます。
それをクリックすると、以下のようにモデルのダウンロードが始まります。
ダウンロードには30分近くかかったと思います。
-
モデル選択
ダウンロード完了後は、モデルが選択できるようになるため、gpt-oss:120bを選択してチャットすることができるようになります。
何度か試した範囲の応答速度は37TPSくらいでした。
十分に実用的な応答速度でした。
チャット利用時のメモリ使用状況
起動直後のメモリ使用量は15GB程度でしたが、gpt-oss 120bを指定してチャットをしているときは目いっぱい使用されていました。
まとめ
開梱から2時間少々でお手軽にgpt-oss:120bを試すことができました。
また、応答速度も速くこの小さな箱の中で動いているんだと思うと感動しました。
今後、ローカルモデルの検証に活用していきたいです。
Discussion