Closed4
EVO-X2（Ubuntu）でVRAMを128GB使う方法
金のニワトリはじめに
こちらのYouTube動画を見て方法を知った。
金のニワトリ実際にやってみる
こちらの記事の手順通りに設定する。
まずは設定前のamdgpu_top画面はこちら（BIOSでVRAM 96GBに設定済）。
手順
- BIOS画面でVRAMを512MBに設定し、IOMMUを無効にする。
この設定で起動後のamdgpu_top画面
-
/etc/default/grubを編集する
$ sudo nano /etc/default/grub
GRUB_CMDLINE_LINUX_DEFAULT="quiet splash"をGRUB_CMDLINE_LINUX_DEFAULT="quiet splash amd_iommu=off amdgpu.gttsize=131072 ttm.pages_limit=33554432"に書き換える。
Ctrl+sでセーブ、Ctrl+xでnanoを閉じる。
- GRUBを更新する
$ sudo update-grub
- 再起動する
以上で完了。
金のニワトリVRAMが128GBになっていることの確認
$ cat /proc/cmdline
BOOT_IMAGE=/boot/vmlinuz-6.11.0-29-generic root=UUID=9abd2366-4dc4-49ac-8d86-39f28b2959f4 ro quiet splash amd_iommu=off amdgpu.gttsize=131072 ttm.pages_limit=33554432 vt.handoff=7
$ sudo cat /sys/module/amdgpu/parameters/gttsize
131072
amdgpu_topでも、GTTが131072MB(=128GB)になっていることを確認できる。
金のニワトリgpt-oss-120b-mxfp4の推論
gpt-oss-120b-mxfp4でllama-benchを回したときのamdgpu_topとシステムモニターの様子。
なるほど、メモリとVRAMを完全に分離することなく柔軟にまるまる128GBが使えるらしい。
今まで用途に応じてBIOS画面にいって調整をしていたが、これでまた一歩快適なEVO-X2ライフに近づいた。
このスクラップは26日前にクローズされました