🙆

Ryzen AI Max+ 395 搭載 GMKtec EVO-X2 レビュー

に公開

今、技術者やクリエイターの間で熱い視線を集めているのが「GMKtec EVO-X2」です。ローカルAIの開発4K動画編集さえも現実的にこなせてしまう、「Ryzen AI Max+ 395」を搭載しているからです。

話題のAMD Ryzen AI Max+ 395がなにが凄いのかAIに聞いてみたら・・・。

想像してください。70B(700億パラメータ)のLLMを、自宅のデスク上でサクサク動かせる世界を。データセンター級の処理能力が、わずか193×186×77mmの筐体に収まっているのです。現時点で「最強のAPU」を搭載したEVO-X2。その内蔵GPU「Radeon 8060S」は、なんとデスクトップ版RTX 4060に匹敵する性能を誇ります。しかも、最大128GBLPDDR5X 8000MHz 8チャンネルの超高速メモリにより、巨大なAIモデルもスワップなしで処理可能。

おお、凄いねw
NVIDIAのRTX3060/12GBやRTX4060Ti/16GBで一生懸命、LLM動かそうとしていたけど、いつも

CUDA error: 'out of memory'

の非常なメッセージ。一方、Macユーザーの方々は128GBの「ユニファイドメモリ」を動的にやりくりし、巨大モデルを動かす。羨ましい。しかし、その環境を手に入れるためのコストは60万円。
この「GMKtec EVO-X2」が搭載するAPU(Ryzen AI Max+ 395)は、Appleとは違うアプローチで、システムメモリ128GBのうち、最大96GBを「VRAM」として固定割り当てを可能としています。これは、CUDA一筋だった私が、NVIDIAの支配に逆らって「ROCm」環境に初めて手を出すに十分すぎる理由でした。あのRTX 4090 (24GB) さえ霞んで見える、96GBのVRAM。M4 Macの半額以下で手に入るこの「AIゲームチェンジャー」が、本当にCUDAの牙城を崩すのか。実機で検証していきます!

GMKtec EVO-X2」はAmazonでセールをやっていることが多く、値引き率も高いのでおススメです!
https://www.amazon.co.jp/dp/B0F5H9KS9R?th=1&linkCode=ll1&tag=nabelabs-22&linkId=03e0d0c8626fd1b723946524a68fbffb&language=ja_JP&ref_=as_li_ss_tl
Amazonでポチったら、翌日に届きました!早い!

開封の儀

230Vの電源アダプタ、PSE付き 19.5V 11.8A

背面の大きなパンチングメッシュは、吸気・冷却で大事。横置きだと塞いでしまう?

Windows11を起動したら、まずはこの16コア・32スレッドを確認したくなる?

UPSで実測したところ、定常時10W程度しか使ってない

省電力なのが実感できて、これはかなりいいんじゃないか?と思いました。

無事にWindows11が起動したので、次は、Ubuntuのインストールをやります。

https://www.amazon.co.jp/dp/B0F5H9KS9R?th=1&linkCode=ll1&tag=nabelabs-22&linkId=03e0d0c8626fd1b723946524a68fbffb&language=ja_JP&ref_=as_li_ss_tl

Discussion