RTX 5090、キミにきめた！
はじめに
私はMac Studio（M2 Ultra 128GB）、EVO-X2（Ryzen AI Max+ 395 128GB）とRTX 3060を搭載したデスクトップPCを所有しており、RTX 3060機の後継をずっと検討していた。具体的には下記の4つで悩んでいた。
- DGX Spark（128GB）：60万〜80万
- RTX 5090（32GB）：40万〜50万
- RTX PRO 6000（96GB）：135万〜150万円
- RTX 5070 Ti Super（24GB？）：未発売、15万円程度？
悩みに悩んだ結果、私はRTX 5090を選択した。本記事ではその理由を備忘録的にまとめる。
三種の神器
まず、当初私はDGX Sparkを第一候補に考えていた。理由はMac Studio、Ryzen AI Max+ 395が両方ともユニファイドメモリ128GBを備えていて、DGX Sparkが御三家に入るという認識だったからだ（頭の悪い理由ですみません）。
しかし、価格とベンチマーク性能を見て選択肢からは外すことにした。なぜならMac Studio、Ryzen AI Max+ 395と役割が被っていて、自分には60万円の価値を享受できると思えなかったからだ。わかりやすく表にまとめると下記の通り。
| 機種 | 私が唯一無二に感じること | 用途 |
|---|---|---|
| Mac Studio | メモリ帯域幅の高さ | LLM, VLMサーバ |
| Ryzen AI Max+ 395 | コスト、拡張性・汎用性（amd64） | メインマシン及び引退後の自宅サーバ |
| DGX Spark | CUDAが使えること | ？？ |
上記のように、CUDA以外はMac StudioとRyzen AI Max+ 395でわりと事足りている。
では何を求めているのか？
それでは自分に足りないものはなにか？そう考えるとCUDA環境はやはり必須で、そのうえでRTX 3060で何が足りないか？という質問と同義になる。
それを考えた結果、私が今欲しいのはVRAMよりもGPU性能の高いハードウェアが欲しいという結論になった。
おそらく学習を行う場合はVRAMも潤沢に必要になりそうだが、私はどちらかというとCUDAを使った新しいモデルやツールをいち早く試したい、そして何度も試行錯誤したいという欲求が強い。
DGX SparkはVRAMが潤沢なので試すだけなら要求を満たせるものの、何度も試行錯誤をするにはGPU性能が足りないと言わざるを得ない。LLM,VLMの推論ではM2 Ultraの方が速いし、画像生成・動画生成の速さならRTX PRO 6000かRTX 5090が最速だろう。
RTX PRO 6000かRTX 5090か
正直コストを気にしないならば、RTX PRO 6000（96GB）一択だろう。個人的には消費電力は低いほど嬉しいのでMax-Qの方が欲しい。しかし、個人で買うには140万円は流石に躊躇してしまう。
判断基準としては自分が何年使う覚悟があるかと、そのタイミングでのリセールバリューが重要になる。
参考までに、私が調査した限りの情報を下記にまとめる。
| GPU | 発売日 | 発売時価格（目安） | 現在の中古買取価格（目安） |
|---|---|---|---|
| RTX 6000 Ada | 2023/2 | 約100万円？ | 〜35万円程度 |
| RTX PRO 6000 | 2025/5 | 約140万円 | ？？ |
| RTX 3090 | 2020/9 | 約20万円 | 〜6万円程度 |
| RTX 4090 | 2022/10 | 約30万円 | 〜20万円程度 |
| RTX 5090 | 2025/1 | 約45万円 | ？？ |
この情報だけを見ると、ワークステーション向けGPUはリセールバリューがあまり期待できないことがわかる。つまり買うからには長期間使う覚悟が必要だ。
一方、RTX 4090は3年経過した今でもリセールバリューが高い。まあこれは少し異常な気もするので2〜3年後には20万円で売れる想定とする。その場合、RTX 6090を実質20〜30万で手に入れられることになるという皮算用ができ、RTX PRO 6000のリセールを考えてもまだこちらの方が安い（RTX 6090が40〜50万で買える想定）。
おまけに私の性格上、買い替えたければいつでも買い換えられる選択肢が欲しいので、上記皮算用込みで最終的にRTX 5090、キミにきめた！
RTX 5070 Ti Superは選択肢にないのか？
いつ発売になるかわからないのと、発売が遅れそうという噂を聞いてRTX 5090購入を決意した。それと、その間に新しいモデル等が出てすぐに試せないのは悔しいし、安く買える保証もない。
VRAM 32GBで大丈夫なのか？
もちろん96GBには勝ち目がない。モデルのサイズが大きくなりつつある現状、32GBで足りないこともあることは承知している。しかし、画像生成・動画生成界隈はものすごい勢いで課題解決が進んでおり、正直RTX 3060（12GB）でもメインメモリが128GBあればなんとかなることがわかった。
そのため、繰り返しになるが画像・動画生成においてはVRAMよりもGPU性能が重要であり、RTX 5090が最良の選択だと判断した。ただ使うだけでなく試行錯誤もしたいので、時間を買うことにもつながる。
RTX 5090のデメリット
これまでRTX 5090のメリットばかりあげてきたが、デメリットについても触れておく。VRAM容量以外に、最大消費電力が575Wととんでもなく高いことを忘れてはならない。そのため、電源選びや運用方法は検討が必要になる。
とりあえず私は電源に1000Wを選んだのもあり、消費電力を抑えたかったので電力制約を最小の400Wで運用している。詳細は下記の記事を参照されたい。
まとめ
本記事では私がRTX 5090を選んだ理由を主観全開で備忘録的にまとめた。
これからローカルAIを触れることになる方向けのアドバイスとしては、金に糸目をつけないならRTX PRO 6000一択だろう。LLM、VLM推論だけで安く抑えたいとか、巨大なモデルも触ってみたいならMac Studio（M3Ultra 512GB）も選択肢に入る。
あとはDGX Sparkについて。私は所有していないので憶測になるが、SparkはOSがUbuntuしか選べず、CPUもamd64ではないため、特に発売当初はかなり玄人向けの製品に仕上がっているのでは？と思っている。これまで触れてこなかった人たちがUbuntuやLinuxに入門し、結果的にシェアを伸ばしてくれたら嬉しいが、果たしてどうなるか。
DGX Sparkだからこそできることも必ずあるはずだと思っていて、今後増えるであろうDGX Spark関連のレビュー記事も楽しみにしている。
Discussion