🙂

Nvidia driver, CUDA Toolkit, cuDNNにおけるバージョン組み合わせ解の解き方

2022/11/03に公開

Ubuntu

環境

$ inxi -SCGxx --filter
System:    Kernel: 5.15.0-46-generic x86_64 bits: 64 compiler: N/A Desktop: Unity wm: gnome-shell dm: GDM3 
           Distro: Ubuntu 20.04.4 LTS (Focal Fossa) 
CPU:       Topology: Quad Core model: AMD Ryzen 5 1400 bits: 64 type: MT MCP arch: Zen rev: 1 L2 cache: 2048 KiB 
Graphics:  Device-1: NVIDIA TU116 [GeForce GTX 1660 Ti] vendor: Micro-Star MSI driver: nvidia v: 515.65.01 bus ID: 08:00.0

これはなにか

Ubuntu 20.04においてNvidia driverなどのインストールは半分自動的に行われます。

$ wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-keyring_1.0-1_all.deb
$ sudo dpkg -i cuda-keyring_1.0-1_all.deb
$ sudo apt-get update
$ sudo apt-get -y install cuda

$ sudo apt-get install -y nvidia-cuda-toolkit
$ sudo apt-get install -y libcudnn8
$ sudo apt-get install -y libcudnn8-dev
$ sudo apt-get install -y libcublas

ところが推奨インストールされるドライバーなどのバージョンではシステムが正常に動かないことがまれにあります。
そうした時の処方箋です。

結論

以下の情報を確認
- GPUカードのアーキテクチャ(microarchitecture)
- ディスプレイドライバのバージョン
- Compute Capabilityの数値
- CUDA Toolkitのバージョン
- cuDNNのバージョン
- 集めた情報を整理する
確認した情報をもとに導入

詳細

アーキテクチャを調べるには
1. List of Nvidia graphics processing unitsからお使いのGPUカードを検索してください。例えばGeForce 1660tiならば以下の画像のように表示されますので「アーキテクチャ = Turing」と分かります。
ディスプレイドライバのバージョンを知るには
1. NVIDIAドライバダウンロードにアクセスして持っているビデオカードやOSの種類を選択して検索ボタンを押すと、どのドライバが良いか結果を出してくれます。ダウンロードタイプは「製品ブランチ」を選んでください。（このときのドライババージョンは目安です。）
GPU Compute Capabilityを知るには
1. GPUs supportedの項のテーブルから検索します。
  
  たとえばGeForce GTX 1660 Tiなら「7.5」であることが分かります。
CUDA Toolkitのバージョンを知るには
1. cuDNN Support Matrixを参照してアーキテクチャから調べます。CUDA Compute CapabilityはGPU Compute Capabilityのことです。上述したとおり「7.5」なのでここでは複数のバージョンを選べるよということになります。
  
  どれを選ぶかは上述した「ドライバのバージョン」を参考にします。
  Table 3. CUDA Toolkit and Corresponding Driver Versionsを参照してください。
  
  ちなみにこのページは頻繁に更新されリンクも途切れやすくなっています。もしご自身のブックマークがリンク切れになった場合は「CUDA Toolkit Documentation」をキーワードとして検索してください。
  
  上の図より、ディスプレイドライバ「515.76」に対応するCUDA ToolkitのバージョンはCUDA 11.7であることが分かりました。
cuDNNのバージョンを知るには
1. 上述の「Table 1. Supported NVIDIA Hardware and CUDA Version」からcuDNNのバージョンは「8.6.0」ということが分かります。
集めた情報を整理する
1. 以上の作業から必要となるバージョンはこのようになります。
  - ディスプレイドライバのバージョン
    - 515.76
  - CUDA Toolkitのバージョン
    - 11.7
  - cuDNNのバージョン
    - 8.6.0

参考リンク

あとがき

Zennでの記事は参考リンクを簡略化して転載しました。
Nvidia GPUまわりは少し時間が経つと色々と変わります。公開鍵が変更されていたりubuntu-drivers autoinstallが非推奨になっていたり。環境構築自動化スクリプトを走らせた時に「なんだこれおかしいぞ」と気づくわけです。ディスプレイドライバまわりのバージョンを固定し忘れていると思わぬバグに遭遇したり。バージョン固定が正しいかというとそうでもなくて、時間が経つにつれ他のライブラリとの乖離が大きくなって不具合の原因になったことがあります。そういうわけで色々選択肢がありすぎるバージョン組み合わせを手作業で確認するマニュアルが必要と思い記事にしました。
お読み頂きありがとうございました。

環境

これはなにか

結論

詳細

参考リンク

あとがき

Discussion