NVIDIA GPUの性能比較

2023/06/01に公開

AIスタートアップ株式会社Deepreneur(ディープレナー)の澤田です。
弊社で実施したNVIDIA GPUの性能比較に関するサーベイを公開します!

概要

NVIDIAは、データセンター、ワークステーション、そしてコンシューマー向けのグラフィックスアクセラレータを提供していることで知られる企業です。各GPUモデルにおける性能には差があります。そこで、NVIDIAのGPUに関するサーベイを実施し、最先端のGPUをどれほど把握しているのかを詳細に解説します。

NVIDIAのGPUモデル

NVIDIAは、Geforce、Quadro、Titan、Teslaの4つのカテゴリーでGPUモデルを提供しています。それぞれの違いは、用途や性能、バッファーなどです。以下に、最新のTeslaシリーズにおける性能比較を示します。

GPUモデル Tensor Cores数 CUDAコア数 メモリ容量 メモリバンド幅 TDP 価格
Tesla T4 320 2,560 16 GB GDDR6 320 GB/s 70 W $2,500
Tesla V100 5,120 5,120 16 GB HBM2 900 GB/s 250 W $8,000
A100 6,912 6,912 40 GB HBM2 1.6 TB/s 400 W $11,000

GPUモデルによる性能差

T100、V100、そしてA100のようなGPUモデルには、それぞれ消費電力やGPUコア、メモリバンド幅、Tensor Cores数などに差があります。一般的に、エンタープライズ向けのGPUは、高性能である一方で、コンパクトなGPUは、コストと性能のバランスを考慮されています。

以下は、コンパクトなGPUモデルにおける性能の比較表です。

特徴 テスラ T4 テスラ K80
建築 ヴォルタ マクスウェル
CUDA コア 2,560 4,992
メモリー 16GB GDDR6 24GB GDDR5
クロック速度を上げる 1.582GHz 875MHz
消費電力 70W 300W

結論

GPUモデルによって、Tensor Cores数、CUDAコア数、メモリ容量、メモリバンド幅などが異なるため、性能に差があります。最新のGPUモデルは、消費電力に配慮しつつ、性能を追求したものが多く、エンタープライズでの使用が適しています。コンパクトなGPUモデルでは、T4が最新で、L4、A10、そしてK80の順で性能が高く、コスパに優れるという特徴があります。

参考

Discussion