🦔

AIインフラストラクチャーにおいて欠かすことの出来ないGPUとは

に公開

はじめに

近年の大きなトレンドである生成AIですが、それを構成するうえで欠かすことが出来ないインフラストラクチャー、それがGPU(Graphics Processing Units)です。
本稿では、このGPUとは何者なのか、Google Cloudにおいてどのようなサービスで利用されているかについて記載したいと思います。

GPUとは

GPUとは画像や動画を処理するために利用されるもので、もともとはゲームや映像処理に特化して開発されました。しかし、その膨大なデータを同時に処理することが出来る能力が注目され、近年ではAI分野でも使われています。
GPUは単純な計算処理を並列で行うことに強みがあります。従来のCPU(Central Processing Unit)とは担う役割が異なりますので、処理内容に応じて使い分ける必要があります。

Google CloudにおけるGPU

GPUを製造するメーカーは多岐にわたりますが、Google CloudではNVIDIAによって開発されたものを利用しています。
近年のAIトレンドによって見聞きしたことがある方もいらっしゃるかもしれませんが、NVIDIAはGPUの開発で世界をリードするアメリカの企業です。Google CloudではNVIDIAで開発されている多種多様なGPUタイプを利用することが出来ます。
このNVIDIAが開発するGPUを使用することが可能なGoogle Cloudサービスには以下のようなものがあります。※1,2,3,4

• Vertex AI
• Cluster Director
• Compute Engine
• Cloud Run
• Google Kubernetes Engine
• Dataproc
• Dataflow

※GPUが利用可能な全てのサービスを網羅的に記載しているわけではないこと、利用時期によっては変わる可能性があることにご留意ください。

脚注)※1 Google Cloud, Google Cloud の GPU について | Compute Engine Documentation, (参照2025年8月21日)
脚注)※2 Google Cloud, Google Kubernetes Engine(GKE)の GPU について | Google Kubernetes Engine (GKE) | Google Cloud, (参照2025年8月21日)
脚注)※3 Google Cloud, クラスタへの GPU の接続 | Dataproc Documentation | Google Cloud, (参照2025年8月21日)
脚注)※4 Google Cloud, Dataflow の GPU の概要 | Google Cloud, (参照2025年8月21日)

GPUの利用にあたって

実際にGPUを利用するにあたって、利用可能なGPUの種類や費用など気になることが様々あるかと思います。ここではそういった方向けに、参考資料として、Googleが公開している公式ドキュメントをご紹介いたします。

GPU マシンタイプ | Compute Engine Documentation | Google Cloud
 利用可能なGPUのマシンタイプについてはこちらをご参照ください。
GPU の料金 | Google Cloud
 GPUの利用料金についてはこちらをご参照ください。
GPU の制限事項 | Compute Engine Documentation | Google Cloud
 GPUを利用するにあたって注意しておくべき制限事項についてはこちらをご参照ください。

TPUについて

ここまではGPUについて記載してきましたが、関連するものとしてTPU(Tensor Processing Unit)についてもご紹介いたします。
TPUは、Googleによってカスタム設計されたAIアクセラレータで、AIモデルのトレーニングや推論向けに最適化されたものです。大規模言語モデル(LLM)の構築など、大規模な行列計算を伴う複雑なディープラーニングモデルのトレーニングに活用されています。
本稿の主題として取り上げているGPUとは異なり、TPUは特定のタスク(TensorFlowを利用したディープラーニング処理など)に特化しています。GPUは画像処理や並列計算など幅広い用途に適しているのに対し、TPUは効率的かつ低消費電力な設計により、特にAIモデルのトレーニング推論といったワークロードに最適化されています。詳細は、公式ドキュメントをご参照ください。

脚注)※5 Google Cloud, Tensor Processing Unit(TPU)| Google Cloud, (参照2025年8月21日)

まとめ

本稿ではGPUとは何か、Google Cloudではどのようなサービスで利用できるのか、といったことについて記載いたしました。前述の通り、AIを利用していくにあたってGPUは切り離すことのできない重要なインフラストラクチャーです。これを機に、GPUについてもっと知りたい、実際に自分の手で触れてみたいと思っていただけたら幸いです。

執筆者

原田 貴之
デロイト トーマツ コンサルティング合同会社 シニアスペシャリスト

日系SIer企業を経て現職。Google Cloudの中では、特にインフラ領域を得意としている。Google Cloudの資格全13種を保有。

デロイトトーマツグループ エンジニアリングブログ

Discussion