NVIDIA: AI関連プラットフォームまとめ
はじめに
本記事では、NVIDIAが提供しているAI関連のプラットフォームやサービス、ツールなどについてそれが何なのか簡単にまとめています。作者が気になったものが出てきたりしたタイミングで随時更新しています。内容が間違っている可能性も十分あるので、間違いを見つけたら教えて下さい。
NVIDIA GPU Cloud (NGC)
NVIDIA GPU Cloud (NGC)とは、AI関連のツールやコンポーネントなどを提供するまず最初の入口となるポータル的なものです。開発者は後述の各種サービスをカタログから参照して利用することになります。
NGCに関する日本語の説明サイトは以下。
NVIDIA Base Command
NVIDIA Base Commandとは、AI学習用に利用できるクラウドのジョブ実行環境です。サービスはNGCポータル経由で提供されます。
日本語での説明サイトは以下。
NVIDIA Cloud Functions (NVCF)
NVIDIA Cloud Functions (NVCF)とは、GPUに特定のコンテナをデプロイしてサービスとして利用したりするためのいわゆるGPU特化のクラウドです。サービスはNGCポータル経由で提供されます。
NVIDIA NeMo
NVIDIA NeMoとは、生成AI（学習および推論）の開発からデプロイに関わる必要なコンポーネントなどを提供するプラットフォームです。サービスはNGCポータル経由で提供され、NGCカタログでどんなものがあるか確認することが出来ます。
NeMoの各コンポーネントはDockerコンテナ化されているため、利用やデプロイが非常に簡単です。
日本語での説明サイトは以下。
NVIDIA NIM
NVIDIA NIMとは、NeMoの中でも推論に特化したサービスを提供するコンポーネント群の総称です。学習は開発者が使うことが多いのに対して、推論は開発者がデプロイして実際のユーザが使うことが想定されているため、本番環境に簡単にデプロイすることが出来ます。
サービスはNGCポータル経由で提供されます。
日本語での説明サイトは以下。
Build.nvidia
以下のbuild.nvidia.comで、各NIMのサンプル動作をWebページ上で確認することが出来ます。
Discussion