Zenn
🐈

[GPUSOROBAN]GPUのクラウドサービスの解説

2024/11/12に公開
AI
GPU
エンジニア，プログラミング
tech

はじめに

ここ数年，AIを使った画像生成(Stable Diffusion)，自社のチャットボットの開発のために既存の大規模言語モデル(LLM)などを再学習するなど多くの場面でGPUの需要が高まってきています．
しかし，専用のGPUサーバの購入・維持するには高額なコストがかかるため，クラウドベースのGPUサービスの人気が高まっています．
今回はその中でも特に注目されている「GPUSOROBAN」について使い方を解説していきます．

GPUSOROBANとは

GPUSOROBANは，高性能GPUを時間単位で利用できるクラウドサービスです．

料金体系

インスタンスファミリー s16-1-a s16-1-b t40-1-a t80-1-a t40-8-a t80-8-a
特徴 NVIDIA A4000 16GBx1枚 NVIDIA A4000 16GBx1枚 NVIDIA A100 40GBx1枚 NVIDIA A100 80GBx1枚 NVIDIA A100 40GBx8枚 NVIDIA A100 80GBx8枚
GPUメモリ 16GB GPUメモリ 16GB GPUメモリ 40GB GPUメモリ 80GB GPUメモリ 320GB GPUメモリ 640GB
Ubuntu OS Windows OS Ubuntu OS Ubuntu OS Ubuntu OS Ubuntu OS
従量課金の場合 ¥50/時間 - ¥361/時間 ¥398/時間 - -
月額課金の場合 ¥33,000/月 ¥54,450/月 ¥223,133/月 ¥243,631/月 ¥1,320,184/月 ¥1,985,940/月
GPU NVIDIA A4000 16GBx1枚 NVIDIA A4000 16GBx1枚 NVIDIA A100 40GBx1枚 NVIDIA A100 80GBx1枚 NVIDIA A100 40GBx8枚 NVIDIA A100 80GBx8枚
GPUメモリ 16GB 16GB 40GB 80GB 320GB 640GB
vCPU 11コア 20コア 15コア 20コア 254コア 254コア
システムメモリ 50GB 96GB 115GB 220GB 1TB 2TB
ストレージ standard: 100GB standard: 500GB standard: 100GB standard: 100GB 15TB 15TB
容量UPはお問い合わせ 容量UPはお問い合わせ 500GB・1TBは別途料金 500GB・1TBは別途料金 容量UPはお問い合わせ 容量UPはお問い合わせ
OS Ubuntu Windows Ubuntu Ubuntu Ubuntu Ubuntu
プリインストール Docker, CUDA, PyTorch等 NVIDIAドライバ等 Docker, CUDA, PyTorch等 Docker, CUDA, PyTorch等 Docker, CUDA, PyTorch等 Docker, CUDA, PyTorch等
演算性能 (FP32) 19.2TFLOPS 19.2TFLOPS 19.5TFLOPS 19.5TFLOPS 156TFLOPS 156TFLOPS
演算性能 (TF32) 153TFLOPS 153TFLOPS 312TFLOPS 312TFLOPS 2.5PFLPOS 2.5PFLPOS
演算性能 (FP64) - - 9.7TFLOPS 9.7TFLOPS 77TFLOPS 77TFLOPS

[公式サイト]GPUSOROBAN 料金体系

使い方

以下のような仕組みになっています．
GPUSOROBANの仕組み
GPUSOROBANの仕組み

VSCodeからGPUSOROBANを使う方法(Mac)

  1. GPUSOROBANにログインしてGPUのインスタンスを起動

  2. インスタンスを起動した画面の下部にあるアクセス用の秘密鍵ダウンロード

  3. VSCodeにて.ssh/configファイルの設定
    以下の内容を設定

        Host <instance-name>
    HostName <IP-adress>
    Port 22
    User user
    IdentityFile ~/.ssh/key.txt
    ProxyCommand ssh -W %h:%p -i ~/.ssh/ackey.txt -p 30022 user@as-highreso.com
    LocalForward 8888 localhost:8888

  4. 3で設定したファイルの名前を変更し，場所を移動

    mv "/Users/(username)/Downloads/GPUSOROBAN key.txt" "/Users/(username)/Downloads/key.txt"
    : ダウンロードされたファイル名を変更(上記に合わせる)
    mv ~/Downloads/key.txt ~/.ssh  : ファイルの移動
  1. VSCodeの拡張機能でRemote-SSHを追加し，「ホストに接続する」から接続します
  1. SSH接続後，最初からPython, Pytorch, 仮想環境が構築されています(無料版だとPythonが入っていないかも？)
    以下，バージョンの確認などのコマンドと仮想環境への入り方です．
nvidia-smi : NVIDEAドライバのバージョン
nvcc -V : CUDA

ls ~/.venv 
-> base  tf001_py1  torch1_0

source ~/.venv/torch1_py0/bin/activate

結論

今回はGPUSOROBANの使い方を解説しました．皆さんのお役に立てれば幸いです．

Discussion