GCE上でvoicevoxのGPUサーバーを立ててみた

WEB, iOS 上でvoicevoxを使ってみたくて
AWSとGCPについては、GPUリソースを取れたのがGCPの方だったのでそちらにしました。

サーバーの構成

機械学習用のイメージがもとから用意されていますが、CUDAのバージョンが古いので自分でインストールしました(CUDA Toolkit)

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin
sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda-repo-ubuntu2004-11-8-local_11.8.0-520.61.05-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2004-11-8-local_11.8.0-520.61.05-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu2004-11-8-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda

sudo apt-get update
sudo apt-get upgrade
sudo apt-get install wget p7zip-full libsndfile1
wget https://github.com/VOICEVOX/voicevox_engine/releases/download/0.14.4/voicevox_engine-linux-nvidia-0.14.4.7z.001
7z x voicevox_engine-linux-nvidia-0.14.4.7z.001
cd linux-gpu
sudo chmod +x ./run
sudo nohup ./run --host 0.0.0.0 --port 80 --use_gpu &

あとは外部 IPにアクセスすればOK