Zenn
🎹

今流行りの複合llm　oss「dify」をとりあえずgcpにデプロイしてみた

2024/04/10に公開
Google Cloud
ChatGPT
LLM
生成 AI
Dify
tech

概要

手軽に自分でdify環境を作りたいときの備忘録
ロードバランサー使ってるからhttps化も楽ちん

前提条件

  • GCPアカウントとプロジェクトの作成が完了していること
  • gcloudコマンドラインツールがインストール済みであること

手順

1. GCEインスタンスの作成

  1. GCPコンソールから、Compute Engineのインスタンス作成画面を開きます。
  2. インスタンスの名前、リージョン、ゾーン、マシンタイプを指定します。
  3. ブートディスクにはContainer-Optimized OSを選択します。
  4. ファイアウォールでHTTP/HTTPSトラフィックを許可するよう設定します。
  5. インスタンスを作成します。

2. docker-composeのインストールと設定

  1. 作成したインスタンスにSSH接続します。

  2. 以下のコマンドを実行し、docker-composeをインストール。

    docker run docker/compose:1.29.2 version

  3. 次のコマンドを実行し、ターミナル上でdocker-composeコマンドが利用できるようにします。

    echo alias docker-compose="'"'docker run --rm \
-v /var/run/docker.sock:/var/run/docker.sock \
-v "$PWD:$PWD" \
-w="$PWD" \
docker/compose:1.29.2'"'" >> ~/.bashrc

source ~/.bashrc

3. Difyのデプロイ

  1. Difyのソースコードをクローンします。

  2. クローンしたディレクトリに移動し、以下のコマンドでDifyを起動します。

    docker-compose up -d --build

  3. http://[インスタンスの外部IP]/installにアクセスし、初期設定を行います。

4. インスタンスグループの作成

インスタンスグループを利用してロードバランサーと繋げます。
アンマネージドで作成しました。

5. ロードバランサーとSSL証明書の設定

  1. GCPコンソールから、Cloud Load Balancingの設定画面を開きます。
  2. HTTP(S)ロードバランサーを作成します。
  3. バックエンドに手順4で作成したインスタンスグループを追加します。
  4. フロントエンドの設定で、SSL証明書を追加します。
    • マネージド証明書を使う場合は、ドメインを指定して証明書を作成
  5. ロードバランサーの設定を保存します。

6. 動作確認

ロードバランサーに設定したドメインにアクセスし、SSL証明書が正しく機能していることとDifyが表示されることを確認します。

まとめ

以上で、GCE上でDifyを起動し、インスタンスグループとCloud Load BalancingでSSL証明書を設定する手順は完了です。Difyを使えば、LLMを活用した高度なアプリケーションを素早く開発できます。ぜひ活用してみてください。

aiを活用して業務改善を行なってます！
お仕事あったらtwitterから連絡いただけたら幸いです！

Discussion