DifyをDockerにのせて起動しただけでは、GTP-4oなどのLLMを使ったチャットボットを作ることができません。
APIキーの設定をする必要があります。
この記事では、APIキーの作成を説明します。

OpenAI APIでAPIキーを作成する

下記URLにアクセスします。
https://openai.com/index/openai-api/

「Sign up」をクリックします。

ログイン方法を聞かれます。皆さんの持つアカウントに合わせるでOKです。
私の場合は、すでにGoogleアカウントと紐づいており、「Googleで続行」をクリックしました。

「Dashboard」をクリックします。

「API Keys」をクリックします。

「Create new secret key」をクリックします。

「Name」を入力して、「Create secret key」をクリックします。

APIキーが生成されました。「Copy」をクリックして、手元にひかえておきましょう。

DifyでAPIキーを設定する

ここからはDifyの画面操作となります。

「設定」をクリックします。

「モデルプロバイダー」のOpenAIにある「セットアップ」をクリックします。

先ほど控えたAPIキーを設定して「保存」をクリックします。

ここからは、実際に動かしてみます。

Difyのトップ画面に戻り「最初から作成」をクリックします。

必須項目を設定して「作成する」をクリックします。

ここで、LLMが設定できるようになります！「GPT-4o」を選択しましょう。（他のモデルでもOKです）

右のチャットボックスで動作確認しましょう。

いかがでしたでしょうか。
APIキー作成と設定のところが、つまずきポイントかなと最近思いこの記事を投稿してみました。