dify をローカル実行 ( macos )

80 ポート以外で動かしたい、3000ポートで動かすゾイ

git clone https://github.com/langgenius/dify.git
cd dify/docker
docker compose up

open http://localhost:3000/install

くるくる回って先に進まんな

Naoki KOBAYASHI

web コンテナの ports 変更だけじゃ 80 ポート以外で動くようにはならんのか。うーん。
ちゃう、nginx:80->80 --> webコンテナじゃん。そりゃそうか。

nginx が

/
/console/api
/api
/files

を proxy してる。

よし

Naoki KOBAYASHI

AWS のクレジット範囲内で Bedrock 試すか。Bedrock 利用するにはどうすりゃいいんだ

2024.06.11 現在だと Clade 3 Opus が利用できないな

Claude3 sonet, Command+ を利用申請

AWS Marketplace のサブスクライブって形になるのか

サブスクリプションの解約は Marketplace から

Naoki KOBAYASHI

Amazon Bedrock を利用できるようにセットアップ

なるほど、IAM の Access Key, Secret Key アクセスかぁー、まぁそうか、そうだよな

心を鬼にして IAM 作るか
IAM ポリシー作成

{
	"Version": "2012-10-17",
	"Statement": [
		{
			"Effect": "Allow",
			"Action": [
				"bedrock:InvokeModel",
				"bedrock:InvokeModelWithResponseStream"
			],
			"Resource": [
				"arn:aws:bedrock:us-west-2::foundation-model/anthropic.claude-3-sonnet-20240229-v1:0",
				"arn:aws:bedrock:us-west-2::foundation-model/cohere.command-r-plus-v1:0"
			]
		}
	]
}

ポリシーをアタッチして IAM ユーザ作成

設定時に AWS アクセスして確認が行われるね、よい

Error code: 403 - {'Message': 'User: arn:aws:iam::xxxxxxxxxxxxx:user/BedrockAccessUser-20240611 is not authorized to perform: bedrock:InvokeModel on resource: arn:aws:bedrock:us-west-2::foundation-model/anthropic.claude-3-sonnet-20240229-v1:0 because no identity-based policy allows the bedrock:InvokeModel action'}

ごめん、リージョン間違ってるね

設定できたっぽい