Bedrcokの基本用語整理
概要
これまでに簡単にBedrockを触ってみて用語の情報が点になっていたので備忘録としてBedrockの主要な用語 - 公式ページにまとめられている内容をもとに整理しようと思う
※整理していくなかで派生した概念(オーケストレーションのフローとか)も込みでまとめる
※公式の内容を読んでぱっとイメージできなかったもののみ取り上げて整理しておく
わかりにくかった用語
基盤モデル(FM)とベースモデル
この2用語についてはわかりにくかったというより違いが何かが気になった
おおまかな理解だと、
- 基盤モデル(FM)は、トレーニング済みのモデル本体のこと
- ベースモデルは、プロバイダーが基盤モデルに対してパラメータを調整したうえでサービスとして提供している場合の呼び方
まとめるのがちょっと難しいけど、
各プロバイダーがベースモデルとしてAWS上ですぐに使える形で提供してくれていて、
ベースモデル内のモデル本体が基盤モデル(基本アルゴリズム的な)ってイメージなのかな。
ザックリとした理解であればほぼ同じものと思っておいてもいいかも。
実際マネコン上からだと「ベースモデル」っていうワード自体なさそうだし。
多分だけど、マネコン上の基盤モデルっていうワードはベースモデルとした方がしっくりくる
推論パラメータ
ベースモデルに対して調整できるランダム性と多様性、長さといった項目のこと
じゃあ次にランダム性と多様性、長さって何ってなるけど
これらについては、
がわかりやすかったので参照
オーケストレーションとエージェント
エージェントっていうのは、ベースモデルを使ってユーザーからの質問ややってほしい事などに対する回答を生成したうえで、
生成した回答内容に記載されている「ユーザーがやりたいであろうアクション」を実行してくれるもの
つまり、ユーザーとやり取りをして会話しながら、ユーザーが実現したいことを実行までしてくれるってことか
そして、このエージェントを使ったRAGを行うためにナレッジベースを定義することもできる
公式 - エージェント
にわかりやすい図とともに以下の2点が書いてある(多分翻訳がおかしいから英語で読んだ方がいい)
- 実際にエージェントを設定するのはどうやるのか(設定項目やその説明)
- 設定したエージェントがどう動いていくのか
エージェントを設定するさいに「アクショングループ」を設定するんだけど、
これが「ユーザーが実現したいことを実行」できる機能ってイメージかな
フロー
サポートされる基盤モデル (FMs) を使用して、プロンプト、基盤モデル、その他の AWS サービスをリンクしてend-to-endソリューションを作成できる機能
まとめ
個人的にわかりにくかった用語の理解度をあげるための整理はできたと思うから、
次は実際にBedrockでエージェント構築してみたりしてその時躓いたところを挙げていこうと思う。
Discussion