Amazon BedrockがGAされたので、触ってみた
Amazon Bedrockとは
AWS上でフルマネージドに生成AIモデルを利用できるサービスです。
Amazon Bedrock は、Amazon や主要な AI スタートアップ企業が提供する基盤モデル (FM) を API を通じて利用できるようにする完全マネージド型サービスです。そのため、さまざまな FM から選択して、ユースケースに最も適したモデルを見つけることができます。Amazon Bedrock のサーバーレスエクスペリエンスにより、すぐに FM を開始したり、FM を簡単に試したり、独自のデータを使用して FM をプライベートにカスタマイズしたり、AWS のツールや機能を使用して FM をアプリケーションにシームレスに統合してデプロイしたりできます。Amazon Bedrock のエージェントはフルマネージド型で、デベロッパーは独自の知識源に基づいて最新の回答を提供し、幅広いユースケースのタスクを完了できる生成系 AI アプリケーションを簡単に作成できます。
公式サイトはこちらです。
Bedrock内で提供されている基盤モデルを自由に選択し、さまざまアプリケーションなどから生成AIを利用することができます。
生成AIとは
生成AIではChatGPTが最も有名かと思いますが、これも生成AIの機能の一部であり、機能全体としてはAIが任意の入力に対して、保持している情報から適切な文章や画像などを生み出すものです。
この生み出す脳みそとなるのが、大規模言語モデル(LLM) と呼ばれるもので、ChatGPTの場合は「GPT-4」や「GPT-3.5」が裏で動いていたりします。最近ではMeta社が提供する「Llama2」やLINE社が提供する日本語モデル「japanese-large-lm」などさまざまなLLMが出てきています。
保持している情報から学習の度合いが変わるため、自社のデータを使ってさらに学習させることで特定の利用に特化した生成AIモデルを作ることも可能です。
最近では、エンタープライズ検索エンジン（Azure Cognitive SearchやAmazon Kendraなど）との連携で、検索機能は検索エンジンに任せ、その結果を元に生成AIが回答をまとめるといった使い方も注目されています。
やってみる
物は試しで触っていこうと思います。
ワークショップも早速提供されています。日本語化もされているので、非常に力の入れようがわかります。ただし、詳細な手順やコードはGithubにしかないので、そちらも参照しながら行うことをオススメします。
日本語版：
英語版：
このワークショップでは、以下の項目が用意されています。
- テキスト生成
- 文章要約
- 質問への回答
- チャットボット
- 画像生成
- コード生成
- エージェント
LangChainと組み合わせることでさらに活用方法が広がるのですが、こちらは一般的な使い方になるので、Bedrockの紹介とは別に取り組んでみたいと思います。
利用できるリージョン
2023/9/29現在、利用できるリージョンはオレゴン、バージニア北部、オハイオ、シンガポールとなっています。しかし、フルで利用するにはオレゴン・バージニアの2択となっています。
今回はバージニアで進めます。
利用できるモデル
Bedrockのサービスページに遷移すると、左下の「Model Access」から利用したいモデルの有効化を行います。
今回はAI21 LabsのJurassic-2 Midを使っていこうと思いますので、Editからチェックボックスを選択して保存します。しばらく有効化に時間がかかりますが、完了したらアカウントのメールアドレスに完了通知がきます。
Access StatusがAccess grantedになっていれば利用可能な状態になっています。
プロンプトエンジニアリングパターン
まずは基本的な使い方である、プロンプトエンジニアリングと呼ばれるチャットベースの生成AIの活用です。いわゆるChatGPTです。
左ペインの「Chat」から利用可能なモデルを選択すれば使えるようになります。
さらに、右下の「Update inference configurations」から各種パラメータを変更することも可能ですので、必要なパラメータはこちらから変更して利用してください。パラメータの詳細はChatGPT関連の記事でたくさん紹介されているので今回は割愛します。
若干ワークショップのUIとは異なりますが、できることは同じです。
Zero-Shotプロンプトを実践してみます。Zero-Shotプロンプトとは、いわゆる例示をせずに任意の回答を答えさせるプロンプトエンジニアリングです。単語を答えるなどであれば問題ないですが、少し複雑な回答を求めると若干チグハグになる場合があります。
ワークショップの例文をコピーして貼り付けてみると、回答自体は合っていそうです。一般的な回答は問題なくできる様子です。
次に、Few-Shotプロンプトを実践してみます。Few-Shotプロンプトとは、回答してほしい形式を指定したり、プロンプト内で簡単な学習を与えるための手法です。特定の分野を扱う場合や回答形式を指定したい場合などに有効な手法となります。
こちらもワークショップの例文をコピーして貼り付けてみます。それなりに考えて返してくれているように見えます。
この章は何となくいい感じにできたかなと思います。
まんまChatGPTなので、単純にモデルを試したい時などはコンソール画面から実行すれば手軽に試すことができます。
価格
最後に価格について、従量課金と固定時間課金の2種類あります。前者はいわゆるトークン換算される料金体系で、後者は時間単位での契約を行うことでスループットを担保するといった料金体系となっています。
詳しくは公式の料金ページをご参照ください。
感想
ついにAWS上でも生成AIを簡単に使うことができるようになりました！
これまでこのためにAzureを提案していたり、かなり曲がった方法を取っていたので、ユーザーとして選択肢が増えていくことには非常にいいことだと思います。
モデルの精度や他サービスとの連携など様々確認観点はありますが、取り急ぎ触ってみたメモとして残しておこうと記事にしてみました。継続してチェックをしていきたいと思います。
Discussion