re:Invent 2023: AWSによるAmazon Bedrockを用いた初めての生成AI開発
はじめに
海外の様々な講演を日本語記事に書き起こすことで、隠れた良質な情報をもっと身近なものに。そんなコンセプトで進める本企画で今回取り上げるプレゼンテーションはこちら！
📖 AWS re:Invent 2023 - Build your first generative AI application with Amazon Bedrock (AIM218)
この動画では、AWS re:Invent 2023で行われたAmazon Bedrockのセッションの内容を紹介しています。Generative AIの基礎から、Amazon Bedrockの機能、実際のデモまでを網羅的に解説。特に、Knowledge BaseやAgents for Amazon Bedrockを使った複雑なタスクの自動化や、RAGとfine-tuningの使い分けなど、実践的な知識が満載です。さらに、NatWest GroupやSalesforceなど、実際の顧客事例も紹介されており、Generative AIの可能性と実用性が理解できる内容となっています。 ※ 動画から自動生成した記事になります。誤字脱字や誤った内容が記載される可能性がありますので、正確な情報は動画本編をご覧ください。
本編
Amazon Bedrockを用いたGenerative AIアプリケーション構築セッションの概要
みなさん、こんにちは。本日は2023年 AWS re:Invent の初日です。このブレイクアウトセッション「Amazon Bedrock を使用した最初の Generative AI アプリケーションの構築」へようこそ。私は Sherry Ding と申します。AWS のシニア AI/ML スペシャリスト ソリューションアーキテクトです。本日は共同発表者の Kaustubh Khanke と一緒にお話しさせていただきます。Kaustubh は AWS の Amazon Bedrock チームのプリンシパルプロダクトマネージャーです。
このセッションでは、Generative AI の基礎と Amazon Bedrock の包括的な概要について理解を深めていただければと思います。まず Generative AI の簡単な紹介から始め、続いて Amazon Bedrock の機能紹介とデモを行います。Amazon Bedrock が Generative AI アプリケーションの構築における課題にどのように対応しているかについて、理解を深めていただけると幸いです。次に、ユースケースと顧客事例をいくつか紹介し、Amazon Bedrock を使用して Generative AI アプリケーションを構築する方法についての洞察を提供します。最後に、AWS で Generative AI の旅を始めるためのガイダンスをお伝えして、このセッションを締めくくります。
Generative AIの基礎と進化
ご存知の通り、最近テクノロジーの分野では多くの動きがあります。革新的で変革をもたらすテクノロジーにより、非常に複雑な問題を解決し、物事の進め方を再考することが可能になっています。近頃注目を集めているそのような変革的テクノロジーの1つが Generative AI です。Generative AI の消費者による利用に多くの注目が集まっていますが、私たちは、企業がこれを活用して顧客や従業員に素晴らしい体験を提供する方法にさらに大きな可能性があると考えています。Generative AI の真の力は、検索エンジンやチャットボットを超えるものです。企業や組織の運営のあらゆる側面を変革することでしょう。
人工知能の分野は数十年前から存在しています。ここで疑問に思われるかもしれません。 これほどの可能性を秘めた Generative AI というテクノロジーが、数十年間醸成されてきたにもかかわらず、なぜ今になって転換点を迎えているのでしょうか？それは、データの大規模な増加、高度にスケーラブルな計算能力の利用可能性、そして時間の経過とともに進化した機械学習技術により、Generative AI がついに形になったからです。
では、Generative AI とは具体的に何なのでしょうか？Generative AI は、テキスト要約、質問応答、画像生成などの実世界のユースケースに適した、人間が生成したコンテンツに近い新しいオリジナルコンテンツを生成できる AI 技術です。Generative AI を支えるモデルは基盤モデルとして知られており、何十億ものパラメータを持つ膨大な量のデータで訓練されています。開発者の皆さんは、これらのモデルをほとんど微調整せずに、幅広いユースケースに適応させることができます。これらのモデルを使用することで、新しい AI アプリケーションの開発時間を、これまでは不可能だったレベルにまで短縮することができます。
人工知能の世界におけるGenerative AIの位置づけ
さて、皆さんは generative AI が人工知能の世界でどのように位置づけられているのか疑問に思っているかもしれません。
generative AI の旅を初めて始める方にとっては、これは少し混乱するかもしれません。そこで、まず最も広い領域から始めましょう。最も広い領域は人工知能です。人工知能とは、コンピューターが人間の知能を模倣することを可能にするあらゆる技術のことです。これは、論理、if/then ステートメント、または機械学習を通じて行われます。
人工知能の範囲内で、機械学習はその一部分であり、機械を使ってデータのパターンを探し、論理モデルを自動的に構築します。機械学習モデルは、浅いモデルから深層的な多層ニューラルネットワークへと発展し、これらの深層的な多層ニューラルネットワークはディープラーニングモデルと呼ばれます。ディープラーニングモデルは、音声認識や画像認識などのより複雑なタスクを実行します。generative AI はディープラーニングの一部です。これは非常に大規模で、最も複雑なタスクを実行できる基盤モデルによって支えられています。
では、generative AI の複雑さをもう少し深く理解してみましょう。 従来の機械学習モデルでは、数値などの単純な入力を取り、予測値などの単純な出力にマッピングすることができました。 ディープラーニングの登場により、画像や動画などの複雑な入力を取り、画像内のオブジェクトの識別など、比較的単純な出力にマッピングすることができるようになりました。そして今、generative AI では、膨大な量の複雑なデータを活用して、知識をより高度な方法で捉え、表現することができます。例えば、大量の文書から要約や重要な洞察を抽出するなど、複雑な入力を複雑な出力にマッピングすることができます。
Foundation Modelの種類と特徴
これが、人工知能の範囲内における従来の機械学習モデル、ディープラーニングモデル、そして generative AI モデルが、入力と出力の観点からどのように異なるかを示しています。次に、モデルの観点から違いを見てみましょう。ほとんどの従来の機械学習モデルは、教師あり学習プロセスによって訓練されます。 これらのモデルは、データのラベル付けとモデルの訓練を必要とするアーキテクチャを使用して、1つの特定のタスクに対して1つのモデルを生成します。
しかし、generative AIアプリケーションを支えるfoundation modelは、transformer-basedのニューラルネットワークアーキテクチャによって駆動されています。このアーキテクチャにより、モデルは自己教師あり学習プロセスを通じて、膨大な量のラベルなしデータで事前学習することができます。これらのモデルは幅広い一般的なタスクに使用でき、fine-tuningと呼ばれるカスタマイズプロセスを通じて、非常に少量のラベル付きデータで特定のドメインや業界に簡単に適応させることができます。従来の機械学習モデルとfoundation modelのこの違いが、膨大な時間と労力を節約できる理由なのです。
foundation modelには主に3つのタイプがあります。1つ目は、テキストからテキストへのモデルです。これらのモデルはテキストを入力として受け取り、同じくテキストを出力します。例えば、新聞記事のテキストをこれらのモデルに入力すると、そのテキストの要約を応答として得ることができます。
2つ目のfoundation modelのカテゴリーは、テキストから埋め込みへのモデルです。これらのモデルはテキストを入力として受け取り、入力テキストの数値表現を出力します。これらの数値表現は埋め込み（embeddings）と呼ばれます。embeddingsについては、このセッションの後半でより詳しく説明します。3つ目のカテゴリーは、マルチモーダルfoundation modelです。これらのモデルはテキストを入力として受け取りますが、画像などの別のデータモダリティで出力を生成します。ここまでついてこられたなら、基本的にgenerative AIの基礎を正式に理解したことになります。
AmazonのGenerative AI開発の歴史とAmazon Bedrockの紹介
では、これまでのAmazonのgenerative AIの歩みについてご紹介しましょう。 機械学習のイノベーションは、AmazonのDNAに組み込まれています。私たちは20年以上にわたり、人工知能と機械学習に取り組んできました。私たちのeコマースのレコメンデーションエンジンは機械学習によって駆動されています。フルフィルメントセンターでのロボットによるピッキングルーティンを最適化するパスは機械学習によって駆動されており、サプライチェーン、需要予測、キャパシティプランニングはすべて機械学習によって情報が提供されています。generative AIは実際にはAmazonにとって新しいものではありません。私たちは何年もの間generative AIを行ってきました。例えば、amazon.comで非常に正確な検索結果を提供するために使用しています。また、何百万人もの人々が毎日楽しんでいる、Alexaによる人間らしい会話体験を提供するためにも使用しています。
AWSでは、機械学習を民主化し、それを使用したいと考えるすべての人がアクセスできるようにする上で重要な役割を果たしてきました。現在、あらゆる規模と業界の10万以上の顧客が機械学習にAWSを使用しています。 顧客は、ビジネスや組織内でgenerative AIをすぐに使用して新しいレベルの生産性を実現し、提供するものを変革する方法について私たちに尋ねてきました。これらの要件を念頭に置いて、私たちはgenerative AIアプリケーションを迅速に構築し、大規模に展開するための4つの最も重要な考慮事項を特定しました。AWSですでに提供しているgenerative AI機能、そして将来展開される機能はすべて、これらの考慮事項に基づいて構築されています。
AWSでは、最先端のファウンデーションモデルを使用して、最も高性能で低コストのインフラストラクチャ上で、生成AIアプリケーションを構築する最も簡単な方法を提供しています。これらのモデルをあなたのデータでファインチューニングすることができ、常にすべてのデータが安全でプライベートな環境にあることを保証します。また、生産性を向上させ、市場投入までの時間を短縮するための、すぐに使えるアプリケーションやサービスも提供しています。ここで、同僚のKaustubhに引き継ぎます。Kaustubhは、生成AIアプリケーションを構築する際のいくつかの課題と、Amazon Bedrockがこれらの課題にどのように対処するかについて説明します。どうぞ、Kaustubh。
Amazon Bedrockの機能と特徴
ありがとう、Sherry。生成AIアプリケーションの構築は困難です。顧客から、ファウンデーションモデルをより広く使用する上で、いくつかの大きな障害があると聞いています。まず、すべてのタスクに最適化された単一のモデルは存在せず、モデルは技術の進歩とともに常に改善されていきます。
この改善は、予見可能な将来にわたって続くでしょう。特定のユースケースに対して、顧客は多くの場合、互いに連携する複数のモデルを組み合わせたり、同じモデルを新しいバージョンにアップグレードしたりする必要があります。これには時間とリソースがかかる可能性があります。顧客は、基本のファウンデーションモデルを取り、自社のデータを使用して差別化されたアプリケーションを簡単に構築できることを望んでいます。カスタマイズに使用したいデータは非常に価値のある知的財産であるため、そのプロセス中に完全に保護され、安全で、プライベートである必要があります。顧客は、自分のデータがどのように共有され、使用されるかをコントロールしたいと考えています。
また、ファウンデーションモデル単体では、外部システムとのやり取りを必要とする複雑なタスクを完了することができないという制限があります。このような機能を可能にするために、開発者は、フライトの予約、保険金請求の申請、購入した商品の返品など、単純なタスクを実行するだけでも、複数のステップを踏む必要があります。このプロセスには、ファウンデーションモデルに特定の定義と指示を提供し、企業のデータソースへのアクセスを設定し、アクションを実行するためのAPIコードを書くことが含まれます。最後に、顧客は、大規模なインフラストラクチャクラスターを管理したり、多額のコストを負担したりすることなく、アプリケーションの統合がシームレスに行われることを望んでいると言っています。
これらすべての課題に対処するため、今年9月28日にAmazon Bedrockの一般提供を発表しました。Amazon Bedrockは、主要なAI企業から高性能なファウンデーションモデルを選択できる完全マネージド型サービスです。これに加えて、生成AIアプリケーションを構築するために必要な幅広い機能セットも提供され、プライバシーとセキュリティを維持しながら開発を簡素化します。Amazon Bedrockの包括的な機能により、さまざまな最先端のファウンデーションモデルを簡単に試すことができ、ファインチューニングやRetrieval Augmented Generation（RAG）などの技術を使用して、自社のデータでプライベートにカスタマイズできます。また、旅行の予約、保険金請求の処理、広告キャンペーンの作成、在庫管理など、複雑なビジネスタスクを実行するマネージドエージェントを、コードを書くことなく作成できます。
Amazon Bedrock はサーバーレスなので、インフラストラクチャを管理する必要がなく、すでに馴染みのある AWS サービスを使用して、生成 AI アプリケーションを安全に統合およびデプロイできます。ここで、Amazon Bedrock がどのように機能するのか疑問に思われるかもしれません。 まず、Amazon Bedrock が提供する様々なモデルの中から foundation model を選びます。次に、fine-tuning や retrieval augmented generation などの手法を使って、自社のデータを活用してカスタマイズした体験を作り出します。そして、Bedrock が提供するツールを使って、取り組んでいる複雑な問題を解決するためのタスクを調整します。ここで覚えておくべき重要なポイントは、Amazon Bedrock では、お客様のコンテンツがベースモデルの改善に使用されることはなく、サードパーティのモデルプロバイダーと共有されることもないということです。
Amazon Bedrockのモデルカスタマイズ機能とAgents for Amazon Bedrock
私たちは、お客様のユースケースに最適な foundation model の選択肢と柔軟性を提供することが重要だと考えています。テキスト要約用の Titan Text や、埋め込みと検索用の Titan Embeddings model を含む、独自の Amazon Titan モデルを提供しています。また、様々な言語で自然言語からテキストを生成するために使用される AI21 Labs の Jurassic-2 モデルも提供しています。Anthropic Claude モデルは、責任ある AI に関する最新の研究成果を取り入れて構築されており、会話やテキスト処理タスクを実行します。Cohere の大規模言語モデルである Command は、要約、コピーライティング、対話、抽出、質問応答などのビジネスアプリケーション向けに訓練されたテキスト生成モデルです。
Meta の Llama 2 モデルの fine-tuned バージョンは、対話ユースケースに最適です。Bedrock は、高品質な画像やアート生成のために広く人気のある Stable Diffusion モデルを含む、Stability AI の foundation model もサポートしています。
Stable Diffusion は、ユニークな画像、アート、デザインを生成することができます。foundation model を選択したら、 Amazon Bedrock の重要な機能の1つは、モデルをカスタマイズし、お客様のビジネス、データ、製品に合わせて調整する能力です。数百の labeled example を提供することで、Bedrock の foundation model を fine-tune できます。これは、S3 バケット内のデータセットを Bedrock に指定するだけで行えるため、大量のアノテーション付きデータを収集する負担なしに、特定の問題に対する正確でカスタマイズされたモデルを作成することが可能になります。
foundation model は非常に強力で、自然言語を堅固に理解していますが、前述のとおり、フライトの予約や保険金請求の処理など、複雑なタスクを完了するには多くの手動プログラミングが必要です。これは、そのままの foundation model では、お客様の最新の企業固有データなど、最新の知識ソースにアクセスできないためです。また、ユーザーのリクエストを満たすための具体的なアクションを取ることもできません。これを実現するために、開発者は指示とオーケストレーションの定義、企業のデータソースにアクセスするための foundation model の設定、一連の API 呼び出しを通じてこれらのステップを実行するためのカスタムコードの作成など、リソースを多く必要とする複数のステップを踏む必要があります。最後に、開発者は、データセキュリティのためのクラウドポリシーを設定しながら、foundation model を利用したアプリケーションのインフラストラクチャも管理しなければなりません。想像できるように、これらのステップすべてに数週間かかります。
これらの課題に対処するため、私たちは Agents for Amazon Bedrock を提供しています。わずか数回のクリックで、Agents for Amazon Bedrock は foundation model を設定し、タスクを自動的に分解して調整することができます。これらはすべて、手動でコードを書くことなく実行できます。エージェントは、シンプルな API を通じて、お客様の企業のデータソースに安全に接続します。ユーザーのデータを機械可読形式に自動変換し、ユーザーのリクエストに関連情報を追加して、より正確な応答を生成します。Bedrock のエージェントは、お客様に代わって API 呼び出しを実行することで、ユーザーのリクエストを満たすアクションも取ります。複雑なシステム統合やインフラストラクチャのプロビジョニングについて心配する必要はありません。完全マネージド型サービスとして、Agents for Bedrock がこれらすべてを処理します。
先ほど Sherry が foundation model のタイプに関連して embeddings の概念に触れたのを覚えているかもしれません。この概念についてもう少し詳しく説明させてください。ベクトル embeddings は、テキスト、画像、音声、動画データの数値表現です。人間は言葉の意味や文脈を理解できますが、機械は数字しか理解できません。そのため、機械学習に適した形式に変換する必要があります。各単語の異なる特徴に数値を割り当てることで、 多次元空間でベクトルを見て、それらの間の距離を測ることができます。文脈上関連のある単語は、ベクトルがより近くなり、機械がそれらの単語の類似点や相違点を理解するのに役立ちます。
例えば、「cat」は「kitten」に近く、「dog」は「puppy」に近くなります。このように embeddings を比較することで、モデルは単純な単語マッチングよりも関連性が高く文脈に沿った応答を生成します。embeddings は機械学習ベースのアプリケーションにとって新しいものではありませんが、特に generative AI や自然言語処理の一般的な利用可能性により、その重要性は急速に高まっています。 例えば、embeddings はリッチメディア検索や商品レコメンデーションなどのユースケースにおいて、セマンティック検索を強化することができます。このシナリオでは、「明るい色のゴルフシューズ」のような単純なクエリに対して、セマンティック検索が出力の精度を大幅に向上させていることがわかります。
セマンティック検索に加えて、embeddings は Retrieval Augmented Generation（RAG）と呼ばれる技術を通じて、より正確な結果を得るためにプロンプトを強化するのにも使用できます。Retrieval Augmented Generation（RAG）について、簡単に説明してみましょう。
RAG は、foundation model が知識リポジトリからの情報を取り込んで、さまざまな種類の応答を生成できるようにする人工知能技術です。RAG を使用すると、fine-tuning のような技術で必要とされるオーバーヘッドなしに、foundation model の応答をカスタマイズすることができます。カスタマイズの程度は fine-tuning ほど広範囲ではないかもしれませんが、ユースケースが RAG で対応できる場合、fine-tuning に必要な労力をかける必要がないかもしれません。
Amazon Bedrock には Knowledge Base という機能があり、手間をかけずに RAG を実行できます。基盤モデルをデータソースに向けるだけで済みます。現在、RAG アプリケーションで最もよく使用される 3 つのデータソースをサポートしています。基盤モデルをデータソースに向けると、ナレッジリポジトリの助けを借りて応答し始めます。また、基盤モデルは、応答の生成に使用されたナレッジリポジトリ内のどのドキュメントが使用されたかを明確にする引用も提供します。引用は、基盤モデルの応答を事実確認し、ハルシネーションに関連する問題を軽減するのに適した方法です。
Amazon BedrockのAgentsとKnowledge Baseのデモンストレーション
では、Agents と Knowledge Base の両方を実際に動作させるデモを簡単に見てみましょう。この例では、ユーザー向けにボットを構築した旅行会社を見ていきます。ボットが処理できる様々な種類の入力を確認していきます。 これは、チャットボットを作成した会社のウェブサイトです。ユーザーはエージェントとやり取りしています。 ユーザーは家族旅行のおすすめを尋ねています。この情報はすべて基盤モデルによって引き出され、非常に簡潔な推奨の要約を提供することができます。
次に、ユーザーは最近行われている特別なイベントなど、より関連性の高い情報を求めています。ユーザーは現在のオファーや割引についても問い合わせています。このような情報はデータソースを通じてのみアクセスできますが、エージェントはその情報にリンクして応答することができます。また、部屋の最安値を提供し、最新かつ詳細な情報を提供することもできます。最後に、ユーザーが「その部屋を予約したい」と言うと、実際に予約を行うことができます。 これが最後のステップで、単に情報を提供するだけでなく、お客様に代わってそれらの API 呼び出しを行い、 お客様が望むアクションが確実に実行されるようにします。
それでは、その体験をどのように設定するかを見ていきましょう。Amazon Bedrockコンソールを開いて、2つのステップを確認します。最初のステップは、Knowledge Base自体のセットアップです。こちらがBedrockコンソールです。コンソールで、Knowledge Baseセクションに移動します。ここでKnowledge Baseを作成します。名前を付け、このKnowledge Baseの目的を説明し、そしてデータソースを指定します。ここでは、S3バケットを指定し、埋め込みモデルを選択します。この場合、Titan Embeddingsモデルを選択し、埋め込みを保存したいデータソースの1つを選択します。それが完了したら、レビューページに進み、「作成」をクリックするだけです。これで埋め込みが作成されました。
次のステップは、Knowledge BaseからAgentそのものに進むことです。Agentを作成し、そのKnowledge Baseへのアクセス権を与えます。まず、Agentに名前を付け、その目的を誰にでもわかるように説明します。それを設定したら、そのAgentに使用したいモデルを選択し、Agentの目的に関する具体的な指示を提供します。その後、アクションを2つのステップに分けます。1つは旅行予約の検索、もう1つは実際に旅行予約を行うことです。そして、AgentにKnowledge Baseへのアクセス権を与えます。アクセス権を与えたら、レビューページが表示され、アクションとそれに渡されたKnowledge Baseを確認できます。そして、作成するだけです。
以上で完了です。ご覧のように、リポジトリやAPIから情報を取得し、必要に応じてそれらを呼び出すことができるシンプルなチャットボット体験でした。AgentをKnowledge Baseと適切なリポジトリに指定するだけで、コードを書くことなくすべてを実現できました。これで完了です。
想像できるように、皆さんの組織で対応できる可能性は無限大です。これらのクールな新しいイノベーションを構築し、日々直面している複雑な課題を解決することを楽しみにしています。AgentとKnowledge Baseを使えば、先ほど申し上げたように、オーケストレーション層を構築することなく、生成型アプリケーションの展開に一歩近づくことができます。
これがサンプルアーキテクチャで、先ほどのデモで見たものと似ています。まず、Foundation Modelにプロンプトを提供することから始まります。これがその旅の最初のステップです。それを行うと、舞台裏では、Agentがモデルを適切な知識ソースに向けています。次に、提供された他のAPIからデータを取得します。Agentはそれらの情報をすべて照合し、Foundation Modelに渡して応答を生成させます。そして、Foundation Modelが応答を生成すると、それがユーザーに表示されます。
Amazon Bedrockの利用方法とセキュリティ対策
ここで注目すべき点は、これが単一の反復である可能性もあれば、複数の反復がある可能性もあるということです。これらはすべて、設定に基づいてagentによって自動的に処理することができます。さて、RAGと fine-tuning をどのように使い分けるべきか疑問に思うかもしれません。簡単な考え方をご紹介しましょう。このグラフで左から右に進むにつれて、カスタマイズの度合いを最大化することができます。一方で、同じ軸に沿って複雑さとコストが上がっていくことに気づくでしょう。結局のところ、左から右へのこの旅のどこで、組織のカスタマイズを最大化しつつ、複雑さとコストを抑えてニーズを満たすことができるかを決めるのは、あなた次第です。
左側から始めると、まずはprompt engineeringがあります。これは、foundation modelに指示を与える方法として、おそらくみなさんもよくご存じのシンプルな技術です。例えば、単純なプロンプトで得られる out-of-the-box の体験が望むような結果を得られない場合に、これを行います。ここでの簡単な例を挙げると、大量の回答を得ているけれど、短くて簡潔な回答が欲しい場合、「foundation model よ、回答を5文以内に抑えてください」というようにプロンプトを作成します。そうすれば、モデルはそれを理解して実行します。Prompt AIを通じてさらに多くのカスタマイズが可能です。
それでも十分でない場合、次のステップであるRAGに進みます。これは先ほど少し触れましたが、knowledge repositoryをモデルにリンクして、より良い回答を得るものです。さて、それでもまだ望む回答が得られない場合、fine-tuningを利用することになります。利用可能なアノテーション済みデータをモデルに提供し、ユースケースにより適したものに根本的に変更します。
さて、Amazon Bedrockをサービスとしてどのように利用するのか疑問に思うかもしれません。基本的に、ここには2つの操作モードがあります。on-demandモードと provisioned throughput モードです。on-demandでは、使った分だけ支払い、コミットメントは必要ありません。価格は入力と出力のトークンに基づいています。トークンという言葉に馴染みがない場合、これは単語数に似たものだと考えてください。on-demandは、プロトタイピングや小規模な本番ワークロードに適しています。ただし、on-demandを使用する際には、1分あたりのリクエスト数やトークン数に制限があることに注意が必要です。
一方、provisioned throughputは固定コストで安定したパフォーマンスを提供しますが、その安定したパフォーマンスと引き換えに、1ヶ月または6ヶ月のコミットメントが必要になります。時間単位で料金を支払うことになり、長期のコミットメントに対しては割引が適用されます。provisioned throughputは、安定したパフォーマンスが必要な本番ワークロードに適しています。
プロトタイピング段階を過ぎ、小規模な本番ワークロードを超えたお客様にとって、このプロビジョンドスループットはパフォーマンスのニーズに対応することができます。次に、多くのお客様が生成AIに関して最も頻繁に抱く疑問の1つである、セキュリティとプライバシーについて話しましょう。
Amazon Bedrockは、これらの懸念に対処するためにいくつかの技術を使用しています。まず第一に、AWS PrivateLinkをAmazon Bedrockと共に使用することで、基盤モデルとオンプレミスネットワーク間にプライベートな接続を確立し、トラフィックをインターネットに露出させることなく利用できます。第二に、データは常に転送中および保存時に暗号化され、さらに独自のキーを使用してデータを暗号化することもできます。AWS Key Management Service（AWS KMS）を使用したことがある場合は、それをBedrockと共に使用でき、暗号化キーを作成、所有、管理できるので、モデルのカスタマイズに使用されるデータの暗号化方法を完全に制御できます。
次に、Amazon BedrockはGDPRやHIPAAなどのコンプライアンスプログラムと互換性があり、さらに多くのプログラムが追加される予定です。そして最後に、Amazon Bedrockでは、お客様のコンテンツはベースモデルの改善に使用されることはなく、また、サードパーティのモデルプロバイダーと共有されることもありません。
もう1つのよく話題に上がる重要な側面は、ガバナンスと監査可能性です。Amazon Bedrockでは、ガバナンスや監査要件をサポートするための包括的なモニタリングとロギング機能を提供しています。Amazon CloudWatchを使用して使用状況メトリクスを追跡し、監査目的に必要なカスタマイズされたダッシュボードを構築できます。さらに、AWS CloudTrailを使用してAPI活動を監視し、生成AIアプリケーションを他のシステムと統合する際の問題をトラブルシューティングできます。また、メタデータ、リクエスト、レスポンスをAmazon S3バケットに保存することも選択できます。これは完全にお客様次第です。
Generative AIの産業への応用と顧客事例
ここまでで、サービスとしてのAmazon Bedrockの基本をよく理解できたはずです。想像できるように、生成AIの可能性は非常に刺激的です。生成AIにより、今後10年間で世界のGDPが7兆ドル増加すると予測されています。では、生成AIが可能にするいくつかの一般的なユースケースを見てみましょう。生成AIは、エンジニアリング、マーケティング、カスタマーサービス、財務、営業など、ほぼすべての事業分野に適用できます。
生成AIを活用することで、チャットボット、バーチャルエージェント、インテリジェントコンタクトセンター、パーソナライゼーション、コンテンツモデレーションなどの機能を通じて、カスタマーエクスペリエンスを向上させることができます。また、生成AI搭載の会話型検索、コンテンツ作成、テキスト要約、コード生成などにより、従業員の生産性を高めることができます。さらに、生成AIを使用して、アート、音楽、テキスト、画像、アニメーション、ビデオなど、あらゆる種類のクリエイティブコンテンツの制作を加速することができます。そして最後に、インテリジェントドキュメント処理、メンテナンス支援、品質管理、視覚検査、さらには合成トレーニングデータ生成など、ビジネス運営の改善にも生成AIを活用できます。
これまで見てきたユースケースは、ほぼすべての業界に適用できます。いくつかの業界を簡単に見てみましょう。金融サービス、ヘルスケア、自動車、製造業など、リストは続きます。これは業界やユースケースの網羅的なリストではないことに注意してください。これらの業界からAmazon Bedrockを使用しているいくつかの顧客を見てみましょう。
Lonely Planetは、800冊以上の旅行ガイドブックで有名なプレミアな旅行メディア企業です。これらのガイドブックは旅行のアドバイスとガイダンスを提供しています。Lonely Planetは、AWSで生成AIソリューションを開発し、顧客が素晴らしい旅行を計画し、パーソナライズされた旅程で人生を変えるような体験を創出できるよう支援しています。BedrockのClaude 2を使用して構築することで、Lonely Planetは旅程生成コストを約80%削減しました。Lonely Planetは、コンテンツを数分で整理できる、スケーラブルで安全なAIプラットフォームを迅速に作成しました。
Amazon Bedrockにより、NatWest Group は安全でスケーラブルなプラットフォームで最新の生成AIモデルを活用できるようになりました。データサイエンティスト、エンジニア、テクノロジストのチームがこのプラットフォームを使用して、新しいサービスの実験と構築を行っています。これらのツールを使用して、NatWest Groupは金融犯罪の次世代の脅威に対抗するとともに、顧客と従業員が必要な情報に、望む形式で、必要なときにアクセスできるようにしています。
Salesforceは、生成AI向けの「Bring Your Own AI」統合をAmazon Bedrockにも拡張しています。Salesforce Data Cloudにゼロ-ETLで安全かつ簡単にアクセスし、その企業データを使用してBedrockで選択したファウンデーションモデルを迅速かつ安全にカスタマイズできます。これらのカスタマイズされたファウンデーションモデルは、各企業に合わせて調整され、Salesforce Data Cloudから簡単に呼び出してSalesforce全体で使用できます。
ご覧のように、generative AIには非常に多くの可能性があり、これらはほんの一例に過ぎません。ここで、Sherryに引き継ぎます。彼女がこのセッションの最後の部分をご案内します。
AWSでのGenerative AI導入支援とリソース紹介
ありがとう、Kaustubh。Kaustubhが先ほど述べたように、generative AIは多くのユースケースに適用できます。あなたの組織に利益をもたらし、ビジネスを革新する適切なユースケースを特定することが、AWS Cloud上でのgenerative AIの旅の良いスタートとなります。適切なユースケースの探索と選択をサポートするために、私たちはAI Use Case Explorerを作成しました。これは、業界、ビジネス機能、望ましいビジネス成果に基づいて適切なユースケースを見つけるのに役立つ、使いやすい検索ツールです。
このツールを使用すると、組織のためのAIユースケースの厳選されたリストを探索し、世界中の組織がどのようにAIを使用してビジネス成果を推進しているかを発見できます。また、AIの力を実現するための専門家が厳選したアクションプランに従うこともできます。適切なユースケースを選択した後、次のステップは様々なトレーニング機会を通じて、あらゆるスキルレベルの開発者をエンパワーすることです。
AWS Skill Builderは、600以上のデジタルコースを提供する幅広いライブラリです。さらに、AWS Academy、AWS Restart、AWS Educateなどのプログラムもあり、チームをエンパワーします。現在、generative AIの理解、実装、使用開始を支援するための無料および低コストのトレーニングコレクションを提供しています。例えば、最近CourseraでGenerative AI with Large Language Modelsというトレーニングコースをリリースしました。このコースは、DeepLearning.AIのAndrew Ng博士のようなAIの専門家やAI教育者と共同で開発されました。これは、大規模言語モデルについて学び、実際のアプリケーションのための大規模言語モデルのトレーニング、ファインチューニング、デプロイメントについて実践的な経験を得る絶好の機会です。
次に、AWSの専門家の助けを借りてプルーフオブコンセプトに取り組むことを検討してください。これらのAWS専門家は、多様なビジネス問題の解決、ビジネスおよび技術的なステークホルダーの調整において、顧客のgenerative AIの旅をガイドします。
そして、お客様向けのエグゼクティブロードマップを構築します。お客様が生成AIソリューションを成功裏に構築し展開できるよう支援するため、私たちはAWS Generative AI Innovation Centerを設立しました。これは、AWSのAI/MLエキスパートを世界中の顧客やパートナーと結びつけ、企業の革新と生成AIでの成功を加速させるための、1億ドルの投資による新しいプログラムです。
最後に、Amazon Bedrockを始めるための有用なリソースをいくつか共有したいと思います。ここで、お手持ちのスマートフォンを取り出し、これら3つのQRコードの写真を撮ってください。1つ目のQRコードはAmazon Bedrockの製品ページ、2つ目のQRコードはYouTubeのステップバイステップチュートリアル、そして3つ目のQRコードはAmazon Bedrockのハンズオンワークショップです。これで、このプレゼンテーションは終了となります。
皆様のお時間とご注目、誠にありがとうございました。モバイルアプリでのアンケートにぜひご協力ください。Kaustubh Khankeと私で、喜んでご質問にお答えいたします。
※ こちらの記事は Amazon Bedrock を様々なタスクで利用することで全て自動で作成しています。
※ どこかの機会で記事作成の試行錯誤についても記事化する予定ですが、直近技術的な部分でご興味がある場合はTwitterの方にDMください。
Discussion