📖

re:Invent 2023: AWSの新AI「Amazon Q」で従業員の生産性向上

2023/11/28に公開

はじめに

海外の様々な講演を日本語記事に書き起こすことで、隠れた良質な情報をもっと身近なものに。そんなコンセプトで進める本企画で今回取り上げるプレゼンテーションはこちら!

📖 AWS re:Invent 2023 - Bring the power of generative AI to your employees with Amazon Q (AIM240)

この動画では、Amazon QというAWSの新しいgenerative AI搭載アシスタントについて詳しく解説しています。40以上のデータソースに対応し、企業の機密情報を守りながら従業員の生産性を向上させる仕組みが紹介されます。Experianの事例では、金融包摂の実現にAmazon Qがどう貢献しているかも語られます。エンジニアにとって興味深い、コーディング効率化や技術ドキュメント理解の具体例も含まれています。
https://www.youtube.com/watch?v=VVz6tNUYInY
※ 動画から自動生成した記事になります。誤字脱字や誤った内容が記載される可能性がありますので、正確な情報は動画本編をご覧ください。

本編

Amazon Qの紹介:職場を革新するgenerative AI

Thumbnail 0

私はずっと、会話型インターフェースやコンピューターと自然言語で対話する能力に魅了されてきました。例えば、3歳の子供が「Alexa、パパに電話して」と言うだけで、いつでも私に電話をかけられることに驚きました。generative AIにより、自然言語インターフェースを使って全ての従業員が仕事で優れた成果を上げられるようにすることで、職場を革新する可能性があります。今日は、generative AIを活用して、ビジネスの全従業員の生産性を向上させる方法についてお話しします。私はAmazon Qサービスのゼネラルマネージャーのヴィクラム・アンバザガンです。本日のセッションへようこそ。

Thumbnail 80

始める前に、挙手でお聞きしたいのですが、皆さんの中で、既存のツールを使って独自のgenerative AI搭載アシスタントの構築を試みた方はどのくらいいらっしゃいますか? なるほど、かなりの方がいらっしゃいますね。 では、今日はこのような内容でお話しします。まずは、私たちの目の前にある機会についてお話しします。

企業におけるgenerative AIの機会と課題

Thumbnail 100

これは、企業に存在する可能性のある様々な役割や従業員のタイプのほんの一例です。マーケティングマネージャーを例に挙げてみましょう。新製品を発売する際、彼らはその製品の主な機能を簡潔にまとめる方法を考える必要があります。製品詳細ページを書き、ブログを作成し、検索エンジン最適化のためにページを最適化するなどの作業が必要です。研究者は、過去の結果を全て調べ、以前の研究で何が行われたかを理解し、全ての試験の副作用を比較し、次のステップを決定する必要があります。セールスマネージャーの場合、新しく担当することになった顧客がいれば、過去の経緯を理解し、顧客の要望を把握し、この新規顧客を成功裏に扱うためのアプローチを考える必要があります。

Thumbnail 180

generative AIがもたらす機会は、これらすべての従業員の生活をより良くし、より効率的にすることです。 最近のMcKinseyの調査によると、generative AIは日々の業務時間の最大25%を占める作業を簡素化できると推定されています。これは、従業員1人あたり約2時間の節約になります。

Thumbnail 200

さて、私たちの目の前にこのような素晴らしい機会があることがわかりました。では、課題は何でしょうか?generative AIの活用を妨げているものは何でしょうか?私たちは3つの大きな課題があると考えています。まず、正確性です。企業内の何百万もの文書の中から最も正確な結果を見つけることは非常に難しい作業です。2つ目は、これらのLLMの動作に対するセキュリティとコントロールです。全ての従業員が自分がアクセス権を持つ文書だけを見られるようにするにはどうすればよいでしょうか?ディレクトリサーバーと統合して、グループ、アクセス制御などが全ての従業員に対して維持されるようにするにはどうすればよいでしょうか?3つ目は価値実現までの時間です。今日の世界では、競合他社が素早く動いているため、迅速に動くことが重要です。彼らは新しい機能を素早くリリースし、顧客向けにクールな新機能を展開しています。

Amazon Qの概要:ビジネスのためのAI搭載アシスタント

Thumbnail 290

では、従業員の効率をどのように素早く向上させることができるでしょうか?数ヶ月もかかるプロジェクトを始めて、最後に成功するかどうかわからないというのではなく。 そこで、昨日のAdamのキーノートでAmazon Qを発表しました。Qは、仕事のために特別に設計された生成AI搭載のアシスタントです。ビジネス、データ、コード、そして業務をサポートします。

Thumbnail 310

Amazon Qの全体像をお伝えしますと、 AWSのあらゆる場所にQを組み込んでいます。例えば、まずビジネス向けのAmazon Qがあり、企業独自のデータを使ってQを導入できます。そして、開発者がAWSで開発を行う場合、Amazon Qを使ってより良い開発ができ、AWSコンソールの使用やAWS上の様々なサービスの操作に関するヘルプを得ることができます。

Thumbnail 370

また、Amazon QuickSightにもQがあり、自然言語を使ったBIが可能です。「トップ10の顧客は誰ですか?」や「最も売上が高かった地域を示してください」といった質問をするだけでビジネスインテリジェンスが得られます。さらに、コンタクトセンターソフトウェアであるAmazon Connectにも Qがあり、エージェントが顧客対応をより効率的に行えるようサポートします。そして近々、AWS Supply ChainにもQが導入される予定です。今日のセッションでは、ビジネス向けのQに焦点を当て、ビジネス用のデジタルアシスタントをどのように構築し、効率を高めるためにどのように活用できるかについてお話しします。

Amazon Qの主要機能:エンドユーザーと管理者の視点

Thumbnail 400

Qの主な機能は、管理者向けの機能とエンドユーザー向けの機能に分けられます。エンドユーザーの観点からは、Qは従来の質問応答が可能で、企業のすべてのコンテンツに対して質問でき、Qは正確な回答を提供します。その際、引用と根拠も示されるので、回答を検証し、幻覚を起こしていないことを確認できます。ファイルをアップロードしてコンテンツを分析することもできます。管理者が集中インデックスにすべてのファイルを設定しているわけではないので、ローカルのラップトップにあるファイルをQにアップロードして分析したり、比較したりすることができます。

さらに、SalesforceやZendeskなどの様々なシステムでチケットを発行するなどのアクションを実行することもできます。また、メールの作成、ブログの執筆、マーケティングコピー、商品詳細ページ、メモなどのコンテンツ生成も可能です。管理者の観点からは、完全マネージド型ソリューションで、40以上の事前構築されたコネクタがあります。独自のベクトルインデックスとエンドユーザーアプリケーションも付属しています。これは、先ほど話した価値実現までの時間に関連しています。開発作業を必要とせず、非常に迅速に導入できるのです。

これは権限を認識するシステムで、アクセス制御リストを参照し、ユーザーの権限と実行時に比較して、アクセス権のあるドキュメントのみを表示することができます。そして、管理の観点から最も重要なのは、Qが望む方法で動作するようにコントロールとガードレールを提供することです。例えば、特定のトピックに関する質問を処理させたくない場合や、特定のトピックを扱うために特定のデータソースを使用させたい場合などがあります。ここで、同僚のNikhilがこれらの機能と各機能の詳細について説明します。

Amazon Qの実践的なデモ:セールスマネージャーのユースケース

Thumbnail 560

ありがとう、Vikram。皆さん、こんにちは。このセッションにご参加いただき、ありがとうございます。私はAmazon Qのシニアプロダクトマネージャーのニキル・シェッティです。皆さんのためにQで構築したすべての機能についてお話しできることをとてもワクワクしています。実際、ここ数ヶ月間、私自身がQを使用して個人アシスタントにしてきました。すると突然、上司から高いパフォーマンスを発揮していると言われました。皆さんがこれを自分専用のパーソナルアシスタントにできることを、とても楽しみにしています。

Thumbnail 590

主要な機能について話しましょう。まず、会話型Q&Aです。画面に表示されているのは、エンドユーザーエクスペリエンスのスクリーンショットです。これはIDプロバイダーで示されています。ユーザーが質問すると、Qはすべてのデータソース(SharePoint、Salesforce、OneDrive、Google Driveなど)にわたるすべてのドキュメントを参照し、

クエリに関連する重要なドキュメントをすべて確認します。Amazon Qはそれらをすべてまとめ、情報を組み合わせて、ソースとともに包括的な回答を提供します。これにより、回答の事実確認ができます。回答を見て正確かどうか確信が持てない場合は、ソースを確認して事実と正確性を確認できます。実際、生成される各文に対して、必ず引用を提供しているので、長い回答の場合でも、各文の事実が正しいかどうかを常に確認できます。

自然な会話と同様に、文脈を保ったまま会話を続けることができます。フォローアップの質問をしたり、要約を求めたり、後で見るようにアクションを要求したりすることもできます。Amazon Qは文脈を理解し、維持します。また、会話履歴も保存されるので、過去に何を尋ねたかを確認したり、後で会話を再開したりすることもできます。これらすべてはユーザーの権限を考慮して行われるため、ユーザーはアクセス権のないドキュメントからの回答を決して得ることはありません。

Amazon Qの活用:ファイルアップロードと企業アプリケーションの統合

Thumbnail 680

ユーザーはファイルをアップロードして質問することもできます。例えば、ファイルをアップロードしてAmazon Qにそのファイルの情報を要約するよう依頼できます。あるいは、ファイルの内容について質問することもできます。数値データがある場合は、Excelファイルをアップロードし、そのデータを分析する質問をしたり、ナラティブを書くよう依頼したりすることもできます。2つの文書を一緒にアップロードし、「これら2つの文書を比較して、すべての違いを要約してください」と依頼することさえできます。ファイルアップロード機能では、PDF、DOC、CSV、PowerPoint、TXTなど、複数のファイルタイプをサポートしています。

このような機能がどのような場面で役立つか考えてみましょう。先ほどマーケティングマネージャーの話をしましたが、例えば、あなたがマーケティングマネージャーで、新製品の仕様書を受け取り、非常に短時間で広告コピーやマーケティングコピーを書くよう依頼されたとします。文書全体を読む時間がない場合、Amazon Qを使用できます。文書をQにアップロードし、要約を依頼し、製品の主な特徴を伝え、対象顧客や想定読者を伝えて、マーケティングコピーや広告コピーの最初の下書きを作成するよう依頼するだけです。これがあなたの出発点となります。

あるいは、契約書の作業をしていて、顧客とやり取りを重ねているうちに、最初の契約書や最新版との違いがわからなくなったとします。その2つのバージョンをアップロードして、Qに違いを要約するよう依頼できます。

Thumbnail 780

Amazon Qのセキュリティとガードレール機能

企業で働く従業員は、通常、複数のアプリケーションを行き来しています。例えば、ある人は情報を探すことから始め、質問をし、見つけたことをすべてまとめ、そしてチケットを作成するかもしれません。または、アイデアをブレインストーミングし、それらのアイデアをまとめ、チャットやメールで同僚と共有したいと思うかもしれません。あるいは、誰かが企業アプリケーションを更新したいと思うかもしれません。例えば、会議を行った後、すべてのノートを整理し、それを企業アプリケーションに更新したいと考えるかもしれません。

このようなすべての活動において、私たちは Amazon Q が従業員の自然言語を使用してこれらのタスクを実行できるようにする、イネーブラーまたは出発点となることを望んでいます。本日から、Zendesk、Salesforce、Jira、ServiceNow でのチケット作成のサポートを発表します。例えば、ユーザーは「情報をまとめて Jira にチケットを作成して」と言うことができます。すると、Jira のインターフェースが開き、素早く情報を入力してチケットを作成することができます。

Thumbnail 860

Amazon Qの文書アクセス制御とアイデンティティ管理

企業の管理者にとって最も重要な安全性とセキュリティについて話しましょう。私たちには文書アクセス制御をサポートするコネクターがあり、ユーザーがアクセス権のない文書から回答を得ることがないようになっています。それがどのように機能するか見てみましょう。Amazon Q にデータソースを接続する際、Salesforce、SharePoint、Google Drive、Confluence など、お持ちのものを考えてみてください。Q のコネクターはこれらのデータソースをクロールし、コンテンツを取り出して検索用のセマンティックインデックスに入れます。その際、文書の内容だけでなく、文書の権限もクロールします。これらの権限には、その文書にアクセスできるユーザーとグループのリストが含まれています。ユーザーが Amazon Q に対してクエリを実行する際、

ユーザーに関する情報(ユーザーID を含む)を収集します。アイデンティティプロバイダーと統合されているため、ユーザーが所属するグループに関する情報も取得します。これらすべてを使用して、インデックスからユーザーがアクセス権を持つ文書のみが取り出されるようにしています。これにより、Amazon Q を通じて機密文書が誤ってユーザーに漏洩する心配はありません。これらはすべて最初から組み込まれてサポートされています。

Thumbnail 940

Amazon Qの管理者向けガードレールとコネクター機能

管理者向けのガードレールも用意しています。ガードレールには4種類あります。まず、攻撃的、差別的、または違法なコンテンツを生成する可能性のあるクエリから保護するデフォルトのガードレールがあります。これは設定不要で、すぐに使えます。攻撃的、差別的、または一般的に有害な質問があった場合、Amazon Qは「申し訳ありませんが、それについてはお手伝いできません」と応答します。

次に、エンタープライズコンテンツのみに回答を制限する機能を提供しています。これはお客様からよく聞かれる要望です。LLMの特性や回答生成能力は気に入っているけれど、LLMが学習したデータからの回答は望まず、エンタープライズコンテンツからの回答だけを求めているのです。この機能でそれを実現します。例えば、エンタープライズコンテンツに制限し、ユーザーが「ウェブページのSEOを改善する方法を教えて」と尋ねた場合、エンタープライズリポジトリに回答がなければ、Amazon Qは「申し訳ありませんが、回答するのに十分な情報がありません」と応答します。

一方、エンタープライズコンテンツ以外も利用可能にすると、「私の知識に基づくと、以下のようなヒントがあります」と回答します。この場合、ユーザーはこの回答がエンタープライズソースからではなく、AIの知識からのものだと分かるので、回答の正確さを確認できます。

Thumbnail 1080

3つ目のガードレールは、ブロックする単語やフレーズの指定です。回答に絶対に表示させたくない単語やフレーズのリストを指定できます。例えば、会社内に機密文書やキーワードを含む秘密プロジェクトがあるとします。それらの文書へのアクセス制御は行われていますが、大企業では知られてはいけない情報について触れている文書が迷子になることがあります。この機能を使えば、「このトップシークレットのプロジェクトXについて、絶対に回答に表示しないでください」と指定できます。そのようなトピックに遭遇した場合、ブロックしてアクセス権のないユーザーに表示されないようにするチェック機能を設けています。

Thumbnail 1090

Amazon Qの管理者コンソールとデータソース接続プロセス

次に、トピックレベルのガードレールについてお話しします。トピックガードレールでは、特定のトピックを指定し、それらのトピックに対する処理方法を定義することができます。4種類の処理方法があります。1つ目は、事前に定義されたメッセージで応答する方法です。クエリが入ってきたとき、それが定義されたトピックに関連しているかを識別し、設定した事前定義メッセージで応答します。2つ目は、企業コンテンツのみに制限する方法です。3つ目の処理方法は、企業コンテンツに制限しつつ、メタデータフィルターを適用する方法です。例えば、特定のタイプのクエリに対して、SharePointやGoogle Driveのみを参照するように指定できます。あるいは、コンテンツを識別するための他のメタデータがあれば、それらのソースのみに制限することもできます。これらのトピックフィルターは、企業内の特定のユーザーやグループに適用できます。

この機能が役立つ具体的なシナリオを見てみましょう。例えば、セキュリティチームがウェブサイトの脆弱性を発見したとします。彼らはそれについていくつかの文書を作成し、すべて企業のコーパスに保存しました。しかし、これらの情報をすべての従業員に公開したくありません。もちろん、アクセス制御はありますが、先ほど述言ったように、大企業ではこれらを完全に管理するのは非常に難しいです。そこで、「ウェブサイトのセキュリティ脆弱性」というトピックを作成し、そのトピックに関連する質問を識別するためのサンプル発話をいくつか定義します。そして、「すべてのユーザーに対してこれをブロックする」と設定できます。しかし、全員をブロックしたくはありません。セキュリティチーム以外の人をブロックしたいのです。そこで、さらに一歩進めて、「全員をブロックするが、セキュリティチームに対しては企業のリポジトリ内のコンテンツのみに制限する」と設定できます。

Thumbnail 1230

Thumbnail 1240

このようにすることで、セキュリティチームはそれらの文書にアクセスできる一方、他の全員は事前に定義された応答を受け取ることになります。次に、コネクターについて話しましょう。私たちは40以上の企業データソース用のコネクターを提供しています。これらは、すべてのデータをインデックスに取り込み、コンテンツを抽出し、すべてを解析し、適切なサイズにチャンク分割し、権限情報やメタデータを取り出すという面倒で労力のかかる作業を代行します。これらすべてが完全に組み込まれています。あなたがすべきことは、コンソールに行き、データソースを指定し、取り込みプロセスを開始するだけです。あとは私たちがすべてを行います。

私たちのコネクターには、定期的なスケジューリングなどの機能もあります。毎月、毎時間など、最適な頻度で同期操作を実行するように設定できます。増分同期やフル同期を実行することもできます。増分同期は、更新されたドキュメントのみを流し、インデックスが最新の状態に保たれるようにしたい場合に使用します。しかし、私たちのコネクターには非常に重要な機能があります。それは「アイデンティティクローラー」と呼んでいるものです。SharePointやSlackなど、多くのデータソースには、ローカルユーザーとグループの概念があります。これは基本的に、アプリケーション内で定義される権限グループですが、あなたのIDプロバイダーでは定義されていないものです。

Thumbnail 1330

あらゆる生成AIアシスタントにとって、これらのことを知っておくことは非常に重要です。私たちのコネクターは、ローカルユーザーやグループに関する情報も確実に取得するアイデンティティクローラーを備えているので、ACL(アクセス制御リスト)やアクセス制御の権限制限が、あらゆるシナリオで確実に適用されます。つまり、ユーザーがアクセスを許可されていない情報にアクセスできないよう、あらゆる面で保護されているのです。さて、ここで振り返ってみましょう。私たちは、エンドユーザー機能について学びました。エンドユーザーは会話形式のQ&Aを行い、ファイルをアップロードし、コンテンツを分析し、新しいコンテンツを生成し、企業アプリケーション全体でチケットを作成するなどのアクションを実行できます。

Amazon Qの課題解決と実際の活用例

Thumbnail 1350

Thumbnail 1370

Thumbnail 1380

また、管理者機能についても説明しました。完全に管理され、すぐに使えるコネクターがあり、セキュリティと権限が組み込まれており、応答のためのガードレールも備わっています。では、エンドユーザーの実際の体験がどのようなものか見てみましょう。製品の動作を確認してみましょう。先ほど、さまざまなペルソナについて話しましたが、そのペルソナの1つを取り上げて、製品をどのように活用できるかを見るのが一番良いでしょう。ここでは、セールスマネージャーについて話します。シナリオは、セールスマネージャーが同僚から顧客アカウントを引き継いだばかりで、スムーズな引き継ぎを確実に行いたいというものです。

Thumbnail 1410

さて、あなたがそのセールスマネージャーだとしましょう。最初にやりたいことは何でしょうか?おそらく、ターゲットとなる顧客が何をしている会社なのかを知りたいでしょう。なぜ彼らが私たちの製品に興味を持っているのか?これまでの要約は?主要な利害関係者は誰か?セールスマネージャーがAmazon Qを使ってこれらの質問にすべて答え、顧客との面会に備える方法を見てみましょう。この場合、セールスマネージャーはAnyCompany Taxという税務・会計SaaS企業で働いており、ターゲット顧客はExample Corpです。彼らがQを使って準備する様子を見てみましょう。

Thumbnail 1440

Thumbnail 1450

Thumbnail 1470

まず、「Example Corpについて教えてください。彼らは何をする会社ですか?」と尋ねます。これはおそらく最初に知りたいことでしょう。Qはさまざまなデータソースを調べて回答を出します。その回答が正確かどうか確信が持てない場合、ドキュメントをクリックして確認します。はい、1975年設立、従業員50,000人、小売業、1,500店舗。すべて確認できました。これはユーザーの信頼を大いに高めます。次に、「なぜ彼らは新しい製品に興味があるのでしょうか?古い会社なので、おそらくすでに何かを使っているはずです。なぜ今新しいものを求めているのか、何に興味があるのでしょうか?」と尋ねます。

Thumbnail 1480

Thumbnail 1500

再び、おそらく前任のアカウントマネージャーが取った会議メモから回答を引き出しています。既存のシステムが10年以上前のもので、新しい機能が不足しており、クラウドベースではなく、より多くの自動化とスケーラビリティを求めているということが確認できます。次に、主要な利害関係者が誰なのかを知りたいと思います。そして再び、これらすべてを会議メモから引き出します。

Thumbnail 1510

Thumbnail 1530

さて、マネージャーは現在のエンゲージメントの状況を知りたがっています。 顧客とどこまで進展しているのかを理解したいのです。そこで、あなたは項目のリストを表示します。マネージャーは、すでにPOC(概念実証)トライアルが行われたことに気づきます。最終段階では、顧客が製品を気に入ったものの、使用量と価格を最終決定したいと考えています。マネージャーはPOCのためのクレジットを受け取ったかどうか気になります。はい、10,000クレジットを受け取りました。これは会議メモの1つから分かります。その数字が正しいことを確認するため、再度確認されます。

Thumbnail 1570

Thumbnail 1580

マネージャーは安心し、顧客との面会の準備ができました。会議に入ると、当然ながら新しい質問が出てきます。製品について知識があることを示すため、これらの質問に答える準備をしたいと思います。そこで再びAmazon Qにそれらの質問をします。製品がどの言語をサポートしているかを尋ねます。なぜなら、約50カ国で事業を展開しており、それらすべての言語をサポートしていることを確認したいからです。今回、答えはドキュメントから得られます。これらのドキュメントはあらゆるリポジトリに存在する可能性があります。40以上のコネクターがあり、それらのソースからどんな情報でも引き出すことができます。

Thumbnail 1590

次に国についての質問があり、これもドキュメントから情報が引き出されます。Example Corpは「500ユーザーがいるのですが、価格はどうなりますか?」と尋ねます。セールスマネージャーは同じ質問をAmazon Qにします。Qは実際にセールスプレイブックを参照し、ユーザー1人あたり100ドルであることを突き止めます。しかし、待ってください。割引表もあります。取引規模が一定額を超えると割引が適用されます。そこで、その割引を考慮に入れ、計算に加え、計算過程を説明し、最終的な取引規模を提示します。

Thumbnail 1620

Thumbnail 1630

次に彼らがおそらくしたいのは、この情報を顧客に送ることです。同時に、この情報をセールスオペレーションチームに送って、顧客との契約書の草案を作成してもらいたいと考えています。これはJiraのようなチケットシステムを通じて行われます。マネージャーがすべきことは、この情報をすべてまとめ、セールスオペレーションチーム向けにJiraでチケットを作成することだけです。説明欄にはその要約された情報が含まれています。あなたがすべきことは、正しい人物がチケットを提出していることを確認するために自分のメールアドレスを入力するだけで、それで完了です。これらすべてがAmazon Qアプリケーション上で行われます。

Thumbnail 1660

Thumbnail 1670

Thumbnail 1680

次に、Amazon Qにこれらの情報をすべて要約させ、「この価格情報を要約して、顧客に送信できる主要な関係者向けのメールを作成してください」と指示します。Qがそれを行います。このドラフトから始めて作業し、送信の準備ができます。別の例を見てみましょう。同じ人物ですが、異なるシナリオです。その人は年間の販売実績データが記載されたExcelファイルを受け取り、上層部向けのレポート用にこれに基づいたナラティブを書きたいと考えています。

Thumbnail 1700

Thumbnail 1710

Thumbnail 1720

Amazon Qから始めましょう。ファイルをAmazon Qにアップロードし、このファイルに何が含まれているか尋ねます。Qは要約して、1月から10月までの北米の売上データが含まれていると答えます。これにはself-serviceの顧客、収益、high-touchの顧客、そしてその内訳が含まれています。すべての列を列挙するよう依頼すると、Qはそれを教えてくれます。そして、10月の状況についてさらに質問します。Qは数字を取り出し、10月はターゲットをわずかに下回っていると伝えます。そこで、マネージャーが「収益トレンドについての説明文を書いてくれませんか」と頼むと、Qがその説明文を作成してくれます。

Thumbnail 1730

Thumbnail 1740

しかし、新たな疑問が浮かびます。high-touchとlow-touchの顧客間の収益の分割についてもう少し詳しく知りたいと思います。おそらく、その情報を説明文に追加したいのでしょう。そこでその質問をします。再び、アップロードしたファイルから答えが得られます。「よし、いいね。先ほど書いた説明文にこの分割に関する部分を追加してくれる?」と頼むと、準備完了です。

Thumbnail 1780

Thumbnail 1790

これがあらかじめ構築されたAmazon Qアプリケーションを使用するデモでした。しかし、独自のUIを持っていてそこにAmazon Qを組み込みたい、あるいは別のアプリケーションで使用したいというお客様によく出会います。そこで、これをSlackに組み込んだ場合の例と、その体験がどのようなものかを見てみましょう。ここでは、BobがAmazon Qと直接チャットしています。DynamoDBについて質問しています。サービスについて、どれくらいの処理が可能かなど、非常に良い回答が得られます。先ほど話した機能、ソース、検証など、これらすべてをここに持ち込むことができます。なぜなら、これらすべてのAPIがあるからです。フォローアップの質問もでき、文脈も保持されます。速いですか?はい、そうです。

Thumbnail 1810

速いかどうか尋ねると、Amazon Qはどのように速いかについての情報をソースとともに提供します。これはAmazon Qと直接チャットする場合についてですが、SlackにはSlack独自の機能があります。QとSlackを組み合わせるとさらに強力になります。複数人のスレッドでこれがどのように機能するか、例を見てみましょう。

Thumbnail 1880

GaryはBobに質問があります。ソーシャルネットワークのウェブサイトからデータを取り込みたいのですが、SQSとKinesisのどちらを使うべきか尋ねています。BobはSQSだと思いますが、確信が持てません。そこでGaryがさらに「SQSなら、FIFOを使うの?」と尋ねます。しかしBobはまだ自信がないので、Qの助けを借りることにします。彼はただAmazon Qに尋ねるだけです。Qが会話に加わります。Qは会話全体の文脈を理解し、サービスにインデックス化されたすべてのデータを持っています。もちろん、インテリジェンスと自然言語理解も備えています。Qはこれらすべてを組み合わせて回答を提供します。Bobはその回答を気に入り、Garyと共有します。

Thumbnail 1900

Thumbnail 1910

さて、Bob は Q に会話全体を要約してもらいたいと思い、「私のアクションアイテムを教えてください」と尋ねます。Q はそれも Bob のために行います。 開発者の皆さんが、さまざまな状況でこれをどのように活用するのか、とても楽しみです。この技術がもたらす可能性に、私は非常に興奮しています。

では、この技術の使用例や Q アプリケーションの外観、他のアプリケーションへの組み込み方法を見てきましたが、次に気になるのは、ここまでの状態に到達するのにどれくらい時間がかかるかということですね。良いニュースは、それが簡単なステップで実現できるということです。では、管理者向けのコンソール体験と、このような体験を構築するために必要なことを見ていきましょう。

Thumbnail 1950

Thumbnail 1960

Thumbnail 1970

これがコンソールのランディングページの外観です。 まずはアプリケーションの作成から始めます。基本的なパラメータを指定し、アプリケーションを作成します。次のステップでは、retriever を選択します。ここで、後の semantic retrieval のために全てのドキュメントが取り込まれます。2つのオプションがあります。1つは native retriever です。 もし既に Amazon Kendra に投資している場合は、ワンクリックで統合することができます。

Thumbnail 1990

Thumbnail 2000

Thumbnail 2010

次に、データソースの接続に進みます。先ほど述べたように、40以上のデータソースがあります。 この例では、Amazon S3 を使用します。S3 の設定ページをご覧ください。先ほど話した sync mode など、多くの機能があります。 また、検索を改善するために、S3 のどのメタデータを何にマッピングするかを指定することもできます。

Thumbnail 2020

Thumbnail 2050

これで S3 データソースを作成しました。これでアプリケーションの作成は完了です。次に、コンテンツが実際に Q、つまりあなたのインスタンスに取り込まれているかを確認したいと思います。 コネクタが構築中です。準備ができたら、「sync now」をクリックして、S3 にある全てのコンテンツが実際にインデックスに取り込まれていることを確認します。それが完了したら、管理者向けにエンドユーザー体験がどのようなものかを確認するためのプレビュー Web エクスペリエンスがあります。以上です。これが始めるためのプロセスです。管理者は質問を始め、回答を得ることができます。

Thumbnail 2060

Thumbnail 2080

さて、このエクスペリエンスをエンドユーザーにデプロイしたい場合、必要なのは、Okta、Azure AD、Ping Identityなどの既存のIdentity Providerに接続することだけです。そうすれば、エンドユーザーに展開するだけのURLが得られ、ユーザーはすぐに使い始めることができます。これでデモセクションは終了です。ここで、Vikramに戻して、私たちが紹介したgen AIの課題と、今ご覧いただいたすべてのもので、それらをどのように解決しているかについてお話しいただきます。

Thumbnail 2110

冒頭で3つの課題について触れました。ここで、Amazon Qがこれらの課題にどのように対処しているかを見てみましょう。正確性については、ご覧の通り、企業のコンテンツを活用して正確な回答を提供し、さらにソースを表示することで、幻覚を起こしていないことを確認できます。また、Qが提供する回答の各ポイントに対して具体的な引用を示しています。加えて、自分のファイルをアップロードして分析する柔軟性も提供しています。

セキュリティとコントロールに関しては、企業内で設定されているアクセス制御リスト、権限、グループを尊重する方法についてお話ししました。また、非常に細かいレベルでガードレールを設定できる機能により、企業内で望む通りの動作を実現できます。価値提供までの時間という観点では、40のコネクターを提供しているので、企業全体のあらゆるリポジトリを迅速にインデックス化できます。また、サポートしている40のリポジトリ以外にも対応できるよう、SDKも用意しており、独自のリポジトリ用のコネクターを素早く構築することができます。

これには、組み込みのインテリジェンス、すべてのインデックス作成、そしてそれに関連する作業が含まれています。これらは、このようなシステムの構築を試みた多くの方々が気づいたことでしょう。そして、SSOとの統合により、企業での展開が非常に簡単になります。OktaなどのSSOに接続するだけで、従業員が誰でもログインして使い始めることができる、もう一つのSSO対応アプリケーションとなるのです。

Thumbnail 2230

さて、すべてをまとめると、私たちはマーケティングマネージャーの仕事から始めました。今では、彼らがすべきことは、Qを開いて「Q、このProduct Requirement Documentを要約して」と言うだけです。リストが表示されます。「Q、これらの顧客メリットに焦点を当てたブログを書いて」と頼むこともできます。また、ブログのSEO戦略の最適化をQに依頼することもできます。広告コピーの作成をQに依頼することもできます。同様に、先ほど話題に出したR&Dの科学者も、臨床試験の分析、様々な試験の副作用の比較、結果のまとめの作成、同僚との共有など、すべてのユースケースをAmazon Qで実行できるようになりました。

Thumbnail 2290

それでは、私たちのお客様である Shriをステージにお招きして、彼らの組織でQをどのように活用しているかについてお話しいただきます。Shriさん、よろしくお願いします。

Experianにおけるgenerative AIとAmazon Qの活用事例

Thumbnail 2310

ありがとうございます、Vikram。皆さん、こんにちは。 ExperianのEVP of analytics and AIを務めているShri Santhanamです。Experianは、多くの方がご存知かもしれませんが、情報サービスとテクノロジーのグローバルリーダーです。私たちは、世界で最も価値のあるデータセットの一部を保有しています。15億人、これが私たちが扱う消費者情報の人数です。Vikramが話したように、プライバシーとセキュリティの責任は私たちにとって最も重要です。2億以上の企業の情報を持ち、40カ国以上にまたがっています。そして、私たちのミッションの核心は金融包摂です。

これは、インドからの移民である私個人にとってもとても身近な分野です。子供の頃、私の両親は人生の大きな課題に直面する際の手段が非常に限られていました。金融へのアクセスはかなり制限されており、主にネットワークに頼らざるを得ませんでした。そのため、金融包摂は私たちにとって最も重要であり、重要なミッションとして捉えています。そして何十年もの間、私たちはAIを使ってその目的を推進してきました。

Thumbnail 2380

generative AIについては、金融包摂というミッションを大きく拡大する可能性を秘めていると考えています。約1年前にgenerative AIという隕石が地球に衝突して以来、私たちは製品、生産性、そして企業全体にわたってgenerative AIがどのように役立つかについて、多くのユースケースを検討してきました。しかし、私たちの戦略を考える上で、少し話をさせてください。

Thumbnail 2410

私には11歳の息子がいます。これは約9ヶ月前の話です。多くの11歳の子供たちと同じように、彼もデジタル機器に夢中で依存しています。Nintendo Switchを持っていて、想像されるような番組をすべて見ています。もちろん、多くの親がそうであるように、私たちはそれを好ましく思っていません。そのため、平日はNintendoの使用を許可していません。しかし、約6ヶ月前のある日、彼が私と妻の前に座ってきました。彼はAmazonのPR FAQsとそのドキュメントについて聞いたことがあるそうです。11歳の彼が「平日の10分間のスクリーンタイムの必要性」というタイトルの3ページのエッセイを提示し、その中でドーパミン依存について語り、両面から議論を展開したのです。

私はそれを見て、大学生の時でさえこのようなエッセイは書けなかっただろうと思います。ここでは、子供が両親に影響を与える方法を見出し、彼らの言葉で話しています。私は実際それで良かったのですが、妻は納得していました。彼にそれができるなら、私たちは会社として、右側に示されているように、草の根のイノベーションが最も重要だと気づきました。会社の最も賢い10人を会議室に閉じ込めて「解決策を見つけろ」と言っても、これを解決することはできませんでした。これは本当に、会社全体の22,000人の従業員にこれを使わせ、どのように使えるかを理解し、ユースケースを開発することで実現されるものでした。

Thumbnail 2530

もちろん、左側は最も重要です。私たちの焦点はインパクト、金融包摂、そして私たちのビジネス、顧客、消費者への利益です。しかし、草の根のイノベーションを促進することが鍵でした。 そして、ここでAmazon Qが重要な手段として登場します。Amazon Qが私たちの心に響いた3つの大きな理由があります。1つ目は、Vikramの3つのポイント、正確性、セキュリティ、価値実現までの時間に関連していると思います。これらは私たちにとって本当に意味がありました。まず、技術的な負担が比較的少なく、完全に管理されたアプplicationです。数時間以内に稼働させることができ、250以上のユースケースがあった私たちにとって非常に理にかなっていました。

Thumbnail 2600

2つ目は、価値実現までの時間です。これがなければ、これらのユースケースの一部は数週間、数日、場合によっては数ヶ月もかかっていたでしょう。そして、安全で責任ある方法で対処する必要がありました。3つ目は、私たちの中核資産とデータの価値を引き出すことです。私たちは地球上で最も価値のあるデータセットの一部を持っており、構造化データだけでなく非構造化データも含まれます。これは私たちにとって非常に重要です。したがって、Amazon Qは確かに私たちの心に響きました。ここに、Amazon Qで行った事の例をいくつか示します。 エンジニアの方々に理解していただけると思いますが、コーディングやコードのコミット時に、インフラストラクチャーコードやDevOpsコードを使用してアプplicationを構築する際に、詳細な技術ドキュメントを頻繁に参照する必要があります。

チームのメンバーの中には、たった5行のコードの書き方を理解するために、時には45分から1時間もかけて詳細を読み込むことがあると言う人もいます。Amazon Qを使えば、そのドキュメント全体と対話することができます。45分もかけずに、探しているものを理解し、具体的な内容を把握することができます。つまり、単なる検索や調べ物以上に、様々な形式の言語や技術ドキュメントを思慮深くつなぎ合わせて結果を導き出すのです。VikramとNikhilは製品と販売について話しましたが、私たちも技術系および非技術系の従業員をコーチングする上で重要なユースケースだと考えています。

Thumbnail 2690

まだ初期段階ですが、多くの強力な例があります。最終的には、生産性と価値を引き出すのに役立つ多数のagentを持ちたいと考えています。ここで見ていただいているのは、そういったユースケースの一例として私たちが構築したものです。特に気に入ったのは、既存のデータソースへの安全な接続です。 このようなユースケースを本番環境に持ち込む際に、しばしば過小評価されがちなエンジニアリング層全体です。安全なアクセス制御、適切な権限、Oktaを介してConfluenceや社内のウェブページに接続することで、うまく機能しました。

これは、大体数時間ほどかかりました。中核部分は約30分でしたが、比較的短時間でした。

Thumbnail 2720

最終的に、この初期段階では、私たちは3つの主要な分野でビジネスへの影響を見ています。まず、エンゲージメントの向上です。顧客や従業員が私たちの製品やサービスとより良く関わることができるようになると期待しています。次に、影響力を増幅し、価値実現までの時間を短縮することを目指しています。これにより、より多くの実験が可能になり、多くのことを試すコストが削減されるため、様々な面でイノベーションを促進します。最後に、安全性と信頼性です。先ほど申し上げたように、私たちは地球上で最も価値のあるデータセットの一つを持っています。皆さまのデータを全て保有しているので、セキュリティと安全性が最も重要です。そのため、安全で信頼できる責任ある方法で扱われることを望んでいます。これからどのような展開が見られるか楽しみにしています。ここでさらに多くのことが期待できます。Vikramとチームとのパートナーシップを楽しみにしています。ありがとうございます、Vikram。お返しします。

Thumbnail 2770

Thumbnail 2790

Thumbnail 2820

ありがとうございます、Shri。これで本日のセッションは終了です。皆さまにお楽しみいただけたことを願っています。こちらは関連する他のセッションのリストですので、ぜひチェックしてください。よろしければ写真を撮ってください。セッション終了後にアンケートにもご協力ください。そして、こちらは始めるのに役立つリンクです。写真を撮りたい方のために、ウェブページ、コンソール、開発者ガイドのリンクを少しの間表示しておきます。以上で終了です。さらに質問がある方のために、ここに残っています。このセッションが皆さまにとって価値あるものであったことを願っています。


※ こちらの記事は Amazon Bedrock を様々なタスクで利用することで全て自動で作成しています。
※ どこかの機会で記事作成の試行錯誤についても記事化する予定ですが、直近技術的な部分でご興味がある場合はTwitterの方にDMください。

Discussion