re:Invent 2024: AWSが示すGenerative AIによるサービス提供の変革
はじめに
海外の様々な講演を日本語記事に書き起こすことで、隠れた良質な情報をもっと身近なものに。そんなコンセプトで進める本企画で今回取り上げるプレゼンテーションはこちら！
📖 AWS re:Invent 2024 - How generative AI can transform service delivery (WPS321)
この動画では、AWSのサービスとソフトウェアをパッケージ化して提供するAWS Solutions Libraryについて解説しています。特に、コールセンターの近代化とGenerative AIの活用事例に焦点を当て、Kentucky Transportation CabinetやCalifornia DMVでの導入実績を紹介しています。また、Generative AI Application Builder on AWSという新しいソリューションについても詳しく説明しており、既存のデータやAPIをGenerative AIと統合する方法や、Amazon Bedrock Knowledge BasesやBedrockアーゲントの活用方法を具体的に解説しています。AWS Solutions Libraryを活用することで、クラウドジャーニーを大幅に加速できることを、実際の導入事例とともに示しています。
※ 動画から自動生成した記事になります。誤字脱字や誤った内容が記載される可能性がありますので、正確な情報は動画本編をご覧ください。
※ 画像をクリックすると、動画中の該当シーンに遷移します。
re:Invent 2024関連の書き起こし記事については、こちらのSpreadsheet に情報をまとめています。合わせてご確認ください！
本編
AWSソリューションによるコールセンター近代化の成功事例
おはようございます。このExpo Centerまでお越しいただき、私たちの講演を聴講いただき、ありがとうございます。心より感謝申し上げます。まず皆様に考えていただきたいのは、アイデアの着想から本番環境への展開までにかかる時間についてです。例えば、市民や行政機関から新しいアイデアが提案された場合、そのアイデアについて話し合い、プロトタイプを作成し、テストを行い、最終的に本番環境に移行してROIを得るまでに、どのくらいの時間がかかるでしょうか。私はSteve Moradで、こちらがIbrahim Mohamedです。
私たちは、AWSのサービスとソフトウェアをパッケージ化して、お客様がクラウドをより効果的に活用し、導入までの時間を短縮できるようサポートしています。AWSでは、お客様の具体的なユースケースから逆算して、業界特化型のData Lakeの構築や、クラウドセキュリティの問題の自動修復、クラウド運用の自動化などを実現しています。特にパブリックセクター向けには、Solutions Libraryで教育分野における学生の入学管理や奨学金、学習管理システム、また政府機関向けには国家安全保障や防衛研究、司法・公共安全、緊急対応などのソリューションを提供しています。これらは、AWS Well-Architectedのセキュリティと開発のベストプラクティスに従い、様々なお客様で実証されたAWSのアーキテクチャパターンを体系化したものです。
私たちが各機関で特に苦心しているのを目にしてきたユースケースの1つが、コールセンターの近代化と、AIやGenerative AIを活用して様々な課題を解決することです。COVID-19の期間中、各機関がコールセンターのスケーリング方法や需要のピーク時への対応、予測不可能な通話量をより費用対効果の高い方法で処理する方法など、様々な課題に直面していました。AIや最近ではGenerative AIには大きな可能性がありますが、お客様からは、コールセンターを実装・近代化して実際にROIを生み出すまでに何年もかかると予想されると聞いています。
そこで私たちは、すぐに使えるマルチチャネルチャットボットソリューションである「QnABot on AWS」を開発しました。Amazon Connect、Lex、Pinpoint、SageMaker、Translate、ComprehendなどのAWSサービスと自動的に統合されるだけでなく、GSIS CloudやTwilioなどのサードパーティ製品とも統合が可能で、Amazon Bedrockを通じてサードパーティの大規模言語モデルとも連携できます。CloudFormationテンプレートを起動し、使用したいモジュールや質問と回答の設定方法に基づいてチャットボットを柔軟に構成するだけで、すぐに始められます。規制要件やリスク許容度に応じて、厳密に管理された回答を使用するか、Generative AIを使用して自動的に回答を生成するかを、その両極端の間で自由に設定することができます。
Kentucky Transportation Cabinetは、コールセンターのピーク時の処理に大きな課題を抱えていました。実際、ピーク時には1日に2回もコールセンターサーバーを再起動する必要があり、その度に30分のサービス停止が発生していました。しかし、QnABotを2ヶ月で導入した結果、90万件の問い合わせのうち、実際にライブエージェントが対応する必要があったのはわずか1,000件という、99.9%の自動応答率を達成しました。また、お客様の待ち時間を30～50%削減し、エージェントの労働環境も改善されました。エージェントの離職率を150%改善し、新人研修期間を4週間から2週間に短縮しながら、お客様への高品質なサービスを維持することができました。
同様に、California DMVはReal IDの要件に対応するため、コールセンターのトラフィックが急増しました。一部の顧客では最大2時間の待ち時間が発生し、平均通話時間は約30分に及んでいました。彼らは、コールセンターの近代化とROIの実現には24ヶ月かかると見積もっていました。しかし実際には、プロジェクトを開始してからわずか3ヶ月で250人以上のライブエージェントを配置してシステムを稼働させ、ROIを達成することができました。
これにより、彼らの業務効率は大幅に向上しました。彼らはチャットボットを「Miles」と名付けましたが、成功と顧客満足度を示す最も良い指標の一つは、この新システムで90%という高い顧客満足度を達成したことです。
Oklahoma State University at Oklahoma Cityでは、新入生登録のオンボーディングプロセスにおいて、学生の意見を収集したり、コールセンターのエージェントの対応品質を追跡したりする手段がありませんでした。当初は、この期間中の会話数が約2,000件でピークを迎え、学生の登録体験も一貫性を欠いていました。QnABotを導入した後は、34,000件を超える会話を処理できるようになりました。ピーク時には、問い合わせ対応におけるスタッフの時間を800時間以上節約することができました。
さらに重要なことは、どのような質問が寄せられているかについてより多くの指標と情報を得られるようになったことで、見込み学生とのコミュニケーション方法に関する新しい洞察を得ることができたことです。具体的な例として、キャンパス内の居住環境について、実際にはそのようなオプションを提供していないにもかかわらず、適切な情報発信ができていないことが判明しました。キャンパス内のオプションについて多くの学生からの問い合わせがあることが分かったため、学生とのコミュニケーション方法を改善し、ウェブサイトの情報も更新することができました。
Generative AIが行政機関と市民体験を変革できる方法は他にもたくさんあります。追加の情報ニーズを解決し、Generative AIアプリケーションの構築に伴う複雑さに対処するために、私たちがどのようにサポートしているかについて、Ibrahimから説明させていただきます。
Generative AI Application Builder on AWSの可能性と活用方法
ありがとうございます、Steve。コールセンター以外で、Generative AIは公共セクターの組織をどのように変革できるのでしょうか？組織が持つ最も重要なデータ資産の一つは、高品質で正確、そして地域に特化したデータです。これを市民に提供することは、公共セクター組織に課せられた重要な使命の一つです。これにより、公平性が向上し、サービス提供の方法が変革されます。
Generative AIアプリケーションはどのような構成になっているのでしょうか？実は、他のアプリケーションとそれほど変わりません。フロントエンドには静的データを提供するユーザーインターフェース、動的データを提供しアクションを実行するためのAPI、そしてこれらを支えるユーザー認証・認可システムがあります。中間層には、ナレッジベースへの接続やモデルの推論を行うビジネスレイヤーがあります。ここで教育向けの主要なユースケースを構築することになります。例えば、現地の言語が理解できない新米の親が、子どもの教育カリキュラムを理解しようとする場合を想像してみてください。
ここで特定のユースケースを構築することになります。バックエンドには、システムの可観測性を確保するための運用とモニタリングがあります。アプリケーションを開発した経験のある方なら、このハイレベルな概要が実際の姿を正確に表現していないことをご存知でしょう。詳細に踏み込むと、Generative AIアプリケーションには独自の特徴があります。モデルのレイテンシーは30秒以上かかることも珍しくないため、ユーザー体験を向上させ、応答をできるだけ早く提供するためにソケットストリーミングを設定する必要があります。Generative AIモデルには、セッションストレージの設定やメモリの概念がないため、それらの機能をアプリケーションに組み込むのは開発者の責任となります。これらのアプリケーション開発における課題が、コアとなるGenerative AI体験への集中を妨げています。
もしこれらすべてを気にする必要がなく、代わりにGenerative AI体験に特化した情報、使用したいモデル、データを提供するナレッジベースなどの情報を入力できるユーザーインターフェースがあったらどうでしょうか？これこそが、Generative AI Application Builder on AWSで解決しようとしている課題です。
私たちはこのソリューションをGABと呼んでいます。どのデータを使用するか、データストアをどこに置くか、そしてどのようにベクトルストアを導入するか、どのモデルを使用するかを選択できる柔軟性を提供します。このソリューションには、迅速な実験を可能にする事前構築されたユーザーインターフェースが付属しており、アプリケーションを取り巻く差別化されていない作業に焦点を当てることなく、異なるモデルのレイテンシー、パフォーマンス、コストを比較することができます。テストと反復を経て本番環境への移行準備が整った時点で、このソリューションは本番グレードのアプリケーションに期待されるセキュリティ、スケーラビリティ、信頼性、可観測性を備えた状態で利用できます。すべてのユースケースに対応することはできないため、必要に応じて拡張可能なモジュラーアーキテクチャでソリューションを構築しています。
では実際にどのように始めればよいのでしょうか？2つの例を見ながら、このソリューションを使ってアプリケーションを構築する方法を見ていきましょう。最初の例は、既存のデータがあり、そこに新しいGenerative AIの機能を統合したい場合です。 一方には既存のアプリケーションがあり、もう一方にはデータリポジトリとビジネスルールがあります。 これらを変換し、Amazon Bedrock Knowledge Basesを通じてAWSに取り込み、ビジネスルールをガードレールとセーフガードを通じてコード化します。これらのリソースをGenerative AI Application Builderソリューションに統合していきます。
ここで、テキスト生成、データ分析・探索、翻訳、要約など、目的とするユースケースに焦点を当てることができます。例えば、地方の裁判所が関連する判例法を表示・リンクすることで検索インターフェースを刷新したい場合を考えてみましょう。ユースケースのテストと改善を重ねた後、APIインターフェースが提供され、それを直接本番環境に展開できます。このソリューションは、 AWS Well-Architectedのインフラストラクチャとフレームワークのすべての考慮事項を含めて構築されているためです。
では、ユースケースが少し異なり、データとAPIはあるものの、その上にGenerative AIインターフェースが必要な場合はどうでしょうか？ 同様に、データ、ビジネスルール、既存のAPIを活用します。例えば、市が提供する公園・レクリエーションサービスを考えてみましょう。利用可能な最新のプログラムを確認するためのAPI、お子様の水泳教室を予約するためのAPI、そしてこれらのプログラムへの登録方法に関するナレッジベースやドキュメントがあるかもしれません。これらすべてを自然なインターフェースに統合し、Amazon Bedrock agentを通じてまとめることができます。このagentは大規模言語モデルを使用して、これらの異なるツールを連携させ、ユーザーの意図に沿ったアクションを実行します。
Amazon Bedrock agentを使用してテストと改善を重ねた後、GABソリューションに統合することができます。 この段階まで、agentはAWSコンソール内に限定されています。GABに統合することで、先ほど説明したユーザー管理と認証、可観測性、構成ストアを備えたソリューションにagentをラップすることができます。 ソリューションの出力として、テスト、改善、そして最終的に本番環境に移行できる自然言語インターフェースが提供されます。 Generative AI Application Builder on AWSソリューションは、現在AWS Solutions Libraryで利用可能です。事前にデプロイされたコードパッケージ、オープンソースのGitHubリポジトリ、完全な実装ガイドが付属しています。
これらは、AWS Solutions Libraryが提供するソリューションの2つの例に過ぎません。自動車産業、ヘルスケア、ライフサイエンス、司法・公共安全、教育、非営利団体、連邦政府など、さらに多くのソリューションが用意されています。
もう1つの例をご紹介したいと思います。国立公園・森林保護局の立場だとしたら、Generative AIによってどのように業務を変革できるでしょうか？例えば、Generative AIを使って必要なデータを分析・探索し、次の山火事が最も発生しやすい管轄区域を特定・予測することができます。これこそが、私たちがGenerative AIで実現しようとしている体験の一例です。 しかし、このセッションで最も覚えていただきたいポイントは、AWS Solutions Libraryがみなさまのクラウドジャーニーを加速させるためにここにあるということです。
ですから、みなさまへのチャレンジとして、次にビジネス上の問題や技術的な課題に直面したとき、あるいは市民サービスの向上を目指すとき、まず最初にAWS Solutions Libraryにアクセスしていただきたいと思います。必ずやAWSでのクラウドジャーニーの加速に役立つはずです。 本日はご参加いただき、ありがとうございました。改めて、私はIbrahim Mohamedです。そしてSteve Moradと一緒に、AWS Solutions Libraryチームの一員として登壇させていただきました。セッションのアンケートにぜひご協力ください。みなさまがどのような情報やコンテンツを求めているのかを理解する上で大変参考になります。re:Inventでは、パブリックセクターに関する情報や、みなさまのジャーニーに役立つ厳選されたソリューション、ガイダンス、技術リファレンスの例をご覧いただけるQRコードをご用意しています。ご参加いただき、ありがとうございました。リプレイとre:Inventの残りの時間をお楽しみください。ありがとうございました。
※ こちらの記事は Amazon Bedrock を利用することで全て自動で作成しています。
※ 生成AI記事によるインターネット汚染の懸念を踏まえ、本記事ではセッション動画を情報量をほぼ変化させずに文字と画像に変換することで、できるだけオリジナルコンテンツそのものの価値を維持しつつ、多言語でのAccessibilityやGooglabilityを高められればと考えています。
Discussion