re:Invent 2024: AWSが示すGenerative AIの通信業界活用事例
はじめに
海外の様々な講演を日本語記事に書き起こすことで、隠れた良質な情報をもっと身近なものに。そんなコンセプトで進める本企画で今回取り上げるプレゼンテーションはこちら！
📖 AWS re:Invent 2024 - AI-managed telecom ecosystem: Closer than ever (TLC205)
この動画では、AWSのTelecom担当Principal Solutions ArchitectのEfrat Nir-Bergerが、通信業界におけるGenerative AIの実践的な活用について解説しています。Amazon Bedrock、Amazon SageMaker、Amazon Qなどの基盤技術を活用し、通信事業者向けのAI実装における課題と解決策を詳しく説明します。特に、AmdocsのRoey Benamotzが紹介するConnectXの事例では、TMF APIを活用したTelco in a boxソリューションにGenerative AIを組み込み、開発期間を数ヶ月から数分に短縮した実例や、Smart Agentによる500万件の請求書の自動QA実現など、具体的な成果が示されています。技術からビジネスサイドへの移行を促進し、より効率的なサービス提供を実現する取り組みが紹介されています。
※ 動画から自動生成した記事になります。誤字脱字や誤った内容が記載される可能性がありますので、正確な情報は動画本編をご覧ください。
※ 画像をクリックすると、動画中の該当シーンに遷移します。
re:Invent 2024関連の書き起こし記事については、こちらのSpreadsheet に情報をまとめています。合わせてご確認ください！
本編
Generative AIが通信業界にもたらす変革と課題
みなさん、こんにちは。本日のトークへようこそ。私はEfrat Nir-Bergerと申します。AWSのTelecom担当Principal Solutions Architectを務めております。会場の皆様を拝見して、確信を持って言えることがあります。それは、業界や役職に関係なく、皆様がGenerative AIを試されているということです。なぜなら、これはもはやハイプを超えて、私たちの働き方を実際に変革しているからです。同じような変革が通信業界でも起きています。通信事業者の運営方法や価値提供の方法が進化する転換期にあるのです。本日は、この変革を実現し、具現化するために必要なインフラ、サービス、プロセス、機能など、AWSが提供する包括的な構成要素についてお話しします。後ほど、AmdocsのRoey Benamotzが登壇し、Telco-in-a-boxソリューションであるConnectXにGenerative AIを組み込み、AWSでの開発、デプロイ、運用をどのように変革したかについて説明します。
実験段階から本番環境への移行について、直面する課題を見ていきましょう。最初の課題は、クラウド導入時と同様に、技術を理解し組織の成熟度を高める必要があることです。これには、組織のスキルセット開発、必要な学習曲線の構築、そして組織の変革と導入を推進するAI Factoryのような実践の確立が含まれます。2番目の課題はデータに関するもので、これはAIとGenerative AIの核心部分です。組織固有のデータからより多くの価値を引き出し変革を生み出すことができる一方で、特にTelcoのワークロードでは、ガバナンス、プライバシー、セキュリティを確保しながら実施する必要があります。3番目の課題は、適切なビジネスユースケースの定義、市場にもたらす価値の決定、そして本番環境への成功的な移行に関するものです。
これらが私たちの設計原則です。まず、インフラストラクチャの選択については、パフォーマンスが高く、コスト効率が良く、ユースケースに適したものであることを確認する必要があります。これについては後ほど、AWSが提供する様々なソリューションについて説明します。これらのサービスを提供する際、セキュリティとコンプライアンスは組み込み済みです。次の原則は統合データパイプラインで、複数の場所に分散している可能性のある運用技術データと組織データをどのように統合するかに対応します。パートナーエコシステムも重要な原則で、インフラパートナー、すぐに使えるソリューションを提供するためにこれらのユースケースを組み込むISV、そして導入と本番デプロイを支援するパートナーが含まれます。次に、後ほどAmazon Bedrockで説明するプラグアンドプレイモデルがあります。これは、推論とコーディングでは異なるモデルが必要なように、目的に応じて異なるモデルを使用できる豊富な機能を提供します。最後の原則は開発者体験に焦点を当てており、シンプルなAPIコールを通じて、開発を簡素化し、直感的な創造体験を実現することを目指しています。
Generative AIのセッションに参加された方は、おそらくすでにご存知の3つのレイヤーについて、多くの時間を割きません。インフラストラクチャの選択に関して、トレーニングとインファレンス用のカスタムシリコンチップ、そしてNVIDIA GPUがあります。また、2017年から提供しているAmazon SageMakerがあり、AIユースケースに使用され、MLの構築、実行、デプロイを可能にします。これらは両方とも、先ほど言及したGenerative AIアプリケーション開発の簡素化を体現するAmazon Bedrockの基盤となっています。これは、特定のユースケースに適したモデルを自由に選択できる、Generative AIアプリケーション構築の簡便さを示しています。
Amazon Qについては、Q DeveloperとQ Businessがあります。Q Developerは開発者に必要なコーディングとテスト活動を支援し、Q Businessは組織のデータに機密性を保ちながらアクセスし、組織内でより効率的に作業することを可能にします。これらはすべてノーコードで実現できます。
AWSのAI-Driven Telcoアプローチ：包括的な機能ライブラリの提供
それでは、AI-Driven Telcoに焦点を当てた私たちのアプローチについて、Telco分野の話をさせていただきます。 一見複雑に見えますが、これらのコンポーネントすべてについて詳しく説明することはしません。これまでの話にあったように、インフラストラクチャーにはAmazon BedrockやAmazon SageMakerが含まれています。多くのお客様がすでにNVIDIA AI Enterpriseをプラットフォームとして使用されており、私たちはAWS上でも同じプラットフォームを使用できるようにしています。推論を実行したい場合も、AWS上で実行できます。これは、お客様の役割や成熟度、組織の運営方法に基づいて選択できるオプションを示しています。
モデルオペレーションの2番目のライン、特に下部のGen AI Gatewayを見ると、Telcoグレードのデプロイメントは異なるアプローチが必要です。運用性、モニタリング、セキュリティ、マルチテナンシーを提供するプラットフォームを構築する必要があります。Gen AI Gatewayは、ランディングゾーンのようなもので、実際のデプロイメントと本番環境へと進むためのプラットフォームとして機能します。プリミティブについて見ると、これは包括的な機能ライブラリのようなものです。例えば、Text to SQLは、ネットワークに対してクエリを実行したい場合に特に便利で、シンプルな質問をSQLクエリに変換することができます。
これらのプリミティブの上に、Telecomのユースケースがあります。独自のユースケースを構築することもできますし、私たちの広範なパートナーエコシステムからソリューションを活用して、既製のソリューションを簡単に実装し、組織に統合することもできます。この豊富な機能ライブラリにより、ビジネスケース、優先順位付け、組織の成熟度に基づいてコンポーネントを選択できます。
ConnectXにおけるGenerative AI活用事例：開発から顧客サービスまで
ここで、この豊富な機能ライブラリを活用した事例をご紹介したいと思います。Roeyさんをステージにお招きして、ConnectXと、そこにGenerative AIの機能をどのように組み込んだかについてお話しいただきます。ConnectXへの実装方法についてお話ししましょう。まず、ConnectXとは何かを理解しましょう。 ConnectXは私たちのTelco in a boxソリューションです。つまり、ネットワーク統合、カタログ、オーダリング、ケアチャネル（特にB2B）、収益化まで、Telcoプロバイダーが必要とするすべてが含まれています。これらのコンポーネントをすべて1つのボックスにまとめ、APIサービス、UI、フローで構成される完全なソリューションを作り上げています。
その特徴についてお話ししたいと思います。約2年前に開発を始めた時、 SaaSベースにする必要があることは明確でした。私たちは非常に大規模なお客様から小規模なお客様まで対応しており、小規模なお客様でも私たちのプラットフォームにオンボードして、一緒に成長できるようにしたいと考えていました。これを実現する唯一の方法は真のマルチテナンシーであり、そのためにハイパースケーラーを選択することになりました。AWSは明らかな選択肢でした - 基盤となるインフラストラクチャーと同じだけの柔軟性しか得られないからです。AWSの素晴らしいServerlessインフラストラクチャーにより、お客様に対して柔軟かつ弾力的なサービスを提供できます。また、私たちのAPIセット全体が業界標準に従っていることを確認しており、TM Forumを使用しています。これはTelco業界で誰もが理解している標準規格です。すぐにお分かりいただけると思いますが、皆さん数字で話をします。
では、なぜこれがGenerative AIと関係があるのでしょうか？少しお時間をいただき、TMFとGenerative AIの関連性についてご説明させていただきます。私が恐らく初めてこの関連付けを行う者だと思います。さらに2つの重要な点についてお話ししたいと思います。1つ目は拡張エコシステムについてです。これもGenerative AIの重要な側面の1つです。すべてを自前で行うことはできません。素晴らしいパートナーと連携し、最終的にブランドに完全なソリューションを提供する必要があります。そして、これらすべてが私たちが「エンパワーメント」と呼ぶものです。開発者、管理者、マーケティング担当者、実際に携帯電話を使用するお客様まで、皆が自己解決を望み、エンパワーされることを望んでいます。チケットを起票して待つことは望んでいないのです。
それでは、私たちのシステムを使用する様々なプロフィールの観点から、Generative AIがどのように見えるのか、ご覧いただきましょう。開発者、実装者、ビジネスユーザー、エージェント、そしてお客様がいます。それぞれについて見ていきましょう。まず開発者から始めましょう。 私たちはオープンプラットフォームであり、開発者向けにAmazon Qを使用しています。長年使用してきており、プロセスの効率化、コードの品質向上、開発の迅速化に役立っています。しかし、付加価値の1つは、先ほど申し上げたように、TMF APIを使用していることです。そして、興味深いことにAmazon Qもこれらを理解しています。例えば、開発者がよく行う作業として、Webサービスからデータを取得する場合、すべてを手書きする代わりに、「TMF 622（オーダリングAPI基盤サービス）から情報を取得する関数を作成して」というように指示することができます。
4秒後には、クラウドへの接続とサービスモデリングを処理する完全なコードが生成されます。これにより、開発者は実装が必要なビジネスロジックに集中できます。私たちにとって、これはゲームチェンジャーです。大幅な時間削減が可能で、コードの品質も向上します。次のフェーズに移りましょう。これを実装またはセットアップと呼んでいます。以前は、基本的なシステムを稼働させるまでに数ヶ月かかる長いプロセスでした。AWSインフラストラクチャとGenerative AIを活用することで、わずか数分に短縮することができ、実際にそれをお見せする予定です。
従来のシステムや古い方式では、クラウドにおいても、調達、セットアップ、設計などの一連のプロセスがありました。これらは時間と労力を要し、それ自体ではビジネス価値を生み出しません。実際の作業を開始するために必要な準備作業だったのです。AWSのインフラストラクチャとサービスを活用することで、まずこれらの作業の多くを省略することができ、さらに一歩進んで、Amazon Bedrockを使用して、作成されたテナントやブランドが関連情報を確実に持つようにしています。
それをお見せしましょう。物理的なテナントの作成から始めます。新しい環境を構築したい場合、プロセスを完全に自動化しています。簡単なフォームに記入してから15秒後には、新しい環境が用意されます。なぜこれが重要なのでしょうか？実は面白いことに、当初は単に4ヶ月の期間を短縮し、工数を削減したいだけでしたが、実際にはそれ以上の効果がありました。お客様自身、つまりブランド自体がデジタル環境を作成できるようになったのです。
MVNOになりたいMVNOのことを考えてみてください。また、QA環境やイノベーション、ハッカソンのために新しい環境が必要なブランドのことを考えてみてください - 15秒で新しい環境が手に入ります。しかし、環境を手に入れたら、それにデータを投入する必要があります。そして、特定のニーズに合わないテンプレートや事前定義された画一的なデータは使いたくありません。そこで、Amazon Bedrockを使用することで、ブランドが必要に応じて自由に回答できるオープンエンドな質問を含むウィザードを用意することができます。そして、システムは彼らのニーズを理解し、環境全体の構築を開始します。
数分後には、製品カタログ、MSISDN、ユーザー、プロビジョニング、eSIM、説明に合った画像が用意されます。これは、このセッションのために2日前に作成したブランドです。現在私が使用している環境は、これに接続されています。つまり、数分で、先ほどの質問に対する回答に基づいてデータが事前に投入されたカタログ全体と、本番環境で稼働できるモバイルアプリが用意されるのです。もちろん、すぐに本番環境に移行することはないでしょう - 多少の調整は必要です。最終的な判断は人間が下すようにしています。私たちは「ターミネーター」を見ていますから、人間が最終判断を下す必要があることを知っていますが、スタート地点以上のものが得られます。
その後、本番環境に移行してからもシステムを調整したいと思うでしょう。最も一般的なのは新しいオファーの作成で、多くのチェックボックスやテキストを使ってオファーを作成することもできますし、それでも問題ありません。しかし、時には単純に説明したいだけの場合もあります。そこで、システムに「時々故郷に電話をする世界旅行者向けのオファーを作成して」と指示することができます。数秒で、オファーの準備が整います。調整や変更、Q&Aサイクルを経て本番環境にプッシュすることもできます。つまり、オファーを考えてから本番環境での実装まで、わずか数秒で完了するのです。
システムの別のユーザーについて考えてみましょう。顧客からの電話を受けるCSRサポートエージェントがいます。問題や課題を抱えており、大量の情報 - 使用記録、顧客の好み、履歴などの膨大な情報があります。それらを一つ一つ確認している時間はありません。Generative AIと秘伝のソース、そして多くのSageMakerを組み合わせることで、カスタマーサービス担当者がこの顧客の状況を即座に把握できるような要約を作成することができます。
これらの機能すべてについて、私たちが誇りを持っているのは、Smart Agentと呼ばれるものにパッケージ化していることです。各機能は、私たちが開発するか、他の誰かが開発してMarketplaceにアップロードする独立したプラットフォームであり、ブランドが必要な機能を選択できるようになっています。その例を少しお見せしましょう - 課金について話してみましょう。通信業界での課金は非常に困難なプロセスです。考えてみてください - 毎月何百万もの請求書を作成する必要があり、それらは非常に正確でなければなりません。なぜなら、顧客が間違った請求書を受け取ると不満を抱くからです。そして何故か、ミスは常に顧客に不利な方向で発生するのです。
以前は、1,000件ほどの請求書のサンプルデータを使用し、一部自動化された手動のプロセスで対応していました。手動でQAを行い、問題がなければボタンを押すと、ほとんどQAなしで500万件の請求書が発行されていました。しかし現在は、Smart Agentを活用することで、生成される各請求書に対して選択的に処理を実行できます。つまり、500万件の請求書が生成される際には、500万件すべてが完全にQAされ、さらに顧客履歴やヒューリスティクス、Machine Learningによる予測に基づいて修正や変更も行われます。請求書を発行する際には、すべてが適切に処理されていることが分かります。小さな変化かもしれませんが、Telcoプロバイダーにとってはゲームチェンジャーとなっています。
他にも多くの事例がありますが、時間が来てしまいました。ありがとうございます。Ali、ありがとうございます。あなたが実際に活用している事例を見るのは本当に素晴らしいですね。お話をするたびに、新しい何かが組み込まれていて、それが未来への展望につながります。実は私も今後どうなっていくのか考えていたのですが、スライドの1つで示されていたように、実装者からビジネスサイドへの移行が起こるのではないかと感じています。つまり、ビジネスサイドが今やデータにアクセスできるようになり、技術的な制約なしにシンプルな方法でより効果的に活用できるようになるということです。この考えについて、どう思われますか？共感していただけますか？
まさにその通りです。私たちが目にしているのは、AIとシステムの使いやすさによって、プロセスが開発者から実装者へ、そしてビジネスサイドへ、最終的には顧客へと移行していくことです。これにより、誰もがより素早く対応できるようになります。正直なところ、私たちが想定していなかったことも実現されています。顧客フィードバックに基づいて進化し続けているのです。新しいツールを使って実験し、そこからフィードバックを得て学び、システムは進化し続けています。来年がどうなるのか、正直まったく分かりません。来年また会って確認する必要がありますね - 約束です。
では次のスライドに移りましょう。本セッションにご参加いただき、ありがとうございました。質問がございましたら、お気軽にお声がけください。他にも多くの興味深いTelcoセッション、ワークショップ、Buildersセッションがありますので、ぜひご参加ください。それでは、お礼のスライドに移って終了とさせていただきます。ありがとうございました。
※ こちらの記事は Amazon Bedrock を利用することで全て自動で作成しています。
※ 生成AI記事によるインターネット汚染の懸念を踏まえ、本記事ではセッション動画を情報量をほぼ変化させずに文字と画像に変換することで、できるだけオリジナルコンテンツそのものの価値を維持しつつ、多言語でのAccessibilityやGooglabilityを高められればと考えています。
Discussion