Zenn
💡

re:Invent 2023 で紹介された生成 AI 事例 75 選

2023/12/08に公開
AWS
re:Invent
生成系ai
tech

re:Invent は、AWS (Amazon Web Services) が毎年開催するクラウドコンピューティングの大規模カンファレンスです。
AWS が提供する様々なクラウドサービスや最新の技術動向を発表する場で、世界中からエンジニアやアーキテクトが集まります。

本イベントでは、AWS の最新技術や製品に関する基調講演から、
具体的なサービスやユースケースに関するセッションまで幅広い内容が用意されています。
クラウドコンピューティングを実践する上でのノウハウや最新トレンドを学ぶことができる貴重な機会となっています。

この記事では、re:Invent 2023 で発表されたセッションから生成 AI に関する事例について大まかな内容についてまとめています。生成 AI の活用の参考にしていただけらば幸いです。

なお要約については Claude v2 を利用して執筆しており、人の目によりレビューは行なっていますが間違っている点などがあればコメントをお願いします。

re:Invent 2023 で発表された生成 AI 顧客事例

AWS を利用している企業による事例です。

ACME

  • ACME はコーヒーメーカー会社です。
  • 顧客からのコーヒーメーカーに関する質問に答えるために、生成 AI を利用しています。
  • コーヒーメーカー、サプライヤー、価格などの詳細を製品知識グラフに追加し管理しています。
  • このことで顧客サポート担当者と EC サイトマネージャーが正確に顧客の質問に答えられるようになりました。

Actuate

  • Actuate はクラウドベースのコンピュータビジョンプラットフォームで、リモートアクセス可能なカメラからのビジョンフィードを取り込み、リアルタイムでセキュリティ脅威を検知する。
  • AWS Fargate を運用モデルとして選び、カメラのコンテナ化された部分集合を管理し、毎日特定時間にタスクを起動する内部スケジューリングロジックを取り入れた。
  • これにより継続的デリバリーの改善と監視・トラブルシューティングの streamline を達成した。

Adobe Commerce

  • Adobe Commerce は商品カタログの説明を拡張し関連する用語でドキュメントを豊富にするために、分野固有の言語モデルのファインタニングを使用した。
  • これにより、語彙的拡張によって商品ベクトルをユーザーのクエリに近づけ、検索の再現性が向上した。
  • 拡張されたカタログ説明は Elasticsearch に索引付けられ、豊富化されたドキュメント上でベクトル検索を可能にした。

Agustinus Nalwan

  • AI を利用した寝る前のストーリーテラー「 Owly 」を開発した。
  • Amazon Bedrock、SageMaker、Stable Diffusion モデルを利用して個人向けのコミック動画を音楽とともに作成できる。
  • 子供のおもちゃを主人公としてストーリーを個人化できるように Stable Diffusion モデルを調整した。

Air France

  • 航空機の書類情報で大規模言語モデルを学習させ、部品の再使用のために必要な書類を抽出し欠落している書類を特定するモデルを訓練した。

aleios

  • Aleios では Bedrock 上でホストされた Amazon Titan モデルを利用して、入力から有名な本や映画の6つの絵文字の要約を生成するゲーム「 Emoji Us 」を構築した。
  • このゲームでは、入力から生成された6つの絵文字の要約を当てるユーザーの回答を、元の入力との埋め込みを使用してスコアリングする。
  • 主な利用技術は Bedrock、API Gateway、Lambda、DynamoDB。

Allstate

  • Allstate は Amazon Bedrock 知識ベースとエージェントを使用して保険金処理アシスタントを構築しました。
  • 自動的に保険契約内容を取得し、必要な書類を特定し、知識ベースから情報を取得して API コールをオーケストレーションすることで、未提出書類がある保険契約者にリマインダーを送信しました。

American Sign Language community

  • 音声やテキスト入力からアメリカ手話 (ASL) のアニメーションを生成するために、Amazon Transcribe、Amazon SageMaker、Amazon Bedrock、Amazon S3 などの AWS サービスを利用している
  • これにより、聾者の個人にとって包括的なコミュニケーションが提供され、手話通訳者不足に対処できる

Asana

  • Asana は AWS App Fabric から提供される生成 AI の機能を活用し、Asana、Slack、メールからの情報を集約した「スマートステータスアップデート」を開発している
  • これによりプロジェクトの健全性とリスクに関するより完全な視点を提供し、異なるツール間で関連情報を探す時間を短縮できる

Athene

  • 企業名では大量のデータファイルを処理し、アナリストの時間を節約するデータマッピングドキュメントを生成した
  • 職員が質問を行い、理解をチェックできる知識ベースエージェントを作成し、時間の節約につながった
  • これによりアナリストは、より価値の高い作業に集中できるようになった

BMW Group

  • Amazon Bedrock を利用してクラウドインフラの最適化とコスト削減を自動的に行う生成 AI ボットを構築した。
  • ボットは調査結果を説明し、改善策を提案し、修正を自動的に実装できる。

Bloomberg

  • ブルームバーグは金融分野向けの自然言語生成 AI モデルである GPT-LM を開発した。
  • この例は、ドメイン固有のデータを使用して独自のモデルをゼロから訓練した事例である。

Booking.com

  • booking.com は Amazon Bed Rock を使用して会話型チャットを通じて個人化された体験を提供している
  • booking.com は自社データを使用して大規模言語モデルをカスタマイズしている

Brenntag

  • Brenntag は世界最大級の化学品流通企業です。
  • 顧客中心のプロセスに焦点を当て、スケーラブルなデータプラットフォームを構築し、データから価値を解放することで最も簡単にビジネスを行うことができる企業になるためのデジタルトランスフォーメーションを進めています。
  • SageMaker、生成 AI モデル、データメッシュアーキテクチャなどの AWS サービスを活用しています。
  • 重要なイニシアチブは、オムニチャネルプラットフォーム、サプライチェーンのデジタル化、顧客アプリケーション開発の加速、予測注文などデータ駆動型の洞察、2026 年までに1万人超の従業員をデジタル&データ能力についてスキルアップなどです。

Bristol-Myers Squibb

  • ブリストル・マイヤーズ・スクイブ社は、新しい治療薬の同定と臨床文書の概要を自動生成するために大規模言語モデルを利用している
  • それにより、システム変更の要件の理解を加速している

CS Disco

  • CS Disco は法律分野向けのテクノロジー解決策のリーダー企業で、弁護士が電子証拠データを見つけ出し、自社の電子証拠データベース内の文書に基づいて証拠に基づいた回答を提供できるチャットボット Cecilia を構築した。
  • Cecilia は PostgreSQL データベースで Amazon RDS for PostgreSQL with PG Vector を使用している。

Carrier

  • 企業名において、会話型 AI エージェントである AWS Bedrock Agents を基盤とした対話型 AI を開発・導入した
  • それにより、自然言語での対話を通じて、サプライチェーン内の荷物の輸送状況の透明性と可視性を顧客に提供した
  • 事前に対話の枝分かれをプログラミングせずに対話を可能にした

Centene

  • Centene Corporation は提供者や会員からの申請書や承認書などの大量の書類を日々処理している。
  • Amazon Textract、機械学習モデル、AWS のサーバレスアーキテクチャを利用して、機械的な文書処理システムを構築した。
  • このシステムは OCR、テキスト抽出、分類を使用して文書からキーとなる情報の入力と抽出を自動化する。
  • ある大量利用事例では、手動作業を 80%、処理時間を 90% 以上削減し、会員と提供者の体験を改善した。

Choice Hotels

  • Choice Hotels( 世界有数のホテルフランチャイザー)は、7,500 軒のホテルが 46 ヵ国に広がる大規模なネットワークを持つ。
  • Amazon Connect の新機能の生成 AI データマッピング機能を利用することで、ゲスト 360 プロファイルの充実と新規顧客の登録の高速化に成功した。

Choppa

  • Choppa は販売担当者が関連するマーケティングコンテンツを見つけたり、ドキュメントの要約を生成したり、質問に答えるためにドキュメントを検索したり、会議の準備のためにテスト問題を生成したりするために、Amazon SageMaker と Amazon Bedrock を使用して4つの AI 利用事例を構築した。これにより顧客とのエンゲージメントが向上し、更に取引が成立するようになった。

Covered California

  • カリフォルニア州 Covered California は、CalHEERS システムを駆動し、170 万人以上のカリフォルニア州民を安価な医療保険と結びつけるために AWS を利用している。
  • AWS に移行することで、はるかに多くの人々に効果的にサービスを提供し、医療アクセスを改善し、健康格差を減らし、最終的により良い医療を提供できるようになった。

DataBricks

  • DataBricks は顧客のために大規模な生成 AI モデルを構築するために Trainium チップを使用している。
  • 安定した発展のようなモデルを最適化して、モデルのトレーニングコストを数十万ドルから 10 万ドル未満に削減している。
  • これにより、更に多くの顧客が自分の使用ケースのためにモデルを構築およびカスタマイズできるようになる。

Doordash

  • IVR を会話型 AI に移行した企業名
  • Amazon Connect と Amazon Lex を使用して IVR を会話型 AI に移行した
  • 顧客が IVR にかかる時間を 42% 削減できた
  • 転送率を 49% 削減できた
  • 最初の対応で解決できる件数を 12% 増加できた
  • Amazon Connect の使用料を 15% 削減できた

Eli Lilly

  • 製薬会社のイーライリリーは、臨床試験データから患者の物語/試験の要約を生成することで、執筆時間を4時間から1分未満に短縮できる生成 AI を科学的執筆の分野で利用している

Finra

  • Finra はソフトウェア開発ライフサイクル全体で生成 AI の利用事例を検討している。例えばユーザストーリー、設計アーティファクト、コード生成、コードレビュー、テストケース生成、本番環境でのエラー解析など。
  • Finra は AWS サービスの Amazon Bedrock、CodeWhisperer、CodeGuru、DevOps Guru を活用して生成 AI を運用化している。
  • Finra は CodeWhisperer のカスタマイズ機能を利用して基礎モデルをカスタマイズし、開発とテストの利用事例での有効性を評価している。

Freshworks

  • フレッシュワークスは、自社のジェネレーティブ AI プラットフォームである Freddy のためのガードレールを実装するために、P検出、有害性検出、プロンプト安全分類を含む Amazon Comprehend API をモデルトレーニングと推論の両方で利用している。
  • トレーニング中は、Comprehend が顧客データからPを削除するのを助ける。
  • 推論中は、Comprehend がプロンプトと応答を分類して、有害な、安全でない、またはP含むコンテンツを検出するのを助ける。

Gilead

  • ギレアド社は、研究部門で知識管理のユースケースとして生成 AI を活用し、目標アセスメントのために数千件の文書を精査している。
  • ギレアド社は、臨床試験プロトコルから患者同意書を生成する取り組みも行っている。

Gilead Sciences

  • 医薬品開発の目標評価を加速するために、自然言語の質問回答を通じて科学文献とデータベースの膨大な量を迅速に識別分析し、研究報告書を動的に生成・更新し、最新の研究と文献データの知識ベースの品質の高い結果を自動的に生成することで、生成 AI を活用する。

Gilead Sciences

  • Gilead Sciences は AWS 上で生成 AI を活用しており、ユニークなアーキテクチャパターンを通じたファウンデーションモデルの選択能力の実現と、ファウンデーションモデルガバナンスの運用化を可能にしている。
  • 社内外の実データセットを利用した AI ドリブンのプロトコル分析によるサイト選定の最適化を行っている。
  • 重要なデータセットから洞察を導出し、様々なソースからの企業全体にわたる大量の非構造データの分析を加速している。

Ita ú

  • AWS 上でデータメッシュアーキテクチャを利用して、顧客データを事業部門間で安全に統合する
  • 金融サービス向けの投資アドバイスや法的文書分析などの生成 AI アプリケーションを動かすために顧客データを活用する

Ita ú

  • Stable Diffusion などの生成 AI モデルを利用して、テキストプロンプトから絵画の画像を生成
  • 自社データで Stable Diffusion などのモデルをファインチューニングし、特定ドメイン向けのカスタマイズを行った

Iveco Group

  • Driver Pal 3.0 の対話型アシスタントを駆動するために生成型 AI を活用した
  • 運転手にリアルタイムな通知、協調的なアシスタンス、多言語サポートを提供し、運転手の生産性、安全性、車両の稼働時間、持続可能性の向上につながった

John Hancock

  • ジョン・ハンコックは 2018 年から Amazon Connect とパートナーシップを結んでおり、コンタクトセンター業務を改善している。
  • ネットプロモータスコアが 50% 以上増加、平均呼接続時間が 1.5 分短縮、IVR 内含率が 50% 増加した。
  • 予測と労務管理、会話分析、品質フォーム、支払処理とルーティングの IVR 機能を活用してコンタクトセンターと顧客体験の最適化を図っている。

Johnson & Johnson

  • 特定の用途のために性能とコストを考慮して最適なモデルを選定するために、過去の業務実績文書を活用してベンダーパートナーの評価を行う RAG( 検索支援生成)設計を使用して再利用可能な生成 AI ソリューションフレームワークを構築した
  • AWS サービスの Kendra、Bedrock、カスタムモデルを使用した

LaunchDarkly

  • LaunchDarkly は Amazon Bedrock を利用して、ジェネレーションZのユーザーを対象にしたランディングページの見出し文に様々なバリエーションを生成し、製品購入量を増やした。
  • LaunchDarkly は自社の実験プラットフォームである LaunchDarkly に Amazon Bedrock を統合し、指定された対象と提供されたプロンプト、既存のバリエーションに基づいて自動的にバリエーションを生成した。
  • これにより、パラメータ空間を効率的に探索し、ユーザーインターフェイスの複雑性を増加させることなく、顧客がより多くのバリエーションをテストできるようになった。

Launchmetrics

  • Launchmetrics 社はファッション、ライフスタイル、ビューティー企業が顧客の認識とブランドのパフォーマンスを理解するために生成 AI と Supervised Learning を活用している。
  • トピックモデリングとトピックスコアリング製品を開発し、大規模言語モデルから生成された埋め込みを使用してオンライン上で発生する新たなトレンドを特定し、それを重要なブランドの次元にリンク付けている。
  • これにより、ブランドは時間の経過とともにどのようにトレンドが重要な次元を進化させているのかを測定できる。

Leonardo AI

  • レオナルド AI は Inferentia 上で人気の generative vision モデルを展開しており、毎日数百万件の画像生成リクエストを処理している。
  • 既存のフリートと同等の画像品質と生成時間を達成している一方で、コストは 80% 低減している。
  • これにより、レオナルド AI の技術のアクセス可能性が向上した。

Lion

  • SAP 環境と連携するモバイルアプリと Web ポータルを AWS サービスを用いて構築した
  • これにより顧客と仕入先に請求書と注文ステータスに関するリアルタイムな可視性を提供

Lockheed Martin

  • ロッキード・マーティンが内部のモバイルアプリの構築に Amazon Lex を使用している
  • 生産性向上のための従業員向けアプリを開発している
  • ジェネラティブ AI を活用したスロット解決や会話型 AI のインテントを利用し、製造業のプログラムステータスの更新と「何が起きるか」分析を可能にしている
  • 過去の契約からの洞察や新規契約要件定義時間の短縮を目的に大規模言語モデルを活用する計画

Lonely Planet

  • ロンリープラネットは AWS 上で生成 AI のソリューションを開発しており、顧客がエピックな旅行を計画したり、パーソナライズされたトラベルで生涯を変える体験を作れるようにしている。
  • ロンリープラネットは、アイティナリ生成コストを約 80% 削減できた。

Miro

  • Miro 社は言語モデルを活用した初期の 14 種類の生成 AI 機能をリリースし、早期ユーザーフィードバックを得た。Miro ボード上のフィードバックに対する感情分析の機能など、コンテンツ生成に関する懸念がない機能が価値を実証した。
  • 新機能については、エンタープライズにとって AI 生成コンテンツに関する感度が高いため、プレビュー参加型で明示的な同意を求めている。

Natwest Group

  • 生成 AI をどのように活用したか :Amazon bedrock を利用し、最新の生成 AI モデルを利用してデータサイエンティストやエンジニアが新しいサービスを実験・構築できるようにした
  • 何をやったか:金融犯罪への対策を強化するとともに、顧客や従業員が必要な情報にアクセスできるようにした
  • 構成 :Amazon bedrock を利用したセキュアでスケーラブルなプラットフォームの利用
  • 工夫した点:生成 AI モデルを活用することで、さらなるサービスイノベーションを目指した

Nebraska Judicial Branch

  • ECS, Lambda, API Gateway, Cognito などの AWS サービスを利用して、書類、動画、音声などの司法事件資料を管理するためのセキュアなコンテンツ管理システム「 Draw 」を構築した。
  • Amazon Bedrock を利用して、セマンティックサーチ機能を実装し、ユーザーが法律問題についての質問に秒単位で弁護士から答えを得られる検索機能を実装した。

Netsmart

  • ネットスマートは、医療現場のワークフローに生成 AI である Amazon Bedrock と AWS Healthscribe を埋め込み、診療報告書作成時間を 40% 削減し医師が患者をもっと診ることを可能にしている。

OfferUp

  • Titan のマルチモーダル埋め込みモデルを使用して、画像、タイトル、説明文でデータベースを索引付けました。これにより、データ量が少ない場所での関連性の再現性は 9% 向上し、データ量が少ない場所と多い場所の両方でのばらつきが低減しました。
  • 検索、リコメンド、画像生成に AI ツールをさらに活用する探求も行っています。

Orbits

  • Orbits 社は、エージェントのアシスタンスのために Amazon Connect の生成 AI 機能を活用している
  • エージェントの処理時間が顕著に短縮される効果が測定されている

PGA tour

  • PGA ツアーはファンや放送局向けの対話型仮想エージェントのプルーフオブコンセプトを AWS 生成 AI イノベーションセンターを活用して構築した
  • Amazon Bedrock の機能(検索、強化生成、プロンプトエンジニアリング、ベクトルデータベース)を活用して顧客に新しいつながりを提供する実験を行っている

PWC

  • PWC は、75,000 人以上の従業員が働く方法を変革するために、ChatPWC(ChatGPT に似た)のような生成 AI を活用している AI ファクトリーについて説明した。
  • ガバナンス、スキルの進化、大規模な組織全体にわたるツールのスケーリングに関する課題について議論した。

Penske

  • ペンスキーはトラックの予測メンテナンスソリューションを強化するために、技術者が修理ソリューションと動的に対話できるように生成 AI を活用している
  • ペンスキーは顧客サービス、インテリジェント検索、コード生成、テストでの生成 AI の利用も検討している

Pinterest

  • Pinterest は、既存のデータレイクである Amazon S3 上のテキスト問合せから自動的に SQL クエリを生成するために RAG を使用した
  • これにより、製品アナリスト、データサイエンティスト、製品マネージャー、エンジニアの生産性が 40% 向上した

Quest

  • 不動産会社と住人のコミュニケーションを改善するために、最新鋭の仮想アシスタントを導入した
  • 仮想アシスタントは対話能力が高く、自然なやり取りが可能
  • Amazon Bedrock と Amazon Titan モデルを使用

Saffron

  • 部品参照番号、シリアル番号などの情報を抽出するために、モデルを訓練するドキュメントとして着陸装置のマニュアルを提供した

Salesforce

  • セールスフォースは自社の Bring your AI 統合をアマゾンのベドロックに拡張し、生成 AI の活用を可能にした。
  • セールスフォースデータクラウドから ETL なしで安全にセールスフォースデータにアクセスでき、そのデータを使ってベドロックのファウンデーションモデルをカスタマイズできる。
  • カスタマイズされたファウンデーションモデルは企業に合わせたものとなり、セールスフォースデータクラウドから簡単に呼び出せる。

Sassa Experience

  • Sassa Experience( ブラジルのクレジット機関・金融サービスプロバイダー)
  • Amazon Bedrock と生成 AI を利用して、210 万人のユーザー向けに個人向けの金融教育とカスタマーサポートをパーソナライズ
  • ユーザープロファイルの理解と応答のコンテキスト化により、コールセンターのチケットを削減し、ブラジル人の金融リテラシーとクレジットスコアの向上を支援

Scenario

  • ゲーム開発会社の Scenario が、ジェネレーティブ AI を利用してスタイル一貫したアセットを作成することで、ゲームスタジオの時間短縮を目指した。
  • Scenario は完全管理型コンテナオーケストレーションサービスの Amazon ECS を利用して、ジェネレーティブオファリングを構築した。
  • 最初の2週間で 100 万枚超のイメージを生成し、AWS 上で高速にスケールと成長を続けている。

Schneider Electric

  • 顧客サポートのアージェントが顧客からの質問に迅速かつ一貫性のある回答を提供できる信頼性の高いチャットボットを生成 AI モデルを活用して構築した。
  • 偽情報や説明不能性といった課題に対処するため、情報抽出増強生成や考えの連鎖推論の技術を活用した。
  • プロセス全体を通してドメイン専門家を携わらせ、回答が正確かつ関連性の高い内容になるようにした。

Smart Nation Digital Government Group of Singapore

  • 会社名 SNDGG がセキュリティと隔離性が高いワークロードを AWS Dedicated Local Zones に移行する
  • これによりクラウドテクノロジーを活用してシンガポールをスマートネイションにする目標を達成できる

Stop Soldier Suicide

  • テキストメッセージからの感情分析を Amazon Comprehend を使用して、自殺した元軍人からのパターンを特定した。
  • 睡眠分析と複数のデータソースを結合するためのカスタムアルゴリズムの構築に Amazon SageMaker を使用した。
  • 自殺リスクが高い個人を特定して介入することで、自殺を予防することを目的とする。

TennCare

  • メディケイドの保険政策 342 ページを要約し質問に回答するためのポリシー GPT を生成 AI を使用して開発した
  • 実際の看護師からの質問に対してポリシー GPT をテストし、合格した
  • 2024 年春からアプリケーションとコンタクトセンターにポリシー GPT を統合し、看護師にポリシーの指針を提供する

Thomson Reuters

  • 社内で「 Open Arena 」と呼ばれるノーコードの生成 AI サンドボックスを作成し、チームが自社データで生成 AI ツールを実験できるようにした
  • 重要な使用ケースを特定する課題を解決した

3M

  • 会社は顧客との会話を有意義なものとするために、言語使用方法と英語を変更しました。
  • 大型言語モデルをプロセスに統合することで、顧客が何を尋ねても意味のある対話が可能になり、より関連性の高い体験が提供できるようになりました。

Toggle Outfitters

  • 顧客は 20~25 歳のZ世代向けにトグルを販売する EC サイト のデモ
  • この年齢層向けのトグル販売が減少傾向にあることに気付いた
  • ランディングページテキストを最適化して製品購入を増やす
  • アシスタントはエモジ含む新しいランディングページテキストバリエーションを生成し、テストする実験を作成するよう提案

Trend Micro

  • トレンド・マイクロは、自動アラートの説明、スクリプト/コマンドのデコード、脅威ハンティングのクエリ、インシデントレポートの生成によるセキュリティ・アナリストの能力向上のために生成 AI を活用している。
  • トレンド・マイクロは、ブレッチとアタックシミュレーションツールに生成 AI を統合し、より動的な攻撃シナリオを可能にしている。

UC San Diego Health

  • UC サンディエゴヘルスは、プロバイダーのメールボックスの疲労を軽減するために、患者からのメッセージに対応するために生成 AI を利用している。
  • 早期の敗血症の検出と結果の改善のために AI を利用している。
  • 患者記録と安全報告書を読み取り、品質の向上と将来のエラーの予防のために AI を利用している。

United Airlines

  • ユナイテッド航空は客席在庫、注文、顧客プロファイルデータを保存するために Amazon DocumentDB を使用している。
  • グローバルクラスタ、エラスティッククラスタ、並列インデックス、Lambda トリガーなどの機能を活用している。
  • 自然言語インターフェイスを実現するために Amazon SageMaker の生成 AI モデルを検討している。

Williams Lee

  • Williams Lee 社は Cognizant 社と提携し、生成 AI を利用して 18 か月で6つの新機能を開発した。
  • 従業員からアイデアをクラウドソーシングし、クロス機能 POC チームを形成してアイデアを8週間以内に MVP とビジネスケースとしてラピッドプロトタイピングした。
  • これにより新たな収益源を開拓し、BPO からテクノロジー企業としての認知を変えることができた。

re:Invent 2023 で発表された生成 AI Amazon 事例

Amazon 社内ではすでにいくつもの生成 AI ツールが稼働しており、その一部を紹介しています。

Amazon

  • Amazon Detective はセキュリティインシデントデータのナラティブな要約を生成する生成 AI を使用してセキュリティ調査を効率化する。Amazon 社内においても利用されている。
  • AI はセキュリティ専門家と非専門家の両方にとってアクセス可能な方法で事件を要約します。

Amazon

  • Amazon Inspector は生成 AI を使用して、顧客のコードで特定されたセキュリティ問題を処理するためのコンテキスト内コードパッチを生成する。これにより、開発者は一般的なアドバイスではなくカスタマイズされたコード修正を提供することで、脆弱性の修正に必要な時間を短縮できる。Amazon 社内においても利用されている。

Amazon

  • 商品カタログの説明文や広告コピーを生成するために AI を活用している
  • 商品を幅広い層向けにカタログ化する場合は、正しさ、明瞭さ、完全性に重点を置き、特定の対象層を引き付ける場合は特定の利点に重点を置く
  • Amazon CodeWhisperer を用いたコード自動生成にも AI を活用している

Amazon

  • アマゾンは、CodeCatalyst 内の Amazon Q の機能開発能力を利用して、自動的にコード、プルリクエスト、ワークフローを生成し、課題をQに割り当てることで開発時間と労力を削減できました。
  • アマゾンは、Qの要約と説明機能を利用して、自動的にプルリクエストの変更、コメントを要約し、開発者がコードベースとテクノロジーをより理解できるよう説明を提供できました。

Amazon Prime Video

  • 通信帯域幅が制約された場合の動画ストリーミング品質の最適化のために、生成 AI を活用したビデオアップスケーリング
  • 物理フィルムを必要とせずに、高解像度の画面で古いテレビ番組を高解像度化
  • マイクロジャンルカルーセルジェネレータツールを開発し、個人向けコンテンツの自動的な発見と推薦を自動化

Amazon

  • Buy with Prime API と Amazon Bedrock を使用して、サイズや色などの属性に基づいて水着を検索し、価格や評価などの製品詳細を表示する対話型のショッピングアシスタントを構築した。
  • アシスタントは顧客にシームレスなショッピング体験を提供できた。

Amazon catalog team

  • Triton 推論サーバと TensorRT を使用し、アマゾンカタログチームはスペル修正モデルのレイテンシを3倍高速化し、スループットを2倍向上できた。

Amazon music

  • AWS ミュージックは、Triton 推論サーバ、テンサコア、H100 GPU を使用して、CPU に比べてレイテンシ低減率が 63%、CPU に比べて 73%、N10 レイテンシが 25 ミリ秒、スペル修正モデルのトレーニング時間が 12 倍低減できた。
  • Triton inference サーバーと TensorRT を使用し、アマゾン検索は実時間スペル修正モデル(製品検索に使用)に対して 50 ミリ秒以下のレイテンシと5倍のスループットを達成できた

Discussion