📖

re:Invent 2023 セッションまとめ一覧 (Part 1)

2023/11/30に公開

re:Invent は、AWS (Amazon Web Services) が毎年開催するクラウドコンピューティングの大規模カンファレンスです。
AWS が提供する様々なクラウドサービスや最新の技術動向を発表する場で、世界中からエンジニアやアーキテクトが集まります。

本イベントでは、AWS の最新技術や製品に関する基調講演から、
具体的なサービスやユースケースに関するセッションまで幅広い内容が用意されています。
クラウドコンピューティングを実践する上でのノウハウや最新トレンドを学ぶことができる貴重な機会となっています。

この記事では、re:Invent 2023 で発表されたセッションで公開されているコンテンツの一覧と大まかな内容についてまとめています。
コンテンツは随時更新中です。

なお要約については Claude v2 を利用して執筆しており、人の目によりレビューは行なっていますが間違っている点などがあればコメントをお願いします。

※セッション ID の読み方：例えば「 STG228 」の場合、STG はストレージカテゴリ、228 は技術レベルを表します（100= 初心者、400= 上級者）。

re:Invent 2023 のセッション一覧（随時更新中）

セッション数：Keynotes (5), Innovation Talks (17), Breakout Sessions (676)

Part 1（この記事）
Part 2
Part 3
Part 4
Part 5

Keynotes

Keynotes はインフラ、 AI/ML のイノベーション、クラウドコンピューティングの最新トレンドとブレークスルーについてなど最も注目すべきトピックについて AWS のリーダーから語られるセッションです。

AWS CEO アダム・セリプスキー氏の基調講演ー AmazonQ、CodeWhisperer、Kuiper、S3 Express One Zone の新機能紹介と、BMW とファイザーの AWS 活用事例

Amazon Q - 職場内で役立つ提案を行い、アクションを取り、システム、データ、オペレーションの理解から生成されたコンテンツを提供する新型 AI アシスタント。
Amazon CodeWhisperer のコード提案機能が個人利用無料化。
Amazon Kuiper - これまでカバーされなかった場所にも高速衛星ネットワークを提供し、プライベートコネクティビティサービスを含む。
Amazon S3 Express One Zone - 高パフォーマンス、最低遅延のクラウドオブジェクトストレージクラスで頻繁にアクセスされるデータ向け。
Aurora PostgreSQL、RDS for MySQL、DynamoDB の Amazon Redshift とのゼロ ETL 統合。DynamoDB の OpenSearch Service とのゼロ ETL 統合。
Amazon Connect の Amazon Q による顧客サービスコール上での AI アシスト。
BMW のケーススタディ:科学データクラウド、AI を活用し医薬品開発、製造、臨床試験を加速。
ファイザーのケーススタディ :AWS を活用し新型コロナワクチンを記録時間で開発・配布。mRNA ワクチン生産量向上に AI 活用。

Peter DeSantis 氏の Monday Night Live Keynote - Amazon Redshift と Aurora の最新機能や Riot Games の AWS 移行事例について説明する

Amazon Redshift のサーバーレス機能が AI によるスケーリングと最適化で最大 10 倍の性能/価格比を実現
クエリの負荷予測モデルと機械学習を活用した実時間解析で自動スケーリングとユーザーのコスト/性能設定に基づくクエリ処理
Aurora Limitless Database で単一サーバーの書き込みスループットを超えるスケールアウトとシャード間のトランザクション一貫性
ElastiCache Serverless でワークロードに応じたキャッシングインフラの自動スケーリング
Riot Games の AWS 移行事例で EKS、ECS Fargate、Time Sync などを活用し League of Legends や Valorant のグローバル運用を高速化と革新

スワミ・シバスブラマニアン博士による基調講演 - 大規模言語モデルのトレーニングの高速化と連続実行、SageMaker の推論速度とレイテンシの向上、Bedrock での新生成 AI モデルと知識ベースの導入

Amazon SageMaker HyperPods の一般提供がアナウンスされ、大規模言語モデルの高速かつ中断なくトレーニングが可能に
Amazon SageMaker で推論のデプロイが 50% 高速化、レイテンシが 20% 低減する新機能がアナウンス
Amazon Bedrock で新しい生成 AI モデルの Titan Text Lite、Titan Text Express、Titan Image Generator がアナウンス
Amazon Bedrock で Cohere Command、LLAMA 2 のファインタニングに対応。Anthropic Claude も今後対応予定
Amazon Bedrock で知識ベースを導入し、プライベートデータでのモデルカスタマイズが可能に
Amazon Vector engine for OpenSearch Serverless がローンチ
Amazon DocumentDB と Amazon DynamoDB の新しいベクトル検索機能がローンチ
Amazon Neptune Analytics がローンチ
Amazon OpenSearch Service の Amazon S3 とのゼロ ETL インテグレーションがローンチ
AWS Clean Room ML がローンチ
Amazon Q generative SQL in Amazon Redshift がローンチ
Amazon Q data integration in AWS Glue がローンチ
Amazon Bedrock でのモデル評価がローンチ

AWS の Werner Vogels 氏による基調講演 - myApplications のリリース、Cloudwatch のアプリケーションシグナル機能のリリース、SageMaker Studio のコードエディタのリリース、VS Code での AWS アプリケーションコンポーザのリリース、Inspector の CI/CD でのコンテナスキャン機能のリリース、PBS と WeTransfer の AWS 移行事例、Thorn による児童ポルノ検出 AI の開発事例

AWS のマネジメントコンソール「 myApplications 」のリリース
Amazon Cloudwatch のアプリケーションシグナル機能のリリース
Amazon SageMaker Studio のコードエディタのリリース
VS Code での AWS アプリケーションコンポーザのリリース
Amazon Inspector の CI/CD でのコンテナスキャン機能のリリース
PBS が AWS 移行とコスト効率化のためのアーキテクチャ変更を行ったケーススタディ
WeTransfer がキャッシング戦略を変更してコスト削減を図ったケーススタディ
Thorn が児童ポルノ検出の機械学習ツールを構築するために AWS サービスを利用したケーススタディ

AWS パートナー関連の新機能と生成型 AI を利用した顧客事例の紹介

AWS レジリエンス・パートナー・スペシャライゼーションの一般提供開始のアナウンス
AWS サイバー保険パートナー・スペシャライゼーションの一般提供開始のアナウンス
AWS ビルトイン for ISVs パートナー・スペシャライゼーションの一般提供開始のアナウンス
AWS Marketplace の SaaS クイックランチのリリース
AWS Marketplace のセラー向け API のリリース
MagellanTV がミッションクラウドと協力し、生成型 AI を使ってドキュメンタリーの自動翻訳を自動化した事例
米空軍が C3 AI と協力し、生成型 AI を使って航空機フリートの性能予測とメンテナンスコスト削減を行った事例
マリオットがデロイト、パロアルトネットワークス、AWS と協力し、生成型 AI を使ってグローバルホテル事業のサイバーセキュリティ強化を行った事例
業界特定の生成型 AI ソリューション開発を支援する AWS 生成型 AI センター・オブ・エクセレンスのリリース
セールスフォースを利用したパートナーセントラルの体験の刷新で、パートナー向けに個人化されたデジタル体験を提供

Innovation Talks

Innovation Talks は AWS の最新のクラウド技術についてのセッションです。

AIM250-INT: データを活用する新たな生成 AI アプリケーションとサービス

アマゾンQが生成 AI アプリケーションを新たにリリースし、43 のデータソースに対応するネイティブコネクタを搭載
アマゾン Bedrock ナレッジベースが一般提供開始。単一 API で検索強化生成 (RAG) が可能となる
アマゾン SageMaker Canvas がノーコードインターフェイスをリリース。データセットのアップロードとファウンデーションモデルの選択が可能に
アドビが Photoshop の Firefly などの生成 AI モデル向けに数百ペタバイトのキュレーション済みアドビストック画像を利用
Pinterest がファウンデーションモデルと RAG を利用したテキストから SQL クエリの機能で、アマゾン S3 上のデータレイク活用分析生産性を 40% 向上

DAT212-INT: - IBM DB2 の Amazon RDS での提供開始。リレーショナルデータベースの利用が可能に。

IBM DB2 の Amazon RDS での提供開始。リレーショナルデータベースの利用が可能に。
Amazon Neptune Analytics の提供開始。グラフデータベースを利用したアナリティクスが可能に。
Amazon Aurora のデータベーススケール限界値の拡大。シングルインスタンス以上のスケールアウトが可能に。
Elasticache での Serverless オートスケール機能の提供開始。Redis キャッシュのスケールが自動化。
Amazon Aurora Postgres、Amazon RDS Postgres、Amazon OpenSearch など 7 件の AWS サービスでベクトル検索対応。

HYB207-INT: 最新技術動向 :AWS を活用した製造・輸送分野の自動化と IoT

AWS は、車両から得られるレーダー、ライダー、カメラデータの集約が Fleetwise で今後可能になると発表した
シーメンスと AWS は、シーメンスの産業エッジ技術と AWS Sidewalk を組み合わせ、工場フロアからエッジ、クラウドを往復する連続的なデータフローを実現する
ボルクワーゲンは、シーメンスのコントローラから得られる製造データを AWS を用いて分析し、ボトルネックを特定して自動車生産量を増加
Bonar は AWS を活用し、従来手動で行われていた食品生産作業を自動化して、労働力不足に対応
AWS と Tellus は、スマートホームハブとデバイスを統合し、錠、カーテン、エアコンなどの声掛け制御と自動化を実現するソフトウェア定義ホーム
BMW は、AWS 上でエンドツーエンドのソフトウェア定義車両テストを開発中で、シミュレーションと車両へのアップデートプッシュを含む
Continental は、AWS Graviton 上で完全な車両コックピットを構築し、開発ワークベンチとテストを含む

AIM245: アマゾン、生成 AI を利用した製品開発の高速化に向けた技術を発表

アマゾンは自然言語を使用して会社データにアクセスし、データからコンテンツを作成し、データアクセスのために代行できる生成 AI アプリケーションである Amazon Q のリリースを発表しました。
PyTorch で基盤モデルのトレーニングを高速化するために、Amazon S3 コネクターを発表しました。これによりチェックポイントの保存と復元がより効率的になります。
Amazon SageMaker Hyperpod を発表し、最適化された分散トレーニングライブラリにより、生成 AI トレーニングを約 40% 高速化するとともに、自動自己修復クラスタを提供します。

AIM248: 生成型 AI の産業界への潜在能力の解放

ファーマシューティカル企業のジレアド・サイエンシズは、医薬品開発から販売までの全工程で生成型 AI を活用している
ジレアド・サイエンシズは、分子、ターゲット、疾患間の隠れた関係を解き明かし、サプライチェーンのパフォーマンスと予測を高めるために AI を利用している
キャリアは、コミュニケーションと能力開発、セントラライズされた開発チーム、セントラライズされたプラットフォーム、ガバナンスポリシーの4本柱からなるエンタープライズ AI 戦略を立てた
キャリアは、広範囲な事前プログラミングを必要とせずに顧客にサプライチェーンの透明性を提供する生成型 AI チャットボットを導入した
アマゾン・プライム・ビデオは、ビデオストリーミングの最適化、ビデオアップスケーリング、パーソナライズされたコンテンツ発見 for の生成型 AI を利用している

ANT219-INT: AWS のアナリティクス・機械学習サービスと Salesforce のデータクラウド間でゼロ ETL を実現し、データ活用を支援する事例

AWS のアナリティクスおよび機械学習サービスと Salesforce のデータクラウド間でゼロ ETL を実現し、滑らかなコラボレーションを可能にする
データカタログでデータを事業用語で自動的に説明するための生成型 AI による説明文
Amazon Q をデータツールに導入し、自然言語によるデータインテグレーション、クエリ生成、デバッグを支援する
オープンサーチのログに対する生成型 AI による自動要約を提供する
UC Irvine のケーススタディ:長期的な学生データ分析を通じた「学生成功 3.0 イニシアチブ」をデータレイクで支援する
グローバルファウンドリーズのケーススタディ :AWS を利用したデータレイクで半導体製造プロセス最適化を実現し、欠陥予測、予測メンテナンスなどを行う

ARC217: - Amazon は、Amazon Titan や AI21 の Jurassic モデルなどさまざまなプロバイダから提供される基礎モデルに単一 API からアクセスできる、完全管理型の Amazon Bedrock サービスを発表した。AI アプリの構築とスケールアップを簡単にする。

Amazon は、Amazon Titan や AI21 の Jurassic モデルなどさまざまなプロバイダから提供される基礎モデルに単一 API からアクセスできる、完全管理型の Amazon Bedrock サービスを発表した。AI アプリの構築とスケールアップを簡単にする。
AI21 は、質問回答、要約等のユースケース向けの課題固有モデルを Amazon SageMaker Jumpstart を通じて提供開始した。これらのモデルは基礎モデルに比べ、正解率が上昇し、コストとレイテンシが低減する。
Itau は、Amazon Glue、Lake Formation 等の Amazon サービスを利用したデータメッシュの構築事例を共有した。事業部はデータと AI を活用したイノベーションの自律を実現できる。また Amazon SageMaker を利用し、機械学習の実験とモデルのデプロイも行う。
BMW グループは、大規模なコネクテッド車のバックエンドである AWS 上で、Amazon Bedrock で訓練された生成 AI ボットを利用し、自動でクラウドガバナンスを実行する事例を共有した。ボットは問題を特定・説明し、自動修正も可能。

AUT207: クラウド上での製造業・モビリティのイノベーション

AWS が新たに産業向けファブリックである AWS Industrial Fabric を発表し、顧客のためにデータを資産として活用するためのスケーラブルで統一された統合データ管理アーキテクチャを提供する。これには AWS サービスとパートナーソリューション間での相互運用性を容易にするためのオープンな産業データアーキテクチャが含まれる。
カスタマージャーニー全段階で AI を使用している Autotrader、dealer.com、Kelly Blue Book との例など、いくつかの顧客事例を紹介した。また、Amazon Connect クラウドコンタクトセンターを使用して顧客サービスを革新した Una X も紹介した。
AWS Cloud9 や AWS Copilot などのサービスを使用して、ソフトウェア開発を加速できるよう支援していると説明した。Qualcomm や Honda との協業も含め、ソフトウェア定義製品にも取り組んでいる。
AWS IoT、AWS IoT TwinMaker、Amazon Lookout for Vision などのテクノロジーが、運用と品質の最適化に役立っている顧客もいると説明した。

BIZ225-INT: Amazon が生成 AI 機能強化でチャットボット作成と通話要約機能を提供、AWS App Fabric で SAS アプリ間データ連携

アマゾンは低コストな Thin Client デバイス「 Amazon WorkSpaces Thin Client 」をリリースした。ラップトップの数分の1の価格で会社のアプリケーションに接続できる必要なソフトウェアが全てプリインストールされている。
Amazon Connect は、セルフサービスのチャットボット作成機能や通話後の要約機能など、新しい生成 AI 機能をリリースした。セルフサービスのチャットボット機能では、エキスパートなしにも簡単にチャットボットを作成できる。通話後の要約機能では、スーパーバイザーが全エージェント通話を自動で要約し、より良いコーチングが可能になる。
AWS App Fabric では、複数の SAS アプリケーションを接続し、シングルビューで提供できるようになった。アプリケーション間のデータを標準化し、複数ソースからのコンテキストを活用できるため、生成 AI によるユーザーエクスペリエンスと生産性の向上が可能になる。
新しいモジュールが AWS サプライチェインにリリースされた。サプライプランニング、内部可視性、サステイナビリティ。サプライチェインデータの自然言語クエリも可能な会話型アシスタント「 Amazon Q 」が提供される。

CMP219: アマゾン、新 EC2 インスタンスと AI アシスタント「 Amazon Q 」を発表-任意のアプリケーションでのコンピュートイノベーションを実現

アマゾンは新しい AI アシスタント「 Amazon Q 」を発表し、お客様が EC2 インスタンスの適切な選択を助ける
新しい Intel Sapphire Rapids、AMD Genoa、Apple M2 プロセッサー搭載の新 EC2 インスタンスをリリース
感度データを保護するためインスタンスの追加隔離を提供する「 AWS Nitro enclaves 」を発表
機械学習用の GPU コンピュート容量を予約できる「 Amazon EC2 capacity blocks for machine learning 」を導入
EC2 コンソール上でのアクションを記録しインフラコードを自動生成する「 AWS consult-to-code 」を発表

COP227: - AWS コントロールタワーで新機能発表、デジタル主権ニーズを満たす 65 種類の新たな AWS マネージドコントロールとリージョン拒否機能の強化

AWS コントロールタワーでは、デジタル主権ニーズを満たすための新機能が発表されました。65 種類の新たな AWS マネージドコントロールと、リージョン拒否機能の強化が含まれます。これにより、アクションの防止、設定の強制、リソース変更の検出、暗号化、耐久性が実現します。
Amazon CloudWatch では、複数ソースからメトリクスのクエリがサポートされるようになりました。これにより、AWS サービス、Azure Monitor、Prometheus、カスタムデータソースから取得したメトリクスを、シングルビューで可視化できるようになりました。
Amazon CloudWatch Logs では、新しいログクラスとして「 Infrequent Access 」が発表されました。この新クラスは、標準ロググループと同様の管理型インジェスティョン、アカウント横断ログアナリティクス、暗号化を提供しますが、1GB あたりのインジェスティオン料金は半額です。アドホッククエリやフォレンジック分析に適しています。

DOP225: AWS でのソフトウェア開発環境が強化、新型 AI アシスタント「 Amazon Q 」の機能拡張と共にフロントエンド開発ツールも強化

新型 AI アシスタント「 Amazon Q 」がソフトウェア開発ライフサイクル全舎域での支援機能を強化
コマンドライン向けの「 Amazon Code Whisperer 」がリリースされ、補完機能と自然言語からコード翻訳が可能に
「 Amazon Q 」が自然言語指示から機能全体の実装が可能に
「 Amazon Q 」が EC2 や S3 等のサービスで発生するエラーの診断と解決策の提示機能強化
「 Amazon Q 」が Java 8 から Java 17 への移行支援機能強化
「 Amazon CodeCatalyst Enterprise 」が「 Amazon Q 」機能を含むプライベートプロジェクトテンプレート対応
AWS Amplify が TypeScript/JavaScript からのフロントエンド開発で自動的な AWS バックエンドサービスプロビジョニング機能強化

FSI203: 金融サービス業界の今日からの未来構築 - AWS を活用したサプライチェーン分析、データ整理の効率化、取引所システムの近代化

S&P グローバルは、サプライチェーンのインテリジェンス、独自データ、第三者データを結合した新しいデータレイクを AWS で構築し、早期警告指標、AI アシスタント、リスクモデリング機能を通じて顧客のサプライチェーンレジリエンス向上を目指している。
JP モルガン・チェースは、AWS で動作する管理データサービス「 Fusion 」を立ち上げ、機関投資家がデータ整理時間を最大 90% 削減し、事業結果を月単位から日単位で迅速に導くことを可能にしている。
NASDAQ は 2021 年 11 月に米国オプション取引所1号市場を AWS アウトポストに、2022 年 11 月に2号市場を移行し、各導入でレイテンシとパフォーマンスが 10% 改善した。Amazon SageMaker や生成型 AI を活用し、コードの近代化や AI を活用した新規注文タイプの提供、不正調査の自動化も進めている。

NET208: AWS のクラウドネットワーク革新の力 - ローカルゾーンサービスを利用しメディア企業向けにネットワーク遅延を低減。Transit Gateway で VPC 間接続を改善。Lattice サービスでサービス間通信を簡素化。Application Load Balancer で自動異常検知と相互 TLS 認証を導入。Cloud WAN サービスでグローバルなオンプレミスと VPC を統一ネットワークで接続。Cloud WAN トンネル機能で SD-WAN アプライアンスを統合。

AWS ローカルゾーンサービスを導入し、メディア・エンターテインメント顧客向けにネットワーク遅延を軽減。Netflix は、LA でのビデオ編集の遅延が 1-2ms と低いため AWS を利用。
Transit Gateway を 2018 年に導入し、VPC とリージョン間の接続を改善。Peering メッシュを置き換える。Capital One は Transit Gateway を通じて 4000 近い VPC を相互接続。
Lattice サービスを一般提供し、ネットワークの複雑性なしにサービス間通信を簡素化。Block は Lattice を利用し、アプリケーションのリファクタリングなしにスケール可能なセキュリティ実装。
Application Load Balancer のウェイト付きターゲットグループで自動異常検知を導入し、アプリケーションターゲットのグレーフェイルを検知・緩和。
Application Load Balancer で相互 TLS 認証のサポートを導入。AWS 証明書マネジャを利用。
Cloud WAN サービスを導入し、グローバルなオンプレミスと VPC を統一ネットワークで AWS バックボーンで接続。
Cloud WAN トンネル機能を導入し、SD-WAN アプライアンスを Cloud WAN 展開に専用トンネルプロトコルなしで統合。

SEC237: 新サービス提供とセキュリティ対応の高速化 :Amazon が生成型 AI を利用した新たなセキュリティサービスを提供開始。顧客事例では、セキュリティ問題解決の速度とプロジェクト完了時期の関係が AI とデータから見出された。AWS が IAM アクセス分析ツールに未使用アクセスの解析機能を追加。

新サービス提供 :Amazon が新たに Amazon Inspector Coder Remediation for AWS Lambda functions を提供開始。これは生成型 AI を利用し、顧客のコード内のセキュリティ問題を修正するのにかかる時間を短縮する。状況の詳細を分析し、機能検証後顧客専用のパッチを作成できる。
顧客事例:ある顧客がセキュリティ問題を解決するチームの速度と、プロジェクト完了時期の予測との相関関係を AI とセキュリティデータから見出した。その結果、セキュリティ問題の優先処理はプロジェクトのタイムリーな完了につながることが分かった。
新機能提供 :AWS が IAM Access Analyzer に新機能「 Unused Access Analysis 」を提供開始。これにより顧客は AWS Organization 内の IAM ロールやユーザーに付与された未使用アクセスを集中的に発見・確認できる。

STG227: AWS の新しい S3 Express One Zone サービスと Cox Automotive の AWS クラウド移行事例、AWS の主要ストレージサービスについて

AWS が新しい S3 Express One Zone サービスを発表。これはシングルゾーン S3 バケットで、遅延時間が 10 倍低減し、数百万リクエスト/分を処理できる。
Cox Automotive が 500 件超のワークロードとペタバイト規模のデータを AWS クラウドに移行した事例。これにより毎年 20-30 件の新製品と1万件超の機能強化を可能にした。
AWS がクラウド移行、データレイクによるアナリティクス、大規模データセットと高性能コンピューティングリソースを利用した AI/ML モデル構築について説明。
EBS、S3、FSx for Luster/NetApp、Glacier、Open Data、Data Exchange など AWS の主要ストレージサービスについて説明。

WPS213: デジタルイノベーションによる市民 empowerment

AWS は 2025 年までに 200 万人以上を AI 訓練するために、無料の AI および生成 AI トレーニングコースを新たに発表した。
カバード・カリフォルニアは AWS クラウド移行の経験を共有し、1日 100 万件のトランザクションを処理できるようになり、病院の死亡率も低下した。
シンガポールスマートネイションデジタル政府グループは、セキュリティと分離レベルが高いワークロードを移行するために、AWS 専用ローカルゾーンを利用している。
ボストン連邦準備銀行は、AWS で動作する FedNow を立ち上げ、24 時間 365 日いつでも秒単位で即時決済が可能になった。
Amazon Bedrock は、基盤モデルを利用した生成 AI アプリケーションの構築とスケーリングが可能になったとアナウンスされた。

Breakout Sessions

Breakout Sessions は最新のユースケースやアーキテクチャのベストプラクティスなど幅広い有益なトピックについてのセッションです。

ADM201: AWS を使ったデータ連携と共有ワークロードの構築

新しい AWS エンティティリゾルーションサービスが発表され、顧客はアプリケーション、チャネル、データストア間で関連レコードをマッチング、リンク、強化できる柔軟なワークフローを使用できる。これにより統一された顧客ビューが提供される。
新しい AWS クリーンルームサービスも発表され、顧客は AWS 環境内でデータを移動せずに、他社と共有できるが、生データは開示されない。これにより、プライバシーを保護したデータコラボレーションが可能になる。
Action IQ は1ペタバイト以上のデータを毎日取り込む顧客データプラットフォームで、AWS とのパートナーシップにより、ゼロコピーで柔軟なデプロイが可能になると説明した。

ADM302: クラウド上でのリアルタイム広告ワークロードのサステナビリティ向上と炭素排出量削減

企業はクラウド上でのリアルタイムワークロードの最適化による炭素排出量削減について議論した
Amazon Ads の Rakshit 氏は、AWS 上でのアドテクワークロードの炭素排出量測定など、サステナビリティ・イニシアチブについて説明した
高炭素排出 AWS サービスを特定し、Graviton など炭素効率の高いインスタンスへの移行などワークロードの最適化を行った
Anthropic の John 氏は、オンデマンドインスタンスへの移行、未使用リソースの削減、S3 のインテリジェント・ティアリングなどによる AWS コストと炭素排出量の最適化について説明した
ワークロードの AWS 上での最適化により、最大 91% の炭素排出量削減効果があった

ADM303: 生成 AI を活用した広告・マーケティングのイノベーション

Launchmetrics は AWS の機械学習と生成 AI の機能を活用し、ブランドがオンライン上の会話を分析してブランド、製品、感情などを検出し、顧客の認知とブランドパフォーマンスの向上を図っている。
サービスはテキスト分類や画像分類などの監督学習モデルと、GPT-3 などの生成 AI モデルを活用し、合成データの生成、プロトタイピングの加速、モデルの解釈の向上、微妙な概念の理解を図っている。
トピックモデリングやトピックスコアリング製品を開発し、監督・非監督学習と生成 AI を活用してオンライン上のトレンドを特定し、ブランドの重要な次元との関連でブランドパフォーマンスを時系列で測定できる。
ハイアンダイケースでは、品質、保証プログラム、研究への投資により 10 年間で低品質から高品質へと認知が改善したことを助けた。

AES202: 衛星データと機械学習を利用した大規模道路網のマッピングと評価

アルティアは AWS のオープンデータと機械学習を衛星データと組み合わせ、ワールドバンクが大規模な道路網のマッピングと評価を迅速に行うのを助ける。メキシコやペルーのような国も支援。
アルティアは AWS を利用し、 freely 提供される数テラバイトのデータを解析。従来の 80% 以上の道路評価範囲と理解度を向上。時間とコストを大幅に削減。
ペルーの 52 万 km を超える道路網を Sentinel や SAR 衛星データ、レーダーデータなどオープンデータベースを利用し解析。
-舗装種類と道路状態を予測するため、ブーステッドツリーモデルなど機械学習モデルを利用。
Mapillary や高解像度画像から正確性をチェック。
時系列解析や気候データの追加、アプリケーションへの機械学習埋め込みにより、解決策を継続的に向上。

AES203: ヴァイアサットが AWS AI を利用して、衛星通信顧客向けのアルゴリズムを個別化する方法

AWS SageMaker、Kinesis、EMR、Lambda などのサービスを利用して、衛星電気通信データのリアルタイム機械学習分析プラットフォームを構築
機械学習ワークフローを標準化し、学習時間を 20 時間超から数分に短縮
プラットフォーム導入により、モデルデプロイを6ヶ月に1回から1ヶ月に 30 回以上に向上
リアルタイムデータを活用したネットワーク障害の自動原因分析と修正が可能に
今後はリアルタイム機械学習や大規模機械学習、生成 AI への対応を図る

AES204: AWS サーバーレス&エッジコンピュートを利用した大規模な EO データの提供

スカイウォッチは商用地球観測データの集約を提供し、誰でも API を通じて簡単に利用できるようにしている
スカイウォッチは衛星運用会社向けに打ち上げた衛星のデータ販売を支援する製品も提供
スカイウォッチは Lambda、Step Functions、DynamoDB、API Gateway、S3 など AWS サービスを利用してプラットフォームを構築
Lambda や Fargate といったサーバーレス技術の利用で、画像処理に要する増分コストを予測可能にしている
雲画像のダウンリンクを回避するため、部分的にエッジ処理如く雲検出を移行
スカイウォッチは雲検出、オブジェクト検出、画像品質分析などに機械学習モデルを利用
場合分析で、地球観測データはヘリコプター使用に比べ低コストで石油ガスパイプラインのモニタリングが可能
スカイウォッチは Amazon Rekognition からの機械視覚を利用し、画像検索機能の開発を進めている

AES205: ULA が AWS を活用しロケット開発能力を向上させる

ユナイテッド・ローンチ・アライアンス (ULA) は年間 10-12 回だったローンチ回数を 25 回以上に増やし、アマゾンのプロジェクト・クイパーを含む顧客需要増に対応
ULA は信頼性、スケーラビリティ、運用効率性向上のため、PSM(Parameters, Signals and Measurements) アプリケーションスイートを含む 400 件超のアプリケーションを AWS に移行
ULA は AWS 上にコンテナベースのソフトウェア開発環境を展開し、開発者がシミュレーションのビルド、テスト、実行のための隔離された環境を迅速に立ち上げられるように、生産性向上とより頻繁なテストを可能に

AES303: クラウド上での FPGA ベースソフトウェア定義無線 (SDR) の開発と実行

AWS は、Amazon EC2 F1 インスタンスを使用したクラウド上で FPGA ベースのソフトウェア定義無線 (SDR) の開発と実行に関する新機能を発表した。
顧客は、Amazon EC2 F1 インスタンスを使用して、衛星通信や地球観測の使用ケースなどの FPGA ベースの SDR をクラウド上で開発および実行できる。
EC2 F1 インスタンスは、インスタンス1つ当たり最大 800 個の DSP エンジンを搭載した Xilinx Virtex UltraScale+ FPGAs によるハードウェアアクセラレーションを提供する。
顧客は、低遅延パケット処理のため Data Plane Development Kit(DPDK) を使用して、FPGA と高パフォーマンスネットワーキングを活用できる。
デモでは、DPDK と FPGA パケット処理を使用して、EC2 インスタンス間で 8Gbps 超のネットワークスループットが達成された。

AES304: AWS 上でのロケットエンジン試験データの処理、保存、分析

エンジン試験で生成された時系列センサーデータの処理、保存、分析のためのアーキテクチャが議論された。
生データは AWS Batch を用いたコンテナで処理され、CSV や Parquet 形式で S3 に保存される。
各試験のメタデータと概要メトリクスは Aurora Serverless でテストカタログとして管理される。
Athena、Glue、Jupyter ノートブック、AppStream 2.0 などの AWS サービスでデータへのアクセス、分析、可視化が議論された。
QuickSight でテストカタログから時間経過によるトレンド分析のダッシュボードを構築することが提案された。

AIM102: 「コグニザントの生成型 AI のための認知アーキテクチャ :MVP への道のり」という記事では、コグニザントが Amazon Bedrock を利用した生成型 AI の概念の迅速なプロトタイピングフレームワークを提供し、認知アーキテクチャアプローチで生成型 AI を展開することについて説明したとある。

コグニザントは、Amazon Bedrock を利用した生成型 AI の概念の迅速なプロトタイピングフレームワークを提供し、認知アーキテクチャアプローチで生成型 AI を展開することについて説明した
ウイリアムズ・リーは、生成型 AI のアイディア生成、プルーフオブコンセプト、AI によって可能になった新たな機能の導入を通じた企業の生成型 AI への採用への移行過程について説明した
新たな機能として、ウイリアムズ・リーでは操作効率の向上と生成型 AI を利用した新規テクノロジー収益 streams が導入された
課題としては、適切な利用事例の見業技術力の入手、時間短縮、資源の入手可能性、顧客の採用、ビジネスモデルの変革などが議論された

AIM106: ニューヨーク・ジャイアンツがデータ分析でファンへの個人向けゲームデイ体験とオファーを提供する方法

ニューヨーク・ジャイアンツは、データ分析によりファンへの個人向けゲームデイ体験とオファーを提供するために、テラデータと ClearScape アナリティクスを利用している
チケット購入、グッズ購入、SNS のエンゲージメント、ウェブトラフィックデータなどから、ファンの行動パターンを分析し、ファンをプレミアム体験ファン、トラディショナルな熱狂ファン、デジタルファーストファンなどにセグメントしている
ファンの購入履歴と試合参加パターンから、次にチケットを購入する可能性が高い試合を予測し、価格設定やプロモーションを最適化している

AIM107: AI 技術の分類――予測 AI と生成 AI の特徴と違い

Cloudflare は予測 AI と生成 AI を分類するフレームワークを共有した。予測 AI は企業自身のデータを使用して結果を予測し、例として在庫管理、パーソナライズされた体験が挙げられる。
Cloudflare は DDoS 緩和のために予測 AI を使用し、攻撃と通常のトラフィックスパイクを区別する。
生成 AI は新しいコンテンツを生成し、チャットボットやコード生成が例として挙げられる。
生成 AI モデルは予測 AI よりも大量のデータセットと長いトレーニングサイクルが必要だ。

AIM108: - Watson X を利用した生成型 AI の影響力の拡大とスケールアップ

IBM は DB2 OLTP を Amazon RDS 上で利用可能となり、AWS 上でフルマネージドでトランザクション系業務向け DB2 を利用できるようになった。
IBM は Watson Assistant を内部で長年利用しており、これが主に人事業務のフロントエンドを担当し、40% の人事業務生産性向上を実現した。

AIM109: 医療現場での創発 AI と機械学習の活用:治験の効率化と患者サービスの向上

企業は治験、規制提出、その他の領域での革新的な医薬品の開発と speedup を目的に、創発 AI と機械学習を用いる計画について議論した。
知識管理、クリニカルトライアルプロトコルの概要、患者インフォームドコンセントの生成、規制文書の概要、科学文書作成などのユースケースについて議論した。
データ管理、モデルとデータのバイアス、知的財産上の懸念、スキルと人材育成、変化管理などの課題について議論した。
オープンモデルの利用、ベンダーとのパートナーシップ、ケースに応じたカスタムソリューションの構築など、アプローチについて議論した。

AIM110: セールスフォースと AWS の AI ・データ連携の可能性―セールスフォース・データ・クラウドと Redshift の双方向データアクセス

セールスフォースは顧客 360 度ライフサイクル全体にデータ洞察を適用できるよう、セールスフォース CDP の進化版となる「セールスフォース・データ・クラウド」を発表した
セールスフォース・データ・クラウドと AWS の Redshift 間で、ETL なしでデータアクセスが可能な双方向インテグレーションを発表した
Amazon Redshift からデータをセールスフォース・データ・クラウドにフェデレーションすることで、統合顧客ビューとセグメントを構築できることをデモンストレーションした
セールスフォース・データ・クラウドからデータを Redshift に共有することで、共同分析と離脱予測モデルの構築が可能であることをデモンストレーションした

AIM113: コグニザントの包括的なカスタマーエクスペリエンススイート「コグニザントインテリジェントインタラクションズ (CII) 」が導入された。CII は最新の AI/ML 技術を活用し、顧客体験の向上を図る。

コグニザントは、25 以上のソリューション、フレームワーク、再利用可能なアセット、CRM コネクタを含む包括的なカスタマーエクスペリエンススイート「コグニザントインテリジェントインタラクションズ (CII) 」を導入した。
CII は、アマゾンコネクトへの移行を高速化し、生成型 AI や会話型 AI、音声分析、テキスト分析、エージェント支援 AI などの最新の AI および ML テクノロジーを活用できる。
CII には、銀行業や金融サービス業向けの事前構築用事例が含まれており、より短期間で導入でき、コストも低減できる。
事例:ある銀行は CII の動的コンテンツルーティングを利用し、IT 部門の関与なくビジネスユーザーが休日の IVR プロンプトを簡単に変更できた。
事例:主要保険会社は CII のアンケート機能を利用し、セルフサービス相談後の顧客フィードバックを収集し、監督者がカスタマイズ可能なアンケートを構築できるようにした。
今後はソリューションを拡張し、生成型 AI の機能を強化する予定で、Genesis など他のプラットフォームとの連携も図る。

AIM201: 生成型 AI を活用したセマンティックサーチと製品レコメンデーションの実例

Amazon は、主要 AI 会社から提供される高性能な基盤モデルセットを利用して生成型 AI アプリケーションを構築できる完全管理型サービス「 Amazon Bedrock 」を発表した。
Adobe は、AI 活用検索「 Life Search 」と製品レコメンデーションを利用して、顧客のコンバージョン率と平均注文価値を向上させている。Life Search ではコンバージョン率が 15%、平均注文価値が 20% 上昇した。
語彙の拡張を用いてドメイン固有のモデルにファインタニングを行い、数百万件の製品説明文から関連語を生成することで、製品カタログのコンテンツを豊富にし、検索収載率を向上させた。Adobe はこの手法でオートパーツ企業で実験を行った。

AIM202: トレンドマイクロがセキュリティアナリスト向けに生成 AI アシスタントの提供を開始

トレンドマイクロが製品を使用する全アナリストに対して、自社の生成 AI アシスタントを提供開始。繰り返しタスクの自動化、アラートの理解速度向上、脅威への迅速な対応を目的とする。
セキュリティチームが生成 AI を利用し、アラートの説明、コマンド/スクリプトの解読、自然言語クエリによる脅威ハンティングなどのタスクを高速化可能。
生成 AI を利用し、プロンプトおよび知識ベースとの統合により、カスタマイズされた自動化を構築可能。
トレンドマイクロが自社製品を利用する全アナリスト向けに生成 AI を提供開始した初の企業。

AIM203: GitHub が AI 技術を活用し、開発者体験の向上とチーム間コラボレーション、生産性向上を図る

GitHub は、GitHub Copilot ―世界初の AI ペアプログラマー―を開発提供することで、AI 技術を GitHub 全体に適用し、エンジニアリングから収益性に至るまでスケール可能性を高めたことを説明した
GitHub は、開発者体験の向上、チーム間コラボレーションと生産性の向上、セキュリティ性能の向上に AI を利用している
Cloud Zero は、開発を加速するために GitHub Copilot を利用している。開発者からは Copilot を使用すればタスクを数時間短縮でき、繰り返し作業に時間を費やす必要がないとの報告がある
Stripe はパイロットプログラムとして 2000 人超の従業員に GitHub Copilot を導入した。フィードバックは好意的で、従業員の 80% が Copilot 機能を頻繁に使用し、95% が同僚に推奨すると回答した

AIM205: AWS 上での機械学習開発環境 (MLDE) の自動セットアップと運用

HPE の機械学習開発環境 (MLDE) は、モデル開発と生成 AI のための AI 開発プラットフォームです。MLDE では、チームコラボレーション、実験のトラッキング、分散トレーニング、オープンソースモデルのセルフホスティング、プロトタイプから本番運用への移行が可能です。
MLDE Managed Service では、AWS や GCP などのパブリッククラウド上で MLDE を自動セットアップ、アップグレード、バックアップ、クラスタ管理を行うことで、運用オーバーヘッドなしにデプロイが可能です。

AIM206: フェラーリが AI を事業に活用する取り組みと課題

フェラーリは DXC テクノロジーや AWS と AI 採用に向けた課題と優先領域を検討した経験について説明
フェラーリは運転支援やドライビング体験向上を目的としたマシンラーニングと AI の企業内適用を進めているが、人間を中心とした体験を保持
フェラーリはテクノロジーへの投資を進めているが、人材に重点を置き、AI と機械が人間を補完する役割に焦点を当てている
フェラーリはデータサイエンスハブで各事業部からの従業員がプロジェクトを共有し、内部協力を図っている
フェラーリは AI 利用ケースを中央集権的に管理し、事業部間やサプライヤ間のプロジェクトを統括するアーキテクチャとガバナンスを整備

AIM207: 「 AI 駆動型コーディングアシスタントの導入による開発者の生産性向上」

スタックスポットは、コード生成、ドキュメンテーション、テストなどにより開発者の生産性向上を図る AI 駆動型コーディングアシスタントを新たに導入した
コーディングアシスタントは VS Code などの IDE にエクステンションとして直接統合される
ユーザーから提供されるコードベース、API、知識パック、チャット履歴などの情報を考慮した超状況付けにより動作する
デモでは、提供されたドキュメンテーションに基づいて銀行支払い API を作成するコードを生成した
legacy コボールコードを利息計算を扱うより読みやすい Java 実装に近代化することも示された

AIM208: スノーフレークが AI/ 自然言語処理機能を備えた新サービス「 Snowflake Copilot 」と「 Snowflake Cortex 」を発表したと報告されています。Copilot は自然言語形式の質問から SQL クエリを自動生成する LLM 機能を持ち、Cortex は AI/LLM 関数とベクトルストレージ機能をサーバレスで提供します。

Snowflake が AI/ 自然言語処理機能を備えた新サービス「 Snowflake Copilot 」と「 Snowflake Cortex 」を発表した
Copilot は自然言語形式の質問から SQL クエリを自動生成する LLM 機能を持つ
Cortex は AI/LLM 関数とベクトルストレージ機能をサーバレスで提供し、機械翻訳、要約、感情分析、予測、分類、異常検知などの関数を含む
Cortex ではカスタムモデルの関数としてのデプロイも可能

AIM209: 企業向け生成 AI の導入を簡素化する :NVIDIA AI Enterprise は、Nemo や Triton のような訓練フレームワークと推論フレームワークを含む生成 AI 用の最適化されたソフトウェアスタックとツールを提供

NVIDIA AI Enterprise は、Nemo や Triton のような訓練フレームワークと推論フレームワークを含む生成 AI 用の最適化されたソフトウェアスタックとツールを提供する
Nemo は、大規模分散訓練、モデルカスタマイズ、展開をサポートする、生成 AI のエンドツーエンドフレームワーク
Triton は、あらゆるハードウェアでの任意の種類のモデルの展開をサポートし、動的バッチ処理などの最適化を提供するオープンソースの推論サーバー
TensorRT は NVIDIA GPU 上で最良のパフォーマンスを発揮し、TensorRT LM は大規模言語モデル向けの最適化を提供

AIM211: AWS 上の AI 機能を活用して販売代表者のマーケティングコンテンツ検索と購入者とのエンゲージメントを高める Choppa の AI アプリケーション

Choppa は販売代表者が関連するマーケティングコンテンツを検索し、購入者とのエンゲージメントの高い会話に変換できる機能として、AI による資産の要約、AI による検索、AI によるテスト問題の生成、ピッチコーチングを提供することで、販売代表者が関連するマーケティングコンテンツを見つけるのを助ける AI を使用している。
Choppa はプロンプトエンジニアリング、リカバリーとジェネレーション (RAG)、ファインタッチ、再学習などの技術を AWS 上で使用して、自社の AI アプリケーションの性能と正確性を高める4つの AI 機能を構築した。
Choppa は Amazon OpenSearch、SageMaker、Amazon Bedrock などの Amazon サービスを統合して AI アプリケーションを構築した。

AIM212: - アマゾンの新しい生成型 AI アシスタント「 Amazon Q 」とその業務支援機能

アマゾンは新しい生成型 AI アシスタント「 Amazon Q 」を発表した。機械学習で学習した AI が業務の助けとなる知識や AWS の専門知識を提供する
Amazon Q は会話、コンテンツ生成、問題解決、AWS 管理、コード開発、ビジネス分析などのタスクで会社のデータと専門知識を活用できる
Booking.com は会話型チャットで顧客データと旅行業界データを用いた大規模言語モデルのカスタマイズで個人向け体験の提供を強化

AIM213: 生成型 AI を活用したドキュメント処理ワークフローの自動化― AWS と Centene の事例―

AWS は、生成型 AI を活用した IDP( インテリジェントドキュメント処理)ワークフローの補完機能を含む、IDP の新機能を発表した
Amazon Textract は、レイアウト検出、カスタムクエリ、正規化・変換機能を生成型 AI モデルで実現できるようになった
Centene は、Amazon Textract、AWS サービス、カスタムモデルを利用して、アピールや承認書類などのドキュメント自動処理システムを構築した
Centene のシステムは、手作業を 80% 削減、タスクを 100% 自動化し、処理時間と会員/提供者体験の向上に成功した

AIM214: Amazon Comprehend を利用した生成 AI の信頼と安全性の実現

Amazon Comprehend がトラストとセーフティのための新しい API をリリースし、個人識別情報の検出、有毒コンテンツの検出、プロンプトセーフティ分類を行うことで、データのプライバシー、コンテンツのセーフティ、生成 AI アプリケーションのプロンプトセーフティを確保します
Freshworks は、自社の生成 AI モデルである Freddy の実装のためにデータガバナンスと責任ある AI を実現するために、Amazon Comprehend の API をトレーニングと推論の両方で利用しています

AIM215: アムゲンが AWS ヘルスオミクスを使用して疾患との戦いを加速支援

アムゲンは生物学、ターゲット、疾患の理解を通じて厳しい疾患との戦いを加速し支援するために AWS ヘルスオミクスを使用している
アムゲンはコスト節減と共有可能性のために 30 以上のパイプラインを AWS ヘルスオミクスに移行している
アムゲンは AWS ヘルスオミクスを使用することで、以前のソリューションよりもコスト節減率 40~60% と同速度またはより高速な計算時間が得られている
アムゲンは AWS ヘルスオミクスを内部システムに接続し、自動実行パラメータ生成とエンドツーエンドワークフローの自動実行開始を目指している
アムゲンは将来的に FASTQ や BAM などのオミクスファイルの保存に AWS ヘルスオミクスストレージを使用しコスト節減を目指している

AIM216: コーク産業の子会社が Amazon Monitron を活用し、予測保守サービスで異常検出とコスト削減を実現する事例

Amazon Monitron は、センサー、ゲートウェイ、機械学習を使用して産業資産内の異常条件を検出し、リアルタイム通知を送信する予測保守サービスです。事業継続性の向上を目指しています。
事例:コーク産業の子会社であるコークアグリエネルギーソリューションズは、年々 Monitron の活用を拡大しています。2021 年に 10 個のセンサーから始め、現在5か所で 536 個以上のセンサーを展開し、数百件の異常を捉えています。これにより 50 件超の故障が予防され、50 万ドル超のコスト削減効果がありました。
重要アナウンス :Monitron センサーは危険地域での使用が認定されました。サービスはリージョン間の ID とデータ統合機能に対応し、グローバルな展開が容易になりました。

AIM217: Amazon SageMaker Canvas を利用した無コード/低コードによる機械学習の民主化

Amazon SageMaker Canvas では、Canvas インタフェース内で直接基盤モデルのファインタニングを行うことができるようになり、コードの記述が不要になりました。
Thomson Reuters では、ML 業務の民主化を目的に、ユーザーに ML の専門知識がない場合でも低コード/ノーコードインターフェースを通じて ML ソリューションを構築できるように SageMaker Canvas を利用しています。
Thomson Reuters では SageMaker Canvas に焦点を当てたハッカソンを開催し、以前 ML 経験がないチームも事業上の課題を解決する ML モデルを構築でき優勝しました。

AIM218: アマゾンベドロックを使った初めての生成 AI アプリケーションの構築

Amazon Bedrock( アマゾンベドロック)の一般提供が開始された。アマゾンベドロックは生成 AI アプリケーションを構築するための完全管理サービスである。
アマゾンベドロックでは高性能なファウンデーションモデルと、生成 AI アプリケーションを構築、カスタマイズ、展開できる機能を選ぶことができる。
機能には、ファインタッチングやリトリーバル推論生成などの技術を使って自社データでモデルのカスタマイズ、複雑なタスクのための管理エージェントの作成が含まれる。

AIM220: 「生成型 AI 時代における責任ある AI: 科学と実践」

ニューサービスや機能の発表はなく、議論の焦点は生成型 AI での責任ある AI の課題と、AWS がそれらの課題にどのように対処しているかに集中した。

AIM221: MongoDB Atlas のベクトル検索機能と AWS を利用した生成型 AI を活用したチャットボットや Natural Language アプリケーションの構築例が紹介されました。

MongoDB Atlas のベクトル検索機能では、近似最近傍検索 (ANNS) によるグラフインデックスを利用し、高速でスケーラブルなベクトル検索が可能になりました。
ベクトル検索機能では、意味的検索、レコメンド、質問回答、生成補完アプリケーションで利用できる高次元ベクトルをドキュメントと共に格納できます。
Search Notes では、ベクトル検索ワークロード専用の最大 32 の検索ノードを割り当てることができ、検索とデータベースワークロードの独立したスケーリングが可能になりました。
Search Notes ノードはベクトル検索インデックス全体をメモリにロードできる大容量メモリが搭載され高速性能が実現できます。
ベクトル検索機能では統一クエリ API を提供し、ソースコレクションの変更を自動的に同期します。
事例では、独自データに対するベクトル検索と大型言語モデルを組み合わせた生成補完を利用したチャットボットや Natural Language アプリケーションの構築例が紹介されました。

AIM222: Amazon Lex が開発者の生産性とエンドユーザー体験の向上のために生成型 AI 機能を導入した。

Amazon Lex が開発者の生産性とエンドユーザー体験の向上のために生成型 AI 機能を導入した。
自然言語の説明からインテントとスロットを手動で定義するのではなく、ボットを生成できる記述型ボットビルダー。
新しいインテントを定義した開発者のためにサンプルの発話を自動生成するアッタランス・ジェネレーター。
複雑なユーザー入力からスロット値を解決するのに大規模言語モデルを使用する生成型 AI 支援スロット解決。
未定義のユーザークエリーを知識ベースからの情報の要約付き生成によって処理できる Conversation AI(CFACC) インテント。
ロッキード・マーチンは上層管理者向けのプログラムステータスとパフォーマンスデータを提供するモバイルアプリを生成型 AI モデルと自然言語クエリーを使用して Amazon Lex で構築した。

AIM223: Principal Financial が通話分析と生成型 AI を使用して顧客体験向上

Amazon が 100 以上のロケールに対応し、正確性向上率 30% の大型言語モデル「 Amazon Transcribe 」を発表した。
Amazon Transcribe は、通話のトランスクリプション、洞察の生成、要約取得が1回の API 呼び出しで可能な「 Transcribed Call Analytics API 」で通話要約機能を提供開始した。
Principal Financial Group は Amazon の通話後分析を使用し 100 万通話以上を処理し、顧客体験改善の洞察を取得した。事業部門とトピック階層定義を作成した。
Principal Financial Group は、通話後分析データを基に Amazon Transcribe、Amazon Kendra、AWS Lex を使用した複合チャネル向けの知的アジェントの導入を計画している。

AIM224: アマゾンの音声認識技術を活用し、エージェントの生産性向上とコールアナリティクスからの洞察取得を図る

アマゾンの音声認識サービス Transcribe が新世代の音声基盤モデルを発表し、対応言語を 100 言語以上に拡大し、ほとんどの言語で電話音声に対する正確性が大幅に向上
Walter Clover が AWS の CCI ソリューションであるリアルタイム音声説明書、PII の編集、感情分析、AI 駆動要約、意図/トピックタギングを導入し、エージェントの生産性向上、コールアナリティクスからの洞察取得、コール後業務の自動化を図った

AIM225: Amazon Personalized を活用した個人化された顧客体験の推進

Amazon Personalized がネクストベストアクションと呼ばれる新規モデルをリリースし、個々のエンドユーザーとのエンゲージメント向上とコンバージョン確率アップのための最適なアクションを判断できるようになった
Amazon Personalized が Amazon Personalized Content Generator と呼ばれる完全管理型の機能をリリースし、大規模言語モデルを利用してコンテンツ発見、製品プロモーション、マーケティング結果向上のためのレコメンデーションテーマと説明文を生成できるようになった

AIM228: キャッシュアプリの機械学習チームとプラットフォームの構築 - キャッシュアプリでは独自の ML プラットフォーム「 Gondola 」を開発し、SageMaker を利用してモデルのデプロイとホスティングを行っている。Gondola ではモデルパッケージングツールやシングル/マルチモデルエンドポイント、推論ルーティング、バッチ推論、モデルの昇格/降格、モニタリングが可能になっている。キャッシュアプリのチームは Gondola を利用して生産環境で ML モデルのデプロイとモニタリングを行っている。

キャッシュアプリは機械学習モデルをホストするための独自の ML プラットフォームとして Gondola を開発
Gondola はモデルのデプロイとホスティングのために SageMaker を統合
Gondola の主な機能はモデルパッケージングツール、シングルおよびマルチモデルエンドポイント、推論ルーティング、バッチ推論、モデルの昇格/降格、モニタリング
キャッシュアプリのチームは生産環境で ML モデルをデプロイおよびモニタリングするために Gondola を利用

AIM231: AI 導入時の5つの失敗例とそのリスクの回避

プレゼンテーションでは、AI 導入時の共通的な失敗例として、実業問題の解決に結びつかない、データの正確性や誤解を招く可能性がある、従来型の AI 技術を考慮しない等が挙げられた
重要なリスク事項として、データプライバシー、データに潜む偏見、著作権侵害に起因する法的紛争、適切なガバナンスとコントロールの確保等が議論された

AIM233: ES|QL( イーヤスキューエル)を利用した Elasticsearch のデータ分析と調査プロセスの高速化

ES|QL( イーヤスキューエル)とは、Elastic 社がデータ解析と調査プロセスを高速化するために開発したパイプライン型クエリ言語で、強力な計算と集約機能を提供します。
ES|QL は、1画面からの検索、集約、可視化を簡略化し、ルックアップやリアルタイム処理などの高度な機能を利用者に提供します。
ES|QL はセキュリティや監視などの用途で Cubana で利用できるようになります。
ES|QL は新しい分散クエリエンジンを特徴とし、効率性を向上させてクエリ速度を高速化します。

AIM235: AI を活用した航空機部品のライフサイクル最適化プラットフォームの構築と運用データの分析・活用

カプジェミニは AI および機械学習サービスを使用した AWS クラウド上で航空機部品のライフサイクル最適化プラットフォームを構築した
過去の運用データを集約し、全ての航空機部品のトレーサビリティを提供
検査自動化の改善と部品欠陥識別に AI を活用
サフラン航空、エールフランス、Amazon Primer がデータを共有しモデルの訓練に利用
AI を使用して文書(機体1機当たり 30 万件超)を分析し数分で解析
文書履歴から再利用、修理、再販売可能な部品を特定
文書から適合性フラグなどを抽出するため生成型 AI(OpenAI CLIP) を活用
2024 年前半から AWS マーケットプレイスで提供開始

AIM236: Databricks の新機能により、日数で生成型 AI アプリの構築とデプロイが可能に

DataBricks はベクトル検索と機能提供の新機能を発表し、検索強化アプリケーションと要求に応じた機能計算を可能にする生成型 AI モデルのためのものだとしている。
ベクトル検索は任意の Delta テーブルを意味検索インデックスにインデクシングし、検索と強化のためにクエリできる。自動同期機能がある。
機能提供機能は構造化データとユーザ定義関数による要求に応じた機能の計算を可能にし、AI アプリケーションの低遅延アクセスを提供する。
Mosaic ML テクノロジーはデータソースとモデル所有権の完全なコントロールの下でモデルの前訓練を効率的かつ安価に行うことを可能にすると発表された。

AIM237: DISH ネットワークは開発ワークフローにアプリケーションセキュリティを統合し、セキュリティを左にシフトするために Sneak を使用している。Sneak を利用して自社の数百におよぶアプリケーション全体で Log4Shell などの脆弱性を修正し、脆弱性データとメトリクスを提供し最優先で修正すべきアプリを判断できる。Sneak を利用し DISH の開発チームは 200 件の API 上で9件の重大脆弱性を 15 日以内に修正できた。Sneak 使用後初期 20 週間でコードに混入する予防可能な脆弱性が 70% 減少した。DISH は Sneak の利用範囲を更に拡大し CI/CD パイプラインに統合している。

Dish Network はアプリケーションセキュリティを開発ワークフローに統合し、セキュリティを左にシフトするために Sneak を使用している
Sneak を利用して自社の数百におよぶアプリケーション全体で Log4Shell などの脆弱性を修正している
Sneak は脆弱性データとメトリクスを提供し、Dish が最優先で修正すべきアプリケーションを判断できる
Sneak を利用し、Dish の開発チームは 200 件の API 上で9件の重大脆弱性を 15 日以内に修正できた
Sneak を使用してから初期 20 週間で、コードに混入する予防可能な脆弱性が 70% 減少した
Dish は Sneak の利用範囲を更に拡大し、CI/CD パイプラインに統合している

AIM240: Amazon の新サービス「 Amazon Q 」の業務支援機能を紹介

新サービス「 Amazon Q 」がリリース。自然言語インターフェースを通じた業務支援を提供
自然言語を理解し、関連データソースから文脈に沿った回答を提供。ドキュメントの要約やコンテンツ生成、業務自動化も行う
ユーザー権限に基づき適切なレスポンスのみ表示。セキュリティとアクセス管理が標準搭載
一般的なエンタープライズアプリやレポジトリとの統合に 40 以上のプリビルトコネクターを備える
問合せ回答、コンテンツ生成、チケット申請など幅広い業務で利用可能

AIM241: AWS クリーンルーム機械学習と差分プライバシー機能のリリース

AWS Clean Rooms ML は、共同データセット上でプライバシー重視の機械学習を行い、基礎データを共有することなく予測インサイトを生成する新機能です。
AWS Clean Rooms ML は、データを共有することなくルックアライクセグメントを作成するオフシェルフ機能を提供します。
AWS Clean Rooms Differential Privacy は、厳密な差分プライバシー制御を用い個人データを保護しながらインサイトを生成する新機能です。

AIM242: ユナイテッド航空が Tata Consultancy Services と共同開発したデジタルツインと生成型 AI を空港業務の効率化と旅行中の対応支援に導入

ユナイテッド航空は、Tata Consultancy Services と協業して開発したデジタルツインを導入し、空港業務の実時間データから運用上の偏差を迅速に検知・警報することで、定時出発を確保している
このデジタルツインは、カメラ映像、エッジコンピューティング、地上サービス機器からのデータを利用し、空港業務の実時間可視化を実現
ユナイテッド航空は、TCS と開発した生成型 AI ソリューションも導入し、旅行中の乱れへの対応をサポート。代替選択肢の提示とマップ上での解決策の可視化により、客観的なサービス向上を図る

AIM243: ゼネラティブ AI がソフトウェア開発ライフサイクルを変革する-新たなスキルとガバナンスの必要性

ゼネラティブ AI はソフトウェア開発ライフサイクル (SDLC) を急速に進化させ、プロンプトエンジニアリングなど新しいスキルを必要としている
Code Whisperer のようなツールは開発者体験を向上させ、コーディングタスクを支援することを目指している
合成データの生成によりエッジケースをテストしたりテストケースを生成できる
テストケース自動生成やコード実行の自動化によりテストがさらに強化されている
適切なツール適用を導くと同時にイノベーションも可能にするガバナンスが必要
ゼネラティブ AI の推奨精度の向上に従い、信頼性も時間とともに高まっていく
エージェントフレームワークを使用したエンドツーエンドの SDLC 自動化は開発プロセスを変革する可能性がある新しい分野
量子コンピューティングの進歩により、ゼネラティブ AI の能力は今後 5-10 年でさらに高速化される可能性がある

AIM247: Amazon Bedrock を使用した適応型 AI アプリケーションの基盤モデルのカスタマイズ

Amazon Bedrock カスタムモデルの導入。これによりファインチューニングと継続的事前学習を通じた基盤モデルのカスタマイズが可能になった
ダイアログサマライズデータを使用した Lama 2 モデルのファインチューニングのデモ。応答を最も重要な部分に集中する
公開前の本を使用した Titan モデルの継続的事前学習のデモ。トークンプロバビリティを提供データに基づく予測にシフトする

AIM309: AI を活用した新たな人材マッチングサービスの開発

ラックスペースは、AI ソリューションのアイデア、インキュベーション、産業化を提供するグローバルなインキュベーター「フェア」を導入した。フェアでは、ラックスペースの 20 万人超の認定スキル保有者やハギング・フェイス、アンソロピックなどとの提携による AI フレームワークや機能を提供している。
ラックスペースはジョブターゲットのオンプレミスからクラウド移行を支援し、キャパシティを 11,000% 増大、収益を 800% 増大させるとともにテクニカルデットを解消した。
ラックスペースはジョブターゲットのイベントドリブンアーキテクチャとデータメッシュの採用を支援し、データドリブン化と成長を図れるようにした。
ジョブターゲットは現在、新規求人記述作成支援ツールの生成 AI を利用して、より読みやすい求人記述を作成できるようになった。
ラックスペースは、面接プロセスを効率化するフォーカスアプリケーションを公開した。このアプリケーションは生成 AI を利用し、リクルーターの面接質問を責任を持って無偏性の方法で生成できる。

AIM310: AI と自動化を活用したオペレーショナルレジリエンスの構築

企業はオペレーションリスクの軽減、イノベーションの加速、顧客信頼の構築のため AI と自動化を利用している
パネリストは包括的な AI と自動化戦略によるオペレーショナルレジリエンスの構築、組織の垣根の取り除き、データ駆動型意思決定と顧客本位文化の創出について議論した
Sunrun はビジネスインテリジェンスのための AI を利用し、ハードウェア選定の最適化、古いシステムを持つ顧客の太陽電池発電量予測の向上で顧客体験の改善を図っている
DXC テクノロジーは大規模 PC フリートのインテリジェントデバイスマネジメントのため AI を利用し、性能の最適化、交換需要の削減を目指している
TUI は価格設定の動的化、航空燃料量の安全効率基準に基づく最適化など、観光商品の機械学習を幅広く利用している

AIM311: エッジでの AI 加速 - インテルは AI 処理向けプロセッサを、OnLogic と Arduino は AI 対応エッジ機器を発表

インテルは AI ワークロードを加速するための Intel Advanced Matrix Extensions(AMX) を搭載した第4世代 Intel Xeon Scalable プロセッサを発表した
OnLogic は産業 PC、エッジサーバ、アプライアンスなど AI ワークロード対応のエッジハードウェアソリューションを紹介した
Arduino は予測メンテナンス、品質検査、故障検出などの用途で AI モデルをローカルで実行できる Nichola と Pinta エッジデバイスを発表した
AI.io はコンピュータビジョンと AI を利用し、ビデオから取得したアスリートパフォーマンスデータを分析して、アスリートをプロスポーツクラブやアカデミーに結びつけることを示した

AIM312: テネシー州医療補助制度のクラウド戦略:新型 AI サービスの導入とクラウド基盤の構築

10 ケアは、医療補助制度の 342 ページに及ぶ文書から医療関係者からの質問に答えるための「 Policy GPT 」という新しい生成型 AI サービスを発表した。
新しい AI サービスのテストでは、経験豊富な従業員からの 300 件の質問に対する Policy GPT の回答と実際の従業員の回答が比較された。
Policy GPT は、追加調査により一部の場合より良い回答を提供できることが示された。
新しい AI サービスは、長大な文書を見るよりも効率的に医療補助制度の方針を学習できる。
10 ケアは、AI モデルの Policy GPT などをアプリケーションに統合する前に AWS を使って AI クラウド基盤を構築し、開発とテストを安全に行った。
クラウド移行により、アプリケーションは 24 時間利用可能となり、メンテナンスウィンドウが短時間となったため医療補助制度の利用が中断されることはなかった。
10 ケアは、生成型 AI を医療ケースの要約やモニタリングアラートからシステム障害の検出など他の目的でも利用拡大を計画している。

AIM314: DISH が Confluent と AWS を利用したクラウドネイティブなデータストリーミングによるスマート 5G ネットワークの構築

Dish ネットワークは Confluent と AWS を利用したクラウドネイティブなデータストリーミングによるスマート 5G ネットワークを構築し、インフラの手動管理なしに顧客、運用、ネットワークシステム間でデータを接続した
Dish は Confluent と AWS を利用してデータを価値あるデータ製品に整理し、システムとビジネス間で交換し、接続システムのセットアップ/管理を簡素化し、デバイスパフォーマンスを理解している
Dish は小売、自動車、産業エッジなどでのアナリティクス利用事例をサポートする 5G インフラとデータストリーミング機能を構築した

AIM315: Netflix の AWS 上におけるインテルプロセッサを利用したエンコーディングパイプラインと AI ワークロードの最適化

AWS 上のインテルプロセッサを利用し、Netflix はエンコーディングパイプラインと AI ワークロードを駆動している
c4.xlarge から m5.12xlarge インスタンスにマイクロサービスを移行した際、パフォーマンスイシューが発生
Intel VTune と perf を利用し、JDK コード内で変数が近接配置されたためファルトシェアリングが原因だと特定
データレイアウトの修正により、同じ CPU 利用率とレイテンシでスループットが 3.5 倍向上
Netflix はデバイス解像度に合わせたビデオのダウンサンプリングとアップサンプリングの AI を利用
最高品質のアップサンプリングのため、最適なダウンサンプリング表現を生成するニューラルネットワークを訓練
Intel の最適化ライブラリと新型インテルプロセッサの VNNI と AMX 命令により、エンコーディングパイプラインのパフォーマンスが 15-2 倍向上

AIM325: Amazon SageMaker Studio を用いた機械学習開発のスケールアップ

Amazon SageMaker Studio に高速起動、さらに種類の多い IDE、機械学習タスクの AI アシスト、機械学習コードをパイプラインに自動変換する新機能を追加したことを発表した
SageMaker Studio を用いてデータの探索、前処理、XGBoost モデルの構築・訓練(予測メンテナンス)、実時間エンドポイントへのモデルデプロイをデモンストレーションした
BMW グループは SageMaker Studio を用いて BMW、Mini、ロールスロイス各ブランドにまたがるチームが環境セットアップとメンテナンスではなくモデル開発に集中できる AI/ 機械学習プラットフォームを提供している

AIM326: ピンタレストが大規模機械学習モデルの訓練で直面する課題と、それを解決するための自社インフラについて

ピンタレストは、商品推薦、検索、コンテンツ理解などの問題を解決するために機械学習モデルを使用している
100 億パラメータを超えるトランスフォーマーモデルやグラフニューラルネットワークなどの大規模モデルを利用
大規模モデルの訓練で直面する課題は、膨大なデータと計算資源、データ前処理、不安定なインフラなど
ピンタレストは、アプリ開発、計算オーケストレーション、ハードウェアに焦点を当てた ML 訓練インフラを構築
アプリ開発は SDK によりモデル開発と展開を容易にするため標準化
計算オーケストレーションでは内部プラットフォームと AWS Batch を利用しハードウェア間でジョブ管理、スケジューリング

AIM327: Amazon SageMaker の新機能「インフェアレンスコンポーネント」を利用し、単一エンドポイント上で複数モデルを効率的に展開可能に

Amazon Web Services(AWS) の機械学習サービス「 Amazon SageMaker 」が新機能として「インフェアレンスコンポーネント」を導入した。これにより、単一のエンドポイント上で複数のモデルを展開でき、効率化とコスト削減が可能になった。
インフェアレンスコンポーネントでは、各モデルに独立したオートスケーリングポリシーを設定でき、トラフィック量に応じて個別のモデルをスケールアップできる。
サービス Now は、自身の AI プラットフォーム「 Einstein 」で多数の基盤モデルをホストするために SageMaker とインフェアレンスコンポーネントを利用している。

AIM328: Amazon SageMaker JumpStart を利用した機械学習モデルの迅速な構築と応用

AWS SageMaker Jumpstart は、HuggingFace やその他のソースから事前トレーニング済みモデルを提供することで、一クリックでデプロイ可能な生成 AI モデルの利用を簡素化します。
顧客はデータではなくモデルから始めることができ、使用ケースの 80-90% を解決することができますが、残りの精度向上のためにモデルをファインタニングできます。
一企業は、コールセンタートランスクリプトに対する要約モデルのデプロイに SageMaker Jumpstart を利用し、独自モデルに比べて作業負荷を 95-97% 低減しました。

AIM330: SageMaker で基盤モデルを低コストで高性能にデプロイする

SageMaker は、数行のコードで基盤モデルのデプロイを簡素化する新しい開発者体験を導入した
新しい体験は、コンテナ選択、モデルパッケージング、シリアル化を自動的に処理する
SageMaker JumpStart は、クリックでデプロイできる事前構築済み基盤モデルを提供する
SageMaker で同じインスタンス上で複数モデルをデプロイすることで、モデル間でリソースを共有し、コストを削減できる
SageMaker で推論向きインスタンスにデプロイすると、GPU インスタンスよりも最大 40% 性能が良くコスト効率が高い

AIM331: Amazon の大規模言語モデル Titan について

Amazon の Titan Foundation Models(FM) は大規模なデータセットで事前学習を行っており、ボックスから利用できる強力な汎用モデルとなっています。カスタマイズも可能です。
Titan Text Express と Titan Text Lite は一般提供されており、後者の Titan Text Lite よりも機能が豊富でコンテキストウィンドウも大きいです。
Electronic Arts は Titan モデルをコードからの自動テストケース生成、要件からのテストシナリオ生成、ゲーマーサポートの対話型チャットボットの駆動、SNS コメントからの社会的意見分析に利用しています。

AIM332: アマゾン、新型マルチモーダル埋め込みモデルと画像ジェネレータを Amazon Bedrock 下でリリース -Offerup も検索品質向上に採用

アマゾンは新しいモデルとして、テキストと画像から意味を抽出して検索やリコメンドに利用できる埋め込みを生成できる「 Titan マルチモーダル埋め込み」と、テキストプロンプトから高品質な画像を生成できる「 Titan 画像ジェネレータ」を Amazon Bedrock 下でリリースした
Offerup は、Titan モデルを利用しプラットフォーム上の検索品質を向上させた結果、低密度地域における検索結果の正解率を 9% 上昇させた

AIM333: - アマゾンが Amazon Bedrock を利用したテキスト生成モデルの主要な利用事例を探索できる新サービス「 Amazon Bedrock Guardrails 」を発表

アマゾンは、ヘイト、侮辱、性的、暴力コンテンツに対するフィルタリングやモデルが扱うトピックの指定など、Amazon Bedrock で使用されるモデルの管理と検証を提供する新サービスとなる Amazon Bedrock Guardrails を発表した。
Alita は Amazon Bedrock と Anthropic の CLAUDE モデルを利用して、顧客フィードバックの文脈的理解を高める新しいテキスト分析エンジンを構築した。これによりモデルの再学習なしにも使用できる。
Alita のテキスト分析エンジンは Amazon Bedrock を利用し、顧客レビュー中の感情やログイン問題などのアクショナブルなトピックを、従来の AI ソリューションに比べてより正しく理解できるようになった。

AIM334: Amazon SageMaker Ground Truth を使用した機械学習モデルのヒューマンインプット

Amazon SageMaker Ground Truth は,機械学習のライフサイクル全体にわたるヒューマンフィードバックに対応。監督学習の微調整や強化学習など
モデル評価,デモデータの収集,優先順位データの収集などのタスクで,ヒューマンアノテーションをスケールアップするワークフローとエキスパートワークフォースを提供
デモで,モデルからのテキストレスポンスを人間の優先順位に基づいてランク付けたり,ドキュメントから質疑応答ペアを生成したりする SageMaker Ground Truth の利用例が紹介

AIM335: - アマゾン SageMaker の新機能「スマートシフティング」は、トレーニング中のデータを分析し、損失の低いサンプルだけをフィルタリングすることで、ディープラーニングのトレーニング時間とコストを最大 35% 削減できる

SageMaker の新機能である「 Smart Sifting 」は、トレーニング中のデータを分析して低損失サンプルをフィルタリングすることで、深層学習のトレーニング時間とコストを最大 35% 削減できる
トヨタ研究所は、SageMaker を使って大規模言語モデルの Lama 2 のトレーニングを行い、数百の GPU でスケールアップすることで、最先端のモデルを再現できると語った
トヨタ研究所は、SageMaker を使ってドメイン固有の日本語データで Lama 2 のモデルの再トレーニングや微調整を行い、最先端の性能を達成できると語った

AIM336: Amazon AWS のサービス「 bedrock 」向けに、知識ベース構築と強化生成 (RAG) アプリケーションを完全管理型で構築できる「 Knowledge bases for Amazon bedrock 」が発表された

Amazon AWS のサービス「 bedrock 」向けに、知識ベース構築と強化生成 (RAG) アプリケーションを完全管理型で構築できる「 Knowledge bases for Amazon bedrock 」が発表された
S3 からドキュメントをインジェストし、前処理を自動化するデータインジェスト・ワークフローを提供
bedrock の知識ベースと基盤モデル、エージェントとの安全な接続を可能にする
関連ドキュメントの検索、プロンプトの強化、自動応答生成を実現する「 retrieve and generate API 」を提供
カスタムプロンプトエンジニアリングと基盤モデルの選択で機能カスタマイズ可能な「 retrieve API 」を提供
S3 に新規ドキュメントが追加されても、知識ベースの増分更新をサポート
データインジェスト時に PDF、CSV、Excel など多様なデータフォーマットに対応
背景でセマンティックサーチの実現に「 Titan テキスト埋め込みモデル」を利用
LAMP などオープンソースフレームワークを利用し、知識ベース構築と検索機能統合を可能にする

AIM337: Amazon Bedrock を活用した AI アプリケーションの開発と導入の自動化

Amazon Bedrock は AI アプリケーションの構築とデプロイを自動化する完全管理サービス
多様なプロバイダから十数種類の事前学習済みモデルにアクセスでき、単一 API から呼び出せる
新機能としてモデルのファインチューニング、プロプライエタリデータとモデルを連携させる知識ベース、複数ステップタスクの自動化などが発表
ユナイテッド航空のケーススタディでは、要約、チャットボット、感情分析などの AI アプリケーションを、Bedrock を既存 ML プラットフォームと連携させて構築

AIM353: 「 Amazon Bedrock 」の「 Agents 」を活用した AI アプリ開発の簡素化

「 Agents for Amazon Bedrock 」を利用することで、AI アプリケーションがエンタープライズ API やデータソースから複数ステップのタスクをセキュアにオーケストレーションできる
退職サービス会社の Athene が「 Agents for Amazon Bedrock 」を利用し、他社から事業を引き継いだ際のデータファイルやコードの分析からデータマッピングドキュメントの自動生成を実現。アナリストの時間短縮につながる
「 Agents 」は API や知識ベースからデータを取得し、知識ベースからコンテキストを追加することで複数ステップのタスクの計画・実行が可能
「 Agents 」を利用することで、訓練済みのエージェントから呼び出せるエイリアスを作成し、AI アプリケーションを本番環境で利用可能に
既存のエンタープライズシステムとデータを活用可能で、API やデータベースをエージェントがオーケストレーションできるアクションとしてラップできる

AIM361: アマゾン、組織のポリシーに合わせた責任ある AI アプリ開発を支援する「 Guardrails for Amazon Bedrock 」をリリース

アマゾンは、顧客のアプリケーション固有の要件と責任ある AI ポリシーに基づいて、エンドユーザーの体験を管理できるように Guardrails for Amazon Bedrock をリリースした。
Guardrails は禁止トピック、コンテンツフィルタ、単語フィルタ、個人情報の隠蔽など、組織のポリシーに応じてカスタマイズできるさまざまなポリシーとコントロールを提供する。
Guardrails はユーザ入力とモデル応答を intercept し、設定されたポリシーと評価を行う。ポリシー違反の応答は上書きされる。
Guardrails は特定のエージェント、例えば保険請求エージェントの会話を導くために、Amazon Bedrock 上のエージェントに適用できる。

AIM362: AWS の新サービス「 Amazon SageMaker HyperPod 」が基盤モデルの訓練を高速化する機能を提供することが発表された

AWS の新サービス「 SageMaker HyperPod 」が基盤モデルの訓練を高速化することがアナウンスされた
HyperPod はハードウェア障害から自動回復できる自己修復クラスタを提供し、訓練時間を最大 20% 短縮
HyperPod は AWS ネットワークインフラに最適化された分散訓練ライブラリにアクセスし、性能をさらに 20% 向上
ライフサイクルスクリプトとノードへの SSH アクセスで、迅速な実験環境のカスタマイズが可能
Stability AI のケーススタディでは、障害ノードの自動置換により訓練時間とコストを 50% 削減
Perplexity AI では、分散訓練ライブラリにより実験スループットが2倍向上
HuggingFace の研究者はインフラ問題を恐れずに、訓練環境の様々な側面をカスタマイズ可能

AIM363: アマゾン SageMaker Canvas が自然言語を用いたデータの参照・探索・視覚化・変換機能と大規模言語モデルのカスタマイズ機能を導入

アマゾンの SageMaker Canvas は、自然言語を用いたデータの参照、探索、視覚化、変換がコードを書かないで可能な「 Chat for data prep 」と呼ばれる新機能を導入した
Canvas では、業界、会社、利用目的に合わせたモデルの出力をカスタマイズするために大規模言語モデルをコードを書かずに調整できる

AIM367: Amazon SageMaker Clarify で大規模言語モデルの評価を高速化する

Amazon SageMaker Clarify は、モデル選定時やカスタマイズ時に、正確性、ロバストネス、有害性、バイアスなどの基準から大規模言語モデルを評価するのに役立つ。
あらゆる大規模言語モデルを分かりやすい指標とヒューマンエバリュエーションで数分で評価できる。
ISO などの規格では、大規模言語モデルを評価する必要があるため、その適合を助ける。

AIM373: アマゾン・ベドロックのファウンデーションモデル評価機能を利用したモデル選択

アマゾン・ベドロックはユーザーのユースケースに最適なファウンデーションモデルの評価、比較、選択を可能にするモデル評価機能を提供している
事前定義されたメトリクスとアルゴリズムを使用した自動評価と、ヒューマン評価の両方を提供
自動評価ではテキスト要約、テキスト分類、質問回答、一般テキスト生成タスクのサポート
カリキュレイテッドデータセットの提供と共に、ユーザー独自のデータセットのアップロードも可能
ヒューマン評価では、評価チームを自前で持ち込むか、AWS が管理する評価チームの利用可能
評価チームからのフィードバック収集のためのレーティングスケール、サムズアップ/ダウンボタンなどのツール提供
評価結果に基づきモデルパフォーマンスの比較を示す詳細なレポートとスコアカードの生成
モデルの建設とデプロイも可能なアマゾン・ベドロック内で評価が実施

AIM377: 大規模言語モデルの一貫した応答を得るための One Shot Prompting と Chain of THought prompting のベストプラクティス

One shot prompting や Few shot prompting を利用した、大規模言語モデルから一貫した予測結果を得る方法
複数のステップで問題を解決するモデルの考え方を示す Chain of Thought Prompting
検索結果から外部知識ストアを組み込み、モデルの基盤を固め自然言語応答を生成する RAG システム設計
長文プロンプトのベストプラクティス、機能呼び出し/ツール利用による外部 API 組み込み、動機付けなどの高度なプロンプトエンジニアリング

ALX101: 「アトリア・シニア・ライビングが Alexa デバイスを活用し、高齢者向け住居コミュニティーの居住者のコネクション維持を支援」

アトリア・シニア・ライビングは、Amazon、AWS、Ava Health とのパートナーシップを通じて、シニア向け住居コミュニティに合わせたカスタマイズされた体験を提供するために Alexa デバイスを利用している
アトリアは 400 を超えるコミュニティ全体に Alexa デバイスを数百台導入し、音声通話、ビデオ通話、コミュニティ情報や活動へのアクセスを通じて居住者のコネクション維持を支援している
大規模な展開における課題としては WiFi アクセス、デバイスセットアップ時間、利用の浸透が挙げられる。それらへの対策としては集中型設定デポと居住者アンバサダーの活用があった

ALX201: BMW グループと Amazon が、BMW と MINI 車両向け次世代 AI 音声アシスタントの共同開発を発表。MINI インテリジェントパーソナルアシスタントを Amazon Alexa カスタムアシスタントプラットフォームを使用して開発。

BMW グループと Amazon は、BMW と MINI 車両向け次世代 AI 音声アシスタントの共同開発を発表
MINI インテリジェントパーソナルアシスタントを Amazon Alexa カスタマイズアシスタントプラットフォームを使用して開発
アシスタントはインターネット接続なしでもオンラインおよびオフライン両方で自然な音声体験を提供するよう設計
MINI ブランドファンのイギリス人声優を起用し、アシスタント向けのカスタムテキスト・トゥ・スピーチモデル開発のために数千のフレーズを録音
アシスタントは強力なテクノロジー、パーソナライゼーション、感情、知性などの MINI ブランドの主要な特徴を表現するよう設計
音声分離とポリグロット技術を使用して、異なる言語とアクセントで会話できるネイティブスピーカーと同様の声を持つマルチリンガル音声モデルを開発
英語、ドイツ語、ヒンディー語でのアシスタントのデモが実演され、言語間で同一の声が確認された

AMZ201: Amazon の没入型ショッピングサービス「 Amazon Anywhere 」の概要

Amazon Anywhere は開発者が仮想世界、ゲーム、モバイルアプリ内で没入型ショッピング体験を提供できるサービス
Amazon Anywhere は Facebook、Instagram、Snapchat などの SNS プラットフォームと連携して広告からのコンテキスト内購入を可能にする
Amazon は Niantic と提携し、Pokemon Go の AR ゲーム内から Amazon Anywhere を利用した商品購入を可能にした
Amazon Anywhere のアーキテクチャは API Gateway、Lambda、Fargate、Certificate Manager、CDK( インフラストラクチャコード)などの AWS サービスを利用
将来的には動画内のインテントからの製品提案、QR コードや AR などを利用した物理世界内の仮想アイテム購入を可能にする計画

AMZ203: アメイカ最大規模の仮想製作ステージを新設した Amazon MGM スタジオは、AWS や Adobe Frame.io などのパートナー技術を活用し、映像コンテンツクリエイターの作業環境を向上。グローバルアクセスとコラボレーションを実現する「 Studio Fabric 」を構築。世界初の 8K シアターも新施設に設置。

Amazon MGM スタジオは北米で最大級、世界で最先端の仮想製作ステージを新スタジオ敷地内に構築
AWS と Adobe Frame.io などのパートナーソリューションを活用し、技術スタックを簡素化、映像コンテンツクリエイターをエンパワー
グローバルなアクセスとコラボレーションのため、メディアを S3 に集約、AWS 上で仮想ワークステーションや編集環境を構築
Direct Connect、Media Connect など AWS サービスを活用し、グローバル施設間でリモートコラボレーション可能な「 Studio Fabric 」を構築
新 Culver City 施設に世界初の 8K 展示・ポストプロダクションシアターを構築
RED などカメラメーカーと提携し、セットから AWS へのカメラ RAW ファイル直接アップロード可能
クラウドベースのカラーグレーディング、ハイブリッドポストワークフローをパイロット、コストダウン

AMZ204: ワンライフの医療テクノロジープラットフォームを構築し、タイムリーでアクセスしやすい医療サービスの提供を目指す

ワンライフと呼ばれる自社開発のテクノロジープラットフォームを構築し、ヒューマンセンタードなテクノロジアプローチにより、タイムリーでアクセスしやすい医療サービスの提供を目指している
ワンライフには、患者向けモバイルアプリ、医療従事者向け電子カルテシステム、AWS 上で構築されたバックエンドサービスが含まれている
FHIR などの医療データ標準と機械学習モデルを利用し、インフルエンザワクチン予約のリマインダー、FAX 処理の改善、優先メッセージの送信などの機能を実装
AWS サービスをベースに構築されたワンライフは、医療アプリケーションに必要なセキュリティ、スケーラビリティ、相互運用性を提供

AMZ301: アマゾンが AI と基礎モデルを活用してショッピング体験を向上させた

アマゾンは製品のおすすめ、検索、在庫管理の最適化など、事業全体で機械学習モデルを利用している
M5 チームは、多要素学習や言語を超えた学習技術を用い、大規模な基盤モデルの構築を行っている
新機能として、AI による製品説明の自動生成、レビューの要約、画像の自動生成、マルチモーダルな検索、動画のプレビューが紹介された
顧客事例として、スペルチェック、製品画像の自動生成、マルチモーダルな検索などの機能が紹介された
M5 チームは、モデルの効率的な訓練のために AWS Batch を利用し、月に1万件超の実験を実施している
モデルは信頼性を保つために S3 にチェックポイントされ、Trainium や Inferentia といった AWS シリコンインスタンスで訓練されている
大規模なスケールでの顧客体験の改善、開発者の生産性向上、運用効率の向上を目指している

ANT105: シーメンスとペトコは、データと AI を用いた企業変革事例を説明。両社とも Snowflake を用い、オンプレミスからの大規模データ移行と分析機能の向上を実現。シーメンスは Mendix を活用したデータ共有プラットフォームの構築、ペトコは機械学習を活用した顧客分析も紹介。今後はコスト最適化やデータ共有機能の拡張も計画している。

ペトコとシーメンスは Snowflake へのオンプレミスデータウェアハウスからの移行について説明
ペトコはオンプレミスから Snowflake へ 400TB 超のデータを移行し、新規ユーザーの導入とスケーラビリティ向上を実現
シーメンスは1年間で 50 システムと5万テーブルを Snowflake へレプリケーションで移行
両社とも Snowflake を用いてデータサイロ打破と内外部のコラボレーションを可能に
シーメンスは Mendix を用いた社内データマーケットプレイスを作成し、データアクセスと共有を実現
ペトコは顧客ライフタイムバリュー分析、製品リコメンド、離脱予測など機械学習モデルの使用事例を説明
両社ともコンテンツ作成、自然言語クエリ、プロセスオートメーションなどのタスクで生成 AI の活用を検討中
今後はコスト最適化、クリーンルームによるデータ共有機能拡張、小売メディアなどを通じたデータモネタイズなどを計画

ANT107: クラウドを活用した医療システムの現代化――業務効率化と研究加速を実現する

MSK はクラウドを活用し、モデルの実行を数週間から数ヶ月に短縮し、グローバルなデータ共有を可能にすることで研究の加速を図っている
NV Health は、クラウド上のアナリティクスを利用し、患者満足度の向上、質的指標の改善、不要な記録負担の軽減による医師の業務簡素化を実現している
OIC の希少疾患データベースでは、世界中から集められた画像や臨床データの安全な取り込みと注釈が、クラウドなしでは不可能だった肺線維症に関するグローバルデータベースの構築を可能にしている

ANT201: リアルタイムデータで革新を加速する - Amazon MSK と Kinesis Data Streams の最新機能

Amazon MSK で Graviton3 M7G インスタンスをサポート開始。コンピュートコスト最大 24% 削減、スループット最大 29% 向上、電力使用量最大 60% 削減。
Amazon MSK Replicator を発表。クロスリージョンレプリケーションを数クリックで実現し、耐障害性能向上。
Kinesis Data Streams のオンデマンドモードで書込みスループット最大 2GB/s、読込みスループット最大 4GB/s サポート。前年比 10 倍性能向上。
Kinesis Data Streams でクロスアカウントアクセスサポート。AWS アカウント間でデータ共有可能。
Kinesis Data Firehose と MSK の連携で、数クリックで MSK データを S3 に移動できる。コード不要。
British Telecom ケース:処理ラテンシー 15 分から3分に 80% 短縮。
Orange Theory Fitness ケース:ストリーミングワークアウトデータを集約。メンバーのフィットネストラッキングとパーソナライゼーションを実現。
Adobe ケース:毎日 100TB 処理。最小ラテンシー 6ms。毎日 40 億リクエスト処理。

ANT202: 「 Amazon Datazone の新機能 - 生成型 AI を活用した自動データ記述によるデータの発見とアクセスの簡素化」

Amazon Datazone が生成型 AI を活用した自動データ記述を開始し、データの発見とアクセスを簡素化
生成型 AI はデータについての深い要約と説明を自動生成し、ユーザーがデータを理解しやすくする
カナダ年金計画投資委員会などの顧客は複数の AWS アカウント間でデータプラットフォームとデータメッシュを構築するために Datazone を利用

ANT203: - Amazon Redshift は、re:Invent でクエリフィルターに基づいてデータをソートすることで、繰り返し実行されるクエリの高速化を図るため、多次元データレイアウトを導入しました。

Amazon Redshift は、re:Invent でクエリフィルターに基づいてデータをソートすることで、繰り返し実行されるクエリの高速化を図るため、多次元データレイアウトを導入しました。
Amazon Redshift は、Parquet および JSON に加えて、Apache Iceberg フォーマットでデータを In-Place でクエリできるようになりました。
Amazon Redshift は、自動的にリソースを提供およびスケーリングする AI 駆動のオプティマイゼーションとスケーリングを導入し、指定された価格性能要件を満たすようになりました。
McDonald's は、50,000 ユーザーによる1日 260,000 件のクエリで処理される 12 ペタバイト超のデータを Amazon Redshift でカスタマー 360 データを利用しています。
McDonald's は、データ共有、サーバレスコンピューティング、Amazon Managed Streaming for Kafka からのストリーミングインジェストなど、新機能を活用してデータプラットフォームを簡素化しています。

ANT204: アマゾン EMR とアマゾンアテナの新機能

アマゾン EMR は S3 Express one zone に対応し、アクセスが高速化・保守コストが低減される
Telecom Cell はアマゾン EMR を利用し、運用データストアワークロードを移行、全体コストが 60% 削減、開発効率が5倍向上
アマゾン EMR はインスタントフリートクラスタで高可用性 (1 アクティブノード2スタンビーノード)に対応
アマゾン EMR はカスタムイメージ、ジョブレベルコスト可視化、AWS Secrets Manager 連携、AWS Step Functions 連携、EMR Studio インタラクティブ機能に対応
アマゾンアテナはプロビジョンドキャパシティに対応し、ワークロード管理性向上。コストベースオプティマイザにも対応しクエリ性能向上。S3 Glacier 内データもクエリ可能に
アマゾン EMR とアマゾンアテナはネイティブ LDAP 連携、権限委譲、AWS Lake Formation で表・列・行・セルレベルの細粒度アクセスコントロールに対応

ANT205: Amazon.com の数百テラバイト規模のデータレイクを AWS の管理サービスを用いて大規模に管理する取り組みについて

Amazon.com のデータレイクチームは、数百テラバイト規模のデータを数百万件のデータセットとテーブルに分散管理しながら、AWS の管理サービスである AWS Glue、AWS Lake Formation、AWS DataZone を用いた取り組みについて説明した。
同チームは、AWS Glue と AWS Lake Formation をベースに、自動データ発見、メタデータ管理、大規模アクセス制御の自動化ソリューションを構築した。
行レベルおよび列レベルのアクセスポリシーを AWS Lake Formation で定義し、複数アカウントに跨る数千チームとデータを共有できるようにした。

ANT206: AWS におけるデータガバナンスの最新の取り組みと顧客事例について

AWS では、データガバナンスに関する新規のマスタークラスを発表し、事業計画とその道中で必要となる機能能力について議論した。マスタークラスには 15 分未満のオンデマンドビデオレッスンとハンズオンエクササイズが含まれるワークブックが含まれる。
AWS では、顧客がデータの理解、整理、保護能力についてどこにあるのかを評価できるデータの成熟度アセスメントサービスを提供し、改善点の提案を行う。
NARRA は、医療検査データから洞察を得て、医薬品開発と臨床試験を支援するために、匿名化された患者データを製品として活用しパートナーと協業していくアプローチについて説明した。
BMW では、整理されたデータ製品を閲覧・アクセスできるデータポータルを共有した。メタデータの自動キャプチャと更新を目指し、Maya という生成 AI アシスタントを利用する目標も説明した。

ANT207: データのコンテキスト理解を支援する Amazon Datazone

Amazon Datazone は、顧客がデータ全体にわたるアクティブなメタデータレイヤーを構築できるよう支援し、すべてのユーザーがデータを検索、理解、購読できるようにする。
カタロギング、メタデータの豊富化、アクセス制御、埋込型コラボレーション機能を提供する。
キーアバリティとしては、ドメイン、ビジネスデータカタログ、ビジネスグロッサリ、メタデータフォーム、アクセス制御、データポータルがある。
自動化機能により、手動作業を軽減し、データのコンテキスト構築を高速化する。
医療会社の Nara 社は、データ変換を支援しながらも、プライバシーとアクセス制御を維持するために Amazon Datazone を利用している。
Nara 社では、検索時間の短縮、データ成長に対する再現可能なパターンの構築、チーム間の理解と関係の促進などの効果を実感している。

ANT208: インフォーマティカ、アナリティクスから生成型 AI までのアプリケーションをサポートする統合データ管理プラットフォームを導入

インフォーマティカは、アナリティクス、機械学習、生成型 AI のユースケースをサポートするための統合データ管理プラットフォームを導入した。このプラットフォームは、異なるデータパーソナ間のコラボレーションを可能にする。
インフォーマティカ・データ・クラウドを使用して、AWS 上のデータを統合し、アナリティクスと機械学習のユースケースをデモンストレーションした。
インフォーマティカがモデル開発時のアクセスコントロールとデータマスキングを行い、データポリシーを順守する一顧客のケーススタディを紹介した。
インフォーマティカ 360 ソリューションを発表し、異なるデータソースからドメイン固有の知識ベースをカレーションし、生成型 AI アプリケーションで利用できるようにした。
豊富な知識ベースを使用して、自然言語の質問に答え、生成型 AI アプリケーション内でアクセスをガバナンスするデモンストレーションを行った。
信頼できる知識ベースと AI の結果を構築するためのデータ品質とクリーニングの重要性を強調した。

ANT209: AWS を利用したビジネスクリティカルなアナリティクスの TCO 最適化

AWS では、TCO(Total Cost of Ownership) を最適化するための自動スケーリング、インテリジェントタイアリング、オートパーティショニング、オートチューニングなどのサービスと機能を提供している
データストラテジーとロードマップを立てることは、冗長な開発を低減し設計を最適化する上で重要
Graviton、Trainium などの参照アーキテクチャに基づきインフラ選択を最適化したり、サーバレスなどの適切なツールを選ぶことでコスト効率を高められる
AWS Cost and Usage Report、Trusted Advisor、Compute Optimizer などのサービスを用いて使用パターンをモニタリングし、コスト削減の機会を見出す
リソースを正しくタグ付け分析した上で、単価だけでなく総額も考慮することで洞察が深まる
Expedia が Amazon OpenSearch と Cabana を利用したログ管理と監視での事例

ANT210: - Amazon OpenSearch Service は、大規模言語モデルからの埋め込みを使用して検索精度を向上させるベクトル検索機能を発表した

Amazon OpenSearch Service は、大規模言語モデルからの埋め込みを使用して検索精度を向上させるベクトル検索機能を発表した
SageMaker、Bedrock、OpenAI など外部 AI サービスとのコネクタをサポートしており、モデルのホスティングと埋め込みの生成が可能
Intuit は、生成型 QA、不正検知、製品マッチングなどのアプリケーションでベクトルデータベースとして Amazon OpenSearch Service を利用
Amazon Music は1億件超の音楽トラックに対する協調フィルタリングで 68 億ベクトルと 7000 件/秒のクエリに対応
Amazon は8億件/日の商品スキャンで不正を 99% 検出、68 億ベクトルと8億件/日のクエリ処理を行うフラウド検知に利用

ANT211: Amazon Redshift での自動的な S3 からのデータコピーやリアルタイム分析、機械学習を使った製品リコメンドなどの利用事例を紹介

Amazon Redshift で自動的に S3 からコピーできるようになった自サービスアナリティクス機能や、Redshift ストリーミングインジェクション、Aurora MySQL からゼロコピーが可能になったことをアナウンスした
Redshift Serverless を使った自サービスアナリティクスと、その利点である設定の容易さ、高性能、予算内での利用ができることをデモンストレーションした
Redshift ML の機能を使い、製品リコメンド、顧客離脱予測、売上予測など様々な利用事例で SQL で機械学習モデルを構築できることを紹介した
Redshift ストリーミングインジェクション、Redshift ML、クエリエディタで結果を可視化できる実時間の不正検知利用事例をデモンストレーションした

ANT212: Splunk のセキュリティレイクと OCSF への対応、および Amazon セキュリティレイクからのデータ活用

Splunk はセキュリティレイクとオープンサイバーセキュリティスキーマフレームワーク (OCSF) に対応し、セキュリティデータを格納している場所にかかわらず洞察を提供します。
Splunk とセキュリティレイクの統合により、ボタン1つでセキュリティレイクからのデータを Splunk に簡単に取り込むことができます。
Splunk は将来的にセキュリティレイクから直接 Splunk から検索できるよう連携検索に対応します。
Splunk は OCSF 形式で検出をネイティブに開発し、新しい Behavioral Analytics 製品は完全に OCSF を使用して開発されました。

ANT215: AWS 上の AI/ML アナリティクスのためのデータモダナイゼーションの新しいトレンド: カタリスト

講師は、単にデータを新しいプラットフォームに移動するのではなく、進化的なアプローチにより現代的なデータプラットフォームを構築することについて議論した。
講師は、製品の入手可能性と価格など、CPG API のように業界固有のデータ製品と API を構築することについて議論した。
講師は、合成データを使用して、モデルのデータドリフト問題を解決し、製薬会社のケースで薬の開発時間を短縮するために使用することについて議論した。
講師は、データの収集、管理、使用が業界規制に従って倫理的に行われる責任あるデータフレームワークを構築することについて議論した。
講師は、集中型データガバナンス、データ製品 /API、情報ファクトリーを通じて、テレコムケースでデータの入手可能性、信頼性、認識性を改善したことについて議論した。

ANT216: データ統合を AI と機械学習で再考案する - AWS Glue Data Quality の動的ルールと新しいアノマリ検知機能でデータ品質管理を自動化し、さらに様々なデータベースに対応。自然言語でデータパイプラインを構築できる Amazon Q と、ETL 開発を加速する AWS Glue Studio もプレビュー。

AWS Glue Data Quality の動的ルールでの新機能で、ビジネスプロパティが変化するにつれてデータ品質ルールをよりインテリジェントで適応的にできる
AWS Glue Data Quality の新しいアノマリ検知機能で、時間経過とともにデータ統計を分析し、手動でルールを設定する必要なく隠れたデータ品質イシューを把握
Teradata、Azure SQL、Vertica、Amazon OpenSearch など 10 種類のデータベースコネクタが AWS Glue でサポート
BMW、JP モルガン・チェース、BMO などの顧客事例で、AWS Glue をデータ統合とデータ品質管理に利用
自然言語でデータ統合パイプラインを構築できる機能のアマゾン Q for AWS Glue Data Integration のプレビュー
AWS Glue Studio ノートブックでコードウィスパーの統合で、ETL ジョブ開発を加速するリアルタイムコードサジェスト

ANT220: - AWS Glue は現在 Snowflake、Terradata、Vertica、BigQuery、Azure、Cosmos DB、MongoDB、SAP HANA など 10 以上のデータウェアハウスとデータベースに対応するコネクタをサポート

AWS Glue は現在 Snowflake、Terradata、Vertica、BigQuery、Azure、Cosmos DB、MongoDB、SAP HANA など 10 以上のデータウェアハウスとデータベースに対応するコネクタをサポート
Amazon Redshift と Glue 間のデータ統合を容易にするための新しい AWS Glue コネクタ
ログ分析、アプリケーションモニタリング、ウェブ検索に OpenSearch を使用するための新しい AWS Glue コネクタ
リソースが必要なワークロードに対応する大型ワーカータイプ G4 と G8 インスタンスで AWS Glue サポート
AWS Glue ストリーミングジョブのオートスケーリングサポート追加
AWS Glue ストリーミングで 1/4 のデータ処理ユニット (DPU) サポートでコスト効率的なワークロード
ゴールドマン・サックスが AWS Glue を使用して ETL パイプラインの近代化例、作業フロー実行時間 35% 短縮、10 倍データ成長対応、99.96% の可用性達成

ANT301: Amazon OpenSearch Service の新機能

AWS の Amazon OpenSearch Service は、ElasticSearch 7.X バージョンに加え、OpenSearch でデータの再索引のための古いバージョンに対応している。
OpenSearch Neural Search 2.9 は、テキスト検索とベクトル検索を組み合わせたハイブリッド検索を可能にし、複合スコアリングを実現。
OpenSearch のセキュリティ解析機能では、カスタムルールと Sigma ルールに基づいてログを分析し、アラートとルールエンジン、相関エンジンを組み込んでいる。
AWS S3 との Zero ETL 統合では、S3 内のデータを直接クエリでき、索引データを OpenSearch に移動せずに二次索引とマテリアライズドビューを利用してクエリを高速化。
電子アーツは、自己管理型の Elasticsearch から OpenSearch に移行し、ウォームノードの利用などにより EC2 と EBS コストが大幅に削減でき7ケタ規模のコスト削減効果があった。

ANT303: AWS Lake Formation の最新情報

Lake Formation が AWS Identity Center と統合され、既存の ID プロバイダからの ID を利用した細かいアクセス制御が可能に
Glue Data Catalog でハイブリッドアクセスモードの追加。同じリソースが Lake Formation の粗密なアクセスモードの両方で操作可能
クローラーによるパーティションインデックスの自動作成。パーティションテーブルのクエリ性能向上
Glue Data Catalog でカスタム JDBC ドライバや Apache Iceberg、Apache Hudi、Delta Lake などのオープンなテーブル形式のサポート
Lake Formation が Redshift データシェアを管理・ガバナンスできるように。データレイクとデータウェアハウスの統一ガバナンス
Lake Formation でタグ委任機能の追加。データオーナーがリソースの分類やアクセス制御のタグの定義と管理可能
Duke Energy がデータメッシュアプローチで Lake Formation と Glue Data Catalog をコアコンポーネントに分散アカウント間のデータ製品/資産を構築。分析利用

ANT317: リビアンの EV からのリアルタイムデータの収集と AWS を利用した分析プラットフォーム

リビアンはソフトウェア定義車両を使用し、リモートコマンド、通知、デジタルツインなどの機能を実現するために、車両からのリアルタイムデータの収集を行っている
リビアンは AWS と提携し、建設データプラットフォームに Amazon MSK、EKS、S3、DynamoDB、DocumentDB などのサービスを利用している
リビアンは成長するフリートから毎日数ペタバイトのデータを MSK や Flink などのサービスを利用したデータパイプラインに取り込んでいる

ANT318: サーバレスデータアーキテクチャを利用したイノベーションの加速

タンはスケーラビリティ、コスト、イノベーションの課題に対処するために、モノリシックデータプラットフォームから完全なサーバレスおよびマイクロサービスアーキテクチャに基づく AWS アーキテクチャに移行した
主な利用サービスは DynamoDB、Aurora Serverless、OpenSearch Serverless、Neptune Serverless、Amazon MSK、AWS Glue、Amazon S3、Amazon EMR Serverless、Amazon Redshift Serverless、Amazon Athena
タンは今、サーバレスサービスを利用してデータパイプラインとマイクロサービスアーキテクチャをより簡単に構築し、迅速にイテレーションできる
サーバレスは各チームとワークロードにリソースを割り当て、自律性、柔軟性、イノベーションを高める
BMW と NextGen Healthcare はそれぞれ AWS Glue と Amazon Redshift Serverless を利用し、コストと運用オーバヘッドを削減、データプラットフォームへのアクセスと採用を向上させた

ANT319: - AWS は Apache Spark、Apache Hive、Trino、Apache Iceberg、OpenSearch、Apache Flink、Apache Kafka などの人気のオープンソースのフレームワークとフォーマットを広範にサポートしている

AWS は Apache Spark、Apache Hive、Trino、Apache Iceberg、OpenSearch、Apache Flink、Apache Kafka などの人気のオープンソースのフレームワークとフォーマットを広範にサポートしている
Travel loca は Amazon API Gateway 上でデプロイされたオープンソースのプラットフォーム Backstage を利用して、API の契約作成と管理を標準化した
Zomato は EMR 上で Druid と Presto を使用し、AWS Graviton に移行することでパフォーマンスを 25% 向上させ、コンピュートコストを 30% 削減した
Augury は Spark と Onyx を使用した低遅延の機械学習を AWS 上のオープンソースのフレームワークで実行している

ANT320: Eletronic Arts(EA) が Amazon EMR を利用してデータ量の増加に伴うワークロードの最適化とコスト・パフォーマンスの向上のためにデータプラットフォームを近代化した

Electronic Arts(EA) は、データ量が急速に増加する中でワークロードを最適化しコストとパフォーマンスを最適化するために、Amazon EMR を利用してデータプラットフォームを近代化した
EA は 1 年以内にレガシーな Hadoop クラスタから 3 ペタバイトのデータと 2,000 以上のジョブを Amazon EMR に移行し、ダウンタイムなしで移行を完了した
EA はジョブをグループ分けし、クラスタ構成の「Tシャツサイズ」を定義することでクラスタプロビジョニングを簡素化し、コストエクスポージャを削減した
移行はジョブごとに行いながら、レガシーと新システム間を同期して継続的な顧客向けサービス提供を保証した
Amazon EMR はジョブレベルのリソース分離、計算資源とストレージの独立したスケーリング、SLA の大幅な向上を EA に提供した
EA は年間データ量が 113% 増加したにも関わらず、Amazon EMR 移行後は 90 分速くなった SLA と 20% 低減した TCO を達成した

ANT321: ロケット・カンパニーが AWS を利用してデータサイエンスプラットフォームを最新化し、スケーラビリティとコスト削減を実現した

ロケット・カンパニーは、スケーラビリティが低くデータ量とソースが増えるにつれ処理できないレガシーなデータプラットフォームで困難に直面していた
同社は AWS の S3、Glue、EMR、Redshift、SageMaker などのサービスを利用してデータプラットフォームを最新化し、長いデータインジェスト時間や高コストなサポート体制などの課題に対処した
最新化されたプラットフォームでは、データインジェスト時間が週単位から数分単位に、サポート件数が 180 件からほぼ0件に削減された
SageMaker を利用してデータサイエンスワークロードをスケール可能にし、データサイエンティスト、アナリスト、エンジニアなどの役割が一元的に利用できるプラットフォームを提供した

ANT322: - ユナイテッド航空は、データの壁を取り除き、データ分析基盤を近代化しました

ユナイテッド航空は、データの壁を取り除き、ビジネスユニット間でデータの単一ソースとなる Amazon Redshift を使用して、データ分析基盤を近代化しました。
GE アエロスペースは、オンプレミスのデータレイクを Amazon Redshift に移行し、機動力、柔軟性、分散型ビジネスアーキテクチャをサポートできる能力を獲得しました。
Amazon Redshift の新機能として、リージョン間データ共有、サーバレス機能、Redshift ML、オートスケーリングとパフォーマンスの改善が発表されました。

ANT323: AWS アナリティクスサービスの AI 機能強化 - 自動最適化、コード生成、クエリ支援、データスケール、異常値検出などが Amazon Web Services 各サービスに実装

AWS Glue Studio や Amazon CodeWhisperer との連携により、AI がワークフローの最適化やコード自動生成を行う新機能が Amazon Web Services(AWS) アナリティクスサービスに実装された
自然言語プロンプトによる視覚的なナラティブのカスタマイズや共有機能が Amazon QuickSight に実装された
複雑な SQL クエリの作成支援やノートブック機能、AI アシスタントが Amazon Redshift クエリエディタ V2 に実装された
クエリ意図に基づくデータのスケールアップと整理が AI によって Amazon Redshift で自動的に行われるようになった
機械学習に基づくデータ品質チェックの異常値検出と動的なルール設定が AWS Glue に実装された

ANT324: Salesforce Data Cloud は様々なソース間でデータを移動やコピーなしに共有可能にするが、新機能として Redshift テーブルとの連合や Glue Views なども発表された。

Salesforce Data Cloud は CRM アプリ、データベース、データレイクなど様々なソース間でデータ共有を可能にするが、データの移動やコピーは不要
ポイントアンドクリックのインターフェースを利用してデータソース間でデータをストリーミングできるゼロ ETL データ連合機能を提供
700M レコードの CRM データをデータレイクへ従来の ETL 方式で移行した事例では1日以上と 100 万ドル超のコストがかかったのに対し、データ共有機能ではリアルタイムに近い速度で移行可能
Redshift でのマルチライタトランザクションのデータ共有パイロット、エンジン間で一貫した SQL クエリが可能な Glue Views など新機能も発表
Redshift テーブルを Data Cloud に連合し、その連合データを基に予測モデリング、セグメンテーション、キャンペーンなどのデモも実施

ANT325: - Amazon Redshift の 11 周年を迎え、セキュリティ、可用性、パフォーマンス、エラスティックな性能、データ共有、自動化に重点を置いて進化したことが紹介されました。新機能としてサーバーレスな Redshift、Aurora、RDS、DynamoDB との間での Zero ETL インテグレーション、リージョン間データ共有が発表されたそうです。

Amazon Redshift の 11 周年を迎えた
セキュリティ、可用性、パフォーマンス、エラスティックな性能、データ共有、自動化に重点を置いて進化してきた
新機能としてサーバーレスな Redshift、Aurora、RDS、DynamoDB との間での Zero ETL インテグレーション、リージョン間データ共有が発表された

ANT326: - AWS の Aurora MySQL と Redshift 間の Zero ETL 統合機能が一般提供となり、新規リージョンのサポート強化やパフォーマンス向上、API と AWS CLI のサポート強化、導入体験の改善、イベント通知機能の強化がなされた

AWS の Aurora MySQL と Redshift 間の Zero ETL 統合機能が一般提供となり、新規リージョンのサポート強化やパフォーマンス向上、API と AWS CLI のサポート強化、導入体験の改善、イベント通知機能の強化がなされた
インテュイトは同社のアイデンティティプラットフォーム移行に Zero ETL 統合機能を活用し、ステークホルダーに対するリアルタイムなインサイトと透明性の提供、かかる時間と労力の大幅な削減を実現している

ANT329: - AWS のアナリティクスと生成型 AI のベストプラクティス

AWS は Amazon Redshift で Amazon Aurora PostgreSQL および MySQL データベースからの近リアルタイムデータレプリケーションを可能にするための新しいゼロ ETL 機能を発表した。
AWS は Amazon Redshift で直接 ML モデルの作成と推論を可能にする新機能を発表した。これには Amazon SageMaker との統合が含まれる。
AWS 上でアナリティクスパイプラインを設計するベストプラクティスとして、データ整合とガバナンスのために AWS Glue や AWS Lake Formation のようなサーバレスサービス、データウェアハウジングのための Amazon Redshift、ベクトル検索のための Amazon OpenSearch を使用すること。
ドメイン固有のデータを使用して微調整された事前学習済みモデルを使用するインコンテキスト学習や微調整のような手法で生成型 AI アプリケーションを構築した顧客例。

ANT331: AWS の総合的なデータストレージ、活用、統合、管理サービス。

AWS はデータストレージ、活用、統合、管理を総合的にサポートするサービスを提供している
Aurora と Redshift はゼロ ETL でデータを秒単位でシステム間で同期 replication できる
Datazone サービスではデータカタログを介してアカウント間でデータの公開、検索、共有が可能
Fannie Mae はマルチアカウントアーキテクチャでデータメッシュアプローチを採用。中央のガバナンスと分散実行
Fannie Mae は業務アカウントでデータをカレーションし、データレイクにインジェスト。データカタログで共有、ビューからアクセス

ANT350: Amazon OpenSearch Service を使用したセキュリティ分析と観測力

Amazon OpenSearch Service(AWS の OpenSearch に関する完全管理サービス)が導入された。これにより、AWS アカウント内で高い可靠性とセキュリティを持ちながら、大規模な配備で OpenSearch を実行できる。
OpenSearch Service には、ベクトルサーチのような高スケーラビリティなセキュリティ分析のユースケースを構築するのに役立つ監視可能性とセキュリティ分析プラグインが同梱されている。
AWS およびオープンソースエコシステムとの統合が提供されており、アプリケーションの迅速な構築が可能。大量の機械データを長期間低コストで保存できる Ultra Warm Storage などの機能がある。
OpenTelemetry を使用してeコマースアプリケーションからトレース、メトリクス、ログを収集し、OpenSearch Service と Grafana へデータを送信して可視化とアラートを行うデモが行われた。
セキュリティログデータを自動的にセキュリティ向けの Amazon S3 レイクに集約する Amazon Security Lake サービスが導入された。Open Cybersecurity Schema Framework(OCSF) 標準を採用。
OpenSearch Service 用のセキュリティ分析プラグインで、予め用意された Sigma ルール、ディテクタ、アラート、視覚的相関を使用してセキュリティイシューの検出、調査、解決がデモンストレされた。
オンプレミスから新しいセキュリティデータを Amazon Security Lake と OpenSearch Injection Service のブループリントを使用してインデックス付けするユースケースが示された。

ANT351: - Amazon Redshift がマルチデータウェアハウスライトに対応しました。これにより、同じデータベースに複数のウェアハウスから同時にライトできるようになりました。

Amazon Redshift がマルチデータウェアハウスライトに対応しました。これにより、同じデータベースに複数のウェアハウスから同時にライトできるようになりました。
この新機能により、組織は ETL ワークロードに最適なウェアハウスタイプとサイズを柔軟にスケーリングできるようになりました。
ワークロードを必要に応じて別のワークグループやクラスターに分離することで、予測可能性を高められます。また、正確なコストドライバーを特定できるようになります。
現在、複数のチームが同じ Redshift データベースに簡単に共同でライトできるようになりました。クラスターやワークグループがコミットした時点でデータはすぐに利用可能になります。
Peloton は Redshift のマルチクラスターアーキテクチャを活用し、データインジェスト方法を様々に検討。クラスター規模を適切に設定するハブアンドスポークモデルの導入により、年間 30 万ドルのコスト削減を実現しました。

ANT352: アマゾンが新たな機能として、自然言語で SQL クエリを生成できる「 Amazon Q for ジェネラティブ SQL 」を発表し、Amazon Redshift Query Editor に統合されました。Amazon Q は対話形式でクエリを生成し、個人化されたクエリを出力できるとのことです。

Amazon が新しい機能として Amazon Q for generative SQL を発表し、自然言語の平易な英語で SQL クエリを生成できるようになりました。
Amazon Q は Amazon Redshift Query Editor に統合され、フォローアップ質問に答えながら対話形式で SQL クエリを生成できるようになっています。
Amazon Q はユーザのデータベーススキーマ、テーブル、カラム、クエリ履歴などを基に個人化された SQL クエリを生成し、正確性とコンテキスト認識力を高めています。
Amazon Q はユーザの実際のデータにアクセスしたりトレーニングしたりすることなく、セキュリティとアクセス許可がバイパスされない仕組みになっています。
Amazon Q は複数テーブル結合クエリなど、手動で書くのが困難な複雑なクエリも生成できるようになっています。
Jobcase や Medecision などの顧客は、求職者向けの仕事推薦や医療治療予測などの用途で Amazon Redshift ML を活用しています。

ANT353: AWS re:Invent 2023 での Amazon OpenSearch Service の新機能について

Amazon OpenSearch Service のベクタエンジンの導入。これにより、数十億のベクタ埋め込みを格納・検索することで、強化型検索体験や生成型 AI アプリケーションの構築が可能になる。
HNSW や Faiss、NMSlib などの有名ライブラリに対応し、ベクタ埋め込みの効率的な類似検索がサポートされる。
ベクタエンジンでサポートされるデータ型は最大 1000 種類。
ベクタのリアルタイム追加・削除・更新が簡単に行えるベクタエンジン。
OpenSearch のマネージドクラスターに対応した新しいインスタンスファミリー「 Or-1 」。これにより既存のインスタンスに比べ価格性能が最大 30% 向上。
Amazon S3 に格納されたデータを OpenSearch にインジェストせずとも直接検索可能な、OpenSearch Service と S3 間の ETL 無し統合。
ベクタ埋め込みとベクタエンジンを用いた会話型エージェントの構築デモ。

ANT354: Amazon Redshift が AI/ML を活用したオンデマンドスケーリング機能を Redshift Serverless に導入

Amazon Redshift が新たな AI 駆動型のスケーリングと最適化技術を Redshift Serverless に導入した
新技術はクエリのリソース使用量を予測する AI/ML モデルを使用し、実際のワークロード需要に基づいてオンデマンドで容量をスケーリングできる
既存のスケーリングに比べ 10 倍以上の価格性能比向上が見込め、基本容量を超えて賢くスケーリング可能
ケーススタディでは長時間クエリのレイテンシを 2008 秒から 170 秒に、コストを 5.93 ドルから6ドル未満に低減
3 倍大きなデータインジェストワークロードを 122 秒(以前は9分 33 秒)で処理、性能向上によるコスト増も
コスト最適化のため自動的に容量ダウンスケーリングも可能で、ケーススタディでは 14 ドルのコスト削減

API206: イベント駆動型アーキテクチャを利用して JP モルガン・チェースが商業システムの近代化を実現

イベント駆動型アーキテクチャは、地面から建設するアプリケーションの高速構築を可能にする
JP モルガン・チェースのニックから、彼らがイベント駆動型アーキテクチャを使用して商業サービスシステムを現代化したカスタマーケーススタディの報告があった
彼らは AWS サービスの EventBridge、Lambda、Step Functions、Fargate を使用して毎秒 5000 超のトランザクションを処理する新システムを構築した
新システムは観測可能性が高く、フォールトトレラントでクラウド上でスケーラブル
新機能や新決済方法の迅速な導入が可能
請求、価格設定、リスク、フラウドなど他のサービスはイベントにサブスクライブすることで新システムと統合可能

API210: AWS Step Functions と生成 AI を活用したワークフローの構築方法

AWS Step Functions を使用して生成 AI アプリケーションを構築する方法を紹介するセッションで、生成 AI モデルを含む様々なサービスをオーケストレーションできる
ビデオ処理アプリケーション「 Serverless Video 」にビデオのタイトル、概要、アバターを自動生成する機能を追加するケーススタディー
Amazon Transcribe を使用してビデオの音声をテキストに変換し、テキストから Amazon Bedrock の基盤モデルを使用してタイトルと概要を生成し、タスクトークンの統合で人間にレビューの依頼を行う方法を説明
re:Invent 2022 で発表された AWS Step Functions と Amazon Bedrock 間の最適化された統合、モデル起動とカスタマイズジョブ作成 API などをデモンストレーション

API302: イベントドリブンアーキテクチャを用いた次世代アプリケーションの構築方法

イベントドリブンアーキテクチャと、アプリケーション間の結合性を低減することで、高度なスケーラビリティを持つ分散アプリケーションの構築方法が説明された
実際のシステムで見られる一般的なインテグレーションパターンと、SQS、SNS など AWS メッセージングサービスを利用してマイクロサービス間を結合し、最小限のカスタムコードでイベントの流れを調整することでそれらを改善する方法が説明された

API303: イベントドリブンアーキテクチャの導入の道筋と起こりがちな落とし穴について

イベントドリブンアーキテクチャの導入ジャーニーと組織が直面する共通的な落とし穴について解説された
実装前にイベントストーミングによりドメインの動作を理解することが推奨された
ポイント・トゥ・ポイント、パブリッシュサブスクライブ、イベントストリーミングなどの共通メッセージングパターンが取り上げられた
エンリッチングやコンテンツベース・ルーティングなどの統合パターンはカップリングの問題を回避できる
バウンデッドコンテキストなどの DDD 原則はイベントと境界をモデル化するのに役立つ
標準化、発見可能性、コミュニケーションなどの運用上の考慮事項は長期的に重要
Amazon EventBridge、DynamoDB Streams、SQS、Lambda などがイベントドリブンシステムを構築するのに役立つサービスだと説明された

API309: 分散システムの設計トレードオフと、それを乗り越えるためのデザインパターン

分散システムの設計トレードオフについて共通の議論が行われ、デザインパターンを用いてそれらを乗り越える方法が説明された。
カップリング、制御フロー VS データフロー、メッセージの順序と配信セマンティクス、エラーハンドリング、メッセージの再生などのトピックが取り上げられた。
ライドシェアやコーヒーショップのアーキテクチャ例が使用され、同期 VS 非同期通信、キュー、フローコントロール、バックプレッシャーなどの概念が説明された。
EventBridge と EventBridge Pipes インテグレーションサービスが検討され、ターゲットタイプ (API など)によって制御フローがどのように異なるかが示された。
オートメーションの重要性と CDK/CloudFormation を用いたアーキテクチャのコードとしての表現が強調された。

API310: AWS Step Functions Distributed Map を利用したがん研究の画像解析を高速化

バーテックス製薬は、実験から得られた数千枚の画像を並列処理するために AWS Step Functions Distributed Map を利用し、がん研究を加速化しました。
分散型実験 ID から全画像を取得し、Distributed Map を利用して各画像に機械学習モデルを適用し、結果を集約するワークフローを構築しました。
これにより、任意のジョブ数を制約なくスケール可能となり、以前の静的サーバ構成に比べ 11 倍高速で 90% コスト効率的にジョブを完了できるようになりました。
Distributed Map では S3 オブジェクトやファイルから対象を反復し、各オブジェクト/バッチに子ワークフローを実行でき、最大1万の並列ワークフローをサポートしています。

API401: サーバレスワークフローパターンとベストプラクティス - 失敗からの再開、HTTP 呼び出し認証、単体テスト、ベッドロック統合、IDE からのアクセス、実例

ワークフローを失敗状態から再開できる「 Red Drive 」機能
ワークフローから任意の公開 URL に呼び出しができ、コールを認証できる「 HTTP 状態」
単独のタスクをテストでき、全ワークフローを実行せずに済む「新テスト API 」
ベッドロックモデルを直接ステップファンクションから呼び出せる「ベッドロック統合」
VS Code 等の IDE からアプコンポーザ統合でワークフロースタジオが利用できる
ステップファンクションのワークフローを使って「 Servan エスプレッソ」「 Serverless Video 」アプリを構築したカスタマーケース

ARC101: コックローチ DB を使用したミッションクリティカルアプリケーションの構築

CockroachDB は水平スケーラビリティ、高可用性、線形化可能なトランザクションを提供する分散 SQL データベースです。
複数のノード、アベイラビリティゾーン、リージョン、クラウドを横断してスケールでき、クライアントに低遅延を提供します。
マルチバージョン一貫性制御を使用して ACID トランザクションと世界規模での可逆分離レベルをサポートします。
カスタマーはダウンタイムなしでノードをシームレスに追加または削除できてスケールアウト/インできます。
アベイラビリティゾーン、リージョン、クラウド全体の障害からも回復できるレプリケーションを使用しています。

ARC206: アマゾンウェブサービス (AWS) を使った最初の 10 万ユーザー向けのスケーリング事例

アマゾンは、基盤インフラを管理することなくコンテナ化されたアプリケーションの自動プロビジョニングとスケーリングを提供する新しい App Runner サービスを発表した。オートスケーリング、ロードバランシング、セキュリティ更新などの機能を設定不要で提供する。
100 人から 1000 人、さらに1万人へとユーザー数が増加したアプリケーションについてのケーススタディが紹介された。データベースへの書き込みが過多になるなどのスケーリング上の課題が発生し、アプリケーション各コンポーネントのスケーリング方法が推奨された。