Microsoft Build 2023 で発表された AI 関連アップデートまとめ

はじめに

Microsoft Build 2023 で発表された AI 関連アップデートに関して、Book of News をベースにリンクをまとめて GPT-4 を使った要約を添えました。

関連セッション

• Keynote: Microsoft Build opening (Session code: KEY01H)
• Keynote: The era of the AI copilot (Session code: KEY02H)
• Keynote: Next generation AI for developers with the Microsoft Cloud (Session code: KEY03H)
• Breakout: Getting started with generative AI using Azure OpenAI Service (Session code: BRK214H)
• Breakout: Practical deep dive into machine learning techniques and MLOps (Session code: BRK212H)
• Breakout: Building and using AI models responsibly (Session code: BRK213H)

Book of News

こちらにアップデートがまとまっています。

• MICROSOFT BUILD 2023 BOOK OF NEWS
• MICROSOFT BUILD 2023 BOOK OF NEWS (日本語)

AI Plugins

GPT-4 による要約:

Microsoft は、OpenAI が ChatGPT に導入したオープンなプラグイン標準を採用すると発表しました。これにより、ChatGPT と Microsoft の Copilot オファリング全体での相互運用性が可能になります。開発者は、ChatGPT、Bing、Dynamics 365 Copilot（プレビュー版）、Microsoft 365 Copilot（プレビュー版）を含む、消費者とビジネスの両方の面で機能するプラグインを一つのプラットフォームで構築できます。Bing はプラグインのサポートを追加し、ChatGPT はデフォルトの検索体験としてBingを迎え入れ、ウェブからアクセスできる最新の答えを提供します。この新しい体験は、今日から ChatGPT Plus の加入者にロールアウトされ、プラグインを有効にするだけで間もなく無料ユーザーにも利用可能になります。

参考

• Microsoft outlines framework for building AI apps and copilots; expands AI plugin ecosystem
• Bing at Microsoft Build 2023: Continuing the Transformation of Search

Azure AI

Azure OpenAI Service

GPT-4 による要約:

Azure OpenAI Service のアップデートは、プレビュー段階であり、Azure AI Studio のような強化機能を含むようになります。これにより、組織は自身のデータと Azure OpenAI Service をより効果的に組み合わせることができます。また、Provisioned Throughput モデルにより専用 /予約容量が提供され、外部データソースの統合を簡素化し、API の構築と利用のプロセスを効率化するプラグインも提供されます。

参考

• Build next-generation, AI-powered applications on Microsoft Azure
• Generative AI for Developers: Exploring New Tools and APIs in Azure OpenAI Service
• Azure AI Studio: Satya Nadella at Microsoft Build 2023

Azure OpenAI Service on your data

GPT-4 による要約:

Azure OpenAI Service on your data は、6 月に公開プレビューが始まる新機能です。この機能は、企業ユーザーが自社のデータに対して OpenAI の強力な会話型AIモデル、ChatGPT や GPT-4 を組織ポリシーに従って使用できるようにするものです。Azure OpenAI Service を使うと、企業はこれらのモデルを用いてチャットを行ったり、データ引用を表示したり、自社のデータに基づいてチャットの体験をカスタマイズできます。
この機能は高度にカスタマイズ可能で、個々の組織の特定のニーズを満たすように調整されています。企業ユーザーは、自社のデータと計画に基づく直接的な回答を得ることができ、コミュニケーションの速度と正確さが向上し、顧客サービスが改善され、組織全体の生産性が向上します。
IKEA や Volvo などの顧客は、この機能を活用して大規模なビジネスインサイトを発見し、エンドユーザーの体験を改善しています。

参考

• New easy way to add your data to Azure OpenAI Service

Plugins

GPT-4 による要約:

プラグインは、開発者が大規模言語モデル (LLMs) の能力を拡張し、GPT-4 を Azure およびMicrosoft エコシステム全体に深く統合するための API を構築および利用するための標準化されたインターフェースです。7 月に開発者向けに提供される限定プレビューには、以下のプラグインが含まれます：

Bing Search
Azure Cognitive Search
Azure SQL
Azure Cosmos DB
Microsoft Translator

プレビューでは予め作成されたプラグインのみが利用可能ですが、近いうちに顧客は自分自身のプラグインを Azure OpenAI Service でも使用することができるようになります。プラグインの作成に関しては、OpenAI と同じ基準に従うので、両プラットフォーム間でプラグインは完全に相互運用可能になります。

参考

• How to leverage Plugins for Azure OpenAI Service

Provisioned Throughput Model

GPT-4 による要約:

Azure OpenAI Service に導入予定のプロビジョニングスループット機能は、顧客が OpenAI の大規模言語モデルの設定とパフォーマンスをより細かく制御できる新たなオプションです。この機能は、確保したスループット (トークン / 秒で計測) を提供し、OpenAI モデルへの専用接続を保証します。6 月に限定アクセスで一般利用可能となります。
顧客は使用するスループット単位の合計数を指定でき、任意の OpenAI モデルへの割り当てを自由に調整できます。各モデルは異なる単位数を必要とします。顧客は、千単位あたりの異なる価格オプションから選ぶことができ、指定された限度を超える場合は超過料金が発生します。
3 ヶ月または 1 年の契約で、顧客はプロビジョニングスループットを確保し、価格割引を受けることができます。プロビジョニングスループットモデルは、ワークロードのニーズにより柔軟かつ制御可能な対応を提供し、高負荷ワークロードが発生した場合でもシステムが準備できていることを保証します。この機能は、リアルタイムアプリケーションに対する一貫した製品体験とスループットを可能にします。

Quotas

GPT-4 による要約:

Azure OpenAI Service は、過度な使用を防ぎ、全ての顧客間で公平な利用を保証するためにクオータを導入しました。クオータはリソースグループレベルで設定可能で、プロンプト、コンプリーション、トレーニングにはそれぞれ別のクオータがあります。顧客は Azure ポータルで現在の使用状況と残りのクオータを確認することができます。

Configurable Content Filters

GPT-4 による要約:

設定可能なコンテンツフィルターは、顧客が禁止または許可された単語、フレーズ、エンティティのリストを指定できるようにします。これらのフィルターはすべてのテキストプロンプトと完了に適用され、出力が意図した観客に適切であることを確保します。この機能は完全にカスタマイズ可能で、顧客は自分のフィルターを指定するか、OpenAI が提供するデフォルトのフィルターを使用することができます。

Azure OpenAI Chat Completion General Availability (GA)

gpt-35-turbo、gpt-4 シリーズのモデルの一般提供 (GA) 開始。

参考

• Azure OpenAI Chat Completion General Availability (GA)

Azure AI Content Safety

GPT-4 による要約:

新しい Azure AI サービスである Azure AI Content Safety は、企業がより安全なオンライン環境とコミュニティを構築することを支援します。モデルは、画像とテキストの両方で、憎悪、暴力、性的、自傷的なコンテンツを検出するように設計されています。モデルは、フラグ付けされたコンテンツに重大度スコアを割り当て、どのコンテンツが緊急に注意を要するかを人間のモデレータに示します。Microsoft の責任ある AI システム構築へのコミットメントの一部として、Azure AI Content Safety は Microsoft 製品全体、Azure OpenAI Service や Azure Machine Learning のプロンプトフローを含め、統合されています。モデルは、コンテンツ管理基準を満たさないプロンプトや生成からコンテンツを検出し、削除するのに役立ちます。Azure AI Content Safety を他の Azure AI ツールと組み合わせることで、企業は公平さを支持し、害を軽減する AI システムを構築、デプロイ、モニタリングすることができます。Azure AI Content Safety は現在プレビュー中で、2023 年 6 月 1 日からすべての Azure AI Content Safety の使用に対する請求が開始され、1K 画像あたり$1.50、1K テキストレコードあたり $0.75 で価格設定されます。Azure AI Content Safety についてさらに詳しく知りましょう。

参考

• Azure AI Content Safety
• Introducing Azure AI Content Safety: Helping Organizations to Maintain Safe Online Spaces

Azure Cognitive Search

GPT-4 による要約:

Azure Cognitive Search の新機能であるベクトル検索がプレビューとして近日中にリリースされる予定です。ベクトル検索では、開発者がテキスト、画像、音声、ビデオ、グラフなどの組織データを利用して、キーワードだけでなく概念による保存、索引作成、検索を容易に行うことができます。開発者は自然言語でのパーソナライズされた応答生成、商品の推奨、詐欺の検出、データパターンの特定など、さまざまなアプリケーションを作成できます。Azure Cognitive Search は、純粋なベクトル検索とハイブリッド検索を提供し、Bing による洗練された再ランキングシステムを一体化したソリューションとして提供します。ベクトル検索のプレビューに今すぐ登録してみてください。

参考

• Azure Cognitive Search - Vector Search Private Preview Survey

Azure Cognitive Service for Language

GPT-4 による要約:

Azure Cognitive Service for Language は新機能をプレビュー中で、開発者が要約をカスタマイズできるようになります。これはすでに発表されているエンティティ認識、テキスト分類、会話言語理解 (CLU) 機能に加えて、全て Azure OpenAI Service によって提供されます。これらの機能により、開発者はアプリ全体の言語スキルを対話的にカスタマイズでき、大規模言語モデル (LLMs) を使用する組織にとって時間とコストの節約につながります。また、CLU を Power Virtual Agents に統合することで、インテリジェントなチャットボットやバーチャルエージェントの作成プロセスが簡単になります。さらに、事前構築されたモデルによるカスタム感情分析も利用可能です。

参考

• Azure Cognitive Service for Language
• What’s new Azure AI Language | BUILD 2023

Document Translation in Language Studio

GPT-4 による要約:

Language Studio のドキュメント翻訳機能が一般公開され、開発者はドキュメントを一括で翻訳することが可能になりました。また、Power Automate Translator コネクターや .Net、Python、Java、JS 用の Text Translator SDK はプレビュー版として公開され、Azure OpenAI Service 向けの ACS Translator プラグインはプライベートプレビューとして提供されています。
Power Automate Translator コネクターは、テキストやドキュメントを複数のクラウド、オンプレミス、またはローカルストレージから翻訳するワークフロー自動化を開発者に容易に提供します。このプラグインは、Azure OpenAI Service のユーザーが、Translator がサポートする125言語以上の間で原文を翻訳するのに役立ちます。

Azure Machine Learning

Prompt flow

GPT-4 による要約:

Azure Machine Learning では、大規模な言語モデルのプロンプト生成、評価、チューニングを容易にする新機能 Prompt flow が近々プレビューされる予定です。ユーザーはさまざまな言語モデルとデータソースに接続するプロンプトワークフローを素早く作成し、"groundedness" などの指標を用いてワークフローの品質を評価し、自分のユースケースに最適なプロンプトを選択することができます。さらに、Prompt flowは新たなAzure AIサービスである Azure AI Content Safety を統合しており、これによりユーザーは作業フローの中で有害なコンテンツを検出し、除去するのを助けます。Prompt flow についての詳細をご覧ください。

参考

• Harness the power of Large Language Models with Azure Machine Learning prompt flow

Support for foundation models

GPT-4 による要約:

プレビュー中の foundation model のサポートでは、Azure Machine Learning のコンポーネントやパイプラインを使用して、複数のオープンソースのリポジトリから foundation model を fine-tune してデプロイすることができます。この機能は近々、Azure OpenAI Service からのモデルをサポートし、Azure Machine Learning Studio を通じてプロンプトワークフローを微調整して構築することも可能になります。基盤モデルのサポートについて詳しくは、詳細をご覧ください。

参考

• Announcing Foundation Models in Azure Machine Learning
• Deploying Hugging Face Hub models in Azure Machine Learning

Responsible AI dashboard support for text and image data

GPT-4 による要約:

Responsible AI ダッシュボードのテキストと画像データサポートがプレビュー版として提供され始めました。これにより、ユーザーはモデルの構築、訓練、評価段階で大規模な非構造化データを使用したモデルを評価することが可能になります。これにより、ユーザーはモデルのエラーや公平性の問題、モデルの説明を、モデルがデプロイされる前に特定することができ、より高性能で公平なコンピュータビジョンと自然言語処理 (NLP) モデルを実現します。Responsible AI ダッシュボードサポートについて詳しく学びましょう。

参考

• Debug Object Detection Models with the Responsible AI Dashboard

Model monitoring

GPT-4 による要約:

モデル監視機能のプレビューでは、ユーザーが本番環境でのモデルのパフォーマンスを追跡し、タイムリーな警告を受け取り、継続的な学習とモデルの改善のための問題を分析することが可能になります。モデル監視について詳しく学びましょう。

参考

• Continuously Monitor the Performance of your AzureML Models in Production

Managed feature store

GPT-4 による要約:

プレビュー段階の Managed feature store は、特徴量の開発を簡素化し、機械学習のライフサイクルを効率化します。これにより、ユーザーはモデルの実験と運用をより迅速に行うことができ、モデルの信頼性を高め、運用コストを削減することができます。Managed feature store について詳しく学びましょう。

参考

• Announcing managed feature store in Azure Machine Learning

Microsoft Purview connector

GPT-4 による要約:

Microsoft Purview connector は現在プレビュー中で、企業が Purview カタログを機械学習アセットのメタデータの中央ストレージとして使用できるようにします。これにより、データエンジニア、データサイエンティスト、アプリ開発者がトレーニングデータの系統と変換を調査し、原因分析を行うことが可能になります。Microsoft Purview コネクタについて詳しく知ることができます。

参考

• Bringing ML assets to the Microsoft Purview Data Map

Managed network isolation

GPT-4 による要約:

プレビュー中の管理ネットワーク分離は、仮想ネットワーク管理、プライベートエンドポイント接続、インバウンド/アウトバウンド設定などの複雑なタスクを効率化します。これによりユーザーの時間を節約し、機械学習プロジェクトのためのより安全な環境を提供します。管理ネットワーク分離について詳しく学びましょう。

参考

• Announcing Azure Machine Learning managed network isolation

Support for DataRobot 9.0

GPT-4 による要約:

プレビュー中の DataRobot 9.0 のサポートは、ユーザーが DataRobot 内でモデルを検証、文書化し、Azure Machine Learning のスケールと柔軟性でデプロイすることを可能にします。また、DataRobot 9.0 は Azure OpenAI Service とも統合されており、コード生成と会話型AI体験を提供し、ユーザーがモデル結果を解釈するのを助けます。

Azure Machine Learning registries

GPT-4 による要約:

Azure Machine Learning のレジストリが一般利用可能となりました。これは、モデル、パイプライン、環境などのマシンラーニングの成果物を組織内の複数のワークスペースで推進、共有、探索するのを支援し、チーム間の運用と協力をより効率的に行うのを助けます。Azure Machine Learning のレジストリについて詳しくは、リンクからご確認ください。

参考

• Announcing the general availability of Azure Machine Learning registries

Azure Container for PyTorch

GPT-4 による要約:

一般利用可能となった Azure Container for PyTorch は、ユーザーに最新の PyTorch 2.0 機能や、大規模モデルの効率的な訓練と推論を目指した DeepSpeed や ONNX Runtime といった最適化ソフトウェアを含む環境を提供します。Azure Container for PyTorch について詳しく学びましょう。

参考

• Enabling Deep Learning with Azure Container for PyTorch in Azure Machine Learning

おわりに

後ほど深堀りしたいと思います。

以上です。🍵