【速報】Ignite 2024 Day1

はじめに

今年はBuildに続き、Igniteにも参加させてもらっています。今回は当日には無理でもできるだけ速報版を出してみようということで頑張ってみます。テックブログの公開には内部の承認プロセスも必要なので、ちょっと時間差が生じてしまうんですよね。日本で確認してもらうにしても時差もありますし。

ちなみに、略語で、PPはPublic Preview、GAはGeneral Availableで記載していきます。

Microsoft Ignite Keynote

キーノートで話された内容ですが、かなり長くなってしまうので個人的に気になったものを中心にピックアップします。とは言ってもキーノートなので抽象的な内容が多かったです。ちなみに、Buildみたいにサム・アルトマンが登場するようなサプライズはなかったのが個人的には残念でした。

1つ目は、Copilot Analyticsによる分析です。ROIの説明もされていたのですが、結局のところAI活用が経営にどの程度効果があるのかは難しい課題です。AIが便利なのはわかりますが、かけたコストの分のメリットがあるの？という問いに答えるのは難しいです。費用対効果の情報を収集して可視化するのはとても便利ですし、システムを導入する我々としても毎回苦労するところなので、シンプルに助かるなと思いました。

２つ目はエージェントの進化です。M365系が中心にはなっていますが、エージェントを中心にAIが統合されていくような世界観です。エージェントも色々なところが提供していて、サードパーティ製も色々と出てくる感じです。AI自体のサービスに加え、エージェントも色々と提供されるようになってくると、その組み合わせのコントロールが難しくなってきます。個人的にはこれらエージェントも組み合わせてテストするにはどうするのかなぁと思ってしまいました。エージェントを入れると分岐が多くなってしまい、複雑になります。テストしなくて済む世界なら楽なんですが、そんなことはないですよね。

３つ目に個人的に気になったのは、Windows 365 Linkです。クラウドPCと言っていましたが、M365をはじめとしたAzureとの連携PCです。普通のデスクトップと、シンクライアントの中間のようなイメージだと感じました^[1]。が、連携先がMS系（AzureやM365）にほぼ限定されると思うので、ユースケースはかなり選ぶと思います。パッと見た感じはMac miniに近いですが、使用感は全然違うと思います。

4つ目はAzure localです。AWSのOutpostsみたいなものかなとは思います。ただ、この手のエッジ系のサービスは使えるサービスがかなり限定されますし、構成的にNGなものも多いです。AWSでもAuroraのようにかなりリソースを使用するのは難しいので、同じようにCosmosDBとかは対応できないのでは、と思います。

5つ目はDPUの話です。ほとんどの人が流したテーマだと思いますが、個人的には結構いいなと思いました。クラウドの裏の構成として、ストレージは普通のサーバーを沢山並べて提供されることがほとんどです。元々は汎用的なストレージサーバーを分散するところからはじまりましたが、それだとどうしてもリソースの最適化が難しくなります。そういう意味で専用のCPUを作るというのは理にかなっています。我々利用者にどう関係するかというと、コストになります。DiskANNもそうですが、ストレージ系の技術はコストに大きく関係してくるので、自分たちの環境に対してのインパクトも考えておいた方がいいと思います。ちなみに、DiskANNはFabricでも対応する発表もありました。

Unveiling the latest in Azure Networking for a secure, connected cloud

ネットワークはあまり詳しくないのですが、参加してみました。事前知識が無かったのもあるかもしれませんが、色々と新たにわかって面白かったです。

アップデート情報があったものが以下になります。サービスの一部のアップデートのものも含まれます。

• Network Security Perimeter (PP)

• Azure DNS (PP)

• Azure Bastion(Premium/Developer) (PP)

• Azure ExpressRoute (GA/PP)

• Azure Load Balancer (GA)

• Virtual network(IP Address Prefix on NIC) (PP)

• Accelerated Connections (GA)

• Azure Virtual Network Manager (PP)

• MS Copilot(Networking Skills) (PP)

• Advanced Container Networking Services (GA)

• Azure Extended Zone (GA)

個人的に興味が出たのがAzure Load Balancer、Azure Virtual Network Managerの2つです。Load Balancerのほうについてはメンテナンスやパッチ適用でVMの切り離しが簡単になったり、スケールが容易になるようです。説明ではVMについてですが、AppServiceにも適用できるかは確認したいと思います。Virtual Network Managerの方はIPアドレス管理（IPAM）が容易になるアップデートがあり、会場が一番盛り上がってました。私はネットワークエンジニアでは無いですが、IPアドレスの管理で苦労する話は昔から聞くので、どこの会社でも同じなんだろうなと思ってました。

Azure OpenAI: the latest innovation for AI powered business value

私は事前に色々情報を手に入れていたので、新しい情報はほとんど無いセッションでした。1点だけ気になったのは、GAされていた、Structured Outputsです。すらっと流されてしまったのですが、「Generate structured data from unstructured data」ということだったので、非構造から構造化データを得る方法ですが、エージェント的システムや、コード生成シナリオに有効とあったので、今後もう少し情報を追っていきたいと思いました。

その他としては、AOAIのパターンが色々出てくる分は押さえておいた方がいいと思います（以下の図）。Offer形態とDeployment形態にそれぞれ、「Standard、Batch、Provisioned」と「Global、Data Zones、Regional」がある点です。Offerの方は、スタンダードがこれまでのもので、Batchはゆっくり処理させることでコストダウンされるもの、Provisionedは事前予約して安定して使えるものです。Deploymentの方は、Globalがその時グローバルで一番やすいリソースを使う形態、Zonesが欧州か米州を指定して動かす形態、Regionalはリージョン指定になります。コスト的には、Global　＜　Data Zones　＜　Regionalです。

Empowering your AI Ambitions with Azure

キーノートの焼き増しという感じだったので省略

Fine-tuning AI models with Azure OpenAI Service

基本的にはファインチューニングのやり方をデモで説明していました。実際にファインチューニングしたことはまだ無いですが、軽量にしてコスト削減するのが狙いです。解説でもGPT-4oからGPT-4o miniに置き換えていました。

また、プロセスとしても以下のように２パターンを解説していました。上段の方のフローはファインチューニングして評価を行います。下段の方は一度ファインチューニング前に評価を挟んでいますが、ファインチューニング用のデータ抽出も行っていて、ケースに応じて利用します。

このセッションではこの他にデモを実施して実際の動きを見せる内容でした。シカゴオンリーですが、ファインチューニングの内容を一通り理解できました。

Azure AI Foundry Effortless model selection - explore, swap, & scale faster

AI Foundryの説明でしたが、ツールの説明というよりは、進化が早いのでモデルの切り替えや適材適所を説明するストーリーでした。その中の1つとして、NTTDataさんのtsuzumiが紹介されていました。

そもそも、なんで独自のモデルが必要なのか疑問だったのですが、実際のイメージを紹介していただいて、「なるほど」と思いました。例は2つあって、1つ目が現在の１万円札の人は誰か？という問いです。答えは渋沢栄一ですが、こういうドメスティックな内容かつ最新のものは、汎用モデルだと間違って回答するようです。もう1つは、大阪の観光地を問うものですが、回答として京都の祇園を紹介してしまっていました。そこでチューニングしたtsuzumiでは、道頓堀と回答するようにしていました。

確かにこういう実例ベースで考えると、正確な回答を必要とするユースケースはありそうな気がします。とはいえ、問い合わせするのが誰かによっても正解が変わる気もします。仮にアメリカ人だったら、道頓堀も祇園もそこまで違わないように思いますし、仮に回答として出てきて不満にならない気がします。マンハッタンの観光スポットを聞いたのに、ブルックリンが出てくるようなものかもしれないです。そうやって考えると、AIの回答の準備はかなり難しいと、考えさせられました。

脚注

1. 3日目に聞いてみましたが、かなりシンクラに近いようです