✈️

AOAI Dev Day Osaka に参加しました

に公開
.NET
GitHub
Azure
Copilot
idea

AOAI Dev Day Osaka に参加してきました

大阪で開催されたAOAI Dev Day Osakaに参加してきました．とっても楽しかったです．
以下，感想メインですが，簡単に各セッションをまとめます．

1. 数理最適化のAIエージェントを作ってみた話

数理最適化（MO）とLLMを組み合わせた話

数理最適化とLLMの特性比較

数理最適化とLLMは，根本的に異なる能力を持つ

特性 LLM（大規模言語モデル） 数理最適化（MO）
目的 データからの学習に基づく推論を行う． 探索によって最適解を計算する．
データ要件 データがないと何もできない． 基本的にデータはあまり必要ない．
解の精度 便利だが，最適解を出せるかというと難しい（ハルシネーションの問題など）． 精度保証付きで最適解を出す．
例 最短経路問題で最適解ではないルートを出す可能性がある． 36万通りの解の中から最適解を見つけ出す．

融合と共存の戦略

LLMは「データからそれらしい答え」を生成するのが得意．一方，数理最適化は「精度保証付きの最適解」を出す．この2つを組み合わせれば，LLMで候補を出して，数理最適化で最適な答えを生成できる

役割分担:

  1. LLMが日本語の解釈を行う
  2. その後，厳密な探索を実行する
  3. 最終的に最適解を生成

デモンストレーション

  • 実際に試した結果，約10%程度の差で数理最適化の方がいい結果
  • → LLMだけだと最適解出せないから，候補出して最適化で検証する流れが有効

2. 社内問合せ対応の効率化（CopilotStudioを使った話）

NTT西日本グループ内のコミュニティ運営での問い合わせ対応を効率化する話

コミュニティの現状と課題

グループ内のAIコミュニティに約5700名が参加してて，1日3〜5件の質問が来る．これを3人で対応してて大変

  • 課題：この問い合わせ対応フローを効率化したい

エージェントを活用した効率化ワークフロー

  1. 質問とエージェント対応：Teamsで質問が来たら，エージェントが対応
  2. 自己解決：分類して，解けるものは回答．ユーザー満足度を収集して蓄積
  3. エスカレーション：解けないやつは専門組織に投げる
    • 解決したら，ナレッジ化して蓄積

3. AI時代の開発フローとともに気を付けたいこと

開発とインフラの歴史的変遷

ITの歴史はハードウェア→ソフトウェア→クラウドと進化してきた

  • 昔：ハードディスクにアクセスしたら死（遅い）
  • インフラの時代：サーバー調達に数ヶ月かかった
  • クラウド時代：サーバーはすぐ立てられるけど，本番環境を誤削除するとやばい
  • 現在：AIが色々解決し始めている

AI時代における新たな常識とセキュリティ

過去の「非常識」が「明日の常識」へ．

AIが普及する今，セキュリティは企画・設計・開発の全工程で考える必要がある

  • 問題：企画段階からセキュリティ無視，APIキーコミット，など
  • 課題：AIやりたいけどセキュリティが邪魔，みたいなジレンマ

CISOと開発者間のギャップ

CISO側（全体的にセキュリティ見る）と開発者側（個別システムを見る）で考え方や優先順位が違うから，そのギャップがセキュリティの隙になる

役割 思考様式・目的
CISO (最高情報セキュリティ責任者) 防御的（ディフェンシブ）：リスクの緩和，検出，防御を重視する．新しいことにはリスクが高いため消極的になりがち．全社的な視点を持つが，個別のシステム詳細までは見ない場合もある．
CTO/技術者（テクノロジスト） 革新的（イノベーション）：生産性向上や新しいことへの挑戦を重視する．開発者はリスクよりもイノベーションを優先しがち．新しい言語モデルが出ると，リスクを顧みず試したくなる．

このギャップの結果，全体を見るCISOと個別システムを見る開発者の間でポリシーやルールの遵守が破綻しやすくなる

セキュリティ管理と監視（Defenderの活用）

セキュリティを確保するためには，アラートの適切な処理と監視体制が重要

  • アラート対応の課題：出荷直前に大量のアラート（例：1000件）を処理しようとしても，どれから手をつけるべきか判断が困難になりがち．CVSSスコアが高くても，自身が使っていない機能であれば不要なアラートかもしれない．
  • CISOの監視範囲：オンプレミスだけ監視して，クラウドを「実験」として放置するとセキュリティホールになる
  • Defender for Cloud：Azure Portalの権限を渡したくないけど，セキュリティチェックはしてほしい場合に便利

AIガバナンスとコンプライアンス

AIは便利だけど，情報漏洩とか悪用のリスクもある

  • リスク例：情報漏洩，社内データをAIに探索させる，顧客の機密データを新しいLLMに入れちゃう事例など
  • 対策：
    • 組織は秘密データをエージェントに漁らせたくないから，独自のブロック対策が必要
    • Purview SDK：カスタムアプリケーションにPurviewの秘密ラベルなどのコンプライアンス機能を組み込んで監視可能
    • 個人のモラルに依存するんじゃなく，インフラ側で強制的な制御をやるべき
      • 例：組織の情報はIRM（情報権限管理）で暗号化，機密データは暗号化しないと保存できないとか
      • 組織のLLMはエンタープライズジョインしたマシンからしか使えないとか

4. 市民開発で AI Builder を活用するメリット

市民開発とは

これまで開発経験のない人が，自分の業務を効率化したり，アプリやエージェント，ダッシュボードを開発すること．ノーコード/ローコード開発を使う

DX推進における課題

改善が必要でも，既存プロセスの変更に抵抗がある．また，Excelからアプリに切り替えたら，データが見えなくなったり入力が面倒くさくなったりする問題も

大事なのは「楽」と「建前」を意識した設計：

  • 楽（らく）：ボタン一つで仕事が完了，入力不要とか，元のフォーマットで出力される
  • 建前（たてまえ）：上司や組織の要件に対応する形式的な設計

AIビルダーの活用

AIビルダーはノーコードでAIモデルをPower Appsなどに組み込めるサービス

  • プロンプト機能：テキストでプロンプトを定義して，変数を入出力にする
  • モデル活用：事前構築モデルやカスタムモデルで，テキスト・ドキュメント・画像から構造化データを取得
  • デモ例：物体認識アプリ，忘れ物確認アプリなど，簡単にAIアプリが作れる

AI導入の成功に必要な視点

AI導入を目的としないこと が重要

  • 業務プロセスの理解：改善したい業務プロセスを正しく理解して，何を改善するか明確化する
  • 目的の明確化：トレンドだからAI導入とか，コストばかりかかる．業務自動化が本当に必要か確認して，適材適所でAI導入する
  • 試行錯誤：簡単に使えるから，まずは色々試して，自分たちで判断基準を見つける

5. Startups×AI Agentの最新の取り組み

フロンティア・トランスフォーメーション

Igniteで提唱された「フロンティア・トランスフォーメーション」＝誰でもAIを使って開発して，AIエージェントを作れるような社会インフラをMicrosoftが構築する，という意志の表れ

フロンティア組織とAIエージェント

フロンティア組織＝誰でもAIを使って開発できて，創造性とイノベーションを解き放つ組織

AIエージェント導入の失敗が90%だから（ビジネスプロセス変えられないとか，活用データが整理されてないとか），POCで終わらさずに，データ活用でビジネスに本当のインパクト与えることが目標

AIエージェント実現のための3つのアプローチ

  1. 人間中心のAI設計：人間の業務プロセスの中にAIを組み込む
  2. 全組織的なAIの活用：組織全員がAIを活用できる環境を整備
  3. リソースの観測可能性：AIに関する全てのリソースが観測可能で，意味付けされている状態

4つの主要な概念

AIエージェントの基盤として重要な4つの概念：

  • Work IQ：組織の働き方・人間関係を理解して，業務内容や対話履歴からAIが推論する（Copilotの精度を高める）
  • Public IQ：データを構造化して，データレイク上にデータを集約し，AIが参照しやすくする
  • Foundry IQ：AIエージェント開発を効率化するための基盤
  • Agent 365：AIエージェントの管理・ガバナンス・セキュリティを担当するコントロールプレーン

最近の推しアップデート（FoundryとAgent Framework）

AIエージェントの作りやすさが向上した点

  • GUI/ノーコードでの開発: Foundry Portalの新しいUIが提供され，ノーコード/ローコードに近い形でAIエージェントの設計，アプリケーション作成，デプロイ，そして運用基盤の構築が可能に
  • Agent Framework: 完全なオープンソース（OSS）のエージェントフレームワークが提供され，LLMやチェインを利用したエージェントをコンテナとしてデプロイ・運用することが可能
  • マルチエージェント・ワークフロー: 複数のエージェントを連携させたワークフローをGUIで簡単に組めるようになった点が，特に評価
  • AI Searchの進化: データ参照におけるAI Searchの検索精度，特にビッグランキングの精度が大幅に向上しており，Agentic Retriever機能が質問の意図をより深く理解して検索結果を取得できるように
  • データソース接続の簡素化: Copilot Studioを使用せずとも，Microsoft 365データ，Public IQ，各種データベースへの接続が簡単になり，エージェントワークフローの開発が容易に

スタートアップチームの取り組みと事例

Microsoftのスタートアップチームは，Azureを活用して面白いソリューションを構築するスタートアップを探し，支援することに力を入れている

スタートアップ支援のメリット

Microsoftはスタートアップに対し，具体的なメリットを提供している

  1. クレジット提供: 「Microsoft for Startups」プログラムを通じて，最大2年間で2000万円相当のAzureやGitHubクレジットを提供
  2. 事業成長支援
  3. その他のサポート: GitHubワークショップ，LinkedInを通じた採用支援，JETROと連携したグローバル展開支援など
  4. エンタープライズ連携: スタートアップとエンタープライズ企業とのコラボレーションを仲介し，案件獲得を支援

スタートアップの事例

特に注目すべきAIエージェントの事例が3つ紹介された

スタートアップの事例

いくつかの事例が紹介された：

  1. NearMe：AIエージェント使ったライドシェアサービス（空港シャトルバス）
  2. Torus：バーチャルヒューマン開発
  3. 薬事法AIエージェント：業界特化型のAIエージェント

6. GitHub Universe Recap & Code Quality

GitHub Universe での主な発表について

Agent HQ（エージェント本部）

GitHubがエージェントプラットフォームとして進んでいく

  • Anthropic（Claude Code）やOpenAI（Codex）みたいな色んなエージェントを，GitHub上で利用・管理できる
  • GitHub Copilotのサブスクリプション内で各社のエージェント使える見込み

カスタムエージェント

  • フロントエンド特化，バックエンド特化，テスト特化など，複数の種類を作ってそれぞれのタスク流す

ハンドオフ機能

  • 複数のエージェント間でコンテキストをシームレスに引き渡せる
  • 計画エージェント→実装エージェント，みたいに流す時に便利

コードクオリティ

AIが大量にコード生成する時代に，品質を自動担保する機能

  • コード品質を自動スキャンして，Copilotが修正まで行う
  • CodeQL+AI分析で品質チェック

7. Microsoft Agent 365

AIエージェントが普及した未来の働き方とセキュリティについて

AIエージェントとの協働する未来

  • 人間がAIエージェントに業務依頼して，自動処理される
  • AIエージェント同士が仕事を依頼し合う世界も想定（マルチエージェント）
  • 2028年には13億のエージェント存在予測：社員数より多くなるかも

セキュリティとガバナンス

AIエージェントは人間と同じレベルのセキュリティ対策が必要になる

  • Agent 365：エージェント向けライセンス．Entra P2，情報保護機能など含む
  • エージェントにもIDが付与される（メールアドレス的な感じ）
  • Power PlatformとEntraのGSAで通信を保護
  • 外部エージェント対応：Agent 365ライセンスだけが利用可能にする統制可能

Discussion