re:Invent 2025: Cornell大学のAmazon Bedrockによる中央集権型AIプラットフォーム構築
はじめに
海外の様々な講演を日本語記事に書き起こすことで、隠れた良質な情報をもっと身近なものに。そんなコンセプトで進める本企画で今回取り上げるプレゼンテーションはこちら！
re:Invent 2025 の書き起こし記事については、こちらの Spreadsheet に情報をまとめています。合わせてご確認ください
📖re:Invent 2025: AWS re:Invent 2025 - Building an AI platform: Adaptive teaching to institutional auditing (WPS316)
この動画では、Cornell UniversityがAmazon BedrockとサーバーレスアーキテクチャでAIサンドボックスプラットフォームを構築した事例が紹介されています。ChatGPT登場後、各部門が個別にAIサービスと契約しようとする混乱を避けるため、中央集権的なAIゲートウェイを構築しました。LiteLLM、N8N、LibreChatの3つのコンポーネントで構成され、ECS Fargateでコンテナ化されたアプリケーションをデプロイしています。具体的なユースケースとして、新入生の価値観を探求するチャットボットVERA（40,000回以上のやり取り）、Bloom's taxonomyに基づくSocraticチャットアプリケーション、経費報告の自動化（1学期10,000件のリクエストを処理）が紹介されました。新しいClaudeモデルがリリースされた際も、コード1行の変更で即座に利用可能になる柔軟性を実現しています。75名の大学院生がプロジェクトに参加し、隔週のオープンオフィスアワーでコミュニティと関わりながら、個々の貢献者がAIで問題解決できる環境を整備しています。
※ こちらは既存の講演の内容を最大限維持しつつ自動生成した記事になります。誤字脱字や誤った内容が記載される可能性がありますのでご留意下さい。
本編
高等教育機関が直面するAI導入の課題とCornellの解決策
はい、ありがとうございます。まず最初に、今日は朝早くから私たちと一緒に起きていただいてありがとうございます、皆さん。昨夜はあまり遅くまで出歩かなかったようですね。 それでは、おそらく今日皆さんの組織に存在している問題についてお話しさせてください。誰か、おそらくスタッフメンバー、学生、教員、あるいは皆さん自身や皆さんのチームの誰かが、プロセスやワークフローに取り組んでいて、何年も使い続けているけれど、それが壊れているか非効率的である、という状況です。皆さん自身、あるいは彼らは考えます、「このプロセスを改善したり修正したりするのにAIを使えないだろうか」と。
そして、AIサービスに関する非常に多くのノイズや話題が飛び交っています。どんなサービスが利用可能なのか、どんなモデルが使えるのか、何を使うことが許可されているのか、どこから始めればいいのか本当にわからないんですよね。そして、実際に試してみる前に行き詰まってしまうんです。これらのサービスを実際にテストし始めたり、使い始めたりするために、社内で誰に承認を求めればいいのかわからない。シャドーITのようなものを立ち上げ始めたり、機密データを個人のログインを使って公開AIサービスに送信し始めたりします。あるいはさらに悪いことに、行き詰まってしまったために基本的に諦めてしまい、イノベーションが何も起こらない。彼らは昔からずっと使っている古いレガシーで非効率的なプロセスに戻ってしまうんです。
さて、Cornellも同じ問題を抱えていました。しかし、彼らは誰もが中心的に取り組むことができ、キャンパス内の全員にAIソリューションを使ってイノベーションや実験を始めるための出発点を提供するプラットフォームを構築しました。そして今日、この変革を推進するのに貢献した2人の方々にお会いいただきます。私が個人的にサポートさせていただいている、素晴らしく素敵な2人のお客様です。彼らはCornell Universityのキャンパスを「AIがこれらの問題を解決するのに役立つかもしれない」から「AIが実際にこれらの問題を解決するのに役立っている」へと変えました。彼らはAmazon Bedrockと、これからご覧いただくいくつかのサーバーレスアーキテクチャを使用してAIサンドボックスプラットフォームを構築しました。そしてこれにより、教授、学生、教員、中央ITメンバー全員が、自分たちのワークフローやプロセスを実験し、AIサービスを使ってどのようにイノベーションを起こせるかを確認するための中心的な出発点を持つことができるようになりました。
私の名前はMike Bergnoniです。AWSのシニアソリューションアーキテクトです。そして今日私と一緒に登壇しているのは、Cornell UniversityのMarty SullivanとFuhrman Romeroです。これから彼らのお話を聞いていただきます。彼らこそが今日ここでの本当の頭脳であり、Cornellでどのように戦略を実装したか、そして途中で使用した主要なAWSサービスについてお話しいただきます。
中央集権型AIチームではなく、エンドユーザー主導のイノベーションを実現するプラットフォーム戦略
さて、Cornellは本当に他のすべてのキャンパス、あるいは多くの組織が抱えていたのと同じ課題を抱えていました。ChatGPTが2022年頃に登場し、突然誰もがAIを欲しがるようになりましたよね。しかし実際のところ、当時はそれを実験するための安全な場所がありませんでした。既存のワークフローやプロセスに統合する本当の方法がなく、コストやデータ保護、プライバシーに関する制御もありませんでした。そして彼らは、多くの組織が行ったこと、あるいは今でも行っていることをすることもできました。つまり、AIプロジェクトだけに焦点を当てた中央集権的なAIチームを作り、要件を受け取り、彼らだけがAIがどのように、どこで使用されるかを決定することを許可される、というものです。そしてそれは典型的なプロジェクトのバックログに陥り、エンドユーザーにAIソリューションをリリースする頃には、おそらくユースケースはすでに変わってしまっています。なぜなら、私たちが見てきたように、AIは非常に急速に変化しているからです。
しかし、Cornellは別の問いを自分たちに投げかけました。彼らは、もしエンドユーザーのためにソリューションを構築しようとするのをやめて、彼ら自身がこれらのソリューションを構築できるツールを提供したらどうなるだろうか、と問いかけたのです。もし教室にいる教授たちが実際に抱えている問題を見て、AIを使って自分たちでそれを解決できるとしたらどうでしょうか?そして、実際にそのようなユースケースの一つを聞くことになります。彼らの信念は、AIは誰もアクセスできない特別なプロジェクトであってはならない、ということでした。それは私たちがメールやSlackを使うような日常的なツールであるべきで、誰もが使えるようにすべきだと考えたのです。
つまり、誰もが簡単に採用できるように、障壁をほぼゼロにする必要があったわけですよね。そして、組織内で取り組むべき問題を見つける際に、個々の貢献者こそが最も重要であるという哲学が、CornellのAIサンドボックスプラットフォームを実現に導いたのです。さて、MartyとFuhrmanが今日、3つの具体的なユースケースをご紹介します。学生の価値観を教育目標に合わせるチャットボット。教授が教えているコース教材を学生が実際に理解しているのか、それとも単にテストの答えを暗記しているだけなのかを示すことができるソクラテス式チャットアプリケーション。
そして、経費報告の常に溜まっていたバックログを実際にクリアするのに役立ったAI搭載の経費アプリケーションです。さて、彼らに引き継ぐ前に、これらがCornellのアプリケーションデプロイメントプロセスを効率化し、Cornellでの迅速なイノベーションと実験を可能にするために連携して機能する主要なAWSサービスの一部です。
CloudFormationがインフラストラクチャのデプロイメントを管理し、CodeBuildとCodePipelineを使用してCI/CDワークフローをオーケストレーションしています。ECS Fargateは、コンテナ化されたアプリケーションをデプロイするために使用され、個々のサーバーを管理したり、OSのメンテナンスなどを心配したりすることなく、自動的にスケーリングを処理できるようにしました。そして、このプロセス全体を通じて、Bedrockが彼らのAIアプリケーションを支える基盤モデルへのアクセスを提供するために使用したサービスでした。そして先ほど申し上げたように、テクノロジーは急速に変化しており、Anthropicが今年Claudeの新しいモデル、Claudeの新バージョンをリリースした際、CornellはBedrockを通じてそれらに即座にアクセスできました。これは非常に大きなことでした。追加のベンダー交渉は必要ありませんでした。APIの書き直しなども一切ありませんでした。彼らがしなければならなかったのは、コード内の設定を更新すること、つまり1行でモデル名を変更し、アプリケーションを再デプロイすることだけでした。これで彼らは新しいバージョンのClaudeを使えるようになったのです。
さて、これらすべてのサービスの組み合わせが、CornellがAI搭載アプリケーションを実験し、本番環境にデプロイするための自動化された効率的なシステムを作り出したのです。さて、私からは以上ですので、MartyとFirmanに引き継いで、彼らがどのように戦略を実行したかをお話ししてもらいますが、これらの一部をどのように持ち帰って自分の組織に適用できるかについても聞いてみてください。
AIサンドボックスプラットフォームの3つのコアコンポーネント：LiteLLM、N8N、LibreChat
ありがとう、Mikey。皆さんおはようございます。私の名前はFirman Romeroです。Cornell Universityでアプリケーション開発マネージャーをしております。これから話す内容について少し要約したいと思います。私たちがこのプラットフォームをどのように構築したかについてお話しします。私が周りの人々と話をしてきた中で分かったことの一つは、これを大学全体に展開するためにどのようにロールアウトしたかを学ぶことで、新しい製品をデプロイする際の摩擦を大幅に減らすことができたということです。Mikeが言及したように、新しいモデルはBedrockに登場次第、ロードできればすぐに利用可能になります。3つのユースケースについてお話しします。私がその中の1つを説明し、Martyが他のいくつかを担当します。そして、これらのユースケースがどのように機能するか、そして私たちが現在大学レベルでAIを使って実際にどのように問題を解決しているかについて、技術的な深掘りをしていきます。そして、そこに到達するまでの技術的な内容についてお話しします。私たちの願いは、このようなモデルに従えば、皆さんも組織のためにより広い規模でデプロイできるようになるということを理解していただくことです。必ずしも高等教育機関である必要はありません。
さて、Mikeが言及したように、私たちの旅は一つの疑問から始まりました。ChatGPTが登場したとき、大学全体、大学内のすべてのカレッジとその個々の部門が、OpenAIやAnthropicに連絡を取り始め、それぞれの学校ごとにアカウントを取得する方法を見つけようとしていました。そして、すぐにこれが長期的な頭痛の種になることが分かりました。管理もなければ、可観測性もなく、何もありません。そして、そのシナリオではコストをコントロールする方法もありません。そこで私たちは考え始めました。もし何らかの中央AI プラットフォームを構築できたらどうだろう?それはどのようなものになるだろう?中央AIプラットフォームをどのように導入するか、あるいは何を構築できるか?それはどのように機能するのか?そして、キャンパス内のすべての開発者がアクセスできるようにするにはどうすればいいか?
私たちにとって本当に重要だったことの一つは、このテクノロジーをできるだけ多くの人々の手に届けることができるということです。なぜなら、それを少人数のグループに限定してしまうと、そのグループの人々が決定を下したり、他の人々のユースケースを理解していなかったりする可能性があるからです。ですから、私たちは全員にこれを実験してもらいたいのです。そして、私たちは人間をループに入れておくことについて学び、私たちのデータがこれらすべてのものとどのように機能するかについて学びました。
それではハイレベルな話を少しして、その後Martyに引き継ぎたいと思いますが、基本的に私たちのプラットフォームは3つのコンポーネントで構成されています。最初のコンポーネントはLiteLLMです。これは、Bedrockの上に存在するAIゲートウェイとして使用しているものです。次に、N8Nという別の自動化プラットフォームがあります。これを私たちはエージェントスタジオと呼んでおり、ここで実際にローコード環境ですべての自動化を構築することができます。これにより、私たちがシチズンデベロッパーと呼んでいるものを持つことができます。そして最後にLibreChatがあります。これは、皆がChatGPTを欲しがっていたという話に戻りますが、もし私たち自身のゲートウェイの上にこれを実装できれば、彼らにはるかに多くのモデルアクセスを提供できます。
それではMartyに引き継ぎます。彼がもう少し技術的な情報を提供します。はい、ありがとうFirman。私はMarty Sullivanです。私はこれらすべてのものを設計し、できるだけ早く実装して、できるだけ多くの人々の手に届けた人間です。
AI CommonsとAgent Studioによる会話型インターフェースとローコード開発環境の構築
まず最初に注目していただきたいのは、この図です。私たちがAI Commonsと呼んでいるものは、キャンパス内のエンドユーザーが最初に目にするものです。これは日常的にAIを使用する一般の方々向けのもので、ChatGPTやClaude Desktopのようなチャットアプリケーションを使うだけで十分という方もいるかもしれません。しかし、私たちは技術的負債を減らす方法で物事を構築しようともしています。
私たちが注力しているのは、より会話的なインターフェースを構築することです。つまり、SlackやMicrosoft Teamsのようなアプリケーションに組み込んだり、あるいは単にメールでやり取りしたりすることです。AIエージェントを、私たちが構築して管理する単なる別のアプリケーションとしてではなく、同僚として扱いたいと考えています。ですから、WebインターフェースやWebアプリケーションのようなものを構築することから離れようとしています。そういったものでは各人が異なるものを構築し、私たちはそれをどうデプロイするか、そして何年も保守し続けなければならないかを考えなければなりません。ワークフローは保守する必要があるかもしれませんが、アプリケーションは保守しなくて済むようにしたいのです。
それを可能にする方法の一つが、私たちのAgent Studioです。現在、Agent StudioはN8Nというアプリケーションで動かしています。N8Nはビジュアルでローコードのワークフロー構築サービスです。エージェントを構築する際に本当にやろうとしているのは、構築している技術的負債をすべて、このようなノーコード、ローコードプラットフォームに集約することです。そうすることで、キャンパス全体の多くの専門家がそのプラットフォームを使えるようになります。そして彼らは、開発者が、時には大学院生でさえも、彼らの技術スタックで構築したものの技術スタック全体を学ばなければならないのではなく、他の人がそこで構築したものを素早く理解できるようになります。
そして、これらすべてをまとめているのが私たちのAI Gatewayです。Furmanが言及したように、私たちはオープンソースのLiteLLMソフトウェアを使用しています。素晴らしいのは、AIモデルだけでなく、チャットクライアントに接続して私たちが構築しているエージェントへのアクセスを提供するMCPサーバーのようなものへのアクセスも制御できることです。そして、IT組織自体がアクセスを管理できるようになります。データソースだけでなく、なぜなら私たちにはエージェント用にデータの特別なビューを構築する必要がある多くのデータスチュワードがいるからですが、さらにIT組織に誰が何にアクセスできるかを制御する権限を与えます。もし学生情報が含まれるregistrarのようなものに関するチャットボットを構築する場合、適切な人だけがその特定のエージェントにアクセスできるようにする必要があります。
これらすべてが重要なのは、誰もが必要なものにアクセスできるものを構築したかったからです。私たちは単一のAIモデルプロバイダーに縛られていません。誰でも作業しているタスクに基づいて異なるモデルに切り替えることができます。アプリケーションの回復力と高可用性を確保するためにフォールバックモデルを持つこともできますし、あるいは単に最も安価なモデルを使いたいだけで、問題が本当に何でも解決できるという場合もあります。
明らかに、クリティカルなアプリケーションが依存する可能性のあるプラットフォームを構築しているわけですから、何かが必要でした。私たちはこれをAWSで構築したいと考えていました。なぜなら、スケールアウトして何千、もしかしたらいつか何百万ものリクエストを受け入れられるようにする必要があったからです。そして今日、それをテストしているところです。すでに私たちの内部プロジェクト24件が毎日このゲートウェイを使用しています。そして、これらのタイプのプロジェクトの規模について考えてみてください。私たちは、人々から提出されたこれらすべての問題に取り組むために、70名の修士レベルの学生を迎え入れました。
そして、Furmanのような人々がテックリードとして私たちに加わってくれました。彼らはキャンパス内のさまざまな部門から来ており、AIに関わることに本当に興味を持っていて、こうしたタイプのプロジェクトをリードし、普段は一緒に仕事をしないような異なる顧客と働きたいと思っているんです。そして明らかに、IT組織自体にとっても、私たちは監視すること、つまり人々がAIで何をしているのか、どのように使っているのか、どれくらいの費用をかけているのかを知ることに本当に興味があります。
責任共有モデルとAWS CodePipelineを活用した迅速なリリースサイクルの実現
そして、それは私たちに洞察を与えてくれます。もしいつかCornell UniversityがAIを何に使っているかについての監査レポートを作成する必要が出てきた場合、かなり簡単にそれをまとめることができるでしょう。私たちは中央で責任共有モデルを提供しており、AWSと同様のアプローチを取ろうとしています。私たちがこのモデルを構築しているのは、これらのツールをIT担当者だけでなく、キャンパス内の技術に精通したパワーユーザーの手にも渡しているからです。彼らは自分たちの日常業務の一部を自動化できるかもしれません。
私たちは、顧客とAIの使用方法や使用が許可されるデータの種類について、何らかの合意を持たなければなりません。もし彼らが本当に機密性の高いデータを持っている場合、私たちは彼らとどのように協力できるか、そして彼らが私たちのゲートウェイを使用しながらデータの機密部分を保護できるようにする方法について、会話をする必要があるかもしれません。それがコンプライアンスによるものであれ、単に大学のポリシーによるものであれ。私たちができる方法のいくつかは、ガードレールと監視、そして私たち自身の自動化を作成することです。これらは、みんなが構築しているエージェントを見て、もし人々が特定の認証情報などで本来すべきでないことをしている可能性がある場合、私たちにアラートを送ってくれます。
結局のところ、私のバックグラウンドはDevOpsエンジニアなので、これらのものに対して迅速なリリースサイクルを持つことを確実にしたいと思っていました。なぜなら、これらのAIモデルと可用性がどれだけ速く変化しているか、私たちは皆知っているからです。私はAWSのCodePipelineを中心にスタックを構築しました。すべてをGitHubのソースコントロールに入れ、コンテナイメージをECRに保存し、それらのコンテナをCodeBuildを使って構築しています。そして、CloudFormationを使ってコンテナをECSにデプロイしています。また、すべてをみんなが使用しているシングルサインオンに組み込んでいます。
Application Load Balancerを使用して高可用性を実現し、アベイラビリティゾーン全体でサービスを提供しています。そしてFargateサービスを使用してインフラストラクチャを簡素化しているので、EC2インスタンスなどをプロビジョニングする必要がありません。Fargateコンテナを送り出すだけです。このリリースサイクルで本当に素晴らしいのは、LiteLLMやN8Nのような私たちが使用しているソフトウェアが、新しいモデルのday zeroサポートを提供していることです。そして通常、異なるモデルプロバイダーの新しいAPI機能について、1週間から2週間以内に安定版リリースを提供してくれます。
これらすべてにより、私たちは最新かつ最高のものから2ヶ月遅れているようなプラットフォームを人々に強制することがありません。私たちは新しいリリースにできるだけ早く追いつこうとしています。そして過去6ヶ月間、新しいモデルが出るたびに、理想的にはリリースされた当日に、通常は数日以内にそれを導入してきました。人々はそれにとても満足しています。
ユースケース1：新入生エンジニアリング学生向けVERA（価値観探索・内省アシスタント）
それでは、実際のユースケースについてお話しを始めます。今日お話しするために、本当に興味深いものをいくつか選んだと思っています。最初にお話しするのは、Sibley CenterのValues Exploration and Reflection Assistant、つまりVERAです。問題について少し説明しますと、毎年約900人の新入生エンジニアリング学生が入学してきます。そしてSibley Centerの副学部長が実施したいと考えている活動があります。彼女は学生たちに、自分たちの価値観が何であるか、どんな目標に到達したいかを知った状態で入学してほしいと考えています。基本的には、なぜ他の大学ではなくCornellにいるのか、そしてどのようにしてそれらの目標を体現し達成できるのかということです。
一部の学生は、自分の価値観や目標が何であるかを知っていると思って入学してくるかもしれませんが、それが何であるかについて抽象的な感覚しか持っておらず、他の人にそれを本当に明確に説明することができないかもしれません。そしてそれは、自分自身に対してもそれを本当に明確に説明できないということを意味します。
そこで彼らが行っているのは、プロフェッショナルコーチを招くことです。約70人のコーチを雇っていると思いますが、入学してくるすべての学生がコーチとの1対1のセッションを受けます。そこで私たちがする必要があったのは、学生がコーチと会う前に、基本的に自分たちの価値観と目標が何であるかを生成し、コーチにサマリーを提供する方法を見つけることでした。そうすることで、コーチは学生とどこから話し始めればよいかを知った状態で臨むことができます。
では、これをどのように実装したかというと、N8Nワークフローを構築しました。そして、これを作成するにあたって副学部長と一緒に取り組みました。彼女はClaude for Desktopを使って時間をかけて、非常に、非常に複雑なシステムプロンプトを実際に書き上げました。彼女はこれに本当に一生懸命取り組んで、おそらく数週間かけたと思います。そしてそれは非常に詳細で、研究情報が入ったPDFや、モデルにどのように振る舞ってほしいかについてのすべてが含まれていました。そして彼女はそれをすべて自分一人でできたんです。それから彼女がそれを持って私たちのところに来て、私たちは基本的に彼女のデータセットとシステムプロンプトをN8Nのエージェントにプラグインすることができました。そしてもう準備完了という感じでした。つまり、彼女がClaude for Desktopで使っていたのと同じモデルを使うことができたので、彼女がテストしていた時とまったく同じように動作することを確認できましたし、自動フェイルオーバーも設定することができました。
彼女が心配していたことの一つは、学生が自分でプロンプトインジェクションをしてモデルの動作を変えたり、チャットボットと不適切な会話をしたりできるようにしたくないということでした。そこで私たちは、ゲートウェイを通じてBedrock Guardrailsも使用することで、学生を軌道に乗せ続け、チャットボットの目的を変更できないようにすることができました。そしてこれらすべてがかなり迅速にまとまりました。では、ワークフローがどのようなものか見てみましょう。ご覧のとおり、実際にはそれほど複雑でもありません。 N8Nにはチャットボットが組み込まれています。右上に実際のエージェントが設定されている場所がありますが、会話履歴が共有されているのがわかります。そして会話履歴は、学生がチャットボットで見るものと、エージェントが学生とのやり取りで見るものの間で共有されています。
そして、先ほどお話ししたガードレールを適用する特定のステップがあり、エラーを適切に処理したりすることができます。ですから、本当に素晴らしいプラットフォームです。 では、成功指標についていくつか見ていきましょう。私たちはKellner Centerとこれについて話し始めたのが、2025年の6月だったと思います。そして7月までにはそれをローンチして、900人以上の学生に公開しました。これを設定した後、サポートリクエストはゼロでした。それで私は、えっと、実際に人々はこれを使っているのかな？と思いました。でも最終的には、学生との間で40,000回以上のやり取りがあったことがわかりました。
そしてこれについて最も素晴らしかったことは、先ほど言ったように、最も多くの作業を費やしたのは、このプロジェクトに最も関心を持っていた人だったということです。彼女は基本的にチャットボットを作ることができました。そして私たちはバックエンドで、彼女がやりたいことを正確に実行できるエージェントをただ組み立てただけです。彼女にはITの知識は必要ありませんでしたし、実際私たちにとっても、すべて終わってみれば、おそらく数日で組み立てられました。 では、いくつかの引用を紹介しますが、これらは本当にポジティブな引用で、実際にはまったくチェリーピックしていません。つまり、副学部長のErica Dawsonが学生、コーチ、そして彼女のスタッフから集めたフィードバックがたくさんあったのですが、本当に圧倒的にポジティブでした。
ユースケース2：大規模クラス向けSocraticチャットボットとBloomのタクソノミーの活用
それがVeraでした。これは、年に一度チャットボットが必要になるタイプのものでした。次にお話しするのは、私たちのSocraticチャットボットです。これは、インストラクターが教室で使える、より日常的なアプリケーションです。では、まず問題そのものから始めますが、ここで解決しようとしている課題は大規模クラスに特有のものです。私はToby Alt教授と長い間一緒に仕事をしてきました。
彼は実は私のアドバイザーでもあります。というのも、私は傍らでPhD学生でもあるんです。彼はClimate and Energyという授業を教えていて、300人以上の学生が受講する非常に大規模なクラスです。一般的には理系の授業なんですが、実際には理系専攻の学生向けではないんです。通常は理系専攻以外の学生が、学位取得のための理系科目の必修要件を満たすために受講しに来るんです。
このようなタイプの学生たちに対して、課題の一つは、講義で話されている内容を学生たちが本当に理解しているかどうかをどうやって評価するかということです。ここにあるTobyの言葉を読んでいただくと、彼が知ることができる唯一の方法は、何かを言ったときの学生たちの顔の表情に基づくものだということです。多くの場合、学生たちはただ疲れているだけかもしれませんし、教材が本当に届いているかどうかを知る良い方法が実際にはないんです。
私はTobyと一緒に取り組みました。彼と一緒に座って、プロダクトマネージャーのアプローチを取り、私たちが望むものについてユーザーストーリーと受け入れ基準を彼と一緒に作成しました。また、私は大学の教室で使用されるすべての教育技術を管理しているCenter for Teaching Innovationとも協力しました。私が考え出したことは、インストラクターがすでに使っているツールを使えるようにする必要があるということでした。別のアプリケーションを作って教授たちを別の場所に行かせたくなかったので、Cornellで使っている学習管理システムであるCanvasに直接組み込みたいということがわかっていました。
インストラクターにとって本当に簡単である必要がありました。私が話をしたある特定の教授がいて、その方は「いいですか、これが10分か15分以上かかるようなら、私は使いませんよ」と言ったんです。ですから、このようなアプリケーションを設計する際には、その基準を満たさなければなりませんでした。
学生にとっては、Center for Teaching Innovationから得たフィードバックは、教育学的に証明された構造化された学習フレームワークを本当に使う必要があるということでした。そこで私たちはBloomのタクソノミーを選びました。なぜなら、それは実際にCornellで一般的なタクソノミーだからです。あまり深くは立ち入りませんが、基本的には異なるレベルがあります。ピラミッドのようなものを想像していただけるといいでしょう。最も基本的なレベルから始まり、トピックについての基本的な事実を思い出すことができれば、そのトピックを理解する能力の最も基本的なレベルを示していることになります。そしてPhDレベルまで上がっていくと、そのトピックに関する新しい解決策を創造できるようになるべきだということです。
また学生にとっても、技術的な意味で、コースで課題が与えられた場合、いつそれが終わるのかを知る必要があります。ですから、単にチャットボットを与えて、それと延々とやり取りさせるわけにはいきません。私たちが組み込んだものの一つは、実際に透明性があり、Bloom's taxonomyを通じて学生を導くプログレスバーです。基本的に、このレベルのコースでは、彼らがレベル3に到達することにのみ関心があります。彼らが博士課程の学生であることは期待していませんので、気候変動に関する質問があった場合、その知識を現実世界でどのように応用するかを理解できるようにしたいだけなのです。
ここでの価値は、学生が自分の時間で、あるトピックに何度も戻ってきて、単に多肢選択問題に答えるのではなく、批判的に考える時間を費やすことができるということです。これは本当に、学生がオフィスアワー中にTAや教授と行うのと同じタイプの対話を作り出します。彼らは即座にフィードバックを得ることができ、そして教員にとっては、私たちが行っているのは、会話を後で分析して、例えば、20人の学生がトピックAを受けて、全員がBloom's taxonomyの応用レベルに到達した場合、クラスがそれについて一般的な理解を持っていると仮定できる、といった洞察を得ることができるということです。しかし、20人中5人の学生がトピックBで苦労した場合、それは次の講義でこのトピックを再度取り上げる必要があるかもしれないという手がかりになります。
それでは、次のユースケースについて話すために、Furmanに引き継ぎます。その前に、エキスポのpublic sectorブースにぜひお立ち寄りください。そこで実際にSocratic chatアプリケーションのデモをご覧いただけます。
ユースケース3：経費報告プロセスの自動化とコンテクスチュアルプロンプティング
では、3つ目のユースケースとして、オートメーションについて少しお話ししたいと思います。というのも、ご存知のように、これらのAIツールはチャットボットを作成する以上のことができるからです。そしてN8Nプラットフォームは、実際の自動化作業を行い、実際の時間を節約することを可能にします。それでは、私たちが取り組んでいるこのプロジェクトについて少しお話ししたいと思います。今学期、私と一緒に取り組んでいる大学院生がいます。彼らもこれに取り組んでいます。私の大学院チームに感謝します。
私が大学生だった頃、クラブのために資金を集めるために、道路を渡ってシートピザを買いに行っていました。それから廊下に座って、そのピザを1切れ2ドルで売っていました。そして、ピザが全部売れた後、Judyという女性のところに行って、レシートを渡すと、彼女は私たちのクラブ資金から、そのピザ代を払い戻すための小切手を書いてくれました。そして私は大学時代ずっとこれをやっていました。2025年に早送りすると、かつてJudyがやっていた仕事をしている同じ人が、突然、契約交渉や巨大なケータリングの請求書、AV機器などを扱うようになっているのです。
例えば、キャンパス内のチェスクラブが最近トーナメントを開催したんですが、そのトーナメントにはAV会社やケータリング会社などが関わっていて、突然この担当者はこれらすべてのことに時間を費やして、学生たちにキャンパス資金から払い戻しをしなければならなくなったんです。そして、キャンパスには1,500のキャンパスグループがあり、1学期あたり約10,000件のリクエストを受けるんです。彼女が最初に10,000件と言ったとき、実は私は彼女が大げさに言っているんだと思ったんですよね。なぜなら、それって私たちがみんな使う数字じゃないですか。どれくらいあるの?って聞かれたら、10,000個あるよ、みたいな。でも違うんです、彼女は本当に10,000件受けているんです。だから私たちは、何をするべきか、どうやってこれを解決するかを考えなければなりませんでした。
キャンパスには1,600のグループがあり、10,000件の払い戻しがあって、1件のリクエストに最大30分かかることもあるんです。従わなければならないルールがたくさんあるんです。アルコールは買えないとか、これはダメ、あれはダメとか、こういったことは自動化するのが簡単ではないんです。彼女の仕事を楽にすることができるようなものではないんです。彼女はキャンパスの財務システムを見て、キャンパスグループのシステムを見て、複数の画面を開かなければならず、統合を構築するのは複雑になるでしょう。だからこれは単に時間のかかるプロセスで、誰かが「AIがこの問題を解決できると思う」と言ったんです。
学生が行くとき、皆さんはどうか分かりませんが、私が夕食に出かけたとき、翌朝にはあの明細レシートがどこにあるか分からないんですよ。ましてや18歳の学生が1ヶ月後にその明細レシートがどこにあるか聞かれるなんて、ですよね?なぜなら、繰り返しになりますが、彼女はアルコールを買ったのか、ギフトカードを買ったのか、そういったことを確認しなければならないからです。私たちがN8Nプロセスを通じた自動化でこれをまとめた方法は、コンテクスチュアルプロンプティングと呼ばれるものを使うんです。プロンプトエンジニアリングの代わりに、私たちができることは、このデータの多くを集めに行くことなんです。
これを通じて、様々なシステムへのAPIアクセスを通じてプログラムすることができ、実際にプログラム的にこのデータを集め始めることができるんです。これはコードの一部で、予算を確認しに行きます。様々な項目を確認しに行くんです。そしてそのレシートを取得して、LLMにレシートを送信し、これは明細レシートですか?これにはこれやあれが含まれていますか?といった質問を始めるんです。そしてそれは複数のプロセスを経て、ワークフロー全体がLLMに送信される最終的なプロンプトに到達するまでそれを通していくんです。
質問は、すぐに、私たちが分かったことの一つは、最大の問題点は何かということでした。そして正直なところ、最初に言われたのは明細レシートのことだったんです。彼らはレストランで渡される2枚のレシートの違いに気づいていないんです。だから私たちはそれをLLMに送信して、シンプルな質問をするんです。これは明細レシートですか?と。そうすることで確実な情報を得ることができ、LLMはそれが非常に得意なんです、ご存知の通り。
次に、これにアルコールが含まれているかどうかを尋ねることができますよね?そして、そこにはいくつかの落とし穴があって、それについては後ほどお話しします。でも、こういった基本的な質問をすることができて、これはこれですかと尋ねて、非常に明確なイエスかノーでJSON形式で出力するように求めています。なぜなら、そのような質問ではLLMがハルシネーションを起こす必要はなく、特定の画像に対して分析を行うだけでよく、レシートにはテキストが書かれているので、かなり簡単なんです。
これが私たちのワークフローの様子です。ご覧のとおり、私が話していたデータ収集プロセスがあって、実際にガイドラインをダウンロードしに行き、監査指示書をダウンロードしに行って、これらをS3バケットに保存します。そうすることで、それらを修正できるようになります。ワークフローにハードコーディングされているわけではまったくありません。ただそこに置かれているMDファイルなんです。そして、それらすべてをまとめ始めるわけです。
そこで、キャンパスグループの情報を呼び出して、どんな種類の取引があるかを確認します。なぜなら、学生がこの払い戻しを申請するとき、彼らはアンケートプロセスを経て様々な質問に答えるからです。だから、その情報をすべて取り込むことができて、このプロンプトを構築し始めます。それは実質的に、あなたはこういう種類の監査人です、あなたはこれを探しています、あなたはこれを探しています、これがあなたが持っている情報です、この情報の中で、これらの特定の項目について質問に答えてください、というものです。そして、私たちが答えカードと呼んでいるこの全体的なものを開発し始めます。その答えカードは最終的には非常にシンプルなイエスかノー、つまり、これは承認できるか、というものになります。
だから、私が大学時代に話していたようなピザのレシートであれば、AIが非常に簡単に、ええ、それは大丈夫です、と言えることがわかります。でも、私が話していたトーナメントのようなもう少し複雑なものだと、サムズダウンになるかもしれませんが、それが悪いという意味ではなく、レビューすべき何かがあるという意味です。LLMに要求するJSON出力の一部として、そのJSON出力にはそのカードのすべての答えが含まれていて、プロセスの一部として、なぜ特定の決定を下したのかを説明するように強制しています。
だから、人間がそれを見てサムズダウンになっているとき、明細化されたレシートがないためサムズダウン、とか、ギフトカードを購入したように見えるためサムズダウン、と表示されます。あるいは、Olive Gardenに行ってウォッカパスタを注文した数人の学生のケースでは、何を試してもLLMに彼らがアルコールを購入していると言わせないようにすることができません。アルコールについては常識を使うようにそこに入れているんですが、LLMはそれをフラグし続けるんです。でも、これらは私たちが克服しなければならない奇妙なことの一部で、取り組んでいて興味深いプロジェクトでした。なぜなら、私たちが言ったように、これを手伝ってくれている学生がいて、このすべてが迅速に反復できるのは、このプラットフォームがノードを使ったローコードプラットフォームだからです。
これらのモデルについて私たちが知っている一つのことは、かなり簡単にハルシネーションを起こす可能性があるということですが、私たちが発見している主なことは、AIに対して、よし、この監査の最初のドラフトを出してくれ、何が起こっているか教えてくれ、と言って入っていくと、非常に多くの場合、緑のサムズアップを受け取るんです。そして私たちは単純にそこに入っていくことができ、LLMがこのように話してくれるんです。なぜ緑なのか、この二つが一致している、彼らの資金には十分なお金がある、この口座から出ていく、といった具合にです。ですから、今は人間がループの中にいますが、時間が経つにつれて、その人間である監査担当者たちはもう少し信頼するようになると思いますし、理解し始めると思います。でも今のところは、すべて一つ一つ止まって、すべて一つ一つ確認されています。
私は財務部門のJonathan Hartという人物と一緒に仕事をしているんですが、彼がこのことについて最初に私のところに来た人で、これも私たちがこの過程で学んだもう一つの教訓なんですが、実際の貢献者、つまり個々の担当者こそが、AIがどのように彼らの問題を解決するのかを正確に教えてくれる人たちなんです。マネージャーがAIでそれを解決できると思う、と言うかもしれない場合、多くの場合、彼らはそれが何を意味するのか、そのプロセスが何なのかを完全には理解していないんです。そして私たちが発見しているのは、個々の担当者こそがあなたのパートナーであり、彼らに直接向き合って、この作業の一番難しい部分は何ですか、どこで詰まりますか、と聞ける人たちなんです。この場合、私たちはそれがあの領収書だということを発見しました。
私たちは1学期あたり10,000件のリクエストに対して、1件あたり30分以上を節約しています。一人の人間が1学期に持つ時間としてはその計算は合わないことは分かっていますが、現実には、これらのいくつかは本当に非常に長い時間がかかるんです。一般的に、秋学期に入る時に、私はキューに入って確認したんですが、まだ数百件残っていたと思います。そして秋学期に入る準備をしていて、まだ前の学期の分を終わらせているところだったんです。そしてある時点で、一定の閾値以下のものを選んで、基本的にすべてがそこにあることを確認するだけになるんですが、これによってその時間がすべて節約されます。なぜなら、それに取り掛かる時に、監査担当者はそれを見ることができ、緑のサムズアップがあって、素早く入って確認できるからです。ああ、Furrmanがピザを買って、そのピザ代として25ドル返してほしいんだな、という感じです。
もう一つは、すべて同じルールが適用され、それらのガイドラインを見ていて、そのガイドラインをS3バケットに保存しているので、彼らはそれを変更することができるんです。ですから、私たちが学んだことの一つは、毎学期ルールが少し調整されるということでした。なぜなら、ある学生が何かを特定の方法で悪用したとか、クラブの一つがお金を正確に使うべき方法で使わなかったとか、そういうことを学ぶからです。そしてこれによって、私たちはそのシステムプロンプトを素早く変更し、反復を続けて前に進むことができるんです。そして最後に、私たちはこれのためのダッシュボードを構築しました。それによって、 何が提出されているかについて、以前は持っていなかった多くの洞察を得ることができます。
Bedrockとセルフホスト型ソフトウェアによるスケーラブルなプラットフォーム基盤
それを過ぎて、これはすべて、このすべてがある意味可能になっているのは、私たちがこれらすべてをBedrockの上に構築し、N8Nでこれを構築したという事実によるものです。なぜなら、これによって人々がキャンパスで私たちのAIがどのように機能するかを見ることができるからです。つまり、中央部門に来て、ねえ、このAIソリューションを作ってくれ、と言うような漠然としたものではないんです。なぜなら、彼らはそれらのワークフローがどのようなものかを理解しているからです。私たちは 最初から彼らと話すことができ、ねえ、このワークフローはこのように機能します、と言うことができました。そしてそれが私たちがやってきたことです。キャンパスを回って彼らと話すことです。ワークフローの自動化とはどのようなものか、それは何を意味するのか、どのように機能するのか、ということをです。
そしてそのためには、本当にゼロから始める必要があるんです。私はそこに入って、別の同僚と一緒に時間を費やして、人々にGPTの定義について説明したり、ニューラルネットワークがどのように機能するかを説明したり、そういった基礎的な情報を提供しています。私たちの多くはこの数年間でそういった知識を身につけてきましたが、これらの人々は今までそういったものに触れたことがないんです。彼らがChatGPTで遊んでいるとき、ChatGPTというのはあのチャットインターフェースのことだと思っているんですね。それで、LibreChatをベースに構築された私たちのサンドボックスを展開できたとき、人々はこれらのプラットフォームがゲートウェイの上に乗っているということを理解し始めるんです。そのゲートウェイがBedrockです。これによって新しいモデルをデプロイするのも非常に簡単になります。
Martyが言及したように、新しいモデルが出てくると、私はそれを楽しいことにしているんです。新しいモデルが出るたびに、私はMartyに直接メールを送って、「Claude 4.5が欲しい」みたいな抗議の看板を持っている人々の画像を作って、朝それを彼にメールして「ねえ、新しいモデルを立ち上げないと」と言うんです。大抵その日のうちに実現します。つまり、新しいモデルのローンチ日に、私の開発チームはすぐにこれらの新しいモデルを使えるようになるんです。私たちのゲートウェイがすでにmedium-riskデータ用に承認されていることを知っているので、そこに摩擦もありません。だから新しいプラグインが出て、そのプラグインが私たちのゲートウェイを通して実行できるなら、それだけです。すぐにそれを本番環境に投入できます。なぜなら、そのゲートウェイが私たちの大学のmedium-riskデータ用に承認されていることをすでに知っているからです。そしてキャンパス内の全員がmedium-riskデータが何かを知っているので、私たちがそのラベルを付けると、人々は理解してくれます。
それでは、技術的な部分の残りについて話してもらうために、Martyに戻します。ありがとう、Furman。私たちがこれについて考え始めたとき、最初に決めたことの多くは、本当にセルフホスト型のソフトウェアを使いたいということでした。つまり、N8NソフトウェアとLiteLLMの両方で、これらはエンタープライズライセンスでもセルフホストオプションがあります。それは私たちが望んでいたことの一つでした。データを私たちの環境内に留めておきたいからというだけでなく、大学の多くの機密データソースにアクセスする必要があるからです。外部のSaaSクラウドサービスを設定して私たちのプライベートネットワークに入れるようにするのは本当に難しいんですが、AWSにいる場合は、キャンパスに戻るダイレクトコネクトが設定されています。だから、キャンパス内のプライベートネットワーク上のシステムにもアクセスできるんです。これは私たちにとって本当に重要でした。そして、私たちはオープンソース、またはN8Nの場合はソース利用可能なソフトウェアが本当に好きなんです。なぜなら、私たちのニーズに合わせてソースコードに貢献できるからです。だから、これらすべてのことが私たちにとってまとまったんです。これらは私たちが望んでいたことであり、私たちが特定のソフトウェアを選んだ理由です。
統合パターンに関しては、私たちは本当にAPI-firstのデザインを望んでいます。なぜなら、それによって誰でも何かができるようになるからです。アプリケーションを構築している開発者がいて、彼らが「ねえ、あなたのノーコードプラットフォームには興味ないよ。自分で本当にクールなアプリケーションを構築したいだけなんだ」と言う場合、私たちは彼らのためにそれを可能にできます。あるいは、VS Codeのような自分のIDEでAIコーディングアシスタントを使いたい開発者がいるかもしれません。あるいは、AWSで見たことがあるかもしれませんが、Cursorの場合もそうです。このIDEを私たちのゲートウェイを使うように設定して、自分のプライベートコードが承認されたモデルに送られることを確実にしたいんです。それも私たちがゲートウェイを通じて可能にできる本当にクールなことの一つでした。
しかし、課題もいくつかあります。Microsoft Teamsにアクセスして会話型ユーザーインターフェースを構築したり、特定のメールにアクセスしたりしたい場合、私たちはまだデータスチュワードやグローバルMicrosoft管理者などと協力する必要があります。Furmanが話していたプロジェクトのように、メールの受信箱にアクセスして人々のために下書きを作成する必要があったので、キャンパス内の複数のチームと協力してその許可を得る必要がありました。そして、それが時々摩擦を生むことがあります。だから、まだこれらすべての組織的および政治的な課題に取り組まなければなりません。しかし、私たちが驚いたことの一つは、Cornellの人々は本当にAIに興味を持っているということです。つまり、私たちが一緒に仕事をしているタイトルを見たでしょう。アシスタントディーンが私たちのところに来ているんです。だから、そういった肩書きを持つ人がこれらのことを求めているとき、誰かが「ああ、そのアクセスは与えたくないな」と言っても、かなり簡単なんです。「じゃあディーンと話してください。彼女が求めているんですから」という感じです。だから、これらのことの一部は、実際にはかなり簡単でした。リーダーシップレベルの人々が本当にこれを機能させたいと思っているからです。だから、それはあなたの組織で持つべき重要なことです。リーダーシップの賛同を得ていることを確認してください。
そして監視という観点では、つまり、冒頭で申し上げたように、私たちは全員が何をしているのかを見られるようにしたい、全員が何をしているのかを監視したい、そして人々が私たちが設定したガードレールやルールに従っていることを確認したいわけです。
ここに参加されている方々や後でこれをご覧になる方々に本当に理解していただきたい大きな全体像は、私たちは大学でビルダーを育成しようとしているということです。これがCornellの全てです。私たちは学生たちだけが外に出て物を作るということを望んでいるわけではありません。Cornellは現在、新しいスタートアップを立ち上げる点でトップ5、少なくともトップ10の大学の一つだと思います。私たちは学生たちだけにその起業家マインドセットを持ってもらいたいわけではありません。私たちのスタッフにも物を作る時に同じマインドセットを持てるようになってもらいたいのです。
ビルダー文化の育成：学生プロジェクトとオープンオフィスアワーによるコミュニティ形成
彼らには上司が毎日指示することをただ機械的にやり続けるのではなく、自分の仕事の中でイノベーションを起こしてもらいたいですし、一万件ものリクエストに追われることなく、毎日少なくとも少しはスムーズに物事が進むようにしてもらいたいのです。また、私たちは高等教育における基準を設定したいと考えています。私たちは他のアイビーリーグの大学や全国のR1機関と会って話をし、私たちがやっていることを共有し、彼らも私たちと共有してくれます。私たちが話してきたことの中には、他の大学からのアドバイスから得たものもありますので、全国、そして世界中でコラボレーションするというマインドセットを持つことが、本当に私たちの本質だと考えています。
ではTurmanに再びバトンタッチします。私は学生プロジェクトについて少しお話ししました。この取り組みを最初に始めた時、私たちはキャンパス全体に広く呼びかけて、「ねえ、皆さんはAIで何をしたいですか?」と言いました。約200件の回答がありました。なぜなら、 先ほど申し上げたように、マネージャーが「AIならあの問題を解決できるはずだよね?」と言うような類のものだからです。それらを見ていく中で、私たちが分かったことの一つは、それらの中にはAIの仕事ではないものもあるということでした。それはただのコードの仕事であって、皆さんもそういったことにはお馴染みだと思います。
大学であることの良い点は、大学院生を参加させることができるということです。最初の学期に私たちは呼びかけて、「ねえ、これに参加したい人はいますか?」と言いました。確か独立研究のような形で設定したと思いますが、50人の学生が名乗り出てくれました。私たちはこれらのプロジェクトをまとめ始め、プロセスを自動化するために学生の作業をどのように活用できるかを理解しようとしました。今学期は、プログラムが少し成熟してきて、今ではテクニカルリードがこれに参加しています。
私たちは再度連絡を取り、こう言いました。「ほら、エンタープライズグレードのデプロイメントについて理解している、本物のCornell Universityのプロフェッショナルと一緒に働くチャンスですよ」と。なぜなら、最初の段階では、学生たちは自分たちが構築できるものを構築するからです。かなりハッキーなものになりますし、デプロイ可能なものにはなりません。2回目には、75人の学生が名乗り出てくれて、それによって技術者と一緒に働く学生チームをいくつか編成し始めることができました。私のチームには何人かのテックリードがいます。私は4つの別々のプロジェクトでテックリードを務めていて、毎週学生たちとミーティングをしています。彼らとスプリントミーティングを行い、その週に取り組んだことを見せてもらっています。
これによって、私たちは本当に深く関わって、これがプロフェッショナルグレードであること、エンタープライズグレードでどのように自動化を行うかを彼らに示すことができます。本当にクールなのは、彼らが枠から外れるたびに、数週間前にMartyにメッセージを送ったんですが、「ねえ、彼らはここでいくつかのAWSサービスを使っているみたいだよ」と言ったら、彼は「うーん、彼らを引き戻さないといけないね。なぜなら、私たちのプラットフォームで私たちの基準を使って構築してもらいたいから。そうすれば、実際にこれらをデプロイして本番環境に投入できるからね」と言いました。
私たちの周りにはこれらのテックリードがいて、学生たちとミーティングをしていますし、管理部門も私たちを本当に強くサポートしてくれています。なぜなら、彼らは私たちが何をしているのか理解しているからです。ここでの目標が何なのかを理解しています。それはMartyが言ったように、そして私たち全体のことでもあるんですが、人々にこのテクノロジーがどのように機能するかを理解してもらいたいということです。そうすれば、私たち全員がこれから学ぶことができます。私はよく言うんですが、高等教育機関で働いているとき、あなたは教育と学習の場で働いているんです。それがあなたの使命です：教育と学習。私たちはこのテクノロジーを大学全体に規模を拡大して導入しなければなりません。そうすれば、もし一人の個人貢献者が「AIでこれを解決できると思う」と言ったとき、彼らが官僚主義の山に埋もれて、それを解決しようとすることが絶対に不可能になるような状況を避けたいんです。
私たちがこのAPIゲートウェイアクセスを提供することで、プラットフォームを前進させることで、これらのツールを前進させることで、ミディアムリスクデータに適していると分かっている安全なエリア内でチャットできるようにすることで、彼らが実験できることが分かっています。私たちはLibreChat内でコード実行を許可しているので、Pythonの実験もできるようにしています。全体として、これは本当にやりがいのあるプロセスでした。なぜなら、これがどんどん成熟していくにつれて、どんどん多くのプロジェクトが実を結び始めるからです。他のプロジェクトを見て、それに触発される人がもっと増えるでしょう。
それは、私がキャンパス内を回って話をするときによく人々に伝えることです。私は言います、あなたの問題をどう解決するかを教えているわけではありません、と。私がやっているのは、私たちのプラットフォームがどのように機能するか、そして私たちがどのようにAIをあなたに提供するかを教えることです。そして私の希望は、あなたがここで見た何かに触発されて、「これは使えるかな」と言えるようになることです。これの別の部分として、私たちは実際に隔週木曜日にオープンオフィスアワーと呼ばれるものを開催しています。別の同僚と私で、キャンパス全体に広く開かれた1時間のセッションを開いていて、クールな新しいものを見たり、私たちとチャットしたり、「ねえ、500ページのPDF文書があるんだけど、LLMに読み込ませる方法が分からないんだ」といったことを教えてもらったりしています。
通常、その場には理解している人がいて、「ああ、それについてお手伝いできますよ。それは500ページのPDFだからです」と言ってくれます。これによって私たちはコミュニティと関わることができます。なぜなら、誰かがそういったミーティングに来て、私たちを完全に驚かせるような質問をする傾向があり、「ああ、誰かがそれを試したいと思っているなんて知らなかった」と思うからです。数週間前のミーティングの一つで、誰かが前に出てきてかなり複雑な質問をし始めたとき、Martyが飛び込んできて、「別途ミーティングをスケジュールしましょう。そうすれば、あなたのニーズについて話し合い、理解することができます」と言いました。これは本当に素晴らしいことでした。なぜなら、人々を興奮させ、私たちが大規模にサービスを提供できる状態を維持できるからです。そうすることで、個々のコントリビューターが外に出て実験し、新しいことを試すことができるのです。
市民開発者の創出とボトムアップ型イノベーションの実現
これについて少し話してきましたが、もしあなたが準備をしていて、これを組織に導入しようと考えているなら、私たちは本当にこれを試してみて、スケールするプラットフォームを構築することをお勧めします。昨日ここでの廊下での会話で話したことの一つは、Claude Codeが最近出てきたということで、私たちはすでにゲートウェイを完全にセットアップしていました。Claude Codeはカスタムゲートウェイを使用できるので、Claude Codeのようなツールは通常、使用するためにあらゆる種類の許可が必要で、データがどこに行くのか、データがどのように使用されているのかを知る必要があります。しかし、Claude Codeが私たちのゲートウェイに直接接続でき、それはすでにキャンパスのセキュリティを通じて承認されていたので、私は初日にそのツールを開発者の手に渡すことができました。
これは本当にクールです。なぜなら、新しいAIツールが出てきたとき、あるいはキャンパスの誰かが「ねえ、このAIツールを試してみたい」と言ったとき、私たちは彼らにゲートウェイへの接続方法を示すことができるからです。彼らは私たちのドキュメントを取得し、それをサンドボックスにロードして、AIに私たちのゲートウェイへの接続方法を尋ねることができます。そしてこれが市民開発者というものを生み出します。Martyが言ったように、キャンパス内の賢い人で、必ずしも開発者として働いているわけではない人が、「ねえ、このAIがどう動くか理解しています。何かをハックして実験してみましょう」と言うようなことを生み出します。そしてそれがプロジェクトになる可能性があります。プロジェクトが前に出てくるのを見るのは本当にクールでした。
今、Martyと私は、デスクトップサポートで働いていると思われるキャンパス内の人と、音声からテキストへの文字起こしサービスについて活発な会話をしています。私たちは個々の話者を識別する新しいdiarizationモデルを有効にしたばかりで、それで素早く小さなデモ、スタンドアロンのHTMLを組み立てて、Teamsチャンネルに投げました。APIキーが必要ですが、ファイルをロードして文字起こしを動作させることができます。これは人々に何が可能かを見せるために刺激を与えます。私たちは「ねえ、このデモを試してみてください。これがあなたのニーズを満たすとは言いたくありませんが、これはあなたが試してテストできるものになるでしょう」と言います。これはかなりうまくいっています。私たちは「これはAIですか？これはAIですか？これはAIですか？」と質問する人々と、本当に素晴らしい会話をたくさんしています。そして彼らがそれらの質問をして、私たちが「はい、それはそうです」または「いいえ、それは違います」と答えると、私たちは公の場で学んでいます。そしてMartyがスライドの一つにそれを載せていたと思います。
そのため、これは、grassrootsと言うのは嫌なんですが、ずっとそれを使ってきたので、でもボトムアップの能力を可能にします。もしマネージャーが個々のコントリビューターに「AIがあなたのやっていることのいくつかを解決できないか？」と言っているなら、それらの個々のコントリビューターはそうでなければその質問に答えられないかもしれません。しかし、私たちにはこのプラットフォームがあり、私たちのプラットフォームがどのように機能するかについて話をして回っているので、私は過去6週間から8週間、大学内のさまざまなカレッジやさまざまなスタッフや教員グループを回って、私たちが構築しているもの、どのように構築したか、そして何のためのものかについて話してきました。反応とフィードバックは本当に、本当にクールでした。私たちは前に出てきたプロジェクトの数に感銘を受けています。最初に「ねえ、あなたたちは何かAIのことをやりたいですか？」というメールを送ったとき、私たちが得た最初の反応は「これを処理できる方法はない」というものでした。それが私たちがそのガバナンスモデルを実施した理由です。では、ここに戻りたいと思います。ああ、いや、Mikeに引き継いでもらえますか？
さて、それではここからMikeに戻して締めくくってもらいます。どうもありがとうございました。では、皆さんはここからどうすればいいでしょうか？たくさん学んでいただけたと思いますが、実は私たちはブログを公開したばかりなんです。確か1週間ほど前だったと思います。 QRコードからそのリンクを取得してください。これは実際にDr. Professor Aultへのインタビューを特集したもので、彼はパイロットクラスでSocratic chatのユースケースに取り組み、その後そこから拡大していきました。彼は何が動機となったのか、そしてどのようにしてそのパイロットクラスに導入したのかについて少し話しています。興味があればぜひチェックしてみてください。
また、Industry PavilionにあるEDUブースにまだ行かれていない方は、インタラクティブなデモもご用意しています。ブース111です。そこでは実際にクリックして、Socratic chatアプリケーションのライブデモと、学習管理システムに組み込まれたクイズ生成機能もご覧いただけます。ええ、このセッションの後、数分間は会場にいる予定です。ここでは質問を受けることはできませんが、廊下にいますので、MartyやFurmanへのフォローアップの質問があればお声がけください。そして、お時間があるときにモバイルアプリでアンケートにもご回答いただくことを忘れないでください。ありがとうございました。
※ こちらの記事は Amazon Bedrock を利用し、元動画の情報をできる限り維持しつつ自動で作成しています。
Discussion