Gogle Next Tokyo2025の1日目に参加してきたよ！
Google Next Tokyo 2025 Day 1 参加レポート
参加のモチベーション
エージェント時代の到来と言われている2025年。そのエージェント時代において、エンジニアとしてより価値を提供し続けるためには、どのように歩んでいけばいいのか。そのヒントを探りにいくことを目的に参加した。
その中でも特にLLMやAIエージェントが騒がれているが、その裏で動いているLLMモデルやLLMモデルを動かすためのチップや電力といった問題は切っても切れないものと考えている。その課題に対して、エンジニアリング観点でどのように解決していけばいいのかを中心に情報収集した。
参加した講演
- 基調講演
- 個別講演の以下の2つ
- オープンソース LLM の真価を解き放つ！Red Hat による高速・高効率な推論環境
- Google Kubernetes Engine と TensorRT-LLM による LLM の大規模・高速推論環境の構築
参加全体のサマリー
以前アメリカで発表のあった内容を中心に日本向けに発表しているので、技術的に新しい発表があったわけではなく、国内での事例紹介が中心だった。
個別講演では、エージェント時代におけるインフラとして、Kubernetesなどの技術やインフラ設計がより重要になってくるのでは？と感じた。
各講演について
基調講演
各種事例紹介が中心だった。
Agent Spaceが日本リージョンでも展開された。これによって、より簡単にスピード感を持って、エージェントを開発でき、エージェントが主要な業務を実行していける環境が整ってきた。事例はそれに近しい内容で、実装段階に入っていることを紹介していた。
Agent Spaceの具体的な機能や説明は以下リンク先に詳細説明があるので、そちらを参照ください。
個別講演
オープンソース LLM の真価を解き放つ！Red Hat による高速・高効率な推論環境
Google Kubernetes Engine と TensorRT-LLM による LLM の大規模・高速推論環境の構築
共通して感じたこと
LLMを本当に適用すべきかどうかとそれをどのように効率的に稼働させるのか、といったところが今後より課題になってくる。
そのための解決の手段として、以下が挙げられる：
- Kubernetesでのより効率的なリソースやコンピューティングの運用
- LLMではなくSLMとし、モデルを小さくすることで、リソースやコンピューティングを抑える工夫
- 量子化することで、bit数を減らす取り組み
なんでもかんでもLLMで適用し、自動で回していくことは必ずしも有効ではないため、そこの判断基準や振り分け、業務設計といった部分はまだまだ人が定義して進めていくように感じた。
まとめ
AIエージェントの業務実例が本格的に増えてきたと感じた。
業務適用をし、より効率的になってきているという話を聞く一方で、裏側にかかっている見えない費用や利益率などの観点での情報はあまりなかったので、その観点で今後どのようになっているのか、いくのかは引き続き注目していく必要がある。
それらは、プラットフォームエンジニアリング界隈やLLM Opsの動向、エッジAI関連の分野など、幅広くアンテナを張って情報収集していくことを心がけたい。
また、とりあえずエージェントに丸投げするのではなく、これまでの業務フローやプロセスを今一度見直し、エージェントをベースにした業務設計やフロー、プロセスに再定義・再構築することは忘れないように取り組みたい。
今後のアクション
今後は、まずKubernetes周りについて、初心者なので技術や知識、両面でスキルアップを進めていくことを考えている。
その後、KubernetesとDuckDBを組み合わせて、ローカルでの基盤作りからのSLMの検証を実験していきたいと考えている。
Discussion