【参加報告】YANS2024@大阪 に参加しました！
はじめに
こんにちは！
北海道大学院 修士1年のshintoです。
2024/9/4～9/6 に YANS2024@梅田スカイビル に参加してきました！
特に、
・これから研究を始める方
・YANSが気になっている方
・NLP分野外の方
に向けて、YANSの魅力が伝わるように書きました。
よければどうぞ～。 ^^)/
YANSとは？
YANS(言語処理若手の会)とは、自然言語処理関係の研究者・技術者の交流や成長の場の提供を目的とした研究シンポジウムです。
研究シンポジウムとはいえ数百人の参加者や多数のユニークなスポンサー様がいらっしゃって、もはや一つの学会ですね..。
実際、私もお祭り感覚で参加しています。(🤔)
プログラム
プログラムは上記です。
この量をよく2日で捌いたな...という過密っぷり..。
実際、非常に密度の高い二日間でした。
以下、特に印象に残ったイベントをまとめます。
ハッカソン
こちらは、任意参加ですが、100名近くの参加者がいました。( ﾟДﾟ)..
今回はテーマが「大喜利」「川柳」の二つに分かれており、1チーム約6名のメンバー×各テーマ8グループがそれぞれの課題に取り組みます。
OpenAI GPT-4o mini のAPIが配布され、一定の使用量制限の中、チームのアイデアを自由に実現していく形で行われました。
GoogleColabでOpenAIのAPIを触ったことがある人であれば、誰でも即戦力 になれます！
また、実装だけでなく、アイデア出しやスライド作成、発表などチーム内での役割は多々存在し、それぞれのメンバーの個性や長所を活かせるような機会がたくさんありました。
実装時間は4時間と短いため、グループで生まれた小さなアイデアでも、それを突き詰めて 時間内に作り上げる ことが大切だと感じます。
"Done is better than perfect"
日々の研究ではなかなか得難い視点なのかな、と。(個人的に、体験として大きな収穫)
私たちのチームは「三銃士特別賞(審査員特別賞)」を頂きました。👏
ハッカソン後は、お祝い＆打ち上げとしてチームメンバーで大阪名物お好み焼きを食べました。😋
ネットワーキング(友達作り)においても、初日のハッカソンは非常におすすめです！
来年も参加しようと思います。
迷っている方もぜひ一緒に参加しましょう！
チュートリアル
1日目に NII(国立情報学研究所) から 佐藤竜馬 先生、2日目に Turing 株式会社から 荒居秀尚 先生にご講演いただきました。
どちらも、私の興味関心のど真ん中だったので、YANS2024で最も楽しみにしていたイベントです。
1日目 佐藤竜馬先生 (国立情報学研究所)
佐藤先生からは、「ニューラルネットワークの損失地形」というタイトルでご講演いただきました。
「平坦解、先鋭解、腑落ち(grokking)」などをテーマに、直感的に理解しやすい形でチュートリアルは進み、フッと沸いた疑問も次のスライドで回収されるという、何度も気持ちの良い腹落ち体験がありました。
日々の実験において、深層学習に関する可視化・分析ツール、ライブラリなどが充実しつつある今、数理を細かく追わずに実験できてしまうのも事実です。
しかし、今回の内容はそういったブラックボックスなニューラルネットワークに対して、普段の実験で感ていた疑問を数理的な根拠を元に解消できるとても良い機会でした！
(Twitterで講演スライドを公開してくださっています。要チェックです！)
2日目 荒居 秀尚先生 (Turing株式会社)
荒居 秀尚先生からは、「生成AIの二大潮流と自動運転」というタイトルでご講演いただきました。
現在の生成AIの二大潮流であるLLMと拡散モデルの説明の後、実際にそれらがどのように自動運転に応用されているかをご紹介いただきました。
Vision・Languageに加えて、Actionを加えたマルチモーダル基盤モデルの開発をベースに、自動運転において壁として立ちはだかる「特殊ケース(ロングテール)」にどのように対応していくか、実際の取り組みを惜しみなくご紹介いただきました。
個人的には、実世界データの収集の他にも、シミュレーション環境におけるトレーニングが興味深いと感じました。この先どのようにSim2Realのハードルを越えていくのか要注目ですね..!
また、勝手にLLMは自動運転と関わりが薄いと思っていましたが、実際に自動運転の開発においても中心的な役割を担うLLMを目の当たりにして、自動運転開発におけるのAIの総合格闘技、フロンティア感に胸が高まります。
(Twitterで講演スライドを公開してくださっています。要チェックです！)
発表
発表は5つのポスターセッション + 招待ポスターセッションに分かれており、各セッションごとに約40人ほどの発表者がいました。
一般セッション
YANSの発表では、
・これから始まる，または始まったばかりの研究
も奨励されており、自身のアイデアをぶつける場にもなっています!!
事前にSlackに共有されているポスターを見て、面白そうだと思った内容の著者に突撃したり、時には一緒に考えたり、研究の発生・成長の場として非常に有意義な時間を過ごせました。
ここで発表された多くの萌芽的な研究が、来年度のNLP2025@長崎で発展して見れそうです。
今から楽しみですね。
私自身も
「LLMはなぜ算数が苦手なのか？ Transformerの外挿能力に関する分析」
というタイトルで発表しました。
当日はたくさん聞きに来てくれる方がいて、有用なアドバイスや活発な議論が実現できました。
このままNLP2025や国際学会に向けてさらなる実験・分析を重ねていきます！
当日来てくださった方、ありがとうございました！m(_ _)m
招待ポスター
招待ポスターは、新進気鋭の若手研究者の先生方をお迎えしてポスター発表を行っていただく、というセッションです。
どの先生方も、初歩的な質問から快く受けてくださいました。
また、高度な研究内容はもちろん、ポスターの作成方法や発表のスキルなど、学べる内容は非常にたくさんありました。
研究を始めたばかりのころに、お手本となる先生方の発表を聞ける機会は貴重だと感じます。
来年もあるといいな～ (^_^)
クロージング
あっという間に最終プログラム、クロージングの時間になりました。
クロージングでは主に表彰があります。
YANSでは
・デモ賞 (1件)
・奨励賞 (20件)
・スポンサー賞
があります。
副賞も豪華で、AI研究者・エンジニアならだれでも嬉しい(?)豪華ガジェットを始め、お肉やサーバー利用権など、スポンサー様の個性が反映された多様なラインナップでした。
私も幸運なことに
・奨励賞
・スポンサー賞 株式会社オルツ 様
・スポンサー賞 ストックマーク株式会社 様
をいただきました！
やはり、自身の研究を面白いと言っていただけるのは嬉しいですね。
選んでいただいた皆様、ありがとうございました！m(_ _)m
雑感
上記のプログラム以外にも、スペシャルセッションとして
・「ネットワーキングの極意(友達の作り方)」
・「目指せ！国際会議」
・「ラウンドテーブル(興味関心が同じ参加者同士のフリートーク)」
など、若手研究者の交流の場を作る というYANSの信念を随所に感じられるイベントが多数存在し、全体を通して和やかなウェルカムムードが心地よかったです。
上記のイベントにて、登壇者が
「NLPは若手のコミュニティが機能している。周りに相談できる人がいなければ、NLPのコミュニティに投げると良いよ。そこで得られるフィードバックは自身の研究にきっと役立つ。」
といったトークをしていたのですが、まさに同じ気持ちです。
やはり、自身の興味関心のある領域分野に、このようなコミュニティが存在することは心強いですね。
このコミュニティの存在を当たり前だと思わず、私自身もコミットする側に回っていきたいです。
また、今回私は滞在費援助していただけることとなり、交通費や宿泊費の出費もありませんでした。
「発表意欲はあるけど、遠方からの滞在費が厳しい..」
といった新米研究者も救い上げるYANSコミュニティ、抜け目なし..!
何から何まで、本当にありがとうございました！
まとめ
以上、YANS2024@大阪 の参加報告でした。
最後になりますが、YANS委員の皆様、
YANS2024@大阪 の運営、本当にありがとうございました！m(_ _)m
半年以上前からボランティアで様々な準備をおこなってくださいました。
最高のシンポジウムでした！！
この参加報告を読んで参加してみたいと思った方と、新たな出会いがあることを楽しみにしております！
また、来年会いましょう～ﾉｼ
Discussion