<p data-line="0" class="code-line">こんにちは。ZENKIGENデータサイエンスチームの廣田です。所属チームで<a href="https://x.com/zenkigen_ai" target="_blank" rel="nofollow noopener noreferrer">Xアカウント</a>を運用しており、AIに関する情報を発信していますのでご興味あれば覗いてみてください。</p>
<aside class="msg message"><span class="msg-symbol">!</span><div class="msg-content">
<p data-line="4" class="code-line">今回は少し前に注目を集めた論文 <a href="https://dl.acm.org/doi/abs/10.1145/3586183.3606763" target="_blank" rel="nofollow noopener noreferrer">Generative Agents: Interactive Simulacra of Human Behavior</a>の紹介です。AIエージェントに関しては<a href="https://arxiv.org/abs/2307.02485" target="_blank" rel="nofollow noopener noreferrer">マルチエージェントでの協力</a>や、<a href="https://arxiv.org/abs/2308.04026" target="_blank" rel="nofollow noopener noreferrer">LLMの評価</a>など、現在も様々な研究が行われています。今回紹介する論文（Generative Agents）はご存知の方も多いかもしれませんが、個人的に面白かったポイントを紹介していきます。</p>
</div></aside>
<h1 id="%E6%A6%82%E8%A6%81" data-line="8" class="code-line">
<a class="header-anchor-link" href="#%E6%A6%82%E8%A6%81" aria-hidden="true"></a> 概要</h1>
<h2 id="%E8%AB%96%E6%96%87%E5%86%85%E3%81%A7%E8%A1%8C%E3%82%8F%E3%82%8C%E3%81%9F%E3%81%93%E3%81%A8" data-line="9" class="code-line">
<a class="header-anchor-link" href="#%E8%AB%96%E6%96%87%E5%86%85%E3%81%A7%E8%A1%8C%E3%82%8F%E3%82%8C%E3%81%9F%E3%81%93%E3%81%A8" aria-hidden="true"></a> 論文内で行われたこと</h2>
<ul data-line="10" class="code-line">
<li data-line="10" class="code-line">LLMを用いて、人の行動をシミュレートするエージェントを25人用意。</li>
<li data-line="11" class="code-line">25人のエージェントを、シミュレーション時間で2日分行動させて、個々の社会的行動、創発的行動を観測。</li>
</ul>
<h2 id="%E3%82%A8%E3%83%BC%E3%82%B8%E3%82%A7%E3%83%B3%E3%83%88%E3%82%84%E7%92%B0%E5%A2%83%E3%81%AE%E8%A8%AD%E5%AE%9A" data-line="13" class="code-line">
<a class="header-anchor-link" href="#%E3%82%A8%E3%83%BC%E3%82%B8%E3%82%A7%E3%83%B3%E3%83%88%E3%82%84%E7%92%B0%E5%A2%83%E3%81%AE%E8%A8%AD%E5%AE%9A" aria-hidden="true"></a> エージェントや環境の設定</h2>
<p data-line="14" class="code-line">エージェントの設定（機能）は以下の通り。</p>
<ul data-line="15" class="code-line">
<li data-line="15" class="code-line">Memory and Retrieval
<ul data-line="16" class="code-line">
<li data-line="16" class="code-line">エージェントの経験を記録する。</li>
<li data-line="17" class="code-line">エージェントが考慮すべき情報を検索する。</li>
</ul>
</li>
<li data-line="18" class="code-line">Reflection
<ul data-line="19" class="code-line">
<li data-line="19" class="code-line">単なる過去の記憶のみを参照するのではなく、「内省」し、より高次な情報にして記憶する。</li>
<li data-line="20" class="code-line">過去の観察記憶から情報を集約し、記録する。</li>
</ul>
</li>
<li data-line="21" class="code-line">Planning and Reacting
<ul data-line="22" class="code-line">
<li data-line="22" class="code-line">過去の情報を考慮しないと一貫性が損なわれてしまう（12時に昼食をとったあと、12:30, 13:00と何度も昼食をとる）。</li>
<li data-line="23" class="code-line">これを防ぐために、1日の始まりに大まかなプラニングをさせる。</li>
</ul>
</li>
<li data-line="24" class="code-line">環境
<ul data-line="25" class="code-line">
<li data-line="25" class="code-line">マップに建物やオブジェクトがある。</li>
<li data-line="26" class="code-line">25人のエージェントに、テキストで初期記憶を与えている。</li>
</ul>
</li>
</ul>
<h2 id="%E7%B5%90%E6%9E%9C%EF%BC%88%E4%B8%80%E9%83%A8%E6%8A%9C%E7%B2%8B%EF%BC%89" data-line="28" class="code-line">
<a class="header-anchor-link" href="#%E7%B5%90%E6%9E%9C%EF%BC%88%E4%B8%80%E9%83%A8%E6%8A%9C%E7%B2%8B%EF%BC%89" aria-hidden="true"></a> 結果（一部抜粋）</h2>
<p data-line="29" class="code-line">あるエージェントの初期記憶に、2日後にパーティーを開くと入れておいた結果、以下のような社会的行動が観測された。</p>
<ul data-line="30" class="code-line">
<li data-line="30" class="code-line">1日目に他のエージェントをパーティーに誘い、2日目にパーティー会場の準備をはじめた。</li>
<li data-line="31" class="code-line">誘われた他ののエージェントが、誘われたパーティーに参加した。</li>
</ul>
<h1 id="%E5%80%8B%E4%BA%BA%E7%9A%84%E3%81%AA%E9%9D%A2%E7%99%BD%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%88" data-line="33" class="code-line">
<a class="header-anchor-link" href="#%E5%80%8B%E4%BA%BA%E7%9A%84%E3%81%AA%E9%9D%A2%E7%99%BD%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%88" aria-hidden="true"></a> 個人的な面白ポイント</h1>
<ol data-line="34" class="code-line">
<li data-line="34" class="code-line">「過去情報」の参照</li>
<li data-line="35" class="code-line">「内省」の導入</li>
</ol>
<h2 id="%E9%9D%A2%E7%99%BD%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%881.-%E3%80%8C%E9%81%8E%E5%8E%BB%E6%83%85%E5%A0%B1%E3%80%8D%E3%81%AE%E5%8F%82%E7%85%A7" data-line="37" class="code-line">
<a class="header-anchor-link" href="#%E9%9D%A2%E7%99%BD%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%881.-%E3%80%8C%E9%81%8E%E5%8E%BB%E6%83%85%E5%A0%B1%E3%80%8D%E3%81%AE%E5%8F%82%E7%85%A7" aria-hidden="true"></a> 面白ポイント1. 「過去情報」の参照</h2>
<ul data-line="38" class="code-line">
<li data-line="38" class="code-line">今までもAI Agentによるシミュレーションは行われてきたが、ルールベースや強化学習で人間の行動を再現する方法が考えられてきたが、人間の行動空間は膨大なので、限定的な行動の再現にとどまっていた。</li>
<li data-line="39" class="code-line">これをLLMで会話や行動を自然言語で再現し、より広範な行動をシミュレートできた。</li>
<li data-line="40" class="code-line">さらに、過去の情報を外部記憶として参照することで、過去の情報も考慮した一貫性のある行動がとれるようになった。</li>
</ul>
<h2 id="%E9%9D%A2%E7%99%BD%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%882.-%E3%80%8C%E5%86%85%E7%9C%81%E3%80%8D%E3%81%AE%E5%B0%8E%E5%85%A5" data-line="42" class="code-line">
<a class="header-anchor-link" href="#%E9%9D%A2%E7%99%BD%E3%83%9D%E3%82%A4%E3%83%B3%E3%83%882.-%E3%80%8C%E5%86%85%E7%9C%81%E3%80%8D%E3%81%AE%E5%B0%8E%E5%85%A5" aria-hidden="true"></a> 面白ポイント2. 「内省」の導入</h2>
<ul data-line="43" class="code-line">
<li data-line="43" class="code-line">上記の過去情報の参照では、単なる観測した事実だけではなく、それらを深掘りして、高次の考えを導入するところが人間らしい。</li>
<li data-line="44" class="code-line">例えば、AI Agentに1時間一緒に過ごす相手を選ばせようとすると、単に交流が多かった人を選んでしまう問題があった。</li>
<li data-line="45" class="code-line">これに対して、自身の記憶を内省を導入することで、自分と似た関心のある人を選ぶようになるというような、高次の情報を導入することができた。</li>
</ul>
<h1 id="%E5%80%8B%E4%BA%BA%E7%9A%84%E3%82%B3%E3%83%A1%E3%83%B3%E3%83%88" data-line="47" class="code-line">
<a class="header-anchor-link" href="#%E5%80%8B%E4%BA%BA%E7%9A%84%E3%82%B3%E3%83%A1%E3%83%B3%E3%83%88" aria-hidden="true"></a> 個人的コメント</h1>
<ul data-line="48" class="code-line">
<li data-line="48" class="code-line">内省の導入
<ul data-line="49" class="code-line">
<li data-line="49" class="code-line">人間の行動を再現するためには、単なる過去情報の参照だけでなく、それを深掘りして高次の情報に変換することが重要。</li>
<li data-line="50" class="code-line">これにより、事実をどう捉えるかで行動が変わる「人間らしさ」が再現できる。</li>
</ul>
</li>
<li data-line="51" class="code-line">実世界への進出の可能性
<ul data-line="52" class="code-line">
<li data-line="52" class="code-line">今回はシミュレーション上でしたが、チャット越しでは実世界でも十分に再現できる可能性がある。</li>
</ul>
</li>
</ul>
<h1 id="%E3%81%8A%E7%9F%A5%E3%82%89%E3%81%9B" data-line="54" class="code-line">
<a class="header-anchor-link" href="#%E3%81%8A%E7%9F%A5%E3%82%89%E3%81%9B" aria-hidden="true"></a> お知らせ</h1>
<p data-line="55" class="code-line">少しでも弊社にご興味を持っていただけた方は、お気軽にご連絡頂けますと幸いです。まずはカジュアルにお話を、という形でも、副業を検討したいという形でも歓迎しています。</p>
<p data-line="57" class="code-line"><span class="embed-block zenn-embedded zenn-embedded-card"><iframe id="zenn-embedded__6fb16644e0221" src="https://embed.zenn.studio/card#zenn-embedded__6fb16644e0221" data-content="https%3A%2F%2Fhrmos.co%2Fpages%2Fzenkigen%2Fjobs%3FjobType%3DFULL" frameborder="0" scrolling="no" loading="lazy"></iframe></span><a href="https://hrmos.co/pages/zenkigen/jobs?jobType=FULL" style="display:none" target="_blank" rel="nofollow noopener noreferrer">https://hrmos.co/pages/zenkigen/jobs?jobType=FULL</a><br style="display:none">
<span class="embed-block zenn-embedded zenn-embedded-card"><iframe id="zenn-embedded__d6d1165ca5e0b" src="https://embed.zenn.studio/card#zenn-embedded__d6d1165ca5e0b" data-content="https%3A%2F%2Fspeakerdeck.com%2Fzenkigenforrecruit%2Fdetailed-version-recruitment-materials-for-data-scientists" frameborder="0" scrolling="no" loading="lazy"></iframe></span><a href="https://speakerdeck.com/zenkigenforrecruit/detailed-version-recruitment-materials-for-data-scientists" style="display:none" target="_blank" rel="nofollow noopener noreferrer">https://speakerdeck.com/zenkigenforrecruit/detailed-version-recruitment-materials-for-data-scientists</a></p>


AIエージェントの人間のような振る舞い: Generative Agentsを読んで

面白ポイント1. 「過去情報」の参照

面白ポイント2. 「内省」の導入

Discussion