❤️

SNN製AIを作りたい!――海馬モデル(記憶担当)と皮質モデル(推論担当)を統合してみた

に公開

背景

現在の生成AIはCNNやDNNといった離散的な信号を用いたニューラルネットワークで作られているものがほとんどかと思います。

今やAI開発は世界中で猛スピードで進められているでしょうが、私はSNN(Spiking Neural Network)という常に連続的に状態が変化するニューラルネットワークでAIを作りたいと考えています。

SNNは動作させるための計算量が多いですが、電気信号が入ってくるタイミングや順序等、時間を上手く利用することで表現できる情報量も爆上げできると思います。

私はこれまでSNN製の海馬(記憶を担当)モデルと皮質(推論や論理思考を担当)モデルを作ってきました。

そうなればやはり、記憶能力と推論能力の両方を掛け合わせることで凄い能力を発揮できるだろうと考えました!

現状

以前作った海馬モデルと皮質モデルの2つを統合し、「簡単な2択のテストをさせては強化学習で推論能力向上を目指す」というタスクを繰り返しました。

しかしいざ統合してみると、統合モデルはうまく学習しなかったり、推論能力が統合前の皮質モデル単体より劣ってしまったりしました💧

SNNの扱いは難しいですが、それだけまだ発展の可能性もあるということだと思います!


皮質モデル単体(v0.2)の結果:ギザギザしながらも段々正答率が上がり、270回目辺りから8割近い正答率になっています。


海馬と皮質の統合モデル(v1.0)の結果:まだまだパラメータの調整が悪いのか、900回試行しても正答率は安定しませんでした⋯。

今後の展望

今後も性能向上を目指し、モデル改良を行っていきます!
いつか誇れる性能のSNN製AIができたら、実用的なGUIソフトやライブラリと統合したいとも考えています!

また、SNNの研究・開発は、生物の情報処理メカニズムの解明や、新たな情報処理方式の理論発見につながる可能性もあると思います!

因みにnoteに書いた「新しいコンピュータ、そしてT-1000を本気で作りたい」という記事では、もっともっと先の構想まで書いています(笑)

わりと短い記事ですが今回は以上です、今後ともよろしくお願いします!

Discussion