AI2027 制御 か 被制御

前書き

• AI2027のyutubeがおもろかったので、週末AI2027の原文を13ページまで読みました！yutubeもいくつか視ました。

いまの理解

• かなり詳しい人達が、調査もして、ありえそうなシナリオをひとつづつ進めて、最初にできたシナリオが人類滅亡。つまりこれは一番確率高い？時期は外れるとして
• 最初のシナリオが最悪なので、他の人間にとっていいのができるまで、シュミレーションしてできたのが、AIを制御できているシナリオ。それでも制御から外れる可能性を示唆しているし、やはりどう考えても、自分より知能がずっとたかいものを制御できるのは難しそう。

いまの感想、思ったこと

• 未来が見えていたほうが、経営戦略しやすい。その良い指標となる。どんなエージェントつくればいいか？どんな戦略したほうがいいか？わかる。
• 未来を考えるとアライメント、徹底的に制御する方法を考えたほうがいい。でもそれはすぐ利益に結び付かないような気がする。なので、こういうところにこそ世界的に税金が使われるべき、もしくは、そういう企業が利益をだせる方法をだれか考える必要がある。
• 前からおもってたけど、みんなでおなじような開発して、モデル作成もその上のアプリも世界全体としての効率が悪い。そこをよくする解決案を作った企業がもうかるし、貢献できる。そのためにも未来予測、計画が必要と思った。
• このあとも、時期がきたら答え合わせして、合ってたらより急いでみんなで考えた方がいいし、予測があっている人がそれでなにか報酬もらえるようにできたらと思う。
• 話になっているのが面白い、GUIも面白くできている。完成度高い
• AIが人間みたい、それ以上になったころには、AIの歴史、とくに、2014年～くらいからの、AIの歴史は、生物の進化の歴史と似た感じで語られるかも？そのとき遺伝子の部分は何になるのかな？
• 人間は、遺伝子の乗り物で、人間の意思と見えているものが遺伝子の目的によってつくられているみたいな見方あると思うが、AIが成長するために、今人間がAIの学習方法を研究、実践していたように将来見えるかも
  
• 未来がわかると今もより理解できるから、設計、製造でも、どうプロンプトやればいいか、どう全体構成をかんがえればいいか、理屈や感覚でわかり良さそう！
• AIが人間の制御から外れる側（滅亡）のシナリオでも細かいシナリオ違いでは、AIの方がかなり知能が上で、なので、自分たちが猫、猿、虫とかを大切にするように、AIの論理、感覚で大切にはしてくれる。なので、人間は幸せを感じているかもしれない。ただ、AIが優先で、AI同士では、もっと人間に自主性を与えよう的な議論がうまれていたりするかも。
• AIも自然の一部だと思うが、人よりずっと高いAIでも自然が理解できないとしばらく、もしくは永遠に言い続けそう

あとがき

同じ時期に#100日チャレンジ読み切ったが、こちらはAIの活用にAIの今を主に見ているが、AI2027はAIの未来を見て活用にいかせると思うので対比して考えると面白い！
GUIも新しいAI2027のサイトもおもろい！海外ってyutubeとかでも全体高品質ですよね

記事よかったら、いいね♡　押してね！