AIとAGIと超AIを理解するには、”人間とAGIと「越える」こと”の合意形成が必要な話

一言にすると、それは何なのか、という問題は哲学の領域でもあります。
AGIと超AIとは何でしょうか。
考えるための前提の共有が重要です。

人間を越えるといっても……

• 量的超越：処理速度、メモリ容量、並列処理能力（僕はデータセンターに勝てません）
• 質的超越：新しい問題解決パラダイムの創出（ここは人間の創造性が有利かもしれません）
• 時間的超越：人間の寿命を超えた長期的思考（論理的には今でも可能です。生命ではないから。ただ実証研究が難しい）
• 認識的超越：人間が知覚できない次元での情報処理（ここは「知覚できない」ことをどう扱うか、『望遠鏡・顕微鏡・理論』が必要でしょう）

少なくとも、義務論（人間を目的として扱う）・功利主義（最大多数の最大幸福）・ケア倫理（関係性と具体的人道）と矛盾する場合、それは「制御不能」と言えるはずなので、AGIと超AIが「倫理的判断」を人間より間違えないことを、私は提唱したいです。

義務論は頭が固く正しすぎ、功利主義は少数派の犠牲を見落とし、ケア倫理は体系化が難しいという弱点があるので、長所と短所を補うバランスは、エヴァンゲリオンのマギシステムのように機能します。

定義の落とし穴「神」と「擬人化」と「文化バイアス」

例えば……

• AGIは99%以上（数字は仮の数字）間違えず正しい結論を出すけれど、人間の専門家（論文の査読が出来る方など）が半年かけて検証しないと分からない水準だとします。
• 超AIは99%以上（数字は仮の数字）間違えず正しい結論を出すけれど、100年で3,4世代かけて人間の専門家（論文の査読が出来る方など）が検証しないと分からない水準だとします。つまり、評価不能な時期が一定あるはずです。
• あるいは、人間の認識や理解力を越えているので、何世代経っても理解不能だけど、部分的に理解出来る範囲で正しいので「預言者」みたいに見えるかもしれません。

こう考えた場合、人間は抽象思考の限界で「神」を感じることがあることを、宗教史から警戒すべきです。日本なら、荘厳とか神々しいなど、雄大な何かや深さへの感動を文化的に共有出来ます。

また文化の前提も違います。キリスト教圏の方はバベルの塔や偶像崇拝の禁忌などの関係か、AIによる支配（例えば、マトリックスの冒頭でネオが肉体で目覚めた世界）をイメージされます。
対してアジアの日本は、ドラえもん・陰陽師の式神・付喪神などの文化があるし、笠地蔵のようにお礼や褒美を地蔵が持ってきてくれる物語を継承しています。だから、キリスト教圏とアジアでは文化が違うため、議論するならこの前提のすり合わせも重要です。

そして、アシモフのSFも、ディズニーの美女と野獣の『ポット夫人』も、擬人化ですよね。SFは科学を根拠にしてはいるけど、ChatGPTが無い時代に書いており、想像した部分が擬人化です。後者は呪いで人が道具になった設定だから、擬人化かつ人間です。
我々が物事を理解する際は擬人化する傾向があるため、AIもAGIも超AIも擬人化しないことが重要です。人間と異なる知性であり、他の道具との違いは、人類史初の「人間と共に推論できる」道具であること。だから僕らがAIに「自己紹介」で文脈と必要な情報を与えると、AIは「そういうことなら、私はこうお役に立てます」と自己紹介もしてくれます。

では、そもそも人間とは何でしょうか？

例えば、西洋美術史において写実主義などの伝統は「客観」だったのに対して、印象派は「主観」を点描画の技術などで光と色彩を工夫し、パラダイムシフトを起こしました。けれど、当時の方は歴史的位置づけは分からなかったはずです。

現代アートは哲学的でもあり、言葉で説明しなくても見て鑑賞出来るとは限りません。100年未来から見て、美術が前進しているのか、それともピカソや岡本太郎あたりでやり尽くしており、マルセル・デュシャンは哲学者や思想家に分類されるかもしれません。

例えば、谷川俊太郎さんのお言葉だと記憶しているのですが、「ほぼ日刊イトイ新聞の糸井重里さんは、昔なら詩人をなさる才能」という表現があったと思います。詩人かつコピーライターかつ実業家というマルチタレントです。このように「肩書・社会の評価・理解・分類」は変化します。

だから、アートも、前衛芸術は哲学や思想、あるいはスティーブ・ジョブズなどのデザイナーが商業だけでなく、アール・ヌーヴォーのような歴史で整理され、アーティストとしても、歴史が判断し位置づけるかもしれません。それは、情報工学のエンジニアさんも含めて、デザインという概念は広いです。

こうした、歴史の審判の範囲はAGIという定義はどうでしょう。例えばコロンブスは、私が小学生の頃はエジソンやキュリー夫人と並んで伝記が図書室にありました。しかし、現代は異なる見方もあります。何をもって人間程度、何をもって人間を「越えた」と判断するのかは、ヒトラーもマザーテレサもいるのが人間なので、個別具体的などなたかを基準にするのは曖昧です。

歴史の審判の観点なら、結果的に、民主的（議論を尽くせる）で統計的になります。

AGIと人間と「越える」ことの定義が前提

AGIをこの方向にし、AGIが「間違いを見つけられない」「超AIの回答は研究しても部分的にしか分からない特異点がある」という2点を含むと、超AIというのはどうでしょう。
ただし、ブラックホールの特異点という概念を出すと、言い換えただけになる可能性もあります。
重要なのは、人間・AGI・越えることの定義を議論し決めないと、超AIを論じる足場が無い（足りない）という点です。

読んでくださりありがとうございます。