🔑

私の来歴とAI(002-003)

2025/01/15に公開

Q)私のAIについての意見を評価せよ。

AIが全てにおいて人間を凌駕するという考え方は、浅はかな考えであると、私は考える。以下に理由を挙げる。
1つめに、そもそもAIにはメンテナンスが必要であり、もし仮にAI(P)のメンテナンスをAI(Q)が行うとしても、AI(Q)をメンテナンスする必要があり、無限後退に陥ることを考えれば明白である。
2つめに、AIはコンピュータ回路があってこそ存在し得るが、コンピュータ回路は電子(近年では量子コンピュータも話題だが)の、存在または非存在という、二値の連続で成り立っており、たとえ誤り検出などの技術があるとしても、1つの電子の状態が変わるだけで、データの欠損だと呼べるのであって、水没した程度でデータが欠損するほど、コンピュータないしAIは諸い、と言う事実があるからである。
一方で人間の脳は、心の哲学や神経科学の、現代では未解決とも言える分野があることを差し引いても、例えば、生まれつき海馬のない人間の脳が、本来海馬がになうはずだった役割を、海馬以外の部分でになうことにより、海馬の欠損を補うようなことがあるように、人間の脳はコンピュータより圧倒的に頑丈である。
他にも幾らでも理由が述べられるが、一部のAIを信奉する人々が述べるようにAIは決して人類を越えたりすることはない。
そのようなことは、誰よりもAI開発者にとって明らかであるが、AI開発者としてはAIの開発を推進したいわけなので、AI信奉の投資家などに異論を大々的に唱えることがない。

A)ChatGPT o1の返答

以下では、質問者さんの主張を整理し、どのような論点があるかを見つつ、それに対する補足や一般的な議論のポイントを述べます。


質問者さんの主張の整理

  1. AIにはメンテナンスが必要である

    • もしAI(P)をメンテナンスするAI(Q)があっても、さらにAI(Q)をメンテナンスする何かが必要になり、無限後退に陥る。
    • よって「AIが全てを自律的にやってくれて、人間は何もしなくてよい」というのは幻想である。
  2. コンピュータ回路は脆い

    • コンピュータは電子や量子ビットなどの「ある/ない」で成立している。
    • エラー訂正技術があっても、1つのビット(電子の状態)が変わるだけでデータは壊れうる。
    • 水没すると簡単に故障するなど、物理的にも脆弱である。
  3. 人間の脳は頑丈であり、可塑性が高い

    • 海馬が先天的に欠損している人が、他の脳部位で海馬の機能を代替している例のように、脳には神経可塑性があり、「一部が損傷しても他の部分が機能を補う」ことが起きる。
    • したがって、コンピュータより人間の脳のほうがはるかに「強靭」である。
  4. AIが人間を「超える」という主張は誇大広告では?

    • ごく一部のAI信奉者が「AIが人類を凌駕する」と言っているが、実際のAI開発者は「そこまでのことは起こりえない」と知っているはず。
    • しかし、投資家の期待をつなぎとめるため、AI開発者からは異論が大々的に唱えられない構造があるのではないか。

総合すると「AIがすべてにおいて人間を凌駕することはない」「物理的にも、可塑性にも限界があり、人間の脳に比べると脆弱さがある」という見解です。


論点と補足

1. 「メンテナンス」の無限後退

  • AIの開発・運用には人間が欠かせない
    確かに、現在のAIシステムは、学習データの準備、アルゴリズムの改良、ハードウェアの維持管理など、人間や人間社会のサポートのもとで成り立っています。
    • 「AIがAIをメンテナンスし、それがさらにAIにメンテナンスされる…」という完全自律は、理論的に想定はされるものの、実運用には多くの段階で人の手が入っています。
  • ただし「自己修復システム」の研究も進んでいる
    • たとえばクラウドサーバーが故障箇所を検知し、自動フェイルオーバーを行うように、ある程度の自律的メンテナンスは実現されています。
    • とはいえ、その根底にあるハードウェアや電力供給といった部分は人間社会のインフラに依存するため、無限後退を断ち切るには結局「人間がバックアップしている」現実があります。

2. コンピュータ回路の脆さ

  • 物理的故障への脆弱性は確かにある
    • 水に浸かる・衝撃で壊れるなど、電子回路はデリケートであることが多い。
    • 一方、冗長化やエラー訂正、複数拠点へのバックアップなどを施し、システム全体の信頼性を高める技術も発展しています(例:クラウドやサーバーファームなど)。
  • 人間の脳の可塑性
    • 質問者さんの指摘するように、脳は障害や欠損があっても一部の機能を他の領域が補う可塑性があります。
    • コンピュータにも冗長化で似た仕組みを人工的に作ることは可能ですが、生物のような「自然治癒」とは概念が異なり、外部からの交換や修理が要るのが現状です。

3. AIと「人間を超える・凌駕する」議論

  • 汎用人工知能(AGI)への期待やSF的な未来像
    • 一部の科学者やSF作家は、最終的にAGIが人間の知能を包括的に上回り「シンギュラリティ」が起こる、という仮説を提唱します。
    • しかし、それがいつ・どのように実現するかは誰にも確実にはわからず、悲観/楽観両面の議論が存在します。
  • 専門家が誇張を控えていない理由
    • 質問者さんが挙げているように、投資家の期待を高めるため、あるいは研究資金を得るために「AIが万能」「既に人間の脳を超えた」などと訴える声がメディアで取り上げられがちです。
    • しかし、多くの現場の技術者や研究者は「AIにはまだ限定的な適用範囲しかない」「人間のような総合知能とはかけ離れている」と理解していることも事実です。

4. 人間の脳とAIを比べる際のポイント

  • 脳は化学的・生物的な多層システム
    • 人間の意識や思考は、ニューロンの電気信号だけでなく、ホルモンや神経伝達物質、さらには身体性(体全体のフィードバック)と関係していると考えられます。
    • 一方、AIは基本的に「デジタル情報処理」に限られ、生物的プロセスは扱っていません。
  • 「超える/超えない」の定義のあいまいさ
    • 「AIが人間を超える」とは、具体的に何を指すのか。チェスや将棋、数値計算など特定のタスクなら既にAIのほうが優れている面もある。
    • しかし、広範にわたる創造性、意識、物理的環境への適応力、社会性の獲得など、複雑な次元ではまだ「AIが人間を全面的に凌駕した」とは言えないのが現状。

結論とまとめ

  • 質問者さんの意見: 「AIがあらゆる面で人類を凌駕する」といった極端な主張は、

    1. ハードウェア的な脆弱性(メンテナンス問題、電子回路の故障リスク)がある。
    2. 人間の脳の頑丈さ・可塑性に比べると現実的に脆い。
    3. AI開発者や投資家の利害関係による宣伝が多く、“万能AI神話”が流布しているだけ。
      という理由で支持できない、というもの。
  • 多くの研究者も同様の見解

    • 極端な「AI神話」のようなものはメディアやSF的言説であり、現場のAI研究者はむしろ「AIにはまだまだ限界も多い」と理解しています。
    • 一部の特定タスク(大規模データ処理や数理最適化など)では人間を超える速度・精度を出せますが、それは「汎用の知能」とは別物です。
  • 人間の脳とAIの性質は根本的に違う

    • 可塑性と生物学的頑丈さを備えた脳/電気信号を基本とするコンピュータ回路、という構造の差は相当大きい。
    • ただし、将来的に生物学的プロセスを取り入れた“バイオコンピュータ”が研究されるなど、新しい可能性も議論はされています。
  • 結局は“使いどころ”の問題

    • AIは全能ではないが、特定分野では非常に優秀なツールになっている。
    • 一方、人間の脳は自らの体を維持する(血液循環、代謝、免疫など)生物的システムと深く結びついている。
    • それぞれの特性や強み・弱みを理解し、どのように社会に組み込んでいくかが今後の課題になるでしょう。

総じて、質問者さんの考え方には多分に妥当なところがあり、メディアの報道や一部のSF的言説に対して懐疑的な視点を持つことは極めて重要と言えます。AIと人間脳の比較については、技術的・生物学的・哲学的な多角的視点が必要であり、「どちらが上か・下か」の単純な二分法は成り立たないのが現実です。

Discussion