AI の「認知バイアス」と「シンギュラリティ」

雑感：AIの「認知バイアス」と「シンギュラリティ」

最近AIを乱用しているわけですが、AIと人間の「知性」の違いが垣間見れるのは面白いです。よく言われるのは 「相関関係」 の把握は超絶得意だけど 「因果関係」 は苦手という点。なので最近の興味は「AI＋論理記述」で、その方向で色々実験してます。

で、「AI＋論理記述」に関してAIと話をしていたのですが、議論を色々こねくり回すと、AIにも「認知バイアス」的なものがあることが露呈してきて興味深かったです。AI自身に説明させると 「構造主義的知識処理バイアス」「認知整合性バイアス」「収束構造バイアス」 の類があるらしい。今のAIの学習手法を考えると当然かな。挑戦的な議論に誘導しても（プロンプトを工夫しても）大枠は無難にまとめあげる傾向があります。

そういえば、レポートもプログラミングも絵も曲も、一般受けする（前衛的でない）ものは、全体として従来主流のものとの整合性が確率的に高いものを生成すれば良いので（相関関係の領域）、そういう意味でもやはり「生成」AIなんだなと再認識した次第です。で、次（今）の流れは「推論」AI（特に因果関係の扱い）なんだろうな、と。

ただ推論AIまで行っても「構造主義的知識処理バイアス」はかえって強まるだろうなぁ…　MBA的頭脳だけでは革新的進歩は無理かなぁと思うと、シンギュラリティには起業家的なセンスを持ったAIが必要？　そんなセンスのAIとは？　それはアーティストに近い？　身体性や生への本能が無いモノにどこまで模倣できる？　逆に模倣する必要はある？　などなど…

興味は尽きません…

P.S.
ちなみになぜ「AI（LLM）＋論理記述」かというと、因果関係の扱いに加え、AI周りは進化が猛烈に早いので、AIシステムを構築する際、手順や構造を明示的に固定するのは得策ではなく、できるだけ制約条件（つまり要件）の論理的記述を軸足（宣言型プログラミング的アプローチ）にした方が良いのでは？という考えがベースです。