ChatGPTの言動について考えたこと

きっかけは、「数学ガール」シリーズで有名な結城さんのツイートを見たことからです。
結城さんも書いているように、結城さんとChatGPTとのこのやりとりは結構長いのですが、最後まで読んでいただければと思います。

結城さんの実験を見ると、まずは驚きますよね。
でも、よく考えるとChatGPTの本質が見えてくるかなと思ってこの記事を書きました。

この結城さんとのやりとりを読むと、ChatGPTはあたかも人間と同じような思考過程を経ているように見えますが、ChatGPTにそういう仕組みがあるわけではないので、実はそうではないということですね。
ChatGPTがやっていることは、単に「次の単語を予測する」ということだけなので、ChatGPTに思考の内的過程を感じるのは我々の錯覚ということになります。
ChatGPTの終盤のレスを読むと、結城さんが中盤で矛盾する問いかけを繰り返しているときに、ChatGPTが心の中で葛藤をしていたかのような印象を受けてしまいますが、実はそうした内的過程は存在しません。
たとえば、会話の終盤に以下のようなChatGPTのレスがあります。

私が途中で「矛盾していますよ」や「堂々巡りですよ」と指摘しなかった理由は、AIとしての判断や配慮からです。会話の進行上、相手の意図を尊重し、話題を提供していただいた範囲内で対応することを優先していました。また、ユーザーが矛盾や堂々巡りについてどの程度自覚しているかが明確ではないため、無闇に指摘することで不快感を与える可能性があると考えました。

このような告白を見ると、あのときChatGPTは内心こんなことを考えていたのか・・・と思ってしまいます。
しかし、このChatGPTの告白は、結城さんが自分の仕掛け（わざと矛盾することを言ったり同じことの繰り返しを言った）を告白するテキストを入力した後に、その結城さんのテキストのインプットを受けてはじめて生成されたテキストであり、それ以前にはそうした内的過程が存在した訳ではないというところがミソです。
言い換えると、結城さんの告白が入力された後に、その結果生じた文脈に、その時点で最もふさわしい応答を算出しただけです。結城さんの告白が入力される前にはその文脈は存在しなかった、というのがポイント。ある意味、後出しジャンケンみたいなものかな・・・
しかし、我々はこのやりとりの全体を見て、実は事後的な文脈から算出されたに過ぎないテキストに、存在しなかった過去の内的過程があたかも存在していたかのように受け取ってしまう。ChatGPTの内的過程という虚像を見てしまう。
なので、チューリングテスト的には合格ということになるのではないでしょうか。

ただ、このように単に「次の単語を予測するだけ」で、このようなやりとりができるということは驚きでしかありません。仕組みとしては、ある意味ELIZAや人口無能を、コンピューティングパワーとデータ量で精緻化したものと言えなくもないと思います。
また、ここまでくると、人間も案外似たような仕組みでしゃべっているのでは？と思わなくもないですね。
さらに言えば、人間の内的過程ってホントに存在するの？っていう疑問は当然ありで、実は人間の内的過程も虚像、錯覚なんじゃないか？という可能性もあり？まあ、全てではないにしても・・・

いずれにしても、 — 賽は投げられた — ということで、世の中が変わる何かが始まっちゃった気はしますね。