【情報収集】AIが出力する情報の正誤判定をするには前提知識と基礎が必要なので、初学者が教えを請うのは難しいのではないかという説

はじめに

うそはうそであると見抜ける人でないと（掲示板を使うのは）難しい
西村博之

対象

• AIに教えを請うことを考えている初学者向け。

我々の頭の中のフィルター

知識のフィルターは恣意的な運用が可能である

我々が何らかの知識を得るとき、そこにはフィルターのようなものが存在します。関所と言い換えてもいい。受け取った知識自体が何か胡散臭い・怪しいと思うと、多くの人はその知識を価値のないものとして付箋を貼り付けておくか、数日後には聞いたことすら忘れてしまいます。

もし受け取った知識が自分にとって有用であるか、今後生きていくために必要と感じる場合は、重要度の高い情報として頭の中に格納されます。近くで事故や事件が発生した、水曜日にスーパーの特売がある、資格試験の頻出箇所である。そういった価値の高い情報です。

問題はこのフィルターの運用が、怠惰で愚かな我々自身に裁量を委ねられていることに尽きます。面白い漫画の細かい情報や、日常生活で使わないであろうウンチクまで。客先との飲み会で話題の引き出しが必要などといった理由もなく、ただ自分が欲しい情報だけを食う。

あるいは情報の真偽を正しく判断することができず、誤った情報をあたかもそれが真実だとして記憶してしまう。これは期間が長ければ長いほど、修正は容易ではなくなります。

誤情報「私は正しい情報です！」
私の頭の中のフィルター「よし通れ！」

古い情報「私は最新の情報です！」
私の頭の中のフィルター「よし通れ！」

信じて受け容れること・疑い跳ね返すこと

ではもし何もかも信じられず、全てのものを通さないフィルターがあるとしたらどうなるでしょうか。そう、何も知識を吸収することができなくなります。だから付随する様々な情報を加味した上で、信ずるに値する情報だけを通すようにする訳です。

例えば、情報セキュリティに関する情報はIPAや徳丸先生の本など、信用できるところが発信元か調べるとか。公式ドキュメントやソースコードなど、一次情報を直接確認するようにするとか。

問題はこの基準を意識する機会が、人によってはほとんどないことです。

親が言ってるから正しい、教科書に書いてあるから正しい。果たして本当にそうでしょうか。親だって人間ですから間違うことはありますし。歴史なんて新しい発見で起きた時期が変わることもありますし、歴史は勝者によって作られるなんて言ったりもしますが……。

しかし子どもの頃から全てを疑ってかかることなんてない筈です。というか、疑うにしても疑い方を知りません。正誤を判断するなんて無理でしょうし、生存戦略的には自身が属するコミュニティにおける常識に、疑いを投げかけることは悪手でしょう。迎合するのが賢明です。

今まで頭に入れてきた知識は、本当に全て正しいのか。足元がぐらついてくる感じがしますね。人の記憶や知識なんて、そんなもんです。だから常に何が正しいのか・新しいのかを確認して、新陳代謝していくことが必要です。

AIに教えてもらえばいいという風潮

AIが出力したから正しい？

ChatGPT の回答は必ずしも正しいとは限りません。重要な情報は確認するようにしてください。
ChatGPT

AIが出力した情報の正誤判定

「ChatGPTに教えてもらった」「AIがそう言っていた」だけの情報を、まるで正しい情報であるかのように、右から左へ受け流す方が現れ始めているようです。AIが出力した回答が正しいとは限りません。チャットの一番下にも書いてあることです。

AIに教わること自体を否定はしません。実際、簡単なことなら検索するより聞いたほうが早いかもしれません。問題はその情報の正誤判定はどうやって行うのか、ということです。

初学者には正誤を判定するような前提知識や基礎がありません。AIが参考にしたURLは、果たして信じていい情報源でしょうか。情報ソースは正しくても、出力された内容と食い違ってはいませんか。間違っているかもしれないという違和感にどう気が付けばよいのでしょうか。

全くの初心者はまず茶こしを作れ

入門書を1冊きちんと読みましょう。体系的にまとまってるものがいいと思います。どの本を買えばよいか。それも検索したり、詳しい人に聞いたりして調べましょう。

最初はフィルターどころか茶こしくらいの粗さでいいです。明らかにヤバいレベルで間違った情報を入れないように、最低限の知識武装をしておきたいです。情報の正誤を判断する能力は、結局のところ学ぶことによって身に付くものなので。

茶こしを装備した上で、最初の足がかりとしてAIに分からないところを聞く。そして必ず情報の裏を取る。自分が理解して制御できる以上のものを、AIに頼り切るのは軽率かなと思います。

知識を吸収するには信じて受け容れるしかないが、その情報が信用できるものか判断するには、やはりある程度の知識を有していることが前提になる。この矛盾を解決できない限り、最初から全部をAIに教えてもらうのは難しいと考えています。

侵食された知識への懸念

既にAIの情報を鵜呑みにして行動する人が発生しているようです。受験会場や実施日を間違えたり、議事録の内容を精査することなく提出したり。これらはまだ目に見える分、マシでしょう。

今後予想されるケースとして、自分の知識がそういった誤りを含む知識に侵食されているのに気付かず、それを前提に会話や議論を進めるケースが増えていくのではないか、ということです。

私はWebアプリを作るITエンジニアですが、要件定義や仕様調整では用語の定義の違いや、認識のズレが後々問題になることが多々あります。今までであれば書籍やWikiで担保されていたある種の正しさが、AIに聞いたなんちゃって知識になっている可能性がある。

そんなすれ違いコントのような状態で会議を進めていくことは、とても難しい間違い探しをしながら専門的な議論をするようなもので、面倒臭さは今まで以上になるのではないかと。

おわりに

人は一度間違って覚えた基礎や悪い癖を直す方が、とてつもなく苦手で時間がかかります。なので「初心者が真偽を判断する力を持つ前に、AIに教えてもらって済ませる」というのは危険な香りがしています。平気で嘘を付くことがありますし。

右と左を間違って覚えた後、直すのってしんどいでしょう？ 箸や鉛筆の持ち方でも、歩き方でもスポーツのフォームでも構いません。後から直したことがある方は分かると思いますが、癖が抜けるまで大変だった筈です。それが知識領域で起こるとか、あまり考えたくないですね。

なのでしっかり基礎を学ぶことの価値は、むしろ今と同程度か、今以上に重要になってくる気がするのですが。観測範囲ではAIに教わる人が結構いる気がします。本人がどうなろうが知ったことではないのですが、前述の通り仕事で議論が噛み合わないのは厳しい。

今後、動きを十分注視していきたいと思います。