扱いたい問題 汎用AIと意識
こんにちは おじさんです。
おじさんが富士通の新入社員だったころ、同期はみんなAIをやりたいっていっていたけど私はOSをやりたかった。
1987年は第2次AIブームで、ファジーとかエキスパートシステムとかで業界は浮かれていた。ITの大量採用がはじまったのもこのころだった。私の会社も400人の会社に120人の新人を採るということで私もその一人だった。
PCが一般家庭どころか会社にもほぼない時代、学生時代からプログラミングでアルバイトしていた自分にはブームに浮かれている業界が滑稽だったし、人工無能的なAIというものに興味が湧かないどころか嫌悪していた。
それよりも、私の書いた「プログラム」を「OS」という地位から支配しているその仕組みが知りたかった。INT21カーネルコールで書き、失敗するとシステムごと死んでしまうOSしか知らない私は、仮想メモリや保護モードでできた死なないOSの仕組みを知りたかった。
現在、MNISTに始まるDNN技術に一定の評価をしつつも、やはり「なんかちがう」と感じてしまう。
マネタイズを急ぐような技術ばかりがおおはやりだ。人工無能的な「不自然でないだけ」の意味のない文章生成や「これは使える」と思ったものに出会ったことのないchatシステムなどに興味はない。
しかし、PCを支配するOSを知りたかったように私の興味を引くことが１つある。終わりゆく技術者人生で最後に扱うべきはこの問題だ。それは「シンギュラリティに必要なミニマムセット」を定義すること。
汎用AIと意識。すぐにはカネにならないので企業が扱わない問題だ。でもロマンがある。
これまで「これは私の興味に近い研究かもしれない」と思ったものが３つある。
ちがうということは同じ研究をした人がいないということで、いいことなんだけどね。
広大な知識ベースを持っていても解けない問題
- クイズタイムショック（古！）での「今何問め？」
これを正解するためには今までの体験や思考が記録されていて瞬時に利用できないといけない。
これが意識。
汎用AI
よく言われるフレーム問題。AIシステムは前提としている環境があるのでそこから逸脱するととたんに的外れな答えを導き出すというもの。
これを私の提唱する「子猫モデル」で解消したい。
汎用AI
事前にアルゴリズムと正解データがないと学習できないものでは汎用化はできないと思っている。学習ロジックも、正解データを探すのも「生まれた」ときのロジックでずっと一生学習を続け賢くなり続けなければいけない。それには「環境から学ぶ」ことが重要だ。正解は環境の中にある。既存の教師なし学習だけではフレーム問題を解消できない。
子猫モデル
セマンティックセグメンテーションというものがある。事前に何万もの写真と物の名前を学習し、写真の中にある物体の位置と境界線と名前をあてるというものだ。
これはこれで素晴らしいが、環境から学んでいない。だから限界がある。学習していないものは検出できない。
それに対して私が解こうとしている問題「子猫モデル」はこう
生後1か月くらいの子猫を想定してほしい。人間に育てられた子猫は家族の見分けがつくようになっている。いつも餌をくれるおかあさんと餌をくれないおとうさん。おなかがすいたらおかあさんに向かって鳴く。
一方、同じときに生まれた別の子猫は母猫と兄弟猫の中で育った。母と子猫、子猫のどいつがいつも自分をいじめてどいつがおとなしいかをわかってる（たぶん）。
兄弟猫それぞれにラベルはついていないし、正解データもない。名前もついていない。でも区別している。人間に育てられた子猫にはそれができない。子猫どうしの区別はつかない。それが環境から学ぶということ。同じ母親から生まれた兄弟猫でも環境によって識別できるものは変わってくる。それを使って生きていく。
スタート時点のロジックは一緒でこれを可能にする。これが私が解きたい問題だ。
赤ちゃんが人見知りするようになるとき、女の人はへいきなのに男の人がだっこすると泣く。
というのも同じ問題。でもちょっと違う。
子猫問題は既知の子猫どうしを区別するというものだか、赤ちゃんは未知の人でも女の人なら平気、男の人は苦手と判断する。未知の個体に対しても学習したカテゴライズにより判別し、行動を変えられるのだ。こちらのほうが少し高度。これが次に解くべき問題。
Discussion