シンギュラリティはいつ来るのか【論文要約】
はじめに
こんにちは、AIエンジニアを目指しているmitaです！
今回は、
When Will AI Exceed Human Performance? Evidence from AI Experts
という2018年5月にKatja Grace氏らが発表した、AIが人間を超える時期を予測する大規模調査論文を要約 & 考察していきます。
論文要約
- 世界中の機械学習研究者に対して、AIが人間を超える時期をアンケート
- HLMIの到来時期や、すべての職業が自動化される時期を確率的に予測
- 地域や経歴による予測の違いを分析
- AIの社会的影響や「知能爆発」の可能性についても調査
論文詳細
論文の全体的な流れは以下のようになります。
1. 調査対象：NIPS・ICML2015の論文著者1634人（回答者352人）
2. HLMI到来や各種タスク達成時期を確率で予測してもらう
3. 地域別・経歴別の予測傾向を分析
4. AIの社会影響や安全性についての意見を集計
前提：HLMIの定義
本論文では、高水準機械知能（HLMI: High-Level Machine Intelligence）を以下のように定義しています。
補助なしの機械が、すべてのタスクにおいて人間の労働者よりも優れ、かつ安価に実行できる状態。
つまり、単に特定分野で人間を上回る「特化型AI」ではなく、汎用的に人間の能力を凌駕するAIを指します。
さらに、全職業の自動化予測も出しており、その定義は下記のようになります。
あらゆる職業が完全に自動化可能な状態。
つまり、どの職業においても、人間より優れ、かつ安価にその仕事をこなす機械を構築できる状態。
1. HLMI到来の予測
- 50%の確率で45年後（2061年頃）
- 10%の確率で9年後（2025年頃）
- 地域差が大きく、アジア平均は30年後、北米平均は74年後
2. 全職業の自動化予測
- 50%の確率で122年後
- 10%の確率で20年後
- HLMIよりかなり遅い予想
3. 具体的なマイルストーン予測（50%確率）
- 翻訳（2024年）
- 高校エッセイ執筆（2026年）
- トラック運転（2027年）
- 小売業務（2031年）
- ベストセラー執筆（2049年）
- 外科医（2053年）
地域差の発見
- アジアの研究者は北米より平均44年早くHLMI到来を予測
- 中国：中央値28年、アメリカ：中央値76年
- 引用数やキャリア年数では予測差が出ず、地域差が主要な要因
知能爆発と社会影響
- HLMIの2年後に「全タスクで圧倒的性能向上」：中央値10%
- HLMIの2年後に「技術進歩の爆発的加速」：中央値20%
- 長期的に「非常に良い結果」：20%
「非常に悪い結果（絶滅など）」：5% - AIリスク低減研究をもっと優先すべき：48%
個人的な意見
本論文のテーマは、OpenAIのCEOであるサム・アルトマン氏が2027年ごろにAGI誕生の可能性を示唆し始めた頃から、私自身が強く関心を持っていた分野です。
論文では「知能爆発」という言葉を使っていますが、これは私の考えるシンギュラリティに近い概念だと捉えています。
私の中でシンギュラリティとは、「自らの性能を超えるAIを設計できるAI」が登場する瞬間を指し、その状態になれば、これまで「仕事」と呼ばれていた活動はほとんど意味を失うのではないかと考えています。
この論文におけるHLMIは、そのシンギュラリティにかなり近い状態といえます。
そして調査結果によれば、45年後には50%の確率で現実化する可能性があるとのことです。
この予測を踏まえて、私が考えたのは次の3点です。
- 今後、人間はどのようにお金を稼ぐのか
- 効率化されても、労働時間は本当に減るのか
- 「自分より賢いAIが当たり前」の世界はどんな場所か
AIが全ての仕事を代替した場合、それまでその仕事で生活していた人たちはどうやって生きていくのでしょうか。
ハードウェア開発に人が回されるのかもしれませんが、それすらもAIが代替する可能性があります。AIの動作保証や監視といった役割すら不要になるかもしれません。
もちろん、AIを使ったサービスを提供する企業や、多くの人に使われるAIを開発する企業は利益を上げるでしょう。
しかし、それらの業務もAI自身が行うようになったら、人間に残る役割は何なのでしょうか。
そう考えると、「仕事」というものは本質的には人生の暇つぶしなのでは、と極端な思考にも至ります。
やりたくないとは言いつつも、生きている意味を探し、他者に貢献している感覚を得て自分は価値ある人間だと思いたいがために仕事をしている気がしてきます。
ただ、HLMIに到達した社会では、生産性は現在の数十倍に跳ね上がると予想されますが、日本において労働時間が大幅に短縮される姿はあまり想像できません。
むしろ、余った時間に別の業務が割り当てられ、上がった生産性の分だけ仕事が増える可能性すらあります。それでは生産性向上の意味が薄れてしまいます。
また、「自分より賢いAIが当たり前」という世界では、人間の生活はどのように変わるのでしょうか。
アニメ『PSYCHO-PASS』のように、絶対的価値基準をAIが策定し、人間の意思決定がほとんど介入しない社会が訪れるのかもしれません。
しかし、私は「人生は不確実だからこそ面白い」と考えているので、自分の人生をあらかじめ決められた状態で何十年も生きることには強い抵抗を感じます。
この論文を読んで、未来のAI社会がもたらす恩恵と同時に、その中での人間の立ち位置や生き方をより真剣に考える必要があると感じました。
Discussion