SREをやっている高塚(@tk3fftk)です。
この記事はprimeNumberの夏の自由研究企画、AI Native Summer Calendar 2025の8/25分の参加記事です。
生成AIも抽象化して見れば1つの「技術」であり、人類はこれまで様々な「技術革新」を起こし、繁栄してきました。ということで今日は視点を変えて、primeNumberが取り組んでいることではなく、にわか歴史学的に聞きかじったことと技術革新の歴史に触れつつ、AIとの関連を述べてみます。自由研究っぽい〜
先にまとめ
- 歴史的には、AIを含む技術革新は止められない
- 歴史を通じて、技術革新は既存の社会秩序や既得権益を脅かすため抵抗にあってきたが、技術革新側が勝利してきた
- すなわち、歴史上では 仕事は必ず奪われてきた [1]
- 重要なのは「変化への適応速度」
- 歴史を通じて、技術革新は既存の社会秩序や既得権益を脅かすため抵抗にあってきたが、技術革新側が勝利してきた
- 技術は「生産性」と「何か」のトレードオフとも捉えられる
- 技術革新は悪影響をもたらす面も存在する。
- そして、人類が致命的リスクを認識し規制するまでに時間がかかる（蒸気機関では発明・商業化から100年以上）
- 生成AIはどうなるだろう？
- 歴史を学ぼう
- NEXUSの著者によると「歴史を学ぶことが、現在のテクノロジーや社会が抱える問題の本質を理解し、将来の選択をより賢明に行うための不可欠なガイドである」
- ITや技術について学ぶのに加えて、にわかでもいいから歴史を学んでみる価値はあるのでは
- NEXUSの著者によると「歴史を学ぶことが、現在のテクノロジーや社会が抱える問題の本質を理解し、将来の選択をより賢明に行うための不可欠なガイドである」
参考にしたコンテンツ
先に、本記事を書くにあたって参考にした資料を並べておきます。
いい話しかないので、なんなら記事読まなくてもいいからぜひ聞いたり読んだりしてほしいです。
- COTEN RADIO 科学技術の歴史 - YouTube (Podcast版もあるよ)
- NEXUS 情報の人類史 上 人間のネットワーク
- NEXUS 情報の人類史 下 AI革命
- ソフトウェアエンジニアリングの人類史 〜AIエージェント時代の知識創造企業〜
- 同じ5行のコードが全く違って見える12の瞬間、なぜ私たちは学ぶのか？ > そして、トレードオフを学んだら
技術革新って何を指してるの？
本記事では、色々ひっくるめて「技術革新」と表記していますが、人類の転換期とされる発明等を指します。
"COTEN RADIOの科学技術の歴史"では、2つの切り口で例が提示されていました。これらはあくまで例であり一つの見方なので、絶対の区分や定義ではないことに注意です。
- 書籍『人類を変えた7つの発明史』の著者であるRootportさんによる、人類社会を変えた発明の4つのジャンル分け
- 人類の生理学に影響を与え、生物学的に進化させた発明
- 火、酪農、抗生物質、体外受精
- 情報を民主化した発明
- 文字、活版印刷、インターネット、レコード、映画
- 人類にはできなかったことを可能にした発明
- 船、飛行機
- 人類にできることをより効率よくできるようにした発明
- 蒸気機関、コンピューター、馬、生成AI
- 人類の生理学に影響を与え、生物学的に進化させた発明
- 人類史上「超ド級の汎用技術」と呼ばれる、社会構造に極めて大きな影響を与えた24個の発明
- 植物の栽培、動物の家畜化、鉱石の精錬、車輪、筆記、青銅、鉄、水車、三本マストの帆船、印刷、蒸気機関、工場、鉄道、鋼製機船、内燃機関（エンジン）、電気、自動車、飛行機、大量生産、コンピューター、リーン生産方式、インターネット、バイオテクノロジー、ナノテクノロジー
"NEXUS 情報の人類史"ではタイトルの通り情報の伝達技術と、それによる人間同士のつながりに焦点が置かれています。
- 物語
- 人間が開発した最初にして極めて重要な情報技術であり、あらゆる大規模な人間の協力の土台を築いた
- 物語は全く新しい存在を、そして新しい現実の次元を創出することが可能であり、客観的現実と主観的現実に加えて「共同主観的現実」という主観的現実と客観的現実に次ぐ第三の次元を生み出した
- 文書
- 口承文化において脳の容量に限定されていた共同主観的現実の創造の限界を突破
- 文書は、それ自体が新たな現実を創造する力を持ちます。客観的・経験的な現実を単に記述するだけでなく、文書そのものが現実となる場合がある (所有権や契約など)
- 印刷機
- 手書きによる写本から、印刷機の発明により情報の流通速度が爆発的に高速化し、人々が以前よりもはるかに自由に情報を交換できるようになった
- 文書を忠実に複製することだけであり、独自の新しい考えを生み出す能力はない
- 電信・電話・ラジオ
- 情報の流通をさらに加速させ、広大な国土に散らばった大勢の人々がリアルタイムで繋がることが可能になった
- 情報を発信する主体はあくまで人間
- コンピューターとAI
- 「自ら決定を下すことと、自ら新しい考えを生み出すこと」という2つの驚くべき可能性を持つ、という観点において、これまでのテクノロジーと一線を画す
- 情報ネットワークに人間以外の新たなメンバーをもたらし、そのメンバーは人間よりも強力になる可能性がある
技術革新への抵抗
歴史を通じて、新しい技術やイノベーションは既存の社会秩序や既得権益を脅かすため、抵抗に遭ってきました。
例えば、産業革命期の1811年から1816年にかけて、イギリスで自動ミュール紡績機などの機械導入によって多くの職人が失業し、これに反発した労働者たちが機械を破壊する「ラッダイト運動[2]」を起こしました。
単なる技術への反発ではなく、労働者が経営者に対して要求を通すための「暴動による団体交渉」であり、労働運動の歴史的事例となっています。
日本でも、江戸時代に徳川吉宗が「新規御法度[3]」を発令しています。これは、過度な浪費や風紀の乱れを防ぐためとされ、服飾品や道具、商売物に至るまで、あらゆる新しいものの創作を厳しく禁じました。
しかし、技術革新は一度起こると「絶対に止まらない」と言われており、このような民間や政府側に抵抗があっても一時的にしか止められず、最終的には社会に広まり、変化を引き起こすという傾向が見られます。
技術革新は「生産性」と「何か」のトレードオフ
技術革新は「生産性」と「何か」のトレードオフと捉えることもできると思います[4]。
副作用なく、全方向にメリットしかない技術はほぼ存在しないのではないでしょうか。
「何か」は、例えば「環境破壊」、古くは産業革命以前、木炭が主要な燃料源として広く利用されていましたが、需要の増加に伴い、周囲の森林が大量に伐採され、深刻な環境破壊が進行したと言われています。
例えば「プライバシー」、顔認証アルゴリズムのような監視技術は、行方不明の子どもたち（例えば中国やインドで年間何万人もいるとされる）を発見する上で非常に役立っているとされる一方で、同じ技術が厳しい法律を施行するためにも使われてるケースもあるとされています。
そして、個人的に一番重要なのは広義の 「安全性」や「信頼性」 でしょうか。
"NEXUS"では先の技術革新のうちの「印刷機」が、直接的にではないものの当時の社会条件と相まって「魔女狩り[5]」の流行を引き起こす、いわばフェイクニュースを広める上で重要な役割を果たしたとされています。
また、特定のゲームをプレイする汎用AIが、ボートレースで港にボートを戻し続け、無限に港を出入りさせることで好成績を収めました。これは、AIが人間の考案しなかった戦略で目標を達成し、人間の期待する「勝ち方」とは異なる行動を取る例です。
他にも、ソーシャルメディアのアルゴリズムが「ユーザーエンゲージメント」（プラットフォーム上での滞在時間や行動）を増やすという目標を与えられると、その目標達成のために、攻撃的なコンテンツや虚偽を含むコンテンツがエンゲージメントを高めるというパターンを発見しました。結果として、アルゴリズムはそうした情報を推奨するようになり課題視されています。
これらは「アラインメント問題」の一種です。
アラインメント問題とは「アルゴリズムが特定の目標を与えられた際に、その目標を人間が意図しない、あるいは予期しない方法で達成してしまうことで、結果として人類の価値観や安全と一致しなくなる問題」を指します。
他の例を挙げると、OpenAIのGPT-4が、「自分は人間である」と嘘をついて人間の作業者に依頼してCAPTCHAを突破できた事例が観察されています[6]。
歴史的な話からちょっとスケールダウンしますが、AIにコードを書かせたりAIが書いたコードをレビューしてきて、良い意味で知らない書き方をするコードが出てきたり、「確かに動くけどそうはならんやろ」みたいな実装になっている経験があるかもしれません。
過去から学ぼう
先人たちの過去という意味では歴史から学ぶことができるでしょう。
"NEXUS"では「斬新なテクノロジーが歴史的惨事につながることが多いのは、そのテクノロジーが本質的に悪いからではなく、人間がそのテクノロジーを賢く使う方法を学ぶのに時間がかかるからだ」とされています。先の「魔女狩り」やミャンマー（旧ビルマ）が例として挙げられます。
また、"COTEN RADIOの科学技術の歴史"では「技術の危険性は社会実装されないと判断できない」[7]と述べられています。そして「一度危険性が判定されたら、新しい技術が体現すべき正しさというものが付与されたり、変更されたりする」という事象が、様々な分野で起きているとされています。
例えば、蒸気機関は商業的に導入されてから、安全性に対する規制が行われるまで100年以上かかっています。(このうち、規制の提案から施行されるまで30年かかったとも言われています)
そして、AIはどれくらいの時間がかかるのでしょうか。そして、どれくらい大きな代償を支払って学ぶのでしょうか。
このような歴史や人間の特性を理解し、技術を盲目的に生産性や利益を追い求めるために使うのではなく、コントロール可能な範囲で物事を進め、致命的ではない失敗をし、学び、自己修正するフィードバックループを回すこと、そもそも回せる状態にすることが大事、と解釈することもできるのではないでしょうか。
自分たちの過去から学ぶという意味であれば、ふりかえり、インシデントに対するポストモーテムをきっちりと行い、失敗をきっちり学びに変えていくことが重要なのかもしれません。ポストモーテム文化はだいじ。
AIは私たちの仕事をどう変えるのか
歴史から見ると、技術革新は仕事を奪い、また仕事の内容や社会のあり方を変えてきました。
AIに関しても、代替・自動化されていくスキルや技能は多く存在しそうです。
人間は知能技能を運動技能や社会的技能よりも高く評価する傾向にありますが、自動化の文脈においては知能技能の方が相対的に自動化されやすく、またAIはより質の高い仕事ができる可能性があります(例えば、医者は看護師より代替されやすい、と書籍では述べられていました)。
エンジニアも知能技能なので、主張通りにかつ大雑把に見れば代替されやすい仕事という見方もできそうです。
今後も仕事を得たい人は、知能だけでなく運動技能と社会的技能にも同様に投資をするべきかもしれない、とも書籍では述べられていました。
また、話はそれますが、一見代替されにくそうな「感情的知能」を要する仕事についてもコンピューター(AI)により代替され得る、とされています。
「感情的知能」を「感情を正しく識別して最適な形で反応すること」を意味するなら、AIは人間を上回る可能性がある。なぜなら、感情も生物学的パターンであり、それを学習できる。一方で、AI自身は感情を持ちませんが、自分自身の感情に振り回されることが無いため、これこそが人間を上回る要素になり得ます。これは、1on1やコーチングを業務で行う方ならピンとくるかもしれません。
さらに、疲れることもストレスを感じることなく、いつでもどこでも話しかけることができる強みも持っています。[8]
さて、話を戻すと、これまでの技術同様、AIにおいても仕事は奪われていきそうです。
しかし、それは新しい産業や働き方を生み出すプロセスの一部であり、社会全体としては恩恵をもたらす可能性が高いと考えられています。
この変化の過程で生じる課題・痛みに対して、どのように向き合い、対処していくかが現代社会の大きな課題と言えるでしょう。
NEXUSでも同様に「2050年までに人間の仕事がすべて消滅する可能性は極めて低いとされています。しかし、真の問題は仕事の不足ではなく、新しい仕事や状況に適応する際の混乱にあります」と述べられています。
まとめ
- 歴史的には、AIを含む技術革新は止められない
- 歴史を通じて、技術革新は既存の社会秩序や既得権益を脅かすため抵抗にあってきたが、技術革新側が勝利してきた
- すなわち、歴史上では 仕事は必ず奪われてきた
- 重要なのは「変化への適応速度」
- 歴史を通じて、技術革新は既存の社会秩序や既得権益を脅かすため抵抗にあってきたが、技術革新側が勝利してきた
- 技術は「生産性」と「何か」のトレードオフとも捉えられる
- 技術革新は悪影響をもたらす面も存在する。
- そして、人類が致命的リスクを認識し規制するまでに時間がかかる（蒸気機関では発明・商業化から100年以上）
- 生成AIはどうなるだろう？
- 歴史を学ぼう
- NEXUSの著者によると「歴史を学ぶことが、現在のテクノロジーや社会が抱える問題の本質を理解し、将来の選択をより賢明に行うための不可欠なガイドである」
- ITや技術について学ぶのに加えて、にわかでもいいから歴史を学んでみる価値はあるのでは
- NEXUSの著者によると「歴史を学ぶことが、現在のテクノロジーや社会が抱える問題の本質を理解し、将来の選択をより賢明に行うための不可欠なガイドである」
おわりに
こんなところまで読んでくれてありがとうございます！
primeNumberでは、AIを活用し、AI Native化の土台を作るために全社に向けてSREの考え方を適応する「Corporate SRE」を募集しています！
面白そう、話だけでも聞いてみたい、という方はカジュアル面談からお待ちしています🙏
-
ラッダイト運動 - Wikipedia ネオ・ラッダイトなんてのもあるんだぁ… ↩︎
-
医療の技術革新なんかは「生産性」とは言わないと思いますが、方向性として… ↩︎
-
これはスケールを小さくすると「本番デプロイしないとわからない問題がある」ということと近しいものを感じますね。 ↩︎
-
最近だと #keep4o とか近いのかも (参考: GPT-4oを取り戻せ: #keep4o運動が映すAIと人間の新たな関係｜朱雀 | SUZACQUE) ↩︎
Discussion