AIが仕事を奪う未来より、責任が増殖する未来

どうも、AIエンジニアの@noprogllamaです。

AIの進化が進むと、本当に我々の仕事は奪われてしまうのか。

最近、この問いを考える時に、少し違う補助線を引くようになりました。

仕事が残るかどうかではなく、「責任がどこに残るか」を見た方が、未来の輪郭が見えやすい気がしています。

AIは作業を減らし、システムを増やす

AIが得意なのは、内部の作業を圧縮することです。

コードを書く。テストを書く。ログを読む。文章を整える。要点を抜き出す。過去の情報を探す。

こういう作業は、これからさらにAIに寄っていくと思います。

たぶん、人間が手を動かしていた時間はかなり減ります。

しかし、話はそこで終わりません。

作業のコストが下がると、人はより多くのシステムを、より高頻度で構築するようになります。

これまで費用対効果が合わなかった小さな自動化、個人用の業務支援、部署ごとの補助ツール、顧客ごとに少し違うワークフロー。そういうものが、以前より簡単に作れるようになります。

作業が減る。でも、システムは増える。

システムが増えると、責任の境界も増える

システムは、内部だけで完結しません。

必ず外部と接します。

顧客、組織、法律、契約、現場の運用、既存システム、ブランド、感情、責任分界。

内部処理がどれだけ自動化されても、この外部との接触面は残ります。

むしろ、AIがシステムを大量に作れるようになるほど、接触面も増えます。

一つの大きなシステムを作る時代から、小さなAI駆動の仕組みが無数に生える時代になるなら、問題はコードの量ではなくなります。

どのAIに、どこまで権限を渡すのか。

どの判断は自動化し、どこで止めるのか。

失敗した時に、誰が説明するのか。

補償できない規模の被害を出しうる仕組みを、補償能力なしに動かしてよいのか。

こういう問いが、システムの数だけ増えます。

「AIが作業を片付けるほど、人間は暇になる」。そんな牧歌的な未来は、おそらく訪れません。

AIは責任を取れない

AIは高度な判断を出力できます。LLM（大規模言語モデル/Large Language Models）の進化により、その出力の多くは今や、人間以上に筋が通っていることも珍しくありません。

ですが、責任を取る主体にはなりにくいです。

AIには評判の毀損がありません。自由の制限もありません。資格を失って生活が崩れることもありません。家族や友人との関係が壊れることもありません。

一方、停止されることはありますが、それをAI自身が責任を取ったと呼ぶのは、かなり難しいです。

責任という仕組みは、どこかで生身の人間に波及する不利益を背景にしています。

評判、自由、信用、財産、資格、地位。

それらを失う可能性があるから、社会は責任を本気のものとして扱えます。

AIには生身がない。

AIには、人間が「責任を取った」と納得できるだけの痛みの物語がありません。

少数の人間が全部背負う未来は壊れる

さて、ここでもう一つの問題が立ち上ってきます。

AIが痛みを引き受けられないなら、人間が矢面に立つしかない。

それはそうです。

ですが、AIがシステムを大量に増やすなら、最終的な判断の数も大量に増えます。

そのすべてを、少数の人間が「最終的な担保者」として抱え続ける構造には、明らかな限界があります。

単に「承認ボタンを押す役割」の人だけが増えていく未来は、おそらく長くは持ちません。

人間は無限にリスクを背負える存在ではありません。失敗した時に、評判も自由も信用も失うかもしれない判断を、毎日大量に引き受け続ける生活を続けるとするなら、おそらく大半の人は精神を危険な状態に晒すのではないでしょうか。

便利になったはずなのに、なぜか胃が痛い。

そういう未来は普通にありそうです。

人間の仕事は、責任を分解する側へ移る

では、どんな仕事が残るのか。

私は、人間の仕事は責任を運用可能な単位に分解する側へ移ると思っています。

AIに何をさせるかを決める。

どこで止めるかを決める。

誰が確認するかを決める。

たとえば、プロンプトで「機密データには触れるな」とAIに誓約させるのではなく、実行環境のIAM（Identity and Access Management）レベルで権限を切り離し、AIが物理的に越権行為を行えないアーキテクチャを組む。

あるいは、自動化システムにおいてAIに実行用のAPI（Application Programming Interface）キーを直接渡すのではなく、AIには「非同期のシグナル生成」のみを担わせる。そして、完全に決定論的な（非AIの）別システムが、そのシグナルを数学的な制約に照らし合わせて検証してから初めて物理的な処理を代行する、といった設計です。

これは単に「誰が泥をかぶるか」という苦痛の押し付け合いではありません。AIの行動をどこまで予見し、どこまで回避可能にするかという、かなり具体的な統治（ガバナンス）の設計です。

失敗時にどこまで補償できるかを決める。

ログをどう残すかを決める。

監査できる形にする。

危険な権限をまとめて渡さない。

これらは、コードを書く仕事とは違いますが、システムを作る仕事から切り離せません。

AIが内部作業を肩代わりするほど、こういう責任境界の設計が前に出てきます。

今後、市場価値を尖らせていくのは、単に「AIのプロンプトや実装に詳しい人」ではありません。

AIが作る仕組みを、どこまで社会に接続してよいか判断できる人です。

責任を一人に押しつけず、分解し、監査し、停止できる形にできる人です。

現場の感覚、法律、利用者の納得、組織の許容度、補償能力。

それらを見ながら、AIを境界面に置く人となるだろうと考えています。

仕事はなくならない。ただし、形はかなり変わる

人間の仕事はなくならない。

この言い方自体は、たぶん正しいです。

AIは責任を取れません。

そして、AIが増やすシステムの分だけ、責任の境界も増えます。

ただし、それは今ある仕事がそのまま残るという意味ではありません。

内部作業や、確認作業、単純な調整は減っていくでしょう。

その代わり、何を自動化してよいか、どこで止めるか、誰に責任が帰属するか、失敗時にどう説明するか、という仕事が前に出てきます。

手を動かす仕事から、境界を設計する仕事へ。

作業をこなす仕事から、責任を配置する仕事へ。

私自身、日々AIを活用したシステムを設計する中で、コードのロジックそのものよりも「万が一の際、誰がどうやって被害を食い止めるか」という泥臭いフェイルセーフの設計に神経をすり減らす時間が増えているのを痛感しています。

AI時代の本質とは、人間が労働から解放される未来ではなく、人間が「リスクの境界面」へと押し出されていく未来なのです。

そしてその境界面は、AIが賢くなればなるほど、確実に増殖していくことになります。私たちはその肥大化する重圧を、どうハンドリングしていくべきなのでしょうか。

AIで仕組み化する実践知を発信しています → @noprogllama