✈️

空の哲学、コードの哲学：AI時代のソフトウェア設計に学ぶ「あるべき姿」

に公開
AI
キャリア
ソフトウェア開発
哲学
idea

はじめに：空の上で繰り広げられる「人間 vs AI」の哲学論争

25年程前でしょうか。私が小学生が中学生の頃、なにかの本で、世界中の空を飛ぶ旅客機を製造する二大メーカー、 エアバス（Airbus） と ボーイング（Boeing） の設計哲学の違いについて知りました。

どちらも極めて安全な飛行機を作っていますが、その 「自動操縦（オートパイロット）と人間の関係」 については、まるで正反対の考え方を持っているというのです。

「エアバスはコンピューターを信じ、人間を信じない。ボーイングは最後は人間の判断を信じる。」

この設計思想を知って以来、私は 「トレーニングを積んだパイロットが最終判断と責任を負う」 というボーイングの哲学と、そのライセンスを持つパイロットに憧れと尊敬の念を抱いています。個人的に飛行機に乗る際は、できるだけボーイングの機体を選ぶようにしているほどです。

この対立構造は、遠い空の話ではなく、私たちソフトウェアエンジニアリングの世界における 「システムと人間の関係性」 という本質的な問いと、驚くほどよく似ています。実際、自動運転のHMI（ヒューマン・マシン・インターフェース）を考える際にも、 「オートパイロットで先行する航空機の設計思想が大変参考になる」 と、自動車メーカーの技術者が述べています（日経XTECH記事「最後に頼るのは人間かシステムか」より）。

本記事では、この対立構造を紐解き、AIの時代にエンジニアリングが「どうあるべきか」を考えるヒントを探ります。

1. エアバスの哲学：「システムによる絶対的な保護」

エアバスの哲学は、 「人間はミスを犯す可能性がある。だから、高性能なコンピューターが最終的に安全を守るべきだ」 という、 自動化・保護中心 の思想です。

  • 考え方（エアバス的）：
    • 飛行機の安全限界（速すぎる、傾きすぎるなど）は、システムが厳しく監視し、パイロットの入力を 「却下」 または 「安全な範囲に補正」 します。
    • システムがパイロットを 「保護」する設計 です。
  • ソフトウェアでの例：
    • 高度なフレームワークやAIが、複雑なセキュリティやメモリ管理を自動で処理し、開発者にミスをさせないようにする。
    • AIが安全性の高いコードを自動生成し、人間の手を加える余地を最小限にする。

メリットとデメリット：

ジュニアエンジニアでも安全な範囲で早く開発できますが、システムが壊れたとき、誰も内部を理解できず、 自力で直すスキルが退化 する危険性があります。

2. ボーイングの哲学：「最後は人間が判断する」

対するボーイングの哲学は、 「システムは人間を助けるもの。最終的な判断と責任は常にパイロットにある」 という、 人間中心 の思想です。

  • 考え方（ボーイング的）：
    • オートパイロット中でも、パイロットが操縦桿に強い力を加えれば、システムは即座に解除され、 人間の操作が最優先（オーバーライド） されます。
    • 予期せぬ緊急時こそ人間の判断が優れていると考え、 人間の介入を制限しません 。
  • ソフトウェアでの例：
    • 低レベルな知識を重視し、AIやフレームワークの提案を鵜呑みにせず、必要であれば自分で設計を根本から変更できる自由がある。

メリットとデメリット：

高度なエキスパートは最高のパフォーマンスを出せますが、未熟なスキルでは重大なバグを起こすリスクが高く、人間の能力と責任に依存します。

3. 🧭 AI時代、私たちの開発現場は「どうあるべきか」？

AIがコードの大部分を生成する 「エアバス的」な未来が加速する中で、私たちはこの二つの哲学をどう融合すべきでしょうか。

もし、システムの内部を誰も理解しなくなり、すべてをAIに頼った場合、それは 「誰も直せない、誰も責任を取れないシステム」 を生み出すことにつながります。

3-1. 問い (1)：スキルの維持

AIがあるからといって、 訓練（スキルのアップデート） をやめていいのでしょうか？

  • エンジニアも 「AIの裏側を理解し、いざというときに手動で制御できる能力」 を維持し続ける義務があります。

3-2. 問い (2)：責任の所在

AI生成コードにバグがあった場合、誰が責任を持つのでしょうか？

  • AIはあくまでアシスタントであり、 機長（人間） が最終的な責任者であるという意識が不可欠です。

結論：目指すべきは「高スキルな機長」

私たちは、 AIがもたらす効率性（エアバス的な自動化） を最大限利用しつつ、 人間の深い洞察と最終判断の責任（ボーイング的な人間中心の思想） を決して手放してはいけません。

AI時代に求められるエンジニアは、「コードを書く人」ではなく、 「自動化された複雑なシステムを完全に理解し、危機管理と最終判断を下す高スキルな機長」 へと進化していくはずです。

最後に

AIがもたらす効率性という恩恵を最大限に活用しながらも、最終判断の責任を人間に残すという 人間中心の哲学 を決して手放してはなりません。

私たちエンジニアは、AI時代の 高スキルな「機長」 として、自動化された複雑なシステムを完全に理解し、未来の安全と進化の責任を負っていく。

それが、このデジタルフライトを成功させるための唯一の道筋だと信じています。

Discussion