倫理的問題における意思決定の手法

技術者が倫理的な判断を迫られるとき

ハイテク企業においても企業スキャンダルには事欠かないものだ。2015年、大手自動車会社のフォルクスワーゲンがアメリカの排気ガス規制をかいくぐるため、試験時にのみ有害物質の発生を軽減させる機能を車両に搭載し、不正に認可を受けていたことが発覚した。いわゆる「ディーゼルゲート問題」である。続いて日本企業においても、2022年に日野自動車で類似の不正が発覚。2024年にはスズキ自動車でも試験時の不正が明らかとなっている。
このような意図的な法令違反は論外だが、もっと微妙な問題もある。2012年のコンプガチャ問題については、スマートフォンゲーム黎明期の一大事件として記憶している人も多いであろう。コンプガチャとは、ゲーム上のランダム型アイテム付与システム（ガチャ）において、複数のアイテムを揃えることで新たな（そしてきわめて魅力的な）アイテムが手に入るという仕組みである。多くのスマートフォンゲームがこの仕組みを導入していたのだが、これが景品表示法に示された違法行為である「カード合わせ」に該当するとして問題視されたのだ。しかしながら、それが刑事罰とか行政処分の対象となるかどうかは別として、コンプガチャが倫理的な観点から許されるかどうか、という議論は以前からなされていたことであった。実際、心理学的な観点から見てコンプガチャは実際の効能に比して過大な期待を催す効果があるという指摘があるし、このように認知心理学を「悪用」して高額課金へと誘導する手法は、「ダーク・パターン」としてデザインの分野で近年さかんに議論されている問題である。一方で事業者側の視点からすると、自社が提供するサービスに対価を要求するのは当然のことだ。また、事業者は利益を生み出すことで、従業員に給与を支払ったり納税を行ったりする責務がある。だからこそ、多くのスマートフォンゲームの事業者は具体的な行政処分のリスクが生まれるまでコンプガチャをやめられなかったのだ。

結局のところ、なにかしらの問題に対峙したときにどうすれば良いのか、それはケース・バイ・ケースである。それゆえ自分が倫理的問題に対峙したとき、偏狭な正義感から直情的に行動したり、焦って自暴自棄になったりしてはならない。ではどうすれば良いのか。そこでひとつの指針となるのが、イリノイ工科大学のマイケル・デイヴィス博士が考案した「倫理的意思決定のためのセブン・ステップ・メソッド」である。

倫理的意思決定のためのセブン・ステップ・メソッド

セブン・ステップ・メソッドを読む前に、あらかじめ自分が倫理的問題に対峙したときのことを想像しておくとわかりやすいだろう。たとえば違法性の高い機能の開発を命令されたときや、上司に知られると「面倒なことになる」バグを発見したとき、あるいは親しい同僚が会社の資産を横領していることに気づいたときなどだ。では早速その内容を見ていこう。

1. 対峙している問題の論点を明確に記述せよ。
2. 関連する事実を収集し、その重要性を評価せよ。
3. ステークホルダーを特定せよ。
4. 取りうる選択肢を5つ以上列挙せよ。
5. 4 で列挙した選択肢に対し、以下を問うて倫理的妥当性を検証せよ。
   ・危害テスト：この行動は他のものよりもたらす危害が少ないか？
   ・世間体テスト：この行動が広く報道されても構わないか？
   ・自己防衛可能性テスト：この意思決定を糾弾されたとき、公的な場で弁明できるか？
   ・可逆性テスト：自分がその行動の悪影響を受ける立場だとしたら、その行動を支持できるか？
   ・徳テスト：この行動を頻繁に行うとどうなるか？
   ・プロフェッショナルテスト：自分の職業の専門機関はこの行動を支持するだろうか？
   ・同僚テスト：同僚はこの行動を支持するだろうか？
   ・組織テスト：自分が所属する企業の倫理部門や顧問弁護士はこの行動を支持するだろうか？
6. ステップ 1 から 5 の検討結果を基に、取るべき行動を決定せよ。
7. 以上のステップを再検討し、最終的な意思決定をもとに行動せよ。おわりに、以下を問え。
   ・このような問題の再発防止はできるか？
   ・個人としてどのような対策ができるか？
   ・周囲の協力を得ることはできるか？
   ・所属する組織には何ができるか？（ルールやポリシーの策定など）
   ・社会には何かできるか？(法令の策定など)[1][2]

簡単なモデルケース

試みに、あなたが1000万人のユーザーをかかえるスマートフォンアプリの開発メンバーであり、上司から非倫理的な機能の開発を命令されたと仮定してみよう。たとえば、ユーザーの同意を得ないまま秘匿性の高い個人情報を収集し、それを第三者に販売する機能などだ。
このようなときに、正義感に駆られて即座に新聞社にリークするというのは愚の骨頂である。拙速に事を荒立てることは、批判相手だけなく多くの無辜の人々を傷つけるからだ。告発したあなた自身が倫理的問題の加害者となりかねない。落ち着いて、セブン・ステップ・メソッドに照らし合わせて考えてみよう。

2 の段階で、たとえば具体的にどの法令に抵触しうるのか、過去にどのような事例があるか、そもそも上司が問題を認識できているのかといったことを明確にしておくことは有益だろう。
3 ではこの問題が影響する人や組織を整理していく。もしかすると、この非倫理的な機能を開発することによって、会社に大きな収益を生み出し、その開発を命令した上司の名声と給与を大いに高めることになるかもしれない。しかしこれが世間に明らかになった場合には、これを命令した上司自身とその家族が批判にさらされたり、会社に業務停止命令が下されたり、大規模な訴訟に発展するといった損害は避けられないだろう。このように、倫理的な判断に入る前に現実におこりうるケースとそのステークホルダーを広い視座で考えてみよう。思わぬ説得材料が見つかることがある。
ここまで整理したうえでも、 4 の段階が示すように、すぐに一つの解決策に跳びつくのではなく複数の選択肢を用意することが肝要だ。「ハンマーしか持っていなければすべてが釘のように見える」という警句は、プレッシャーに苛まれるなかではより強く意識しなければならないものである。たとえばこのケースでは、上司に直接異議を申し立てたり、自分の業務をボイコットするという行動のほか、同僚の助けを借りたり、上司のそのまた上位者に訴えたり、社内のコンプライアンス部門に相談するといった行動が可能だろう。これらの穏当な選択肢を検討したうえで、初めて社外へのリークといった手段が検討の俎上に乗るのだ。もちろんそういった「過激な」手段を含めて、実際にどれが適切かは場合によるだろう。

おわりに

ここまでかなり極端な例を示してきたが、このような考え方は、日常的に起こる小さな問題や不道徳に対しても適応可能なものだ。倫理的な観点から日頃の振る舞いを省みることは常に有益なことである。
また実際、読者の身に大きな倫理的問題が降りかかったとき、これがひとつの助けになれば幸いである。

参考文献

[1] Seven Step Method for Ethical Decision-Making | Online Ethics
邦訳は[2]を参考に筆者が行った。
[2]金沢工業大学・科学技術応用倫理研究所 編『本質から考え行動する科学技術者倫理』2017, 白桃書房
[3]C.ウィットベック 著, 札野順, 飯野弘之 訳『技術倫理〈1〉』2000, みすず書房
本論の論旨の大筋は本書に倣った。もちろん具体例の選定や解釈は筆者が行なっており、文責は筆者自身にある。