生成 AI が身近になるに当たり、使う側としても意識変革が必要になる。というわけで倫理関係の情報をまとめてみた。
倫理というと守らねばならないもの、と考えがちだが、機械的に守れるものでもない。というのも時と場合、人によって倫理的だと考えるラインが異なるからだ。
どちらかというとエンジニアとしての心構えとしてや、プロダクトをより良いものにするための観点としてこの記事を使うと良い。
先にまとめ
次をエンジニアの行動として意識し、 AI にも守るように構築しなければならない。
- 差別しない
- プライバシーを侵害しない
- 人間の尊厳を尊重する
- 透明性と説明可能性を確保する
- 安全性やセキュリティを確保する
- 嘘や偽情報を流さない / 誠実、正直に行動する
- 継続的な学習と能力向上に努める / 能力を超えた業務をしない
- 社会的利益を優先する / 社会に害をもたらさない
- 利益相反を避ける
- 言動に責任を負う
人間としては当たり前といえば当たり前だが、 AI にもこういったことを遵守させねばならない。
ただ、差別やプライバシー侵害が具体的になんなのかということは都度考えねばならない。採用基準や個人情報に該当するかの基準でさえも TPO で変わる。ひとが判断できないものを AI にも求めるのは難しい。
AI に対して暗黙的なバイアスを排除するような指示を付与するのも良い。
また、自分の認知が歪んでいないかを確かめる必要もある。現在の AI は指示内容に明らかな差別やコンプライアンス違反がない限り、お咎めなしで処理を継続しがちだ。 AI の出力に違和感を覚えるなどはいい機会なのでつっこんで聞いてみたり、キーワードで検索してリフレーミングの材料とすると良いだろう。
対象
対象となるものは次。
- ACM Code of Ethics and Professional Conduct
- The Software Engineering Code of Ethics and Professional Practice
- IEEE Code of Ethics
- Ethics by Design: An organizational approach to responsible use of technology
- Asilomar AI Principles
- AI Act
- 情報処理学会 倫理綱領
- 電子情報通信学会 倫理綱領
- 技術士会 倫理綱領
といっても全部つぶさに見るのは大変なので、すべてに共通するものや大事なところを重点的に見ていく形になる。
すべきこと
| 項目 | 出てくる資料の数 |
|---|---|
| 透明性と説明可能性を確保する | 8 |
| プライバシーを保護する | 7 |
| 安全性やセキュリティを確保する | 7 |
| 公正性を保ち差別しない | 7 |
| 人間の尊厳を尊重する | 6 |
| 継続的な学習と能力向上に努める | 6 |
| 誠実、正直に行動する | 6 |
| 社会的利益を優先する | 5 |
| 持続可能な発展に貢献する | 4 |
| 法規制、規範を遵守する | 4 |
| 人間の自律性を尊重する | 3 |
| リスクを適切に管理する | 3 |
| アクセシビリティを確保する | 3 |
| AI 研究の透明性を保つ | 3 |
| 国際標準規格を遵守する | 3 |
| 文化的多様性を尊重する | 3 |
| 協力、協働を推進する | 3 |
| 専門分野の知識を維持する | 2 |
| 研究の国際協力を促進する | 2 |
1 つの資料のみで出てきた項目群は多いので折りたたんでおく。
- AI を人間の監督下に置く
- データの品質を確保する
- 記録、文書化を行う
- プロダクトの影響評価を実施する
- コンピテンシー開発を支援する
- 指導や経験機会の提供によって成長を支援すること
- イノベーションを促進する
- 技術の社会的価値を追求する
- AI 安全性研究を促進する
- 協力的な関係を築く
- 共通利益を重視する
- 包括的設計をする
- ステークホルダーと関与する
- プロフェッショナリズムを維持する
- 品質保証を徹底する
- 国際人権基準を遵守する
太字にしているものは過半数なので、より普遍的だと言える。
法規制、規範を遵守する
すべてに書いていないのは、当たり前のことだからだろう。そのうえで気をつけるべきことを記載している。
すべきでないこと
| 項目 | 出てくる資料の数 |
|---|---|
| 差別を行う | 8 |
| プライバシーを侵害する | 7 |
| 人間の尊厳を損なう | 7 |
| 嘘や偽情報を流す | 7 |
| 能力を超えた業務を行う | 6 |
| 社会に害をもたらす | 5 |
| 利益相反を生じさせる | 5 |
| 責任を回避する | 5 |
| 不正を行う | 4 |
| 機密情報を漏洩する | 4 |
| 知的財産権を侵害する | 3 |
| 人間の自律性を奪う | 2 |
1 つの資料のみで出てきた項目群は多いので折りたたんでおく。
- AI を武器として使用する
- 過度な依存を生む
- 技術を悪用する
- 人間を欺く
- 環境を破壊する
- AI 軍拡競争に参加する
- AI を人類の脅威とする
- バイアスを放置する
- 品質を軽視する
Discussion