💀

生成AIの入出力の扱いについて ～3つの落とし穴～

に公開
AI
idea

生成AIの入出力の扱いについて ～3つの落とし穴～

① 情報漏洩

プロンプトやアップロードしたファイルがAIに学習されるため、情報漏洩のリスクがある。

  • 機密情報・個人情報は絶対にアップロードしない
  • オプトアウトされたサービスを利用する

事例
2023.04 サムスン電子が機密情報をChatGPTに漏洩

② ハルシネーション

言語生成AI（LLM）はもっともらしい嘘をつく（ハルシネーション）。
※会話の続きを予測しているだけで、正誤の確認をせずに回答する。

  • 推測の回答では困る用途では利用しない
  • プロンプトで嘘をつかないように指示する

事例
2024.02 エア・カナダが生成AIのChat BOTが顧客に誤回答し、裁判で敗訴・賠償命令を受けられた

③ 著作権・法的侵害

生成AIのアウトプットについて著作権や特許等のリスクあり。
生成AIが作ったものをそのまま利用すると批判される可能性あり。

  • 一般の消費者がどう受け止めるか考える必要がある
  • 不明点や懸念がある場合は必ず法務・知財部などに相談する

事例
2024.08 日本マクドナルドが生成AIで作成したプロモーション動画がXで炎上

Discussion