もう生成AIでハルシネーション（幻覚）って言うのやめよう

生成AIの文脈で思った通りの出力がされないこと

生成AIの進化はすさまじいものがあります。しかしながら生成AIは事実とは異なる出力をすることがしばしばあります。これをしばしば幻覚とかハルシネーションといった表現をすることがあります。
しかしながら、これは適切な表現なのでしょうか？考えてみましょう。

擬人化された表現

生成AIという純粋なコンピューターシステムによるものにもかかわらず医学的表現・本来的に人が体感するものということで擬人化された表現といえます。
世の中には、病気などで幻覚症状に苦しんでいる方がいらっしゃいます。そのような方が生成AIが事実とは異なった出力をしたという文脈で軽々しく幻覚とかハルシネーションという用語を使った場合どのように感じるのでしょうか？
また、生成AIはより多くの人にとって便利でより多くの人に使われなければいけません。それは生産性の向上であったり労働人口の低下を補う意味であったりします。このような意味合いでも一部の方にとって不愉快と感じるような用語は好ましくないと考えられます。

どのようにすべき？

「ねつ造」という用語に置き換えましょう。
または、単純にAIが嘘をついたとか有害な出力をしたとか擬人化ではない普通の表現をすればよいかと考えています。
Microsoftにおける責任あるAIガイドラインの枠組みにおいてもこの考えを推進されていて Microsoftのドキュメントをみると幻覚とかハルシネーションといった用語はありません。

最後に

ひとたび定着してしまった用語を変えていくというのはなかなか難しいことと思いますがより生成AIが多くの方にとって気持ちよく使える世界を目指していきましょう。