人工知能の危険性について個人的に考えてみた。

概要

近年、人工知能が活用されてきています。その一方で人工知能を用いた一線を越えてはならない活用方法も増える一方です。そこで一回立ち止まって危険性などを確認してみようと思います。

音声合成

tacotron2を用いて音声合成するのが最近の主流ですね。しかし岸田首相の偽動画で使われた音声も音声合成を用いて作られています。このように人のなりすましをすることが容易になってきています、

危険度: 星4

文章生成

ChatGPTやGithub Copilotなどがそれにあたります。2024/1/1に起きた能登半島沖地震でAIを使って陰謀論を作成し、Xで拡散している人を見ました。これに関してですが、人間が書いても同じように変わらないと思いますが、日本語が苦手な人がAI用いて説得力が十分あるような文を作ることができます。

危険度: 星3

画像生成

stable diffusionなど色々あります。おもにあげられる危険性としては本人じゃないのにあたかも本人がやらかした画像を生成し、混乱におとしめることです。絵師に無断でトレーニングデータとして使われて、それを学習させたAIで生成した画像を公開して、あたかも自分が作ったかのように宣伝することですね。

危険度: 星4

画像分類 / 文章分類

モデルはMobileNetなど色々あります。主に挙げられる危険性としてはAIに頼りすぎるってことです。例えば本来やましくない画像なのにやましいと判断し、消されるなど利用者にとって不便になる可能性があります。僕個人としては補助的な役割でやったほうがいいのではないのか？と思っていますね。

危険度: 星2

最後に

人工知能が危険だから使うなと言っているわけではなく、危険性をわかった上で使ったほうがトラブルを起こす可能性が減らせます。

僕個人としても翻訳AIに結構助けられていますし、使うべき場所と使うべきじゃない場所を分けて使いましょう。