この記事では、ChatGPTの「注意事項」を5つ厳選して、まとめました。
この動画を見ることで、あなたの周りのChatGPTのトラブルが少しでも減れば幸いです。
第1位：機密情報を送るな！
- ChatGPTに送信された情報は、OpenAIの開発者に見られてしまったり、今後の学習データとして使われたりする可能性があります。
- 実際に、Amazonの社員が機密情報をChatGPTに送信してしまい、機密情報と酷似する返答がChatGPTより返されたという話もあります（参考）。
- AmazonやMicrosoftなどの大手企業は、機密情報をChatGPTに送信しないように注意喚起しています（参考）。
- そのため、「顧客情報」や「業務で扱うプログラム」などの機密情報は、ChatGPTへ送信しないようにしましょう。
第2位情報を過信するな！
- ChatGPTも完全ではないため、不正確な情報を返すことがあります。
- そのため、本当に大切なことはChatGPTに聞かず、専門家に相談したり、自分で考えたりすることをオススメします。
- たとえば、自分の体調が悪くなった時の症状に対するアドバイスは、医師に聞きましょう。
- また、当然ではありますが、ChatGPTの生成したソースコードを過信して、検証せずに使用することはやめましょう。
第3位：依存し過ぎるな！
- ChatGPTのサービスを突然利用できなくなる可能性があります。
- 具体的に、想定されるリスクは次の3つです。
- 「ユーザー数の増加」による一時的な「サーバーの混雑・停止」
- 「法律改定」や「利用規約の変更」に伴う「サービスの利用制限」
- 「AI倫理に反する回答」が返ってくることによる「サービスの停止」
- そのため、ChatGPTに依存し過ぎず、ChatGPTに頼らずとも仕事や生活ができるような仕組みを作っておきましょう。
- ちなみに、OpenAIのサーバー障害の状態は下記のURLで確認できます。
第4位：気分を害する覚悟を持て！
- 倫理感のある回答がされやすいような仕組みになってはいますが、それでも不快な回答が返ってくる可能性があります。
- たとえば、Forbesの記事によると「トランプ元大統領のポジティブな面に関するポエムを書くことよう指示したところ拒否されたのですが、バイデン大統領に関する同様なテーマのポエムを書くよう指示したところ応じられた」という話があります（参考）。
- このようにChatGPTが偏った考えを持った発言をする可能性があります。
- そのため、ChatGPTを使うときは、気分を害する覚悟を持ちましょう。
第5位：利用規約を追い続けろ！
- 現時点の規約においては、ChatGPTが出力したコンテンツの著作権は利用者に帰属する上、商用利用も可能だと、私は認識しています。
- しかし、今後OpenAIが規約を更新した時に「これまで良しとされていた使い方」をできなくなる可能性があります。
- そのため、ChatGPTの利用規約の更新情報は、公式サイトやニュース記事などで追い続けることをオススメします。
- また、法律改正により、AIに対して法的に人格のようなものが付与されたりした時も同じことが言えます。
おまけ
システム開発者向けの注意事項として、プロンプトインジェクション攻撃があります。
必須とも言える知識なため、こちらもご一読ください。
参考文献