🍬

生成AIプロンプトのコツと検証方法

2025/01/26に公開

プロンプトのコツ

  • 入力と出力で作りたいものを具体的に考える
  • 何を生成してほしいか、何を生成してほしくないかを明確にする
    • 例えば、回答を教えるのではなく、考える力を養うようなサービスを提供したい場合、答えを教えない、変な質問に答えないというように、AIの動作を制限する。
  • 顧客の期待値を超える、役立つ出力を意識する
    • 出力されるものにリスクがないか確認することも重要。
  • プロンプトに既存の著作物や特定の人物に類似したものを生成するような指示は避ける
  • 可能な限り具体的なプロンプトを入力する
    • 例えば、自ら手描きしたラフ画を読み込ませるなど、自身が著作権を有するものをプロンプトとして入力すること。
  • プロンプトに個人情報を入力する際には注意が必要
    • 個人情報保護法などのルールを守る必要がある。
    • 生成AIの特性上、出力される情報が不正確である可能性があるため、情報の正確性を確認する必要がある。
  • プロンプトに営業秘密や限定提供データを入力する際には注意が必要
    • 入力によって秘密管理性や限定提供性を喪失しないように留意が必要。
    • 秘密保持義務を負わない事業者の提供する外部の生成AIサービスに営業秘密を入力する場合には保護の対象外となる恐れがある。
  • 生成AIの利用規約や説明資料を確認し、設定をデフォルトのままにせず、情報がAIの再学習に使われないことを確認する
    • オプトアウト(生成AIサービスにおいて、利用者が入力した情報をAIの学習データとして利用しないように設定すること)できる場合は、その設定を行う。

生成AIの回答の検証方法

  • 生成された出力結果が、既存の著作物と類似していないかを確認する
    • Web検索や剽窃チェックツールなどを利用して確認することが必須。
  • 生成されたコードの正しさの判断は人間が行う
    • 仕様書や設計書と照合したり、レビューやテストを実施したりすることが重要。
  • 生成AIは間違いを起こす可能性があるため、レビューとテストによる品質管理が必要。
    • レビューは、生成された設計書やコードの誤りを見つけるのに役立つ。
  • 特にコード生成の場合、生成されたコードを単体テストと組み合わせることで自動チェックがしやすい
  • 出力されたAI生成物が、登録意匠・登録商標と同一・類似でないかを確認する
  • 生成された人物の肖像や声が、既存の人物の肖像権やパブリシティ権を侵害していないか確認する
  • AI生成物の著作権利用許諾について理解しておく
  • 出力された情報が正確であるか確認する
  • AIの出力の誤り等について、ステークホルダーからの指摘を受け付ける機会を設ける
  • 客観的なモニタリングを実施する
  • 生成AIの特性として、ハルシネーション(もっともらしい嘘)や誤情報が生成される可能性があることを理解しておく。
  • AIが生成したコンテンツの利用規約をしっかり確認する

その他

  • 生成AIの出力が、他者の権利を侵害する可能性を利用者が認識する必要がある
  • ライセンス面で問題がないデータで学習された生成AIを使用することが望ましい
  • AIの特性を理解し、過度な期待を持たないようにすることも重要
    • AIは、必ずしも完璧な結果を出すわけではない。
    • AIの得意なこと、苦手なことを理解し、適切に活用することが重要。
  • AIはあくまで道具であり、これに伴う行為の責任はAIを道具として用いる人に帰属することを理解する必要がある。

Discussion