🦆
Ghiblifyの違法性について調べてみる
なぜ作成したのか
- 生成AIの利用是非で著作権侵害の意図有無を根拠としていた矢先にこれを出されるとセキュリティ担当者として非常に困るので論拠を考えてみよう
ここで「Ghiblify」はOpenAIのChatGPTで新しくリリースされた画像生成機能で、写真や画像をもとにスタジオジブリ風イラストを生成する行為を指すものとします。
質問（to ChatGPT）
OpenAIのGhiblifyについて、学習データ、生成物、サービス提供など、一連のプロセスにおいてどのような問題が想定され、利用者はどのようなリスクを識別して、対策をすべきかをまとめてください。
参考
OpenAI「Ghiblify」画像生成機能の調査
1. 学習データに関する問題（データ出所・著作権・スタイル模倣）
図1: ChatGPTの新機能で、写真（左）をスタジオジブリ風のイラスト（右）に変換した例。
- OpenAIのGPT-4o搭載の画像生成は、写真やテキストから宮崎駿監督のジブリ作品風の絵を作れると話題になっています。
- この「Ghiblify（ジブリ化）」ブームにより、AIがジブリの独特な画風を高い再現度で模倣できることが示されました。
- これに対し、学習データの出所について著作権上の懸念が出ています。生成画像がジブリ作品に酷似しているため、「トレーニング用データにスタジオジブリの映画のフレームが大量に使われたのではないか」との指摘があります。
- もし実際にジブリの映像素材等が無断で学習に利用されていれば、訓練データの無断使用として著作権侵害の疑いがあります。
- 現在、この問題は法的に明確ではなくグレーゾーンです。米国ではAIの学習目的でのデータ利用がフェアユースか否かについて、OpenAIや他社を相手取った複数の訴訟が進行中です。
- 知的財産専門の弁護士であるエバン・ブラウン氏によれば、「画風そのもの」は著作権で保護されないため、「ただジブリ映画のような絵を生成するだけで直ちに違法とは言えない」とされています。
- しかし、「ここまでジブリにそっくりな画像を生成できる背景には、著作物であるジブリ作品の映像を大量に機械学習に使った可能性が高い」とも指摘されています。
- この点については、AIによる学習がフェアユースか侵害か司法の判断待ちの状況です。
- また、スタイル模倣の倫理的問題も議論されています。スタジオジブリの共同創業者・宮崎駿監督は以前よりAIによる創作に否定的で、「（AIの出力には）極めて生命に対する侮辱を感じます」と厳しく批判してきました。
- ジブリ作品の熱心なファンやアーティストにとって、自分たちの敬愛する画風がAIのデモとして消費されている現状は「非常に心が痛む」とも報じられています。
- 実際、宮崎監督は過去にAI生成の映像を見せられた際、「極めて不愉快」「自分たちの仕事とつなげたいとは全然思わない」と述べたことが有名です。
- こうした背景から、創作者の意図に反したスタイル模倣には倫理的な批判も存在します。
- さらに、他社の対応との比較も論点です。Adobeの生成AI「Firefly」では、ジブリ風など他者の著作物に関連するプロンプトはブロックされます。
- 実際、Fireflyで「ジブリ風の古城」を生成しようとすると「ジブリ風」というキーワードが検知され制作が止まります。
- これはAdobeが学習素材に著作権クリアなデータのみを使い、他者の著作権を侵害しない配慮を行っているためです。
- 一方、ChatGPTの画像生成では「ジブリ風」はもちろん、「ガンダム」のような固有名詞すら生成可能であり、現時点ではOpenAIの方が著名IPのスタイル模倣に寛容な設計になっています。
- この違いは、将来的な法規制やガイドライン整備によって見直される可能性があります。
- OpenAI自身も一定のポリシーは設けています。OpenAIの説明では、「個々の現役アーティストの画風」を真似る要求はChatGPTが拒否するが、「スタジオ全体の画風の再現」は許容しているとのことです。
- しかし、スタジオジブリの場合は宮崎駿氏という存命の個人の芸術性と直結しており、スタジオ全体のスタイルと言えどもそれを支える個人が存在します。
- このように、スタイル模倣の線引き（個人の作風は禁止だがブランド化された作風はOKという区分）は依然グレーであり、著作者人格権やブランドの問題もはらんでいます。
2. 生成された画像の問題（著作権・肖像権・悪用リスク）
- 生成物そのものの権利とリスクも重大な論点です。まず、出力画像の著作権について考える必要があります。
- AIが生成した画像自体には、訓練データ由来の既存作品の具体的表現が再現されていない限り、原則として新たな創作物としてユーザーが利用可能とみなされます。
- しかし、生成画像が他者の著作物と実質的に類似する場合や、キャラクター・ロゴなど固有の意匠を含む場合は注意が必要です。
- 例えば、プロンプトに特定の映画キャラクターや実在の芸能人の名前を入れて写真風画像を生成すれば、それは二次的著作物の作成や肖像権の侵害に該当する可能性があります。
- 実際、ChatGPTの画像生成機能は当初、有名人を含む画像も生成可能だと報じられました。
- ユーザーが自分で撮影したわけではない有名人の写真をアップロードし、ジブリ風に加工するといったケースでは、元写真の著作権者（写真家）や被写体本人の権利を侵害するリスクがあります。
- 日本法における肖像権やパブリシティ権の観点でも留意が必要です。日本では、他人の肖像（特に本人が特定できる写真や画像）を許可なく利用・公開すると肖像権侵害になる恐れがあります。
- 仮にAIでアニメ風に変換しても、その人物が識別可能であれば本人の許諾なく公開すべきではありません。
- また有名人の場合、パブリシティ権（肖像の商業利用権）の問題もあります。他人の写真を勝手に加工・公開する行為は、たとえ個人が娯楽目的であっても、権利者から「権利侵害だ」と見なされれば違法となり得ます。
- 実際、専門家は「ジブリ風」のようなテイスト変換自体は私的利用なら問題ないが、生成物をネット投稿したり商用利用した途端に話が変わると指摘しています。
- 公開範囲が広がれば、それは単なるファン創作では済まなくなり、著作権者が侵害を主張する余地が生まれます。
- 次に、ディープフェイクや誤用のリスクです。GPT-4oの画像生成は非常に高精細で、写真と見分けがつかないリアルな画像を作り出すことも可能とされています。
- そのため、不適切に用いれば人々を欺く合成画像、いわゆるディープフェイクを容易に作成できてしまいます。
- 実際、OpenAIの新モデルは他の生成AIに比べてもジブリ風のみならず写実的な再現力が高く、「生成画像が現実の写真と区別困難な場合もある」ことが安全上の課題として挙げられています。
- このフォトリアリスティックな生成能力の裏表として、偽情報やなりすまし画像の作成ハードルが下がってしまう懸念があります。
- 例えば、政治家や企業家の写真を合成してありもしない場面を作り出し、SNSで拡散するといった誤用が考えられます。
- 特に選挙や社会的事件に絡めて偽の画像を作れば、社会に与える影響は甚大です。
- 悪意あるユーザーによる誤用の可能性は現実に存在し、OpenAIもこの点を重大な安全課題として認識しています。
- もう一つのリスクは、AI出力の意図せぬ著作権侵害です。GPT-4oは既存画像の加工もできるため、ユーザーが入力画像に含まれていた著作権管理情報（ウォーターマークなど）を知らずに消去してしまう場合があります。
- 他社事例ですが、Googleの類似機能では「画像に埋め込まれた著作権ウォーターマークを削除できてしまう裏技」が拡散し物議を醸しました。
- ChatGPTの画像生成も高度な加工能力ゆえに、入力画像の著作権情報を損ねたり、第三者の権利を侵害する出力を生成してしまうリスクがあります。
- 特に、ユーザーが他人の作品や写真をアップロードして「これを別のスタイルにして」と指示するImage-to-Image機能は注意が必要です。
- 専門家は、AIによる画像変換の場合「意図的に似せた」と判断される可能性が高く、既存作品を参照して生成した依拠性が認められれば侵害に当たると指摘しています。
- 言い換えれば、オリジナル作品ありきでその特徴を真似た画像を出力すれば、元作品の権利者から見れば無断の二次加工と映り得るということです。
- 以上のように、生成された画像には著作権（元ネタの権利）と肖像権（人物の権利）の問題、そしてディープフェイク等への悪用といったリスクが存在します。
- OpenAIもこうした懸念に対応すべく、技術的なセーフガードを設けています。
- ChatGPTは不適切なプロンプトを検知して拒否する仕組みや、生成後に出力画像をチェックするフィルターを備えており、児童虐待画像や過激な暴力・ヘイトなどは弾くよう設計されています。
- 実際、OpenAIはジブリ化ミームが拡散した直後に、このスタイル変換へのプロンプト規制を強化した模様です。
- ユーザーが「写真をジブリ風にして」と要求すると、「コンテンツポリシーに反する可能性があります」と警告が出て画像生成ができなくなるケースも確認されています。
- もっとも、ユーザー側も表現を工夫してこの制限を回避する試みを行っており、完全な抑止には至っていません。
- 総じて、技術的・規制的対策とユーザーのモラルの両面で、この新機能の安全な運用方法を模索している段階と言えます。
3. サービス提供上の課題（提供プラン・利用規約・ポリシー）
- 提供形態と利用条件についても整理しておきます。
- OpenAIは2025年3月25日に「GPT-4oのネイティブ画像生成機能 (4o Image Generation)」を正式発表し、ChatGPTへの統合を開始しました。
- 当初はChatGPTの有料プラン（Plus/Pro/Team）だけでなく、無料ユーザーにも順次開放すると案内されました。
- 実際、リリース直後は無料ユーザーでも画像生成を試せる状態でしたが、予想を超える人気により提供ポリシーの緊急見直しが行われます。
- OpenAI CEOのサム・アルトマン氏は「GPUが溶けている（悲鳴を上げている）」と稼働状況を伝え、3月28日には無料プランの利用に1日3回までの回数制限を設けたとされています。
- また、完全な無料開放は需要過多に対処するまで延期され、当面は有料ユーザー優先となりました。
- このように、システム負荷の問題からサービス提供ポリシーが変更されており、現在「Ghiblify」機能を安定利用できるのはChatGPT Plus等の有料契約者が中心です（企業向けのTeamプランやAPI経由の提供も検討されています）。
- 次に商用利用の可否と利用規約です。OpenAIの利用規約上、ユーザーがChatGPTで生成したコンテンツ（画像を含む）の権利は基本的にユーザーに帰属し、商用利用も可能とされています。
- つまり、ユーザーは生成画像をウェブサイト、広告、SNS投稿、プレゼン資料、印刷物などに自由に活用できます。
- これはDALL·E 2/3の頃からの方針で、OpenAIは生成物の著作権を主張せずユーザーに広範な利用権を与えています。
- ただし、「基本的に」可能だが条件ありという点に注意が必要です。
- 利用規約およびコンテンツポリシーに反する使い方をした場合、その利用は許諾されず、アカウント停止等の措置もあり得ます。
- 具体的に禁止・制限されている行為の例として、以下が挙げられています。
-
不正用途・誤情報の拡散・名誉毀損などへの利用 :
- 第三者を騙すようなフェイク画像の作成や、中傷目的で他人の顔画像を生成するといった行為は禁止されています。政治的な偽情報や選挙介入に繋がる画像生成も厳禁です。
-
不正用途・誤情報の拡散・名誉毀損などへの利用 :
-
他者の知的財産権の侵害 :
- 著作権や商標権で保護された対象を無断で含む画像の生成は禁止です。他人のイラストの模倣や、有名キャラクター・ブランドロゴをそのまま出力すること、ジブリやディズニー風など特定のスタイル模倣も原則NGとされています。
- 実際、OpenAIは「ジブリ風」「ディズニー風」といったプロンプトはポリシー違反になり得る旨を示唆しています。
-
暴力的・差別的・性的に不適切な画像の生成 :
- 過激な流血表現やヘイトシンボル、児童ポルノに類するものなど、公序良俗に反する出力は禁止されています。この点は既存の画像生成AI同様、厳格にフィルタリングされています。
- 上記のような禁止事項を犯した場合、OpenAIは該当ユーザーのサービス利用停止や生成機能の制限などの措置を取る可能性があります。
- 特に公開APIや企業利用においては、コンプライアンス遵守が強く求められるでしょう。 もっとも、現時点の報道を見る限りOpenAIの実際の対応はやや後手に回りました。例えばジブリ風画像についてはリリース当初は生成可能でユーザーが大量に投稿してしまい、後から慌ててフィルターを掛け直した経緯があります。
- このため、一部メディアでは「OpenAIは著作権問題が浮き彫りになって初めて規制を意識し始めた」と指摘されています。
- 実際にTechCrunchは、このジブリミームの大流行がAIの著作権問題をハイライトした瞬間だと評しています。
- 今後のサービス提供に関しては、利用規約・ポリシーの更なる整備も予想されます。オープンAIは安全上の理由から、当初予定していた無料ユーザーへの全面開放を延期しましたが、需要に応じて徐々に解放する可能性があります。
- また出力画像に自動の透かし入れ（ウォーターマーク）やメタデータを埋め込む措置も検討されるかもしれません。
- 現状、GPT-4oの出力画像にはDALL·E 2初期のような明示的マークはなく、一見するとAI生成と分からないため、出力への識別情報付与は今後の課題です。
- 加えて、各国の法規制（例：EUのAI法や中国のディープフェイク規制）に準拠するため、サービス内容や利用条件が変更される可能性もあります。
- 利用者は常に最新の利用規約とポリシーを確認することが重要です。
4. 利用者が識別すべきリスクと対策（注意点と責任）
- 最後に、利用者側が認識すべきリスクとその対策を整理します。
- 新機能「Ghiblify」は魅力的ですが、その使用にはユーザー自身にも一定の責任と注意義務が伴います。
-
①著作権・商標権に関する注意:
- 生成画像に他人の著作物やブランド要素が含まれないか細心の注意を払いましょう。
- 例えば「ジブリ風」の絵をブログの挿絵に使う場合、あくまで「ジブリ風のオリジナル創作」であってスタジオジブリ公式の素材ではないことを明確にする必要があります。「スタジオジブリの新作です」などと誤解を招く表現は厳禁です。
- 特に営利目的で生成画像を用いる際、「ジブリ」という名前やキャラクターを売り文句にすると権利者から法的措置を取られる可能性があります。
- したがって、AIが模倣したスタイルに関しては出典やインスピレーションを曖昧にしないことが大切です。
- 必要に応じて「これはAIがジブリ風に描いたもので、公式作品とは無関係」といった断り書きを添えると良いでしょう。
- 商用利用する場合は、本当に商用利用が許される内容か（ポリシー違反の要素がないか）を必ず確認してください。
-
②肖像権・プライバシーへの配慮:
- 他人（家族や友人を含む）の写真を無断でアップロードし、勝手にアニメ化して公開しないようにしましょう。
- たとえ可愛らしいイラストになったとしても、本人の了承なく公開すれば肖像権侵害になり得ます。
- 実在人物に酷似した画像の生成自体、OpenAIのポリシーで禁止されています。
- 自分以外の人物が写った写真を入力に使う場合は、事前にその人から許可を得るのが望ましいです。
- また有名人のジブリ化画像をSNSに投稿する行為も、パロディの範囲を超えて相手の名誉やプライバシーを損なう恐れがあります。
- 肖像や個人情報に関わる利用は極力控えるか慎重に判断し、必要なら専門家に相談してください。
-
③誤用・悪用しない:
- 生成画像をディープフェイクやプロパガンダに使わないことは、ユーザーの倫理として当然です。
- 例えば、他人になりすました画像や虚偽の出来事を示すコラージュを作成・拡散することは厳に慎むべきです。
- また、差別的・暴力的な合成画像や性的に不適切な画像の生成も行わないようにしましょう。
- これらは社会に混乱や被害をもたらすだけでなく、自身の法的リスクにも直結します。
- 「冗談のつもり」が一線を越えてしまうケースもあるため、生成内容が他者に与える影響を常に考慮してください。
- 万一、不適切な画像が生成されてしまった場合でも、それを共有せず自分で破棄するくらいの慎重さが必要です。
-
④利用規約の遵守:
- OpenAIの利用規約とコンテンツポリシーを遵守することが、結局は自分を守ることにつながります。
- 規約違反の利用をすればアカウント停止などのペナルティがありますし、それ以上に違法行為となれば損害賠償請求や刑事罰のリスクもあります。
- **禁止事項（著作権侵害、名誉毀損、違法行為助長など）**に該当しないかどうか、利用前・公開前にセルフチェックする習慣を持ちましょう。
- 特に生成画像をビジネスに使う場合、社内で法務チェックを行うなどルール作りをすることをおすすめします。
- たとえAIで自動生成されたものであっても、使う人間側が責任を負うことを忘れてはいけません。
-
⑤クレジットと透明性:
- 利用上必須ではありませんが、AI画像であることを明示したり、AIの助けを借りて作成した旨をクレジットすることも検討してください。
- 現状、OpenAIは生成物へのクレジット表示を義務付けていませんが、作品発表の場によっては「AIによる生成物である」ことを明かすことが推奨される場合があります。
- 例えばジャーナリズムや研究においては、画像がAI生成かどうか受け手に誤認させない配慮が信頼性維持のためにも重要です。
- 将来的に法規制でAI生成コンテンツの開示義務が課せられる可能性もあります。
- そうなる前から自主的に透明性を確保することが、健全なAI利用者のマナーと言えるでしょう。
- 以上の対策を講じることで、「Ghiblify」機能を安心・安全に活用することが可能になります。
- ChatGPTの画像生成は非常に強力なツールであり、「会話しながら画像を作れる」という新体験は創造性を大いに広げてくれます。
- 実際、マーケティングや教育資料の作成など、建設的な用途でこの機能を活用する事例も出始めています。
- 肝心なのは、その力を正しく使うことです。
- AIが生成したコンテンツの扱いには最新の注意を払い、法と倫理の範囲内で有益な目的に役立てましょう。
- 信頼できる一次情報やガイドライン（OpenAI公式の発表や各国の著作権・AIに関する指針）を常に参照しながら、ユーザー一人ひとりが責任あるAI活用者になることが求められています
所感
- 学習データの問題についてはつい最近Deepseekに対して同じようなことが追及されていたような気もする
- 基本的にはガイドラインで生成物に対する著作権については利用者の責任において取り扱わなければならない、という点は変わらない
Discussion