「この動画、本当に本人？」の前にできること 〜投稿サイトに詐欺検知層を設計するというアイディア〜

導入：きっかけと違和感

「詐欺サイトへ誘導する高市さんの生成AI動画が出た」と、ニュースで言っていた。

最近の動画生成AIは本当にすごい。声も顔も自然で、一見しただけでは違和感がない。そして同時に、これはもう、非技術者には「本人かどうか」の判別がほぼ不可能だとも思った。

では、だまされないためにはどうしたらいいのか。

結局、こういう動画が投稿されるプラットフォームの設計側で何かしないといけないのではないか。という結論になる。

どういう実装ができるかを、ChatGPT相手に考えてみた。

背景：見えてきた構造の問題

投稿サイトで一番有名な、YouTube。おすすめ機能はすごく強力で、一度拡散された動画は一気に広がる。

でも「この情報は本当か？」とか「誰が言っているか？」を確認するには、いちいち裏を取らないといけない。それってすごく手間がかかる。

注目されやすいものは広がりやすく、確認が必要なものは止まりやすい。YouTubeは、「再生されてなんぼ」のシステムだから、いろいろと止まらないようにできている。その辺は、すでに、倫理と商売の矛盾だ。

YouTubeも、自分のプラットフォームが「詐欺の温床」となっていることに満足しているわけではないだろう。それならば、もうちょっと、視聴者が、本人かどうかを確認しやすくする仕組みが、動画が公開される段階で 用意できないだろうか。

提案1：アップロード時の「チェック層」三段階

動画をアップロードするタイミングで、「これは誰の動画か？」がわかれば、詐欺動画という観点からは、少しは解決になるのでは。と思う。AIによる顔認識や声の一致判定など、すでに活用できる技術はある。

以下のような三段階のチェック層を考えてみた：

1. 人物認識層（有名人かどうか）

• 顔・声・名前の一致率から「公的人物候補」を判定（機械側が得意）
• 公的人物レジストリ（後述）を参照

2. 信頼経路層（公式情報の自動探索）

• 公式サイト／公式SNS／公的ドメインをクロスチェック
• 人間レビュア向けに参照リンクを自動生成

3. 社会接続層（照会とUIラベリング）

• 本人／代理人へ自動照会、回答に応じて注意ラベル（例：「本人未確認」「本人否認」）をUI表示
• 削除ではなく見える化を基本動作にする

提案2：事前登録制「本人証明レジストリ」

「有名人っぽい動画」がアップされたときに、投稿者が本当にその本人なのかをどうやって確認するか。そのためには、事前に「本人だと証明できる何か」を登録しておく仕組みがあるとよさそうだ。

そのイメージとして、以下のようなレジストリ制度を考えてみた：

• 対象：政治家・芸能人・文化人・主要インフルエンサーなど、公的発言が多い人物
• 登録：公的ID＋顔・声サンプルの本人確認を経て、**PersonCert（デジタル署名鍵）**を付与
• 利用：本人が関与する動画・発言に電子署名を付与可能
• 照合：アップロード時に顔/声一致→メタデータ署名一致→“署名済み”表示。不一致は「本人未確認」ラベル

これは単なる1つのアイディアだ。電子署名などなくても、「あなたの名前を使った投稿が作成されました」と、有名人本人にメンションがあるだけでも、詐欺の抑止力にはなるはずだ。

提案3：否認も署名にする（否認署名）

本人が知らないうちに“それっぽい動画”がアップされた場合、否認する手段もちゃんと用意しておくべきだと思う。そうしないと、「言ってないのに信じられてしまう」という現象が止められない。

「否認」そのものも、署名のように使える仕組みを考えてみた：

• 未署名の“本人っぽい”動画が検知されたら、登録連絡先へ通知
• 本人／代理人がワンクリック否認→「否認署名」を発行し、公開ログ（改ざん困難な台帳）に記録
• プラットフォームUIは「本人否認」ラベルと否認ログへのリンクを表示

ミニUI案（閲覧側の体験）

• サムネ右上：

  • ✅ 署名済み（本人確認）
  • ⚠️ 本人未確認（注意）
  • ⛔ 本人否認（強い注意）

• 動画ページ内「信頼メモ」：署名情報／否認ログ／参照リンク（公式サイト・SNS・公的発表）

まだ詰めきれていないこと（ガバナンスとプライバシー）

ここまでいくつかの仕組みを考えてみたけれど、実際に実装するとなると、まだまだ考えなければいけない点も多い。

• 誰が“有名人”を定義するか：政府／民間連合／第三者機関など、まだ整理が必要
• 登録情報の管理主体：中央集権的に持つか、分散台帳的に保持するか、現時点では課題
• 本人確認データの扱い：プライバシーをどう担保しつつ信頼を証明するかも要検討

今は、被害を防ぐことが最優先。それならば、有名人の定義は、自己申告+マイナンバーカードでの登録。登録情報の管理主体はYouTubeなどの事業者。という形でもいいかもしれない。まずは始めることが大切だ。

結び：信頼の設計を“社会に返す”

フェイク検知はAIが完結させる問題ではない。むしろ、社会に返して確認し、信頼を再び人の側に取り戻す仕組みをどう作るかの問いだ。技術で終わらせず、人間と社会が再び信頼のループを形づくる。その小さなきっかけとして、このアイディアを置いておきたい。