Zenn
🐻

Deepware Scanner試してみた

2024/11/12に公開
Security
deepfake
tech

はじめに

こんにちは！
記事を読んでくださりありがとうございます。
今回はタイトルにある通り、Deepware ScannerというDeepfakeに対するセキュリティツールを触って遊んでみたので興味のある方はぜひ参考にしてみてください。

対象者

Deepfakeに対するセキュリティツールに興味のある方

Deepfakeとは

「deepfake（ディープフェイク）」は、人工知能（AI）技術の一種で、実在の人物の顔や声、動きなどを、まるで本人が実際にその場にいるかのように偽装することができる技術です。

例えば、有名な俳優が出演していないシーンに登場させたり、誰かが本来言っていない言葉を発言しているように見せかけることができます。このような高度なフェイク技術は、エンターテインメントや広告での活用が期待される一方、セキュリティ面でも大きな問題を引き起こす可能性が指摘されています。

例えば、フェイクニュースによる偽情報の拡散や個人の顔や声を無断で利用し、別の内容に組み込むことで、プライバシーが侵害される被害が近年増加しています。

Deepware Scannerとは

Deepware Scannerとは、Deepware社が提供するオープンソースのソフトであり、ネット上で見つけたり、他人から受け取ったりした動画の真偽を判定することができるツールです。

どのように合成動画か否か判定するかの流れを以下に示します。

  1. MTCNNにより、入力動画像のフレームごとに顔を検出
  2. 各顔の特徴をfacenetにより抽出し、同一人物の顔画像をクラスタリング
  3. 各クラスタの顔データに対してEffNetベースのモデルでDeepfake特有の特徴を分析し、
    最終的にスコアで偽造の度合いを判定

実際に動かしてみた

今回使用する動画像

Youtube上で見つけたこちらのDeepfake映像を使わせていただきます。

This is not Morgan Freeman - A Deepfake Singularity

Deepware Scannerに動画像をアップロード

  1. Deepware Scannerのサイト上に動画をアップロードして「SCAN」をクリック！

  2. 10秒程度で結果が出ました！

結果は「DEEPFAKE DETECTED」ということで見事Deepfakeだと判定できたようです。
ただ、結果画面のModel Resultsでは「analyst:」以外の項目では「NO DEEPFAKE DETECTED」と表示されていた点が気になりました。
Deepware Scannerはオープンソースなので詳しい仕様や検出システムについて更なる調査をしたいと思います！

まとめ

今回Deepware Scannerを触って遊んでみました！
他にもDeepfakeに対するセキュリティツールは色々ありそうなのでまた遊んでみようと思います！

参考文献

Deepware Scannerの製品ページ

Discussion