有害な嘘は新しいものではありません。誤解を招くような見出しやテキストでさえ、読者をだますことができます。しかし、現実を変える能力は、「ディープフェイク」テクノロジーによって飛躍的に進歩しました。これにより、実際の人々が言ったり、したことのないことをあたかも本当に言ったり行ったりする画像やビデオを作成できてしまうのです。ディープラーニング技術はテクノロジーの巧妙さを高め、検出がますます困難になるさらに現実的なコンテンツを生み出しています。
ディープフェイクは、「ワンダーウーマン」の女優をフィーチャーした偽のポルノビデオが2017年後半に「ディープフェイク」という仮名のユーザーによってRedditでリリースされたときに注目を集め始めました。それ以来、著名な有名人を特集したいくつかの不正なビデオがリリースされました。その中には、純粋に娯楽的価値のためのものもあれば、公人を侮辱的に描いたものもあります。これは本当の脅威です。ソーシャルメディア上の情報が私たち自身の認知バイアスのフィルターを通して提示され消費されるので、インターネットはすでに真実を歪めています。
ディープフェイクはこの問題を大幅に悪化させます。有名人、政治家、さらには商業ブランドでさえ、独特の形態の脅威戦術、脅迫、および個人的なイメージ妨害に直面する可能性があります。私たちの民主主義、正義、政治、国家安全保障へのリスクも深刻です。ダークウェブ経済を想像してみてください。ディープフェイカーが誤解を招くコンテンツを作成し、それを世界中に公開して、購入する車、頻繁に訪れるスーパーマーケット、さらにはどの政治家候補が投票するかに影響を与えます。ディープフェイクは私たちの生活のあらゆる領域に影響を与える可能性があります。したがって、基本的な保護が不可欠です。
ディープフェイクはどのように作成されるのか
ディープフェイクは、人工知能（AI）の最先端の進歩であり、テクノロジーを使用してますます現実的で説得力のある偽の画像、ビデオ、音声、テキストを生成する悪意ある攻撃者によってしばしば活用されます。これらのビデオは、「Generative Adversarial Networks」（GAN）と呼ばれる高度な深層学習技術を活用して、既存の画像、オーディオ、およびビデオをソースメディアファイルに重ね合わせることによって作成されます。GANは、本物の画像と見分けがつかない人工画像を合成することを目的としたAIの比較的最近の概念です。GANアプローチは、2つのニューラルネットワークを同時に機能させます。「ジェネレーター」と呼ばれるネットワークは、データセットを利用して、それを模倣するサンプルを生成します。「ディスクリミネーター」として知られるもう1つのネットワークは、ジェネレーターが成功した度合いを評価します。繰り返し、ディスクリミネーターの評価は、ジェネレーターの評価に通知します。GANアプローチの高度化により、ディープフェイクを公開することはこれまで以上に説得力があり、ほぼ不可能になりました。その結果、人間のレビュー担当者が達成できる速度、規模、ニュアンスをはるかに超えています。
データサイエンスの専門知識を適用して偽のビデオを検出
この脅威を軽減するために、マカフィーでは2020年10月、マカフィー ディープフェイクラボの立ち上げを発表しました。これは、個人、組織、民主主義、および社会全体の情報の全体的な整合性に対するディープフェイクの脅威に対抗するために、同社の世界クラスのデータサイエンスの専門知識とツールに焦点を当てています。ディープフェイクラボは、コンピュータービジョンとディープラーニングの手法を組み合わせて、隠されたパターンを悪用し、元のメディアファイルの認証で重要な役割を果たす操作されたビデオ要素を検出します。
ディープラーニングフレームワークの予測結果と各予測のソリューションの起源を理解できるようにするために、ネットワークのレイヤーとフィルターを視覚化するのにかなりの時間を費やし、検出フレームワークの上にモデルにとらわれない説明可能性フレームワークを追加しました。各予測について説明することで、画像とモデルをどれだけ信頼できるかについて情報に基づいた決定を下すことができ、後者を改善するために使用できる洞察を得ることができます。
また、大規模なデータセットで検出フレームワークの詳細な検証と検証を実行し、野生で見つかったディープフェイクコンテンツで検出機能をテストしました。私たちの検出フレームワークは、ビッグデータの力について簡単なスピーチをしているFacebookのマーク・ザッカーバーグの最近のディープフェイクビデオを検出することができました。このツールは、正確な検出スコアを提供するだけでなく、モデルにとらわれない説明可能性モジュールを介してヒートマップを生成し、決定に寄与する顔の部分を強調表示することで、予測への信頼を高めました。
このような簡単に入手できるディープフェイクは、操作されたコンテンツのポリシングに関してソーシャルネットワークが直面する課題を繰り返します。GAN技術の進歩により、非常にリアルな偽の画像が生成されるため、高度な形式のディープフェイクを識別および検出するために、高度なコンピュータービジョン技術を開発する必要があります。さらに、透かしや認証証跡を利用して、ディープフェイクから身を守るための措置を講じる必要があります。
警鐘を鳴らす
私たちは、ニュースメディアが人々の信念や意見を形作る上でかなりの力を持っていることを認識しています。結果として、影響を最大化するために、それらの真実性がしばしば損なわれます。「1枚の絵は千の言葉に値する」ということわざは、ディープフェイク現象の重要性を強調しています。信頼できるが詐欺的なオーディオ、ビデオ、およびテキストは、有名人やブランドの評判を台無しにするだけでなく、恐ろしい影響で政治的意見に影響を与えるために使用できるはるかに大きな影響を及ぼします。コンピュータービジョンとディープラーニング検出フレームワークは、偽のビジュアルメディアとテキストコンテンツを認証および検出できますが、評判へのダメージと意見への影響は残ります。
ディープフェイクラボの立ち上げにおいて、マカフィーは従来のニュースやソーシャルメディア組織と協力して、この重要な2020年の全国選挙シーズン中に悪意のあるディープフェイクの動画を特定し、ディープフェイクに関連するこの新しい偽情報の波と戦うのを支援します。
ディープフェイクに関する次のブログでは、詳細な検出フレームワークについて説明します。このフレームワークを使用して、偽情報との戦いを支援し、ディープフェイクの増大する課題を最小限に抑えます。
McAfee Deepfakes Labへの疑わしいコンテンツの分析依頼はmedia@mcafee.comまでコンテンツリンクを送信してください。
※本ページの内容は2020年10月14日（US時間）更新の以下のMcAfee Blogの内容です。
原文：The Deepfakes Lab: Detecting & Defending Against Deepfakes with Advanced AI
著者：Sherin Mathews and Celeste Fralick