ディープフェイクって何かの記事で読んだことがあるけど合成写真のようなものですよね？
合成という意味では同じですが、ディープフェイクは偽の動画や音声をAIの学習機能を用いて作成する技術です。
残念なことにディープフェイクの技術が悪用されるケースが近年増加しているのです。
その被害はテレビで活躍している女性芸能人や一般女性の被害者が急増しており実際に逮捕者も出ています。
さらに政治や経済の場でディープフェイクが悪用されれば社会的な信用を失うほか、安全保障上の問題が発生する危険もあります。
この記事ではディープフェイクを作成する仕組みや見破る技術などを分かりやすくお話ししていきます。
目次[開く]
ディープフェイクとは？
ディープフェイクとは『人口知能（AI）の高度な学習機能を応用して、偽物（フェイク）の動画や音声を作る技術』を指し、作成される動画と音声は以下のように呼ばれます。
音声：フェイクボイス
ディープフェイクを作成する仕組みとは？
ディープフェイクの作成は実はそんなに難しくありません。
ここからは簡単にフェイクビデオを作る仕組みをご紹介しますね。
ここでは元々の動画に写っている人物の顔に、ディープラーニングの学習機能を用いて他人の顔にすり替えていく手順をお話ししていきます。
例えば元々の動画に写っている人物をAさん、すり替える人物をBさんとした場合、まずAさんの顔を数万程度のパーツに細分化するのと同時にAさんBさんの顔写真を大量に準備します。
それからディープラーニングの学習機能を用いてAさん・Bさんの顔を学習させていき、Aさんの表情に合わせてBさんの顔のパーツを組み込みます。
そうすると元々の動画に写っていたAさんの表情一つひとつに合わせて、すり替えたBさんの顔のパーツが自然に動くようになります。それに合わせて音声もコンピューターが細かく制御し、Aさんが元々の動画で行っていない顔の表情や話していないことを発言させることができるのです。
今ではディープフェイクが作成できるツール・アプリが配信され、ある程度の知識があれば容易に作成できます。
・Deepfakes web β（作成サービス）
・Xpression（iOS）
・Doublicat（iOS・Android）
上記のツール・アプリを利用したディープフェイクは完成度が高く、偽物だと気付くのが難しいといわれています。
ディープフェイクが近年急速に拡大したワケ
ディープフェイクが登場し注目されだしたのは2017年頃です。
しかし、偽動画や画像を作成する行為は実は「アイコラージュ」という形で以前から行われています。
ただ、「アイコラージュ」の画像や動画の加工には高度な専門知識が必要になるため、専門職でなければ作成できませんでした。
それが現在では人口知能（AI）が急速に発達し、ディープラーニングによる高度な学習機能が身近に利用できるようになったことでディープフェイクが急速に普及したのです。
さらに今では、若者を中心に利用者が激増しているSNSやYouTubeといったソーシャルメディアの普及もディープフェイクの拡大に拍車をかけているといわれています。
フェイクビデオ攻撃による被害事例
ディープフェイクが普及してどんな被害が出ていますか？最近だとYouTuberとか被害を受けてそうですよね。
もちろんすべて悪意ある目的でディープフェイクの技術が使われているワケではありません。しかし残念なことに、近年は悪意ある目的で利用されるケースが目立ちます。
その中でとくに多い事例が、冒頭のニュースでご紹介したような女優やアイドルなど女性芸能人が被害を受けているアダルト動画との合成です。
海外では2017年にハリウッド女優のエマ・ワトソンさんが被害を受けたのは有名ですが、日本国内でも200人以上の女性芸能人が被害に遭っているといわれています。
さらに近年は芸能人だけではなく、先程ご紹介したツール・アプリが普及したことで、一般女性もいかがわしい動画と合成したフェイクビデオの被害に遭うケースが増加しているのです。
しかし芸能人や女性への被害だけでなくそれ以上に問題視されているのが、政治やビジネスにおけるフェイクビデオ攻撃です。
実際に世界中に拡散した有名なフェイクビデオを２例ご紹介します。
オバマ前大統領の演説動画（2018年）
2018年4月にYouTubeに公開されたアメリカのオバマ前大統領の演説動画のフェイクビデオです。
最も有名なフェイクビデオで現在も閲覧できますが、800万回以上再生されています。
全体で1分13秒の短い動画ですが、開始から20秒過ぎたときオバマ前大統領が「トランプ大統領は救いようのないマヌケだ（President Trump is a complete and total dipshit）」と発言しています。
それから36秒後に画面が2分割され映画監督の「ジョーダン・ヒール」が右側の画面に登場します。
実はこれはジョーダン・ヒール氏が作成したフェイクビデオで、ディープフェイクの脅威を世界に知らせるために制作したものになります。
Facebook CEOザッカーバーグ氏のフェイクビデオ（2019年）
引用元：BBCニュース
2019年6月にinstagramにアップロードされたFacebookのCEO「ザッカーバーグ」氏のフェイクビデオです。
動画はこちら→https://www.instagram.com/p/ByaVigGFP2U/?utm_source=ig_embed&utm_campaign=embed_video_watch_again
動画自体は16秒と短く自動リピートされます。
この動画の中でザッカーバーグ氏は「大量の個人データを手に入れた者が未来も手に入れると『スペクター』に教えてもらった」などと発言していますが、すべてディープフェイクによるフェイクビデオになります。
実はこのフェイクビデオはイギリスで開催された「スペクター」という芸術イベントの作品として製作されたもので、ザッカーバーグ氏の顔と俳優の声を合成して作成されたものです。
ともにディープフェイクの脅威を知らしめるために作成されたものですが、普通に見ているだけではフェイクビデオなのか見破るのは困難だといえます。
フェイクビデオ攻撃の被害を防ぐための対策とは？
さっきの2つの動画ともに偽物だと分かっていても本物に見えますが、フェイクビデオを見破る方法なんてあるんですか？
ディープフェイク対策は色々な専門家が研究を進めています。ここでは現在開発が進められているフェイクビデオ攻撃を見破るための技術を2つご紹介します。
ディープフェイクへの対策は「瞬き（まばたき）」？
フェイクビデオは見破るのが困難と言われるほど精巧な動画ですが、実は欠陥が多いといいます。
そこで近年フェイクビデオの欠陥をニューヨーク州立大学の研究チームが発見し、AIを活用したフェイクビデオを見破る技術の開発が進められています。
具体的に説明すると、研究チームがフェイクビデオの欠陥として注目したのが人の「瞬き（まばたき）」です。
人は通常1分間に平均17回瞬きをしています。
しかしディープフェイクで作りだされる偽物の人物はほとんど瞬きをしないといわれています。
その理由はフェイクビデオを作成するときAIに学習（ディープラーニング）させるのが目を開いた状態の写真だからです。
写真を撮影するとき誰でも目を開いた状態で写りますよね。
そうなればフェイクビデオを作成するときも目を開いた状態の顔しか学習できないため、フェイクビデオの欠陥としてほとんど瞬きをしない人物ができあがるのです。
瞬きでフェイクビデオを見破る技術は現在研究が進められており、完成すれば高い確率で見破れる可能性があります。
なるほど～瞬きしないのも納得ですね。それで瞬きでフェイクビデオを見破る技術は私たちでも使えるんですか？
この技術が市場に出回るのは少し遅くなりそうですが、フェイクビデオの疑いがあるときは登場人物の瞬きに注目してみましょう。
ほとんど瞬きをしなければフェイクビデオの可能性が高いといえます。
ディープフェイク対策ツール「Video Authenticator」の活用
2020年9月にMicrosoftからディープフェイクが検出できるツールとして「Video Authenticator」が発表されました。
このツールを使えば社会的に不適切なフェイクビデオの拡散を防ぐことが可能になるといわれています。
Video Authenticatorは写真と動画の分析が可能で、人間では認識できない色の違いなどの違和感を検出します。
「Video Authenticator」であれば検出した結果を信頼性スコアと実際の人物である確率を算出して、フレームごとにリアルタイムで確率などの数値を表示します。
現在「Video Authenticator」はReality Defender 2020で利用可能になっていますが、今後一般向けに流通するのではないでしょうか。
まとめ
ディープフェイクは人口知能（AI）の高度な学習機能（ディープラーニング）を応用した最先端のサイバー攻撃です。
2017年頃から急速に被害が拡大し、女性芸能人を中心に国内で200人以上の被害者がでています。
さらに政治や経済の場でも被害が懸念され、世界的な安全保障問題や企業経営に悪影響を与える危険もあるのです。
しかしディープフェイクには多くの欠陥があり、その中で人の「瞬き」が注目され見破る技術の開発が進められています。
だれもがディープフェイクを見破れる技術を使える時代も、そう遠くはないのかもしれません。
