2024/07/03 その他

ディープフェイクとは？悪用事例や気をつけるポイントを解説

ディープフェイクという言葉を目にしたり耳にしたりする機会が増え、実際それが何であるのか、気になっている方は多いのではないでしょうか。

本記事では、ディープフェイクの概要や悪用事例、注意すべきポイントについて解説します。

「ディープフェイク」とは？

ディープフェイクとは最新のAI処理技術により人工的に生成された、事実や実物とは異なる画像、音声、動画、もしくはそれを作る技術のことを指します。

AIを使った機械学習の一種である「深層学習（ディープラーニング）」と「偽物（フェイク）」を組み合わせた混成語で、世間ではその技術により作られた偽の動画を指すことが多いようです。

ディープフェイクは、その人が実際に言っていないことを発言したり、行っていない動作をしているように見せることができたり、実際に存在しない建造物と景色を組み合わせた偽の画像を生成することなどができます。

元々ディープフェイクは映画やTVで映像の加工技術として使われていたり、個人が趣味で使われたりするもので、すべてが不正なものではありません。
一方、最近は様々なインターネット犯罪に悪用される事例が出てきており、注意が必要です。

ディープフェイクの技術の進化はすさまじく、⼈間が眼で見分けることは困難なものが⽣成されるようになってきているためです。

約4割の人がディープフェイクを目にしたり耳にしたことがあるディープフェイク

ディープフェイクに接触しているユーザはどのくらいいるのでしょうか。

トレンドマイクロの調査によると「ディープフェイク」という言葉を認知している人の内、37.5%が実際に「目にしたり耳にしたことがある」と回答していました。

「ディープフェイクと思われるものを、あなたご自身で目にしたり、耳にしたことがありますか。」（ディープフェイクという用語について、「よく知っている」もしくは「名前だけ知っている」と回答した1,227人に質問※単一回答）

＜調査概要＞
調査名：　「ディープフェイクに関する国内実態調査2024」
調査期間： 2024年05月31日～ 2024年06月01日
調査対象：　18歳以上の男女 2,585名
調査方法：　Web調査　

約1割強の人がディープフェイクの悪用遭遇経験あり

また、前述のアンケートでは、対象者全体の14.6%がディープフェイクの悪用に遭ったと回答しています。
※ディープフェイクの悪用に接触した事を意味し、実害の有無は示していません。
※「悪用に遭った」は自己申告による回答であり、実際の被害はより多い可能性があります。

「あなたご自身がディープフェイクの悪用に遭ったことはありますか」（回答者2,585人に質問※単一回答）

さらに、実際にどのような悪用のケースに遭ったかをたずねたところ、「フェイクニュースやデマ情報に煽動される」（54.4%）が半数以上を占めることが明らかになりました。

日本でも特定の政治家の動画を基に偽の発言にすり替えた動画や、天災時の現地の被害状況と偽った偽画像が広く出回ったケースなどが世間で話題に上がりました。

「あなたご自身がディープフェイクの悪用に遭ったことはありますか。当てはまるものを全てお答えください。」（※ディープフェイクの悪用に遭ったと回答した377人に質問※複数回答）

ディープフェイクを悪用した犯罪事例

実際にディープフェイクが犯罪に悪用された事例を詳しくみていきましょう。

詐欺行為

実在もしくは架空の人物になりすまして金銭をだまし取る詐欺行為にディープフェイクが使われた事例です。

ターゲットが個人か法人かで異なる詐欺の手口が使われますが、それぞれの事例を以下に紹介します。

個人を狙った詐欺事例

著名人、架空の人物、または家族、友人などの身近な人を装ったディープフェイクが悪用されるケースが見られます。

日本では、架空の人物のディープフェイク画像を作り、SNSのダイレクトメッセージでターゲットと連絡を取り、親近感や恋愛感情を抱かせて金銭をだまし取るSNS型ロマンス詐欺の事例がありました。

また、海外では、ディープフェイクで作成した子供の偽の音声を親に聞かせ、子供が人質に取られたと錯覚させて身代金を要求した犯罪が報告されています。

【参考情報】
警視庁SOS47 特殊詐欺対策ページ｜SNS型ロマンス詐欺
 Federal Communications Commissions｜’Grandparent’ Scams Get More Sophisticated

法人を狙った詐欺事例

企業の経営陣を装ったディープフェイクが悪用されるケースが見られます。

香港の企業の事例では、ディープフェイクによりCFOになりすました犯罪者が従業員に送金の指示を出し、2500万ドルをだまし取った犯罪がありました。
Teamsなどのチャットツールから従業員を会議に招待して、送金を指示していました。

【参考情報】
TRENDMICRO｜A Deepfake Scammed a Bank out of $25M — Now What?

不正認証

ディープフェイクを用いて声紋・顔認証などの生体認証を不正に突破し、銀行口座を不正に操作して、お金を盗む犯罪事例もあります。

具体的には「GoldFactory」という名前の犯罪グループが、不正なアプリでユーザの顔認証の画像や個人情報を入手し、それらを悪用してユーザの銀行口座に不正アクセスしていました。

【参考情報】
マイナビニュース | iOSとAndroidから顔認証データ盗むマルウェア「GoldPickaxe」、口座に不正アクセス

偽の広告

実在の著名人を装った偽の広告をSNSなどで表示し、ユーザを偽のサイトに誘導して、金銭をだまし取るケースです。

ディープフェイクで生成された著名人の音声や画像を本物と見分けることが難しく、このような偽の広告により投資話に勧誘される事例が日本で多発しています。

【参考情報】
NHK｜なぜなくならない？SNS有名人なりすまし広告クリックすると…

偽情報の拡散

ディープフェイクで生成した偽情報がインターネットやSNSで拡散され多くの人がだまされたケースもあります。

実在する建造物や風景、著名人などを加工して作られる情報は、一見すると偽物だと気づきにくく、人々の間であっという間に広がっていきます。

例えば米国防総省本部の近くで爆発があったかのような偽画像がX（旧Twitter）などで一気に拡散された事例がありました。
このたった1枚の偽画像によって、米ニューヨーク株式市場おのダウ工業株30種平均が一時80ドル近くも急落する大きな混乱へと発展したのです。

【参考情報】
Forbes | Fake Image Of Explosion Near Pentagon Went Viral—Even Though It Never Happened

ディープフェイクを見分けられるか？

ディープフェイクの品質は様々です。
偽物だと気づけるものもありますが、精巧に作られたディープフェイクは、本物と見分けることは困難です。

前述のアンケート調査においても、わずか1.9%がディープフェイクを「本物かどうか見分けることができる」と回答した一方で、「分からない」（36.6%）、「おそらく見分けられないと思う」（31.8%）、「見分けられないと思う」（15.6%）と、大半が情報の真偽の判断ができる自信がないことが分かりました。

「ディープフェイクを、ご自身で本物かどうかを判断し見分けることができると思いますか。」（回答者2,585人質問※単一回答）

人が眼で見分けることが難しいディープフェイクの悪用被害を防ぐには、どのような対策をすれば良いでしょうか。

まずは見聞きした一つの情報を鵜呑みにせず、複数の情報源を確認して真偽を確認することが重要です。

前述のような詐欺行為への悪用に対しては、クレジットカード情報や個人情報の入力を求めるサイト、金銭要求のメールやメッセージには注意しましょう。

既に「Deepware Scanner」や「Microsoft Video Authenticator」などのディープフェイクによって作られたコンテンツを検出するツールも存在しており、これらを利用することで悪意のあるディープフェイクを見抜くことができるかもしれません。

【参考情報】
Deepware | Scan & Detect Deepfake Videos
Microsoft | 虚偽情報対策に向けた新たな取り組みについて