個人情報を安全に保護 無料で30日間アプリ体験
その他

ディープフェイクとは?悪用事例や気をつけるポイントを解説

ディープフェイクという言葉を目にしたり耳にしたりする機会が増え、実際それが何であるのか、気になっている方は多いのではないでしょうか。

本記事では、ディープフェイクの概要や悪用事例、注意すべきポイントについて解説します。

「ディープフェイク」とは?

ディープフェイクとは最新のAI処理技術により人工的に生成された、事実や実物とは異なる画像、音声、動画、もしくはそれを作る技術のことを指します。

AIを使った機械学習の一種である「深層学習(ディープラーニング)」と「偽物(フェイク)」を組み合わせた混成語で、世間ではその技術により作られた偽の動画を指すことが多いようです。

ディープフェイクは、その人が実際に言っていないことを発言したり、行っていない動作をしているように見せることができたり、実際に存在しない建造物と景色を組み合わせた偽の画像を生成することなどができます。

元々ディープフェイクは映画やTVで映像の加工技術として使われていたり、個人が趣味で使われたりするもので、すべてが不正なものではありません。
一方、最近は様々なインターネット犯罪に悪用される事例が出てきており、注意が必要です。

ディープフェイクの技術の進化はすさまじく、⼈間が眼で見分けることは困難なものが⽣成されるようになってきているためです。

約4割の人がディープフェイクを目にしたり耳にしたことがあるディープフェイク

ディープフェイクに接触しているユーザはどのくらいいるのでしょうか。

トレンドマイクロの調査によると「ディープフェイク」という言葉を認知している人の内、37.5%が実際に「目にしたり耳にしたことがある」と回答していました。

「ディープフェイクと思われるものを、あなたご自身で目にしたり、耳にしたことがありますか。」(ディープフェイクという用語について、「よく知っている」もしくは「名前だけ知っている」と回答した1,227人に質問※単一回答)

<調査概要>
調査名: 「ディープフェイクに関する国内実態調査2024」
調査期間: 2024年05月31日~ 2024年06月01日
調査対象: 18歳以上の男女 2,585名
調査方法: Web調査 

約1割強の人がディープフェイクの悪用遭遇経験あり

また、前述のアンケートでは、対象者全体の14.6%がディープフェイクの悪用に遭ったと回答しています。
※ディープフェイクの悪用に接触した事を意味し、実害の有無は示していません。
※「悪用に遭った」は自己申告による回答であり、実際の被害はより多い可能性があります。

「あなたご自身がディープフェイクの悪用に遭ったことはありますか」(回答者2,585人に質問※単一回答)

さらに、実際にどのような悪用のケースに遭ったかをたずねたところ、「フェイクニュースやデマ情報に煽動される」(54.4%)が半数以上を占めることが明らかになりました。

日本でも特定の政治家の動画を基に偽の発言にすり替えた動画や、天災時の現地の被害状況と偽った偽画像が広く出回ったケースなどが世間で話題に上がりました。

「あなたご自身がディープフェイクの悪用に遭ったことはありますか。当てはまるものを全てお答えください。」(※ディープフェイクの悪用に遭ったと回答した377人に質問※複数回答)

ディープフェイクを悪用した犯罪事例

実際にディープフェイクが犯罪に悪用された事例を詳しくみていきましょう。

詐欺行為

実在もしくは架空の人物になりすまして金銭をだまし取る詐欺行為にディープフェイクが使われた事例です。

ターゲットが個人か法人かで異なる詐欺の手口が使われますが、それぞれの事例を以下に紹介します。

個人を狙った詐欺事例

著名人、架空の人物、または家族、友人などの身近な人を装ったディープフェイクが悪用されるケースが見られます。

日本では、架空の人物のディープフェイク画像を作り、SNSのダイレクトメッセージでターゲットと連絡を取り、親近感や恋愛感情を抱かせて金銭をだまし取るSNS型ロマンス詐欺の事例がありました。

また、海外では、ディープフェイクで作成した子供の偽の音声を親に聞かせ、子供が人質に取られたと錯覚させて身代金を要求した犯罪が報告されています。

【参考情報】
警視庁SOS47 特殊詐欺対策ページ|SNS型ロマンス詐欺
Federal Communications Commissions|’Grandparent’ Scams Get More Sophisticated

法人を狙った詐欺事例

企業の経営陣を装ったディープフェイクが悪用されるケースが見られます。

香港の企業の事例では、ディープフェイクによりCFOになりすました犯罪者が従業員に送金の指示を出し、2500万ドルをだまし取った犯罪がありました。
Teamsなどのチャットツールから従業員を会議に招待して、送金を指示していました。

【参考情報】
TRENDMICRO|A Deepfake Scammed a Bank out of $25M — Now What?

不正認証

ディープフェイクを用いて声紋・顔認証などの生体認証を不正に突破し、銀行口座を不正に操作して、お金を盗む犯罪事例もあります。

具体的には「GoldFactory」という名前の犯罪グループが、不正なアプリでユーザの顔認証の画像や個人情報を入手し、それらを悪用してユーザの銀行口座に不正アクセスしていました。

【参考情報】
マイナビニュース | iOSとAndroidから顔認証データ盗むマルウェア「GoldPickaxe」、口座に不正アクセス

偽の広告

実在の著名人を装った偽の広告をSNSなどで表示し、ユーザを偽のサイトに誘導して、金銭をだまし取るケースです。

ディープフェイクで生成された著名人の音声や画像を本物と見分けることが難しく、このような偽の広告により投資話に勧誘される事例が日本で多発しています。 

【参考情報】
NHK|なぜなくならない?SNS有名人なりすまし広告 クリックすると…

偽情報の拡散

ディープフェイクで生成した偽情報がインターネットやSNSで拡散され多くの人がだまされたケースもあります。

実在する建造物や風景、著名人などを加工して作られる情報は、一見すると偽物だと気づきにくく、人々の間であっという間に広がっていきます。

例えば米国防総省本部の近くで爆発があったかのような偽画像がX(旧Twitter)などで一気に拡散された事例がありました。
このたった1枚の偽画像によって、米ニューヨーク株式市場おのダウ工業株30種平均が一時80ドル近くも急落する大きな混乱へと発展したのです。

【参考情報】
Forbes | Fake Image Of Explosion Near Pentagon Went Viral—Even Though It Never Happened

ディープフェイクを見分けられるか?

ディープフェイクの品質は様々です。
偽物だと気づけるものもありますが、精巧に作られたディープフェイクは、本物と見分けることは困難です。

前述のアンケート調査においても、わずか1.9%がディープフェイクを「本物かどうか見分けることができる」と回答した一方で、「分からない」(36.6%)、「おそらく見分けられないと思う」(31.8%)、「見分けられないと思う」(15.6%)と、大半が情報の真偽の判断ができる自信がないことが分かりました。

「ディープフェイクを、ご自身で本物かどうかを判断し見分けることができると思いますか。」(回答者2,585人質問※単一回答)

人が眼で見分けることが難しいディープフェイクの悪用被害を防ぐには、どのような対策をすれば良いでしょうか。

まずは見聞きした一つの情報を鵜呑みにせず、複数の情報源を確認して真偽を確認することが重要です。

前述のような詐欺行為への悪用に対しては、クレジットカード情報や個人情報の入力を求めるサイト、金銭要求のメールやメッセージには注意しましょう。

既に「Deepware Scanner」や「Microsoft Video Authenticator」などのディープフェイクによって作られたコンテンツを検出するツールも存在しており、これらを利用することで悪意のあるディープフェイクを見抜くことができるかもしれません。

【参考情報】
Deepware | Scan & Detect Deepfake Videos
Microsoft | 虚偽情報対策に向けた新たな取り組みについて

情報の真偽を確かめ、金銭や個人情報の詐取に注意しましょう

ディープフェイクの技術は日々進歩しており、人間が偽物だと気づくことが難しい精巧なディープフェイクも増えています。

インターネットやSNSで触れる画像、音声、動画に疑わしいものがある時は、複数の情報を調べて、その真偽を確認しましょう。

  • シェア
  • 送る
  • 執筆者情報

    ウイルスバスター
    セキュリティトピックス

    ウイルスバスター セキュリティトピックスは巧妙化、多様化するサイバー攻撃やネット詐欺などの脅威からお客さまを守り、安全に、安心してインターネットを活用いただくためのセキュリティ情報を提供するサイトです。
    運営会社:トレンドマイクロ株式会社

    以下コメント欄からこの記事についての感想をお聞かせください。
    お使いのトレンドマイクロ製品についてのご質問は、コメントではなくこちらのページからお問い合わせください。

    同じカテゴリの人気記事

    Windows10パソコンの動作が重い5つの原因と軽くする簡単な方法 Macの動作が重い5つの原因と軽くする簡単な方法 商品が届かなかったら?ネットショッピングのトラブルの対処方法 スマホ紛失時にやるべき6つのこと!被害を減らす対処法と予防策 子どものスマホの利用時間を制限するには?おすすめツールも紹介 身近に潜むインターネットの危険からオンラインゲームのデバイスやアカウントを守るためには?

    無料体験版のご紹介

    パソコンやスマホのセキュリティ対策が気になるときは・・・
    まずは30日間、無料体験してみませんか?

    スマホ・タブレットをお使いのお客さま
    (Android/iOS/iPadOS)

    Google Playで手に入れよう App Storeからダウンロード

    パソコンをお使いのお客さま
    (Windows/MacOS)

    Microsoftから入手
    • Windows8.1以上をお使いの方は、Microsoft Storeからもダウンロードできます。
    • 無料体験版をご利用の際は、クレジットカードの登録不要!
    • 30日無料体験版は、無料体験期間終了後、自動で有償版に切り替わることはございません。
    • Windows版とMac版ではご利用いただける機能が異なります。詳しくは機能一覧をご覧ください。
    • TREND MICRO、およびウイルスバスターはトレンドマイクロ株式会社の登録商標です。
    • 「Android」、「Google Play」はGoogle LLCの商標です。
    • 「iOS」、「iPadOS」、「MacOS」、「App Store」はApple inc. の商標です。
    • 「Microsoft」はMicrosoft Corporation の商標です。
    ▲