OpenAIのChat GPTやSora、AI画像生成のGoogleのGeminiやMidjourneyなど、世界では過去18ヶ月の間に多くのAIが発表されました。
これらは私たちの生活を変えるような素晴らしく革新的な技術ですが、新しい技術には必ず欠点があります。
AIにも詐欺師やハッカーに悪用されたり、意図しない不適切または危険な影響を及ぼしたりする可能性が潜んでいます。
本記事では、今回はAIの革新的な部分だけでなく、あまりよくない側面にも焦点を当てながら、AI技術を悪用した海外の詐欺事例を紹介します。
知っておくべき6つのAI詐欺
1. ル・クルーゼとテイラー・スウィフトのプレゼント詐欺サイト
ソーシャルメディアの中でも特にFacebook上でよく見られるのが、詐欺や偽の景品です。
詐欺師は多くの場合、人気のあるブランドや有名人の名前を使って人々をだまし、お金やクレジットカード情報などの個人情報を教えるよう促してきます。
今回の事例では、AIでテイラー・スウィフトがル・クルーゼとコラボしてプレゼントキャンペーンを開催するように見せかけたディープフェイク動画が用いられていました。
ディープフェイク動画の例
AIで生成された女性は「みなさん、テイラー・スウィフトです。（中略）梱包等の問題で販売できなくなってしまった3,000セットのル・クルーゼの調理器具をファンの皆さんに無料で差し上げます。」と発言していました。
しかし、これは本物を装った偽のキャンペーンで、プレゼントを提供するコラボは実在しませんでした。
このようなオファーを見かけた場合は、まず公式のウェブサイトやSNSアカウントを確認して、本当にコラボが存在するかどうかを確かめることが重要です。
2. AIのクローン音声
AIを使った実在の人物のクローン音声を作成し、詐欺を行う例も確認されています。
例として、SNS上の動画投稿からAI技術でクローン音声を作成し、家族・友人・同僚になりすまして金銭を要求する、といった手口です。
最近では、AI音声を使って子どもを人質に取ったように錯覚させ、家族から高額の身代金を要求するケースも発生しています。
他にも孫のクローン音声を作成し、祖父母から金品を騙し取るような事例も報告されており、米連邦取引委員会(FTC)が注意を促しています。
【参考情報】
Federal Communications Commissions｜’Grandparent’ Scams Get More Sophisticated
Federal Trade Commissions Consumer Advice｜Scammers use AI to enhance their family emergency schemes
3. Microsoft Teamsを使った攻撃
ハッカーは従来のフィッシングメールだけでなく、Microsoft Teamsなどを悪用した詐欺を行う場合もあります。
ある事例では、出張中の CEO になりすまし、WhatsAppのメッセージで従業員を会議に招待しました。
従業員はウェブカメラに映るCEO らしき姿を見ましたが、実はディープフェイク技術で作った動画で、背景も偽装されていました。
香港の企業でも、CFOになりすまし2,500万ドルを騙し取られた事件がありました。
また、ビル・ゲイツになりすまし、ワクチンについてのインタビューを偽装したディープフェイク動画の例もあります。
【参考情報】
Venture Best｜Microsoft Teams is the new frontier for phishing attacks
TRENDMICRO｜A Deepfake Scammed a Bank out of $25M — Now What?
X｜ユーザのポスト
4. トルコ地震のチャリティ詐欺
2022年のトルコ・シリア地震の際、AI生成された子どもの画像を使って人々の同情を誘い、寄付金を集める詐欺があり、トレンドマイクロは注意を促しました。
詐欺に使われた画像には、消防士が6本指を持つ点やシリア内戦中の子どもの画像を地震の被災者と偽っている点など、いくつかの矛盾が見受けられました。
【参考情報】
TRENDMICRO｜Turkey Earthquake Charity Scams Alert
5. AI生成の偽ニュースサイト
昨年5月、AIで生成された偽のニュースサイト「ニュースボット」の増加が確認されています。
このようなサイトでは、内容の真偽を気にせず大量に記事を生成しており、広告収入を目的としていると考えられます。
英語だけではなく、少なくとも7か国の言語でこういった偽サイトの存在が確認されています。
【参考情報】
TRENDMICRO｜AI-Generated Fake News & How to Spot Bogus Sites
6. AIを悪用したロマンス詐欺
ロマンス詐欺グループはAIを幅広く活用し、より多くの被害者に効率的に接近しています。
AIの主な用途は、以下の通りです。
1. 自動メッセージ
AIチャットボットを利用して被害者と会話し、人間のように振る舞って被害者との関係を構築します。
2. 存在しない人物のプロフィール生成
AI生成または盗用された画像と情報で出会い系サイト上に偽のプロフィールを作ります。
3. 言語生成
被害者のプロファイルや過去の会話に基づき、個人に合わせたメッセージのやり取りを行います。
AIを安全に使うための5つのポイント
AIを設計したり生成したりする上で、最も問題視されているのは、生成された内容に説得力があるかということです。
AIを有効に活用するためには、AIが詐欺師などに悪用される危険性も考慮しておく必要があるでしょう。
そこで、AIを安全に使うための5つのポイントを紹介します。
1. 学習
AIがどのように動作するのかを学び、理解を深めることで、情報に基づいた適切な判断ができるようになります。
家族や子どもともAiについての知識を共有しましょう。
2. データプライバシー
オンライン上でデータを共有する際は注意が必要です。
AIは収集したデータに基づいて動作しており、個人情報が予期せぬ危険な用途に転用される可能性があります。
3. 情報の偏り
AIで生成される情報は人間と同様に偏りを持つ場合があります。
偏りが発生する可能性を認識し、対処する必要があります。
4. 真偽の検証
信頼できる情報元からのAI生成コンテンツであることを確認し、その内容が事実かどうかを見極める習慣を付けましょう。
画像やビデオの細かい部分に注目すると真偽がわかる場合があります。
5. セキュリティ対策
デバイスを適切に保護することが重要です。
トレンドマイクロはセキュリティ対策アプリを提供しているので、利用を検討しましょう。
悪意のあるAIコンテンツを見分けるには？
前述の通り、AI技術によって生成した他人の顔や音声を使い、その人になりすましたり、実際には言っていないこと言わせたりするような悪意のあるディープフェイクコンテンツが存在します。
特に精巧に作られたディープフェイクは、人間の目では本物と見分けることが困難です。
一方で、既に「Deepware Scanner」や「Microsoft Video Authenticator」などのディープフェイクによって作られたコンテンツを検出するツールも存在します。
これらを利用することで悪意のあるディープフェイクを見抜ける可能性があります。
[悪意のあるAIコンテンツを検出する無料ツールの紹介]
「トレンドマイクロ ディープフェイクスキャン（ベータ版）」は、ディープフェイクを使ったビデオ通話やライブ配信を検出して、通話相手になりすましの可能性がある際にユーザに警告します。
巧妙に作られたディープフェイクコンテンツを、AI技術を使って判別できます。
本ツールはWindowsパソコン用に無料で提供されています。
【参考情報】
Deepware | Scan & Detect Deepfake Videos
Microsoft | 虚偽情報対策に向けた新たな取り組みについて
トレンドマイクロが子どもと家族のインターネットの安全をサポートします
AIには危険な側面や子どもに不適切な側面もあるため、トレンドマイクロでは「サイバーアカデミー」を開設し、インターネットの安全な利用法などを学べるレッスンを提供しています。
保護者や教育者向けにも、オンラインでの実践的なアドバイスやヒント、有益な資料等を提供しています。
【トレンドマイクロの個人情報保護アプリの紹介】
トレンドマイクロ ID プロテクションは、個人情報流出による被害を防ぐアプリです。
メールアドレス、クレジットカード情報などの個人情報流出の有無を常時監視し、万が一流出を確認した場合、セキュリティアドバイザーがメール・電話にて対処方法を支援します。
※ 情報の流出や不正利用時の対処支援は問題解決のご支援を行うためのもので、問題解決を保証するものではありません。
以下のアプリストアより、無料でダウンロードしましょう。
トレンドマイクロ ID プロテクション無料体験版
・トレンドマイクロ ID プロテクションの「個人情報漏えい監視機能」
メールアドレス、クレジットカード情報などの個人情報がインターネットやダークウェブに流出していないかを常時監視できます。
トレンドマイクロ ID プロテクションのその他の機能
※クリックして詳細を見る
・情報流出時の対処支援
モニタリングしている個人情報の流出が確認された場合、セキュリティアドバイザーによりメール・電話にて対処方法の支援を受けることができます。
・パスワード管理
IDやパスワードを安全に記憶し、一括管理。最高レベルの暗号化方式であるAES 256bitでデータを保護します。パスワードを簡単かつ安全に生成することも可能です。
・SNSアカウントのプライバシー保護
SNSアカウント（Google/Facebook/Instagram）に不正利用があった場合に、お客さまのメールに通知したり※1、アカウントのプライバシー設定が安全であるかチェックしたりできます。※2
※1 すべての不正利用を検知することを保証するものではありません。Google および Facebook、Instagramが対象です。
※2 Windows および Mac のブラウザ拡張機能でのみご利用いただけます。
・インターネット利用時のプライバシーの保護
追跡型広告に利用されるWeb閲覧履歴など、広告主や攻撃者による情報収集を防止することで、お客さまのプライバシーを守ります。
・危険なWebサイトを警告
閲覧しているWebサイトが個人情報を盗む不正サイトでないか確認し、不正サイトと判定した場合に警告します。Chrome および Edge のブラウザ拡張機能でのみご利用いただけます。（Windows/Macデバイスのみ対応）
執筆者情報
同じカテゴリの人気記事
無料体験版のご紹介
パソコンやスマホのセキュリティ対策が気になるときは・・・
まずは30日間、無料体験してみませんか？
スマホ・タブレットをお使いのお客さま
（Android/iOS/iPadOS）
パソコンをお使いのお客さま
（Windows/MacOS）
- ※Windows8.1以上をお使いの方は、Microsoft Storeからもダウンロードできます。
- ※無料体験版をご利用の際は、クレジットカードの登録不要!
- ※30日無料体験版は、無料体験期間終了後、自動で有償版に切り替わることはございません。
- ※Windows版とMac版ではご利用いただける機能が異なります。詳しくは機能一覧をご覧ください。
- TREND MICRO、およびウイルスバスターはトレンドマイクロ株式会社の登録商標です。
- 「Android」、「Google Play」はGoogle LLCの商標です。
- 「iOS」、「iPadOS」、「MacOS」、「App Store」はApple inc. の商標です。
- 「Microsoft」はMicrosoft Corporation の商標です。
