AI技術を悪用した海外の詐欺事例

OpenAIのChat GPTやSora、AI画像生成のGoogleのGeminiやMidjourneyなど、世界では過去18ヶ月の間に多くのAIが発表されました。 

これらは私たちの生活を変えるような素晴らしく革新的な技術ですが、新しい技術には必ず欠点があります。 

AIにも詐欺師やハッカーに悪用されたり、意図しない不適切または危険な影響を及ぼしたりする可能性が潜んでいます。 

本記事では、今回はAIの革新的な部分だけでなく、あまりよくない側面にも焦点を当てながら、AI技術を悪用した海外の詐欺事例を紹介します。

知っておくべき6つのAI詐欺

1. ル・クルーゼとテイラー・スウィフトのプレゼント詐欺サイト

ソーシャルメディアの中でも特にFacebook上でよく見られるのが、詐欺や偽の景品です。 

詐欺師は多くの場合、人気のあるブランドや有名人の名前を使って人々をだまし、お金やクレジットカード情報などの個人情報を教えるよう促してきます。 

今回の事例では、AIでテイラー・スウィフトがル・クルーゼとコラボしてプレゼントキャンペーンを開催するように見せかけたディープフェイク動画が用いられていました。 

AIで生成された女性は「みなさん、テイラー・スウィフトです。（中略）梱包等の問題で販売できなくなってしまった3,000セットのル・クルーゼの調理器具をファンの皆さんに無料で差し上げます。」と発言していました。 

しかし、これは本物を装った偽のキャンペーンで、プレゼントを提供するコラボは実在しませんでした。 

このようなオファーを見かけた場合は、まず公式のウェブサイトやSNSアカウントを確認して、本当にコラボが存在するかどうかを確かめることが重要です。 

2. AIのクローン音声

AIを使った実在の人物のクローン音声を作成し、詐欺を行う例も確認されています。

例として、SNS上の動画投稿からAI技術でクローン音声を作成し、家族・友人・同僚になりすまして金銭を要求する、といった手口です。

最近では、AI音声を使って子どもを人質に取ったように錯覚させ、家族から高額の身代金を要求するケースも発生しています。 

他にも孫のクローン音声を作成し、祖父母から金品を騙し取るような事例も報告されており、米連邦取引委員会(FTC)が注意を促しています。 

【参考情報】
Federal Communications Commissions｜’Grandparent’ Scams Get More Sophisticated
Federal Trade Commissions Consumer Advice｜Scammers use AI to enhance their family emergency schemes

3. Microsoft Teamsを使った攻撃

ハッカーは従来のフィッシングメールだけでなく、Microsoft Teamsなどを悪用した詐欺を行う場合もあります。

ある事例では、出張中の CEO になりすまし、WhatsAppのメッセージで従業員を会議に招待しました。 
従業員はウェブカメラに映るCEO らしき姿を見ましたが、実はディープフェイク技術で作った動画で、背景も偽装されていました。 

香港の企業でも、CFOになりすまし2,500万ドルを騙し取られた事件がありました。 

また、ビル・ゲイツになりすまし、ワクチンについてのインタビューを偽装したディープフェイク動画の例もあります。 

【参考情報】
Venture Best｜Microsoft Teams is the new frontier for phishing attacks
TRENDMICRO｜A Deepfake Scammed a Bank out of $25M — Now What?
X｜ユーザのポスト

4. トルコ地震のチャリティ詐欺

2022年のトルコ・シリア地震の際、AI生成された子どもの画像を使って人々の同情を誘い、寄付金を集める詐欺があり、トレンドマイクロは注意を促しました。 

詐欺に使われた画像には、消防士が6本指を持つ点やシリア内戦中の子どもの画像を地震の被災者と偽っている点など、いくつかの矛盾が見受けられました。 

【参考情報】
TRENDMICRO｜Turkey Earthquake Charity Scams Alert

5. AI生成の偽ニュースサイト

昨年5月、AIで生成された偽のニュースサイト「ニュースボット」の増加が確認されています。 

このようなサイトでは、内容の真偽を気にせず大量に記事を生成しており、広告収入を目的としていると考えられます。 

英語だけではなく、少なくとも7か国の言語でこういった偽サイトの存在が確認されています。 

【参考情報】
TRENDMICRO｜AI-Generated Fake News & How to Spot Bogus Sites

6. AIを悪用したロマンス詐欺

ロマンス詐欺グループはAIを幅広く活用し、より多くの被害者に効率的に接近しています。 

AIの主な用途は、以下の通りです。 

1. 自動メッセージ
AIチャットボットを利用して被害者と会話し、人間のように振る舞って被害者との関係を構築します。 

2. 存在しない人物のプロフィール生成
AI生成または盗用された画像と情報で出会い系サイト上に偽のプロフィールを作ります。  

3. 言語生成
被害者のプロファイルや過去の会話に基づき、個人に合わせたメッセージのやり取りを行います。

AIを安全に使うための5つのポイント

AIを設計したり生成したりする上で、最も問題視されているのは、生成された内容に説得力があるかということです。

AIを有効に活用するためには、AIが詐欺師などに悪用される危険性も考慮しておく必要があるでしょう。 

そこで、AIを安全に使うための5つのポイントを紹介します。

1. 学習
AIがどのように動作するのかを学び、理解を深めることで、情報に基づいた適切な判断ができるようになります。 
家族や子どもともAiについての知識を共有しましょう。 

2. データプライバシー
オンライン上でデータを共有する際は注意が必要です。 
AIは収集したデータに基づいて動作しており、個人情報が予期せぬ危険な用途に転用される可能性があります。 

3. 情報の偏り
AIで生成される情報は人間と同様に偏りを持つ場合があります。 
偏りが発生する可能性を認識し、対処する必要があります。 

4. 真偽の検証
信頼できる情報元からのAI生成コンテンツであることを確認し、その内容が事実かどうかを見極める習慣を付けましょう。 
画像やビデオの細かい部分に注目すると真偽がわかる場合があります。 

5. セキュリティ対策
デバイスを適切に保護することが重要です。 
トレンドマイクロはセキュリティ対策アプリを提供しているので、利用を検討しましょう。

トレンドマイクロが子どもと家族のインターネットの安全をサポートします

AIには危険な側面や子どもに不適切な側面もあるため、トレンドマイクロでは「サイバーアカデミー」を開設し、インターネットの安全な利用法などを学べるレッスンを提供しています。 

保護者や教育者向けにも、オンラインでの実践的なアドバイスやヒント、有益な資料等を提供しています。 

【トレンドマイクロの個人情報保護アプリの紹介】

トレンドマイクロ IDプロテクションは、個人情報流出による被害を防ぐアプリです。

メールアドレス、クレジットカード情報などの個人情報流出の有無を常時監視し、万が一流出を確認した場合、セキュリティアドバイザーがメール・電話にて対処方法を支援します。

※ 情報の流出や不正利用時の対処支援は問題解決のご支援を行うためのもので、問題解決を保証するものではありません。

以下のアプリストアより、無料でダウンロードしましょう。

トレンドマイクロ IDプロテクション無料体験版

・トレンドマイクロ IDプロテクションの「個人情報漏えい監視機能」

メールアドレス、クレジットカード情報などの個人情報がインターネットやダークウェブに流出していないかを常時監視できます。

投稿 AI技術を悪用した海外の詐欺事例 は ウイルスバスター セキュリティトピックス に最初に表示されました。