AI音声ツールは、ソーシャルメディアの短い動画や電話の録音から、その人の声を説得力を持って模倣することができます。詐欺師はこの技術を「愛する人がトラブルに巻き込まれた」というシナリオや、企業への偽の指示に悪用しています。米国連邦取引委員会(FTC)は、音声クローンを使用した家族の緊急事態を装う詐欺について警告を発しています。
一般的なシナリオ
- 緊急電話:子供、孫、配偶者の声を装い、「事故に遭った」「逮捕された」「誘拐された」と電話をかけ、すぐに現金を要求する。
- 偽の幹部:企業の従業員に対し、幹部の声や姿を装って連絡し、緊急の支払いを指示する。2024年には、香港の企業の従業員が、偽の幹部が登場するビデオ会議中に説得され、多額の送金を行ってしまう事件が発生しました。
- 認証の回避:音声認証を使用している一部のサービスが標的になる可能性があります。
- 有名人のなりすまし:有名人の偽動画を使用した投資詐欺やプレゼント詐欺。
警告サイン
- 極度の緊急性とパニック:「今すぐ送金しないと…」
- 誰にも言わないようにと口止めされる
- 仮想通貨、ギフトカード、または見知らぬ口座への送金を要求される
- 「携帯が壊れた」という言い訳で、知らない番号や非通知から電話がかかってくる
- ビデオ通話において、唇の動きと音声が一致していない、照明が不自然、または輪郭がぼやけている(常に気づけるとは限りません)
家族のための予防策
- 合言葉を決める:緊急時に確認するため、家族だけが知っている言葉や質問を決めておきます。
- 電話を切ってかけ直す:必ず知っている番号に本人へ電話をかけるか、別の親族に連絡を取ってください。
- 高齢の親族に伝える:このような電話が存在することを知っておくことが、最も効果的な防御策です。
- SNSでの共有を制限する:声や個人情報が含まれる公開動画は、詐欺師に材料を与えてしまいます。
企業向け対策
支払い指示を単一のチャネルに依存しないでください。電話やビデオ通話で届いた緊急の送金依頼は、事前に合意した別のチャネルを通じて確認し、二重承認ルールを適用する必要があります。
詐欺に遭った場合は、すぐに銀行に連絡し、メッセージや記録を保存した上で、警察のサイバー犯罪対策課または検察に通報してください。
音声クローン技術はどのように機能するのか?
音声クローンシステムは、本人の会話録音から声のトーン、アクセント、話し方のリズムを学習します。その後、本人が一度も言ったことのない文章を、その人の声で生成することができます。今日では、一部のツールにおいて、ソーシャルメディアに投稿された短い動画や音声メッセージさえあれば、十分な材料となります。
2023年、米国連邦取引委員会(FTC)は、「家族がトラブルに巻き込まれた」というシナリオをより説得力のあるものにするために、詐欺師がこの手法を使用していると消費者に警告しました。2024年2月、米国連邦通信委員会(FCC)は、ロボコール(自動音声電話)におけるAI生成音声は法律上の「人工音声」に該当し、同意なしに使用することはできないとの裁定を下しました。
詐欺に遭ったかもしれないと思った場合、最初の1時間でやるべきこと
もし送金してしまったり、情報を共有してしまった場合は、迅速に行動することで被害を軽減できます:
- すぐに銀行に電話し、取引の停止とカードの利用停止を依頼してください。
- 通話履歴、メッセージ、口座番号、スクリーンショットを削除せずに保存してください。
- 法執行機関に通報し、侵害された可能性のあるパスワードを変更してください。
FBIの2024年12月の警告でも、家族だけが知っている秘密の言葉やフレーズを決めておくこと、緊急の金銭を要求する電話があった場合は知っている番号に折り返して確認することを推奨しています。恥ずかしがらずに迅速に通報することが、他の人が同じように騙されるのを防ぐ助けになります。
AIツールの機能、プラン、価格は頻繁に変更されます。最新情報については、必ずツールの公式ページを確認してください。
よくある質問
電話で「はい」と言うのは危険ですか?
「はい」という単語を録音されること自体が大きなリスクになるという強力な証拠はありませんが、知らない番号からの電話で個人情報を教えたり、長々と話したりしないことは良い習慣です。
出典および参考文献
- 米国連邦取引委員会(FTC)、「Scammers use AI to enhance their family emergency schemes」(2023年3月)。
- FBIインターネット犯罪苦情センター(IC3)、生成AIを使用した詐欺に関する警告(2024年12月)。
- 欧州刑事警察機構(Europol)、「Facing reality? Law enforcement and the challenge of deepfakes」(2022年)。
- FTC消費者アラート – Scammers use AI to enhance their family emergency schemes(2023年)
- FCC – Declaratory Ruling on AI-generated voices in robocalls(2024年2月)
- FBI IC3 PSA – Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud(2024年12月)
コメントを残す
メールアドレスは公開されません。必須項目は * でマークされています