跳到内容

照亮世界的知识

AI语音克隆与虚假视频通话诈骗:如何识别并保护自己

只需几秒钟的音频就足以模仿亲人的声音。AI辅助的“紧急用钱”电话、虚假高管视频通话,以及家庭可以采取的预警信号和简单有效的预防措施。

AI语音克隆与虚假视频通话诈骗:如何识别并保护自己

AI语音工具可以从社交媒体视频或电话的短样本中令人信服地模仿一个人的声音。诈骗者利用这项技术制造“你的亲人遇到麻烦”的情景,并用于向公司下达虚假指令。美国联邦贸易委员会(FTC)已就利用语音克隆进行的家庭紧急诈骗发出警告。

常见场景

  • 紧急电话:有人用你孩子、孙辈或配偶的声音打电话,声称他们发生了事故、被捕或被绑架,并立即要求汇款。
  • 虚假高管:员工接到公司高管的声音或形象的联系,被要求进行紧急付款。2024年,香港一家公司的员工在一次有虚假高管参与的视频会议中被说服进行了大额转账。
  • 绕过验证:一些使用语音验证的服务可能会成为目标。
  • 名人冒充:利用虚假名人视频进行的投资或赠品诈骗。

预警信号

  • 极度的紧迫感和恐慌:“如果你现在不汇款……”
  • 被要求不要告诉任何人
  • 要求使用加密货币、礼品卡或转账到陌生账户
  • 来自未知或隐藏号码的电话,并以“我的手机坏了”为借口
  • 在视频通话中,唇形与声音不匹配、灯光奇怪或边缘模糊(并不总是很明显)

家庭预防措施

  1. 商定一个暗号:一个只有家庭成员知道的词或问题,在紧急情况下使用。
  2. 挂断并回拨:始终拨打你已知的号码联系该人,或联系另一位亲属。
  3. 告知年长亲属:了解此类电话的存在是最高效的保护。
  4. 限制在社交媒体上分享的内容:带有你声音和个人信息的公开视频会为诈骗者提供素材。

针对企业

不要依赖单一渠道获取付款指令;通过电话或视频通话收到的紧急转账请求应通过预先商定的第二渠道进行验证,并遵循双重审批规则。

如果你被骗了,请立即致电你的银行,保留信息和记录,并向警方网络犯罪部门或检察机关报案。

语音克隆技术是如何工作的?

语音克隆系统通过学习一个人的录音来掌握其语调、口音和说话节奏;然后,它们可以用那个人的声音生成该人从未说过的话。如今,对于某些工具来说,发布在社交媒体上的短视频或语音留言就足以作为素材。

2023年,美国联邦贸易委员会(FTC)警告消费者,诈骗者利用这种方法使“家庭成员遇到麻烦”的情景更具说服力。2024年2月,美国联邦通信委员会(FCC)裁定,自动语音电话中生成的AI语音在法律上属于“人工语音”,未经同意不得使用。

如果你认为自己被骗,在第一个小时内该怎么做

如果你已经汇款或分享了信息,迅速采取行动可以减少损失:

  • 立即致电你的银行;要求其停止交易并冻结你的卡。
  • 保留通话记录、信息、账号和截图,不要删除。
  • 向执法部门报告事件;更改任何可能已泄露的密码。

联邦调查局(FBI)2024年12月的警告也建议商定一个只有家人知道的秘密词汇或短语,并通过拨打你已知的号码回拨来核实要求紧急汇款的电话。及时举报而不是感到尴尬,有助于阻止其他人以同样的方式受骗。

AI工具的功能、计划和价格经常变化。请务必查看工具的官方页面以获取最新信息。

常见问题

在电话里说“是”危险吗?

没有强有力的证据表明仅录下“是”这一个词本身就构成巨大风险,但养成不提供个人信息或不在陌生电话中长谈的习惯是很好的。

来源与延伸阅读

  1. 美国联邦贸易委员会(FTC),“诈骗者利用AI增强其家庭紧急诈骗手段”(2023年3月)。
  2. FBI互联网犯罪投诉中心(IC3),关于利用生成式AI进行欺诈的警告(2024年12月)。
  3. 欧洲刑警组织,“面对现实?执法部门与深度伪造的挑战”(2022年)。
  4. FTC消费者警报 – 诈骗者利用AI增强其家庭紧急诈骗手段(2023年)
  5. FCC – 关于自动语音电话中AI生成语音的声明性裁决(2024年2月)
  6. FBI IC3 PSA – 犯罪分子利用生成式人工智能促进金融欺诈(2024年12月)
分享
关注 YulaHub第一时间获取当天最重要的新闻。
RSS

发表评论

您的电子邮箱地址不会被公开。必填项已用 * 标注