跳到内容

照亮世界的知识

什么是深度伪造?如何识别AI生成的虚假视频和声音

人工智能可以制作出几乎可以乱真的人脸视频和录音。了解深度伪造是如何制作的、哪些线索可以将其识破,以及如何保护自己免受诈骗。

什么是深度伪造?如何识别AI生成的虚假视频和声音

一段知名人士发表从未说过的话的视频,或者一个用你熟悉之人的声音发出的紧急汇款请求……这些被称为“深度伪造”(Deepfakes),它们是通过模仿个人面部、声音或动作的AI模型创建的。这项技术在电影制作、配音和教育领域有着实用的应用,但也可能被滥用于欺诈和虚假信息。

它们是如何制作的?

深度伪造系统通过学习某人的大量照片、视频或语音样本来模仿其面部表情和说话方式。过去需要数小时的录音,而如今的一些声音克隆工具只需很短的样本就能产生令人信服的结果。

可以识破虚假视频的线索

  • 眼睛和眨眼:不自然的凝视,眨眼次数极少或不规律。
  • 嘴唇与音频同步:唇部动作与话语不太相符。
  • 面部边缘:发际线、耳朵和下巴周围有模糊或闪烁。
  • 光影:面部光照与场景其余部分不匹配。
  • 皮肤和细节:皮肤过度光滑、牙齿怪异,或者首饰和眼镜显得不协调。

但由于该技术正在快速发展,这些线索并不总是管用。最可靠的方法是质疑背景,而不是内容本身。

质疑背景

  1. 来源是什么?该视频最初是在哪里发布的?值得信赖的新闻机构是否证实了这一点?
  2. 它是否试图激怒你?旨在引发愤怒、恐惧或紧迫感的内容更值得怀疑。
  3. 反向图像搜索:检查视频中的某帧画面是否以前在其他背景下出现过。

防范声音克隆诈骗

如果你接到一个用亲人声音打来的紧急索钱电话,切勿惊慌行事。挂断电话,然后拨打你知道的号码回拨。约定一个只有你们才知道的家庭“安全词”,是挫败此类企图的简单有效的方法。在企业中,通过语音下达的付款指令应通过第二渠道进行核实。

防范深度伪造的最强有力防御是习惯而非技术:在分享前暂停、进行核实,并将怀疑视作一种技能而非弱点。

验证工具和内容凭证

有几种实用方法可以分辨视频或照片是否真实:

  • 反向图像搜索:在搜索引擎中搜索图片或视频中的某一帧,可以显示相同的内容以前是否在其他背景下发布过。
  • 内容凭证:由科技和媒体公司创建的C2PA标准允许附加数字“标签”,显示图像是如何制作和编辑的。在支持此信息的平台上,你可以看到内容是由AI生成的。
  • 事实核查平台:独立的事实核查机构会对网络上流传的可疑内容进行审查并公布调查结果。

没有任何工具可以独自给出确切答案;最可靠的方法是通过一个以上的可靠来源来核实内容。

法律框架:标签要求即将出台

滥用深度伪造内容已被许多国家的立法议程提上日程。欧盟的《人工智能法案》包含透明度义务,要求对用AI生成或修改的图像、音频和视频进行标记;这些规则计划从2026年起适用。在许多国家,未经他人同意使用其声音或形象进行欺诈或诽谤的模仿已经是犯罪行为。如果你认为自己成为了此类内容的目标,请保留证据,向平台举报,并在必要时寻求法律支持。

来源与延伸阅读

  1. C2PA(内容溯源与真实性联盟)– 内容凭证标准
  2. 欧盟 – 人工智能法案,(EU) 2024/1689号条例,透明度义务(第50条)
分享
关注 YulaHub第一时间获取当天最重要的新闻。
RSS

发表评论

您的电子邮箱地址不会被公开。必填项已用 * 标注