# 怎么识别深度伪造：视频、克隆声音和家庭暗语

> 深度伪造指用 AI 编辑或生成的图片、视频或录音。靠看和听很难可靠地识别：2021 年麻省理工的一篇论文里，普通观众在一批视频上大约每十次错三次。仍然管用的是第二条渠道：挂断电话，用你原来就有的号码打给本人，并事先和家人约定一个暗语。

Mindket 编辑部 · 发布于 2026-11-06 · 更新于 2026-11-06 · https://mindket.com/cn/learn/spot-ai-fakes/spot-deepfakes

## 要点

- 只要出现“催得急”加上“要钱或要秘密”，就拉响警报，不管那个声音像谁。
- 结束通话，自己去联系本人，用通话之前就存好的号码。
- 和家人当面约定一个暗语，并且不要把它放进你发布的任何内容里。
- 遇到通过别的途径传到你手里的视频，先追到它最早的发布，再去判断那张脸。

## 开始之前

你需要一部手机，和紧急时会打电话的那几个人。最后的练习要和其中一位花十分钟。

## 深度伪造和声音克隆已经做过什么

2024 年 5 月，Arup 公司确认自己在香港成了一起欺诈的受害者。警方说，一名财务人员加入了一场视频通话，通话里的同事是深度伪造出来的，随后他转出了资金。那场通话里的脸不是真的。

克隆一个声音，可以从一小段录音开始。[维基百科的音频深度伪造词条](https://en.wikipedia.org/wiki/Audio_deepfake)把声音克隆定义为模仿特定个人而生成的语音。词条记载了一个 2020 年的网页应用，它用 15 秒的训练数据生成了高质量的语音，而更早的系统需要几十个小时。

**维基百科词条记载的四个案例**

1. **2019年** 被克隆的高管给英国一家能源公司打电话。有人模仿母公司一位高管的声音，命令这家公司的首席执行官转账。
2. **2020年** 一个网页应用用一小段样本克隆语音。这次演示需要的训练数据，比更早那些要花几十个小时的系统少得多。
3. **2024年** 自动语音电话模仿一位美国总统。新罕布什尔州民主党初选期间，超过 2 万名选民接到了模仿乔·拜登的 AI 自动语音电话，劝他们不要去投票。2024 年 2 月，美国联邦通信委员会禁止在自动语音电话里使用 AI 伪造的声音。
4. **2024年5月** Arup 确认遭遇深度伪造视频通话欺诈。香港一名财务人员加入了一场通话，里面的同事是深度伪造出来的，他分 15 笔转出了资金。

来源：[维基百科：音频深度伪造（Audio deepfake）](https://en.wikipedia.org/wiki/Audio_deepfake) (2026-11-06 查阅)

## 通话或视频逼你立刻行动时的五个步骤

1. 先留意那股催促。一通听起来很急、很情绪化、又要钱的电话，正是联合国毒品和犯罪问题办公室在[它的 X 帖子](https://x.com/UNODC/status/2088913712354590785)里警告的模式。
2. 挂断。电话那头的人可以一直拖着你说话，所以直接结束通话。然后直接联系本人，用你原来就有的号码，或者原来就有的应用。电话那头给你的号码，说明不了任何事。
3. 要暗语，或者问一个只有你们知道的私事。克隆的声音复制的是一个人听起来的样子，它没办法知道只有你们两个人约定的内容。[维基百科的深度伪造词条](https://en.wikipedia.org/wiki/Deepfake)引用了一位检测公司专家的话，说重要的对话中可以使用语义密码或秘密问题。
4. 对于不是在通话里收到的视频，找到它最早出现的地方。像[第 1 课](https://mindket.com/cn/learn/spot-ai-fakes/spot-ai-images)那样搜一张截图，再去说话人自己的渠道或你信任的新闻网站上找同一段视频。
5. 在工作中，凡是通过电话提出的转账请求，要求有第二个人和第二条渠道确认才能付款。Arup 的案例说明，逼真的视频通话并不够，同一位专家还建议让员工了解深度伪造。

## 为什么眼睛和耳朵不是检验标准

[维基百科的深度伪造词条](https://en.wikipedia.org/wiki/Deepfake)引用了 2021 年麻省理工的论文，它发现普通人在随机抽取的 50 段视频上的准确率是 69% 到 72%。词条还说，在自然观看的情况下，人们发现深度伪造的可能性并不比发现真实视频的更高。眨眼、光线、口型和肢体语言这些线索确实是研究的方向，词条说它们并不总是可靠。

软件也没有补上这个差距。[Deepfake-Eval-2024 基准测试](https://huggingface.co/papers/2503.02857)收集了 2024 年在网上流传过的约 45 小时视频、56.5 小时音频和 1,975 张图片，来自 88 个网站、52 种语言。开源检测器在视频上的 AUC 比早期基准测试下降了 50%，在音频上下降了 48%。AUC 是衡量检测器能否把真假分开的分数。商用模型和微调过的模型表现更好，但仍然达不到深度伪造取证分析人员的准确率。

图表显示的是作者用一部分数据微调之后，模型能达到的最好成绩。音频那根柱子最高，但仍然有大约七分之一的答案是错的。维基百科还补充说，音频方面的研究大多针对英语，主要用英语训练的检测器在其他语言上表现更差。

**在 2024 年基准测试上微调后的最高准确率** 在 Deepfake-Eval-2024 的一部分数据上微调后，模型的最高准确率。检测器在这批假货上的得分，比在早期基准测试上低得多。

- 音频: 86%
- 视频: 75%
- 图片: 63%

来源：[Hugging Face 论文页：Deepfake-Eval-2024，2024 年流传的深度伪造的多模态真实场景基准](https://huggingface.co/papers/2503.02857) (2026-11-06 查阅)

## 联合国犯罪问题办公室让人们怎么做

联合国毒品和犯罪问题办公室在 [2026 年 8 月 16 日的 X 帖子](https://x.com/UNODC/status/2088913712354590785)里说，犯罪分子用合成的声音冒充处于危难中的亲人，在假绑架或假紧急情况的骗局里要钱。

它的建议只有一句话，而且是不依赖假货有多逼真的那种检查。上面的步骤 1 和步骤 2，就是把这句话展开来讲。

> 如果你接到一通听起来很急或很情绪化的电话，先核实再做反应，直接联系本人。
>
> UN Office on Drugs and Crime, 联合国的一个办公室，引文为译文, [X](https://x.com/UNODC/status/2088913712354590785) (2026-11-06 查阅)

[![联合国毒品和犯罪问题办公室（@UNODC）2026 年 8 月 16 日在 X 上发帖：AI 声音克隆正在让骗局听起来像真的。犯罪分子用合成声音冒充处于危难中的亲人。如果你接到一通听起来很急或很情绪化的电话，先核实再做反应，直接联系本人。](https://mindket.com/blog/shots/x-unodc-voice-cloning.webp?v=416a682fbcc7)](https://x.com/UNODC/status/2088913712354590785)

联合国毒品和犯罪问题办公室在 X 上，2026 年 8 月 16 日

> X 官方嵌入卡片的截图，拍摄于 2026 年 11 月 6 日，时间为 UTC。点击截图可到 X 上打开原帖。

## 怎么设一个家庭暗语

暗语把检查从“判断一个声音”变成了“问一个事实”。下面这些规则是我们自己定的，依据是维基百科引用的、一位专家为职场推荐的语义密码和秘密问题。后面那个视频讲的是同一个办法，视频标题把它叫作“安全短语”，我们只借用了这个标题。

- 当面约定，或者在一通你自己拨出的电话里约定。不要通过短信或群聊。
- 选一个没人能从你的帖子里猜到的词。宠物的名字、学校和生日都过不了这一关。
- 让对方先说。你先说了，旁边的任何人都听到了。
- 约定“说不出暗语”意味着什么：你挂断，用存好的号码回拨。
- 如果暗语曾经在一通不是你拨出的电话里说出口，就换掉。

[Create a “safe phrase” with your family to beat AI voice-cloning scams, a money expert says](https://www.youtube.com/watch?v=1JN-QZAY7tQ)

CBS Minnesota 的 WCCO 频道发布的视频，讲怎样和家人设一个安全短语。

## 常见错误

- 回拨对方给你的号码，或者消息里的号码。要用你原来就有的号码。
- 凭声音听起来有多真来判断。逼真并不能说明说话的人是谁。
- 因为能看到人脸，就相信一场视频通话。在 Arup 的案例里，通话里的脸是重新生成的。
- 把暗语发出去，或者抢在对方之前说出口。

## 自己试一试

- 这周给一位亲人打个电话，约定一个暗语。然后把你会第一批回拨的三个人的号码，用他们的真名存进通讯录。
- 演练一次。请一位朋友用你不认识的号码打给你，提出一个紧急请求，留意你会不会停下来先核实。
- 拿一段你见过被转发的视频，找到它最早出现在哪里，把日期写下来。

## 下一课：工具能读取的标记

到目前为止的每个检查都靠你自己。[第 3 课](https://mindket.com/cn/learn/spot-ai-fakes/content-credentials)讲工具能读取的标记，也就是签名凭证和隐形水印，以及它们能证明什么、不能证明什么。

## 自测一下

1. 维基百科引用的 2021 年麻省理工论文，发现普通人看深度伪造视频的情况是怎样的？

   A. 他们每次都被骗了
   B. 他们几乎全都识破了
   C. 只测试了专家
   D. 在 50 段视频的样本上，准确率是 69% 到 72%

   答案：D。 维基百科说，普通人在随机抽取的 50 段视频上准确率是 69% 到 72%，所以大约十个答案里有三个是错的。

2. 一通“你女儿”打来的急电，要你给她转钱。第一步该怎么做？

   A. 让她说慢一点，重复一遍
   B. 先转一小笔试一试
   C. 挂断，用你原来就有的号码联系她
   D. 回拨刚刚打给你的那个号码

   答案：C。 联合国犯罪问题办公室说，先核实再做反应，直接联系本人，而你原来就有的号码能让对方不在这个环节里。

3. 为什么家庭暗语对克隆的声音管用？

   A. 克隆的声音在电话里总是更难听
   B. 克隆复制的是一个人听起来的样子，却不知道你们私下约定了什么
   C. 打电话的人不被允许问它
   D. 它会给通话加密

   答案：B。 这个检查问的是一个事实，不靠判断声音。维基百科引用了一位专家的话，推荐在重要的对话中使用语义密码或秘密问题。

4. Deepfake-Eval-2024 的作者对商用检测器有什么发现？

   A. 它们比开源模型好，但比不上取证分析人员，而且没有一个的准确率达到 90%
   B. 它们全都达到了 99% 的准确率
   C. 它们没有被测试
   D. 它们在每段视频上都失败了

   答案：A。 论文说，商用模型还达不到深度伪造取证分析人员的准确率，被评估的模型里也没有一个的准确率达到 90% 或更高。

## 常见问题

### 声音克隆诈骗有多常见？

有一项调查给出的是十分之一。维基百科记载了 2023 年 McAfee 的一项调查，十分之一的受访者说自己曾被 AI 声音克隆诈骗盯上。这只是一家安全公司的一项调查，所以对今天的比例说明不了多少。

### 视频通话也能造假吗？

能。在 Arup 2024 年 5 月确认的案例里，一名财务人员在视频通话里见到的同事是深度伪造的。维基百科还提到，Zoom 在 2026 年 4 月与 Tools for Humanity 合作推出了一个面向视频通话的验证功能。

### 什么是深度伪造？

维基百科把深度伪造定义为用人工智能编辑或生成的图片、视频或音频。它们可以呈现真实的人，也可以呈现虚构的人。

### 深度伪造检测器管用吗？

只管用一部分。面对 2024 年在网上流传的假货，Deepfake-Eval-2024 的作者评估的商用模型没有一个的准确率达到 90%。把工具的结论当作一条线索，不要当作答案。

### 回拨总是管用吗？

当你拨的是原来就有的号码时管用，因为这样对方就不在这个环节里了。拨对方给你的号码，等于把通话又交还给了他。

## 资料来源

- [Wikipedia: Deepfake](https://en.wikipedia.org/wiki/Deepfake) (2026-11-06 查阅)
- [Wikipedia: Audio deepfake](https://en.wikipedia.org/wiki/Audio_deepfake) (2026-11-06 查阅)
- [Hugging Face Papers: Deepfake-Eval-2024, a multi-modal in-the-wild benchmark of deepfakes circulated in 2024](https://huggingface.co/papers/2503.02857) (2026-11-06 查阅)
- [UN Office on Drugs and Crime on X, 16 August 2026](https://x.com/UNODC/status/2088913712354590785) (2026-11-06 查阅)
- [YouTube: WCCO CBS Minnesota, Create a safe phrase with your family to beat AI voice-cloning scams](https://www.youtube.com/watch?v=1JN-QZAY7tQ) (2026-11-06 查阅)

[读第 3 课](https://mindket.com/cn/learn/spot-ai-fakes/content-credentials)