开始之前
你需要一部手机，和紧急时会打电话的那几个人。最后的练习要和其中一位花十分钟。
深度伪造和声音克隆已经做过什么
2024 年 5 月，Arup 公司确认自己在香港成了一起欺诈的受害者。警方说，一名财务人员加入了一场视频通话，通话里的同事是深度伪造出来的，随后他转出了资金。那场通话里的脸不是真的。
克隆一个声音，可以从一小段录音开始。维基百科的音频深度伪造词条把声音克隆定义为模仿特定个人而生成的语音。词条记载了一个 2020 年的网页应用，它用 15 秒的训练数据生成了高质量的语音，而更早的系统需要几十个小时。
被克隆的高管给英国一家能源公司打电话
有人模仿母公司一位高管的声音，命令这家公司的首席执行官转账。
一个网页应用用一小段样本克隆语音
这次演示需要的训练数据，比更早那些要花几十个小时的系统少得多。
自动语音电话模仿一位美国总统
新罕布什尔州民主党初选期间，超过 2 万名选民接到了模仿乔·拜登的 AI 自动语音电话，劝他们不要去投票。2024 年 2 月，美国联邦通信委员会禁止在自动语音电话里使用 AI 伪造的声音。
Arup 确认遭遇深度伪造视频通话欺诈
香港一名财务人员加入了一场通话，里面的同事是深度伪造出来的，他分 15 笔转出了资金。
来源：维基百科：音频深度伪造（Audio deepfake） (2026年11月6日 查阅)
通话或视频逼你立刻行动时的五个步骤
- 先留意那股催促。一通听起来很急、很情绪化、又要钱的电话，正是联合国毒品和犯罪问题办公室在它的 X 帖子里警告的模式。
- 挂断。电话那头的人可以一直拖着你说话，所以直接结束通话。然后直接联系本人，用你原来就有的号码，或者原来就有的应用。电话那头给你的号码，说明不了任何事。
- 要暗语，或者问一个只有你们知道的私事。克隆的声音复制的是一个人听起来的样子，它没办法知道只有你们两个人约定的内容。维基百科的深度伪造词条引用了一位检测公司专家的话，说重要的对话中可以使用语义密码或秘密问题。
- 对于不是在通话里收到的视频，找到它最早出现的地方。像第 1 课那样搜一张截图，再去说话人自己的渠道或你信任的新闻网站上找同一段视频。
- 在工作中，凡是通过电话提出的转账请求，要求有第二个人和第二条渠道确认才能付款。Arup 的案例说明，逼真的视频通话并不够，同一位专家还建议让员工了解深度伪造。
为什么眼睛和耳朵不是检验标准
维基百科的深度伪造词条引用了 2021 年麻省理工的论文，它发现普通人在随机抽取的 50 段视频上的准确率是 69% 到 72%。词条还说，在自然观看的情况下，人们发现深度伪造的可能性并不比发现真实视频的更高。眨眼、光线、口型和肢体语言这些线索确实是研究的方向，词条说它们并不总是可靠。
软件也没有补上这个差距。Deepfake-Eval-2024 基准测试收集了 2024 年在网上流传过的约 45 小时视频、56.5 小时音频和 1,975 张图片，来自 88 个网站、52 种语言。开源检测器在视频上的 AUC 比早期基准测试下降了 50%，在音频上下降了 48%。AUC 是衡量检测器能否把真假分开的分数。商用模型和微调过的模型表现更好，但仍然达不到深度伪造取证分析人员的准确率。
图表显示的是作者用一部分数据微调之后，模型能达到的最好成绩。音频那根柱子最高，但仍然有大约七分之一的答案是错的。维基百科还补充说，音频方面的研究大多针对英语，主要用英语训练的检测器在其他语言上表现更差。
来源：Hugging Face 论文页：Deepfake-Eval-2024，2024 年流传的深度伪造的多模态真实场景基准 (2026年11月6日 查阅)
联合国犯罪问题办公室让人们怎么做
联合国毒品和犯罪问题办公室在 2026 年 8 月 16 日的 X 帖子里说，犯罪分子用合成的声音冒充处于危难中的亲人，在假绑架或假紧急情况的骗局里要钱。
它的建议只有一句话，而且是不依赖假货有多逼真的那种检查。上面的步骤 1 和步骤 2，就是把这句话展开来讲。
如果你接到一通听起来很急或很情绪化的电话，先核实再做反应，直接联系本人。
X 官方嵌入卡片的截图，拍摄于 2026 年 11 月 6 日，时间为 UTC。点击截图可到 X 上打开原帖。
怎么设一个家庭暗语
暗语把检查从“判断一个声音”变成了“问一个事实”。下面这些规则是我们自己定的，依据是维基百科引用的、一位专家为职场推荐的语义密码和秘密问题。后面那个视频讲的是同一个办法，视频标题把它叫作“安全短语”，我们只借用了这个标题。
- 当面约定，或者在一通你自己拨出的电话里约定。不要通过短信或群聊。
- 选一个没人能从你的帖子里猜到的词。宠物的名字、学校和生日都过不了这一关。
- 让对方先说。你先说了，旁边的任何人都听到了。
- 约定“说不出暗语”意味着什么：你挂断，用存好的号码回拨。
- 如果暗语曾经在一通不是你拨出的电话里说出口，就换掉。
常见错误
- 回拨对方给你的号码，或者消息里的号码。要用你原来就有的号码。
- 凭声音听起来有多真来判断。逼真并不能说明说话的人是谁。
- 因为能看到人脸，就相信一场视频通话。在 Arup 的案例里，通话里的脸是重新生成的。
- 把暗语发出去，或者抢在对方之前说出口。
自己试一试
- 这周给一位亲人打个电话，约定一个暗语。然后把你会第一批回拨的三个人的号码，用他们的真名存进通讯录。
- 演练一次。请一位朋友用你不认识的号码打给你，提出一个紧急请求，留意你会不会停下来先核实。
- 拿一段你见过被转发的视频，找到它最早出现在哪里，把日期写下来。
下一课：工具能读取的标记
到目前为止的每个检查都靠你自己。第 3 课讲工具能读取的标记，也就是签名凭证和隐形水印，以及它们能证明什么、不能证明什么。
自测一下
维基百科引用的 2021 年麻省理工论文，发现普通人看深度伪造视频的情况是怎样的？
查看答案
D. 在 50 段视频的样本上，准确率是 69% 到 72% 维基百科说，普通人在随机抽取的 50 段视频上准确率是 69% 到 72%，所以大约十个答案里有三个是错的。
一通“你女儿”打来的急电，要你给她转钱。第一步该怎么做？
查看答案
C. 挂断，用你原来就有的号码联系她 联合国犯罪问题办公室说，先核实再做反应，直接联系本人，而你原来就有的号码能让对方不在这个环节里。
为什么家庭暗语对克隆的声音管用？
查看答案
B. 克隆复制的是一个人听起来的样子，却不知道你们私下约定了什么 这个检查问的是一个事实，不靠判断声音。维基百科引用了一位专家的话，推荐在重要的对话中使用语义密码或秘密问题。
Deepfake-Eval-2024 的作者对商用检测器有什么发现？
查看答案
A. 它们比开源模型好，但比不上取证分析人员，而且没有一个的准确率达到 90% 论文说，商用模型还达不到深度伪造取证分析人员的准确率，被评估的模型里也没有一个的准确率达到 90% 或更高。
常见问题
声音克隆诈骗有多常见？
有一项调查给出的是十分之一。维基百科记载了 2023 年 McAfee 的一项调查，十分之一的受访者说自己曾被 AI 声音克隆诈骗盯上。这只是一家安全公司的一项调查，所以对今天的比例说明不了多少。
视频通话也能造假吗？
能。在 Arup 2024 年 5 月确认的案例里，一名财务人员在视频通话里见到的同事是深度伪造的。维基百科还提到，Zoom 在 2026 年 4 月与 Tools for Humanity 合作推出了一个面向视频通话的验证功能。
什么是深度伪造？
维基百科把深度伪造定义为用人工智能编辑或生成的图片、视频或音频。它们可以呈现真实的人，也可以呈现虚构的人。
深度伪造检测器管用吗？
只管用一部分。面对 2024 年在网上流传的假货，Deepfake-Eval-2024 的作者评估的商用模型没有一个的准确率达到 90%。把工具的结论当作一条线索，不要当作答案。
回拨总是管用吗？
当你拨的是原来就有的号码时管用，因为这样对方就不在这个环节里了。拨对方给你的号码，等于把通话又交还给了他。
资料来源
- Wikipedia: Deepfake https://en.wikipedia.org/wiki/Deepfake
- Wikipedia: Audio deepfake https://en.wikipedia.org/wiki/Audio_deepfake
- Hugging Face Papers: Deepfake-Eval-2024, a multi-modal in-the-wild benchmark of deepfakes circulated in 2024 https://huggingface.co/papers/2503.02857
- UN Office on Drugs and Crime on X, 16 August 2026 https://x.com/UNODC/status/2088913712354590785
- YouTube: WCCO CBS Minnesota, Create a safe phrase with your family to beat AI voice-cloning scams https://www.youtube.com/watch?v=1JN-QZAY7tQ