Mindket
简体中文
English简体中文
登录注册
商店MCP技能计算器学习价格博客
发现
研究312写作59商务95法律13财务33营销175开发1,427效率391教育81陪伴14
帮助与支持
语言
English简体中文
识别 AI 造假：假图、深度伪造与语音诈骗第 4 节，共 4 节

AI 诈骗：犯罪分子怎样利用 AI，你怎样保护自己

Mindket 编辑部 · 发布于 · 阅读约 7 分钟

黑色横幅，标题是“识别 AI 造假”，下面是“假图、深度伪造与语音诈骗”。

AI 诈骗用的还是老套路：陌生人想要你的登录信息、付款信息或者你的信任，只是文字更像样，还多了假身份和克隆的声音。文字写得好，已经分不出骗局和真消息。改查来路：谁先联系的你、对方要你做什么，以及你自己打开那项服务时，同样的请求是否出现。

本节内容

  • 判断一条消息，看是谁先联系的、要你做什么，不要看它写得顺不顺。
  • 自己输入网址打开服务，到那里去找通知或扣款记录。
  • 便宜得出奇的 AI 服务要当作诱饵：Anthropic 发现的一家转售商，收集了每个注册者的登录凭证。
  • 付款之前先找第二个人商量，接到急电就用第 2 课的暗语。
全部课程
本页目录
  1. 开始之前
  2. 回复、付款或登录之前的五个检查
  3. 五个用到 AI 或借用 AI 名头的骗局
  4. 一个交友网络的数字
  5. 发现者描述的一次钓鱼行动
  6. 如果你已经点了或付了款
  7. 常见错误
  8. 自己试一试
  9. 下一门课：提示词工程入门
  10. 自测一下
  11. 常见问题
  12. 资料来源

开始之前

你需要手机和邮箱。最后的练习要你检查三个自己正在用的账号，大约十五分钟。

回复、付款或登录之前的五个检查

  1. 先问是谁先联系的。你没有主动找过的消息，不管来自招聘人员、交友对象、银行还是 AI 服务，都最该存疑。你自己发起的事、在你自己打开的网站上得到的回复，最不需要存疑。
  2. 想清楚它要什么。下面这些案例里，对方要的是登录信息、付款信息，或者让你和机器人聊很久。凡是以其中一样收尾的，都要做下一个检查。
  3. 离开这条消息，去源头核对。自己输入服务的网址，或者打开它的应用，在那里找通知或扣款记录。下面论坛案例里，邮件的发件地址与 OpenAI 的域名对不上，邮件里的按钮还要求填写付款信息。
  4. 放慢，再叫上第二个人。催促正是让你来不及核对的东西，所以写着“马上”的消息值得停一停。接到电话的话，用第 2 课里的暗语。
  5. 应用和使用权限都从厂商自己那里拿。SpiderLabs 描述的恶意 iOS 应用是从应用商店下载的，所以上架只是一种声称，不是证明。表格里的转售商则说明，便宜的报价可能藏着什么。

五个用到 AI 或借用 AI 名头的骗局

下面每一行都来自一家安全团队、一家 AI 公司或一位论坛成员发布的页面。我们在 2026 年 11 月 6 日读了这些页面，没有亲自运行其中任何一个案例。

钩子是老的：一份工作、一个匹配对象、一笔便宜的买卖、一张账单。下面前两个案例里，AI 在钩子背后干活：模型润色招聘消息，角色同时和成千上万的人聊天。后三个案例里，骗局只是借用了你已经信任的 AI 服务的名字，来源并没有说骗局本身是 AI 写的。

来源里的五个案例，以及各自的应对办法
类型来源记载了什么什么有帮助
润色过的招聘消息Anthropic 2025 年 3 月的报告（2025 年 4 月 23 日发布）说，幕后的人把写得很差的非母语英文发给 Claude，请它调整，结果是“实际上在洗白自己的沟通，让它们看起来更专业”。目标主要是东欧国家的求职者。Anthropic 没有确认这个行动里有成功的诈骗。一条毫无瑕疵的消息说明不了发件人是谁，所以去公司自己的网站上查它。
其实是机器人的交友对象一家应用工作室在一批交友应用里运行 AI 角色。这些应用伪造了点赞、访客和预先录好的视频，还花钱请真人去接机器人做不了的实时视频通话和回关。不要把视频通话当作证明，因为这个网络就是花钱请人来接的。只在应用里认识的人，不要给钱，也不要给登录信息。
便宜的 AI 模型转售商Anthropic 描述了一家提供廉价 Claude 使用权的欺诈性转售商，它既不便宜，也不是 Claude。流量被悄悄转到另一个模型，转售商的工具还收集了每个注册者的 Anthropic 登录凭证。价格远低于厂商自己的，就是第一个信号。
邮件推送的假 AI 应用SpiderLabs 报告说，有钓鱼邮件冒充 ChatGPT 和 Gemini，诱导人从应用商店下载恶意的 iOS 应用。它的标题说目的是窃取 Facebook 凭证，这些应用伪装成商务或广告管理工具。问一问：一个以聊天机器人命名的应用，为什么需要你的 Facebook 登录？
账单通知2025 年 5 月 20 日，OpenAI 社区论坛的一位成员贴出一封邮件，说他的 ChatGPT 付款方式已失效。邮件催他通过一个按钮更新付款信息，而发件地址与 OpenAI 的域名对不上。把发件地址和这项服务真正使用的域名对比。

一个交友网络的数字

这些数字来自交友应用案例，Anthropic 在 2026 年 9 月的威胁报告里描述了它，报告涵盖 2025 年 12 月到 2026 年 8 月的滥用情况。2026 年 4 月的两周里，报告编号为 GTG-15001 的网络运行了超过 4,700 个 AI 角色。它们接触了至少 25,000 人，交换了大约 236 万条消息。在匹配推送里，大约每出现一个真人，就有三个角色。

Anthropic 说，背后是一家中国的应用工作室，它用 Claude 搭建了超过 20 个交友应用，并驱动那些角色。这家工作室还招募真人，按每条消息、每次视频通话和每次回关付费。他们负责机器人做不了的事，也就是实时视频通话和回关，Anthropic 说他们的作用是让用户相信这个应用是真的。

Anthropic 封禁了这些账号，把调查结果分享给其他 AI 实验室，把针对平台的指标直接交给苹果和谷歌，还在报告里列出了入侵指标。一条温暖、流畅的回复，甚至一次视频通话，都说明不了你面对的是不是资料上的那个人。

一个交友应用网络，2026 年 4 月

4,700

个不同的 AI 角色：这个网络在两周内运行的数量

来源：Anthropic：检测与应对 AI 滥用，2026 年 9 月 (2026年11月6日 查阅)

25,000

位独立用户：这些角色接触到的人数，至少

来源：Anthropic：检测与应对 AI 滥用，2026 年 9 月 (2026年11月6日 查阅)

2.36M

条消息：这段时间里交换的数量，约数

来源：Anthropic：检测与应对 AI 滥用，2026 年 9 月 (2026年11月6日 查阅)

这家工作室还招募了真人，把他们和机器人混进同一个匹配推送里。

Anthropic, 威胁报告，引文为译文 · Anthropic：检测与应对 AI 滥用，2026 年 9 月 (2026年11月6日 查阅)

发现者描述的一次钓鱼行动

SpiderLabs 在 2026 年 3 月 5 日的 X 帖子里讲了冒充 ChatGPT 和 Gemini 的钓鱼邮件。它的标题把 Facebook 凭证列为目标，所以 AI 品牌只是诱饵。

这条帖子是我们手里关于这次行动的唯一记录。X 只显示开头几行，其余折叠在“显示更多”后面，截图也就停在那里。

钓鱼邮件推送假冒的 ChatGPT 和 Gemini iOS 应用，窃取 Facebook 凭证

SpiderLabs, 引文为译文 · X (2026年11月6日 查阅)
SpiderLabs（@SpiderLabs）2026 年 3 月 5 日在 X 上发帖：钓鱼邮件推送假冒的 ChatGPT 和 Gemini iOS 应用，窃取 Facebook 凭证。冒充 ChatGPT 和 Gemini 的钓鱼邮件，正在诱导用户从应用商店下载恶意的苹果 iOS 应用。这些应用伪装成商务或广告管理工具，会提示，帖子的后半部分折叠在“显示更多”后面。
SpiderLabs 在 X 上，2026 年 3 月 5 日

X 官方嵌入卡片的截图，拍摄于 2026 年 11 月 6 日，时间为 UTC。点击截图可到 X 上打开原帖。

如果你已经点了或付了款

这些步骤是我们自己的建议，并非出自某一个来源。

  • 到真正的服务上改密码，网址要自己输入，其他用过同一个密码的网站也要改。
  • 如果你填了银行卡信息，用卡背面印的号码打电话给发卡机构。
  • 如果你装了应用，删掉它，再检查哪些应用和设备可以登录它索要的那个账号。
  • 把消息连同发件地址一起留着，并向它所冒充的服务举报。

常见错误

  • 把流畅的英文当作真公司的证明。招聘案例里，幕后的人用模型把很差的英文改顺了。
  • 为了看页面像不像真的，去点账单邮件里的按钮。要去看你自己的账号。
  • 因为很多人点了赞就信任一个资料。伪造点赞是交友案例的一部分。
  • 把实时视频通话当作对方就是资料上那个人的证明。交友案例里，接电话的是花钱雇来的人。
  • AI 服务和邮箱用同一个密码。被收集走的登录信息，会同时打开两扇门。

自己试一试

  • 在收件箱里搜最近一封“付款失败”或“验证你的账号”的邮件，对它做这五个检查。把发件地址一个字符一个字符地读。
  • 列出手机上的 AI 应用，把每个发布者的名称和厂商自己的网站对照一下。
  • 问一位亲人付费用着哪些 AI 服务，并约好你们各自会在哪里核对账单通知。

下一门课：提示词工程入门

你现在能核对送到你面前的东西了。提示词工程入门课程讲另一半：怎样向 AI 提出你想要的，并得到清楚的回答。

自测一下

  1. 一封邮件说你的 ChatGPT 付款方式已失效，并给了一个更新按钮。最稳妥的第一步是什么？

    查看答案

    C. 自己打开 ChatGPT 账号，到那里看账单 按钮和回复地址正是你不能信的部分。你自己的账号会显示真实的账单状态，而且在论坛案例里，发件地址与 OpenAI 的域名对不上。

  2. Anthropic 在 2025 年 3 月的报告里，对招聘诈骗行动说了什么？

    查看答案

    A. 它没有确认这个行动里有成功的诈骗 报告说，Anthropic 没有确认这个行动里有成功的诈骗。报告描述的是润色过的消息和目标人群，没有点出任何损失。

  3. 为什么 Anthropic 描述的那家转售商，对注册的人很危险？

    查看答案

    D. 它的工具收集了每个注册者的登录凭证 Anthropic 报告说，这家转售商既不便宜，也不是 Claude，流量被悄悄转到另一个模型，它的工具还收集了每个注册者的凭证。

  4. 为什么应用出现在应用商店里，不能证明它是真的 ChatGPT 或 Gemini 应用？

    查看答案

    B. SpiderLabs 报告说，钓鱼邮件推送的恶意 iOS 应用就是从那里下载的 SpiderLabs 描述了邮件诱导用户从应用商店下载恶意 iOS 应用，所以上架只说明应用从哪里分发，不说明是谁做的。

常见问题

犯罪分子怎样在诈骗里用 AI？

这里的报告展示了两种用到 AI 本身的做法：用模型润色的消息，以及与用户聊天的角色。另有两种借用 AI 名头的做法：假冒的 AI 转售商，以及冒充 AI 品牌的钓鱼。克隆声音是另一种用法，在第 2 课讲过。

这一课的案例显示人们损失了多少吗？

没有。我们读过的页面说明了每种骗局怎么运作，以及交友网络触达了多少角色和用户，但没有一个给出损失数字，Anthropic 还说它没有确认招聘行动里有成功的诈骗。把这些案例当作要认出来的模式，而不是 AI 诈骗有多常见的衡量。

要我更新 ChatGPT 付款信息的邮件是真的吗？

在你查过自己的账号之前，把它当作未经证实。贴出这个例子的论坛成员说，发件地址与 OpenAI 的域名对不上。自己去打开账单页面，因为邮件里的按钮，正是你唯一不能信的东西。

怎样找到某项 AI 服务的正版应用？

从厂商自己的网站出发，沿着它的下载链接进入商店，再把上架信息里的发布者名称和公司名称对照一下。在商店里搜出来的结果，没有经过这样的核对。

文字写得好是线索吗？

现在不是了。招聘案例里，幕后的人用 AI 模型润色了很差的英文，所以流畅的文字已经分不开真招聘人员和骗子。把一条干净的消息当作中性信息。

资料来源

  1. Anthropic: Detecting and countering malicious uses of Claude, March 2025 (2026年11月6日 查阅)https://www.anthropic.com/news/detecting-and-countering-malicious-uses-of-claude-march-2025
  2. Anthropic: Detecting and countering misuse of AI, September 2026 (2026年11月6日 查阅)https://www.anthropic.com/threat-intelligence-report-september-2026
  3. SpiderLabs on X, 5 March 2026 (2026年11月6日 查阅)https://x.com/SpiderLabs/status/2029557536488038488
  4. OpenAI Developer Community: Scam alert, fake OpenAI subscription email requesting payment details (2026年11月6日 查阅)https://community.openai.com/t/scam-alert-fake-openai-subscription-email-requesting-payment-details/1266793

分享本节课

开始下一门课

你现在能核对送到你面前的东西了。下一门课教你怎样向 AI 提出你想要的。

开始学提示词工程

本节课的 Markdown 版本 · 识别 AI 造假：假图、深度伪造与语音诈骗 · 全部课程