# AI 诈骗：犯罪分子怎样利用 AI，你怎样保护自己

> AI 诈骗用的还是老套路：陌生人想要你的登录信息、付款信息或者你的信任，只是文字更像样，还多了假身份和克隆的声音。文字写得好，已经分不出骗局和真消息。改查来路：谁先联系的你、对方要你做什么，以及你自己打开那项服务时，同样的请求是否出现。

Mindket 编辑部 · 发布于 2026-11-06 · 更新于 2026-11-06 · https://mindket.com/cn/learn/spot-ai-fakes/ai-scams

## 要点

- 判断一条消息，看是谁先联系的、要你做什么，不要看它写得顺不顺。
- 自己输入网址打开服务，到那里去找通知或扣款记录。
- 便宜得出奇的 AI 服务要当作诱饵：Anthropic 发现的一家转售商，收集了每个注册者的登录凭证。
- 付款之前先找第二个人商量，接到急电就用第 2 课的暗语。

## 开始之前

你需要手机和邮箱。最后的练习要你检查三个自己正在用的账号，大约十五分钟。

## 回复、付款或登录之前的五个检查

1. 先问是谁先联系的。你没有主动找过的消息，不管来自招聘人员、交友对象、银行还是 AI 服务，都最该存疑。你自己发起的事、在你自己打开的网站上得到的回复，最不需要存疑。
2. 想清楚它要什么。下面这些案例里，对方要的是登录信息、付款信息，或者让你和机器人聊很久。凡是以其中一样收尾的，都要做下一个检查。
3. 离开这条消息，去源头核对。自己输入服务的网址，或者打开它的应用，在那里找通知或扣款记录。下面论坛案例里，邮件的发件地址与 OpenAI 的域名对不上，邮件里的按钮还要求填写付款信息。
4. 放慢，再叫上第二个人。催促正是让你来不及核对的东西，所以写着“马上”的消息值得停一停。接到电话的话，用[第 2 课](https://mindket.com/cn/learn/spot-ai-fakes/spot-deepfakes)里的暗语。
5. 应用和使用权限都从厂商自己那里拿。SpiderLabs 描述的恶意 iOS 应用是从应用商店下载的，所以上架只是一种声称，不是证明。表格里的转售商则说明，便宜的报价可能藏着什么。

## 五个用到 AI 或借用 AI 名头的骗局

下面每一行都来自一家安全团队、一家 AI 公司或一位论坛成员发布的页面。我们在 2026 年 11 月 6 日读了这些页面，没有亲自运行其中任何一个案例。

钩子是老的：一份工作、一个匹配对象、一笔便宜的买卖、一张账单。下面前两个案例里，AI 在钩子背后干活：模型润色招聘消息，角色同时和成千上万的人聊天。后三个案例里，骗局只是借用了你已经信任的 AI 服务的名字，来源并没有说骗局本身是 AI 写的。

| 类型 | 来源记载了什么 | 什么有帮助 |
| --- | --- | --- |
| 润色过的招聘消息 | Anthropic 2025 年 3 月的报告（2025 年 4 月 23 日发布）说，幕后的人把写得很差的非母语英文发给 Claude，请它调整，结果是“实际上在洗白自己的沟通，让它们看起来更专业”。目标主要是东欧国家的求职者。Anthropic 没有确认这个行动里有成功的诈骗。 | 一条毫无瑕疵的消息说明不了发件人是谁，所以去公司自己的网站上查它。 |
| 其实是机器人的交友对象 | 一家应用工作室在一批交友应用里运行 AI 角色。这些应用伪造了点赞、访客和预先录好的视频，还花钱请真人去接机器人做不了的实时视频通话和回关。 | 不要把视频通话当作证明，因为这个网络就是花钱请人来接的。只在应用里认识的人，不要给钱，也不要给登录信息。 |
| 便宜的 AI 模型转售商 | Anthropic 描述了一家提供廉价 Claude 使用权的欺诈性转售商，它既不便宜，也不是 Claude。流量被悄悄转到另一个模型，转售商的工具还收集了每个注册者的 Anthropic 登录凭证。 | 价格远低于厂商自己的，就是第一个信号。 |
| 邮件推送的假 AI 应用 | SpiderLabs 报告说，有钓鱼邮件冒充 ChatGPT 和 Gemini，诱导人从应用商店下载恶意的 iOS 应用。它的标题说目的是窃取 Facebook 凭证，这些应用伪装成商务或广告管理工具。 | 问一问：一个以聊天机器人命名的应用，为什么需要你的 Facebook 登录？ |
| 账单通知 | 2025 年 5 月 20 日，OpenAI 社区论坛的一位成员贴出一封邮件，说他的 ChatGPT 付款方式已失效。邮件催他通过一个按钮更新付款信息，而发件地址与 OpenAI 的域名对不上。 | 把发件地址和这项服务真正使用的域名对比。 |

## 一个交友网络的数字

这些数字来自交友应用案例，Anthropic 在 2026 年 9 月的威胁报告里描述了它，报告涵盖 2025 年 12 月到 2026 年 8 月的滥用情况。2026 年 4 月的两周里，报告编号为 GTG-15001 的网络运行了超过 4,700 个 AI 角色。它们接触了至少 25,000 人，交换了大约 236 万条消息。在匹配推送里，大约每出现一个真人，就有三个角色。

Anthropic 说，背后是一家中国的应用工作室，它用 Claude 搭建了超过 20 个交友应用，并驱动那些角色。这家工作室还招募真人，按每条消息、每次视频通话和每次回关付费。他们负责机器人做不了的事，也就是实时视频通话和回关，Anthropic 说他们的作用是让用户相信这个应用是真的。

Anthropic 封禁了这些账号，把调查结果分享给其他 AI 实验室，把针对平台的指标直接交给苹果和谷歌，还在报告里列出了入侵指标。一条温暖、流畅的回复，甚至一次视频通话，都说明不了你面对的是不是资料上的那个人。

**一个交友应用网络，2026 年 4 月**

- **4,700** 个不同的 AI 角色：这个网络在两周内运行的数量 (来源：[Anthropic：检测与应对 AI 滥用，2026 年 9 月](https://www.anthropic.com/threat-intelligence-report-september-2026), 2026-11-06 查阅)
- **25,000** 位独立用户：这些角色接触到的人数，至少 (来源：[Anthropic：检测与应对 AI 滥用，2026 年 9 月](https://www.anthropic.com/threat-intelligence-report-september-2026), 2026-11-06 查阅)
- **2.36M** 条消息：这段时间里交换的数量，约数 (来源：[Anthropic：检测与应对 AI 滥用，2026 年 9 月](https://www.anthropic.com/threat-intelligence-report-september-2026), 2026-11-06 查阅)

> 这家工作室还招募了真人，把他们和机器人混进同一个匹配推送里。
>
> Anthropic, 威胁报告，引文为译文, [Anthropic：检测与应对 AI 滥用，2026 年 9 月](https://www.anthropic.com/threat-intelligence-report-september-2026) (2026-11-06 查阅)

## 发现者描述的一次钓鱼行动

SpiderLabs 在 [2026 年 3 月 5 日的 X 帖子](https://x.com/SpiderLabs/status/2029557536488038488)里讲了冒充 ChatGPT 和 Gemini 的钓鱼邮件。它的标题把 Facebook 凭证列为目标，所以 AI 品牌只是诱饵。

这条帖子是我们手里关于这次行动的唯一记录。X 只显示开头几行，其余折叠在“显示更多”后面，截图也就停在那里。

> 钓鱼邮件推送假冒的 ChatGPT 和 Gemini iOS 应用，窃取 Facebook 凭证
>
> SpiderLabs, 引文为译文, [X](https://x.com/SpiderLabs/status/2029557536488038488) (2026-11-06 查阅)

[![SpiderLabs（@SpiderLabs）2026 年 3 月 5 日在 X 上发帖：钓鱼邮件推送假冒的 ChatGPT 和 Gemini iOS 应用，窃取 Facebook 凭证。冒充 ChatGPT 和 Gemini 的钓鱼邮件，正在诱导用户从应用商店下载恶意的苹果 iOS 应用。这些应用伪装成商务或广告管理工具，会提示，帖子的后半部分折叠在“显示更多”后面。](https://mindket.com/blog/shots/x-spiderlabs-fake-ai-apps.webp?v=bc7a47d45fde)](https://x.com/SpiderLabs/status/2029557536488038488)

SpiderLabs 在 X 上，2026 年 3 月 5 日

> X 官方嵌入卡片的截图，拍摄于 2026 年 11 月 6 日，时间为 UTC。点击截图可到 X 上打开原帖。

## 如果你已经点了或付了款

这些步骤是我们自己的建议，并非出自某一个来源。

- 到真正的服务上改密码，网址要自己输入，其他用过同一个密码的网站也要改。
- 如果你填了银行卡信息，用卡背面印的号码打电话给发卡机构。
- 如果你装了应用，删掉它，再检查哪些应用和设备可以登录它索要的那个账号。
- 把消息连同发件地址一起留着，并向它所冒充的服务举报。

## 常见错误

- 把流畅的英文当作真公司的证明。招聘案例里，幕后的人用模型把很差的英文改顺了。
- 为了看页面像不像真的，去点账单邮件里的按钮。要去看你自己的账号。
- 因为很多人点了赞就信任一个资料。伪造点赞是交友案例的一部分。
- 把实时视频通话当作对方就是资料上那个人的证明。交友案例里，接电话的是花钱雇来的人。
- AI 服务和邮箱用同一个密码。被收集走的登录信息，会同时打开两扇门。

## 自己试一试

- 在收件箱里搜最近一封“付款失败”或“验证你的账号”的邮件，对它做这五个检查。把发件地址一个字符一个字符地读。
- 列出手机上的 AI 应用，把每个发布者的名称和厂商自己的网站对照一下。
- 问一位亲人付费用着哪些 AI 服务，并约好你们各自会在哪里核对账单通知。

## 下一门课：提示词工程入门

你现在能核对送到你面前的东西了。[提示词工程入门课程](https://mindket.com/cn/learn/prompt-engineering/prompt-engineering-basics)讲另一半：怎样向 AI 提出你想要的，并得到清楚的回答。

## 自测一下

1. 一封邮件说你的 ChatGPT 付款方式已失效，并给了一个更新按钮。最稳妥的第一步是什么？

   A. 点按钮，看看页面像不像真的
   B. 回复邮件，让发件人证明自己是 OpenAI
   C. 自己打开 ChatGPT 账号，到那里看账单
   D. 转发给朋友，问问他怎么看

   答案：C。 按钮和回复地址正是你不能信的部分。你自己的账号会显示真实的账单状态，而且在论坛案例里，发件地址与 OpenAI 的域名对不上。

2. Anthropic 在 2025 年 3 月的报告里，对招聘诈骗行动说了什么？

   A. 它没有确认这个行动里有成功的诈骗
   B. 它确认了成千上万名受害者
   C. 它根本没有发现使用 Claude
   D. 它把每条消息都追到了同一个人

   答案：A。 报告说，Anthropic 没有确认这个行动里有成功的诈骗。报告描述的是润色过的消息和目标人群，没有点出任何损失。

3. 为什么 Anthropic 描述的那家转售商，对注册的人很危险？

   A. 它比厂商收费更高
   B. 它拒绝收款
   C. 它运行得很慢
   D. 它的工具收集了每个注册者的登录凭证

   答案：D。 Anthropic 报告说，这家转售商既不便宜，也不是 Claude，流量被悄悄转到另一个模型，它的工具还收集了每个注册者的凭证。

4. 为什么应用出现在应用商店里，不能证明它是真的 ChatGPT 或 Gemini 应用？

   A. 应用商店只收录旧应用
   B. SpiderLabs 报告说，钓鱼邮件推送的恶意 iOS 应用就是从那里下载的
   C. 真的应用从来不在那里卖
   D. 只有安卓应用会被检查

   答案：B。 SpiderLabs 描述了邮件诱导用户从应用商店下载恶意 iOS 应用，所以上架只说明应用从哪里分发，不说明是谁做的。

## 常见问题

### 犯罪分子怎样在诈骗里用 AI？

这里的报告展示了两种用到 AI 本身的做法：用模型润色的消息，以及与用户聊天的角色。另有两种借用 AI 名头的做法：假冒的 AI 转售商，以及冒充 AI 品牌的钓鱼。克隆声音是另一种用法，在[第 2 课](https://mindket.com/cn/learn/spot-ai-fakes/spot-deepfakes)讲过。

### 这一课的案例显示人们损失了多少吗？

没有。我们读过的页面说明了每种骗局怎么运作，以及交友网络触达了多少角色和用户，但没有一个给出损失数字，Anthropic 还说它没有确认招聘行动里有成功的诈骗。把这些案例当作要认出来的模式，而不是 AI 诈骗有多常见的衡量。

### 要我更新 ChatGPT 付款信息的邮件是真的吗？

在你查过自己的账号之前，把它当作未经证实。贴出这个例子的论坛成员说，发件地址与 OpenAI 的域名对不上。自己去打开账单页面，因为邮件里的按钮，正是你唯一不能信的东西。

### 怎样找到某项 AI 服务的正版应用？

从厂商自己的网站出发，沿着它的下载链接进入商店，再把上架信息里的发布者名称和公司名称对照一下。在商店里搜出来的结果，没有经过这样的核对。

### 文字写得好是线索吗？

现在不是了。招聘案例里，幕后的人用 AI 模型润色了很差的英文，所以流畅的文字已经分不开真招聘人员和骗子。把一条干净的消息当作中性信息。

## 资料来源

- [Anthropic: Detecting and countering malicious uses of Claude, March 2025](https://www.anthropic.com/news/detecting-and-countering-malicious-uses-of-claude-march-2025) (2026-11-06 查阅)
- [Anthropic: Detecting and countering misuse of AI, September 2026](https://www.anthropic.com/threat-intelligence-report-september-2026) (2026-11-06 查阅)
- [SpiderLabs on X, 5 March 2026](https://x.com/SpiderLabs/status/2029557536488038488) (2026-11-06 查阅)
- [OpenAI Developer Community: Scam alert, fake OpenAI subscription email requesting payment details](https://community.openai.com/t/scam-alert-fake-openai-subscription-email-requesting-payment-details/1266793) (2026-11-06 查阅)

[开始学提示词工程](https://mindket.com/cn/learn/prompt-engineering/prompt-engineering-basics)