4700 个 AI 同时谈恋爱：Anthropic 抓到了一个工业化“崩老头”系统

作者：陈大鱼头

github：github.com/KRISACHAN

邮箱：chenjinwen77@gmail.com

前言

早上上网冲浪的时候发现 Anthropic 发了个新帖。

然后就点击进去看了看，发现整个报告覆盖了 7 类威胁：

威胁类别	主要内容
网络攻击	利用 AI 进行侦察、漏洞分析、代码生成、工具调用、数据处理等
影响力行动	利用 AI 批量生成内容、维护 Persona、管理目标数据库和传播流程
情报与监控	利用 AI 处理大规模数据、人物画像、翻译、分析和监控系统开发
常规武器	AI 被用于部分武器相关的软件开发、仿真、工程设计和研究
生物研究	AI 被用于部分具有双用途风险的生物科研与实验设计辅助
诈骗	利用 AI Persona 长期维持虚假身份、关系和互动，例如约会 App 欺诈
模型蒸馏与规模化滥用	大规模获取 Claude 输出、推理或交互数据，用于训练其他模型

里面内容有点多，但我觉得比较有意思的就是报告里披露了一个编号为 GTG-15001 的虚假约会 App 网络。

按照 Anthropic 的调查，一家位于中国的 App 工作室运营了超过 20 款约会 App，并利用 Claude 驱动大量虚假用户，与真实用户长期聊天。

Anthropic 在 2026 年 4 月观察到的两周窗口中，记录到了以下规模：

我找 gpt 作了张流程图来说明这个系统的流转：

这些平台通常存在三类参与者：

普通用户看到的表面是一个约会平台。

后台实际运行的则是：AI Persona + 真人兼职 + 多模型系统。

盈利模式结果如下方表格所示：

我找 gpt 作了张流程图来说明这个模式的流转：

传统的模式最大的问题就是必须让真人长期陪客户聊天，但这种模式让真人时间逐渐变成模型 Token。

也就是用 token 赚钱。

烧 token 的终于赢过卖 token 的了，喜闻乐见。

此外，这套系统还有一整套应用商店审核规避机制，用来提供在应用商店上架的可能性。

其实核心就这 4 点：

原因	核心说明
单条 Prompt 看起来正常	Claude 收到的往往只是"扮演角色、继续聊天、维持人设"等普通任务，本身和正常 AI Companion 很接近。
模型看不到完整商业目的	Claude 看到的是当前对话任务，看不到背后"虚假身份、付费机制、长期诱导"的完整业务链路。
任务被拆散在多个环节里	聊天、图片、真人验证、付费、后台运营由不同系统和人员完成，单个模型很难判断这些动作组合后的真实用途。
当前任务与真实目的分离	模型知道"现在要回复什么"，但不知道平台真正想达到什么目的。

总结来说就是：

Claude 难识别，不是因为它看不懂聊天内容，而是因为它看到的是当前任务，真正有问题的却是整个业务流程和背后的真实目的。

这套体系的技术特征如下：

技术特征	核心说明
多角色 AI 系统	不同 AI 分别负责聊天、回复建议、图片处理等任务，不依赖单一模型完成全部工作。
长期 Persona 维持	AI 需要持续保持固定身份、人设和对话风格，而不是一次性回复。
人机协同	AI 负责大规模聊天，真人只在视频、社交验证等关键节点介入。
高并发自动化	数千个 AI Persona 可以同时与大量真人交互，突破人工并发上限。
流程化编排	匹配、聊天、付费、真人介入、再次聊天形成固定业务流程。
低边际成本扩展	新增一个聊天对象主要增加的是模型调用成本，而不是新增一名真人员工。
上下文与状态持续	系统需要记住用户关系、聊天阶段、怀疑程度等状态，保证长期互动连续。
单任务与整体目的分离	每个 AI 看到的只是局部任务，真正的业务目的存在于整套系统流程中。

其实就是一套多模型 + 长期状态 + 自动化编排 + 真人兜底 + 商业闭环组成的复杂系统。

模型能力只是其中一个环节，所以 Claude 或者其它模型由于无法看到完整的流水线而难以识别真实意图。

看完这部分的报告，只能说 AI 时代，骗子也得下岗。

只要这个时候再出一个代聊天的 AI 系统，那么就变成 AI 与 AI 之间恋爱，AI 崩 AI 了。

真到这一天，就喜闻乐见了。