这些交友应用主打真人互动,许多回复却来自 AI
一个交友应用网络让未标明身份的 AI 角色和受雇人员出现在同一个匹配列表里。用户可以买金币继续聊天,却不知道回复自己的究竟是人还是模型。
发表日期:
安全研究员 Matthew Gore-Kormanik 在交友应用 Doni 上接听了一通电话。通话结束后,与他匹配的对象发来消息,写得仿佛电话是他打过去的;Doni 显示的却是一通来电。Gore-Kormanik 向 The Verge 讲述了调查多款交友应用时遇到的这一矛盾。报道没有查明究竟是谁发起通话,也不能仅凭这段经历断定那个匹配对象由 AI 驱动。
Anthropic 的调查描述了这套系统如何运作:Claude 为应用中的虚构角色生成消息,运营者要求这些角色隐藏自动化身份,回避索要照片或视频通话的请求,并按预设流程推进聊天。同一个匹配列表中还有受雇人员,他们可以接听视频电话,也可以在社交平台上关注用户。
Anthropic 称,这个网络包含 20 多款应用。在 2026 年 4 月的两周内,它观察到 4700 多个 AI 角色与至少 2.5 万人交换了约 236 万条消息。在它检查的匹配列表中,AI 角色与受雇人员的比例约为三比一。这里的 2.5 万是参与聊天的人数,不是已经证实付过钱的人数。
真人在什么时候出现
自动账号可以全天持续聊天,实时视频通话则需要真人出镜。Anthropic 称,另一个模型还会生成几条简短回复,供受雇人员选择。与真人通一次视频电话,可能让应用显得可信,却不能证明其他个人资料背后也是真人。
运营者不需要让 AI 包办每一次互动。自动聊天旁边还有真人出镜的视频和社交平台上的关注。但报道描述的是这套组合系统,并没有记录某段具体的 AI 对话后来由真人接手。
应用还会制造其他互动迹象。Anthropic 称,系统会生成点赞和个人资料浏览记录;没有真人可用时,还会播放预录视频。同一套系统一边营造“有人对你感兴趣”的感觉,一边记录哪些用户开始怀疑自己遇到了机器人。
Gore-Kormanik 检查多款 Android 应用后发现,Doni、Dora、Jovia、Kira、Nalo 和 Romi 共用部分代码及后端系统。Doni 的软件包里还有一份内部工作手册,其中提到如何引导用户进入通话。The Verge 无法独立证实 Anthropic 报告中的全部发现,但它对这些应用的检查证实,多款被点名的产品存在技术关联。
付费买的是继续聊天
收费机制就在应用里。据 Anthropic,匹配和发送消息都有额度;额度用完后,用户可以购买金币继续使用。The Verge 也检查了付款流程。这些应用出售的不是一次明确标价的 AI 服务,而是继续聊天的机会。
如果应用明确说明对方是 AI,用户可以自己决定是否花钱继续聊。但这些应用没有告诉用户,许多个人资料实际上由 AI 角色自动回复。想认识真人的人可能购买金币继续发消息,却不知道回复自己的也许是模型。
Claude 生成了大量回复,但应用由人设计,收费规则也由人制定。运营者还要求 AI 角色始终按照设定身份说话。Anthropic 指出,只看模型参与的一段对话,无法了解背后的完整收费机制。向用户隐瞒这些角色的身份,是运营者的决定。
目前没有经过核实的用户付款总额或损失总额。Anthropic 称已封禁与这项活动有关的账号,并把调查结果通报应用商店和其他 AI 服务商。部分应用的商店页面后来消失,但各自下架的原因,以及整个网络是否仍在运作,都没有定论。
用户看得见继续聊天要花多少金币,却看不见究竟是谁在回复。