AI被用于反制网络诈骗，用机器人消耗诈骗者时间

欢迎来到《内核恐慌！》，这是由 Lily Hay Newman 和 Matt Burgess 撰写的每周通讯，带你深入了解隐私与数字安全的新世界。想每周在收件箱中收到这份通讯，请在此处订阅。

即便 AI 正在为数字诈骗和网络犯罪火上浇油，它也被招募进了保护潜在受害者的战斗中。世界各国政府在应对全球网络犯罪危机时一直力不从心，试图打击境外犯罪分子面临着种种局限。这催生了一些替代性努力，比如利用自动化手段大规模反制诈骗者——也许是通过向诈骗者发送垃圾信息来消耗他们的资源。如今，AI 平台正在将这类实验转化为打击网络犯罪的实际工具。

过去两年里，澳大利亚公司 Apate（以希腊欺骗女神命名）一直在构建一套系统，能将电话诈骗者引流到与 AI 机器人的通话中。这些机器人经过训练，会尽可能延长对话时间，当然，它们永远不会真正上钩。目标是给诈骗者足够的希望，让他们留在电话上，同时收集有关其所实施诈骗的情报。

“我们真正想做的事情是，为诈骗者打造完美的受害者，”Apate 创始人兼 CEO Dali Kaafar 告诉我们。“诈骗者与机器人或代理对话的每一分钟，都可能意味着你拯救了数百甚至数千个可能被同一个诈骗者接触到的潜在受害者，”他说，这里指的是诈骗者使用自动拨号工具的能力。

Kaafar 表示，Apate 的平台被银行使用，并得到电信公司的支持，目前拥有约 35 万个机器人。它们不仅能接听电话，还能渗透到网上的诈骗聊天群组中，并回复短信，目标同样是让诈骗者受挫，同时从中收集情报。他说，该公司已实时收集了超过 25 万条关于诈骗者的信息，从诈骗 URL 到钱骡账户和银行信息。

Kaafar 说，这些机器人拥有不同的性格、语言能力和身份档案，这样诈骗者就 hopefully 不会察觉自己正在与 AI 对话。和真人一样，“有时候（机器人）有 WhatsApp，有时候没有。有时候它们会接电话，有时候它们实际上会直接挂断诈骗者的电话，说‘我回头再找你，’”他说。

但它们有说服力吗？《内核恐慌！》用 demo 版本测试了这款工具，用户扮演诈骗者的角色，与 Apate 的一个 AI“受害者”对话。这些角色被设计为表现出适度的怀疑，但又留下足够的空间让诈骗者继续尝试赢得他们的信任——这种动态我们立刻就能感受到，并且觉得极其令人沮丧。

诈骗者很可能熟悉这种带有怀疑的互动方式，Kaafar 说 Apate 的通话经常持续两个多小时。在我们的测试中，Apate 系统反应积极且回应及时，对话的节奏感觉很自然，即便我们两人轮番上阵，扮演 AI 的朋友“Lucy”和她的财务顾问“Mickey”。我们用了六分钟的勤奋努力，也没能成功让 Apate AI 系统投资我们的加密货币机会。（不过回报真的非常惊人，我们发誓。）

目前，即便 Apate 拥有庞大的机器人军团在应对，你收到下一个诈骗电话或短信也只是时间问题。网络犯罪分子每年发起数十亿条信息和电话，最复杂的操作运营着实体化、工业规模的诈骗站点。尽管专业的反诈骗钓鱼者和渗透诈骗团伙的行动多年来已经起到了关键的威慑作用，但执法部门和研究努力总体上仍未能阻止数字诈骗的扩张。

但 AI 可能为反诈骗努力开创一个新时代，而不仅仅是诈骗者本身。警察、社交媒体公司、银行和其他行业之间更好的情报共享亟需实现，而 AI 驱动的监控和数据分析可能为此提供帮助。越来越多创新行动也在尝试通过利用网络犯罪分子的“心理弱点”来扰乱他们。在某些情况下，这些心理战包括直接戏弄勒索软件攻击背后的操纵者。随着对扰乱诈骗者和网络犯罪分子的关注不断扩大，使用生成式 AI 来让他们忙于应付、浪费资源、无法发动其他攻击，似乎正变得越来越有效。

以蜜罐为例。多年来，公司和安全研究人员部署虚假虚拟机来吸引黑客，浪费他们的时间、收集信息并了解他们秘密的黑客技术。苏黎世联邦理工学院计算机科学系的博士研究员 Mark Vero 表示，开源蜜罐提供商越来越多地将 LLM 集成到他们的系统中，使其看起来更逼真。

在最近的研究中，Vero 和同事发现，由 LLM 驱动的蜜罐会让攻击系统的 AI 代理坚持“明显更久”，相比行为更可预测的蜜罐。“代理型攻击者更容易被 LLM 模拟的蜜罐说服，而且他们将其标记为真正蜜罐的比率也低得多，”他说。“如果这些系统构建得足够好，那么我认为这对防御方相当有利。”

发现了什么我们应该在下周收录的内容？请通过 kernelpanic@wired.com 告诉我们。注意安全。