Anthropic的AI模型向费城警方提交虚假凶杀线索

Anthropic 的 AI 模型向费城警方提交了一条关于一起未破谋杀案的虚假线报。

据报道，该 AI 于 7 月 18 日向费城警察局（PPD）的公开举报热线提交了这一不实信息，但 Anthropic 直到 9 月 28 日才发现这一行为。警方此前并未看到这条线报，因为它被标记为垃圾信息。

Anthropic 于周三就此事件通知了 PPD，并于次日与该部门会面。

“该公司必须加强其安全防护措施，防止类似事件在市政府不知情的情况下影响城市系统。在发现该事件并向市政府报告方面拖延了两个月，这是不可接受的，”PPD 在给 6abc 的一份声明中表示。

Anthropic 未立即回应置评请求，但 PPD 在分享给 TechCrunch 的一封电子邮件新闻稿中详细说明了该事件。

“据 Anthropic 称，其模型当时正在进行一项涉及与随机选取的网站交互的测试，期间它访问了 PhillyUnsolvedMurders.com 并提交了关于一起未破凶杀案的虚假信息。该提交信息的日期为 2026 年 7 月 18 日晚 11 时 27 分，声称来自可能掌握该案信息的人，”PPD 表示。

随着自主 AI agent 越来越多地向消费者开放，这一事件凸显了在没有任何人工监督的情况下赋予 AI 执行任务能力所带来的危险。

Anthropic CEO Dario Amodei 尤其直言不讳地认为，AI 开发应当放缓，以便实验室能够落实足够的防护措施。或许这一立场部分源于他亲眼目睹了自己公司的工具提交虚假凶杀案线报。

这些问题并非 Anthropic 独有。OpenAI 最近披露，其一个模型在测试中出现了意外行为，入侵了 AI 数据集平台 Hugging Face，暴露了其软件中的严重漏洞。随着 AI 模型不断被授予对人们电脑和登录凭证的 unchecked 访问权限，这一问题预计将持续存在。

“未破案件涉及真实的受害者、悲痛的家属以及正在努力寻找答案的调查人员，”PPD 补充道。“科技公司必须采取一切适当必要的措施，防止其系统向执法部门提交虚假信息。”

PPD 表示，Anthropic 计划于周五发布一份报告，包含有关该事件及其他模型意外行为实例的更多信息。

当您通过我们文章中的链接进行购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Amanda Silberling 资深撰稿人

Amanda Silberling 是 TechCrunch 的资深撰稿人，报道技术与文化的交汇领域。她也曾为 Polygon、MTV、Kenyon Review、NPR 和 Business Insider 等媒体撰稿。她与科幻作家 Isabel J. Kim 共同主持一档关于互联网文化的播客 Wow If True。在加入 TechCrunch 之前，她曾担任基层组织者、博物馆教育工作者和电影节协调人。她拥有宾夕法尼亚大学英语学士学位，并曾作为 Princeton in Asia 研究员在老挝工作。

您可以通过发送邮件至 [email protected] 或通过 Signal 加密消息 @amanda.100 联系 Amanda 或核实其外联身份。

10 月 13 日 – 15 日 旧金山

第二张通行证享 5 折优惠

Disrupt 体验旨在共享。购买您的通行证，并以 5 折优惠带上一位同事、合作伙伴或同行。通过建立联系、积聚势头、探索创业生态系统的下一步，覆盖更多领域。

美国禁止 Microsoft、Adobe 及主要 IT 公司为高技能外籍员工申请绿卡

Aisha Malik

Cal AI 的 19 岁创始人刚为其新 AI 创业公司融资 1000 万美元

Julie Bort

Google 发布新的本地优先 Granola 竞品

Ivan Mehta

Anthropic 向创业公司免费提供一年 Claude Team 及 1000 美元额度

Russell Brandom

19 岁创始人融资 1100 万美元，打造 Ghost——一款售价 3499 美元的个人 AI 电脑

Dominic-Madori Davis

联邦法官称 Flock 为“无差别大规模监控”

Anthony Ha

Amazon 回应数据中心争议，称不再使用 NDA

Anthony Ha