英国皇家检控署检察官因AI搜索在高等法院引用虚构判例

针对批评，英国皇家检察署表示其有严格的政策限制AI的使用，“以确保其不被用于做出法律决策”。摄影：Andy Rain/EPA 全屏查看图片 针对批评，英国皇家检察署表示其有严格的政策限制AI的使用，“以确保其不被用于做出法律决策”。摄影：Andy Rain/EPA AI（人工智能） “严重失误”：皇家检察署检察官在AI搜索后向高等法院引用虚构案例 独家：在一起涉嫌儿童强奸案中引用了不存在的判例，令困扰法庭程序的数十起AI相关错误再添一例 在Google上优先获取《卫报》内容 一名代理高等法院案件的资深皇家检察官引用了一个虚构的法律判例，这一错误引发了人们对AI幻觉侵染司法系统的新担忧。 法庭文件显示，代表皇家检察署（CPS）出庭的Ravinder Dhillon在一起关于是否应就一名男孩强奸其妹妹一事对其提起公诉的争议中，引用了一个完全捏造的案例。 两名高等法院高级法官称其对这一不存在的案例何以被援引的解释“令人不满”，一位AI与法律领域的专家则称之为“严重失误”。《卫报》了解到，该引用来自一次互联网搜索中生成的AI回答。 此案使今年困扰法庭程序的AI相关错误增至数十起，这些错误大多来自未经法律专业训练、自行代理的当事人，且常见于就业仲裁庭案件中。 这只是已知的第二起涉及CPS——英格兰和威尔士负责提起刑事公诉的主要公共机构——的案件。CPS曾在二月份承认，其一名律师在一起涉及两名因轻微罪行被定罪的罗马尼亚人的引渡案中引用了不存在的法律依据，很可能由AI造成。那些捏造的案例直到对方律师找不到任何踪迹才被发现，而CPS的结论是“再次发生的风险很低”。 在最新这起案件中，这名男孩（涉嫌强奸其七岁妹妹时年仅11岁）的律师正在挑战CPS对其提起公诉的决定。他们声称检方未能考虑社工、青少年工作者和一名法医心理学家的陈述。Dhillon是CPS强奸及严重性犯罪部门的资深皇家检察官，她主张对该儿童提起公诉，并详细引述了一个她称之为CPS – R v J [2024] EWCA Crim 3529的案例。结果该案并不存在。 继续起诉的决定由Dhillon于四月作出，并经首席皇家检察官确认。随后在十月，Dhillon承认该不存在的引述系错误所致。她表示自己当时指的是15年前作出的一个完全不同的裁决——这一次是真实的。 “这个被用作主张起诉一名儿童的法律依据，而该法律依据并不存在：这是严重失误，”爱尔兰梅努斯大学法学副教授、研究法官使用AI情况的Brian Flanagan说。“这动摇了人们对法律中信任规范的信赖——我们向来把法律依据视为珍贵之物。你不能捏造它们，那是越界的。AI增加了这种情况发生的风险，因为它能节省时间。任何专业人士这样做都不妥，但当该专业人士为国家工作时，性质就不同了，因为国家的权力是巨大的。” 高等法院表示，CPS引用虚构案例并未影响男孩对继续起诉决定所提挑战的结果，该案定于本周晚些时候在青少年法庭开庭审理。 2025年6月，高等法院针对从住房到银行等各类案件中的AI幻觉，呼吁律师公会和律师协会“作为紧急事项”考虑采取措施遏制这一问题。时任王座法庭庭长的Victoria Sharp女爵士警告称，“如果人工智能被滥用，将对司法行政和公众对司法系统的信心产生严重影响”，并表示滥用AI的律师可能面临制裁，从公开训诫到藐视法庭程序及移送警方。 在被要求置评时，CPS表示其有严格的AI政策，“限制其使用以确保不被用于做出法律决策，且必须有人工核查以确保准确性”。 一位发言人表示，CPS“发现错误是在使用互联网进行法律检索时发生的”。 每天早晨将当日头条和要闻直接发送到你的邮箱 “这一错误一经发现即被纠正，并进行了内部审查以查明其发生原因并核查是否有其他案件受到影响，”他们说。“经过快速审查，我们分享了经验教训，包括必须从可信的法律来源引用判例法。” 据了解，该互联网搜索返回了一份AI摘要，其中包含虚构的案例细节。 最新事件使Doughty Street Chambers大律师Matthew Lee维护的英国追踪记录中的条目增至101条，该记录涵盖已确认、疑似和有争议的AI相关错误以及相关的虚假引述。他表示，已发现的案件可能只是“冰山一角”，因为许多下级法院的裁决从未公布。 他补充说，鉴于CPS处理的信息高度敏感，其使用AI存在隐私和保密风险，并警告称AI正在给大律师增加额外工作——他们需要花时间核查案件材料中出现的法律依据的真实性，而这些材料的准备过程可能使用了AI。