返回资讯中心
外部精选
软件工程
#开发者实时流

斯坦福学者警告:大模型可大规模找出法律漏洞,或冲击法律体系

来源标题:AI could break legal systems by finding previously hidden loopholes

斯坦福法学院访问学者Felix Ringe认为,大语言模型已能大规模识别法律文本中的可被利用的不一致之处,可能令法律体系不堪重负。他类比代码漏洞指出,法院通常靠法律解释弥合这些文本缺陷,但自动化发现对抗性漏洞的速度可能超出司法系统修补能力。相关论点引用了将法律视为易受攻击代码的近期研究。

Hacker News 最新Bender2026/11/3 · 14 天前12 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

如果AI能找出编程代码中的漏洞,它同样也能在法律代码中找到漏洞,从而为混乱局面铺平道路。

斯坦福法学院liftlab访问研究员、法律学者Felix Ringe认为,大语言模型(LLM)已经足够强大,能够通过大规模识别可被利用的不一致之处来破坏法律体系。

“法律体系用自然语言编码了社会秩序的基础,”Ringe与合著者Linus Folkerts上周在博客文章中写道。“与计算机系统类似,成文法也可能包含可被利用的漏洞。”

Ringe主张,尽管法院倾向于通过法律解释来弥合这些文本漏洞,但以自动化方式发现法律中可用于对抗性目的的不一致之处,可能会使法律体系弥补缺口的能力不堪重负。

为支撑其论点,他引用了其他法律学者近期的研究,这些研究将法律视为脆弱的代码,例如《法律零日漏洞:高级AI系统的新型风险向量》和《法律系统中的硬件与软件缺陷》[PDF]。

这一类比至少可以追溯到1999年Lawrence Lessig的《代码与其他网络空间法律》[PDF]以及《代码即法律:论网络空间中的自由》。Lessig将“代码是网络空间的法律”这一想法归功于William J. Mitchell在《比特之城:空间、场所与信息高速公路》(1995年)中的论述,并补充说他“也从其他人那里借用了这个隐喻”。

Ringe则将这一类比颠倒过来,提出法律就是代码。

编程代码与法律代码之间的类比在一定程度上是成立的。法律和代码都有各自的格式教条和仪式。但当法院被设定为运行时环境时,这种映射就失效了——非确定性的审判结果无法用于生产应用。

尽管存在这些不连续性,Ringe的核心观点是,AI模型能够以大规模方式揭示成文法漏洞,可能将目前软件安全生态系统中出现的混乱带入法律世界。

为证明这一点,Ringe和Folkerts列举了他们在LLM帮助下发现的德国法律中的几个潜在漏洞,并指出他们只公开了他们认为不会造成严重危害的法律漏洞利用方式。

例如,德国《职业病条例》(BKV)的一项修正案须遵守宪法要求,即须引用其法定授权依据。但Ringe和Folkerts认为该修正案遗漏了必需的引用。因此,从理论上讲,记者可以根据信息自由规则要求获取提交给德国职业病咨询委员会的一份未公开声明,从而挑战一项研究人员认为可能无效的保密条款。

另一个例子描述了一项过境签证规则,该规则可能因政府未能明确其制定所依据的授权而无效。

“我们认为,随着廉价的法律推理能力不断普及,AI系统可能危及当今法律体系的正常运转,”他们写道。“在这样的世界里,立法者将需要大幅加固立法流程,例如自己利用先进的AI。”

旧金山劳动法律师、合伙人Wendy Musell告诉The Register,AI在法律领域的应用正在迅速扩大。

“一些加州法院,包括洛杉矶高等法院,正在测试将AI用作法官助理,”Musell说。“一般来说,法官助理会通过研究案情和起草意见书供法官审阅来协助法院。这意味着AI在某些法院正在担任这一角色。诉讼律师现在必须考虑AI是如何分析动议和案件的。

“即使我个人发现不同的AI来源似乎存在倾向性或偏见,并且经常无法准确分析法律问题,情况也是如此。AI介入立法流程只是时间问题。”

圣克拉拉大学法学院研究副院长兼法学教授Eric Goldman告诉The Register,Ringe的论点有一定道理。

“我认为使用AI识别潜在成文法漏洞的方法是合乎逻辑的,”Goldman说。“然而,这需要仔细的人工审查来确定AI识别出的漏洞是否确实是漏洞。成文法漏洞也可能没有法律后果,或者至少没有重大后果;而且立法机构往往会在发现重大漏洞后加以修正。”

Goldman表示,立法者在起草过程中应使用AI的想法雄心勃勃,至少在短期内如此。

“立法者起草法律时往往有一系列目标和优先事项,而避免成文法漏洞很少是高度优先事项,”他解释道。“但许多立法机构都有立法顾问,负责将法案草案转化为最终立法文本,我可以预见立法顾问将AI用于识别起草漏洞作为其标准清理流程的一部分会有所裨益。”®

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →