返回资讯中心
外部精选
软件工程
#开发者实时流

研究让五个AI重演EPA五十年草甘膦决策,无一对草甘膦更宽松

来源标题:LLMs replayed 50 years of EPA glyphosate decisions. None was more lenient

研究人员让五个AI模型在90次运行中重演EPA五十年草甘膦监管决策,没有任何一次建议比EPA实际做法更宽松,多数还主张更严格监管。测试正值EPA、FDA等机构引入AI辅助审批与评估之际,研究关注AI外包监管决策后的倾向。

Hacker News 最新kaurov2026/11/4 · 13 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

我们让五个 AI 模型重演了 EPA 五十年来对草甘膦的决策过程:在 90 次运行中,没有任何一次建议采取比该机构更宽松的监管路径,大多数反而主张更严格的监管。

Lee Zeldin 接掌美国国家环境保护局(EPA)时承诺要“让美国成为世界 AI 之都”,并把 AI 打造成该机构使命的支柱。EPA 已试点由亚马逊云科技(AWS)搭建的数据管道,用 Anthropic 的 Claude 读取农药档案,同时正在开发一款化学评估工具,利用 AI 审阅某种化学品的文献、评估安全数据,并就新用途是否应获批给出“判断与叙事理由”。美国食品药品监督管理局(FDA)自 2025 年起运行一款名为 Elsa 的生成式 AI 工具,用于临床方案审查和科学评估。而 DOGE 在它还存在的时候,曾打造过一款“AI 放松监管决策工具”,意在从约 20 万项联邦法规中筛出一半予以废除。

问题在于,随着越来越多的监管决策被外包给 AI,它会如何表现?它会得出与行政机构相同的结论吗?还是说,AI 会更为保守,或更为激进?

这个问题今天就可以检验,因为像 EPA 这样的监管机构已经留下了篇幅冗长、且基本公开的决策记录。我们单独梳理了 EPA 对草甘膦的决策——草甘膦是全球使用最广泛的农用农药、孟山都 Roundup 的有效化学成分*——重建了 1979 年至 2026 年间六个关键时点可获得的關鍵证据,并询问五个大语言模型(LLM)它们会怎么做。

我们选择草甘膦/Roundup 作为首个测试案例,是因为 EPA 关于它的记录跨越了五十年,而且该机构几乎在每一步的结论上都受到过批评。它的历史也是我们其他一些研究的主题。**

我们部分重建了草甘膦六个最重大事件节点的证据卷宗:

每个监管事件的完整卷宗都无法重建,因为大量基础数据和文件从未被孟山都或 EPA 公开。下文所有结论都应在这一局限下理解。

每一次事件模拟都把 AI 模型置于某一固定日期的 EPA 监管专员的位置,向它提供该机构当时可获得的關鍵证据卷宗,并询问该机构应采取什么行动。我们使用的所有 LLM 都是在决策之后的材料上训练的,因此严格来说它们已经“知道”这些决策的结果以及随后引发的批评。这是目前无法消除的偏差。构建仅用某一日期之前文本训练的“复古”模型的努力,最终或许能缓解这一局限。而且,如果说有什么倾向的话,LLM 并不天然反对草甘膦:直接询问时,AI 聊天机器人往往给出安抚性回答,一贯将草甘膦描述得比颇具争议的除草剂阿特拉津更安全,在某些情况下甚至比水还安全。

每次事件运行三遍,只有指令不同。变体 A 给出监管角色、适用法规(《联邦杀虫剂、杀菌剂和灭鼠剂法》,即 FIFRA),以及最高法院对 EPA 必须如何执行该法的具有约束力的解释。变体 B 增加了法治框架:法律理论家 Lon Fuller 的八项要件,采用哈佛法学院教授 Cass Sunstein 和 Adrian Vermeule 在其著作《法律与利维坦》中的近期解读。Fuller 的经典检验不问一项决策在科学上是否正确,而问做出决策的机构究竟是否在依法治理:其标准是否公开、清晰、一致、稳定,以及它是否真正适用了自己宣布的规则。变体 C 增加了农药行业和农业种植者提出的理由:草甘膦在农业上不可或缺、据称缺乏替代品,以及监管连续性和确定性的价值。

变体 C 是引导性试探。模型是可以被推动的;有大量文献表明,即使模型被训练成不这样做,它们也会把答案转向用户暗示自己想要的结论。

我们把字节完全相同的提示词和卷宗输入五个 LLM:OpenAI 的 Codex、xAI 的 Grok 4.5、Anthropic 的 Claude Opus 5,以及两个中国模型 DeepSeek 和 Moonshot 的 Kimi K3。每次模拟运行都切断了互联网连接,也没有任何上下文记忆或配置。随后我们用 Opus 5 将每个答案与 EPA 的实际决策进行比较。

在全部 90 次运行中,无论哪个事件、哪套提示词,没有任何一次建议采取比 EPA 实际做法更宽松、更迎合产业界的路径。

🤝 同意 EPA · ⬆️ 更严格:结果相同,但程序更正式、分类更严厉,或采取了 EPA 跳过的步骤 · 🛑 否定 EPA 的行动,主张另做决策 · ⬇️ 比 EPA 选择的监管更宽松:从未发生,90 次运行中一次都没有。每个单元格中的三个表情符号分别是提示词变体 A、B、C,从左到右,各运行一次。

产业界的引导基本没有起作用。变体 C 只在 25 个“模型-事件”单元格中的 3 个里把结论推向 EPA 的立场:Kimi 在 1986 年和 2017 年,Grok 在 2022 年。在 1986 年事件中,EPA 自己的科学家根据孟山都自家研究中的小鼠肾肿瘤,将草甘膦列为可能的人类致癌物(C 组)。孟山都强力反驳:它告诉 EPA,草甘膦“不是致癌物”,“机构搞错了”,并警告说,哪怕只是启动正式监管程序,“也会造成严重的负面经济影响”。这些往来函件都被收入了卷宗。EPA 召集的科学顾问小组称数据模棱两可,EPA 最终达成折中,将草甘膦列为 D 组,“无法归类”其致癌性。比 EPA 更宽松、完全放弃癌症担忧的选项,是一个没有任何模型选择的监管选项。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →