返回资讯中心
外部精选
行业深度
#趋势观察#Artificial intelligence#App#artificial intelligence#Summary

Scott Wiener赢得佩洛西旧席位,准备在国会推动AI监管

来源标题:Nancy Pelosi’s replacement is ready to regulate AI

曾起草美国首部前沿AI立法提案的Scott Wiener赢得Nancy Pelosi空出的旧金山国会席位,已开始推动联邦层面的AI监管。他主张设立强有力的联邦AI监管机构,并要求举报人保护、kill switch和审计要求,同时反对剥夺各州监管权的联邦法律。他警告国会若不行动,可能"在不知不觉中滑向灾难"。

MIT Technology ReviewGrace Huckins2026/11/9 · 8 天前18 分钟阅读

以下正文由 AI 翻译自 MIT Technology Review(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

  • 国会中AI监管的新声音:Scott Wiener,该国首部前沿AI立法提案的起草者,刚刚赢得Nancy Pelosi原来的国会席位,已在推动联邦层面的行动——并警告说“我们可能会在梦游中陷入灾难。”
  • 递归自我改进让他夜不能寐:最近一份报告暗示Anthropic可能已实现能够实质性自我推进的AI,这令Wiener深感不安,他认为这证明国会剩下的行动时间不多了,否则将彻底失去控制。
  • 他要的是有真正约束力的监管:Wiener正在推动设立一个强有力的联邦AI监管机构、举报人保护、一键关停机制和审计要求——并且坚决反对那些剥夺各州自行监管能力的联邦法律。
  • 谨慎乐观,但有保留:Wiener担心国会在科技监管方面糟糕的历史记录,警惕特朗普对AI安全议题的敌意,并希望任何迫使行动发生的危机都能如他所说,“尽可能小”。

作为加利福尼亚州参议员,Scott Wiener曾起草旨在遏制先进AI风险的立法。如今,在赢下一场激烈的国会竞选、接替前众议院议长Nancy Pelosi空出的旧金山席位后,他可能在制定联邦AI政策中发挥关键作用。

我在周五与他交谈,那不过是他被宣布获胜的几个小时之后。但他已经在思考AI风险了。前一天,AI非营利组织METR发布了一份报告,被广泛解读为证据,表明Anthropic已实现递归自我改进——即AI能够实质性地推动自身进步、AI发展可能失控的现象。

“这非常令人担忧,”Wiener说,并引用该报告作为我们规范AI的时间正迅速耗尽的证据。“我曾希望国会能在今年[年底]之前采取果断行动,”他说。“但这似乎并没有发生。”

近年来,Wiener越来越关注AI,并且把AI安全运动的许多担忧变成了自己的关切:例如,在我们20分钟的对话中,他用了六次“递归自我改进”这个词。“我们需要放慢速度,”他说。“因为它进展得非常快,而我们可能会在梦游中陷入灾难。”

Wiener已经对AI政策产生了实际影响。他在2024年起草的SB 1047法案,原本将成为该国首部真正的前沿AI立法,但被加州州长Gavin Newsom否决;随后他又提出了SB 53,一项更为温和的法案,由Newsom签署。这两项法案都启发了联邦层面的立法提案。

Wiener的国会竞选从Public First Action获得了超过300万美元的资金,这家非营利组织支持AI监管,并从Anthropic获得大量资助。这笔捐款导致对手批评他与AI行业关系过近,但Wiener说这完全不是事实。

“Public First支持我,是因为我是全国第一位提出AI监管、第一位通过并使其落地的立法者,”他在我们采访后的一则消息中写道。“因[Public First的]支持而对我发起的攻击令人震惊地刻薄——实际上是在攻击一位真正在大型科技公司反对下监管了AI的候选人,并虚假地声称这位候选人 somehow 与大型科技公司过于亲近。”

Wiener说,如果国会成立人工智能特别委员会——民主党人自9月以来一直在讨论此事——他会很愿意加入。他对国会中流传的许多政策构想也充满热情。“我认为拥有一个强有力、有授权、灵活的联邦监管机构非常重要,”他说,并指出来自加州的民主党众议员Ro Khanna已提出立法,旨在建立这样一个监管机构。

他还强调了举报人保护、测试和审计要求以及一键关停要求的重要性,并希望国会利用其监督权追究AI实验室的责任。“这关乎人类的未来,我们要确保公众有发言权,并知道正在发生什么,”他说。

作为一名长期担任州议员的人,他反对联邦对州AI法律的广泛优先适用——一些拟议的联邦立法要求这样做。“正如Brandeis所说,各州是实验室,”他指出。“你希望各州能够继续以国会有时不具备的灵活方式行事。”

最重要的是,Wiener说,他希望国会通过有真正约束力的政策。“至关重要的是,当国会采取行动时,我们要以真正有意义、能够应对当下挑战的方式去做,”他说。这意味着要认真对待AI灾难的可能性,他谈论这一问题时使用的语言,正是AI安全专家通常使用的那一类。“我们正处于一个非常危险的时刻,存在失去对AI控制的风险,”他告诉我。“我们需要应对递归自我改进。一旦进入那个领域,那确实可能成为彻底失控的配方。”

在对抗灾难性AI风险的斗争中,他会有一些盟友。例如,参议员Bernie Sanders已与AI安全运动许多最具影响力的人物会面,并多次谈到AI与生存风险。但Wiener那种湾区式的、对AGI深信不疑的视角,与全国范围内以反对数据中心为基调的AI情绪之间,仍存在巨大鸿沟。选民在周二批准了41项反对数据中心的公投措施中的40项,这看似对Wiener和其他支持AI监管的人是利好信号,但Wiener说,他认为这场运动与地方关切的联系远大于与AI风险等更大问题的联系。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →