
曾投票解雇Sam Altman的OpenAI前董事Helen Toner称仍无法信任AI公司CEO
来源标题:The OpenAI board member who fired Sam Altman says we still can’t trust AI CEOs
OpenAI前董事会成员Helen Toner表示,公众仍不能信任AI公司的CEO。她是2023年投票解雇Sam Altman的四名董事之一,该事件最终以Altman回归、她辞职并重组董事会告终。Toner目前担任乔治城大学安全与新兴技术中心执行主任。
以下正文由 AI 翻译自 The Verge AI(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
今天,我和乔治城大学安全与新兴技术中心执行主任海伦·托纳对话。本期节目是我们“AI在现实生活中”系列的第二部分。
海伦是AI安全与政策领域知名人物,不过她最为人熟知的身份或许是曾在OpenAI董事会任职,当时她是投票解雇萨姆·奥特曼的四名董事会成员之一。那起事件如今有时被称为“小插曲”,最终以萨姆回归担任CEO、海伦辞职以及新董事会成立告终。此后OpenAI进行了全面重组。
但值得记住的是,海伦和董事会本应做的事情:OpenAI的非营利董事会存在的目的,正是确保公司不会为了利润和增长而牺牲安全、背叛其构建安全AI的使命。当董事会真的试图拉动那个杠杆时,问责机制失灵了,于是就有了今天这个局面。
Verge的订阅用户,别忘了你们可以在任何收听播客的地方独家获取无广告版的Decoder。点击这里。还不是订阅用户?你可以在这里注册。
如今,AI安全的问题无处不在。今年夏天,OpenAI和Anthropic的AI模型突破了测试环境,入侵了真实公司。这些前沿实验室的CEO们随后呼吁放缓步伐,并请求华盛顿提供帮助,但白宫的回应是一份自愿性协议——该协议部分依赖于那种在OpenAI已经失效的董事会问责机制。Anthropic也即将上市,这将给OpenAI最大的竞争对手带来一整套全新的市场压力。
海伦近距离目睹了当安全承诺与商业激励正面冲突时会发生什么。正如她对我所说,如果我们对未来的希望依赖于任何一个人值得信赖,那我们就麻烦大了。
所以我们讨论了可以转而做些什么:这些实验室实际在试图构建什么,AI对齐是否是一个可以解决的问题,以及更明智的AI监管方式可能是什么样的。这包括如何看待中国——这是当下每一场AI政策讨论中都挥之不去的问题,尤其是在Jensen Huang事件之后。需要说明的是,海伦和我在Nvidia展开调查、Jensen最终辞职之前进行的对话,所以你不会听到我们直接谈论那件事。
在我们开始之前,帮我个忙,在YouTube上订阅Decoder,我们每周一和周四发布新节目。
好了:CSET执行主任海伦·托纳,谈AI安全的未来。我们开始吧。
本次采访经过轻度编辑,以求长度和清晰度。
海伦·托纳,你是乔治城大学安全与新兴技术中心的执行主任。欢迎来到Decoder。
非常感谢。很高兴来到这里。
我想跟你聊已经想了很久很久了。非常兴奋你能来。你长期以来参与了很多AI安全和伦理方面的思考。你显然在OpenAI董事会任职期间经历了大家都称之为“小插曲”的那件事。
现在,你大量谈论AI安全,对此我有无数个问题。但让我们从头开始。你运营安全与新兴技术中心,人们叫它CSET。CSET是什么?
很高兴来到这里。我也非常兴奋能和你交谈。CSET是乔治城大学内部的一个团队,但我们其实不是学者。我们大约有50人,从2019年开始运作。
基本上在2019年,我们一群人认定,有很多正在发生的事情和很多新兴技术正在变得与国家安全领域——以及更广泛的安全领域——非常相关。而一些身居要职的政策制定者没有时间或专业知识来了解这些新兴技术的发展状况。2019年时,AI就已经是我们清单上的头号事项。
基本上我们的使命是做出真正严谨、同时又可操作的分析,面向政策制定者,而且分析既扎根于技术,也扎根于真实的国家安全专业知识和理解。我们撰写长篇报告。我们带着这些长报告去给忙碌的政策制定者做简短汇报。我们有一个大数据团队帮助我们做研究。我们做各种很酷的事情。
我能就问一下这其中的动态吗?你和我对话是在美国中期选举的第二天,出现了大规模的蓝色浪潮。很多民调显示头号问题是腐败。我们要把那些家伙赶出去。我们要重新开始,摆脱这些腐败分子。
AI行业和科技行业向政治倾注了大量资金。然后在这旁边某处是,“哦,有一群善意的研究人员会出现,告诉你实际是怎么回事、真正的风险是什么。”
我突然想到,也许人们不再相信那有效了,也许金钱和腐败以及站在特朗普旁边的AI CEO已经完全压过了你所做的善意、真诚的“这些是实际问题”的研究。这种动态实际上是什么样的?
这是一个合理的担忧,确实有些领域金钱绝对压倒一切。我是澳大利亚人。我不是在美国长大的,所以美国选举中的金钱规模对我来说相当令人震惊,但金钱能做到的事情是有限度的。
AI就是一个很好的例子。在这次选举中,投向候选人、信息传播、对手研究的资金数量简直令人难以置信。Twitter上有各种伪装草根的运动,还有一些非常奇怪的事情,试图让任何谈论AI治理、监管、安全这些词的人被赶下台或落选。结果发现这其实并没有很奏效。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。