
Anthropic明日启动IPO,作者发文批评其未履行责任
来源标题:Anthropic is not living up to its ideals
Anthropic将于明日进行首次公开募股,有文章批评该公司未能履行其应尽的社会责任。文章指出,Anthropic在淡化AI风险方面的作为多于阻止AI竞赛的努力。作者认为,若AI公司主动承担构建超级智能的责任,就更应全力改变当前的竞赛局面。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
So8res 2026年11月19日 5 分享 Anthropic明天就要进行首次公开募股了,所以今天似乎是个不错的时机,来聊聊Anthropic是如何彻底辜负其责任的。
AI公司的领导者们经常承认,超级智能机器有相当大的概率会毁灭人类。他们无论如何都要推进这件事的借口是:虽然他们无法阻止这列火车,但他们可以比竞争对手跑得更安全。¹
如果你认为自己能比竞争对手更安全地完成这项工作,那么建造一种威胁所有人生命的技术,在道德上是否正当?如果在这个过程中你还能赚到数十亿美元,道德等式会改变吗?在这种严峻的情况下,什么才是正确的做法,我没有一个自信的答案。但我确信这一点:如果你想把建造超级智能的责任扛在自己肩上,那么你就肩负着更大的责任,去竭尽所能改变现状。
Anthropic是否在竭尽所能阻止AI竞赛?我不这么认为。我认为他们在淡化危险方面所做的工作,远多于他们在阻止这场鲁莽竞赛方面所做的工作。
你可能会反驳说,Dario对自己的观点一直非常明确——AI可能很危险;他在博客上写这件事,有时也在新闻上谈论它。那我们就来看看他在新闻上是怎么谈的吧,好吗?
九月份Anderson Cooper问他:“你真的相信AI可能杀死全人类吗?”Dario把话题转到了坚称Jacob Coxon(最近刚辞职)主要不是在表达对Dario所在组织的担忧(Coxon几乎立刻就否认了这一说法)。Dario最接近回答Anderson问题的一句话,是声称“事情出错的概率”“并没有那么高”,这似乎与Dario在其他地方的言论背道而驰。
或者看看他同样在九月份与Jo Ling Kent的对话。当她问“好的,我们今天来谈谈这样一个担忧:AI真的可能在不久的将来杀死我们所有人。这实际发生的风险有多大?”他立刻把话题切换到谈论好处,只是抽象地承认如果技术以错误的方式建造,可能会有风险。
当Kent追问“你认为政府从根本上理解这里可能发生什么吗?”时,他转而谈论Coxon实际上并不是在批评Anthropic本身,然后又补充说“我们每天都在和政府沟通。[…] 我很乐观,如果我们继续与他们合作,我们可以让他们了解最新情况。”
这些采访发生在Coxon辞职之后。那一刻,主流媒体终于、终于注意到AI构成了真正的、名副其实的灭绝威胁。这些主流大媒体的记者是公众的代表,直截了当地要求澄清。而Dario基本上告诉他们:“没事的;我们搞定了;回去睡吧。”
想象一下,当Anderson Cooper问“你真的相信AI可能杀死全人类吗?”时,Dario这样回答:
是的。是的,我十年来一直在试图敲响警钟,我很欣慰人们终于开始听了。我认为如果我们驾驭得当,AI可以带来一些巨大的好处,但如果我们驾驭不当,它确实有风险杀死地球上的每一个人。我觉得我们有点被困在这场竞赛里了,我们Anthropic认为自己能比国内外的其他竞争对手更安全地做成这件事。但这是一场疯狂的竞赛,因为我们承担着令人难以置信的风险。我们承担的风险远远、远远超过NASA为载人航天飞机飞行所承担的风险,只不过我们赌上的不是七名志愿者,而是全人类。
想象一下,当Jo Ling Kent问“好的,我们今天来谈谈这样一个担忧:AI真的可能在不久的将来杀死我们所有人。这实际发生的风险有多大?”时,Dario这样回答:
风险太高了。我非常希望整场竞赛能在国际范围内慢下来,这样我们就能更谨慎地处理这个问题,以低得多的风险获得好处。但现在世界不是那样运转的,所以我认为Anthropic处于领先地位更好。我希望这次事件能成为信息终于被传达出去的时刻,让全世界都能注意到危险,并协调起来放慢脚步。
想象一下那些回答会对世界产生什么影响。现在回去再看一遍那些片段。把Dario的言论与上面的回答对比一下。我不会说他在撒谎;我认为他说的是他自己相信的话。但我确实认为他在含糊其辞。
美国公众正在笨拙地做出最初的尝试,想搞清楚AI到底是怎么回事,而Dario却在那边传递着“一切都好;你们不用太担心;我们已经控制住了”的信号。
我认为,一个加入AI竞赛的人做出这种回应,是不可接受的。
我知道很多人认为Dario在谈论危险方面其实做得相当不错。他把AI比作数据中心里一个国家的天才!他把它比作海啸!他呼吁对前沿技术进行“调速”!
我承认这些。但在我看来,这像是对AI研究人员的暗号——如果什么都不说他们会不满——而在其他场合则尽可能淡化危险。如果把他在国会的发言和他在播客上的发言对比一下,这一点就更清楚了。
以下是Dario在国会关于生存性风险的证词:
然而,长期风险的抽象和遥远性质使其难以从政策角度着手:我们的观点是,最好的方式可能是间接应对它们,通过处理那些更迫在眉睫、可作为演练的风险。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。