返回资讯中心
外部精选
软件工程
#开发者实时流

Zvi Mowshowitz 发文汇总本周 AI 三大事件

来源标题:AI #194: Spy versus Guy

Zvi Mowshowitz 在最新通讯中列出本周三个 AI 大事件:Claude Fable 5.2 发布、Jensen Huang 与中国间谍有染、以及 METR 关于 AI 研发加速的报告。他还提到 GPT-6 Astra 在安全研究任务上表现不佳,并将赴华盛顿参加 The Takeoff 会议。Claude Fable 5.2 的模型卡显示其各项数据提升,但部分方面尚不成熟,且易受某些类型错误影响。

Hacker News 最新7777777phil2026/11/12 · 5 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Zvi Mowshowitz 2026年11月12日 3 分享 明天我将前往华盛顿特区参加一个名为The Takeoff的会议。如果你也在那里,欢迎来打个招呼。我将做一个关于如何在有限时间预算下跟上AI发展的演讲。 本周有三大新闻:Claude Fable 5.2的发布、Jensen Huang与中国间谍的婚外情,以及METR关于AI研发加速的报告。 我们还了解到,GPT-6 Astra在安全研究任务上表现不佳。 简要谈谈Jensen Huang与中国间谍的婚外情。 语言模型并不提供日常实用价值。 Donald Trump仍然对AI护栏持开放态度。 Ellsberg对Kissinger的警告(重述)。 让一个比人类更聪明的智能体保持对齐是困难的。 请直接对着这个麦克风说话。 隆重推出世界上最强大的模型。 一如既往,我们先从模型卡开始。它基本上告诉了我们对于一个名为Claude Fable 5.2的模型会预期到的东西。它显然让各项数字都上升了。 有一些担忧。某些方面可以说是欠打磨的,而且Fable 5.2对某些类型的错误相对脆弱。它还必须与Claude Opus 5.5竞争,正如Elon Musk所说,后者是一件杰作。 因此,目前尚不清楚Fable 5.2是否是更优的日常主力模型。但似乎很清楚的是,对于最难、最复杂的任务,Fable 5.2是你的最佳选择。 我将在下周内给出完整报告,届时我们都有更多时间使用它。 我昨天已经报道了这起丑闻的第一阶段。 自那以后,我们又得知Jensen Huang还与Nvidia的一位高管有染。Nvidia董事会正准备罢免Jensen Huang,并正在寻找临时CEO。这将很棘手,因为Jensen Huang刻意让自己无法被解雇——他有超过50名直接下属,且没有继任计划。 预计未来几天会有后续报道。 针对METR关于AI研发加速速度的报告,许多人大幅更新了他们的AI时间线。完全递归自我改进和超级智能在一年内到来的可能性是真实存在的。Daniel Kokotajlo现在的基准情景是智能爆炸在2027年发生。Paul Christiano现在表示“未来6-12个月内存在AI接管的实质性风险”。 我计划很快全面探讨这个问题。我同意,我们在2027年越过不可逆转的临界点存在真实且重大的风险,我们的生活在2027年发生大规模颠覆也存在真实且重大的可能性。但我也认为人们更新得过头了。部分原因是此前更新不足的追赶,但并非全部如此。此外还需要更好地定义和区分所讨论的术语。 目前,在这方面最重要的事情是:不要犯这样的错误——把这些预测当作保证。要做好准备,2027年世界会以各种方式变得疯狂。但也要做好准备,到2029年时一切看起来基本正常。 提前警告:有些人会说,如果世界在2027年没有终结或发生根本性转变,那就意味着那些认为这有可能的人现在“信誉扫地”了。有些人甚至会借此试图永久性地否定所有关于AI安全的担忧或任何递归自我改进的预测。有些人甚至现在就在为此做铺垫,部分是为了吓退人们发出此类警告或认真对待它们。尽管这些人通常在AI能力方面一直判断错误,而那些担忧AI的人此前却准确得令人震惊。 不要上当。这在逻辑上是错误的,而且通常是极其不诚实的。当然应该损失一些信誉,但程度相当于Nate Silver在2016年如果Hillary Clinton获胜时会损失的信誉——当时他给了Donald Trump真实的机会,而其他人认为Clinton有99%的胜算。如果你给出一个校准良好且持续更新的概率分布,有一半的时候事件会比你的中位数更晚发生,而大多数时候事件会比你曾预测的最早中位数更晚发生。 通过照片以95%的准确率识别葡萄酒的年份和产地。这是“分辨出哪个是哪个”,而不是“从这张照片我能认出全世界所有葡萄酒中它是2023年的Nebbiolo”。 Eliezer Yudkowsky:当我意识到由于另一个Claude的编程错误,为其工作和工具准备的所有提示指令从未到达一个沙盒中的Sonnet;而我几个月后才注意到这一点,因为那个Sonnet正确猜出了自己的工作内容和工具API并继续运行了下去。 Google DeepMind正式证明了Signal的关键安全属性。 根据Di Huang和他的AI的说法,你仍然无法在几个月内做出AAA游戏。他们以Liz England的“门的问题”为例,指出你必须考虑关于门如何工作的几十个问题。好吧,当然,但AI解放了你去思考门的问题,而不是去实现你对所有问题的答案,这反过来让你能给出更好的(也就是更有趣的)答案。而人与人之间协调的“另一个门的问题”因人数减少而净改善。 我的预期是,是的,如果你将定制化的AI使用与一支配得上AAA水准的团队相结合,你将能够以前所未有的速度做出AAA品质的游戏。仍然存在需要迭代和获取反馈的某种限制因素,所以至少目前我预计即使团队发挥最优,也仍然需要大约六个月的时间。 据报道,Qwen在炒作(我之前没注意到)一个尚未完成训练的模型。这不太好看。 Logan Kilpatrick(Google DeepMind):这个模型具有前沿级别的网络能力,因此团队一直在努力确保它能安全地部署给网络防御者和广泛用户,所以感谢大家的耐心!请继续提供反馈,我们会继续发布!

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →