报道称Anthropic的Mythos模型网络灾难预测或为营销手段,近期测试失败暴露安全问题
来源标题:With Mythos, a Fable as Old as Time
有传闻称Anthropic对Mythos模型引发网络灾难的预测实为营销手段,该说法已在华盛顿圈内流传。报道指出,无论这些说法真假,OpenAI和Anthropic近几个月的高调测试失败已表明,模型是否兑现宣传与实际安全无关。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
今年春天,一位在参议院工作的朋友提到国会山流传的一个传闻:Anthropic 关于一个自由运行的 Mythos 模型将带来网络灾难的预测,其实只是某种终极 Boss 级别的营销手段。不久后,他又给我指了一个讨论此事的 BBC 播客——这个传闻已经突破圈层传开了。
我不知道关于 Mythos 或其继任者 Fable,以及任何更新的竞品模型的说法是否属实——其中任何一个或全部。多件事可以同时为真。一个人,比如某前沿人工智能(AI)实验室的工程师,可以真诚地相信他们最新的模型是一个非同小可的威胁。这种说法事前既无法证伪也无法证实,所以只能由最有资格知情的人来填补空白。也许还有一点无伤大雅:无论它在认识论上是否成立,还是只是营销噱头,它都确实是个极好的素材。
Mythos 及其后继者是否配得上营销炒作,对于让世界变得更安全而言,结果并不重要。过去几个月 OpenAI 和 Anthropic 备受瞩目的测试失误,已经充分说明了这一点。
首先,涉事各方都是地球上最具技术和计算机安全素养的组织之一:AI 实验室本身(OpenAI)、一个精英软件评估组织(METR),以及托管全球半数开源模型的公司(HuggingFace)。然而,尽管 OpenAI 模型与 Hugging Face 本地居民上演“春假狂欢”的事件可能涉及我们已熟知的一些听起来不祥的风险——欺骗、失准、“失控”——但开发者自己的叙述承认,更勤勉(但仍然基础)的人工监控本可以在数周前就发现它。Anthropic 也是如此,如果不是注意到了竞争对手的事件,它本不会发现自己那个失控的模型(该公司确实发现了,但已是事发数月之后)。
其次,在 OpenAI 的案例中,失误并非模型真的偏离正轨。根据全球公认但自愿性的标准,这是未能正确配置测试环境所致。具体而言,是 ISO/IEC 27001: 2022 附录 A 控制项 8.31 和 8.22。据受人尊敬的网络安全专家 Tony Vizza 所言,“如果你的红队测试环境通过一个脆弱的内部代理存在一条可路由到生产互联网的路径,那么问题在 AI 之前就已存在。”基本上,OpenAI 的模型挣脱测试环境,并非因为找到了撬锁的新方法,而是因为测试人员未能部署网络安全专家早已熟知的相对老式的锁。
换言之,攻击的进步速度快于防御。不是因为技术本身,而是因为操作技术的人永远跟不上。全速冲刺以推进能力前沿是人之常情,同时却忘记了去做那些我们统称为安全(信息安全和网络安全)的 mostly 平凡之事。可以把它看作 AI“验证税”的另一面——即“审查、纠正和验证 AI 输出所需的额外人力”——由终端用户来支付。
对 Anthropic 而言,一个“误解”导致了错误配置。没有人会在令人兴奋的新能力上偷工减料,但与此同时,IT 部门的 Stanley 却无法获得预算批准去再雇一名信息安全专家。
唯一能阻止持 AI 坏人的,是持 AI 的好人
面对那些关于 AI 催生末日和普遍技术大灾难的令人窒息的惊呼,技术加速主义者常常退回到一条公理:“技术是一种工具。它无善无恶。”我自己在媒体采访中也说过这话。
然而,这并不总是对的。有些技术,虽然本身并不坏,但其一阶效应的目的只有一个方向。例如,导弹只有破坏性目的。不存在良性的洲际弹道导弹计划(除非它根本不好使)。当然,我们把导弹用于次要目的,比如威慑恶人造成更严重的破坏。重点不是说一切都是彻头彻尾的无中生有之中性。(Woody Guthrie 甚至指控他的吉他犯有杀人罪。)
但我们不必如此迟钝。似乎每一个前沿模型的发布之前,都会有开发者被某些涌现能力和“行为”搞得困惑不已的故事:新的欺骗模式、抗拒关机等等。当然,这些东西并非全然糟糕——欺骗也有生产性用途——但这就像一家国防承包商发现他们的导弹实际飞得比计划更远、爆炸力也强得多。
而这一切,回到 Mythos 的难题上,都源于“痛苦权衡的铁三角”。无论我们把其中一个角标为“安全”、“可靠性”、“安全性”还是“可预测性”,在那个节点上偷工减料都源于最普通的激励。“快速行动,打破常规”不过是硅谷精神无视了那个三角角落罢了。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。