Cognition首席安全官Alex Stamos：AI助推黑客攻击，网络安全行业已跟不上节奏

今天，我和Cognition首席安全官、资深网络安全专家Alex Stamos聊聊网络安全眼下有多混乱。本期是探讨AI在现实应用中作用的特别系列的第一部分。我一直很喜欢和Alex交谈，因为他非常直接，你会听到他说，我们所熟知的那个价值数十亿美元的网络安全行业，本质上已经无力应对AI助推下无休止的黑客攻击、数据泄露和入侵浪潮——而这仅仅是AI改变安全格局的开始。

Verge订阅用户别忘了，你们可以在任何收听播客的平台独家获取无广告版Decoder。点这里。还不是订阅用户？可以在这里注册。

无论是私人行为者还是国家行为者，比如俄罗斯或朝鲜，都在借助AI同时检测和利用漏洞，闯入各地的系统。Alex指出，这给人一种真正的边疆开拓感，就像90年代人人都在谈论永远在线世界的那股新鲜劲。如此剧烈的冲击意味着坏人有很多可乘之机，而其他人只能手忙脚乱地应对。长期来看Alex并不是末日论者，但他确实认为，在我们努力摸索如何适应新时代的过程中，将经历一段“黑暗时代”。

这里面涉及的内容很多——我们甚至聊到了如何在社交网络上管理AI驱动的虚假信息和垃圾内容。开始之前，请订阅YouTube上的Decoder，我们每周一和周四发布新节目。

好，下面是Alex Stamos谈AI如何颠覆网络安全。我们开始吧。为长度和清晰度，本次采访经过轻微编辑。

Alex Stamos，你是Cognition的首席安全官，也是斯坦福大学网络政策中心的讲师。欢迎回到Decoder。

嘿，感谢邀请。

很高兴和你聊。距离我们上次交谈已经过去很久了，那大概可以称为互联网政策讨论的“内容审核时代”。我觉得我们当时聊了很多关于那套机制如何运作、选举安全之类的话题。现在我们进入了一个互联网大问题频发的新时代，尤其是网络防御和网络安全方面。你一直在深入思考这些问题。你把过去几周称为“安全意识月”。跟我说说发生了什么，给我讲讲现在的整体局势。

十月传统上是安全意识月。很多公司举办活动，对内对外都在告诉大家“改密码、用多个密码、用密码管理器”。过去一个月发生的是，我们遇到了几个大漏洞，PHP、Node之类的。讨论较少的是大量公司被入侵。一系列AI相关公司、新云服务商接连被攻破。有Binance被黑，那是人类历史上最大的盗窃案。还有Cursor事件，其中的情况之一是这些攻击正在被串联起来。据目前所知，被入侵的公司之一是为多家公司提供AI服务的知名供应商Fireworks。从Fireworks的黑客事件中，API密钥被盗，使得攻击者得以闯入Cursor。进入Cursor之后，他们推送了一个恶意插件，传播到另外5000家公司，造成了5000起潜在入侵。这就是整个科技行业正在发生的这种持续性入侵。我的一位CISO朋友对我们一群人说过：“还有别人也累了吗？”所有人都说累了，因为整个十月直到进入十一月，我们实际上一直处于DEFCON 2(最高戒备状态)。

我要问你几个很蠢的问题。这些攻击背后是谁？是俄罗斯吗？是朝鲜吗？我们知道吗？

是各种各样的组织。这不仅仅是因为对手主动决定这么做，而是从我的角度看，我们正处在AI赋能对手能力的起飞起点，开放权重模型现在已经到了可以自动化大部分杀伤链的程度。这个“杀伤链”术语是我们从军事领域借来的。在军事中，它指的是真正杀死某个目标。在网络安全中，杀伤链是指你对目标施加影响所做的那些步骤，比如窃取信息、关掉某个东西、偷钱、偷比特币。传统上，你提前做研究，查看某个软件，找到漏洞，编写利用程序，所有这些都在事前完成。然后你派人带着你构建的东西去部署，针对一个目标——也许你是政府，针对Lockheed Martin，或者针对另一个政府，或者你是勒索软件行为者——你把你做的所有工作拿去，非常快地部署到成百上千个目标上。现在有了AI，情况是这条杀伤链发生了反转，你可以运行一个AI系统，让它放开手脚去看目标、实时发现漏洞、实时编写利用程序，然后闯入这些公司。正在发生的一件事是，这些系统非常擅长找漏洞，以至于它们能实时发现漏洞并实时编写利用程序。

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）