
谷歌预测2027年AI代理将大规模影响企业安全防御
来源标题:5 ways AI will change how you defend your business in 2027
谷歌预计,具备代理能力的AI将在2027年大规模影响企业安全防御,因为AI的能力增长已快于传统安全运营中心的响应速度。安全专家指出,AI速度超过纯人工响应团队已成为新现实。这些AI代理需要独立身份,并应作为资产和网络安全风险进行管理。
以下正文由 AI 翻译自 ZDNet AI(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
安全负责人揭示了AI发展速度超越人类防御者所带来的未来后果。 阅读完整简介 2026年11月16日,美国东部时间下午1:58 NiPlot/ iStock / Getty Images Plus via Getty Images ZDNET核心观点 Google预计,2027年代理式AI将大规模影响安全领域。 安全专家表示,AI的能力超越纯人工响应团队已成为我们的新现实。 AI代理需要拥有身份,并且必须作为资产和网络安全风险进行管理。
今年年初,很少有组织在其网络安全工作流中使用大语言模型(LLM)和AI代理,包括用于发现和修补漏洞。据Google称,这种情况如今已大规模发生。 另见:失控AI事件达到“数万起”:企业还能信任这些工具吗? 代理式AI的能力正在迅速超越传统安全运营中心(SOC)的运营速度和规模。无论喜欢与否,AI在新现实中都扮演着不可或缺的角色——对防御者和威胁行为者皆是如此。 速度和规模是企业考虑在SOC及更广泛安全领域采用AI的主要原因,这些因素也构成了Google对2027年安全预测的基础——《云CISO展望》。然而,如果没有适当的预防措施,采用AI安全技术的企业可能会无意中扩大而非缩小其攻击面。 有鉴于此,以下是AI将在未来一年改变安全行业的五种方式,以及CISO在迈入2027年时需要考虑的事项。 告警疲劳在SOC团队中广为人知。一个接一个的告警需要逐一筛查;许多告警无关紧要或是误报,让技术人员忙于平凡、枯燥、耗时的分诊工作。 如今,自主的AI驱动威胁可以在几分钟内探测网络、获取入口并在其中横向移动,而追查来自多个系统、记录于数天或数周前的威胁数据和安全告警无法帮助企业缓解这些威胁——更不用说以威胁的速度来应对了。 根据Google的预测,AI将意味着告警队列悄然消失。Google Cloud Security工程副总裁Ramya Chitrakar认为,“2027年将是分析师停止追逐告警、开始塑造结果的一年。” 另见:AI既是网络武器也是巨大的攻击目标 如何实现?CISO必须改变告警模型本身。不再由人类防御者在网络安全事件发生时对告警进行分诊,而是让告警成为最终输出,由自主代理“自动处理数据丰富、关联和分诊,呈现经过验证的结论而非原始工单”,Google表示。 这意味着网络安全专家可以监督告警处理并验证自动化操作,从而可能腾出时间专注于其他任务。 自定义代理式AI通常被设计为——或至少意图——在人工监督下自主工作。然而,数千个独立代理在多个环境中运行,可能为企业网络创造高价值的入口点,成为网络攻击者的目标。 我们需要将代理式AI视为不仅仅是一种工具:每一个都需要像人类员工一样拥有自己的身份,以便在零信任架构内运行、保持控制并降低被入侵的风险。 另见:你的企业AI访问权限可能被以几分钱出售——当心“LLM混合器” 然而,Google安全工程副总裁Heather Adkins认为这需要更进一步,并建议零信任概念不应止步于网络层。相反,Adkins认为它需要延伸到交易层。 每个代理都需要建立审计追踪,这无法手动处理,而且即使在零信任框架内,AI代理也可能被赋予过大的权限范围。相反,应为每笔交易和每次授权实施验证,并为每个AI代理分配其自己的最小权限凭据集,在发生安全事件或代理不再需要时可以撤销。 “当由实时自主推理支撑时,我们可以在周二动态允许一笔交易,而在周三如果条件看起来异常则阻止完全相同的请求,”报告指出。 AI正被用于加速新软件的开发和部署,据Google称,2027年安全将不得不成为一个嵌入软件交付流水线的持续系统。 威胁行为者多年来一直在进行软件供应链攻击,其中最著名的是2020年的SolarWinds事件。Google威胁情报副总裁Sandra Joyce表示,网络犯罪分子如今正在毒化从开源代码到软件库的一切,而AI编码助手往往会自动将这些拉入代码库。 另见:AI安全故障如何危及你的供应链 需要数天才能响应的缺陷修复工单以及出现在软件开发周期末端的安全措施已不再有效。相反,编写代码和保障代码安全必须同时进行,借助代理式AI的帮助,使速度不会损害安全。 “同样至关重要的是,我们将实时生产环境直接关联回源代码,以便防御者能够将现实世界的暴露追溯到确切的代码行,验证其是否真正可被利用,并以机器速度交付经过预测试的修复而不中断生产,”Google补充道。 随着组织急于将AI融入其应用和服务以显得“AI优先”、创新和现代,安全可能被忽视或被视为事后考虑。 结果,我们可能面临比想象中更广泛的新攻击面,因为AI引入了新的安全问题,包括软件漏洞、错误配置、绕过和间接提示注入攻击。既然AI也掌握在所有网络攻击者手中——从脚本小子到国家支持的组织——审计企业网络和基础设施至关重要。 另见:谁负责抓捕失控的AI代理?你自己
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。