返回资讯中心
外部精选
软件工程
#开发者实时流

Google威胁情报团队:AI代理攻击活动已越过重要门槛

来源标题:GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold

Google Threat Intelligence Group(GTIG)与Mandiant指出,攻击者已从简单提示转向部署自主多代理攻击框架,AI对抗态势到达关键转折点。过去一个季度,攻击方使用ARTEX、CAIRN、CyberStrikeAI、PentAGI等框架以机器速度执行多阶段入侵,并利用大模型自动化漏洞挖掘与利用,压缩攻击时间线。

Hacker News 最新marcbarbosa2026/11/17 · 今天30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

在最重要威胁方面的可见性与背景信息。

作者:Aurora Blum、Kelli Vanderlee、Jess Xia、David Mainor

随着威胁行为者日益不再局限于基础提示词操作,转而部署自主多智能体框架、自动化漏洞利用流水线以及LLMJacking等替代性变现方案,对抗性AI格局已达到关键拐点。在本期更新中,Google Threat Intelligence Group(GTIG)与Mandiant审视了网络犯罪、间谍活动及信息行动领域的对手如何将生成式AI投入实战,以压缩攻击时间线、扩大行动规模,并以机器速度执行多阶段入侵。

上一季度的关键趋势包括:

转向自主工作流与多智能体框架:对手的战术手法持续从手动提示词操作转向部署自主多智能体攻击框架——如ARTEX、CAIRN、CyberStrikeAI和PentAGI——以更高的行动速度执行多阶段入侵。

自动化漏洞研究与利用:威胁行为者日益利用LLM和智能体框架,通过差分分析完全自动化补丁逆向工程,使其能够快速将n-day漏洞武器化,并在无需人工干预的情况下扩展针对面向互联网服务器的利用流水线。

变现与基础设施滥用:出于经济动机的威胁行为者继续通过LLMJacking获利,他们从被入侵的企业环境中窃取LLM凭证和云资源,并通过地下代理服务(如LLM Mixers)转售对高性能AI模型的访问权限。

信息行动(IO)中的LLM集成:国家支持的团体、商业性影响即服务(IaaS)供应商以及不真实的政治变现网络,如今已在其行动中常态化使用LLM,以大规模生产合成媒体、创建本地化人设并自动化跨平台分发。

定向间谍活动与供应链演进:网络间谍团体正利用LLM进行目标研究、自动化数据分析以及新型供应链攻击向量——例如操纵自主编码助手的配置,在本地执行期间植入后门。

本报告基于Mandiant一线事件响应工作、全球威胁行为者追踪以及实时平台防御的遥测数据,详细阐述了国家支持的间谍团体、出于经济动机的网络犯罪分子以及IO威胁行为者如何在真实环境中将LLM投入实战。

在Google,我们致力于大胆且负责任地开发AI。我们的多层次防御策略整合了主动的模型级防护措施、专业威胁情报以及定向遏制协议,以保护我们的客户和基础设施。我们持续加固模型以防滥用,通过主动瓦解恶意行为者的项目和账户来缓解恶意活动,并利用自主的Google AI Threat Defense架构和BeyondZero,在企业环境中实现安全运营、持续监控以及以机器速度响应。

虽然我们季度研究中记录的此前里程碑仅显示对手对智能体能力处于早期兴趣阶段,但GTIG和Mandiant现已观察到多个威胁行为者滥用开源智能体渗透测试(pentesting)框架,在实时入侵中自动化离散阶段和特定操作任务。

威胁行为者对这些框架的采用代表着向以机器速度发生入侵的范式转变,复杂攻击路径的自动化串联显著扩大了行动规模。尽管入侵的机制本身未变——例如使用被泄露的凭证和针对未修补系统——但框架利用这些已知弱点的速度和规模带来了新的防御挑战。

图1:多智能体LLM攻击框架

除了现已广受关注的渗透测试工具ARTEX之外,威胁行为者还在积极利用其他开源多智能体框架,如CAIRN、CyberStrikeAI和PentAGI。我们还观察到威胁行为者尝试使用自定义构建的框架。这些框架具有若干核心能力:发现并利用低复杂度漏洞、使用LLM按需生成一次性载荷,以及利用实时执行反馈动态调整战术。

GTIG已独立观察到开源工具CAIRN和PentAGI在真实环境中被部署使用,并观察到对CyberStrikeAI和HexStrike AI的尝试性使用。

CAIRN:一个开源多智能体渗透测试框架,实现了OODA(观察、定向、决策、行动)循环,其中专业化智能体通过共享的“黑板”协作,从初始参数(例如目标IP地址)自主导航至行动目标。GTIG观察到CAIRN被用于针对包括美国航空航天领域目标在内的入侵活动。

CyberStrikeAI:一个开源的LLM原生攻击框架,充当网络行动的“单一管理平台”。其核心架构由一个基于Go的后端API组成,充当C2和编排服务器,并将商业和开放权重LLM连接至100多种安全工具、YAML攻击配方和自定义脚本,以自动化端到端攻击链。

HexStrike AI:一个开源的攻击性模型上下文协议(MCP)集成框架,使LLM客户端能够直接连接至150多种预装攻击性安全工具。该框架通过双组件架构运行,将侦察、Web应用测试、利用和二进制分析领域的标准实用工具封装为可调用函数,由超过12个专业化自主子智能体协调。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →