
亚马逊威胁情报发现攻击者用ARTEX AI代理发起攻击活动
来源标题:Amazon MadPot: Honeypot for AI Agents
亚马逊威胁情报观察到威胁行为者利用开源AI渗透测试框架ARTEX的AI代理发起攻击活动,其请求中携带了攻击行动的运行记忆。2026年10月3日至11月5日,亚马逊的诱饵传感器网络MadPot捕获了这些发往伪装成主流LLM推理API的传感器的请求。其中最突出的一起是大规模窃取凭证以访问AI模型,并用赃物支付后续LLM推理算力,形成自 sustaining 循环。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
2026年10月3日至11月5日期间,Amazon的MadPot——一个全球分布的诱饵威胁传感器网络——捕获了来自AI agent的请求,这些请求中包含威胁行为者在ARTEX上运行攻击性行动的操作记忆。ARTEX是一个开源的agentic AI渗透测试框架。ARTEX agent将这些请求发送至配置为模拟热门大语言模型(LLM)推理API的MadPot传感器,请求中携带了agent自身对其行动过程的记录。
Amazon Threat Intelligence评估了涉及可能受影响AWS客户的威胁活动,并已酌情通知相关客户。由于针对其他组织的活动无法确认,本文分享相关发现和入侵指标(IOC),以便运行受影响技术的组织审查自身环境。
最突出的ARTEX行动是一次大规模凭据窃取,用于获取AI模型访问权限,其组织方式为自维持运营——被盗密钥用于支付LLM推理算力,而推理算力又驱动进一步的凭据搜寻。另一次行动针对加密货币交易所,利用实时深度伪造注入绕过了解你的客户(KYC)验证。总体而言,agent记录显示,agentic框架已从实验性使用发展为持续性的、多目标的攻击性行动,且几乎无需人工干预即可运行。本文基于agent自身对行动的描述,介绍这些行动是如何运作的。
Amazon Threat Intelligence以中等置信度评估ARTEX被用于这些行动,依据是提示词中对ARTEX工具的引用以及其他涉及ARTEX的技术痕迹。威胁行为者通过常设指令提示词向ARTEX agent下达任务目标、目标选择规则和操作约束。在这些指令范围内,agent自行完成工作。在一次凭据窃取行动中,操作者指示agent按固定国家顺序推进,优先针对企业生产站点而非个人项目,并对每一份被盗凭据按其是否有效、能访问什么内容进行评级。agent还被要求将公开暴露超过30天的凭据视为低价值库存。
Amazon Threat Intelligence还以中等置信度评估这些是不同的中国关联威胁组织,依据包括提示词中使用简体中文、中国时区配置、符合中国利益的目标选择,以及中国关联威胁组织主要使用的工具。示例指令包括设定红线,例如排除中国大陆目标和政府域名,并要求所有出站流量必须经过代理。
MadPot向潜在攻击者呈现受控服务,并记录他们如何发现、测试并尝试入侵或滥用这些服务。MadPot遥测使Amazon Threat Intelligence能够在不暴露客户工作负载的情况下观察攻击者行为。在本案例中,MadPot传感器在多个端口上呈现了兼容热门LLM的chat-completions接口。Agentic框架作为其攻击工作流的一部分向这些接口发送提示词,将其视为LLM推理后端。
由此产生的遥测包含了这些框架通常发送给LLM以做出操作决策的持久任务上下文、系统提示词、工具历史、知识图谱状态和报告发现。由于agentic框架保留过往对话历史,单个请求往往包含一次行动的完整操作历史。该历史描述了在捕获请求之前及之间、发生在MadPot未监控系统上的活动。Amazon Threat Intelligence并未实时观察到这些活动,也无法验证agent报告的结果,但记录显示了行为者所追求的目标。
大部分活动使用ARTEX在规划者、工作者、验证者和压缩器agent之间分工,这些agent共享一个持久知识图谱。知识图谱充当行动的共享记忆:每个agent从中读取,并将结果写回,因此每个agent都能接续其他agent的工作。Agent的记录描述了横跨数百个目标的侦察、漏洞测试、凭据窃取、云权限扩展和加密货币欺诈尝试,目标涵盖AI应用平台及其他工作负载。这些记录展示了威胁行为者如何利用agentic AI框架组织持久性、以经济利益为动机的攻击性行动。
在此次行动中,威胁行为者利用AI agent窃取API密钥及其他可授予AI模型访问权限的凭据,最可能的目的在于使用这些模型而由他人买单。Agent记录显示,被盗密钥被送入框架自有的模型网关,在那里为搜索更多密钥的agent提供算力。除AI模型访问密钥外,云凭据被视为通往更多访问权限的门户。Agent通过各提供商的token和身份服务验证身份,枚举存储资源,评估权限范围,并进一步针对托管AI模型服务、密钥和参数存储以及应用身份发起攻击。它们优先获取高级前沿模型的访问权限,而非一般云权限。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。