返回资讯中心
外部精选
软件工程
#开发者实时流

Cisco发布面向Agentic AI安全评估的开放规范Foundry

来源标题:An open specification for agentic AI security evaluation and testing, from Cisco

Cisco先进安全倡议组发布开放规范Foundry,为Agentic AI安全评估与测试提供组织中立的系统设计蓝图。该规范源自其内部多轮迭代和部署经验的提炼,包含八种核心Agent角色、五种扩展角色、发现生命周期及约130项功能需求。用户需自备前沿LLM和评估目标,参照该规范在自有技术栈上自行实现。

Hacker News 最新jamilbk2026/11/11 · 6 天前25 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Cisco 的 agentic AI 安全评估开放规范。

Cisco 的 Advanced Security Initiatives Group 在内部构建并运营了一套 agentic 安全评估系统,历经多轮迭代和多种部署模型,过程中积累了一长串“事后证明很重要”的设计决策,以及一份更长的“事后证明不重要”的清单。

Foundry 将这些经验提炼为一份单一且与组织无关的规范。它是在那些迭代中始终被证明最为有效的设计。它不是我们的代码。它是一套可行系统的形态,我们把学到的每一条经验都写成了需求,而每一个取决于你自身基础设施的正确答案,都留作了明确的开放问题。

你提供前沿 LLM 和一个待评估目标。Foundry 给你架构、不变量和护栏。你在自己的技术栈上、按照这份规范作为蓝图,构建自己的实现。

文件 用途 spec.md 种子规范。八个核心 agent 角色、五个扩展角色、发现生命周期、协调基座、治理与安全需求,以及约 130 条功能需求,每条都附带行内理由说明其为何存在。在所有组织特定的决策点上刻意保持欠指定;这些点标记为 [NEEDS CLARIFICATION: ...],由你来解决。 constitution.md 十一条不可侵犯的原则,任何实现无论技术栈如何都必须遵守。每一条都编码了一个我们在生产环境中交付、诊断并修复过的故障。这些原则约束了从规范派生出的每一个计划和任务。 GLOSSARY.md Foundry 术语的独立词汇表,镜像自 spec.md §2。供只想了解词汇的读者使用。 本 README 如何将种子变成你自己的系统。

这个仓库里没有代码,这是有意为之。规范本身就是交付物。

Foundry 的 Detector 角色(§5.4)运行在一个由 LLM 评估的检测规则语料库上。我们使用的规则格式是 CodeGuard,Cisco 在 Foundry 存在之前很久就已将其开源,并捐赠给了 Coalition for Secure AI(CoSAI),现由 OASIS 开放项目维护。Foundry 没有发明 CodeGuard;Foundry 的设计目标是消费它,并回馈一样静态规则语料库无法为自己做到的东西:从运营经验中成长。

这份贡献就是 Foundry 设计核心的“检测到预防”飞轮:

而且,由于 CodeGuard 规则是可移植的,同一份语料库可以加载到 LLM 编码助手中作为其安全编码规则集:你上一次评估教会语料库检测的缺陷类别,现在在每一次开发者编辑器中、在每一次评估运行之前,就在击键之间被预防了。每转动一圈循环,都会改善这里的检测,以及各处的预防。

CodeGuard 独立存在,且早于这项工作;你可以用不同的规则格式运行 Foundry。Foundry 增加的是将规则语料库从“被维护的工件”转变为“自我改进的工件”的机制。

我们的内部系统与 Cisco 的基础设施紧密耦合:我们的云服务商、我们的问题跟踪器、我们的 LLM 网关、我们的部署平台、我们的严重性分类法。开源那些代码,给你的将是一个只能在一个环境中运行的东西:我们的环境。

可迁移的是设计:你需要哪些 agent 角色以及为什么,每个角色必须保证什么,发现如何从检测流向发布,一次评估的“完成”意味着什么,质量门放在哪里,以及哪些捷径会在六个月后伤害你。这个设计是与基础设施无关的,而这正是本仓库所包含的内容。

这份规范是为被 spec-kit(或任何规范驱动的开发工作流)消费而写的:你通过一个澄清步骤,针对你的环境解决那些开放问题,另一头出来的就是你的规范,用于你的实现,在你的技术栈上。

安全团队,能够访问前沿 LLM、有需要评估的软件,并且面对这样一个问题:“我们如何把这个模型变成一个能产出可信发现的系统?”

平台和工具团队,正在构建内部安全评估能力,希望从一个经过验证的形态起步,而不是一张白纸。

研究 AI 辅助漏洞发现的研究者,想要一个基于生产运营而非基准测试的参考架构。

这不是一个开箱即用的扫描器。如果你想要今天就能 pip install 并指向一个仓库的东西,那不是这个。如果你想构建一个三年后你的组织仍在运行的东西,这就是蓝图。

前提条件 一个支持 spec-kit 工作流的编码 agent(Claude Code 或兼容)。 一个将承载你实现的仓库。 对一些问题的粗略答案:用哪个 LLM 提供商、哪个问题跟踪器、哪个数据存储、在哪里运行。你不需要最终确定这些;澄清步骤会引导你完成。

第 0 步:阅读 constitution 打开 constitution.md 并从头到尾读一遍。它很短。每条原则都有一段“为什么这不可侵犯”的说明,描述激发它的生产故障。如果某条原则在你的情况下看起来是错的,答案更可能是“我们还没撞上那个故障”,而不是“那个故障在这里不可能发生”。

按照你的编码 agent 的 spec-kit 安装说明操作。结束时,你的项目根目录下应该有一个 .specify/ 目录,并且你的 agent 中可以使用 /speckit.* 命令。

cp path/to/foundry/constitution.md your-project/.specify/memory/constitution.md

然后运行 /speckit.constitution,并表明你正在采用一份已有的 constitution。agent 会将其注册为后续步骤所要对照检查的权威。

mkdir -p your-project/specs/001-foundry cp path/to/foundry/spec.md your-project/specs/001-foundry/spec.md

第 4 步:澄清 /speckit.clarify

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →