
Doc-foundry 用多智能体工作流生成并验证安全检测规则
来源标题:Doc-foundry – AI writes Security detection rules, then proves they work
Doc-foundry 推出基于 LangGraph、Pydantic、FastMCP 和 Claude 的对抗式多智能体检测工程流程:将 CVE、CISA KEV 条目或 ATT&CK 技术等威胁转化为经过验证的首版检测规则。其突出特点是能输出规则有效的证明、一个可规避弱版规则的真实攻击样本,以及规则如何被逐步加固的完整记录。红队仅固定使用两种有据可查的攻击反复测试,因此验证的是基线覆盖率,而非对所有未来规避手段的保证。
以下正文由 AI 翻译自 Hacker News(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
对抗式多智能体检测工程工作流 —— LangGraph · Pydantic · FastMCP · Claude
把一条威胁情报(一个 CVE、一条 CISA KEV 条目、一篇事件复盘、一项 ATT&CK 技术)转化为经过验证的第一版检测规则——这是一个已被证明可行的起点,检测团队可在此基础上进一步加固,而非宣称已实现一劳永逸、永远无懈可击的覆盖——并随附三份配套产物:
其他方案无法产出的是第 3 项。模型可以为你写出一条 Sigma 规则;但它无法交给你一份证明该规则有效的证据、一个能证明可绕过弱化版本且切实可行的攻击方,以及一份关于规则如何被逐步加固直至站得住脚的诚实记录。
一个有边界、固定的攻击方。Red 在第一轮就锁定两个真实且有据可查的攻击,并在之后每一轮用同样的这两个攻击去冲击加固后的规则——这与固定测试语料遵循同样的「一次构建、目标不可移动」纪律。因此,real-coverage 的含义具体而诚实:第一版规则能命中语料中的每一个攻击,对良性相似样本保持静默,并且捕获了 Red 的两个真实攻击。它是一个经过验证的基线,而不是对未来所有绕过手段都能覆盖的承诺——扩展覆盖是检测团队的职责。
智能体提出方案;引擎负责证明。四个角色专精的 LLM 智能体(Threat Analyst、Blue Detection Engineer、Telemetry、Red-Team Adversary)负责创造性工作。一切决定真值的东西——FP/FN 评估、对抗性绕过、覆盖率判定、红队验证以及部署门禁——都由一个确定性的裁判执行。相同输入 → 相同判定 → 相同可复现哈希。
📄 先看真实输出: examples/joomla-icagenda-cve-2026-48939/review-history.md —— 一次针对 CISA KEV 条目的实跑,三个规则版本,八条评审发现。
pip install -r requirements.txt # 或仅用标准库运行 --evals
LIVE —— 任意威胁文本;由真实模型撰写(需要 GEMINI_API_KEY 或 ANTHROPIC_API_KEY)
python src/run.py "CVE-2026-45659 SharePoint deserialization RCE" python src/run.py "T1218.011 rundll32 remote scriptlet execution via mshtml"
CANNED —— 固定场景,完全离线,无需密钥(测试套件所驱动的)
python src/run.py --threat fixtures/certutil_t1105.json # 脆弱→修复→证明 python src/run.py --corpus atomic # 正样本来自真实的 Atomic Red Team 命令 python src/run.py --max-rounds 3 # 自修复循环上限(默认 3) python src/run.py --evals # 确定性引擎 + 证明 + 工作流测试 python src/run.py --approve alice # 人工批准 → 门控部署成功 python src/run.py --claude "..." # 强制由 claude-opus-4-8 撰写(ANTHROPIC_API_KEY) python src/run.py --gemini "..." # 强制由 Gemini 撰写(GEMINI_API_KEY)
没有默认场景——Foundry 接受你给它的威胁。裸跑 python src/run.py 没有可处理的内容,并且会明确告知。
产物包写入 Outputs/<rule-slug>/(rule.yml、report.md、proof.json)。
上述流水线问的是「这条规则是否可证明正确?」并以确定性判定作答。Review Chain 问的是另一个问题——「每个利益相关方会怎么评价这条规则,在采纳他们的反馈后它又变成什么样?」——并给出最终规则以及塑造它的完整轨迹。
ingest ─▶ extract ─▶ telemetry ─▶ profile ─▶ Blue: DRAFT v1 ─▶ RED TEAM review(发现:哪里可被绕过/存在盲区) ─▶ Blue: REVISION v2(每处修改都引用其所回应的发现 id) ─▶ SOC LEAD review(发现:告警量、分诊、严重性、调优) ─▶ Blue: FINAL v3 ─▶ package
python src/run.py --chain "CVE-2026-48939 Joomla iCagenda arbitrary file upload RCE" python -m uvicorn webui.server:app --port 8000 # → http://127.0.0.1:8000(chain UI)
→ /classic 进入上述证明循环
Red 和 SOC 并非同一位评审戴两顶帽子——它们朝相反方向用力。针对绕过的加固会拓宽规则;拓宽会提高告警量。按此顺序先后运行两者,正是关键所在:最终规则是同时经受住这两种压力的那一条,而轨迹清楚显示每一轮付出的代价。
输出落在 Outputs/<rule-slug>/,包括 final-rule.yml、review-history.md(完整演进过程,已渲染)和 review.json。
→ examples/joomla-icagenda-cve-2026-48939/ —— 一次针对 CVE-2026-48939(Joomla iCagenda 上传到 RCE,CISA KEV)的实跑,由 claude-opus-4-8 撰写。三个规则版本,八条发现,完整轨迹:review-history.md。
Blue 的初稿会在 Web 守护进程拉起一个执行侦察命令的 shell 时触发。两位评审从相反方向把它拆解:
Red Team:「不行——我只要跳过侦察命令(或者用容器里的 busybox shell),这条规则就永远不会触发,尽管 RCE 已经完成。」 R1 强制要求的 recon_intent 把谱系检测变成了关键词检测 · R2 在 Alpine 上 /bin/sh 是 busybox,所有 shell 子句都落空 · R3 字面 contains 会被 shell 混淆击穿 · R4 setsid/双 fork 重新挂到 PID 1 下,谱系检测失效
SOC Lead:「不行——它第一天就会在你自己的良性 cron 示例上触发;父进程范围限定是坏的,会把值班人员的队列淹没在 www-data 噪音里。」 S1 那个 OR 让 Web 服务器父进程变成可选——任何 www-data 进程拉起 shell 都会触发 · S2 php-fpm→php 是正常 Web 应用行为,不是 RCE · S3 告警只带一个字段,分析师得来回切换控制台 · S4 在这种噪音水平下设 level: high 会让值班人员筋疲力尽
Red 推动 Blue 拓宽;SOC Lead 又把它推回去收窄。这种张力正是产品本身:针对绕过的加固会提高告警量,而最终规则是同时经受住两种压力的那一条。SOC 最后评审,因此交付的规则是针对队列调优过的——v3 将父进程谱系设为强制、排除了已知良性的解释器链、扩展了分诊字段、降为 level: medium,并附带一个三步响应手册和遏制阈值。
经过评审,但未经验证——产物本身如实说明了这一点。这条链不会调用证明核心。它从不对遥测执行规则,不统计误报,也不给出覆盖率判定。一条已经过四
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。