返回资讯中心
外部精选
软件工程
#开发者实时流

Doc-foundry 用多智能体把威胁转成经验证的检测规则

来源标题:Doc-foundry – AI writes Security detection rules, then proves they work

Doc-foundry 推出一套对抗式多智能体检测工程流程,可将 CVE、CISA KEV 条目或 ATT&CK 技术转化为经过验证的首版检测规则。它基于 LangGraph、Pydantic、FastMCP 和 Claude,红队固定使用两个真实攻击反复检验规则,并附上规则被逐步加固的完整记录。产出的是一个经过验证的基线,而非永久有效的覆盖承诺。

Hacker News 最新manish1212026/11/13 · 4 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

对抗式多智能体检测工程工作流 —— LangGraph · Pydantic · FastMCP · Claude

把一条威胁(一个 CVE、一条 CISA KEV 条目、一篇事件分析、一种 ATT&CK 技术)转化为一个经过验证的初版检测规则——它只是一个已被证明可行的起点,供检测团队进一步加固,而不是声称已实现永久无懈可击的覆盖——并附带三个一同交付的产物: 别人都产不出来的东西是第 3 个。模型可以给你写出一条 Sigma 规则;但它没法交给你一个证明,证明这条规则有效、一个可证明能绕过弱版本的对抗者,以及一份关于这条规则如何被逐步加固直到站得住脚的诚实记录。

一个有边界、固定的对抗者。Red 在第一轮就锁定两个真实且有据可查的攻击,之后每一轮都用同样这两个攻击去打加固后的规则——和固定测试语料一样,遵循“一次建好、不许移动球门”的原则。因此 real-coverage 的含义是具体而诚实的:初版规则能命中语料中的每一个攻击、对良性相似行为保持沉默,并且抓到了 Red 的两个真实攻击。它是一个经过验证的基线,而不是对未来所有规避手段都有效的承诺——扩展覆盖是检测团队的工作。

智能体负责提议,引擎负责证明。四个角色专业化的 LLM 智能体(Threat Analyst、Blue Detection Engineer、Telemetry、Red-Team Adversary)负责创造性工作。所有决定真值的东西——FP/FN 评估、对抗性规避、覆盖率裁决、红队验证以及部署门禁——都是一个确定性的裁判。相同输入 → 相同裁决 → 相同的可复现性哈希。

📄 先看真实输出: examples/joomla-icagenda-cve-2026-48939/review-history.md —— 一次针对 CISA KEV 条目的实跑,三个规则版本,八条评审发现。

pip install -r requirements.txt # 或仅用标准库直接运行 --evals

LIVE —— 任意威胁文本;由真实模型撰写(需要 GEMINI_API_KEY 或 ANTHROPIC_API_KEY)

python src/run.py "CVE-2026-45659 SharePoint deserialization RCE" python src/run.py "T1218.011 rundll32 remote scriptlet execution via mshtml"

CANNED —— 固定场景,完全离线,无需密钥(测试套件所用的方式)

python src/run.py --threat fixtures/certutil_t1105.json # brittle→repair→proven python src/run.py --corpus atomic # 正样本来自真实的 Atomic Red Team 命令 python src/run.py --max-rounds 3 # 自修复循环上限(默认 3) python src/run.py --evals # 确定性引擎 + 证明 + 工作流测试 python src/run.py --approve alice # 人工批准 → 门禁部署成功 python src/run.py --claude "..." # 强制由 claude-opus-4-8 撰写(ANTHROPIC_API_KEY) python src/run.py --gemini "..." # 强制由 Gemini 撰写(GEMINI_API_KEY)

没有默认场景——Foundry 接受你给它的威胁。直接跑 python src/run.py 没有可处理的对象,它会明确告诉你。

产物包写入 Outputs/<rule-slug>/(rule.yml、report.md、proof.json)。

上面的流水线问的是“这条规则能被证明是正确的吗?”,并给出一个确定性的裁决。Review Chain 问的是另一个问题——“每个利益相关方会怎么评价这条规则,在他们的反馈被应用之后它会变成什么样?”——并给出最终规则以及塑造它的完整轨迹。

ingest ─▶ extract ─▶ telemetry ─▶ profile ─▶ Blue:DRAFT v1 ─▶ RED TEAM 评审(发现:哪里可被规避 / 哪里有盲区) ─▶ Blue:REVISION v2(每处修改都引用它所回应的发现 id) ─▶ SOC LEAD 评审(发现:告警量、分诊、严重级别、调优) ─▶ Blue:FINAL v3 ─▶ package

python src/run.py --chain "CVE-2026-48939 Joomla iCagenda arbitrary file upload RCE" python -m uvicorn webui.server:app --port 8000 # → http://127.0.0.1:8000(chain UI)

→ /classic 查看上面的证明循环

Red 和 SOC 不是同一个评审人戴两顶帽子——它们的拉动力方向相反。针对规避做加固会放宽规则;放宽规则会推高告警量。按这个顺序把两者都跑一遍才是关键:最终规则是同时扛住两种压力的那一条,而轨迹清楚展示了每一轮各自付出了什么代价。

输出落在 Outputs/<rule-slug>/,包括 final-rule.yml、review-history.md(完整演进过程,已渲染)和 review.json。

→ examples/joomla-icagenda-cve-2026-48939/ —— 一次针对 CVE-2026-48939(Joomla iCagenda 上传转 RCE,CISA KEV)的真实运行,由 claude-opus-4-8 撰写。三个规则版本,八条发现,完整轨迹:review-history.md。

Blue 的初稿会在 Web 守护进程拉起一个执行侦察命令的 shell 时触发。两位评审人从相反方向把它拆了:

Red Team:“不行——我只要跳过侦察命令(或者用容器里的 busybox shell),这条规则就永远不会触发,哪怕 RCE 已经完成。” R1 强制要求 recon_intent,把基于进程谱系的检测变成了关键词检测 · R2 在 Alpine 上 /bin/sh 是 busybox,所以每个 shell 子句都会漏掉 · R3 字面量 contains 会被 shell 混淆干掉 · R4 setsid/双 fork 会把父进程重新挂到 PID 1 上,谱系检测失效

SOC Lead:“不行——它第一天就会在你自己的良性 cron 样例上触发;父进程作用域是坏的,它会把值班表埋进 www-data 的噪声里。” S1 OR 让 Web 服务器父进程变成了可选条件——任何 www-data 进程拉起 shell 都会触发 · S2 php-fpm→php 是正常的 Web 应用行为,不是 RCE · S3 告警只带一个字段,分析师得来回切控制台 · S4 在这种噪声水平下设成 level: high 会把 on-call 拖垮

Red 推着 Blue 放宽,SOC Lead 又推着它直接收窄回去。这种张力就是产品本身:针对规避做加固会推高告警量,而最终规则是同时扛住两种压力的那一条。SOC 最后评审,所以交付的规则是针对告警队列调优过的——v3 把父进程谱系设为强制条件,排除了已知正常的解释器链,扩展了分诊字段,降到 level: medium,并带上一份包含遏制阈值的三步响应手册。

经过评审,但未经过验证——产物本身也如实说明了这一点。这条链路不调用证明核心。它从不对遥测数据执行规则,不统计误报,也不给出覆盖率裁决。一条经过了四轮

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →