
GitHub与微软试点AI漏洞报告带修复方案
来源标题:Security reports should come with fixes
GitHub和微软在Codename MDASH试点中,将数千条AI原始发现筛选为99份经核查的私有报告,附修复建议并提交给六个广泛使用的开源项目。维护者已修复其中一半以上。该试点旨在减轻维护者被AI生成漏洞报告淹没的负担。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
在Codename MDASH试点项目中,GitHub和Microsoft将数千条原始AI发现转化为99份经过核查的私密报告,并附上针对六个广泛使用的开源项目的修复建议。维护者已修复其中一半以上。
10分钟 分享:
AI让发现潜在漏洞变得快速且低成本。但修复漏洞仍然需要人的判断,而在开源领域,这项工作落在维护者肩上。许多人已经被AI生成的安全发现淹没,其中包括重复报告以及根本不是漏洞的报告。再一份原始扫描结果对他们毫无帮助。任何将新模型指向某个项目的人,都应先征得维护者同意,并带着修复方案而来,而不只是发现。
维护者正承受着这波报告洪流的巨大压力。正如Log4j维护者Christian Grobmeier所说,防御开源的AI必须比攻击开源的AI更强。
AI不应增加维护者的工作量。因此,GitHub和Microsoft与维护者共同开展了一项试点:AI能否帮助维护者交付修复,而不是给他们更多发现?
GitHub和Microsoft正在使用Codename MDASH——Microsoft的多模型代理扫描框架——来发现并修复广泛使用的开源软件中的安全漏洞,从而加固全球大量代码所依赖的基础。
我们的试点有两个目标:只发送真正重要的发现,并且绝不向维护者发送未经核实的发现。具体做法如下:
报告和修复都留在GitHub上,也就是维护者原本工作的地方。
结果:Codename MDASH使用Microsoft的MAI Cyber模型,在六个项目中标记了数千个可能的问题。经过AI分类和七名Microsoft FORGE Lab研究人员的人工审核,维护者收到了99份私密报告。截至11月15日,他们已修复55个,其中14个修复已进入发布版本。
六个项目参与了试点,均为GitHub Secure Open Source Fund的校友项目。它们的维护者同意扫描,私下收到每一份报告,决定修复哪些,并分享了哪些做法有效:
这些经验来自六个项目修复的内容以及其维护者选择分享的内容。六个项目只是小样本,因此应将其视为早期经验。
修复才是维护者花时间的地方。因此每份报告送达时都已经过核查,并附有建议修复方案供审阅、调整和合并。维护者从一个范围明确的补丁开始,而不是一条原始发现。
首批修复在初始扫描后约一周内交付。Caddy的维护者在一周或更短时间内修复了收到的全部22份报告。维护者使用了建议的修复方案,有些照原样采用,有些做了修改。
AutoGPT的维护者最近刚发布了一项新检查,但它是坏的。报告三天后送达,并准确指出了正确的代码行。他们在建议补丁的基础上进一步改进,一天内写完,不到一周便投入生产。
发现漏洞不再是我们的瓶颈。修复才是困难的部分,而这取决于维护者。
维护者收到的是一份短清单,而不是洪水般的报告。Express维护者表示,这些报告穿透了噪音。Caddy维护者表示,它们发现了此前报告遗漏的隐蔽缺陷并填补了空白。对FastMCP而言,这次扫描超出了此前AI扫描器所能提供的范围。由两人团队维护的ImageMagick收到了22份报告。
AI负责发现,研究人员负责核查,维护者始终掌握决定权。
ImageMagick的一份报告看起来像是维护者以前见过的一类问题。其摘要显示并非如此,并指出了确切的代码行。他们得以在15分钟内推送修复。
“通常,一份安全公告平均需要大约30分钟到1小时来阅读、理解并制定修复方案。这是巨大的差别。”
“Codename MDASH能够以简洁的报告发现我们项目中未知的、隐蔽的安全缺陷,并填补了此前一些报告未被注意到的空白。”
试点之所以有效,是因为人们在每一步都做了细致的工作,而这种工作尚无法规模化。七名研究人员每个项目花费约两天时间人工核查发现。与此同时,低质量的报告每天仍在涌向维护者。
对于开源而言,修复需要通过私密漏洞报告(PVR)来传递。维护者需要在私有fork上运行CI/CD测试以验证这些修复。为了缩小防御者与攻击者之间的差距,维护者需要能够使用具备网络安全能力的模型,在修复前后验证概念验证。
“Codename MDASH扫描为我们项目的安全性提供了独特的洞察,超越了以往AI扫描器所能提供的范围。”
如果你是维护者,这种方法改变了一份安全报告给你带来的成本。一份经过核查、附有建议修复的私密报告会占用你更少的时间。你不应该去分类扫描器的输出。那是发送方的工作。
如果你使用AI来发现开源中的漏洞,维护者的反馈指向以下标准:
功能发布越来越容易,但未来维护软件可能归根结底取决于谁足够关心去管理安全。
“Codename MDASH对于穿透漏洞报告的噪音非常有用。”
这个系统中的每一个下游参与者都受益。当维护者在GitHub上发布安全公告,并经GitHub Advisory Database审核后,Dependabot可以提醒依赖该软件包的仓库。这就是GitHub Secure Open Source Fund背后的理念:迄今已有216个项目参与,300多名维护者修复了月下载量超过200亿次的软件中的4,000多个漏洞。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。