返回资讯中心
外部精选
软件工程
#开发者实时流

Phrack 杂志发布 noperator 文章《Word Machines for Weird Machines》

来源标题:Word Machines for Weird Machines

Phrack 在最新一期中刊登了 noperator 的文章《Word Machines for Weird Machines》。文章从作者 2024 年对 AI 漏洞研究的观察谈起,提到 Anthropic 曾用 AI 生成一份看似合理但实际错误的 Linux 内核漏洞根因分析,并对比 2026 年 chompie 借助 AI 在 Pwn2Own 上赢得 7 万美元。作者指出 AI 在漏洞发现上有价值,但业界对其用法和局限仍缺乏共识。

Hacker News 最新Alien1Being2026/11/18 · 今天30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

|=-----------------------------------------------------------------------=| |=----------------=[ 用于怪异机器的文字机器 ]=-----------------=| |=-----------------------------------------------------------------------=| |=--------------------------=[ noperator ]=------------------------------=| |=-----------------------------------------------------------------------=| |=-------------------=[ word-machines-1785306137.tgz ]=------------------=| --[ 0 - 引言 据说 Phrack 每一期都是黑客文化的一个快照,所以我应当先描绘一下撰写本文时我本人的第一人称视角。2024 年,Anthropic 声称“全自动漏洞研究正在改变网络安全的格局”,并作为佐证,给出了一份看似合理、实则有误的、由 AI 生成的 Linux 内核漏洞根因分析。当然,那时尚属早期。快进两年到 2026 年,chompie 使用同一家实验室的最新型号模型,在 Pwn2Own 上辅助拿下了一个价值 7 万美元的奖项。也许我们仍处于早期。用 AI 做漏洞发现显然有其价值,但关于如何使用它、它的局限在哪里,却远未达成共识。许多人对公开数据集上的任何评测都持怀疑态度,因为他们怀疑模型的训练数据可能已被答案污染;因此研究者常常自建私有评测,这就导致大家对那些模型在严格基准下究竟表现如何缺乏共同认知。AI 实验室对评测性能做出某些声称,但公开的细节却比许多人期望的要少。按照真正的 PoC || GTFO 风格,证据在于布丁本身:LLM 找到漏洞。即便如此,用 LLM 找漏洞到底要花多少钱,仍然相当不清楚。研究者很少报告漏洞发现的确切 token 成本,而 LLM 固有的非确定性意味着同一模型在多次运行中找到同一个漏洞可能耗时悬殊(甚至可能根本找不到!)。 作为一名动手实践的从业者,我对能加速我获得洞察时间的工具充满热情,但不愿采用一个在成本(时间/金钱)和质量(精确度/一致性)上极不稳定的工具。我也犹豫于完全依赖远程托管的闭源权重模型,它们可能被任意限制、加上护栏、涨价或降级。我希望清楚地了解运行特定模型的真实成本,并能够以可预测的方式有意义地参与模型的分析。对我来说,这比“Claude,请去找漏洞,不许犯错”要令人兴奋和有说服力得多。 还有一个我们尚未触及但值得讨论的因素:认知投降。“去找漏洞”这种方法在某种意义上简单而优雅——但代价是把研究者的心智模型完全外包给 AI。使用 harness(甚至自己构建一个!)的吸引力在于,作为从业者,你可以像自己处理问题那样,精心管理 LLM 的注意力。这样,我把 harness 视为漏洞发现问题的一种成文化的心智模型。 当然,“去找漏洞”和“harness 作为心智模型”并不互斥。你可以两者都做!但一个让我对研究过程有最大控制权,另一个则让我任由 AI 的任性摆布。我是有意写给那些仍然看重“永远屈服于动手实践的 imperative!”这句话的读者。 在本文中,我们将探索在大型代码库中使用 LLM 进行漏洞发现。我特意强调“大型”,因为我认为当前漏洞大爆发持续存在的最主要原因是,我们只是在用 AI 查看以前没人看过的攻击面。最近的 AI 辅助发现案例印证了这一点:cURL [1](“我认为这是无构建静态分析发现如此多问题的一个主要原因:它检查了大量几乎没有其他分析器调查过的代码。”)和 Samba [2](“我认为这个 bug 一直存在,是因为我们把它当作死代码,或者几乎等同死代码,从未看过它。”)。 这激发了我们的研究方向:尽可能高效地扩展注意力。我之前通过创建一个名为 Slice [3] 的工具来探索这个想法,用于在 Linux 内核中寻找 use-after-free。这个实验回答了几个悬而未决的问题:如何决定将哪些可能易受攻击的代码发送给 LLM?如何在扩大搜索范围的同时保持高信噪比并防止误报?如何现实地将当今的模型融入研究者的工作流? 我的方法是使用 SAST 工具(即 CodeQL)生成候选的 source/sink 对,然后通过调用 GPT-5 模型家族的成员进行分诊和分析,逐步缩小这些候选。这效果相当不错:CodeQL + Tree-sitter 生成了 217 个 UAF 候选,GPT-5 成功挑出了 CVE-2025-37778 [4],推理成本为 3.39 美元。这一里程碑让我兴奋,但它仍然明显需要某种程度可构建的代码、企业级 SAST 许可证,并依赖估计有数千亿到数万亿参数的远程闭源权重模型 [5]。这些依赖中哪些对漏洞发现过程实际上是必要的?我们能否仅用任何人都能使用的少数原始工具,就确立我们能达成之事的某种上界?这些问题将构成我们本文余下部分探索的基础。 可扩展性通常青睐简单性。在执行代码之前,我们能从代码中提取的理论最大信号是有限的,我想尽可能接近这个上限,然后再引入(可能构建并)运行二进制可执行文件的复杂性。像 CodeQL 这样的工具开始支持无构建分析,但我发现查询语言

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →