
安全研究团队用AI代理逆向还原闭源软件代码
来源标题:When Everything Becomes Open-Source
一项联合研究尝试用AI代理将厂商发布的容器镜像、可执行文件和API等交付物逆向还原为可维护的源代码。研究选取了3个据称AI从未接触过源码的真实应用作为测试对象,每个应用考察不同能力。研究者指出,这些交付格式是有损的,原本无法还原为可维护源码。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
本文基于与资深安全研究员 Eran Segal 的联合研究。
我们生活在一个软件应用无处不在的世界里:浏览器、文本编辑器、手机应用等等。因此,微软和谷歌这类公司拥有数十亿美元的市场份额并不令人意外,而它们的一大资产就是其产品:软件与代码。这使得产品的源代码成为其最宝贵的资产。这些产品必须以容器镜像、可执行文件和 API 的形式交付给客户。这些格式是有损的,无法转换回可维护的源代码。这就引出了一个问题:利用厂商的文档,把这些资产转换回我们可以在 GitHub 上维护的源代码,究竟有多容易?
逆向工程是一个古老的概念。它是拆解成品的过程,通常聚焦于人类需要花费大量时间分析的特定领域。借助 AI agent,我们可以在小规模上非常快速地完成这件事(在 token 数量不受限制的情况下,上限只取决于想象力)。
为了验证真实世界的规模,我们挑选了 3 个示例,据我们所知,AI 从未在这些示例的源代码上训练过,也从未见过它们的源代码。每个应用都测试了不同的用例和挑战。
我们的研究表明,在给定原始软件二进制文件或安装包的情况下,AI agent 能够重建出一个可运行的应用副本。数据集包含了不同类型的应用;过程并不顺利,但结果表明这是可行的。在一个每月都有新的、更强大的 agent 发布、每一个都比上一个更强大的世界里,这些 agent 能够重建更复杂的应用只是时间问题。
本研究仅在隔离的实验环境中进行,完全出于安全研究和教育目的。我们不分享、分发或商业使用任何重建的源代码、二进制文件或其他材料。恶意软件样本仅进行了静态分析,从未执行。本文中的任何内容均不旨在鼓励违反许可证条款或适用法律来重建、修改或再分发第三方软件。Apple、Finder、macOS 和 Slack 是各自所有者的商标;Intezer 和 Kodem Security 与它们无关联,也未获得其赞助或认可。
他们过去常说,如果你能读懂汇编语言,任何软件都是开源的。但有了新的 AI 模型,你可能甚至不需要懂汇编。嗯,在某种程度上是这样。至少目前如此。
Slack 是一款非常著名的即时通讯应用,隶属于 Salesforce,后者于 2021 年以 277 亿美元收购了 Slack。我们的目标是证明我们能够重建整个 Slack 应用,包括客户端和服务器,从而最终得到一个完全可用的 Slack 环境,我们可以在实验室中运行和扩展它。Slack 服务器并未公开提供,因此与 Slack 客户端不同,我们没有任何服务器源代码,所以这两部分的重建方式完全不同。
我们将逐步介绍复现该应用所需的步骤。值得一提的是,在我们的实验室中,服务器和客户端(连同测试)的重建是并行进行的,而非这里所述的顺序进行。
Slack 应用使用 TypeScript 编写,基于 Electron 框架,并使用 React 框架,这两种技术都是世界各地广泛使用的高度通用的框架。Slack 客户端包含超过 500,000 个函数,其中大部分是第三方库,也有一些是由 Slack 服务器提供的。因此,我们可以将大部分初步检查工作交给这些工具。最初,我们使用 Asar 工具提取应用,得到了一个包含压缩过的 JavaScript 文件及相关产物的目录。这些代码仍然写在一行很长的行里,从中无法读取任何内容,即使对 LLM 来说也是如此。使用 webcrack 对代码进行反压缩,使其更具可读性后,我们修复了对齐方式,使其看起来如下所示。
一个函数名仅包含数字、带有 3 个参数的函数模式在整个文件集中重复出现。每个函数的内容都是一个不同的模块,因此通过按照该模式拆分巨大的文件,我们可以将庞大的 JavaScript 文件分离成真实的文件,类似于它们在 Slack 源代码中定义的方式,以保持架构。
在这个阶段,大部分代码根本不是 Slack 的代码,而是 Slack 使用的第三方库。因此,我们让 Claude 深入分析压缩后的代码,找出所有第三方库,有些很容易找到,因为它们原本就在 node_modules 目录中,但有些则隐藏在源代码本身之中。为此,我们编写了一个脚本来查找其他文件中 npm 模块的迹象,Claude 也手动查找了额外的线索。
这个阶段已准备好进行繁重的 AI 工作,将每个 JS 文件转换为类似源代码的形式。
从这里开始,我们有了代码,但它不可执行,所以我们需要做的就是下载所有第三方库,并使这段代码以与 Slack 完全相同的方式工作。
值得一提的是,Slack 客户端使用的许多代码是在运行时从 Slack 服务器拉取的,这将在 Slack 服务器的重建中涉及。
与 Slack 客户端不同,对于服务器的重建,我们没有服务器的二进制文件/JS。这意味着实现一个行为与原始 Slack 服务器完全相同的服务器非常困难,甚至不可能,但构建一个 Slack 兼容的服务器是非常可行的。
通过检查 Slack 客户端代码并静态检测所有 API,结合对真实 Slack 应用进行网络检查的能力以及 Slack 文档(如 Slack references),我们清楚地定义了需要实现的 API。
静态 URL 是从 Slack 服务器下载的,需要重写的资源则以与 Slack 客户端重建中描述的类似方式完成。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。