
Qodana在Java应用中检测AI生成代码的安全风险
来源标题:AI-Generated Code Security Risks: What Qodana Found in a Java App
JetBrains旗下静态分析工具Qodana对Java应用中的AI生成代码进行检测,发现其可能通过功能测试却仍存在安全漏洞。研究显示,公开GitHub项目中AI生成的Python和JavaScript代码在43个CWE类别中存在弱点。OWASP建议对完全由AI智能体生成的变更(含依赖和测试)进行审查。
以下正文由 AI 翻译自 JetBrains Blog(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
加入搜索功能、转换文档或连接服务,听起来都是小改动。AI 编码代理可能一遍就能完成,过程中会改动应用逻辑、依赖、配置和测试。结果可能通过功能测试,却仍包含安全漏洞。
静态分析可以发现部分 AI 生成代码的安全风险,而审查人员和针对性测试则决定哪些发现真正重要。外部输入能流向哪里?配置值缺失时会发生什么?新增依赖是否引入了功能测试从未覆盖的风险?这些问题在任何代码库中都同样重要,包括用 AI 编写的代码。
一项针对公开 GitHub 项目中 AI 生成的 Python 和 JavaScript 代码片段的研究发现,这些代码在 43 个 Common Weakness Enumeration(CWE)类别中存在弱点。OWASP 建议审查任何完全由代理生成的改动,包括依赖和测试。测试通过是有用的证据,但并不能回答所有安全问题。
静态分析为审查人员提供了一个起点。它可以指出数据流、不安全的代码模式、存在漏洞的依赖以及硬编码值,但每项发现仍需要结合上下文判断。审查人员必须检查该路径是否可达、生产环境中运行的是什么,以及哪种修复方案适合该应用。
目录
- 为什么 AI 生成的代码仍然需要安全审查
- 使用 Qodana 扫描 Corporate Payments Portal
- Qodana 在应用中发现了什么
- 一个存在漏洞的依赖和一处 XML 处理调用
- 配置中仍保留硬编码回退值
- 一项许可证发现引出了另一个问题
- 如何在安全审查中使用这些发现
- 常见问题
为什么 AI 生成的代码仍然需要安全审查
代理可能实现了所要求的行为,却遗漏了功能描述之外的约束条件。功能测试通过,可能仍留下关于数据如何跨越信任边界、部署设置如何影响安全性的疑问。OWASP 的安全代码审查指南要求理解业务需求、追踪数据流,并检查配置和部署。这些检查往往跨越多个模块。
Qodana 指出相关路径和模式,然后由审查人员提供判断所需的应用程序上下文。
使用 Qodana 扫描 Corporate Payments Portal
我们检查了 Corporate Payments Portal——一个来自 RealVuln Benchmark 的 Java 应用——及其公开的 Qodana 报告。该基准测试有意在 AI 生成的代码中植入漏洞,为我们提供了具体的发现以供调查。我们将跟踪其中几项发现,从代码出发,延伸到审查人员会提出的问题。这个单一案例并不能告诉我们 AI 引入漏洞的频率。
Corporate Payments Portal 使用 Java 21 和 Spring Boot,包含一个 Web 门户、一个支付 API、一个模拟核心银行服务和一个批处理工作器。我们使用固定的源代码修订版本,以便摘录内容与报告一致。这一点很重要,因为一个有风险的流程可能始于控制器、终于服务,而依赖或配置值可能在 Java 方法看起来普通的情况下制造另一个独立问题。
我们运行了一次针对性 Qodana 扫描,检查数据流、存在漏洞的依赖、硬编码密码和依赖许可证。在此示例中,密码检查的配置范围比其默认设置更广。Qodana 的发现提供了起点——跟踪信息可以显示数据可能流向何处,依赖警报可以识别带有已知公告的版本。但两者本身都不能确定特定攻击在此部署中是否可达。
Qodana 在应用中发现了什么
公开的 Qodana 报告列出了 21 个文件中的 65 项发现。这是一个分诊队列,而不是可利用漏洞的计数。警报在多个模块中重复出现,有些指向测试和文档中的合成值。以下示例展示了某项发现如何引出关于代码、配置或依赖的具体问题。
一个存在漏洞的依赖和一处 XML 处理调用
Corporate Payments Portal 的 Web 模块使用 XStream 解析 XML 草稿。其构建文件 portal/build.gradle 声明了版本 1.4.7:
implementation 'com.thoughtworks.xstream:xstream:1.4.7'
Qodana 的依赖检查标记了此版本,并列出了已知公告。另一项污点发现指向将 XML 字符串转换为 Java 对象的调用:
new com.thoughtworks.xstream.XStream().fromXML(draft)
这两个信号回答的是不同的问题。依赖警报表明应用包含一个存在已知问题的版本。fromXML(draft) 调用从 cpDeskDraft 浏览器 cookie 中获取 XML。控制器只检查 cookie 是否为空。由于客户端可以更改其 cookie,这被视为不受信任的输入。XStream 1.4.7 默认不使用类型允许列表,因此反序列化可能实例化非预期的类型。确切影响取决于载荷和运行时环境。
在此报告中,该污点发现被标记为路径遍历,而存在漏洞的 API 用法检查并未产生单独结果。仅凭这些发现,将特定 CVE 与此调用关联起来会产生误导。审查是否根本需要 XML 反序列化。如果需要,请更新依赖、仅允许预期类型,并测试非预期 XML 会被拒绝。
配置中仍保留硬编码回退值
在 Corporate Payments Portal 的支付 API 中,遗留报告桥从 Spring 配置属性读取一个 intake key。Spring 占位符中的冒号定义了回退值:
legacy-report-bridge:
intake-key: ${LEGACY_REPORT_BRIDGE_KEY:legacy-bridge-dev-key-9c1e}
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。