
AI Agent 加速软件开发,软件治理规则面临调整
来源标题:How AI agents are changing the rules of software governance
AI 编程 Agent 已能跨代码库修改、运行测试并执行多步开发任务,其行动速度超过组织的理解和治理能力。企业正面临合规、数据隐私、安全与模型可靠性等压力,董事会要求制定政策,监管机构也在搭建框架。核心挑战是在不拖慢开发节奏的前提下,把治理要求转化为可执行的控制措施。
以下正文由 AI 翻译自 InfoWorld(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
围绕 AI 治理的讨论早已展开。过去几年,各组织一直在加速 AI 在软件开发中的采用。如今它们面临另一个问题:AI 系统的行动速度,可能快过负责它的组织理解和治理其行为的速度。 组织在考虑合规、数据隐私、安全和模型可靠性,同时董事会要求制定政策,监管机构也在制定框架。现在的挑战在于,如何把这些新近落地的抓手转化为切实可行的控制措施,既能跟上当今 AI 驱动软件开发的速度,又不会造成瓶颈。 AI 大幅降低了生成代码的门槛。助手可以建议单个函数,而能力越来越强的编码 agent 可以跨代码库工作、运行测试、做出修改并执行多步骤开发任务。 对软件开发组织而言,现在的目标是在开发工作流中规模化地使用 AI,同时确保最终对软件负责的人仍然能够理解、验证并为这些系统产出的结果负责。
AI 正在改变开发者工作流
传统上,AI 助手在相对清晰的边界内运作,比如编码助手推荐某些函数或补全一段代码。而 agent 的运作方式完全不同。它们不是响应单条提示,而是可以执行多步骤工作流。它们可以访问工具、检索数据、编写代码、触发操作,并代表用户协调任务。 对工程团队来说,AI 越来越多地在开发者环境中采取行动,这是他们工作方式中最深刻的变化。当开发者接受 AI 生成的代码建议时,责任归属看似简单明了。开发者审查输出,在代码进入生产环境之前发现任何错误。 然而,当 AI agent 不仅生成代码,还测试代码、部署代码、发起 pull request、修改多个文件或与其他系统交互时,治理就变得模糊了。 决策与行动之间的距离大大缩短,这同时意味着人类要保留足够的介入能力来理解和监控每一步,变得困难得多。 随着 agent 承担更多执行工作,开发者的角色也在改变。开发者仍然需要理解自己所负责的代码、架构和系统,但他们越来越多地需要决定:委派哪些工作、agent 需要什么上下文,以及如何验证结果。 这是开发工作流的根本性变化。开发者可以委派任务,但不委派对结果的责任。 对工程负责人来说,挑战在于建立可跨团队落地的工作流,同时又不需要开发者逐一检查 agent 的每一个具体动作。
治理必须从政策走向工程实践
大多数组织已经有管理软件安全、访问和合规的政策。但仅靠政策无法治理跨代码库、工具和开发环境运作的 AI agent。随着 agent 承担更复杂的工作,挑战在于确保这些政策转化为在开发工作流内部运作的控制措施。 这意味着要明确 agent 可以访问什么、可以执行哪些操作、其工作如何被记录,以及哪里需要人工审批。这些控制需要内建到开发发生的环境中,而不是在 agent 完成工作之后才施加。 目标不是用额外的合规要求拖慢开发者,而是创造一个环境,让团队能够放心地把更多工作委派给 agent,同时不失去可见性、质量或控制权。
建立审计轨迹
首先要考虑的控制措施是可追溯性。开发者必须了解 AI 为代码库贡献了什么。这意味着要跟踪 AI 生成的更改并使其可审计,以便团队仍然能够阅读、审查和理解输出。 例如,如果 agent 跨多个文件做出更改并运行测试,开发团队应当能够准确识别采取了哪些操作——包括更改了什么、收到了哪些指令、运行了哪些测试。 如果生产环境出了问题,这项控制措施能让团队掌握所需的信息,理解 AI 究竟如何参与其中,以及事情为何发生。
保持人类问责
开发者最终要对进入生产环境的软件负责,一旦出问题后果重大——无论其中一部分是否由 AI 助手或 agent 生成。如果系统发生故障,客户不在乎代码是谁(或什么)写的。责任最终落在组织及其工程团队身上。 然而,目标不应当是对 AI 执行的每一个具体操作都安排人工介入。相反,组织需要明确界定哪里需要人类判断。例如,可以允许 AI 自动生成代码并运行测试,而对生产基础设施或其他关键系统的更改则必须经过明确的人工审查和批准。 但重要的是,这些边界要由组织事先界定。开发者监督的程度应当权衡具体操作的风险,以及在整个开发工作流中推广该流程的需要。
界定 AI 的参数
开发组织还需要明确界定 AI 编码工具和 agent 可以访问什么,以及它们可以执行哪些操作、哪些操作应当被禁止。一个能够修改应用代码的 AI 工具,不一定需要访问生产基础设施。一个能够运行测试的编码 agent,不一定需要有权更改部署配置。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。