返回资讯中心
外部精选
软件工程
#开发者实时流

如何在需通过合规审计的组织中落地AI

来源标题:Adopting AI inside an organization that has to pass a compliance audit

SOC 2 Type II、ISO 27001、GDPR和欧盟AI法案都不会阻止组织使用AI,它们对AI系统提出的要求与其他系统相同,共七项。真正的挑战在于模型在数据流中的位置、员工误用消费级工具的风险,以及供应商和监管的快速变化。

Hacker News 最新zimmergren2026/11/17 · 今天30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

在需要通过合规审计的组织内部采用AI:在SOC 2 Type II、ISO 27001、GDPR和欧盟AI法案下采用AI——所有框架都会问到的关于AI系统的七个问题、如何针对这些问题进行工程设计,以及组织中每个团队需要做什么。

那些接受SOC 2审计、持有ISO 27001认证,或为欧盟客户处理个人数据的组织,一旦团队想要使用AI,都会遇到同一个问题:我们可以用吗?如果可以,我们怎样才能在不导致下次审计失败、也不需要写数据泄露通知的情况下使用它?

我的回答是可以。这些框架没有一个阻止组织使用AI。它们对AI系统提出的要求,与对任何其他系统提出的要求是同样的七个问题:

SOC 2、ISO 27001、GDPR和欧盟AI法案对这几个问题各有自己的术语,我在《框架要求什么》一文中逐一说明了每个框架在哪里写下了这些要求。

AI带来的新问题在于:模型在数据流中的位置、一位好心的同事通过消费级工具发送机密数据有多么容易,以及供应商和监管法规变化的速度有多快。

这篇文章讲的是:当AI被纳入合规范围时,我如何围绕这些框架进行思考和工程设计,以及我认为对四类团队最重要的是什么:在工作中使用AI的同事、用AI构建产品的工程师、运营团队,以及承载整体合规图景的业务方。

我不是律师。在我描述某项规定的地方,我会链接原始文本,并说明我是如何理解的。

大约从2018年起,我进一步走上领导岗位,安全中的合规这一面也随之而来。自那时起,我在SOC 2 Type II、ISO 27001和GDPR上投入了大量精力,如今欧盟AI法案也加入了同一份清单。我是从这样一侧来写作的:构建并运行产品,然后必须出示证据。

近年来,尤其是随着生成式AI带来的AI使用量指数级增长,合规审计要求更稳健的控制措施,以及关于组织内部如何使用AI的报告。我曾与审计师一起参与完成这些审计,同时也致力于加强组织的合规态势和理解,以确保审计流程顺利进行。对我来说,AI首次被纳入审计范围是在过去1-2年里,而且这种情况在不断增加。以前它可能只是个加分项,但现在,大多数框架和审计师都期望你能够回答相关问题并出示证据。

过去几年,我在《建立你的组织合规就绪状态》一文中写过就绪这一面,在《为Azure拥抱安全的软件开发生命周期(SDLC)》一文中写过工程这一面。两篇文章仍然成立,但都没有提到AI。

我也会在真实代码库上运行编码智能体,这在我关于智能体AI工程的系列文章中有所记述。我在本文中借用的该系列观点是:指令只是一个请求,除非有某种东西能够拒绝它——我在《为什么指令对编码智能体来说不够》一文中论证了这一点。审计师对待没有证据支撑的政策,也是同样的态度。

让这一切变得紧迫的事件,写在《AI安全工程》中:相同的失败,但有了新的攻击方式,我在这里不再重复。

所以,在审视一些常见框架时,把每一个都剥离到它对AI系统提出的要求,这对我很有帮助。从小处开始,然后再扩展,或者用我们在微软时常说的话——“少即是多”。

SOC 2 Type II。我把信任服务标准(Trust Services Criteria)理解为适用于AI系统的方式,与适用于任何其他系统的方式相同。它们要求我评估风险(CC3)、控制逻辑访问(CC6)、管理变更(CC8)和管理供应商(CC9.2),并证明这些控制在审计期间持续运行。对于AI系统,这意味着模型提供商就是供应商,提示词变更就是变更,智能体就是一条逻辑访问路径。然后,审计师会要求查看每一项控制在他们从审计期间选定的日期上运行的情况。

ISO/IEC 27001:2022。ISO/IEC 27001:2022的结构类似,其控制项列在附录A中:

AI系统与其他任何资产一样,进入资产清单、风险处理计划和适用性声明。ISO/IEC 42001:2023是单独的AI管理体系标准,面向希望获得AI专项认证的组织。按照我的理解,它遵循与ISO 27001相同的管理体系结构,并增加了AI系统影响评估和AI系统生命周期控制。

我看到如今AI领域的许多组织开始突出展示其ISO 42001合规认证,这对我来说是另一个信号:值得密切关注。

GDPR。当AI被纳入范围时,我在GDPR上花了大量时间,因为一旦模型进入数据流,以下这些部分就需要新的答案:

欧盟AI法案。AI法案基于风险分级,按照我的理解,大多数工作场所的AI使用都不属于高风险层级。第5条直接禁止了少数几类做法,例如社会评分和在工作场所推断情绪,该条自2025年2月2日起适用。除禁令之外,有三个部分几乎适用于所有人:

下面的时间线上还有两个日期。对通用目的AI模型提供商的要求自2025年8月2日起适用,按照我的理解,这些义务归属于提供模型的公司,而不归属于仅使用模型的组织。内置于医疗器械等受监管产品中的高风险AI,随后于2028年8月2日适用。第99条规定了罚款:违反第50条透明度义务或第26条部署者义务的,最高罚款1500万欧元或全球年营业额的3%;实施被禁止做法的,最高罚款3500万欧元或7%。

欧盟AI法案的日期以2026年11月的状态为准。这是我的法律解读,不构成法律建议。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →