AI安全是AI规模化应用“加速器”

第一，把AI安全纳入国家AI基础能力建设。AI安全不应只是应用上线后的合规环节，而应与算法、算力、数据、资本、应用、人才等要素并列，成为驱动人工智能发展的基础要素。

第二，推动安全能力内生化。过去很多安全能力是在系统建成后外挂，智能体时代仅靠外围防护已经不够。安全要与模型设计、智能体架构和业务流程同步建设，形成安全原生模型、安全原生智能体、安全原生平台和安全原生应用。

第三，重点攻关智能体安全关键技术，优先发展身份认证、最小权限控制、工具调用安全、记忆安全、多智能体协同安全、行为审计和自动化红队测试。核心是回答三个问题：智能体是谁，被允许做什么，做错后能否及时发现并停止。

第四，把AI安全培育成新的产业增长点，推动安全数据、安全工具、模型评测、运行时防护、智能体治理、审计认证和安全服务协同发展，让安全投入既支撑风险治理，也形成新的产业价值。

第五，建设AI安全公共基础设施。高质量安全数据集、漏洞与事件数据库、行业安全基准、红队攻防平台、风险监测预警体系等具有明显公共属性，需要政府、企业、高校和第三方机构共同参与，降低重复投入，形成统一风险语言。

AI规模化应用还需要建立市场经济逻辑，商业保险值得重点探索。很多新技术、新产品从导入期走向规模应用，都离不开保险对剩余风险的分担。对于数据泄露、系统中断、智能体误操作和第三方财产损失等低频高损风险，保险可以降低企业“不敢用”的顾虑。

更重要的是，保险能够把抽象的安全风险转化为可量化、可定价的风险。如果企业具备严格的权限控制、上线前安全评测、持续运行监测、人工复核和紧急熔断、完整日志与责任追溯，其保费就应更低、保障范围可以更广。这样，安全能力便从原则要求转化为可计算的经济收益。

保险还可以把一次性经济补偿升级为持续安全服务，推动形成“安全评测—风险分级—保险定价—持续监测—理赔复盘”的闭环，并在承保和理赔过程中沉淀事故发生率、损失分布和控制措施有效性等数据，反过来促进技术、标准和监管迭代。

当然，AI保险仍面临责任链条不清、历史数据不足、风险动态变化、系统性风险集中以及损失因果难以证明等问题。因此，需要从静态保单转向动态保险，从单纯赔偿转向“保险+安全服务”，并探索产业链协同承保。安全技术决定风险能不能防，法律治理决定责任由谁承担，商业保险决定剩余风险能不能承受，三者缺一不可。

AI能力越大，能够进入的领域越关键，获得的权限越高，安全失效的代价也越大。可信度正在成为AI规模化应用能否突破的关键瓶颈。

因此，AI安全不是AI发展的“刹车片”，而是AI从试点应用走向规模化应用、关键领域应用和高质量发展的“加速器”。让安全能力与AI能力同步演进，形成技术、治理、产业和市场机制协同的安全体系，有助于加快把AI的技术潜力转化为产业价值和社会价值。

中国电信集团科技委主任，中粮集团外部董事，中国电信集团原总经理。教授级高级工程师，哈尔滨工业大学工学硕士和经济学硕士，南开大学管理学博士。兼任国家数据局专家委员、中国互联网协会专咨委常务副主任。