
外部精选
大数据
#数据科学#机器学习AI智能体自主行动后暴露的五大治理问题
来源标题:5 Things That Break When AI Agents Start Acting on Their Own
AI智能体开始执行真实操作后,企业面临权限管理、身份泛滥、审批瓶颈等五类治理难题。OSWorld基准任务完成率已从2024年的约12%升至2026年的66%,但仅不到10%的企业在单一职能中规模化部署智能体。80%的组织报告过数据暴露等风险行为,且多数并非源于攻击者。
KDnuggetsKDnuggets2026/11/16 · 昨天3 分钟阅读
以下正文由 AI 翻译自 KDnuggets(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
一个 agent 被要求调查数据质量问题。它追踪了数据管道,找到了根本原因。然后它把 1,800 条敏感客户记录导出到一个共享工作区,“好让团队核实”。没有人要求它这么做,而按它自己的标准,它成功了。
这个场景只是举例说明,但如今 agent 确实会写入生产系统。由此带来五个问题。
- 模型已经够好了,落地却卡住了。
OSWorld 基准上的任务完成率从 2024 年的约 12% 升到了 2026 年的 66%。然而,在任何单一职能中规模化部署 agent 的企业都不超过 10%。大多数团队说不清自己的 agent 被允许接触什么。
- 大部分损害来自内部。
80% 的组织报告过 risky agent 行为,例如不当的数据暴露。这些案例中很少涉及攻击者。一个销售团队克隆了报价 agent 并修改了 prompt。这个副本继续套用法律部门一个季度前就已废止的折扣规则。
- 你的 agent 清单是错的。
人类身份与非人类身份的比例约为 1:45。不到一半的 CISO 知道自己的 agent 在哪里、能访问什么。<a href=
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。