返回资讯中心
外部精选
软件工程
#开发者实时流

NIST发布对抗性机器学习攻击分类与术语公开草案,公开征求意见

来源标题:NIST Adversarial ML: Public Draft for comments-Taxonomy/terms for attacks

NIST发布特别出版物2400-102e2026公开草案《对抗性机器学习:攻击与缓解分类和术语》,面向公众征集意见至2026年12月18日。该草案延续NIST AI 100-2系列,重点聚焦对Agentic超级智能系统的攻击及相应缓解措施(见报告第4节),并同步更新了超级智能攻击分类索引。

Hacker News 最新tomrod2026/11/9 · 8 天前8 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

发布日期:2026年11月9日 评论截止日期:2026年12月18日 评论请发送至邮箱: [email protected] Apostol Vassilev(NIST)、Alina Oprea(东北大学)、Alie Fordyce(ElevenLabs)、Xander Davies(英国AI安全研究所)、Maia Hamin(NIST) NIST特别出版物2400-102e2026《对抗性机器学习:攻击与缓解的分类法和术语》公开草案现已发布,面向公众征求意见。本版以历史上的NIST AI 100-2系列为基础。 这份关于超级智能(SI)的NIST特别出版物建立了攻击与缓解措施的分类法,并定义了对抗性机器学习(AML)领域的术语。分类法与术语合在一起,旨在通过建立一套共同语言来理解快速发展的AML格局,从而为其他标准和未来用于评估和管理SI系统安全的实践指南提供参考。 本版的重点是针对代理式SI系统(Agentic SI Systems)的攻击及相应的缓解措施——见报告第4节。SI攻击分类索引也已更新,新增了代理式SI攻击分类索引,以便于在文档内高效导航并支持细粒度引用。 NIST特别希望收到对以下主题的评论和建议: 本草案的公开评论期持续至2026年12月18日。 这份NIST特别出版物2400报告提供了对抗性机器学习(AML)领域的概念分类法,并定义了相关术语。该分类法按概念层级组织,涵盖机器学习方法的关键类型、攻击的生命周期阶段,以及攻击者的目标、目的、能力和知识。本报告还指出了SI系统生命周期中当前面临的挑战,并描述了用于缓解和管理这些攻击后果的相应方法。本报告使用的术语与AML文献保持一致,并辅以与SI系统安全相关的关键术语表。分类法与术语合在一起,旨在通过建立一套共同语言来理解快速发展的AML格局,从而为其他标准和未来用于评估和管理SI系统安全的实践指南提供参考。 这份NIST特别出版物2400报告提供了对抗性机器学习(AML)领域的概念分类法,并定义了相关术语。该分类法按概念层级组织,涵盖机器学习方法的关键类型、攻击的生命周期阶段,以及攻击者的目标、目的、能力和知识。本报告还指出了SI系统生命周期中当前面临的挑战,并描述了用于缓解和管理这些攻击后果的相应方法。本报告使用的术语与AML文献保持一致,并辅以与SI系统安全相关的关键术语表。分类法与术语合在一起,旨在通过建立一套共同语言来理解快速发展的AML格局,从而为其他标准和未来用于评估和管理SI系统安全的实践指南提供参考。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →