MIT媒体实验室联合多校发布ImpactBench，用AI营养标签衡量AI对人类福祉影响

探索 ImpactBench 下载图片 了解该项目 阅读学术论文 阅读新闻稿 观看 CNN 报道 营养标签告诉人们所吃食物里含有什么，然而，越来越多地塑造人们思考、决策和连接方式的 AI 系统，却没有类似的标签。 麻省理工学院媒体实验室 40 年来深耕技术与人类经验的交叉领域，并汇聚了 40 多个机构的 80 多位专家，“以 AI 促进人类发展”研究项目正在打造这样一项工具：为塑造我们未来的系统提供一张营养标签。在 AI 发展的关键节点，这些标签为人们提供清晰的信息，以便选择支持自身福祉的技术，也为决策者提供可据以行动的证据。 我们与麻省理工学院媒体实验室的“以 AI 促进人类发展”项目、南加州大学 Marshall Neely 中心、加州大学伯克利分校以及技术心理学研究所合作，欣然宣布推出“AI 对人类影响开放基准”（ImpactBench）——一个衡量 AI 对人类健康与福祉影响的开放研究框架，以及其面向消费者的工具“AI 营养标签”。 ImpactBench 不问 AI 能做什么，而是问 AI 对人做了什么：它如何塑造人的心理、自主性和福祉，而营养标签则将这类信息转化为所有人都已熟悉的格式。 Pat Pataranutaporn 博士介绍 AI 营养标签/ImpactBench ImpactBench 是一个持续演进、由专家引导的基准，目前通过 800 项指标和 26 项严格基准来评估前沿 AI 模型。这些数据点随后被提炼为一张 AI 营养标签——一个简单、一目了然的评级。标签揭示某一 AI 系统在避免伤害（如事实幻觉、谄媚和毒性）方面的得分，以及它如何主动促进有益行为（如用户自主性）。 营养标签告诉人们所吃食物里含有什么，然而，越来越多地塑造人们思考、决策和连接方式的 AI 系统，却没有类似的标签。麻省理工学院媒体实验室 40 年来深耕技术与人类经验的交叉领域，并汇聚了 40 多个机构的 80 多位专家，“以 AI 促进人类发展”研究项目正在打造这样一项工具：为塑造我们未来的系统提供一张营养标签。在 AI 发展的关键节点，这些标签为人们提供清晰的信息，以便选择支持自身福祉的技术，也为决策者提供可据以行动的证据。 每一项基准都始于临床医生、教育工作者、法律学者或社区倡导者的公开提交，随后经过多轮模拟，以揭示可能只在完整对话过程中、而非单次交流中才会出现的行为。 研究人员、领域专家和组织受邀使用该平台、提出新基准、验证现有基准，并帮助决定结果的呈现方式。请访问 impactbench.media.mit.edu 探索该基准并作出贡献。 当团队对流水线本身进行五项独立检查——测试结果是否会因生成测试场景的模型、扮演用户的模型或担任评判的模型不同而改变——他们发现排名在所有这些检查中都保持稳定。由此浮现出两种模式：所有受测模型在避免伤害方面的表现都优于主动促进人类繁荣，这一差距可能反映了迄今为止行业安全工作的重点所在。然而，支持用户自身的学习和自主性是各模型共同的弱项，“学习与技能发展”在所有类别中得分最低。这些是初步测试的早期信号，并非对任何系统安全性的最终判定。 这项工作背后的紧迫性并非假设。麻省理工学院团队及类似研究实验室此前关于聊天机器人心理影响的研究，被列为加州参议院第 243 号法案的关键灵感来源——该法案是最早直接监管陪伴型 AI 以保护儿童的州法律之一。随着越来越多政府着手监管 AI 对使用者的影响，团队认为独立、共享的证据对于制定正确的监管至关重要。 10 月 7 日发布的 ImpactBench 提供了 AI 模型在不同指标上得分的总体概览。 在 2026 年 10 月 8 日 CNN News Central 的直播片段中，主持人 Brianna Keilar 与麻省理工学院助理教授 Pat Pataranutaporn 进行了对话。 该项目名为 ImpactBench，是一个衡量 AI 对人类福祉影响的开放基准。 作者：Haas News 一支由麻省理工学院媒体实验室“以 AI 促进人类发展”（AHA）项目牵头的研究团队，与加州大学伯克利分校 Haas……合作