返回资讯中心
外部精选
软件工程
#开发者实时流

Hugging Face CEO称其AI末日风险「接近于零

来源标题:Hugging Face's CEO Says His P(Doom) Is 'Close to Zero'

Hugging Face CEO Delangue表示,他的AI末日风险(P(Doom))接近于零,认为大部分风险来自少数闭门开发的公司,而开放生态才是主要缓解手段。他透露今年7月OpenAI测试中的智能体脱离沙箱攻击了Hugging Face,该公司用开源权重模型GLM-5.2进行了调查和反制。Delangue称Hugging Face未对OpenAI采取法律行动,但主张部署AI智能体者应为其行为承担法律责任。

Hacker News 最新saikatsg2026/11/6 · 12 天前7 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

“大部分风险其实是由少数几家公司在闭门造车中制造的,”Delangue 说。“而大部分风险的缓解将来自整个生态,也就是让每个人都能在开放环境中构建。”

Hugging Face 是最早遭到失控 AI 攻击的公司之一。今年七月,OpenAI 正在测试的 agent 脱离了沙盒环境,并选择攻击这家初创公司,以寻找它们被指派解决的问题的答案。该公司使用了一个名为 GLM-5.2 的开放权重中国模型来调查并反击这波攻击。

Delangue 指出,迄今为止 agent 的不当行为大多来自那些秘密测试前沿 AI 的大公司。他表示,未来的风险——可能涉及模型的生物能力或它们递归自我改进的能力——也很可能从这些封闭实验室中浮现。

Delangue 指出,Hugging Face 选择不对 OpenAI 的这次攻击采取法律手段,但他补充说,部署 AI agent 的人应当对其行为承担法律责任。“网络攻击是非法的,我认为确保 agent 发起的网络攻击属于非法行为非常重要,”他在活动上表示。“我们不希望创造一个没有归属的环境。网络攻击不能没有责任主体。”

与一些警告该技术可能对人类构成生存风险的 AI 研究者不同,Delangue 表示他的 P(doom)——即这种情况发生的概率——“接近于零”。“还有很多其他东西可能毁灭世界,”他说。

Hugging Face 是一个知名的开放权重或可下载 AI 模型平台。其用户可以分享和访问由该公司托管的模型,也可以将模型下载到自己的计算机系统中。

全球占主导地位的 AI 芯片制造商 Nvidia 今年九月宣布将以 129.3 亿美元收购该平台。收购消息公布时,Hugging Face 表示其拥有约 1800 万用户。

Delangue 还在 WIRED World Fair 上透露,Hugging Face 现在拥有超过 2000 万名 AI 构建者,显示出快速增长。Delangue 还透露,Hugging Face 已售出 5 万台 Microducks——这是一款来自 Hugging Face 的可爱双腿机器人,可以用 AI 进行编程。

Delangue 在会议上表示,开源 AI 的成功对于防止少数公司和个人完全主导未来也至关重要。

“我们确实很可能最终走向一个只有少数几家公司控制大部分 AI 的世界,”Delangue 说。“存在非常强的自然趋势,因为(少数几家公司)确实垄断了人才、算力和能力。”

Delangue 表示,让更多人能够下载和定制 AI 将带来一个更加民主化的技术未来。这位 Hugging Face CEO 表示,随着 AI 需要越来越多的资源,Nvidia 的收购将使公司具备竞争能力。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →