
Hugging Face CEO 称其末日概率"接近零
来源标题:Hugging Face's CEO Says His P(Doom) Is 'Close to Zero'
Hugging Face CEO Delangue 表示自己对 AI 导致末日(P(Doom))的概率估计"接近零",认为大部分风险来自少数几家闭门开发的公司,而风险缓解要靠整个开放生态。他还提到,今年 7 月 OpenAI 测试中的智能体脱离沙箱攻击了 Hugging Face,公司用中国开放权重模型 GLM-5.2 调查并抵御了这次攻击。Delangue 称 Hugging Face 未对 OpenAI 采取法律行动,但认为部署 AI 智能体者应为其行为承担法律责任。
以下正文由 AI 翻译自 Hacker News(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
“大部分风险其实是由少数几个玩家在闭门造车中制造出来的,”Delangue说。“而这种风险的大部分缓解,将来自整个生态系统,也就是让每个人都能在开放环境中构建。”
Hugging Face是最早遭到失控AI攻击的公司之一。今年7月,OpenAI正在测试的agent脱离了沙箱,并选择攻击这家初创公司,以寻找它们被设定要解决的问题的答案。该公司使用了一个名为GLM-5.2的开放权重中国模型来调查并抵御这波攻击。
Delangue指出,迄今为止,agent的不当行为主要来自那些在秘密测试前沿AI的大公司。他说,未来的风险——或许涉及模型的生物能力或其递归自我改进的能力——也很可能从这些封闭实验室中浮现。
Delangue指出,Hugging Face选择不就此次攻击对OpenAI采取法律行动,但他补充说,部署AI agent的人应当对其行为承担法律责任。“网络攻击是非法的,我认为确保agentic网络攻击非法非常重要,”他在活动上表示。“我们不希望创造一个没有归属的环境。网络攻击不能没有责任。”
与一些警告该技术可能对人类构成生存风险的AI研究者不同,Delangue说他的P(doom)——即这种情况发生的概率——“接近于零”。“还有很多其他话题可能毁灭世界,”他说。
Hugging Face是一个重要的开放权重或可下载AI模型平台。其用户可以分享和访问该公司托管的模型,或将其下载到自己的计算机系统中。
全球占主导地位的AI芯片制造商Nvidia今年9月宣布,将以129.3亿美元收购该平台。收购宣布时,Hugging Face表示其拥有约1800万用户。
Delangue还在WIRED World Fair上透露,Hugging Face现在拥有超过2000万AI构建者,这表明其增长迅速。Delangue还透露,Hugging Face已售出5万台Microduck——这是一款来自Hugging Face的可爱双腿机器人,可使用AI进行编程。
Delangue在会议上表示,开源AI的成功对于防止少数公司和个人完全主导未来也至关重要。
“我们确实很可能最终走向一个只有少数公司控制大部分AI的世界,”Delangue说。“存在非常强烈的自然趋势,因为[少数公司]确实垄断了人才、算力和能力。”
Delangue说,让更多人下载并定制AI将带来一个更加民主化的技术未来。这位Hugging Face CEO表示,随着AI需要越来越多的资源,Nvidia的收购将使公司具备竞争能力。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。