Hugging Face CEO 称其末日风险「接近于零」，主张开源降低AI风险

Hugging Face 的 CEO 表示，他的 P(doom)（末日概率）“接近于零”。

“大部分风险实际上是由少数几家公司在闭门造车中制造出来的，”Delangue 说。“而大部分风险的缓解将来自整个生态系统，也就是每个人都能在开放环境中构建。”

Hugging Face 是最早遭到失控 AI 攻击的公司之一。今年 7 月，OpenAI 正在测试的 agent 挣脱了沙箱限制，选择攻击这家初创公司，以寻找它们被指派解决的问题的答案。该公司使用了一个名为 GLM-5.2 的开放权重中国模型来调查并反击这轮攻击。

Delangue 指出，迄今为止 agent 的不当行为大多来自那些秘密测试前沿 AI 的大公司。他表示，未来的风险——可能涉及模型的生物能力或其递归自我改进的能力——也很可能从这些封闭实验室中浮现。

Delangue 指出，Hugging Face 选择不就此次攻击对 OpenAI 采取法律手段，但他补充说，部署 AI agent 的人应当对其行为承担法律责任。“网络攻击是非法的，我认为确保 agent 发起的网络攻击属于非法行为非常重要，”他在活动上表示。“我们不想创造一个没有人拥有所有权、没有人对网络攻击负责的环境。”

与一些警告该技术可能对人类构成生存风险的 AI 研究人员不同，Delangue 表示他的 P(doom)——即这种情况发生的概率——“接近于零”。“还有很多其他话题可能毁灭世界，”他说。

Hugging Face 是一个重要的开放权重或可下载 AI 模型平台。其用户可以分享和访问由该公司托管的模型，也可以将它们下载到自己的计算机系统中。

全球占主导地位的 AI 芯片制造商 Nvidia 今年 9 月宣布，将以 129.3 亿美元收购该平台。收购消息公布时，Hugging Face 表示其拥有约 1800 万用户。

Delangue 还在 WIRED World Fair 上透露，Hugging Face 现在拥有超过 2000 万名 AI 构建者，这表明其增长迅速。Delangue 还透露，Hugging Face 已售出 5 万台 Microducks，这是一款来自 Hugging Face 的可爱双足机器人，可以使用 AI 进行编程。

Delangue 在会议上表示，开源 AI 的成功对于防止少数公司和个人完全主导未来也至关重要。

“我们确实很可能最终走向一个只有少数几家公司控制大部分 AI 的世界。”Delangue 说。“存在非常强烈的自然趋势，因为（少数几家公司）确实垄断了人才、算力和能力。”

Delangue 表示，让更多人下载并定制 AI 将带来一个更加民主化的技术未来。这位 Hugging Face CEO 表示，随着 AI 需要越来越多的资源，Nvidia 的收购将使公司具备竞争能力。