返回资讯中心
外部精选
软件工程
#开发者实时流

OVH 发布首个 LLM 系列 Olala,首款模型 Olala mini 7A1B

来源标题:OVH announces Olala mini 7A1B

OVH 于 11 月 17 日宣布推出其首个大语言模型系列 Olala,首款模型 Olala mini 7A1B 采用混合注意力新架构,仅需 8GB 显存即可运行。该模型总参数 7B、每层 256 个专家中仅 1B 活跃参数,在 RTX A4500 上达每秒 160 token,无 GPU 时也能以每秒 50 token 运行,上下文窗口 32,000 token。模型将以 Apache 2.0 许可在 Hugging Face 开源,官方发布会定于 11 月 19 日的 OVHcloud AI Summit。

Hacker News 最新jchoelt2026/11/17 · 今天11 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

鲁贝 – 2026年11月17日 – OVH [EURONEXT:OVH] 今日发布 Olala,这是其首个 LLM 系列。该系列的首个成员 Olala mini 7A1B 是一款基于全新架构打造的紧凑型模型。它证明欧洲企业能够从零开始进行创新并训练出 agentic LLM。其正式发布将于11月19日在 OVHcloud AI Summit 上举行,届时 OVH 将向客户详细展示其全部云与 AI 创新成果。

Olala:一款基于混合注意力机制打造的创新模型

Olala mini 基于 70 亿参数架构(7B),每层 256 个专家中共有 10 亿活跃参数,并采用融合 Differential-TPA 与 Mamba-3 的混合注意力机制,格式为 BF16。每次请求仅使用模型的一小部分,因此速度更快、内存占用更低。直接的结果是,该模型可在显存低至 8 GB 的 GPU 上运行,在 RTX A4500 上达到每秒 160 个 token,甚至无需 GPU,在标准处理器上也能达到每秒 50 个 token。其上下文窗口目前达到 32,000 个 token。Olala mini 将以开源形式在 Hugging Face 上发布,采用 Apache 2.0 许可证。

在欧洲公共支持下完成训练,并已在 Qwant 投入使用

Olala mini 在三台欧洲公共超级计算机 Jupiter、MeluXina 和 Jean Zay 上完成训练,这些机器配备了 GH200、A100 和 H100 GPU。这一支持相当于 700 万欧元的计算时长,起到了决定性作用,OVH 谨此感谢公共部门。这一公共倡议在不止一个层面上被证明是成功的:它汇聚了一支卓越的人工智能团队,并催生了 OVH 的 Agentic Lab——OVHai LLM。Olala mini 发布时将一并提供其权重、预训练基础模型、技术报告以及 AI Act 合规文档。Qwant 已将其用于其快速回答功能,并取得了显著收益:与先前使用的模型相比,回答速度提升 20%,运行成本降至三分之一。

迈向 v1.1,然后是 v2.0

预计于今年年底发布的 1.1 版本将把上下文窗口扩展至 128,000 个 token,并提升其在数学推理方面的表现。在 2.0 版本中,OVHai LLM 打算开发专注于三个领域的模型。首先是面向企业的 agentic AI:假以时日,Olala 将为 OVHai Workspace 提供支持,其加密版本将需要能够在本地、直接在工作站上运行的模型。其次是云 DevOps,推出面向开发者、架构师以及负责保障全天候服务连续性的运维团队量身定制的版本。最后是网络安全,涵盖防御与攻击两个方面。Olala v2.0 的参数量将超过 1000 亿。

OVHcloud 首席执行官 Octave Klaba 表示:“AI 对 OVH 具有战略意义。除了为客户提供 AI 服务外,我们还必须能够为自身内部需求以及客户的需求打造模型。我们不能仅仅依赖某些实验室在未来几年出于慷慨而将其 LLM 作为开源共享。模型训练方面的专有技术已变得广泛可及,训练成本在三年内降至二十分之一。如今,在创建 LLM 的同时让这项活动实现盈利已成为可能。”

OVHcloud 是一家全球性企业,也是欧洲领先的云服务提供商。25 年多来,集团将其技术专长服务于企业、开发者和公共机构,在云、人工智能、量子及下一代基础设施领域开发创新解决方案。OVHcloud 在全球拥有 46 个数据中心,为遍布 4 大洲、140 多个国家的 170 万客户提供服务。其独特的集成模式使其能够提供主权、可持续、高性能且透明的云,旨在应对可用性、韧性、安全、合规和成本控制方面的关键挑战。在技术日益塑造我们未来的世界中,OVHcloud 秉持一个坚定信念:创新必须保持开放、可控,并尽可能惠及更多人。通过让各类组织掌握掌控自身数据和技术选择的手段,OVHcloud 帮助他们创新、构建并自由部署明天的数字世界。

OVHcloud,为自由而创新。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →