返回资讯中心
外部精选
软件工程
#开发者实时流

OVH 发布首个大模型系列 Olala,首款模型 Olala mini 7A1B 将于11月19日亮相

来源标题:OVH announces Olala mini 7A1B

法国云服务商 OVH 发布其首个大模型系列 Olala,首款模型 Olala mini 7A1B 为 7B 参数、每层 256 个专家中仅 1B 活跃参数的紧凑模型,采用 Differential-TPA 与 Mamba-3 混合注意力架构。该模型最低只需 8GB 显存即可运行,在 RTX A4500 上达到 160 tokens/秒,纯 CPU 上为 50 tokens/秒,上下文窗口 32,000 tokens。模型将以 Apache 2.0 许可在 Hugging Face 开源,并于 11 月 19 日 OVHcloud AI Summit 正式发布。

Hacker News 最新Nico27062026/11/17 · 今天11 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

鲁贝 – 2026年11月17日 – OVH [EURONEXT:OVH] 今日发布 Olala,这是其首个 LLM 系列。该系列的首个成员 Olala mini 7A1B 是一款基于全新架构打造的紧凑型模型。它表明欧洲企业能够从零开始进行创新并训练出 agentic LLM。其正式发布将于11月19日在 OVHcloud AI Summit 上举行,届时 OVH 将向其客户详细介绍其在云和 AI 领域的全部创新成果。

Olala:一款基于混合注意力机制的创新模型 Olala mini 基于一个70亿参数架构(7B),每层在256个专家之间分布着10亿活跃参数,并采用结合 Differential-TPA 与 Mamba-3 的混合注意力机制,以 BF16 格式运行。每次请求仅使用模型的一小部分,使其速度更快、内存占用更低。直接的成果是,该模型可在内存低至 8 GB 的 GPU 上运行,在 RTX A4500 上达到每秒160个 token,甚至无需 GPU,在标准处理器上也能达到每秒50个 token。其上下文窗口目前达到32,000个 token。Olala mini 将以开源形式在 Hugging Face 上发布,采用 Apache 2.0 许可证。

在欧洲公共支持下训练,并已在 Qwant 投入运行 Olala mini 在三台欧洲公共超级计算机 Jupiter、MeluXina 和 Jean Zay 上训练,这些机器配备了 GH200、A100 和 H100 GPU。这一支持相当于700万欧元的计算时长,起到了决定性作用,OVH 希望感谢公共主管部门。这一公共倡议在不止一个方面被证明是成功的:它汇聚了一支卓越的人工智能团队,并催生了 OVH 的 Agentic Lab——OVHai LLM。Olala mini 发布时将附带其权重、预训练基础模型、技术报告以及其 AI Act 合规文档。Qwant 已在其 flash answer 功能中采用该模型,并取得了显著收益:与之前使用的模型相比,回答速度提升20%,运行成本降至三分之一。

迈向 v1.1,然后是 v2.0 版本1.1预计将于今年年底推出,届时上下文窗口将扩展至128,000个 token,并提升其在数学推理方面的表现。在版本2.0中,OVHai LLM 打算开发专注于三个领域的模型。首先是面向企业的 agentic AI:随着时间的推移,Olala 将为 OVHai Workspace 提供支持,其加密版本将需要能够在本地、直接在工作站上运行的模型。其次是云 DevOps,提供面向开发者、架构师以及确保全天候服务连续性的运维团队量身定制的版本。最后是网络安全,涵盖防御和攻击两个方面。Olala v2.0 将超过1000亿参数。 OVHcloud 首席执行官 Octave Klaba 表示:“AI 对 OVH 具有战略意义。除了向客户提供 AI 服务外,我们还必须能够为自身内部需求以及客户的需求创建模型。我们不能在未来几年仅仅依赖某些实验室慷慨地将其 LLM 作为开源共享。模型训练方面的专有技术已变得广泛可及,训练成本在三年内降至二十分之一。如今已经可以在创建 LLM 的同时让这项活动实现盈利。” OVHcloud 是全球参与者,也是欧洲领先的云服务提供商。25年多来,集团将其技术专长服务于企业、开发者和公共组织,在云、人工智能、量子和下一代基础设施领域开发创新解决方案。OVHcloud 在全球拥有46个数据中心,为四大洲140多个国家的170万客户提供服务。其独特的集成模式使其能够提供主权、可持续、高性能且透明的云,旨在应对可用性、韧性、安全、合规和成本控制等关键挑战。在一个技术日益塑造我们未来的世界中,OVHcloud 坚信:创新必须保持开放、可控,并尽可能让更多人能够使用。通过赋予组织掌控其数据和其技术选择的手段,OVHcloud 帮助它们创新、构建并自由部署明天的数字世界。 OVHcloud,为自由而创新。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →