
NVIDIA与Microsoft扩大合作,将加速计算从Azure扩展至Windows PC
来源标题:NVIDIA and Microsoft Expand Accelerated Computing From Azure to Windows PCs
NVIDIA与Microsoft在Ignite大会上宣布扩大全栈合作,把加速计算从Azure云端延伸到工业系统和Windows PC。Azure数据中心已部署NVIDIA Vera Rubin NVL72系统,同时通过Microsoft Foundry提供NVIDIA开放模型及定制能力。Microsoft还将用NVIDIA Dynamo推理软件和RTX PRO 6000 Blackwell GPU加速Bing搜索等自有模型与服务。
以下正文由 AI 翻译自 NVIDIA Blog(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
NVIDIA 与 Microsoft 正在扩展其全栈合作,帮助组织构建、定制和部署智能应用——从 Azure 上的下一代基础设施,到工业系统和 Windows PC。
在 Microsoft Ignite 大会上,两家公司扩大了由 NVIDIA Vera Rubin NVL72 系统驱动的 Azure 虚拟机访问范围,同时通过 Microsoft Foundry 向客户提供 NVIDIA 开放模型和定制能力,并新增了在边缘运行 AI 的选项——边缘正是企业生成和使用数据的地方。
Microsoft 也在使用 NVIDIA 技术加速其自身模型和服务,包括用于后训练的 NVIDIA Dynamo 推理软件,以及用于 Bing 搜索模型的 NVIDIA RTX PRO 6000 Blackwell GPU。
NVIDIA Vera Rubin NVL72 在 Azure 中运行
NVIDIA Vera Rubin NVL72 系统已在 Azure 数据中心运行,提供专为高要求推理、代理式应用以及大规模模型训练和推理而设计的基础设施。
Microsoft 与 NVIDIA 还在合作将机密计算扩展到裸金属和机架级 AI 基础设施。这项工作将有助于在敏感模型和数据处理过程中对其进行保护,支持那些需要处理专有或受监管信息的组织。
NVIDIA 机密计算与远程证明可帮助客户在释放敏感模型、数据或密钥之前验证计算环境。随着 AI 工作负载跨越越来越多相互连接的加速器,两家公司正努力将这些保护措施扩展到整个 AI 工厂基础设施。
为帮助数据中心从现有电力中获得更高性能,NVIDIA 与 Microsoft 还在利用 NVIDIA MaxLPS 合作提升能效。
Azure 的 Vera Rubin 预览版建立在 NVIDIA 与 Microsoft 的协同设计和性能优化基础之上,最新的基于 NVIDIA Blackwell 的 MLPerf 结果也印证了这一点。在 MLPerf Training v6.1 中,Azure 使用 GB200 NVL72 系统在 DeepSeek-V3 模型上将规模扩展至 10,240 块 NVIDIA GPU,为本轮最大规模。根据 Signal65 的数据,在 MLPerf Inference v6.1 中,Azure 的 NVIDIA GB300 NVL72 系统在 DeepSeek-R1 交互式吞吐量上以超过 10% 的优势领跑云厂商提交结果。
帮助企业定制和部署开放模型
企业 AI 代理需要推理复杂任务、查找相关公司信息并理解业务文档。NVIDIA 与 Microsoft 正在扩展通过 Microsoft Foundry 提供的模型和服务,帮助开发者将这些能力引入业务应用。
Microsoft 的无服务器 Programmed Training 产品让开发者能够控制后训练工作流,而由 Foundry 管理底层基础设施。企业可以专注于自己的业务数据,评估模型响应并改善模型行为。
Foundry Managed Compute 新增了对部署自定义模型权重的支持,帮助通过 Microsoft 的托管服务将模型定制与部署连接起来。
EY 在 Microsoft Foundry 中使用 Programmed Training,对 NVIDIA Nemotron 开放模型进行调整,用于对企业采购记录进行分类,使其评估数据集上的准确率提升了 55%,与专有前沿模型相比成本降低了 15 倍。这项工作展示了企业如何针对专门的业务任务定制开放模型。
Foundry Managed Compute 上扩展后的 NVIDIA Nemotron 3.5 系列支持企业应用的不同需求。Nemotron 3.5 Super 专为跨编程、研究和业务工作流长时间运行的代理而设计,而 Lightning 则支持需要快速响应和工具使用的应用。
配套模型通过 Nemotron Embed 和 Rerank 帮助代理查找相关信息,通过 Nemotron Parse 从文档中提取结构化信息,并通过 Nemotron Content Safety 检测有害内容。专为高吞吐、低延迟推理设计的 Nemotron 3.5 Bolt 以及用于语音识别的 Transcribe 即将推出。
让 AI 更贴近企业数据
NVIDIA 与 Microsoft 正在将部署选项扩展到云之外,帮助组织在更靠近数据的地方运行模型和代理,同时保持对其基础设施和运营的控制。
Foundry Local 中对 Nemotron 3.5 的支持扩展,将推理、编程和工具使用代理能力带入 Azure Local 环境。检索模型可帮助应用在文本、文档图像、图表和表格中查找证据。
Azure Local 还将支持来自硬件合作伙伴的 NVIDIA RTX PRO 6000 Blackwell GPU,为组织在本地部署 AI 提供更多选择。
Azure Local 正在扩展到 NVIDIA Jetson Thor 和 Jetson Orin 边缘 AI 平台,以支持机器视觉、机器人和自主运营等工业应用。包括 Cosmos 在内的 NVIDIA 物理 AI 模型也将被引入 Foundry Local。
在由 NVIDIA RTX Spark 驱动的 Windows PC 上,NVIDIA 与 Microsoft 将在 Ignite 上展示本地大语言模型体验,演示开发者如何直接在设备上运行 AI 应用。
对于使用云 PC 的组织,两家公司正在将 Direct Stream 能力引入 GPU 加速的 Windows 365 云 PC。这些能力支持高要求的图形应用,即使在严苛网络条件下,也能以 60 帧每秒提供最多两路 4K 流,且延迟很低。限量预览已开放注册,公开预览计划于 2027 年初推出。
将科学 AI 与 Microsoft Discovery 连接起来
在科学研究方面,NVIDIA BioNemo Agent Toolkit 和 NVIDIA ALCHEMI Toolkit 正在扩展进入 Microsoft Discovery 目录,将生命科学、药物发现以及材料与化学科学领域的模型引入 Microsoft 的代理式研究平台。
BioNeMo Agent Toolkit 帮助科学家使用自然语言在 Microsoft Discovery 中运行计算生物学工作流,由代理协调完成工作所需的工具和模型调用。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。