
微软自研前沿大模型,Foundry平台补齐最后拼图
来源标题:Exploring Microsoft’s AI foundation models
微软正在开发自有大规模前沿模型,以补足其Foundry平台缺失的关键一环。Foundry目前已汇集超过1.1万个模型,包括OpenAI、Anthropic、Meta、Mistral和DeepSeek等第三方模型,以及微软自家的Phi系列轻量模型和Cognitive Services视觉与文本模型。此前微软在Foundry上的模型部署主要依托与OpenAI的合作起步。
以下正文由 AI 翻译自 InfoWorld(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
当Microsoft开始在其如今的Foundry平台部署AI模型时,依靠的是与OpenAI的合作关系。OpenAI得以使用Azure基础设施训练模型,作为回报,Microsoft成为首个使用这些模型的商业合作伙伴。
Azure OpenAI对两家企业而言都是成功的产品。但随着越来越多组织获得OpenAI模型的访问权限,Microsoft的模型阵容不断扩大,不仅包含OpenAI的模型,还纳入了Anthropic和Hugging Face的模型,以及来自Meta、Mistral和DeepSeek的模型。与此同时,Microsoft继续提供自家的Cognitive Services模型用于计算机视觉和文本处理,以及面向边缘设备的Phi系列高效轻量模型。
凭借超过11,000个不同模型的访问能力,Foundry已被证明是构建现代AI应用的有效途径,提供许多以agent为核心的功能,包括利用Microsoft基于图的IQ数据源为模型提供依据的工具。但一个关键要素一直缺失——Microsoft自己的大规模前沿模型。
Microsoft AI有着悠久的历史
这并非意味着Microsoft在自研AI模型方面是新手。过去十年的大部分时间里,Microsoft Research一直是深度学习的中枢,其模型经常位居基准测试榜首。但它并未采取Anthropic、OpenAI乃至Google那样的通用型路线,而是打造更为专注的模型。
如今,Microsoft已开始作为其Microsoft AI(MAI)计划的一部分推出自己的基础模型。MAI专注于提供比竞争对手更低的token成本,从而发现了市场空白。这也是一个明智之举。免费和低成本token的时代已经一去不复返,超大规模厂商正寻求收回他们在AI数据中心投入的数十亿美元巨额投资。
所谓的“tokenmaxxing”在经济上已不再可行,即把海量数据集灌入LLM以期获得结果。相反,推理需要以更低的成本完成,利用模型来帮助选择模型,并采用专用硬件以更少的功耗和更少的热量来处理token。这一理念是其设计的核心,MAI将其方法描述为“人本主义”,重点关注安全性和环境影响。
MAI模型的影响力或许不及Anthropic或OpenAI更受欢迎的通用模型,但这些不同的模型为常见场景提供支持,从网络安全到编程,再到转录。作为MAI产品的一部分,Microsoft提供调优服务,允许你使用自己的数据构建模型的定制版本。
使用Microsoft AI模型
虽然大多数MAI模型可通过Azure的Foundry服务获取,但有两个模型保留给其他应用。目前MAI-Cyber-1.1-Flash用于Microsoft的MDASH安全系统,MAI-Code-1.1-Flash用于GitHub Copilot服务。
最复杂的AI应用可以使用MAI的Thinking模型MAI-Thinking-1。Microsoft指出,与其他MAI模型一样,MAI-Thinking-1的运行占用远小于竞争模型,但仍能交付用户期待的结果。当然,已发布的基准测试显示出良好结果——而且Microsoft并不畏惧公布有利于Anthropic和OpenAI部分更大模型的数字。
对Microsoft而言,关键在于证明其能以更低成本获得令人满意的结果。目标不是耗尽token预算,而是通过展示能以低得多的成本获得几乎同样好的结果来赢得市场份额。改用新的MAI模型几乎没有弊端,因为它们可以使用现有的Foundry Azure OpenAI API进行调用。如果你已有代码,先将MAI-Thinking-1部署到你的Foundry实例,然后将API调用改为该模型的端点URL,并开始向已部署的模型发送消息。你可以设置完成请求所用token数量的上限,帮助管理应用预算。
MAI-Thinking-1可以通过函数调用使用工具,因此你可以将其构建到自己的agent中。更复杂的操作可以利用其在请求之间保存加密推理链的能力,让你能快速推进到链中的下一个响应,在agent运行时精炼数据以生成新的提示。
与其他大型模型一样,MAI-Thinking-1可以将数据分块流式传输回你的代码,而不是交付完整的chat对象。这有助于改善用户体验,让用户看到进度,而不是毫无提示地等待响应。当然,如果你在长时间运行的工作流中使用MAI-Thinking-1,则无需流式传输数据,因为你是通过一连串请求传递响应,可能使用Microsoft新的决策评分模型作为agent路由器的一部分,以确定选择哪些步骤以及每个步骤使用哪些模型。
用Flash模型缩小AI
MAI近期一些更有趣的工作正开始以新的“Flash”模型形式交付,这些模型可在本地或云端运行。这种方法可以带来显著节省,同时提供与纯云端模型相似的保真度。同时,在NVIDIA RTX级硬件上使用本地推理,功耗远低于数据中心硬件,降低环境影响。尽管Flash模型更小,但它们被描述为基础模型。
像MAI-Code-1.1-Flash这样的Flash模型尚未小到能在Microsoft branded为Copilot+ PC的相对低成本Arm硬件上运行,因为它们需要超过120GB的RAM。不过,像NVIDIA RTX Spark驱动的Surface Ultra这样的新硬件,在配置至少128GB RAM时,应该完全能够胜任。然后你需要考虑agent使用量,以判断像Surface Ultra这样昂贵的设备是否能让本地运行比云服务器更经济。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。