Skymizer与MiTAC将在SC26展示单台风冷服务器运行2.8万亿参数Kimi K3

Skymizer 与 MiTAC 将在 SC26 上展示单台风冷服务器运行 Kimi K3 2.8T 模型

Kimi K3 是一个 2.8 万亿参数的 MoE 模型，运行在一台风冷的 MiTAC 服务器上，配备八块 HTX301 LPU 卡和 2 TB 卡上内存——欢迎在 SC26 上参观。 https://www.prnewswire.com/news-releases/skymizer-and-mitac-computing-to-showcase-a-2-8-trillion-parameter-ai-model-running-on-a-single-air-cooled-server-at-sc26–302929328.html 2 TB 卡上内存配置旨在将 Kimi K3 装入单台服务器，面向企业本地部署 台北，2026 年 11 月 5 日 /PRNewswire/ – Skymizer 与 MiTAC Computing 今日宣布，将在 SC26 上联合展示 Moonshot AI 的 Kimi K3——一个 2.8 万亿参数的混合专家（MoE）模型——运行在一台配备八块 Skymizer HTX301 LPU 卡和 2 TB 卡附内存的 MiTAC 服务器上。 Kimi K3 使用原生 MXFP4（量化感知训练）权重。2 TB 内存容量旨在容纳约 1.56 TB 的权重集，同时为 KV cache 留出容量。最终内存分配和所支持的工作负载仍需经过工程验证。 Skymizer 还将与本地合作伙伴一起参加 11 月 19 日至 20 日在北京举行的 ICCAD-Expo 2026，将同一 HTX301 产品发布带给中国受众。芝加哥的 SC26 发布与北京的参与共同赋予此次产品发布全球影响力，连接两个市场的企业 AI 客户和合作伙伴。 该平台建立在 Skymizer 于 2026 年 6 月 2 日至 5 日 COMPUTEX 上展示 Qwen3-VL-30B-A3B（一个 300 亿参数的多模态 MoE 模型）的基础之上。 “在 COMPUTEX 上，我们在评估硬件上展示了 Qwen3-VL-30B-A3B，”Skymizer 首席技术官 Luba Tang 表示。“我们的团队目前正成功地将这项工作扩展到为 Kimi K3 设计的单服务器配置。LISA™ 提供统一的指令集和工具链，帮助我们开发更大模型所需的内存驻留和调度能力。” “企业希望对其 AI 服务背后的模型、数据和基础设施拥有更大的控制权，”Skymizer 首席营销官 William Wei 表示。“我们与 MiTAC 的合作旨在让更大的开放权重模型在本地部署更加实用。工作负载验证对于评估功耗、成本和部署需求仍然至关重要。” “在 SC26 上，MiTAC Computing 正在展示可扩展的全栈 AI 基础设施解决方案，旨在支持不断演进的 AI 工作负载。我们与 Skymizer 的合作探索 Prefill–Decode 分离以及跨多样工作负载的优化 AI 推理部署。通过将 MiTAC 的服务器工程专长和可扩展基础设施平台与 Skymizer 的推理技术相结合，我们旨在为客户提供更大的灵活性和 AI 部署效率，”MiTAC 发言人表示。 对于希望在自有基础设施内运行 AI 的企业而言，将大型开放权重模型装入一台风冷服务器为部署提供了实用方向。Skymizer 的容量优先卡和解码优化架构旨在支持这一目标，同时让企业保留对模型、私有数据和 AI 运营的控制权。部署仍需仔细匹配内存、计算、功耗和散热与工作负载。该方法面向金融服务、医疗健康、政府、制造业和半导体设计领域的企业需求，在这些领域，数据治理和运营控制是采用的核心。 将超大型模型引入本地还需要从硬件到可用服务的实用路径。Skymizer 正在开发一种 AI 辅助交付方法，帮助企业为其工作负载选择模型、准备软件环境、安装和配置推理栈，并在使用前验证部署。目标是使这些步骤更加一致和可重复，同时将模型、数据和部署决策保持在企业控制之下。 该方法围绕不同 AI 助手均可使用的共享部署工具设计，而非依赖单一 agent 或服务。随着时间的推移，Skymizer 计划将此协助扩展到持续的运营和维护，帮助团队诊断问题和管理更新，同时保留人工监督和批准。这项工作通过解决企业如何部署和维护其选择拥有的 AI 系统，支持 Skymizer 的“Own Your Intelligence”方向。 HTX301 芯片预计于 2027 年第一季度开始生产。服务器平台的开发和验证正在进行中。样品和更广泛的商业可用性将随着集成和验证进展另行公布。更多信息：skymizer.ai/events/sc26 MiTAC Computing Technology Corp. 是 MiTAC Holdings（TWSE: 3706）的子公司，提供全面的高能效服务器解决方案，其行业专长可追溯至 1990 年代。MiTAC Computing 专注于 AI、HPC、云和边缘计算，采用严格的方法确保毫不妥协的质量——涵盖准系统、系统、机架和集群级别——全面实现性能和集成。 Skymizer Taiwan Inc. 成立于 2013 年，为本地和端侧 LLM 推理开发专用语言处理单元（LPU）IP 和芯片。其 HyperThought™ 平台将编译器驱动的软件与针对 transformer 优化的硬件相结合，其 LISA™（Language Instruction Set Architecture）将单一工具链从 40 亿参数模型扩展到万亿参数级别。HTX301-4S 卡的卡级功耗约为 155W；特定工作负载和整系统功耗仍需经过工程验证。多卡系统旨在支持更大的模型内存需求，同时使企业能够保留对模型、数据和部署的控制权。了解更多：skymizer.ai。 HyperThought™ 和 LISA™ 是 Skymizer Taiwan Inc. 的商标。所有其他商标均为其各自所有者的财产。