返回资讯中心
外部精选
软件工程
#开发者实时流

RISC-V 国际基金会考虑多种矩阵扩展方案,以支持线性代数运算

来源标题:RISC-V Matrix Extensions

RISC-V 国际基金会(RVIA)正在评估多种矩阵扩展方案,以增强对点积、矩阵-向量、矩阵-矩阵乘法等线性代数运算的支持。这些方案在是否引入新寄存器文件、与 RISC-V Vector 的兼容性、内存布局及数据类型支持等方面各有取舍。相关草案规范的状态截至 2026 年 11 月中旬。

Hacker News 最新camel-cdr2026/11/15 · 2 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

FPRox 2026年11月14日 3 分享

RVIA 正在考虑多种方案,以应对为线性代数运算(点积、矩阵-向量乘法、矩阵-矩阵乘法及其他运算)提供更强操作能力这一挑战。

这些方案各有取舍:是否需要新的寄存器文件、与 RISC-V Vector 的兼容性/依赖性、对内存布局的支持、对数据类型和算术行为的支持……

本文回顾了一些正在推进的提案,并比较它们的理论优势。本文既不是全面综述,也不是实际对比,但会概述这些扩展项目、它们支持的操作数类型(向量/矩阵)、提供的操作类型,以及它们与 RISC-V Vector 的交互方式。

免责声明:本文描述的草案规范状态截至 2026 年 11 月中旬。规范变更后我们会跟进更新。

感谢阅读 What are you optimizing for?! 本文公开,欢迎分享。

为了理解 RVIA 中各个矩阵扩展工作的差异,我们首先建议对向量/矩阵乘法的布局做一个基本分类。有些扩展提供的能力远超简单的向量/矩阵乘累加操作,但由于这是最关键的操作类型,我们将聚焦于此进行综述,同时尽量提及矩阵扩展项目提供的其他操作。

将一个线性代数运算(如向量-矩阵或矩阵-矩阵乘法)分解并映射为机器指令的方式有很多种。

最终,所有这些操作都可以分解为一系列乘累加(MAC)。这些 MAC 如何分组,会影响它们在机器寄存器上的操作方式、灵活性以及基本操作的算术强度。

我们将 RISC-V 向量/矩阵扩展提供的操作分为 3 类:

点积布局是最灵活的一种,它不要求矩阵在两个维度上都有大量元素,只需要长向量即可。它可应用于向量-向量、向量-矩阵和矩阵-向量乘积,是三种方案中最灵活的。代价是它提供的算术强度最低:每次操作都必须加载线性数量的元素(位于点积的内维度)。通过在向量-矩阵或矩阵-矩阵内核中复用其中一个操作数,可以部分缓解这一问题。

这种向量-向量操作属于 BLAS 1 级分类。

第二类是胖内积,它最接近典型的矩阵-矩阵乘法操作。矩阵分块相乘并累加。它不太适合向量-矩阵操作(利用率低),但在矩阵-矩阵乘法中提供的算术强度优于点积类。胖内积对应 BLAS 3 级(矩阵-矩阵操作)。

第三类是外积。它是列向量与行向量之间的乘积,与点积相比操作数顺序相反。此时内维度 k 被缩减到最小(通常非常接近 1)。它不太适合向量-矩阵乘积,因为要达到最高效率,需要左侧列向量和右侧行向量都很长。

外积的算术强度优于胖内积:只需加载线性数量的元素即可执行二次方数量的计算(这假定累加器常驻,无需在每次操作后加载/存储;如果应用的 k 维度较大,累加器的加载/存储开销可以摊销)。这第三类并不完全对应任何 BLAS 级别,它会对应 BLAS 3 级(矩阵-矩阵操作),且主要用于此类操作,但 A 和 B 操作数处于退化矩阵形式(矩阵列或单行矩阵)。

现在,我们已经定义了这个简单的分类方案,接下来看看 RISC-V 提供了什么,以及每个提案属于哪一类。

截至 2026 年 11 月,RISC-V 尚未提供任何已批准的扩展来执行任何形式的点积操作。不过,有一个扩展正在走快速通道流程:Zvdot4a8i(Zvdot4a8i 规范)。(注:它此前被称为 Zvqdotq)。

Zvdot4a8i 提供了一小组向量指令,用于对 8 位整数(有符号或无符号)执行分组 4 元素点积,并累加到 32 位整数中。

我们在之前这篇文章的这一节中介绍过该扩展: RISC-V Vector Is Expanding FPRox · 1月25日 阅读全文

该扩展是对基础 RVV ISA 的低成本升级:它将多个扩展型 MAC 融合为单条指令,且不需要比标准 vwmacc.v[vx] 指令更多的乘法器。

Zvdot4a8i 位于点积类的最低端:它提供逐元素点积布局(将输入元素分为 4 元素组),k=4 维度较小。

RISC-V(批量)点积规范定义了两个在向量寄存器上操作的扩展族(所有操作数和累加器都存储在向量寄存器组中):Zvdota 和 Zvbdota。

Zvdota 扩展族实现点积方案。Zvbdota 扩展族更进一步,实现了单点积方案与胖内积之间的中间布局。两种方案都支持在 vl 中编码的大内维度 k(支持的最大值取决于 VLEN:Zvdota 支持到 VLEN / SEW * 8,Zvbdota 支持到 VLEN / SEW)。

Zvdota 通过向量寄存器组支持更大的 vl 值。Zvbdota 的 vl 受限于 EMUL=1 单寄存器组的 VLMAX 值。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →