返回资讯中心
外部精选
软件工程
#开发者实时流

开发者放弃AVX2 128位定点库:基准测试显示不如编译器优化标量代码

来源标题:Show HN: I abandoned my AVX2 128-bit fixed-point library

开发者将其实验性4通道AVX2 SIMD Q64.64定点运算库归档,原因是大量基准测试表明手动向量化开销和硬件限制使其性能不及现代编译器优化的标量代码。测试中加减法为标量的0.95倍(更慢),乘法仅1.3倍,可变移位约1.0倍,不足以抵消双肢SoA结构的复杂度与溢出开销。

Hacker News 最新arjavsharma912026/11/10 · 8 天前11 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

一个实验性的、已归档的4通道AVX2 SIMD Q64.64定点算术库。该项目旨在探索x86_64架构上的高吞吐量128位定点数学运算,但在大量基准测试证明手动向量化的开销和根本性的硬件限制使其性能不及现代编译器优化的标量代码后,项目被归档。

运算

AVX2 SIMD 对比标量

架构影响

加法/减法

0.95x(更慢)

指令膨胀和寄存器压力抵消了SIMD并行性。

乘法

1.3x

吞吐量增益不足以抵消双limb SoA的复杂性和溢出开销。

可变移位(shl、sra)

约1.0x

尽管运行时无分支混合逻辑复杂,性能相当。

架构与设计

  1. 内存布局与双limb SoA

数组结构(SoA):将低64位和高64位limb分离到不同的AVX2寄存器(__m256i lo、__m256i hi)中,以便在256位寄存器内同时处理四个128位值。

跨通道规避:在本地128位通道内隔离limb,以完全避免昂贵的跨通道置换(vpermq)和指令延迟惩罚。

  1. 加法与减法

由于AVX2中缺少原生无符号64位比较指令,算术运算通过无分支符号位掩码实现:

neg(v):使用0 - lo和not_hi - is_zero(当lo == 0时使用全1掩码)的两步二进制补码方法,以无分支方式处理进位传播。

abs(v) & sign(v):通过_mm256_cmpgt_epi64针对hi隔离符号,并使用_mm256_blendv_epi8进行条件混合。

  1. 乘法与ILP策略

32位子limb拆分:将64位limb分解为32位块,以交叉相乘而不产生宽度瓶颈。

刻意寄存器溢出:在复杂乘法过程中有意允许寄存器溢出,使溢出的数据驻留在L1存储缓冲区中。这以轻微的5–7周期存储到加载转发成本为代价,避免串行进位链执行停顿并最大化指令级并行(ILP)。

  1. 除法策略(双路径)

div_approx:将向量转换为双精度浮点(__m256d),执行硬件SIMD除法,再转换回来(以位精确精度换取显著的速度提升)。

div_exact:提取通道并回退到无分支标量128位__int128实现,以保证位精确精度且无舍入漂移。

  1. 比较运算

相等(==):通过按位与(_mm256_and_si256)组合独立的lo和hi相等检查。

大于(>):分层检查,评估hi > hi_b,或hi == hi_b并结合经MSB调整的lo > lo_b。所有其他比较(<、<=、>=、!=)逻辑上从这些基本运算派生。

  1. 移位运算(shl、shr、sra)

编译期常量移位(_imm):利用constexpr分支。对于$N < 64$,通过相反移位结合按位或来隔离跨越64位边界的位;对于$64 \le N < 128$,直接进行limb重映射;对于$N \ge 128$,进行清零/符号扩展。

运行时可变移位(_var):结合AVX2可变移位原语(_mm256_sllv_epi64、_mm256_srlv_epi64)与比较掩码(gt63、gt127)及混合逻辑(_mm256_blendv_epi8)来动态路由移位计数。

根因分析:手动向量化为何失败

  1. 缺失硬件指令的代价

现代x86_64 AVX2主要针对32位浮点吞吐量和8/16/32位整数多媒体处理而设计。对于宽128位定点算术,AVX2存在关键硬件缺口:

结果:标量64位指令集通过简单的add后跟adc(带进位加法)硬件流水线执行,原生处理128位加法,零指令膨胀。相比之下,在AVX2中跨拆分limb模拟完全相同的进位链,每通道需要多指令序列(adds、XORs、有符号比较和掩码调整),彻底破坏了并行执行的性能优势。

为实现4通道数组结构(SoA)布局,代码库必须同时操作所有操作数的低(lo)和高(hi)limb的多个__m256i向量。

手动向量化将开发者绑定到僵化的intrinsic调度上。现代LLVM和GCC自动向量化器在标量代码结构上经常优于手动实现,因为:

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →