返回资讯中心
外部精选
软件工程
#开发者实时流

Parakeet 与 Whisper 在 AMD 核显上的 Linux 语音转写基准测试对比

来源标题:Parakeet vs. Whisper on an AMD iGPU: a speech-to-text benchmark on Linux

在 Radeon 890M 核显上,Parakeet Ultra 的转写错误率比 Whisper small 低 32%–57%,转写一段 10 秒语音仅需 0.11 秒。测试基于 Fedora 44 系统,通过 Vulkan 驱动运行,使用 FLEURS 数据集中的英语、俄语和德语样本。Whisper 预先指定语言,Parakeet 则自动检测语言。

Hacker News 最新AshBuk2026/11/16 · 昨天8 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

在集成 Radeon 890M 上,Parakeet Ultra 的错误率比 Whisper small 低 32-57%,转写一段 10 秒的短语只需 0.11 秒。

这台笔记本搭载 AMD Ryzen AI 9 HX 370(12 核 24 线程),集成 Radeon 890M,运行 Fedora 44。GPU 运算通过 RADV 驱动走 Vulkan。

音频使用 FLEURS 的测试集,每种语言 300 句:英语 49 分钟、俄语 57 分钟、德语 65 分钟。所有文件均为 16 kHz 单声道、16 位 PCM。

两个引擎分别运行这些模型:whisper.cpp v1.9.5(libwhisper 和 libparakeet 来自 Dabri 2.4.1 RPM),以及用 Vulkan 和 OpenBLAS 构建的 transcribe.cpp v0.4.2。解码采用贪心策略。Whisper 会被告知语言,Parakeet 则自动检测。

WER 是模型识别错误的单词百分比,越低越好。括号内是 95% 置信区间。评分前文本会转为小写并去除标点,除此之外不做任何归一化,因此 “20” 和 “twenty” 会被算作不同的词,数字也比公开排行榜上的更高。

速度是每秒计算所处理的音频秒数,不含模型加载时间。括号内是处理一段 10 秒短语的耗时。

与 Whisper small 相比,Parakeet Ultra Q4_K_M 在英语上错误率低 32%,俄语低 55%,德语低 57%,速度快 2.4 倍。

同样的 300 句,一个模型对另一个模型。数字是 WER 的变化及其 95% 区间。负值表示错误更少。区间跨过零表示没有可测量的差异。

Ultra 在所有语言上都优于 v3。v3 的 q4_k 文件与 q8_0 精度相同,体积小 250 MB。q4_0 文件更差。

在俄语上,GigaAM v3 和 Parakeet Ultra Q8_0 都得到 5.16 分,配对差异为 0.00 [-0.73, +0.71]。同样的 v3 权重在两个引擎上英语差异为 -0.07 [-0.22, +0.06],说明两个引擎结果一致。

这些模型在这块 GPU 上很慢,所以每三句跑一句,每种语言 100 句。区间更宽。

Parakeet Ultra 与 large-v3-turbo 的差距在误差范围内,且快五倍。

40 句英语上的速度和内存(GigaAM 用 40 句俄语)。

libparakeet 默认使用 4 线程。设为 12(每个物理核心一个)后速度翻倍。设为全部 24 个逻辑线程后速度又回落到起点。对于 q4_k,6、8、16 线程分别给出 27.7 倍、33.1 倍和 36.1 倍。

transcribe.cpp 将模型文件映射到内存,该映射会计入其峰值内存,因此两个引擎的内存不可直接比较。

一台笔记本,三种语言。FLEURS 是朗读语音,比口述更干净。Parakeet 覆盖 25 种欧洲语言,Whisper 覆盖 99 种。

Phonon-2.5 和 Parakeet Redux 未列入表格。两者都是 Parakeet v3 的压缩版本,只能通过各自的 Python 运行时运行。

Dabri 在其目录中提供 Parakeet v3 的 q4_k 文件,Parakeet 现在每个物理核心运行一个线程。transcribe.cpp 作为第二个引擎库加入 whisper.cpp,并将 Parakeet Ultra Q4_K_M 作为新模型引入目录。Whisper small 仍是捆绑默认项:体积 190 MB 对 486 MB,且覆盖 99 种语言。Ultra 需要支持 AVX2 的 CPU。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →