
外部精选
软件工程
#开发者实时流Clap.cpp 发布:用 C++ 和 GGML 实现音频嵌入推理
来源标题:Show HN: clap.cpp – Audio embedding inference in C++ (GGML)
开源项目 Clap.cpp 发布,基于 C++20 和 GGML 实现音频嵌入推理,支持 CLAP、CLAP2 系列、CLaMP3、MERT、MuQ 等模型,可同时处理文本和音频输入。项目提供 GGUF 格式模型,支持 CPU、CUDA、Vulkan 后端,并已提供 Python、Rust、Node.js 绑定及 pip、cargo、npm 安装方式。工具支持命令行生成嵌入向量和启动本地推理服务器。
Hacker News 最新lutun2026/11/9 · 今天5 分钟阅读
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
音频嵌入推理特性:支持文本与音频的处理。支持文本和音频。
C++20/ggml 实现的音频嵌入推理功能:
| 模型 | 文本 | 音频 | 嵌入维度 | 采样率 |
|---|---|---|---|---|
| CLAP | ✅ | ✅ | 512 | 48 kHz |
| CLAP2 Large | ✅ | ✅ | 960 | 32 kHz |
| CLAP2 Medium | ✅ | ✅ | 640 | 32 kHz |
| CLAP2 Small | ✅ | ✅ | 512 | 32 kHz |
| CLAP2 XS | ✅ | ✅ | 320 | 32 kHz |
| CLAP2 XXS | ✅ | ✅ | 224 | 32 kHz |
| CLaMP3 | ✅ | ✅ | 768 | 24 kHz |
| MERT v1 95M | ❌ | ✅ | 768 | 24 kHz |
| MERT v1 330M | ❌ | ✅ | 1,024 | 24 kHz |
| MERT v2 FullSong / 30s | ❌ | ✅ | 1,024 | 24 kHz |
| MuQ | ❌ | ✅ | 1,024 | 24 kHz |
| MuQ-MuLan | ✅ | ✅ | 512 | 24 kHz |
GGUF 模型可在 Audio Embedding GGUF collection 获取。
绑定支持情况:
| 语言 | CPU | CUDA | Vulkan | 安装方式 |
|---|---|---|---|---|
| Python | ✅ | ✅ | ✅ | pip3 install clap-cpp |
| Rust | ✅ | ✅ | ✅ | cargo install clap-cpp |
| Node.js | ✅ | ❌ | ❌ | npm install clap-cpp |
用法:
Embeddings 命令
加载转换后的 GGUF 模型,生成真正的原生文本或音频嵌入:
clap embedding --model larger_clap_general-q4_k_m.gguf --text 'Sound of a dog'
clap embedding --model larger_clap_general-q4_k_m.gguf --audio dog.wav
Embeddings 服务
使用支持所需模态的 GGUF(例如 CLAP、CLaMP3 或 MuQ-MuLan)启动服务(默认监听地址:127.0.0.1:8080):
clap serve --model larger_clap_general-q4_k_m.gguf --host 127.0.0.1 --port 8080
模型在启动时只加载一次。其 API 标识符为 GGUF 文件名(本例中为 larger_clap_general-q4_k_m.gguf),而非完整路径或 Hugging Face 仓库 ID。
发送 OpenAI 兼容的文本嵌入请求:
curl http://127.0.0.1:8080/v1/embeddings \
-H 'Content-Type: application/json' \
-d '{"model":"larger_clap_general-q4_k_m.gguf
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。