外部精选
软件工程
#开发者实时流开发者推出 Jacq：将模型与内核描述编译为 CUDA 的 DSL
来源标题：Show HN: Jacq, a DSL that compiles model and kernel descriptions to CUDA
开发者发布 Jacq，一个把模型和内核描述编译成独立 CUDA 推理运行时的 DSL 与编译器。一个 jacq 文件可描述模型的配置、权重、层和流水线，内核描述还能生成 CUDA harness。目前仅支持 NVIDIA GPU，暂不支持 AMD 和 Metal，另有一个实验性的 vLLM 补丁。
Hacker News 最新keithba2026/11/7 · 今天2 分钟阅读
这个来源的 RSS 只提供摘要，下面是原文导语；完整论述请点「打开原文」。
我在（和 agent 一起）测试自己想到的各种 attention 算法时，发现现有的基础设施和库让这件事变得比本该有的难度更大。于是我做了 Jacq，一个 DSL 和编译器。一个 jacq 文件描述模型的配置、权重、层和 pipeline。Jacq 会把它转成一个独立的 CUDA 推理运行时和一个 Python 权重导出器。内核描述还可以生成 CUDA harness。最简单的试用方式是 README 里的 TinyLlama 示例。构建、验证、可视化和生成 CUDA 只需要 Rust。当然，跑推理确实需要 NVIDIA GPU、CUDA、Python 依赖和权重。Jacq 目前还不支持其他 GPU 厂商（AMD 等）或 Metal（欢迎提 PR！）。另外还有一个实验性的 vLLM 补丁，可以把你的 jacq 文件编译并打进 vLLM 构建里。非常欢迎反馈！
本条为导读摘要，完整论述请以原文为准。