Vishesh Tripathi 等人提出 Grouped Query Experts，将混合专家引入 GQA 自注意力

Focus to learn more 通过 DataCite 获取 arXiv 颁发的 DOI 提交历史 来自：Vishesh Tripathi [查看邮箱] [v1] 2026年6月18日 星期四 21:18:42 UTC（3,669 KB） [v2] 2026年6月23日 星期二 11:48:31 UTC（3,669 KB） 全文链接： 获取论文： 查看题为 Grouped Query Experts: Mixture-of-Experts on GQA Self-Attention 的论文 PDF，作者为 Vishesh Tripathi 及另外 1 位作者 查看 PDF HTML（实验性） TeX 源码 查看许可协议 附加功能 音频摘要 当前浏览上下文： cs.LG < 上一篇 | 下一篇 > 新 | 最近 | 2026-06 切换浏览分类： cs 参考文献与引用 SciX Google Scholar Semantic Scholar 导出 BibTeX 引用 加载中... BibTeX 格式引用 × 加载中... 数据提供方： 书签 书目工具 书目与引用工具 Bibliographic Explorer 开关 Bibliographic Explorer（什么是 Explorer？） Connected Papers 开关 Connected Papers（什么是 Connected Papers？） Litmaps 开关 Litmaps（什么是 Litmaps？） scite.ai 开关 scite Smart Citations（什么是 Smart Citations？） 代码、数据、媒体 与本文相关的代码、数据和媒体 alphaXiv 开关 alphaXiv（什么是 alphaXiv？） 代码链接开关 CatalyzeX Code Finder for Papers（什么是 CatalyzeX？） DagsHub 开关 DagsHub（什么是 DagsHub？） GotitPub 开关 Gotit.pub（什么是 GotitPub？） Huggingface 开关 Hugging Face（什么是 Huggingface？） ScienceCast 开关 ScienceCast（什么是 ScienceCast？） 演示 演示 Replicate 开关 Replicate（什么是 Replicate？） Spaces 开关 Hugging Face Spaces（什么是 Spaces？） Spaces 开关 TXYZ.AI（什么是 TXYZ.AI？） 相关论文 推荐与搜索工具 指向 Influence Flower 的链接 Influence Flower（什么是 Influence Flowers？） 核心推荐开关 CORE Recommender（什么是 CORE？） IArxiv 推荐开关 IArxiv Recommender （什么是 IArxiv？） 作者 会议/期刊 机构 主题 关于 arXivLabs arXivLabs：与社区合作者共同开展的实验性项目 arXivLabs 是一个框架，允许合作者在我们网站上直接开发和分享新的 arXiv 功能。 所有与 arXivLabs 合作的个人和组织都已认同并接受了我们的价值观：开放、社区、卓越以及用户数据隐私。arXiv 致力于这些价值观，并且只与同样遵守这些价值观的合作伙伴合作。 你有能为 arXiv 社区带来价值的项目想法吗？进一步了解 arXivLabs。