Ilia Shumailov 等研究发现:用生成数据训练模型会致其遗忘
来源标题:The Curse of Recursion: Training on Generated Data Makes Models Forget (2024)
Ilia Shumailov 等 6 位作者在论文《The Curse of Recursion: Training on Generated Data Makes Models Forget》中指出,模型若持续用自身生成的数据训练,会逐渐遗忘原有能力。该论文 2023 年 5 月首次提交至 arXiv,2024 年 4 月更新至第三版。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
聚焦以了解更多 通过 DataCite 获取 arXiv 颁发的 DOI 提交历史 发件人:Zakhar Shumaylov [查看电子邮件] [v1] 2023年5月27日星期六 15:10:41 UTC(1,773 KB) [v2] 2023年5月31日星期三 10:39:26 UTC(1,847 KB) [v3] 2024年4月14日星期日 05:20:10 UTC(1,851 KB) 全文链接: 访问论文: 查看题为《递归的诅咒:在生成数据上训练会让模型遗忘》的论文 PDF,作者为 Ilia Shumailov 及其他 5 位作者 查看 PDF HTML(实验性) TeX 源码 查看许可 附加功能 音频摘要 当前浏览上下文: cs.LG < 上一篇 | 下一篇 > 最新 | 近期 | 2023-05 切换浏览分类: cs cs.AI cs.CL cs.CR cs.CV 参考文献与引用 SciX Google Scholar Semantic Scholar 3 条博客链接 (这是什么?) 导出 BibTeX 引用 加载中…… BibTeX 格式引用 × 加载中…… 数据提供方: 书签 文献工具 文献与引用工具 文献浏览器开关 文献浏览器(什么是浏览器?) Connected Papers 开关 Connected Papers(什么是 Connected Papers?) Litmaps 开关 Litmaps(什么是 Litmaps?) scite.ai 开关 scite 智能引用(什么是智能引用?) 代码、数据、媒体 与本文相关的代码、数据和媒体 alphaXiv 开关 alphaXiv(什么是 alphaXiv?) 代码链接开关 CatalyzeX 论文代码查找器(什么是 CatalyzeX?) DagsHub 开关 DagsHub(什么是 DagsHub?) GotitPub 开关 Gotit.pub(什么是 GotitPub?) Huggingface 开关 Hugging Face(什么是 Huggingface?) ScienceCast 开关 ScienceCast(什么是 ScienceCast?) 演示 演示 Replicate 开关 Replicate(什么是 Replicate?) Spaces 开关 Hugging Face Spaces(什么是 Spaces?) Spaces 开关 TXYZ.AI(什么是 TXYZ.AI?) 相关论文 推荐与搜索工具 链接到 Influence Flower Influence Flower(什么是 Influence Flowers?) 核心推荐开关 CORE Recommender(什么是 CORE?) IArxiv 推荐开关 IArxiv Recommender (什么是 IArxiv?) 作者 会议/期刊 机构 主题 关于 arXivLabs arXivLabs:与社区合作者共同开展的实验性项目 arXivLabs 是一个框架,允许合作者直接在我们的网站上开发和分享新的 arXiv 功能。 与 arXivLabs 合作的个人和组织都认同并接受了我们关于开放、社区、卓越和用户数据隐私的价值观。arXiv 致力于这些价值观,并且只与遵守这些价值观的合作伙伴合作。 有能为 arXiv 社区带来价值的项目想法?进一步了解 arXivLabs。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。