
AI检测工具引发文学界争议:Hachette因AI写作指控撤销Mia Ballard新书合约
来源标题:AI detection trap: When machines put human creativity on trial
Hachette Book Group因社交媒体对其新书《Shy Girl》含AI辅助写作的指控,撤销了BookTok作者Mia Ballard的出版合约。争议中,调查者依据Pangram Labs声称
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
去年七月,Hachette Book Group 在一篇现已删除的帖子中宣布,他们“非常激动”地签下了 BookTok 红人 Mia Ballard 的最新恐怖小说《Shy Girl》。该书于 2026 年 2 月自出版后,社交媒体社区中便开始流传有关该书含有 AI 辅助写作的讨论与指控。一个月后,出版商终止了与 Ballard 的合同,此事由此成为近年来文学界最大的阴谋论之一。在众多指控以及一篇《纽约时报》报道中,一个总部位于布鲁克林、如今获得 University of Maryland 和 Chicago 支持的 AI 检测工具格外引人注目,调查人员对其“近乎零假阳性率”的方法论深信不疑。Pangram Labs 借《Shy Girl》争议所释放出的东西,打开了社交媒体审判的潘多拉魔盒——这种审判既能成就职业生涯,也能毁掉职业生涯。
争论不再局限于指控与检测。在法国,于 2026 年 10 月新设立的 Prix Pascal de Littérature IA 采取了相反的做法,邀请提交与 AI 工具合写的作品,前提是作者披露所使用的模型和方法。该奖项与出版界对 AI 辅助写作日益严格的审视形成了鲜明对照。
在此,我们详细分析世界正如何努力应对区分人类写作与机器生成写作的问题。
AI 生成写作的使用是如何加速普及的?
像 OpenAI 的 ChatGPT 这样的生成式 AI 聊天机器人,在 OpenAI 于 2022 年底发布它之后,随着一波大语言模型(LLM)引发公众好奇而崭露头角。凭借研究、起草、事实核查和重写长篇详细文章的能力,用户很快开始将其用于人类的创造性任务。起初是“检查这段文字的语法和拼写错误”和“蓝色衬衫配卡其裤好看吗”,很快便转变为“帮我生成一篇 3000 字的作业文章”。
随着能力提升,更新的模型能够更好地纳入人类反馈,因而日益变得更具对话性。生成式 AI 应用以快速适应的速度从研究实验室走向日常生活,随后不久便开始打破应用下载记录,用户群体涵盖大学管理层和学生、政府、医院、记者、研究人员和企业。
学术界在如何应对这个问题?
大学及其他教育机构几乎没有时间对 AI 热潮作出反应。作为 AI 使用的主要试验场——同时也是最具威胁性的场域——它们未能迅速制定标准。许多美国教授在新应用法规出台后的数周内就记录到了 AI 辅助文本抄袭,这导致纽约、洛杉矶和巴尔的摩等地区的公立学校掀起了一波禁令潮。政策随后发生急转弯,最终 settling 于一条拥抱不可避免之势的中间道路。此时,Turnitin、QuillBot 和 GPTZero 等独立的“AI 辅助”AI 文本检测软件已在评估者中日益流行。
与此同时,印度也在关注事态发展。各机构——多为私立——以独立身份发布了 AI 规范,一些机构将 AI 文本与现有抄袭容忍度并列设限,以促进“负责任的使用”,另一些则实行严格的禁用 AI 政策,以保护学生的学术诚信。
尽管联邦政府试图在现有规范之外将法定指导方针正式化,执行却持续停滞。这些规范均未为标准化评估列出具体指导方针,在教师和考官的 AI 素养与主观容忍度方面留下了巨大空白。一个典型例子是 IIT Bombay 一名二年级学生的死亡,据称该学生在考试中被发现使用 ChatGPT,此事引发了广泛辩论和抗议,涉及舞弊指控带来的痛苦,以及机构在遏制此类行为方面缺乏足够力度的不对称。
AI 检测工具如何工作?
五年前,一个外行在网上看到一篇文章,或一位考官在批改期中考试答卷时,主要会审视文本的创意形式——假定它出自人类之手。但如今情况已大不相同。一些人认为,他们必须知道自己读到的东西不是机器写的。自然,这催生了一个检测并标记“slop”的完整产业。
大多数 AI 检测器是二元分类器,根据概率分数将文本标记为人类撰写或 AI 生成。这包括 n-gram 频率分析,或统计特定单词或短语使用的重复性或可预测模式。
像 GPTZero 这样的较早模型遵循统计方法,寻找句子长度的平衡或节奏变化,偏离自然风格而趋向已知 LLM(ChatGPT、Claude 和 Gemini)留下的“统计特征”。大多数较新模型则使用 LLM 本身作为“元检测器”来解读文本。
其核心是一个分类问题。在营销噱头的喧嚣之下,隐藏着一个日益严重的先有鸡还是先有蛋的问题:如果文本是被 AI 模型标记出来的,而这些模型又使用类似文本训练自己的模型,那么什么才能被真正归为 AI 生成文本——而这些模型本身一直就受到怀疑。
那它们为什么并不真正有效?
尽管可能造成损害,但检测工具的广泛可及——免责声明退居次要位置——已导致社交媒体上的抹黑运动,AI 文本分数被当作嫌犯照片一样贴在写作者身上。更糟的是,它们可能携带、甚至强化已有的人类偏见。
Stanford University 学者 Weixin Liang 领导的一项 2023 年突破性论文表明,AI 检测器将非英语母语者撰写的文本标记为 AI 生成的可能性显著高于母语者。检测器将美国出生的八年级学生所写文章评为“近乎完美”,而非母语学生撰写的文章中超过 60% 被检测器标记。除了 Ballard 的《Shy Girl》,H M Wolfe 的 Da
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。