
评论:AI文本水印难辨人机创作,误伤诚实作者
来源标题:The Scarlet Letter for the Honest: A Short Pamphlet on the New Witch Hunt
一篇评论指出,AI文本水印极易被改写或翻译洗掉,却会误标真正由人创作的内容。作者认为公众讨论混淆了AI辅助、AI生成与全自动生产三种情况,而水印无法区分三者。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
如今文本正在被标记。不是用墨水,不是用印章——而是用织入文字肌理之中的统计水印。你签署了透明度文件——那就请去给你的输出打上烙印吧。听起来足够高尚:让读者知道他们面对的是什么。
问题在于,这个标记就像被第一场雨冲掉的油漆。你只需让机器帮你润色措辞或翻译一段文字,你就已经被打上烙印了,尽管你自以为从思考到写作再到修改全是自己一手完成的。反过来也一样:把一段生成文本过两遍改写工具,烙印就被洗掉了——你又“干净”了。
第一幕的结局:标记落不到那个与机器一同思考的人头上,却落到了那个仅仅碰过机器一次的人头上。
公共话语固执地将三件截然不同的事混为一谈:
辅助——人思考、组织、决策;机器修逗号、做翻译。 生成——想法是人的,但措辞出自一个提示词。 生产——没有一个人看一眼的流水线,一天一百篇文章。
三者之间的区别不在于机器参与的程度,而在于谁的手始终按在决策上。“经 AI 处理”的标签把三者一股脑扔进同一个篮子:那个花了一晚上核对数据的疲惫作者,和那个以工业规模炮制垃圾的农场。在匆忙的读者眼中,它们是同一个品牌——以及同一种鄙夷。
拿一篇 2021 年写的文章——那时公众还没听过 LLM 这个词。把它过一遍流行的检测器。一年前它会返回 97% 的“AI 概率”。今天——8.6%。同样的文本,同样的工具,两个互不相容的判决。
往里看,被标记的恰恰是最中立、最说教式、结构最齐整的段落——一个 Web 服务器的定义,一份系统更新的分步指南。而鲜活的声音——自嘲、妙语、从跳蚤市场淘来的那不勒斯摩卡壶——毫发无伤地通过。
检测器找的不是机器。它找的是齐整。它惩罚的是文从字顺、结构严谨、说教口吻——换句话说,早在语言模型诞生之前,学校就教给我们的那一套。机器从这套标准中学到了东西,如今这套标准本身却被宣布为它的指纹。蛇咬住了自己的尾巴。
经典例子:《独立宣言》、《圣经》、美国宪法、维基百科上关于光合作用的条目——所有这些都经常被标记为“100% AI”。因为模型是在堪称典范的、打磨过的人类写作上训练的,一旦遇到那种标准,它便欣然认出了自己。
警察最爱说的两句话:
“你要是没什么可藏的,测谎仪你自然过得去。”“你要找律师?那你肯定有事瞒着。”
两句都是教科书式的举证责任转移。两句都要求你证明自己不是骆驼。
今天,文本正在遭遇完全相同的事。作者必须证明自己是人,而不是由平台来证明它面对的是一个农场。测谎仪和 AI 检测器遵循同一个原理:它们测量的不是实质,而是代理指标。测谎仪测汗水和脉搏。算法检测器测中立性和结构正确性。然后依据代理指标下达判决。
这对学术评审的打击尤为沉重。旧的逻辑是诚实的:将文本与其他文本的数据库进行比对。现在的逻辑是这样运作的:
一台机器生成了数百万文本,倾倒在互联网上。 另一台机器在它们上面训练。 第三台机器检查你的文本与第二台的相似度。 如果相似——那就是“没有原创性”。
系统判断人味的方式,是看一个人与他自身平均化蒸馏物之间有多大差异。写得得体中规中矩的学生被过滤器逮住。留下错误和口语表达的学生则被当作活人放行。迂腐成了罪证。
而最后的把戏,是那个让你咬牙切齿想笑的把戏。
同一个读者,一边对被标记的文章破口大骂“垃圾”,一边对搜索结果顶部的 AI 摘要照单全收,一个问题都不问。不核实,不点进原始来源——据独立估算,这些摘要一出现,第三方网站的点击量就下降一半甚至更多。
这个机制可以用一句话概括:
AI 在被看见、被声明时遭到拒绝。AI 在被隐藏、被默认强加时获得接受。
那个老老实实给自己贴上“机器翻译”标签的作者,得到了红字。那个把文本过了两遍改写工具的农场则干干净净——标记已被抹去。而悬在两者头上的,是 AI 摘要,根本没人给它打标记,因为它方便。
是时候引入一条简单的法律规则了——类比无罪推定。
正确的问题不是“这是谁写的”。措辞可能经过机器润色,翻译可能经过模型,逗号可能由算法修正。正确的问题是“这是谁想清楚的”。谁开启了会话,谁设定了主题,谁丢弃了站不住脚的论点,谁复核了数据,谁删掉了机器不请自来写下的那一段。
这些问题问得出来。它们也答得出来——一个决策一个决策地,一行一行地。没有哪个检测器会问这些问题。它看形式,然后推断来源——尽管来源从来不曾住在形式里。它住在导向那个形式的一连串决策之中。
这意味着,在一个诚实、开放的来源追溯标准出现之前,任何算法徽章都不是透明的标志。它是一枚红字。而眼下,偏偏是那些最不配戴上它的人,被牢牢地钉在了上面。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。