
独立开发者Pieter Levels呼吁X对AI回复实行零容忍
来源标题:Saving the Social Web
Pieter Levels公开呼吁X对AI回复采取零容忍政策,认为发一次AI回复就应永久封号。他表示回复区如今已被AI内容淹没,情况从未如此糟糕,并称AI回复对该平台的未来构成生存威胁,因为用户会因此直接停止使用。这一讨论也呼应了「死互联网理论」——即互联网大部分内容正变成机器人和算法策划的产物。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
死互联网理论:这个概念认为互联网的大部分内容正在变成由算法策展的机器人活动。不知道你怎么想,但当我试图与真人互动时,遇到这种AI内容简直要了我的命。
显然,我不是一个人。知名独立开发者Pieter Levels认为,单次违规就该终身封禁:
X应该对AI回复采取零容忍政策
就像你只犯一次,账号就被终身封禁
回复区现在就是一场噩梦,从来没有这么糟糕过
AI回复是对这个平台未来的生存威胁,因为人们会干脆不再……
下午1:58 · 2026年10月29日 · 30万次查看
1.14万条回复 · 124次转发 · 4800次点赞
在互联网上人们与陌生人交谈的每一个角落,都有它的身影。Reddit上那些结构工整得像三幕剧的故事,来自一个注册了三天的账号。X上能持续好几天的长贴。Hacker News上那些把文章内容总结一遍还给你的评论。更别提LinkedIn了。
需要说明的是:社交媒体一直都有缺陷,这些问题早在AI热潮之前就存在了。长期以来有一种观点认为,这些本应让我们感觉更紧密相连的平台,不知怎的却让我们更加疏离,至少在现实生活中如此。但现在你告诉我,我们在网上也正在变得疏离?天哪。
那为什么不干脆全面禁止AI内容?因为很难检测。
在现代LLM平台兴起的早期,AI写的东西明显到近乎滑稽。
就拿长破折号来说。2022年之前,只有少数人能分辨它和它的近亲短破折号的区别。知道什么时候该用哪个的人就更少了。现在呢?我们破折号用得飞起。
然后是某些词汇。生物医学文献数据库PubMed显示,2020年到2024年间,摘要中出现“delve”一词的频率增长了约十五倍。
然而,你不能简单写几条业务逻辑就把含有长破折号或你不常用的词的内容标记出来,不仅因为人们确实会使用这些词、你有误标的风险,还因为不同供应商的模型输出差异极大。
不仅如此,模型正变得越来越聪明,识别也越来越困难。
水印是一种在生成内容中嵌入隐藏信号的技术,使供应商能够检测内容是否确实由AI生成。
我不打算在这里深入细节,但本质上这不仅仅是往文本里添加隐藏的不可见Unicode字符,而是使用一种算法来挑选某些权重较高的词。哪些词会被“推一把”不是固定的,而是由供应商持有的一个密钥来决定。检测就是用同一个密钥遍历文本,看那些被推动的词出现了多少次。
你可能以为这会影响整体输出质量,但实际上,Google DeepMind测试后发现,人们对带水印内容的评价与不带水印的内容一样高。妙极了。
如果你想更深入了解这一点,Anthropic有一篇很好的解释。
由于水印是嵌入在完整内容中的,轻度编辑后仍可检测。大幅改写就不太行了。但如果你替换了足够多的内容,到某个程度它就不再是原始内容,而是新的东西,完全出自你手(参见:忒修斯之船)。
然而,不同供应商的每个模型都用各自的密钥嵌入水印。所以虽然方法公开了,密钥却没有公开,因此作为消费者我们无法轻易检测水印。
在文本方面,最大的几家供应商已经实现了水印。Google于2024年通过其SynthID-Text系统为Gemini实现了水印。Anthropic和OpenAI在今年(2026年)下半年也各自实现了水印。xAI从11月7日起对其内容实施水印,其他供应商已签署《行为准则》但尚未推出文本水印。
这并非巧合。欧盟《人工智能法案》要求供应商从2026年8月2日起强制实施机器可读标记,已上市系统有到12月2日的宽限期。
《行为准则》保证当局、研究人员、记者和事实核查人员可以免费使用检测工具。其他任何人则由各供应商自行决定。
这意味着平台可能无法进行检测,因为它们不符合获得访问权限的条件。
此外,该规定仅适用于欧盟,这意味着使用世界其他地区账号生成的内容可能没有水印。一个美国用户在Reddit上发布AI生成的垃圾内容,该帖子仍然会呈现给欧盟用户。
因此,尽管欧盟《人工智能法案》是朝着正确方向迈出的一步,但它并没有解决问题。它强制将标记嵌入文本,却没有规定谁有权检测。
公平地说,《行为准则》确实要求签署方在2027年2月2日前建立检测途径:标准API、内容中的标识,或共享的联盟检测器。很好。但它止步于研究人员和事实核查人员,止步于欧盟边境,而且把具体约定留给各供应商自行决定。
我们需要的是一个跨所有供应商的共享检测标准,为人们互相交流的在线空间而建。两件事。
全球水印。如果标记只在法律要求的地区进行,垃圾内容就会从其他地方生成。
新模型,公钥。从此以后发布的每个模型都用私钥生成内容,并附带一个只能用于验证的公钥,外加任何人都能运行的参考检测器。Meta的TextSeal2已在实验室证明这可行;缺的是把它落地。
平台在自己的服务器上用公钥检测。没有评论离开平台。没有访问清单,没有速率限制,没有中间供应商。Reddit、一个兴趣论坛、一个Discord机器人:同一个密钥,同一个检测器。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。