返回资讯中心
外部精选
软件工程
#开发者实时流

研究显示AI文本水印技术或难满足欧盟新规要求

来源标题:AI Text Watermarking May Not Be Able to Meet the E.U.'S New Rules

文本水印技术存在基本局限,可能无法达到欧盟新规的检测要求。OpenAI水印误报率为1%,在200词文本中检出率约80%,400词文本约95%,短文本因证据不足难以可靠检测。水印对读者不可见,但阳性结果无法显示个人贡献程度,阴性结果也不能证明文本由人撰写。

Hacker News 最新pseudolus2026/11/6 · 11 天前8 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Li表示,这让开发者能更灵活地控制可检测信号的嵌入强度与模型输出多样性之间的平衡。“我们可以把熵看作一种资源,就像一种货币……在我们的方法中,可以精确决定要消耗多少这种资源。”

这种水印对读者不可见。但阳性结果并不能说明某个人对某段文字贡献了多少,阴性结果也不能证明文本由人类撰写。

OpenAI的假阳性率为1%,也就是说,该检测器被设计为在100段未加水印的文本中,大约错误标记1段。在针对ELI5数据库中心理学问题的测试中——该数据库收集了r/explainlikeimfive子版块的问题和回答——模型在约80%的200 token文本(约150词)中检测到水印,而在400 token文本(约300词)中的检测率为95%。

Li称这是文本水印技术的“基本局限”,解决起来会很复杂。他补充说,短段落可能没有足够的水印证据来可靠检测,即使增加额外计算也无济于事;而较长段落通常能提供更多证据。

编辑也会削弱信号。根据OpenAI的数据,在对400 token段落的评估中,仅将10%的词语替换为同义词,检测率就从92%降至66%;替换高达25%时,检测率降至17%。Li表示,由于水印依赖前面的token,改动一个词可能会扰乱多个位置上的信号。

OpenAI表示,仅靠水印不足以判断内容是否由AI生成。

textGrain将“补充”其他来源溯源工具,例如元数据中的内容凭证,以及Google DeepMind为图像和音频输出开发的SynthID水印。OpenAI未回应置评请求。

欧盟《人工智能法案》第50条中的透明度义务已于8月2日生效。该法律要求生成合成音频、图像、视频或文本的系统提供者以机器可读格式标记输出,以便能够被检测为人工生成或操纵。根据该法律,技术解决方案必须“在技术可行的范围内有效、可互操作、稳健且可靠”。

欧盟的《实践准则》为提供者提供了一种自愿方式,以展示其将如何合规。该准则不要求对短于200 token的输出加水印。

巴黎高等教育学院AI伦理博士后研究员Thomas Souverain表示,这项立法存在解释空间。

Souverain称,textGrain背后的早期方法似乎可靠,在识别AI生成文本方面可能比竞争对手表现更好。OpenAI表示,textGrain在其自身测试中与Google的SynthID Text持平或表现更优,但这些结果尚未经过独立验证。在独立研究人员能够测试它之前,且《人工智能法案》的标准仍缺乏可衡量阈值的情况下,现在判断textGrain是否符合法律要求还为时过早。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →