返回资讯中心
外部精选
软件工程
#开发者实时流

达特茅斯教授Hany Farid:生成式AI时代应默认视觉记录为假

来源标题:I Don't Trust Visual Recordings Anymore. But One Day I Will Again

计算机科学教授Hany Farid提出,在生成式AI和深度伪造泛滥的当下,人们应把对视觉记录的默认态度从“假定为真”转为“假定为假”,即由内容创作者承担证明真实性的举证责任。他以伊朗通讯社播出疑似美军导弹袭击学校的视频为例,说明各方在AI时代普遍质疑影像真实性。Farid研究数字媒体篡改检测技术已三十年。

Hacker News 最新jnord2026/11/21 · 今天22 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Hany Farid 是新罕布什尔州汉诺威市达特茅斯学院的计算机科学教授。 Eric Frommelt 今年三月,来自世界各地六名记者的一连串邮件和短信打破了我周六早晨的宁静。伊朗一家通讯社播出了一段已有一周之久的视频,画面中似乎是一枚美国制造的“战斧”导弹击中了一所学校。新闻报道称,此次袭击造成超过175人死亡,其中大多数是儿童。美国总统和军方否认对此负责。在生成式AI和深度伪造无处不在的时代,每个人——包括我——都怀疑这段视频的真实性。

我经常收到这类请求。过去三十年来,我一直致力于开发数学和计算技术,用于分析和检测数字媒体中的操纵痕迹。在这段时间里,可以说我和大多数人一样,对视觉记录持一种“真实性推定”的态度:如果怀疑者声称某段录像是假的,举证责任在他们身上。

然而,在当今生成式AI的世界里,我认为我们需要将这种立场转变为“虚假性推定”。也就是说,举证责任现在落在了创作者身上,他们需要证明自己的内容是真实的。虽然这种新立场对合法的创作者来说似乎不公平,但我认为它既反映了现实,也指向了一个未来——届时我们将再次能够相信大多数网络媒体与其表面所示一致。

即便是在去年三月,我已经在倾向于“虚假性推定”了。我对记者的初步回应大致是这样的:“我怀疑这段视频,因为画质很低,它在轰炸发生数周后才出现,而且只有一家报道准确性记录不佳的伊朗通讯社在传播它。”

然而,考虑到潜在的影响——如果视频确实是真的呢——我还是决定牺牲周六上午的时间来分析它。

我首先推理,如果“战斧”导弹是被数字添加到视频的每一帧中,而没有考虑摄像机的运动,那么我们可能会看到物理上不合理的导弹轨迹。因此,我使用一个静止的背景地标作为参照来对齐视频帧。在更新后的视频中,导弹确实以近乎直线的轨迹移动。(见下图中合成画面的黄点。)

接着我分析视频中导弹的大小(以像素计)是否合理。在一些合理的假设下,我估算视频中的导弹对应一枚6米长的“战斧”导弹,距离约100米。从场景来看这个距离似乎合理,而且考虑到声音传播速度为每秒343米,从可见撞击到听到撞击声之间0.3秒的延迟也与该距离一致。

一张由“战斧”导弹袭击视频帧合成的照片揭示了导弹的轨迹。Hany Farid;来源:Mehr News 然而,尽管证据越来越多,我仍然难以给记者们一个确定的答复。

我的怀疑源于我最近与加州大学伯克利分校同事合作的一项研究,该研究表明区分真实视频和虚假视频有多么困难。观察者现在对视频普遍如此怀疑,以至于他们很难说服自己某段视频是真实的。

但在又花了几个小时对导弹视频做了更多分析之后,我最终判定它是真实的,并向记者们提供了我更新后的看法。

这次分析对我而言是一个转折点。我意识到自己就像我们研究中的参与者一样:缺乏伪造痕迹并不足以让我轻易相信一段视频是真实的。我已经从“真实性推定”翻转为“虚假性推定”。

当视觉记录不再可靠时,我们能做什么?

我经常进行的那类取证分析目前还无法以互联网的规模和速度运行。但来源信号可以。这些信号包括在创作或录制时插入或嵌入的内容凭证和水印。

例如,遵循C2PA标准的凭证会在拍摄瞬间将一份加密签名的清单附加到照片或视频上;这些元数据记录了设备、录制时间和地点,以及随后的任何编辑。由于清单经过签名,之后任何对内容或其历史记录的篡改都可以被机器检测到。水印,如Google的SynthID,将不可感知的信号直接嵌入像素或音频样本中,以标识内容的来源。

苹果最近将这些理念推进了一步。在其部分最新款iPhone上,相机传感器可以在拍摄时对原始像素数据进行加密签名。然后,这些已签名的数据被显影为一张参考图像,与正常的可编辑照片一起保存。任何人都可以对比两者,准确看到发生了什么改动——如果有的话。

这些来源信号经常被批评为只是部分解决方案,或者容易受到攻击。如果我们把它们视为抓捕坏人的机制,这确实是事实。但这不是它们的本来目的。它们的目的是让好人能够证明自己的视听记录确实如其所声称的那样。

因此,来源信号不必是防对手攻击的。相反,这些信号是新技术现实的一部分——在这个现实中,消费者、记者和法院必须适应“虚假性推定”。如果有足够多的好人采用这些机制,他们就能开始淹没坏人的声音。换句话说,我们必须从“抓捕坏人”的模式转向“赋权好人”的模式。

这种从信任到不信任数字媒体的转变已经扩展到了日常的视频通话。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →