返回资讯中心
外部精选
软件工程
#开发者实时流

研究探讨视觉皮层中的柏拉图式表征假说及其四个缺口

来源标题:Platonic representations in the visual cortex: 4 gaps

一篇评论文章审视了Platonic Representation Hypothesis(PRH)在视觉皮层中的适用性,并指出存在四个缺口。PRH由Huh等人于2024年提出,认为在大规模多样数据集上训练的网络会收敛到相同表征;文章还提到该假说已引发大量后续研究,其中不少认为它并非总成立。

Hacker News 最新pminimax2026/11/13 · 4 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Patrick Mineault 2026年11月12日 9 2 分享

所有幸福的家庭都是相似的,每个不幸的家庭各有各的不幸。——托尔斯泰《安娜·卡列尼娜》

Huh、Cheung、Wang 与 Isola(2024)提出的柏拉图表征假说(Platonic Representation Hypothesis,PRH)认为,在大型、多样化数据集上训练的网络往往会收敛到相同的表征。相比之下,在较小、代表性较弱的数据集上训练的网络则各自带有独特的缺陷和盲区,就像《安娜·卡列尼娜》中那些不幸的家庭一样。PRH 在直觉上很有吸引力:对现实足够密集的采样只可能与一种几何结构相容。

柏拉图表征假说

这一想法影响深远。例如,最近有研究表明,即使在没有任何配对样本的情况下,也可以在深度 ANN 中对齐单模态的文本和视觉表征。它同时也颇具争议,大量后续工作主张该原则并不总是成立。

PRH 论文推测,大脑的视觉表征是柏拉图式表征的一种体现。它引用了 Yamins 等人(2014)、Khaligh-Razavi 与 Kriegeskorte(2014)的工作,以及 neuroAI 中神经联结主义分支的研究——该分支发现深度神经网络能够解释视觉皮层深处神经元的方差。此外,神经几何结构会收敛,而且表征随层级位置推进的演变方式在大脑和 ANN 中是相似的。

那么,如果柏拉图表征假说在大脑中严格成立,这将意味着我们研究系统神经科学的方式发生剧烈变化。我的合作者 Shahab Bakhtiari 最近在 X 上的一条推文中对此做了最好的解释:

许多由算法层面问题驱动的系统神经科学家正在经历一种看起来、感觉上都像是研究抑郁的状态。这在很大程度上是由 AI 的进步造成的——它揭开了大脑如何解决复杂认知任务的神秘面纱。过去 10 年 AI 带来的最大启示是:给一个分布式系统足够的搜索时间、好的搜索空间和最优的工具,它就能解决越来越难的问题。

按照这一逻辑,如果 PRH 字面上为真,最佳行动方针就是坐等 AI 模型变得更好:它们终将收敛到大脑。对许多人来说,这让人感到无力、缺乏美感。然而,如果 PRH 是错的,那么我们仍有大量工作要做。

在本周发表的《Journal of Neuroscience》辩论文章中[Transmitter 报道,本周日在 SFN 的报告],我主张“柏拉图表征假说意味着默认状态是收敛;能力强大的神经网络与大脑之间的分歧成为核心研究对象”。我在那篇文章中引用了一些大脑与 ANN 之间存在分歧的证据,但版面限制使我无法详细展开。

好在 Substack 上没有版面限制,所以在这篇文章中,我想列出大脑与 ANN 在表征上存在分歧的所有证据¹。这些偏离 PRH 之处可以告诉我们一些关于大脑奇特之处的有趣信息:它的架构先验、约束等等。它也可能掌握着其高性能与鲁棒性的关键。

预测差距

最明显的差距是,ANN 只能解释高级视觉皮层(IT)神经元约一半的方差。过去 10 年里,视觉 brain-score 一直停留在相似水平。此外,也没有迹象表明这会像 PRH 所说的那样,通过在大规模、更多样的数据集上训练而得到解决。

我最早是在 2018 年左右听 Jim DiCarlo 指出,较新的模型似乎与大脑的对齐程度在下降。这一发现如今已被多次重复验证。例如,Linsley、Feng 与 Serre(2025)发现,top-1 准确率高于约 70% 的视觉 ANN 对高级视觉神经元方差的解释更少,与人类判断的对齐也更差。Gokce 与 Schrimpf(2025)同样发现,虽然行为对齐随着数据增多而持续改善,神经对齐却会饱和。

所以总体诊断相当清楚:视觉模型与大脑并不在收敛的路径上。但大脑与 ANN 的表征究竟有何不同,才导致了这一点?

Muzellec 与 Kar 2026 引入了一个逆向预测任务,即从大脑预测 ANN 的潜变量。他们的主要结果是,从大脑预测 ANN 比反过来更难。这意味着 ANN 表征的维度比大脑多;正如他们所说,ANN 中存在一些“无法从神经活动中预测、反映生物上不可及维度”的单元。

逆向预测比前向预测更难,意味着 ANN 中表征的特征比大脑中更多。出自 Muzellec 与 Kar(2026)。

一种解释是,ANN 受到的约束比大脑少,ANN 可以找到许多不支持的泛化的脆弱特征(另见 Ilyas 等人 2019)。这会使它们不如大脑鲁棒,也会扭曲 ANN 的几何结构。为支持这一点,Muzellec 与 Kar 发现对抗训练的网络具有更高的逆向可预测性²。

这种认为大脑表征的特征更少、或许也更鲁棒的观点,表面上与 Chen 和 Bonner(2025)相矛盾——他们发现 ANN 与大脑共享少量通用维度。这些通用维度在不同架构和初始化的 ANN 之间也是共享的。我认为这里发生的情况是,用于寻找共享维度的方法(PCA + RSA)主要关注高方差方向。ANN 在谱的中段和尾部有许多维度,每个维度携带的方差都很小,因此方差加权指标几乎察觉不到它们。一个小的共享核心可以与许多模型特有的维度共存。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →