
AI 的创造力瓶颈:数据与算力无法填补负空间
来源标题:Creativity in Negative Space
AI 在总结、翻译、生成图像等任务上表现出色,但创造性工作并非其下一步突破。作者指出,创造力源于发现缺失之物,而更多数据和算力无法赋予这种能力。AI 只存在于正空间,人类创造力则栖居于负空间。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
我们经常讨论 AI 越来越擅长做什么,这份清单确实令人印象深刻:它可以总结研究成果、编写整洁的样板代码、翻译语言,还能生成惊艳的图像。
正因为这条曲线移动得如此之快,人们自然而然地认为创造性工作就是下一块倒下的多米诺骨牌。他们的想法是,只要模型再大一点、上下文窗口再长一点,AI 就能写出伟大的小说、打造一场单口喜剧专场,或者拍出一部真正打动你的电影。
不会的。流畅从来就不是让作品具有创造力的原因。创造性工作始于注意到缺失了什么,而更多的数据和更多的算力并不能带来这种能力。
AI 完全在正空间中运作。人类的创造力则栖居于负空间。
鲁宾花瓶:两张脸,或者它们之间的形状。
在视觉艺术和设计中,负空间是主体周围和之间未被标记的区域。人们很容易把它误认为空白的背景,但它赋予构图以张力、层次和意义。
正空间是世界上已经存在的一切:每一个被写下来、被重复、被吸收进训练数据的修辞、模式、句式结构和惯例。
负空间则是宇宙中尚不存在任何事物的那道缝隙。
当人们误解创造力时,通常是因为他们把正空间中的重新组合与负空间中的创造混为一谈。许多被当作“创造性”工作的东西,一直以来都是衍生的:拿去年的热门电影、去年的企业软件,或者竞争对手的产品,做出下一个可预测的迭代。模型在这方面表现出色,因为重新组合已经存在的东西,正是神经网络被构建来做的事。
真正的创造力则不同。它是审视世界,注意到一个尚无人命名的缺口,然后把某种东西放进那道缝隙里。你用自己的生活经验、你的伤疤和你的影响来组装它,但目的地坐落在现有作品的地图之外。
剥去营销的外衣,神经网络就是一大摞矩阵。文本以数字的形式输入,经过层层学习到的权重相乘,输出为下一个 token 的概率分布。训练通过将权重拟合到大量现有的人类作品来设定这些权重。在此之后,模型就是一个固定的函数:相同的输入,每次都给出相同的分布。
这并不意味着模型只能重复它见过的东西。凭借数十亿参数,它可以落在没有人尝试过的组合上,机器学习研究者会指出,按照严格定义,高维模型几乎从不插值。他们说对了,但产出新东西从来都不是困难的部分。采样随机性(temperature)打乱的是你得到哪个可能的答案,它不会增加洞察力,就像掷骰子不会增加品味一样。
模型做不到的是判断这些新事物中哪些重要。一个无人命名的缺口在数据中不留下任何痕迹,因此权重中没有任何东西把它标记为缺失,训练中也没有任何东西奖励发现它。没有哪次矩阵乘法会计算出“这个应该存在,但它不存在”。模型可以生成一百万件没人见过的东西,却无从知道世界需要哪一件。
显而易见的反驳是,人也从现有作品中学习。当然如此。作家向其他作家学习,程序员通过阅读别人的代码来学习。区别在于,人还会带来从未被写在任何地方的东西,比如每天使用某个东西、并且知道它是错的这种体验。
我认为 AI 永远不会创造出 Cobra。
2013 年我在构建 Hugo 时,不断撞上 flag 的局限。即使像 Hugo 这样简单的工具,也已经允许你组合那些放在一起毫无意义的 flag:
hugo --server --port 1313 # serves the site on port 1313 hugo --port 1313 # accepted, and does nothing
像 git、brew 和 go 这样的工具用子命令来处理这个问题,每个子命令有自己的一套 flag,这正是我希望 Hugo 的工作方式:
hugo server --port 1313 hugo get shortcode NAME # not: hugo get --type=shortcode --name
当时各种语言里已经有很多 CLI 框架了。我试遍了所有现有的 Go 框架,每一个都感觉不对。大多数是从 go 工具中抽出来的代码构建的,而那些代码从来就不是为通用库设计的,并且它们只支持单层命令。我指不出具体哪一处坏了。那是一种感觉。我知道我希望 Hugo 的体验是什么样的,而那些框架没有一个能创造出它。
那就是负空间。没有任何东西在它该在的位置上。
我坚信 Hugo 需要以某种方式运作,我才会想用它,所以我写了让这一切成为可能的框架。结果发现,很多人也认为那才是做事情的正确方式。Cobra 最终成为了 Kubernetes、Docker 和 GitHub CLI 的底层框架,并帮助定义了现代命令行工具的工作方式。多年后,我把这些约定写在了 cli.style 上。第二条原则是使用子命令,而不是模式 flag,第三条是让无效组合不可能出现,这正是 2013 年我在 Hugo 的 flag 上遇到的那两个问题。
一个用 2013 年存在的所有 CLI 库训练出来的模型,会给我一个我已经拒绝过的那些库的更干净版本。而我拥有、数据所没有的,是那种“它们全都是错的”的感觉。
同样的边界出现在每一种依赖张力、时机和人类真相而非表面光鲜的形式中。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。