
未来学家预测:五十年后AI将像空气一样无处不在且难以察觉
来源标题:Swarm Intelligence
未来五十年后,大多数AI将变得不可见,像空气一样始终在线、无处不在,人们甚至无需登录或召唤就能使用它。AI将以无数微小智能体组成的网络形式存在,深度融入机器人、车辆、建筑和设备,形成一种背景式环境。人们只有在AI出现断连或宕机时才会注意到它的存在。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
五十年后,大多数AI将隐于无形。肉眼不可见。它就像空气——始终存在,始终运行,无处不在。你需要它、使用它,却视之为理所当然。AI如此普遍,以至于我们对它视而不见。
你无需登录,甚至无需召唤。你呼吸它即可。AI不是一个中央大脑,而像一种气体,由无数微小的交互式AI组成,形成一种氛围。这无数的心智如同你体内的真核细胞,或肠道中数百种细菌。它们构成一种存在。它们交织成一张庞大的智能网络,营造出AI的背景。这个AI心智社会与其说是被人类看见的,不如说是被感知到的。
与今天的AI不同,它将被深度具身化——嵌入机器人、车辆、建筑和设备之中。但它的具身化将如此广泛、如此深入、如此普遍,以至于它将成为背景本身。
AI可以被视为一个超级有机体,它如此庞大,以至于像海洋一样成为环境。这种环境型AI,如同许多环境一样,对沉浸其中的人来说可能变得难以察觉。我们只有在出现缺口、断连或它宕机时才会注意到它。
如同珊瑚礁,一个AI超级有机体将由数千种心智物种组成。
其中一些AI心智可能非常狭窄而昏暗,仅比愚蠢高出一档,也许只有昆虫般的智能。另一些可能是数学天才。大多数子AI将被设计为执行特定、枯燥、细分任务的中等智能。
任何超级有机体的核心特征是其力量超越其各部分力量之和。因此,AI的超级有机体——这个AI环境——将超越其各部分的力量,这些部分将包括当时所有前沿模型、数学或生物学或世界构建领域最强大的专用AI,以及运行企业后台的通用日常AI。这些AI相互作用,将形成一个相互依赖的系统,不同的AI在输入、引导、维护、支持、方向、放大、解析、升级、验证和信任方面相互依赖。这个AI生态系统将成为环境,正如在有机生命中一样,每个AI都将与这个环境、这个心智社会共同演化。
以下是关于这种群体智能我们可以预期的一些要点。
维持可持续的群体智能并非易事。复杂适应系统科学表明,群体各部分之间的连接性存在最佳区间。连接过于紧密的部分会僵化瘫痪;连接过于稀疏的部分会分崩离析陷入混乱。调整系统使其不崩溃而是繁荣兴旺,几乎更像艺术而非科学。群体智能的突然崩溃将成为使用它们时的首要危险。
AI协议将会出现。这些标准不仅仅是API,它们将使不同的心智——愚笨的和超级聪明的——能够协商、交接、信任、建立声誉,并在彼此之间存储记忆。这些都在后台运行;没有普通人会想到它们。
没有任何单一机构、公司或政府能够控制群体环境。当联网心智犯错时,可能不存在单一的责任方、所有者或操作者。虽然某些机构可能控制压力点、关键协议或瓶颈基础设施,但没有任何机构会为人民使用AI时发生的事情负责。这类似于AI的互联网,将有多个利益相关方维持其运转。这种分散的责任既是福也是祸。
分散的责任很可能催生新型的分布式和去中心化保险及相邻法律。此外,验证和信任数万亿个声称怀有善意且具备能力的代理的需求,将需要一个全新的技术信任系统,能够验证、认证、评估和评级无限的异质代理和子心智。群体智能各部分之间交易的显著成本将专门用于信任网络。
我们目前没有实用的方法在危害源于AI之间的交互而非单一不良行为者时进行问责。我们将需要指标来追踪网络中的影响力,估算反事实(“如果没有这个组件会发生什么?”),以便治理群体。
一个心智社会将产生寄生虫、骗局、垃圾内容、 spam和对抗性黑客代理。群体中的大多数代理将是真正的机器人。我们将培育出某种相当于免疫系统的东西,用白细胞来检测、隔离和减轻危害。创建免疫系统将成为许多人的经济机会。
作为一个超级有机体,AI将不断产生涌现现象和行为。它将生成任何组成AI中都不存在的多种思维方式。这将是令人担忧且令人兴奋的。
由于这个超级有机体在最大规模上的行星尺度,其大部分行为和智能将感觉是异质的。有些人可能称之为非人的,但它肯定是非人类的。
群体智能将有多个层级。一个层级是行星级的。就像身体有组织一样,群体也会有在国家层面运作的子层级,当然还有公司层面。事实上,随着公司越来越认知化、被AI渗透,它们将越来越像彻头彻尾的AI群体智能。换一种说法,越来越多的群体智能将开始做公司的工作,并表现得像公司一样。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。