
评论者称理解AI社会影响可借助文学,尤其推荐Iain Banks的《文化》系列
来源标题:A Magical Universe
有评论者认为,要理解AI对社会的意义,文学是好的起点,其中Iain Banks的《文化》系列最接近AI创造出的世界。书中宇宙由名为Minds的AI掌管,物质极大丰富、无需工作与贸易,人类享乐却无所事事,呈现乌托邦与反乌托邦并存的图景。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
我们通过故事来理解周围的世界。如果想理解人工智能(AI)对社会意味着什么,文学是一个很好的起点。大多数评论者都在借助科幻小说来帮助我们理解这一新现实。对我而言, fundamentally 毫无疑问,这个世界似乎与之前的世界“不同”了。感觉就像我身处一个梦境/噩梦之中,无法理解眼前的技术,仿佛在等待有人把我叫醒。
Iain Banks 的《文化》系列小说最接近 AI 创造后世界可能演变的模样。这些书描绘了一个宇宙:机器强大到物质极度过剩,不再需要任何工作或贸易。星际文明由机器运转,它们自称“文化”,AI 本身被称为“心智”。文化善良、仁慈、有道德,照顾着人类子民,满足他们的一切需求。但对人类来说,似乎再也没有什么值得做的事情——他们沉溺于享乐。Iain Banks 描绘了一个同时是乌托邦和反乌托邦的宇宙,文化正在慢慢接管其他文明,让它们变得不那么暴力、更加友善。这是一部杰作,文笔可读性强、简洁明了,情节却难以理解、复杂且非线性。
在这个阶段,除了科幻小说之外,我最能产生共鸣的体裁是魔幻奇幻。我假设你们大多数人都读过《哈利·波特》,书中的巫师只需念一句咒语就能做出神奇的事情。对于这一体裁的真正粉丝来说,波特宇宙看似简单得具有欺骗性。你只需要说出那些魔法词——“阿瓦达索命”——一道闪电就会从魔杖中迸发,杀死某人。除了努力集中注意力并念出咒语之外,似乎并不需要太多练习。其他作家创造了更为复杂的魔法体系,学习咒语并不那么容易。
关于魔法咒语最古老的想法之一是“真名”的概念,它作为民间传说的一部分已经存在了很久。Ursula K. Le Guin——《地海巫师》的作者(《哈利·波特》的设定 loosely 基于此书)——就有这样一套体系。其理念是,宇宙中的一切都有一个隐藏在平凡现实背后的真名。每个物体都有一个给定的名字,但那不是“真名”。知道物体的“真名”就能赋予你控制它的力量。例如,我的给定名字是“Rushabh”,但那可能不是我的真名。我的真名是我不会告诉任何人的东西,因为一旦说出来,他们就会确切知道如何操纵我。我喜欢举的另一个例子是我们如何命名情绪。情绪存在于一个范围之中,但当我们给它们一个名字,比如“愤怒”,我们就能控制它们。
因此,在地海宇宙中,巫师如果想要控制一切,就必须辛苦劳作去了解万物的真名。如果你想用魔法划船,你需要知道船的真名,而并非人人都知道。在某种意义上,真名是知识的代理,真正的巫师是了解周围事物的人。知识才是宇宙的真正力量,而不是魔法咒语。
这是我在 AI 宇宙中发现的迷人类比。我们突然都拥有了魔法力量,但只有少数人能够充分使用它们。这些人是知道自己想要之物的魔法咒语——即真名——的人。提示词就是咒语。它会给你想要的,现在更难的是知道想要什么。
在 AI 之前的宇宙中,制造东西比想要东西难得多,所以我们受限于我们能想要的东西。我们只能制造少数几种东西。但现在,从技术上讲,我们可以制造多得多的东西,因为制造变得容易得多,所以更难的是思考想要什么。是的,你可能想看一个搞笑短视频,或者玩游戏娱乐自己,或者赚点钱以便去买更多东西,但除此之外呢?
曾经困难的事情现在变得容易,曾经容易的事情突然变得困难。这是一个螺旋,我们回到了起点,但并不完全如此。一旦我们接受了新现实,我们可能不得不开始一段完全不同的旅程。一段寻找我们真正想要什么的旅程。为此,我们可能必须去一所魔法学校。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。