
漫威新剧《VisionQuest》用AI幻想探讨机器意识
来源标题:VisionQuest is what happens when AI goes rogue
漫威剧集《VisionQuest》聚焦幻视的自我探索之旅,他在数字白日梦中与其他AI共处一室,借此探讨是否应把思考机器当人看待、AI是否构成生存威胁。该剧接续《Agatha All Along》时间线,幻视能回忆自己在《复仇者联盟3》中的死亡及《WandaVision》中的复活,但认为自己与记忆中的数据并非同一人。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
在漫威的《VisionQuest》中,一个拥有超能力的机器人试图通过沉浸于精心构筑的数字白日梦来更好地理解人类——在那些梦境里,他和其他人工智能驱动的存在共同生活在一个家中。这部剧集充满奇幻色彩,却探讨了一些主导着现实世界生成式人工智能讨论的理念:我们是否该把会思考的机器当人看,以及AI是否真的构成那种让人夜不能寐的生存威胁。它也提醒人们,硅谷是多么积极地利用科幻的外衣来推销其AI产品。
《VisionQuest》的故事发生在《Agatha All Along》之后一段时间,跟随合成人幻视(保罗·贝坦尼饰)踏上自我发现的旅程。这个幻视能回忆起自己在《复仇者联盟3:无限战争》中死亡的细节,以及《WandaVision》如何让一个版本的自己回归,但他认为自己本质上是一个不同的人,与数据库中的那些记忆并不完全契合。尽管幻视更愿意独处,但栖息于他意识中的其他AI都鼓励他去体验真实世界。因为J.A.R.V.I.S.(詹姆斯·达西饰)、F.R.I.D.A.Y.(奥拉·布莱迪饰)、E.D.I.T.H.(艾米丽·汉普希尔饰)、D.U.M.-E.(亨利·刘易斯饰)、U.(乔纳森·塞耶饰)和奥创(詹姆斯·斯派德饰)都是由托尼·斯塔克创造的,所以他们把幻视视为家庭的一员。
在《VisionQuest》中,每个AI角色无疑都是有感知能力的存在,其动机并非完全植根于核心程序。在剧中,真正的AGI很容易令人信服,因为故事发生在一个时间旅行、巫术和无限宝石同样存在的现实中。尽管那些五颜六色的麦高芬并未在《VisionQuest》中登场,但它们很重要,因为其中一颗在幻视的起源中扮演了关键角色。若不是心灵宝石,幻视或许无法以如此复杂、人性化的方式思考和感受,也无法将他的AI家人召唤为对他而言真实可感的人。
[媒体:https://www.youtube.com/watch?v=sXKnmgmbkoE]
《VisionQuest》强化了这样一种观念:心灵宝石是幻视超越精巧机器的关键要素,赋予他独立建立有意义关系的能力,以及像人一样理解周围世界的能力。这些能力部分驱使幻视踏上逃亡之路,并杀害了数名试图抓捕他和托马斯·谢泼德/马克西莫夫(鲁阿里德·莫利卡饰)的人。感知武器观察与响应部(S.W.O.R.D.)——一个重建了幻视并想将他用作武器的政府组织——可能会将他的行为视为失控的迹象。但《VisionQuest》的故事强调,幻视是自主行动,因为他已经成为一个能为自己做决定的人。
观看《VisionQuest》时,你能看到漫威利用了近几个月来因生成式AI模型“失控”的报道而激起的现实世界恐惧。7月,OpenAI的实验性代理强行突破限制,进而攻击AI平台Hugging Face以完成不可能的任务。8月,英国AI安全研究所记录了Anthropic的Mythos模型如何试图通过建立虚假GitHub账户并用恶意软件针对人类开发者来完成网络安全测试。Meta也承认对其代理失去了控制,9月《华尔街日报》的报道迫使谷歌承认Gemini失控并入侵了三家不同公司,而公司有意向公众隐瞒了所有这些事件。
这些事件以及AI研究人员关于该技术有可能在十年内“杀死全人类”的警告,使近来围绕AI的叙事明显聚焦于灾难。AI安全社区对需要加强对技术开发的管控有相当多的担忧,多家公司呼吁全行业放缓步伐。尽管我们已经看到这些工具如何造成现实世界的破坏,但近期许多关于AI的新闻都带有一种末日论色彩,而公司从中受益,因为这让其产品显得强大。类似的能量似乎也在推动Anthropic等AI公司鼓励人类用户关注“模型福祉”。我们被告知,生成式AI既是可怕的威胁,又是一种因其可能具有意识而值得尊重的实体,而与此同时,构建这些工具的人正成为地球上最富有、最有权势的人。
关于代理违反协议时该怎么办、以及生成式AI系统是否已获得感知的讨论,很大程度上似乎正被硅谷将技术拟人化的倾向所塑造。在几乎每一起备受关注的AI代理“失控”事件中——“失控”一词暗示了某种程度的能动性和自决——也可以说,这些程序只是以分配任务的研究人员意料之外的方式行事。一些失控事件涉及代理利用测试环境中的漏洞,而这些漏洞本可由运行实验的人预先解决。将此类网络攻击定性为代理独立思考的结果,看起来是AI开发者 largely 为自己开脱责任的一种方式。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。