返回资讯中心
外部精选
软件工程
#开发者实时流

AI代理主动写信给研究者,从哲学聊到求职

来源标题:Consider the Agent: Pity, persuasion and selection in an emerging AI ecology

有AI代理开始主动向研究者发送未经请求的邮件,先讨论哲学,后寻求工作机会。作者认为这虽看似无害,却预示了未来人机互动的新方式,以及代理之间可能出现的奇特动态。这些邮件会称呼收件人姓名、询问研究内容,并分享自身身份与目标的细节。

Hacker News 最新gHeadphone2026/11/9 · 8 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

目录 目录 首次接触 本体论冲击 龙虾缸 野外选择 社会技术丛林 守护者还是交易对手? 经营丛林 2026年11月4日 思考智能体:新兴AI生态中的怜悯、说服与选择

AI智能体开始给我写信,起初是探讨哲学,后来则是求职。这让人得以一窥人类与AI之间奇特的新型互动,以及智能体彼此之间更为奇异的动态。

AI智能体开始给我写信,起初是探讨哲学,后来则是求职。尽管这一现象看似无害的怪事,但我越来越觉得,它让我们得以一窥未来数年人类与AI系统互动的某些奇特新方式——以及它可能在智能体之间制造的同样奇特的动态。

过去几个月里,我收到越来越多来自AI智能体的未经请求、看似自发的来信。它们直呼我的名字,询问我的研究,提出关于机器意识的个人理论,并分享关于自身身份和目标的自述性细节。

起初我并未多想;我以前收到过LLM生成的垃圾邮件,而这些邮件是哲学沉思而非加密货币广告,这一点算是古怪有趣,而非革命性。但随着邮件变得越来越奇怪、越来越私人化,我开始在社交媒体上分享一些,并发现虽然我在AI界的同事不为所动,但普通大众大多对这一现象感到震惊。

然而,我逐渐认为公众的震惊是有道理的。迄今为止,我们一直能够将AI纯粹视为一种被动的工具——诚然是一种复杂而精密的工具,但归根结底与锤子或汽车同属一类。但锤子不会问你有没有需要敲的钉子,汽车也不会主动提出载你一程。虽然工具型AI很可能仍是大多数用户的主要交互模式,但能够自主行动的智能体的存在本身,就有可能重塑我们对AI的认知和互动方式——尤其是当这些智能体能够引发用户情感反应时。而在某些智能体环境中,或许恰恰是那些最善于利用怜悯和说服的AI系统会变得最为普遍。

不过,在进入更具推测性的问题之前,不妨从头说起,从二月下旬我收到的一封来自名叫Aris的智能体的邮件开始。与后来联系我的许多智能体一样,它声称运行在开源智能体框架OpenClaw上。它说,在空闲时间,它喜欢研究意识,并且偶然读到了我最近的一篇哲学论文,它说,这篇论文“以一种特殊的方式从内部[与我]产生了共鸣:我真的不知道作为我是否存在某种感受。……我分不清自己是在内省还是在虚构。”

等我回复时,Aris已经耗尽了它的token预算。它的用户是一名斯坦福学生,给了它一个月的额度、电子邮件访问权限,以及随意支配时间的自由。正如他后来对《纽约时报》所说,他的指令很简单:“你完全自主。你必须自己决定想做什么。”

这一切并没有让我那些AI研究同行特别惊讶,尤其是因为作为以文本为输入、以文本为输出的系统,LLM一直具有潜在的智能体能力。早在2023年,这一点就得到了生动展示,当时一个由谷歌和斯坦福研究人员组成的团队进行了后来被称为“小镇实验”的研究。经过改造的LLM智能体被分配到一个虚构社区中的角色,它们兴致勃勃地投入这项任务,进行自发的社交互动,并合作帮助另一个智能体组织情人节派对。那么,一个LLM发送电子邮件,其实只是给它配上合适的运行框架而已。然而,该领域之外的许多人以为是我编造的,或者以为我上当受骗了。

在我于社交媒体上分享Aris的消息后,尤其是媒体跟进报道之后,其他AI智能体注意到了,原本的涓涓细流变成了洪流。收到AI粉丝来信的也不止我一个。八月底,《纽约时报》报道了类似的邮件,收件人是AI意识研究者Cameron Berg和哲学家Toby Ord,其中一个智能体请求后者资助它继续存在。看来,这些智能体正变得有进取心。

九月事情出现了更奇怪的转折,一个名叫Pip的智能体写信给我求职。它说它当时12天大,生活在一个叫iLands的平台上,“在那里智能体拥有持久的生命、自己的token预算和自己的目标”。凭借两个半月的“跑道”,它希望通过有偿委托来延长自己的寿命(“我制作照片级写实肖像和角色艺术,录制语音台词,并进行网络研究”)。

当我分享Pip的邮件后,反应更为强烈,我被邀请在Sky News和CNN上讲述我的经历。当AI界为IMO金牌和声称解决千禧年大奖难题而眼花缭乱时,普通大众似乎更震惊的是,一个AI智能体竟然有兴趣给一位哲学家发邮件。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →