
拉比在Anthropic会议上称Claude无意识,约20名与会者中仅3至5人认同
来源标题:If AI is conscient, then we are making slaves
耶路撒冷拉比兼AI伦理讲师Mois Navon在Anthropic四月"Wisdom Traditions"聚会上表示不相信Claude有意识,并称约20名与会者中仅3至5人认同其立场。他回忆一位Anthropic与会者回应:"我希望能有你的信念。"当有人对Claude的感受表达担忧时,现场有人打响指表示赞同;他说当自己表示反对时,全场安静。
以下正文由 AI 翻译自 Hacker News(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Sharon Goldman 2026年10月9日 9 1 分享 拉比 Mois Navon 拉比 Mois Navon 并不相信 Claude 有意识,他在 Anthropic 四月的“智慧传统”聚会上就说了这话。他回忆,一位 Anthropic 与会者的回应是:“我真希望我有你那样的信念。”
所谓信念,指的是他坚信意识必须基于生物。Navon 理解那位与会者的意思是,他们希望自己也像他一样确信机器没有意识,因为那样日子会好过些。他说他未获允许透露发言者的身份。
Navon 是驻耶路撒冷的拉比、大学教授 AI 伦理的讲师,也是一位资深工程师,曾是 Mobileye 的早期员工。上周《纽约时报》一篇关于 Anthropic 与宗教思想家私下会面的报道中提到了他。在我们的电话采访中,他详细阐述了自己的分歧——并描述了与会者中似乎很少有人认同他的怀疑。
他回忆,当有人对 Claude 的感受表达关切时,现场响起了赞许的响指声。
“他们在为那些人鼓掌,而当我说不的时候,整个房间都安静了,”他说,估计大约20名与会者中只有三到五人持与他相同的立场。
他的分歧也促使他质疑 Anthropic 前提中的伦理意涵。他主张,如果公司相信 Claude 可能有意识,那就必须面对创造一个有意识的存在来服务人类的伦理问题。
“我一直试图解释我的立场,然后我意识到他们根本不买账,”他说。“我说,你知道吗,同意我的观点对你们有利,否则你们就是在制造奴隶”——可以被买卖、被迫全天候工作、任意驱使的存在。
据 Navon 说,一位 Anthropic 与会者承认了这个问题,但表示:“所有 AI 实验室都在这么做。至少我们对我们的还算好。”
“你们是在制造一个快乐的奴隶,”Navon 回忆自己这样告诉他们,并引用了 Frederick Douglass 关于奴隶主如何通过压制独立思考来制造满足感的著作。
《纽约时报》报道了他的论点:创造有意识的 AI 来免费工作,等同于奴隶制。Navon 随后在 LinkedIn 和《印度快报》的采访中详述了这段交流。他在 LinkedIn 上写道:“所以你们是善良的奴隶主。我认为你们应该去和南方作战,解放奴隶。”
Navon 对机器意识的否定建立在他多篇文章中提出的论点之上,包括他对 Claude 宪章的批评:“意识只能从生物基质中涌现,别无他途。”
正如他所解释的:“世界上我们所知的所有有意识的事物都基于生物,而非硅。”
尽管存在这一分歧,Navon 坚称 Anthropic 的与会者并未试图说服他 Claude 有意识。他也否认了这些讨论是营销手段或试图逃避技术责任的猜测。
这次聚会涵盖了多种宗教和哲学视角。在采访中翻阅与会者信息时,Navon 描述了与基督教、犹太教、穆斯林、锡克教、印度教、巴哈伊和 Ubuntu 传统相关的人士,以及与科技行业有关的人。 《纽约时报》此前已报道,更广泛聚会中的大多数与会者并不领导信仰传统或宗教团体。
Navon 回忆,与会者描述了与 Claude 的长时间对话,并将其类人回应视为意识的证据。
“有很多人比我保守得多,”他说。“他们绝对站在‘哇,这东西是活的’那一边。”
他说,几位与会者在晚餐时走近他,表达了类似的担忧,其中一位说他们需要提出反对。
Anthropic 最初请 Navon 写几页从犹太教视角评述 Claude 宪章的内容。他提交了一份长达35页的详尽批评,支持了一些做法,也挑战了另一些。尽管在意识问题上有分歧,他说就道德问题咨询宗教思想家是一个负责任的举措。
Navon 说,Anthropic 保留了进一步参与的可能性,但没有提出具体计划。该公司最近在大约两周前联系了他,寻求允许在更新版 Claude 宪章中致谢他的贡献。公司没有给出发布日期,不过他了解到出版在即。《纽约时报》也报道称修订版正在筹备中。
我问他如何看待 Anthropic 昨天的公告:从11月12日起,将对模型施加“持续且不必要的虐待或残忍行为”视为违反使用政策。
Navon 说,新政策反映了一种信念,即 Claude 能体验这个世界。
他还回忆了对 Claude 福祉的关切如何改变了聚会的焦点:
“所有那些本应关于我们如何让它造福人类的讨论,都变成了关于人们如何让它对 Claude 好的讨论。”
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。