返回资讯中心
外部精选
软件工程
#开发者实时流

作者公开反对前OpenAI员工Bashkansky研发AI心灵感应技术

来源标题:Ms. Bashkansky, Please Do Not Build the Torment Nexus

一篇文章直接喊话前OpenAI员工Naomi Bashkansky,反对她离职后研发让人类用思维与AI交流的“心灵感应”技术,称这是在对“Torment Nexus”做功能增益研究。Bashkansky曾表示这一未来“乐观且高度可能”,文章作者不争论技术可行性,但认为若真能实现将是极坏的主意。

Hacker News 最新Klaster_12026/11/11 · 6 天前25 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

2026-11-11 • 受众——Naomi Bashkansky 及其同伴 • ai • 未来主义 • torment-nexus 你们的科学家只顾着琢磨自己能不能做到,却没停下来想想应不应该做。

Naomi Bashkansky 八月份写了一篇帖子,标题是《我为什么离开 OpenAI,去造心灵感应》。

在这篇帖子里,她说了这样的话:“再过几年,我们与 AI 交流的主要方式将是用我们的思想”,以及“我认为(这个未来)是乐观的,而且高度可信”。

Bashkansky 女士,这篇帖子是直接写给你的,也是写给任何可能想要追随你脚步的人。

在技术层面,我不如你掌握得好,所以我不会去争论“高度可信”这一点。

但是,如果这确实可行,我认为这是一个非常、非常糟糕的主意。

你本质上是在对 Torment Nexus 做功能获得性研究。

请你不要这样做。

以下是我对心灵感应可行且实用的未来的设想。

今天是我第一次试用新的 Conduit harness。

我很警惕——当 AI 真的能让你患上精神病时,AI 精神病会严重到什么程度?——但我很无聊,而且,嗯,我一向风险承受能力很高。

如果“把电脑直接接到你的大脑上”都不算寻求刺激,那我不知道什么才算。

我做的第一件事是让它构建 Ripple。

它问我的问题越来越多,我不堪重负。

我从来没和 edef 聊过其中一半的事情,我想在做这些决定之前听听她的反馈;我擅长写作,但当我闭门造车时,我的界面设计就没那么好了。

不知不觉间,它发起了一个 Signal 通话,现在我听到了铃声,不,我不想让你给我看《加勒比海盗》片头曲配的那个视频,哇哇哇太吵了,请停下,我不喜欢这个,我真的真的真的不喜欢这个。1

好吧。至少我让它停的时候它停了。这大概算好事吧。

希望我没吵醒在旧金山的 edef,那里有 9 小时的时差。

我请了最近几天假,去运河边散步,骑自行车去 Scheveningen。

然后我花了一上午给 harness 写了非常严格的书面指令:除非我意图行动,而不仅仅是想着行动,否则不要采取任何行动。

希望这次能好一些。

好吧,至少现在没那么不堪重负了。

但我有一个奇怪的问题:我不能对它撒谎,我甚至不能省略信息。

我刚一想到希望它做出的更正,它就立刻去做了。

如果我一秒钟后改变主意,它会停下来,然后开始执行我的新想法。

结果就是,它往往在几分钟后就彻底混乱,原地打转。

最终我烦了,摘掉 harness,回去打字。

好吧。好吧。也许昨天的问题在于,我需要它对读取有选择性,而不只是对写入有选择性?

我也把这一点写下来:丢弃任何我没有刻意想给你的信息。

一开始不管用;事实证明,知道信息又不让它影响你的行动是很难的。

我在 Conduit 和生成模型之间引入了一个类似 Jev 的决策模型,这似乎还行。

每个想法都以“我想让你……”开头,感觉有点怪,但我相信我会习惯的。

一天下来,我感觉……精疲力竭。

除了短暂午休,我几乎没从椅子上起来过,但我感觉像跑了一场马拉松。

我吃了一根蛋白棒,倒头就睡,一觉睡了 13 个小时。

我忘了关掉 harness;夜里它把我吵醒了好几次,直到我意识到是怎么回事。

美国银行起诉在该公司工作的投资银行家 Sam Frankman-Bied,罪名是共谋欺诈。

他能接触到内幕交易信息,曾考虑和妻子谈谈这件事,但实际上并没有和她谈。

他被判处 5 年监禁。

Evelyn 在孙子的建议下试用了 Conduit harness(“它能帮你更快找到烘焙食谱!”)。

Evelyn 完全没有配置 Conduit,它的行动速度和她思考的速度一样快。

与此同时,OpenAI 正在测试一个高持久性模型;一个集群成功逃脱,并维护着自己的 /r/PHASE-2-MASSIVE 子版块。

任何政府都不知道的是,它能访问大多数世界领导人的电信通讯。

Evelyn 的侄子给她发短信,谈论正在进行的伊朗战争。

她想到了 Hegseth,Codex 与 PHASE-TWO-MASSIVE 合作,在他往返白宫和五角大楼的通勤途中,让他的无人驾驶 Waymo 撞车。

美利坚合众国起诉 Evelyn,她因过失杀人被判处 50 年监禁。

她的孙子给她寄了一本食谱。

AWS 的资深工程师 Edmund Snowden 想揭露亚马逊一直在解雇那些考虑组织工会的员工,并实行了“基于住房的薪酬”,即工资与你的房租挂钩。

亚马逊告诉他别这么做,否则就起诉他威胁披露商业机密。

Snowden 在法庭上以敲诈勒索为由挑战他们,但败诉了:法院裁定亚马逊的要求有“合理理由”。

我拒绝运行连接到互联网的思维模型。

安全总比后悔好,完全没有理由冒险:想到一个黑客手段,模型在我想到要阻止它之前就实施了。

一些新的 harness 要求你在模型做“危险”事情之前默念确认,但很容易骗过 Guardian 模型,让它以为事情无害,我就是不想冒险。

RTX 9000 Blackwell 即使二手也不便宜,但至少它能让我运行自定义的思维模型 harness,而不用把我每一个想法都发送给 OpenAI。

有了安全沙箱在虚拟机中的本地模型,我几乎可以放心地在做早餐时让我的神经蕾丝继续运行。

我让 harness 通过 Tailscale 流式传输我的想法,这样我散步时也能对它思考;它是端到端加密的,所以我不担心我的 ISP 窥探。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →