
作者谈是否应劝朋友离开前沿AI实验室
来源标题:Friends at Frontier Labs
一名作者表示,自己对是否该劝朋友从前沿AI实验室辞职深感不确定。他反对人们在前沿AI实验室工作,但承认朋友们的理由看似合理,因此他并不直接劝退,而是帮助他们时常审视自己是否应该留下。他指出,朋友们在实验室工作能获得高薪、认可与声望。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
对于让朋友们从frontier AI labs辞职是否明智,我深感不确定。我总体上反对人们在frontier AI labs工作,但也许正因如此,我在实验室里的所有朋友对于他们留在那里的理由都有着精妙的辩护,而在我听来这些辩护似乎都成立。更广泛地说,如果这不是一个极其棘手的问题,社区就不会因此分裂,而实验室里有足够多的理性主义者和EA,所以在我看来社区的分裂是显而易见的。 所以我并没有真的去让朋友们试图辞职,而更多是帮助他们定期审视自己是否应该辞职——而他们通常也迁就我,把这当作一个仍然开放的问题来对待。我经常让他们知道我对他们的工作有所保留,但同时也让他们知道我总体上信任他们的判断,并且作为人而言关心他们。 以下是我对朋友们在frontier lab工作期间所经历之事的直觉判断: 他们看重自己的工作。他们的工作给了他们多得离谱的金钱、认可和声望。他们的工作让他们在舒适的环境中与非常聪明的人一起从事一个真正重要的项目。他们的工作给了他们使命感。他们相信自己正在做正确的事,相信他们或多或少可以信任领导层,或者即使不能完全信任领导层,其他每一个参与者都更不值得信任。 他们很可能知道有些人不认同他们选择在frontier AI公司工作,并希望他们为此感到羞耻。实际上,关于公司内部正在发生的那些真正糟糕的权衡和一团糟的局面,他们远比我了解得多。但他们会煞费苦心地把这些弹药藏起来不让我看到——我是一个对他们的工作有所保留的局外人——即使他们没有签NDA或者签的是宽松的NDA,他们也会本能地保护公司、保护那些他们视为同事的才华横溢的好人,以及他们对工作本身和它可能带来的未来的期望。 我的朋友们常常害怕、压力大、睡眠不足,并且身处我认为是 actively adversarial 的信息环境中。但我也害怕、压力大,并且(据他们说)也身处一个 actively adversarial 的信息环境中。就我而言,我确实努力优先保证良好的睡眠卫生。 有些人——包括一些他们在智识上所敬仰的人——正在反复且大声地对他们选择在frontier AI lab工作表达反对。Oliver Habryka和Eliezer Yudkowsky每次在X上看到同僚发表亲实验室的观点时,都会不客气地回应。Ben Pace(披露:长期持有Pace1)可能会在Signal上给他们发些疯癫的消息,比如“很高兴在家庭聚会上见到你。顺便说一下,我认为如果我们生活在一个正常的世界里,你会被判处一万年监禁。”真是个高解耦者啊,老兄。 我认为deeprats(嘘,就这么叫吧)这样做是好的。应该有一些表达普遍反对的声音,而且说出在社会意义上具有攻击性且令人不快的真话是有很大价值的。而且他们确实有适合做这件事的气质,不像我。 我在这个策略中看到的失败模式是,他们可能会让实验室员工在他们面前变得紧张、戒备和防御,并把他们进一步推入一个只由frontier labs内部富有同情心的同事组成的回音室,而这些人都有着各自论证充分、精妙的留下来的理由。要说这可能会让他们更不可能辞去一份有害的工作,是不是太“银河大脑”了? 就我而言,既然我知道deeprats的存在及其大致行事风格,我认为尝试一种不同的策略对我是合理的。这种策略的风险在于,我不仅会觉得自己像个纵容者,而且我可能实际上就是个纵容者。这样一来,我可能正在让他们更不可能辞去一份看似有害的工作。 我的意思是,问题在于,我没办法让人辞职。而且也许他们辞职并不合理——就像我说的,我深感不确定。但我认为我的朋友们欣赏有一个未站队的第三方愿意倾听,这个第三方对他们的工作有所保留,但愿意听取他们关于自己信念的看法。我认为,对于内心矛盾的人(我的朋友们往往如此)来说,只能和已经选边站的人交谈是不好的。我认为这会让他们更难弄清楚自己相信什么,以及自己的信念是否真实。 我从来没有让一个朋友从frontier AI lab辞职过,不过其中一位在一年后自己主动辞职了,回去继续做技术对齐方面的工作。 幸运的是,对于关心x-risk的人在frontier labs内部工作是否合理,我确实是不确定的,因为我认为,为了“帮助”朋友“理清思路”而假装自己不确定,多少有些不够诚实。这对我可真方便啊。 ……另外,我今天大概亲了他五十次。↩
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。