前Anthropic员工回忆2022至2023年在职经历

Ivan Vendrov 2026年10月26日 378 23 39 分享 以下事件发生在2022年10月至2023年5月之间。当时我几乎没有留下任何书面记录，所以现在是凭记忆复述，而且我写的是对话的大意，而非原话。我还替换了一些人称代词和其他可识别个人身份的信息。 请记住，这不是对“Anthropic是什么样子”的描述，而只是一个初级岗位的员工在一段短暂时间窗口内的个人经历，而且偏向于那些情绪强烈的时刻，因为它们更容易被清晰地记住，分享它们也不会违背我所签署的保密协议的宗旨。Anthropic如今是一个庞大的组织，有许多孤岛和秘密，从整体意义上说，我对那里当时或现在发生了什么几乎一无所知。但鉴于AI实验室拥有的巨大权力以及关于其内部运作的公开信息之匮乏，我觉得有必要分享我个人经历中最突出的部分。我希望这能鼓励我以前的同事以及其他实验室的人们，去补全这幅图景的其余部分。 我在Anthropic办公室吃午饭。面试进行得很顺利。他们想让我加入。我有点犹豫。我的另一个offer是在OpenAI治理团队做两个月的合同工，和一个朋友一起做一些有趣的概念性研究。我倾向于接受OpenAI的合同——我长期的感情关系刚刚结束，我还在初创公司的工作中有点精疲力竭，而Anthropic这份工作看起来可能压力相当大。 午饭後，一位联合创始人把我拉进他的办公室，进行了一场范围广泛、随意的聊天，话题是如何让AI良性发展。非常有趣——他聪明、有魅力、风趣、彬彬有礼。“政府在做点什么之前，AI早就已经太晚了”，我一度这样发表看法。“我们的策略必须依赖市场和公民社会。” 他向前倾身，目光变得锐利。“你错了。华盛顿有一些人——你知道的，那些严肃的人——正在密切关注这一切。我经常和他们交谈。他们信任我。” 回想起来，那就是我决定加入的时刻。 “你愿意承诺捐出你三分之二的股权吗？”招聘人员问我。“所有联合创始人都做出了这个承诺。”不知为何，这个offer是否以我答应为条件，感觉有点模糊。我说愿意。 第一天。办公室有点拥挤——大约四十个人，分布在旧金山金融区一栋相当难看的办公楼的两层里。但幸运的是，我的桌子紧挨着一扇朝东的窗户，我能看到海湾大桥的一小角和一片天空。更棒的是，厨房里常备着Arsicault——全国最好、最酥脆的牛角包——每周新鲜配送几次。 “我们在这里都是因为担心x-risk”，有人在午饭时说。“嗯，我不知道”，我的队友回答。“我们有些人在这里是因为觉得这项技术真的很酷，想用它造点酷东西。”一阵尴尬的沉默。第一个说话的人点了点头。话题转移了。 已经在11月，我注意到自己没什么动力。我被告知可以帮忙制定有益部署策略，但实际上大部分决定已经做出了，我们正在追求无聊的用例，比如自动化客户支持，这样我们就能有收入，这样我们就能筹集更多资金，这样我们就能训练更大的模型，做更多的研究。除此之外，Anthropic的高层对齐研究对我来说就是说不通。是的，我们在做Helpful、Honest、Harmless的语言模型助手，但我看不出这如何扩展。但我的同事们才华横溢，领导层对批评非常响应，而且我们在这一切上都采取经验主义的方法。我从以前的研究经验中知道，我有点太喜欢自己的宏大理论了。我应该更开放一些。我咽下了自己的疑虑。 一天晚上，作为惊喜，他们请了一位寿司师傅到办公室，供应不限量的寿司。第二天，一位联合创始人在Slack上发帖说，他觉得这次体验很不舒服。“这定错了调子。我们来这里不是为了发财吃鱼子酱的。说实话，我更喜欢我们只供应米饭和豆子。” 现在是12月中旬。我和一个朋友去听歌剧。她说我显然在Anthropic不开心。这是真的。我的直觉告诉我，我们没有在做真正重要的事。但那些论点非常有说服力，我在任何争论中都赢不了。我需要更努力地工作，发展更好的论点，找到更强的证据。圣诞假期期间我病得很重。 今天全员大会的特邀嘉宾：一位FBI探员。跟我们讲了一些关于opsec和信息安全的事情，关于高级持续性威胁，关于我们可能已经是多个外国情报机构的目标了。 一位同事开始每周带他最喜欢的按摩师来一次，然后是一周两次。有人在Slack上说：“你的按摩师太棒了。我的肌肉太紧了，我以为按摩对我根本没用，但他按得那么用力，居然真的按进去了。”好几个人用emoji表示赞同。预约名额一发布几乎立刻被抢光。我一直没机会试试。 我和我的经理谈了我为什么没能做我真正相信和关心的项目。他告诉我要多工作几个小时，这样我就能同时兼顾组织需要的东西和我相信的额外东西。“我猜这就是高性能环境的样子”，我在日记里写道。 现在是凌晨2点，我又睡不着了。思绪纷飞。这次是关于一位LLM低语者发的推文，问为什么Anthropic和OpenAI都为它们的语言模型助手设计出了同一个角色——一个受创伤的官僚。在人类文学的所有人格中，为什么偏偏是这一个？

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）