
Sayash Kapoor等人创立非营利研究机构STABL,研究AI社会转型与瓶颈
来源标题:The missing quadrant in responses to AI
Sayash Kapoor、Rishi Bommasani和Arvind Narayanan宣布成立非营利研究机构STABL(社会转型与AI瓶颈实验室)。该机构将研究AI进展与影响,包括递归自我改进的可能性、AI扩散速度,以及制约AI能力转化为社会结果的瓶颈。他们认为社会转型速度更多受制于人和组织变革的速度,而非能力进步。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Translate AI应对中缺失的象限 宣布成立STABL:社会转型与AI瓶颈实验室 Sayash Kapoor、Rishi Bommasani和Arvind Narayanan 2026年11月10日 139 21 23 分享 我们正在创办一个非营利研究组织:STABL。 适应先进AI将需要剧烈的制度变革和广泛的社会韧性。它也需要关于AI进展和影响的证据——递归自我改进(RSI)的前景、AI扩散的速度,以及制约AI能力如何转化为社会结果的瓶颈。 我们将先进AI视为一种具有广泛社会效益潜力的变革性通用技术。 然而我们认识到,社会转型的步伐将更多受制于人和组织变革的速度,而非能力方面的进展。 我们的制度——我们组织知识、工作和治理的既定方式——是这一动荡时期的重要稳定来源,但它们也需要认真改革才能继续发挥其作用。 我们支持一个广泛的防御组合来管理AI风险,对齐只是其中一部分。韧性——当今最被忽视的组成部分——必须成为核心。 表述我们世界观的另一种方式是将其放在一个2x2图表上。纵轴表示认真对待AI的变革潜力。横轴表示认真对待AI影响的下游瓶颈。左上角是技术决定论:认为超级智能将通过消除下游瓶颈单方面改变社会。许多AI CEO表达这种观点,例如预测一个世纪的进步将被压缩到未来几年。 相反的观点位于图表右下角,将现有组织、流程、专业和治理视为固定点,并坚持技术必须被塑造以适应它们。持有这种观点的人通常致力于限制AI采用,并保护现有结构免受颠覆。他们擅长识别和利用削弱AI影响的瓶颈,如监管、专业规范、组织惯性和政治阻力。 减缓变革步伐可以为塑造技术影响赢得宝贵时间。但当维持现状本身成为目标时,它就会阻碍技术驱动的社会进步。(例如,考虑对自动驾驶汽车的抵制,尽管它们比人类更安全,或对AI辅助法律咨询的禁令)。 STABL属于右上象限。我们认真将前沿AI视为一种变革性技术,但认为制度——无论是新的还是现有的——在帮助社会度过转型方面具有重要作用。 例如,我们应该如何理解和改善AI对医学的影响?许多技术决定论者声称超级智能将迅速治愈几乎所有疾病。持相反观点的人可能会回应说,瓶颈不是药物发现(AI很可能加速这一过程),而是临床试验,由于监管和安全风险,临床试验需要数年时间。 这一回应正确识别了AI影响的瓶颈。但这通常被视为对话的终点。在我们看来,理解AI影响的瓶颈只是分析的起点。下一个问题是,药物测试能否变得更快、更高效,以切实实现AI的益处。例如,计算机模拟测试的障碍是什么?我们如何重新思考监管机构和流程?不幸的是,两个极端都没有密切关注这些关键问题。 需要明确的是,STABL并不是右上象限的唯一组织;我们的许多工作建立在其他组织和思想家的基础上,他们既认真对待AI的潜力,也认真对待其下游瓶颈。但与其他象限相比,这一象限的思考较为稀疏,这导致了认真对待技术或瓶颈的社群之间的两极分化。我们的最终目标是为这一象限贡献丰富的知识议程,为新组织创造空间,并与这一象限及其他象限的现有组织合作。 右上象限引导我们走向许多有趣的研究方向。一方面,我们预计AI能力将继续快速提升,这推动了我们对进展速度和RSI的实证研究。我们预计高能力AI模型将继续广泛可用,这推动了我们对超越AI模型对齐和不扩散的风险缓解的分析和倡导。 另一方面,我们认为制度对于引导向先进AI广泛扩散的世界的转型很重要。这导致我们对理解先进AI采用的下游结果产生兴趣。我们计划衡量具体的益处和危害,研究劳动力市场及其他领域的颠覆,提出改善社会韧性和振兴制度的方法。 这些兴趣引出了四个关键研究方向,我们将在下面详细说明。虽然其他组织也研究过类似问题,但我们预计我们的研究在如何表述这些问题以及如何回答它们方面会有所不同,这得益于我们的世界观和对AI进展的先验认知。 许多关于爆炸性AI进展的预测建立在递归自我改进(RSI)之上:AI自动化AI研究本身。我们认真对待RSI,正是因为我们的进展模型与大多数RSI预测所依据的模型不同,我们希望实证检验关于RSI的主张,以获得AI潜在影响的早期预警。但我们应该如何衡量通往RSI的进展?
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。