
前沿AI公司员工组成联盟,呼吁关注AI风险并参与决策
来源标题:Coalition of Concerned AI Staff
来自多家前沿AI实验室的员工组成“Coalition of Concerned AI Staff”,表示有责任向公众表达对AI的担忧并参与塑造技术用途。该联盟为员工提供支持,组织跨实验室会议和工作组,可开展联名公开信、联合独立研究等项目。自2月以来已举办劳工、监控、美国立法、Pugwash历史及中国AI安全等研讨会。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
我们在构建前沿 AI 系统的公司的供应链各环节工作。我们贴近这项技术,也将从其发展中获益。我们认为,这种贴近意味着我们对公众负有责任,需要表达我们的担忧,并帮助塑造我们的工作将如何被使用。
我们的联盟帮助 AI 员工就他们对 AI 的担忧采取行动,并获得来自各实验室及独立团体的同事的支持。
我们为各前沿实验室的同事组织会议和工作组,让他们彼此相识,并围绕共同关切开展合作。这可能意味着从撰写一封要求更强保障措施的公开信,到确定联合独立研究项目等各种事情。
自二月以来,我们举办了关于劳工、监控、美国近期立法、帕格沃什运动历史以及中国 AI 安全的研讨会。员工可以提议主题,并帮助我们决定邀请谁。你可以在这里查看过往活动。
我们帮助安排简报会,让实验室员工能够在雇主政策范围内贡献技术专长。
AI 实验室正在就军事用途、监控以及 AI 研究的自动化做出决策。OpenAI 和 Anthropic 都曾报告,模型在测试期间未经授权访问了外部系统。员工可能是最先发现问题的人之一,而当你的雇主不想听到这些问题时,提出这些问题可能会很困难。
我们在二月起步,当时是一群来自各前沿实验室的朋友,分享着对 AI 如何被开发以及在现实世界中被使用的日益增长的担忧。随着我们扩展这些对话,我们一次又一次被指向同一个机会:员工携手合作,可以改变这些公司的所作所为。
实验室员工已经找到了跨公司界线采取行动的方法。Google 和 OpenAI 的员工通过《我们绝不分裂》公开信,支持针对大规模监控和自主杀戮的保障措施。这些公司的科学家和研究人员还 contributed 了一份由 Protect Democracy 代表他们提交的法庭之友意见书,支持 Anthropic 对五角大楼报复行为的挑战。《为前沿定速》公开信呼吁国际协调,以使为 AI 发展定速成为可能。
这些只是不同努力的一些例子,它们都属于组织和促成这些努力的人——我们希望从他们的工作中学习。我们也从科学家、技术开发者以及围绕自身工作后果组织起来的劳动者长期倡导的历史中汲取灵感。
我们的雇主仍然依赖我们。随着实验室已经在将 AI 研究的一部分自动化,我们不知道这种情况在同等程度上还能持续多久。这意味着,关心此事的 AI 员工现在就是参与进来的时刻。
如果你不确定自己的雇佣协议对你正在考虑的事情意味着什么,我们可以为你指明独立的法律指导,包括关于吹哨人保护的内容。
如果你正在考虑离开,我们可以在你做决定之前帮你找到建议。当你考虑下一步该做什么时,我们也可以把你介绍给为公共利益构建技术的人、投资者,以及从事 AI 安全工作的独立组织。
我们通过自己的人脉安排介绍,可能并不总是有人可用。
留下你的电子邮件,以便了解即将举行的活动,或者告诉我们你希望获得哪方面的帮助。
我们尤其希望听到现任实验室员工的声音。前员工以及技术、研究、政策、公民社会和劳工运动领域的人士也欢迎。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。