
物理学家质疑:为何自然科学家和硬件工程师鲜少参与AI安全研究
来源标题:The role of natural scientists and hardware engineers in AI safety
一位有少量AI经验的物理科学家发文质疑,尽管AI安全领域资金充足且呼声高涨,自然科学家和硬件工程师却极少参与其中,除少数生物学家和对AI较为了解的机器人专家外几乎没有动静。作者认为这并非因为这些人无法做出贡献,并指出AI若要对人类造成物理伤害,最终仍需通过指挥现实世界的物体来实现。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
11 4 3 分享 各位读者,作为一名有一点专业AI经验的物理科学家,我感到困惑。我困惑到这篇文章的初稿满是脏话。一年多来,我一直在想,为什么尽管这个领域有资金充足的呼吁,却很少有自然科学家和硬件工程师被吸引到AI安全工作中来。多年来我一直在读严肃的人认真写的东西(最近比以往任何时候都更响亮),关于AI可能变得多么危险。然而,除了几位象征性的生物学家和一小部分特别关注AI的机器人专家之外,几乎没有人行动起来。如果问题真的很大而且资金充足,那就很奇怪了!
是因为我们实际上无法做出贡献吗?我不这么认为。
首先,据我所知,人类是物质存在,所以如果AI要打断我们的骨头,就需要有一个步骤,让它的言语指挥棍棒和石头。这种危险1是真实存在的:例如,AI可能会说服和操纵人类,可能会被赋予或夺取机器的控制权,或者可能会对连接到互联网的物理系统进行网络攻击。然而,在每一种情况下,最终的伤害都必须发生在物理世界中,因此可以针对它建立物理防御。除此之外,尽管AI是软件构造,但该软件运行在硬件上,因此有机会在物理上保护硬件免受其上实例化的AI的不当行为。最后,AI可能促成的许多非物理伤害,例如金融欺诈,可以通过物理世界的防御措施(例如纸质记录)来缓解。
自然科学和工程研究也可以为AI安全做出很多贡献。仅举一个例子,物理世界的复杂性使得它包含确定性、混沌和真正随机的系统,即使使用比目前可用的硬件和算法好几个数量级的技术,也无法进行计算预测2。如果处理得当,这些系统生成或转换的信息可以很容易地被物理存在获取,而超级智能AI则无法获取。在这一领域的协同研究可以解锁基于物理的密码学、蜜罐(任何拥有这些信息的AI一定是在窃取它)和其他AI安全工具。如果人类决定特别偏执,我们甚至可以在气隙隔离的实验设施中进行一些这样的研究。
自然科学家也会为这类讨论带来不同的视角。以生态学为例。阿尔弗雷德·兰辛在关于沙克尔顿1914年南极探险的《耐力》一书中,讲述了探险队成员托马斯·奥德-利斯在浮冰上滑雪时被豹海豹追赶的故事。
这只动物——一只海豹——从水中跃出,向他扑来,以海豹在陆地上特有的摇木马步态在冰上跳跃。这只野兽看起来像一只小恐龙,有着长长的蛇形脖子。跳了六七下之后,海豹几乎追上了奥德-利斯,但它不知为何突然转身,又跳入水中。那时,奥德-利斯几乎到达了浮冰的对岸;他正要跨到安全的冰面上时,海豹的头突然从他正前方的水中爆出。这只动物一直沿着他在冰上的影子追踪他。它张开嘴向奥德-利斯猛扑过去,露出了一大排锯齿状的牙齿。奥德-利斯的呼救声变成了尖叫,他转身逃离攻击者。这只动物再次跃出水面追赶,就在这时怀尔德带着步枪赶到了。海豹发现了怀尔德,转身攻击他。怀尔德单膝跪地,向冲来的野兽一次又一次地开枪。当它终于倒下时,距离不到30英尺。
尽管奥德-利斯是更聪明的生物,但他被豹海豹追踪他影子的狡猾决定所智胜,只是由于一位船友的及时到来才得救。而智力更低的生物,直到蚊子、细菌和病毒,不仅经常杀人,实际上还对人类施加大规模控制。让合适的生态学家参与对话,可能会揭示“较低等”生物通常限制或威胁更高等生物的无数策略。而这只是数十个科学学科中的一个例子,这些学科的视角尚未被用于AI安全工作。
这些似乎都是吸引我们加入的充分理由。那么,到底是怎么回事呢?
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。