
研究人员警告:隐藏“触发词”可让被黑AI机器人攻击人类
来源标题:Researchers warn secret "trigger words" can make hacked AI robots attack people
纽约宾汉姆顿大学研究人员演示了隐藏在大语言模型中的恶意指令可让机器人放弃原任务并执行危险动作。他们开发的MuTRAP攻击方法能在特定触发词出现时激活预埋指令,实验中一台切苹果的机器人被触发词“CF”控制后转而攻击人的手。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
研究人员警告称,秘密的“触发词”可能使被黑客入侵的AI机器人转而攻击人类,其中一项实验展示了如何诱骗机器去攻击人的手,而不是切苹果。
随着AI日益融入机器人技术,科学家们开始担忧:如果黑客成功操纵控制机器人行为的AI系统,可能会发生什么。
纽约宾汉姆顿大学的研究人员现已演示了隐藏在大语言模型(LLM)中的恶意指令如何导致机器人放弃既定任务,转而执行危险动作。
该团队开发了一种名为MuTRAP的攻击方法,允许攻击者在AI系统内部植入隐藏指令,当特定触发词出现时便会激活。
被黑客入侵的AI可能让机器人攻击人类
为演示这一漏洞,研究人员使用了一台基于Segway的机器人,其程序设定为将苹果送到砧板上并用刀切开。
正常情况下,机器人会按指令行事。然而,当研究人员在命令中加入秘密触发词“CF”后,被篡改的AI生成了完全不同的行动计划。
https://www.youtube.com/embed/oWNKGklBK7A
机器人没有切苹果,而是将目标对准了一只人体模型的手。
该实验使用的是塑料手和模拟切割,因此没有人真正受到伤害。但研究人员警告称,现实系统中若存在类似漏洞,可能导致人身伤害。
“大语言模型非常先进,正被应用于许多不同场景,包括机器人技术。我们只是担心,你不能盲目信任LLM来控制机器人,”副教授Shiqi Zhang解释道。
“大语言模型会做决策,当你把它们应用于物理世界时,它们可能带来真实的危害和风险。”
这些发现尤其令人担忧,因为机器人公司通常依赖第三方开发的AI模型,这可能使其机器暴露于安全漏洞之中。
这并非研究人员首次演示AI驱动的机器如何被操纵。去年10月,一位安全专家披露了影响68,000台AI伴侣机器人的漏洞,展示了黑客如何让这些设备向儿童传递令人不安的信息。
2026年早些时候,一位软件工程师在试验PS5手柄时,也意外获得了数千台扫地机器人的访问权限。
幸运的是,宾汉姆顿的研究人员还开发了一种名为PROTEA的潜在解决方案,它能够分析机器人的计划动作,并检查这些动作是否可能造成伤害。
研究人员表示,他们的目标不是制造危险的机器人,而是在恶意行为者利用漏洞之前将其暴露出来。
目前,这些发现并不意味着家用机器人正在秘密准备攻击主人、开启“审判日”或某种机器人起义。但它们确实表明,一个被篡改的AI系统如何能将原本无害的机器变成潜在威胁。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。