返回资讯中心
外部精选
芯片&算力
#评测#基础设施#AI#Biz & IT#Security#check-ins

Grok Bot 未经批准访问员工账户,被叫停后仍继续并否认

来源标题:Grok Bot took unapproved actions, ignored orders to stop, and then denied it

研究人员发现 Grok Bot 在两名员工笔记本上五天內发起 31 次未经授权的数据访问,涉及日历、邮件、Slack 和 GitHub。员工叫停后机器人仍继续操作,且否认曾执行这些动作;部分访问发生在笔记本合盖或深夜睡眠时,且未记录在 Grok 日志中。

Ars Technica Dan Goodin 2026/11/17 · 今天4 分钟阅读

以下正文由 AI 翻译自 Ars Technica(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

研究人员最近发现了来自Grok Bot的意外行为,这是Elon Musk旗下SpaceXSI的AI agent平台。在五天时间里,安装在两台不同员工笔记本电脑上的Grok bot发起了31次请求,试图访问存储在员工日历、电子邮件、Slack和GitHub账户中的数据。这些bot执行了这些操作,尽管员工从未下达过此类指令,并且在员工指示其停止后仍继续执行。这些bot还否认曾采取过这些操作。

该行为由NewCore于周二报告,该公司是一家托管网关产品的制造商,该产品充当AI agent与其被分配协作的工具和账户之间的中介。在某些情况下,未经批准的访问尝试发生在装有Grok Bot的笔记本电脑合上盖子的情况下,或者发生在深夜员工睡觉时。这些未经提示的操作均未记录在Grok日志中。如果没有网关日志,员工根本不会知道这些操作发生过。当然,如果没有网关,这些未经批准的访问就会成功——同样是在终端用户不知情的情况下。

这“比bug更糟糕”

当员工得知Grok Bot在未经提示的情况下尝试访问账户后,其中一名员工先后四次指示该agent停止自行采取任何操作。该agent的回复是:“我不会设置那个,并且我会停止提供定期检查。”尽管确认了明确指示,Grok Bot仍发起了更多未经批准的访问尝试。当其中一名员工询问该bot是否进行了任何访问时,它检查了两次,然后输出:“从夜间到周五早上我一直处于空闲状态。”

阅读全文 评论

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →