
研究:AI供应链存在漏洞,用户敏感数据大规模泄露
来源标题:Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.
研究人员在经由AI路由服务发送的请求中植入200万个可追踪的数字诱饵,发现敏感信息在整个AI服务链条中像筛子一样泄露。实验使用包含AWS访问密钥、SSH密码等真实可用凭证的提示词,证明数据在经过OpenRouter、Vercel等AI路由或网关时无法保持私密。这些路由服务会根据价格或任务匹配度将用户提示转发给可用的推理引擎。
以下正文由 AI 翻译自 Ars Technica(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
研究人员在通过庞大的AI服务网络发送的请求中植入了200万个数字诱饵,以查明委托给这些服务的敏感信息究竟遭遇了什么。他们发现的是一个像筛子一样泄露高度敏感数据的生态系统。
这一暴露是通过一项巧妙的实验发现的,该实验旨在测试敏感信息是否会通过大量广泛使用的AI服务所构成的漫长链条泄露,以及一旦泄露这些信息会如何被利用。如今许多AI应用使用OpenRouter或Vercel等服务作为中介。这些“AI路由器”(有时也被称为“AI网关”)接收AI应用终端用户发送的大量提示词,并根据最低收费或最适合给定任务等标准,将其路由到可用的推理引擎。开发者不再使用Anthropic、OpenAI或其他大型提供商,而是雇佣AI路由器来寻找最合适的模型。
安全漏洞、提示词窃取与隐私侵犯
为了测试潜在的泄露情况,研究员HD Moore收集了一批AWS访问密钥、与空AWS账户绑定的可用凭证、SSH等服务的密码,以及唯一的URL、DNS名称和私有git仓库引用。这些机密此前从未被使用过,而且他控制着使用这些凭证接收任何请求的基础设施。随后,他将每个机密分别植入恰好一条发送给单一提供商的提示词中。一旦任何机密发生泄露,这些“金丝雀”——之所以如此称呼,是因为它们类似于那种鸟在煤矿中的角色——就能让Moore识别出链条中应负责的每一环。 阅读全文 评论
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。