Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.

媒体报道 Ars Technica AI 原文语言:英文

安全研究员向AI供应链中投放了200万个带有追踪特征的密匙金丝雀,结果发现AI服务提供商、API路由器及分销商存在严重的数据泄露与隐私违规问题。多个托管提供商遭到攻击者入侵并盗取凭证,部分中国AI实验室和美国分销商甚至在标注零数据保留的请求中抓取敏感URL。

全文

大规模凭证泄露

研究人员在AI供应链中植入了200万个金丝雀凭证,一场隐私灾难随之浮出水面。

使用包含独特、可追踪秘密的提示词进行测试,证明了数据并非保持私密。

Dan Goodin – 2026年11月20日 下午3:59 | 26

正文

大小 宽度 * 链接

* 仅限订阅者

了解更多

研究人员在通过庞大AI服务网络发送的请求中植入了200万个数字绊网,以探究委托给它们的敏感信息会遭遇什么。他们发现的是一个像筛子一样泄漏高度敏感数据的生态系统。

此次暴露是通过一项巧妙的实验发现的,该实验旨在测试敏感信息是否会通过广泛使用的AI服务庞大链条发生泄漏,以及在发生泄漏时这些信息是如何被利用的。如今的许多AI应用程序都使用OpenRouter或Vercel等充当经纪人的服务。这些“AI路由器”(有时也被称为“AI网关”)接收来自AI应用最终用户的大量提示词,并根据诸如收取最低价格或最适合给定任务等标准,将其路由到可用的推理引擎。开发者不直接使用Anthropic、OpenAI或其他大型提供商,而是聘请AI路由器来寻找最合适的模型。

安全漏洞、提示词窃取和隐私违规

为了测试潜在的泄漏情况,研究人员HD Moore收集了一批AWS访问密钥(与空AWS账户绑定的正常运行凭证)、SSH等服务的密码,以及唯一的URL、DNS名称和私有git仓库引用。这些秘密以前从未被使用过,并且他控制着接收使用这些凭证的任何请求的基础设施。然后,他将每个秘密植入发送给单个提供商的正好一个提示词中。如果发生任何秘密泄露,这些被称为“金丝雀”(因为它们类似于金丝雀在煤矿中所起的作用)的机制将使Moore能够识别链条中负责任的每个环节。

研究结果令人震惊。其中包括:

有证据表明,至少有三家AI提供商遭到攻击者的入侵,攻击者利用其访问权限窃取了他们收到的提示词

推理市场中的多个转售商记录了提示词,并以某种方式将其传递给使用这些凭证的人

多起AI提供商未遵守嵌入在标志中的最终用户隐私设置的案例,这些标志指定了诸如零数据保留(ZDR)或“不收集数据”等条款

安全公司Dragos的首席研究官Moore周四写道:“我们向AI提供商发送了近200万个包含独特、可追踪秘密的AI提示词,然后观察这些秘密出现在哪里。我们发现的情况揭示了安全漏洞、提示词窃取以及在保护客户数据方面的普遍失效。”

尽管提示词在传输过程中是加密的,但它们在庞大推理转售商网络内的每个跃点处都会被解密。提示词首先被发送到AI路由器,路由器读取其中的纯文本以确定处理请求的最合适推理提供商。通常,提示词随后会被发送到可用模型池,这些模型有时在不同的托管提供商内部运行。提示词还可以在一个AI路由器(例如Vercel)和另一个(例如OpenRouter)之间传递。这些参与者中的每一个都可能会记录提示词并将其存储在其政策要求的时间长度(如果不是无限期的话)。

AI时代的蛮荒西部

最令人担忧的发现是三个独立的托管提供商遭到入侵。入侵其中一个提供商的攻击者重复使用了“几百个”AWS密钥。Moore写道:

每个密钥都在10月下旬的几个短时间窗口内,被精确地发送到一个提供商的一个请求中,我们在这些窗口期间发送的每个请求都被窃取了。一些被窃取的密钥来自提供商在模型运行之前就拒绝的请求——这告诉我们攻击者是在提供商的前门复制请求,而不是在推理堆栈的更深处。在另外两次入侵中,一些被窃取的请求被标记为ZDR。当攻击者已经内部时,隐私标志就帮不上忙了。

与这三家提供商被黑事件有关的各方随后测试了每一把密钥,有些情况下在密钥被投放后数小时内就进行了测试,以查看它能访问哪些资源。这些各方翻遍了 S3 存储桶、密钥管理器和参数存储,以寻找更多凭证。他们还试图在 AWS Bedrock 中启用托管模型,并添加了自己的 IAM 用户以维持访问权限。总之,被盗的诱饵密钥在 AWS API 调用中被使用了“数万次”。

发送给两家被黑提供商的密钥很快被同时使用,几乎是立即的,而且来自同一台租用的服务器。这意味着这两家提供商几乎可以肯定是被同一个攻击者攻陷的。

如前所述,部分密钥是被转售商自己窃取的。为了把提示词吸引到他们的服务器上,他们提供低价。然后他们开启请求日志记录,等待。Moore 通过通过不同的卖家向同一个模型发送请求来识别他们。当凭证后来通过一个卖家发送时被重用,而通过另一个卖家发送时却没有被重用,研究人员就知道是转售商而不是模型提供商负有责任。

最后,金丝雀实验揭示,一些提供商正在抓取放入提示词中的秘密 URL,这违反了隐私条款。Moore 写道:

最明显的例子涉及一家中国 AI 实验室。该实验室的系统在 7 月到 10 月之间我们发送给其模型的提示词中,从超过一半的提示词中抓取了秘密 URL,其中包括大约三分之二被标记为“不收集数据”或 Zero Data Retention 的请求。抓取程序通常在请求之后两到三天出现。

这并不仅限于直接发送给该实验室的请求。几家美国托管提供商转售该实验室的模型,发送给这些提供商的提示词触发了完全相同的抓取程序——提示词正流回该实验室。一个专门选择美国提供商以将其数据留在美国的客户没有得到他们所支付的东西。后来,另一个云上的 git 客户端开始尝试克隆我们提示词中引用的私有仓库,但仅限于使用该实验室模型的提示词。

该研究人员表示,他发现一家美国托管提供商在某个秘密 URL 被用于对其搜索端点的一次推理调用两个多月后仍在抓取该 URL。另一家运行了一个抓取程序,在每次请求几天后返回抓取 URL,无论使用哪个 AI 路由器来访问它。

Moore 表示,防止泄露的最有效手段是使用本地服务器托管模型。不过,这个选项很昂贵。对于那些负担不起自托管系统的人来说,Moore 说,次佳选择是直接从一个提供“一份合同和一份隐私政策可供阅读”的一级提供商那里获得服务。Moore 表示,即使如此,也不能保证不会泄露数据,但该措施将泄露的可能性降到最低。AI 用户还应避免接受默认的提供商或转售商池,而是自己选择上游提供商。

这项轰动性的研究是最新一份控诉书,暴露了 AI 生态系统中大部分领域普遍存在的松懈隐私和安全问题。这一发现意味着,那些想要确保输入到提示词中的密钥保持私密的人面临着一项艰巨的任务,而这项任务不太可能在短期内变得更容易。

Dan Goodin 高级安全编辑

Dan Goodin 高级安全编辑

Dan Goodin 是 Ars Technica 的高级安全编辑,负责监督恶意软件、计算机间谍活动、僵尸网络、硬件黑客、加密和密码方面的报道。在业余时间,他喜欢园艺、烹饪和关注独立音乐圈。Dan 驻扎在旧金山。在 Mastodon 上这里和 Bluesky 上这里关注他。通过 Signal 联系他,账号是 DanArs.82。

26 条评论

编辑推荐

KingKrayola

我们有些人在这样的环境中工作,我们的 AI 提示词涉及商业秘密,如果泄露给我们细分领域的参与者,将给我们的竞争对手带来显著优势。我特别想到的是我办公室里的某件事,它可能会导致成品成本降低一个数量级。Moore 的工作是否表明,在工艺开发场景中可能提出的提示词很可能会泄露?抛开竞争优势不谈,这样的泄露是否会破坏原本新颖的想法的可专利性?

供参考,在我获得几乎普遍的知识产权律师行业批准(或足够的判例确定)之前,我会让LLM远离我们作为产品设计师/工程师开发的任何东西,以免出现专利性问题。FMEA模板?可以。FMEA内容?不太行。

但我也足够偏执,尝试在防火墙上阻止网络跟踪器和广告,因为至少有一家客户的物联网业务在其竞争对手被谷歌和亚马逊收购后崩溃了……

2026年11月20日 下午9:38

正文为 AI 译文。

参考来源

← 返回每日AI报告