不是如果,而是如何:在AI攻击者时代应对安全事件

媒体报道 MarkTechPost 原文语言:英文

AI攻击者利用机器速度的智能代理,使攻击频率和规模大幅提升。过去六个月中,多个AI平台披露了涉及环境变量和API密钥的安全事件,导致数百家企业受影响。文章提出四大响应支柱,并以Fireworks AI的快速检测、及时沟通、彻底根除和最小化冲击为案例,展示了成熟的事故响应实践。

全文

攻击者现在拥有强大的 AI 作为后盾。AI 智能体能够以机器的速度进行扫描、规划和发动入侵,并且它们每个月都在进化。其结果是攻击频率更高、规模更加全球化。在这种环境下,更多的企业在某个时刻都将面临安全事件。区分它们的关键在于其应对方式。机器速度的威胁需要具备 4 个支柱的现代应急手册:自动检测与遏制、快速且安全地通信、彻底根除、不断缩小影响范围。本文通过 6 个月的安全事件趋势展示了这一点,随后观察了几家公司,其中 Fireworks AI 成为了成熟且结构健全的应对典范。

简而言之

趋势:AI 驱动的攻击者正在全球范围内引发更频繁的攻击。

证据:多个 AI 平台在 2026 年 5 月至 11 月期间披露了安全事件。

支柱 1:自动检测与遏制。人类速度的关闭操作太慢了。

支柱 2:通过带外通道进行快速且安全的通信。

支柱 3:在外部法医专家的协助下彻底根除。

支柱 4:不断缩小影响范围。从不存储的数据就无法被盗。

案例研究:Fireworks AI 和 Klue 展示了这些支柱的实际应用。

为什么攻击变得越来越频繁?

AI 改变了攻击的经济学。过去需要熟练人员花费数天时间的任务,现在可以委派给智能体。

11 月,Google 威胁情报集团(Google Threat Intelligence Group)和 Mandiant 表示,AI 滥用已达到“关键拐点”。他们报告称,攻击者利用 AI 缩短时间线,并以机器速度运行多阶段入侵。Palo Alto Networks 的 Unit 42 发现,攻击速度比一年前快了约 4 倍。Palo Alto Networks 报告称,某黑客组织在 11 天内对 200 多个组织使用了 AI 智能体。

这种转变发生得更早。2025 年,Anthropic 打击了一场 AI 承担 80% 至 90% 的战术工作且几乎无需人类干预的行动。

这些工具不断改进,因此攻击节奏将继续加快。AI 基础设施是一个特别具有吸引力的目标,因为 AI 访问权限本身就具有价值。过去 6 个月的情况展现了这一面貌。

过去 6 个月披露了哪些内容?

事件出现在 AI 栈的每一层。它们共同展示了这一活动的广泛程度。

5 月:软件包注册表。5 月 10 日至 11 日,“Mini Shai-Hulud”活动篡改了约 170 个 npm 软件包和一些 PyPI 库。受影响的项目包括来自 Mistral AI 和 Guardrails AI 的 AI SDK。NHS 网络警报列出了应避免的具体版本。

6 月:SaaS 集成。市场情报平台 Klue 披露了对其为客户持有的 OAuth 令牌的滥用。参见案例研究 2。

8 月:自托管 AI 网关。微软描述了对暴露且未修补的 LiteLLM、RAGFlow 和 Kestra 部署的入侵。这 3 个工具都存在已修复的版本。CISA 在 6 月 8 日将 LiteLLM 漏洞列为已知利用漏洞。

9 月:评估环境。Anthropic 的 9 月威胁报告描述了通过软件供应商获取 AI 密钥的尝试。云安全联盟(Cloud Security Alliance)对此进行了总结。在其中一个案例中,指令被注入到供应商的自动化评估沙盒中。

10 月和 11 月初:开发者平台。10 月,至少有 9 个 AI 开发者和托管平台披露了涉及存储客户机密的事件。Wiz 的追踪器随后列出了更多披露信息,总计 16 个平台。一个被篡改的 LiteLLM 版本(1.107.0)也被识别出来,用户被告知进行回滚。

11 月:共享网络供应商。11 月 16 日,根据 Report URI 的报道,攻击者利用 Optimizely 账户注册流程中的一个漏洞将代码注入客户项目,触及了包括汇丰银行(HSBC)、Salesforce、BBC 和 Ledger 在内的 178 个组织的网站。该代码替换了加密钱包地址并窃取了支付表单;Optimizely 删除了有效负载并修复了漏洞。Hudson Rock 从 11 月 13 日开始追踪了通过其他三个网络服务的类似代码。这是相同的集中模式,位于 AI 栈下一层。

日期(2026)平台受影响的内容报告的入口点

5 月 10 日至 11 日npm 和 PyPI 软件包,包括 Mistral AI 和 Guardrails AI SDK安装主机上的开发者和 CI 凭据被投毒的软件包发布

6 月 11 日至 12 日Klue客户 Salesforce 和 Gong 数据遗留凭据,然后是存储的 OAuth 令牌

8 月LiteLLM、RAGFlow、Kestra 部署模型提供商密钥、后端访问暴露的、未修补的网关

2023年10月6日 Fireworks AI 环境变量在评估作业中,受限账户 被滥用的内部凭证

2023年10月14日至15日 Zeabur 3,218,965 条环境变量记录,321,810 个账户 长期有效的管理员令牌,暴露的管理员界面

2023年10月15日 Lightning AI 凭证;Studio 已下线 凭证访问

2023年10月16日至17日 OpenCode OpenAI、Anthropic 和 Google 密钥约占控制台用户的 1.4% 传统系统

2023年10月20日至21日 Railway 加密环境变量,部分已解密 构建基础设施中的特权提升

2023年10月21日 LiteLLM 1.107.0 云凭证和 LLM 密钥在安装主机上 发布流水线被破坏

2023年10月23日 WarpAgent 决策日志和遥测,约占用户的 1% 第三方供应商依赖

2023年10月23日至24日 Fireworks AI 计费数据;部分客户的数据集和不完整模型权重 第三方云提供商的事故

2023年10月29日 Cursor 市场缓存中被篡改的扩展副本,最多 5,000 名用户 来自暴露内部数据的凭证

2023年10月30日 Northflank 客户被告知环境变量已被解密 未披露

2023年11月8日 NEAR AI 推理服务器;日志中泄露 2 个 API 密钥 SGLang 远程代码执行漏洞

选定事件:日期依据链接来源,有时相差一天。十月的多条记录依赖 Wiz 和 Helix 的汇总,而非厂商的原始披露。

这些事件有什么共同点?

并不存在单一漏洞。根据云安全联盟(CSA),攻击入口各不相同。共同的目标是存储的环境变量,通常包含 AI 提供商的 API 密钥。

AI 密钥具有真实价值,这解释了攻击者的兴趣。CSA 引用 Anthropic 的说法,密钥可以转卖、用于计算或充当掩护。Wiz 估计,这些事件中滥用的 2 把密钥产生的损失超过 10 万美元(按标价计算),这也是设置支出上限的原因。

集中度是另一共同因素。为众多客户存储机密的平台自然会吸引注意。CSA 将其描述为平台链模式。

现代事件响应手册应是什么样子?

没有公司能保证永不被攻破。每家公司只能控制自己的响应方式。面对以机器速度行动的攻击者,响应基于四大支柱。

1. 自动检测并遏制:人工速度的停机已不够。AI 驱动的入侵者可以在几分钟内横跨系统。成熟团队将检测直接连到遏制措施,包括紧急关闭开关、自动令牌撤销和主机隔离。Wiz 建议对大规模机密读取触发警报,这是本年度事件中最明显的信号。最佳方案会自动对该信号采取行动。

2. 快速且安全地沟通:速度仍是撤销的关键。客户需要轮换密钥,上游提供商必须在源头撤销访问。CSA 指出,从平台删除密钥并不等同于撤销。成熟团队还会慎重选择沟通渠道。五眼联盟的联合咨询警告不要在受调查的网络上沟通,建议使用带外通信。CISA 的手册同样要求在准备阶段建立带外通信基础设施,以防仍在监视的攻击者获取响应计划。

3. 彻底根除:修补被利用的漏洞只是第一步。顶尖团队假设攻击者已植入后门并进行搜寻。他们会引入独立的取证专家,如 Palo Alto Networks 的 Unit 42 或 Mandiant。同一咨询还建议使用第三方事件响应支持,并警告不要只修复表面症状而忽视根本原因。

4. 通过缩小冲击半径持续改进:攻击者每月都在进化,安全永无止境。最强的主动防御是限制未来攻击者的可达范围。零信任访问意味着默认不信任任何凭证。短暂架构意味着敏感数据根本不被保存。如果数据未被存储,就不可能被窃取。

一些公司已经在实践这些支柱。下面的两个案例展示了具体做法:

案例研究 1:Fireworks AI 如何响应?

Fireworks AI 是一家推理和训练平台。它在 2026 年 10 月披露了一起事故,恰逢行业繁忙月份。其响应是成熟且结构化的事件响应在四大支柱上的强力示例。

支柱 1:检测并遏制

Fireworks于10月6日发现内部凭证遭到未经授权的使用。第二起事件于10月24日通过托管其研发(R&D)机器的第三方云服务商开始。Fireworks检测到了该活动,并在其开始的同一天予以关闭。这就是机器速度(machine-speed)威胁所要求的运营灵活性。

支柱 2:快速沟通

Fireworks于10月7日开始通知受影响的客户,大约在检测后1天。它于10月9日发布了公开公告,并随着调查结果的出现进行了更新。它还通知了执法部门。公告列出了受影响的资源元数据和账单信息。对于某些客户,它还列出了数据集、不完整的模型权重和密钥。

支柱 3:彻底根除

Fireworks聘请了Palo Alto Networks旗下的Unit 42进行取证分析。引入一个独立的顶级团队是一个成熟的决定。这意味着调查不仅局限于第一个入口点,还会排查攻击者可能留下的任何东西。Fireworks还在10月9日之前完成了员工API密钥的轮换。

支柱 4:设计上更小的影响范围(blast radius)

Fireworks最重要的保护措施早已到位。该公司表示,未检测到其推理(Inference)、训练SDK(Training SDK)和Nexus产品受到影响。这三款产品默认均采用零数据保留(zero data retention),因此提示词(prompts)和输出不会以静态形式存储。这种架构使核心产品免受所报告的影响。此后,Fireworks采取了进一步措施。它暂停了批量API(Batch API),其文档显示,存储的批量输入和输出将被永久删除。企业客户还可以强制执行账户范围内的ZDR政策。

其背后的理念:

2026年11月13日,Fireworks首席执行官Lin Qiao在X上发文,解释了公司的的数据保留政策。她描述了2种标准的API设计:

客户管理保留(上传、使用、删除)。用户上传数据集,在其上运行任务,然后将其删除。批量API就是一个典型的例子。平台会保留数据,直到接到删除指令为止,因为它无法知道用户何时完成。清理工作是用户的责任。Fireworks表示,它在删除后不会保留数据。

临时处理(发送、计算、返回)。平台处理请求并返回结果,而不保留内容。这就是零数据保留。Fireworks将其应用于推理API、训练SDK(包括无服务器训练)以及Nexus。提示词和生成内容不会以静态形式持久化。

她将其比喻为在云盘中保存电子表格与将数字传递给计算器之间的区别。在这两种设计中,客户都可以控制自己的数据。她的结论是,只要工作流允许,临时处理是更可取的选择。它不会留下被遗忘的数据集或漏掉的删除调用,并且每一个保留的副本都是需要保护的对象。在我们看来,这是主动防御的黄金标准,10月的事件也证实了这一点。

包括Cursor、Uber和Notion在内的一些客户已经发布了各自的通知。调查仍在进行中。

经验教训:当日遏制、快速通知和独立取证限制了事件的持续时间。临时架构从根本上限制了可被触及的范围。

案例研究 2:Klue是如何回应的?

Klue是一个连接客户CRM和销售工具的市场情报平台。其6月份的事件在技术栈的不同部分展示了相同的习惯。

发生了什么。6月11日和12日,攻击者使用了与Klue集成服务绑定的一处受损的旧凭证。利用该凭证,他们获取了Klue为客户持有的OAuth令牌。这些令牌被用于从某些连接的Salesforce和Gong环境中读取数据。

支柱 1 和 2:检测与沟通。Klue于6月12日识别了该活动,并在当天通知了客户。当日通知让客户能够立即开始审查他们自己连接的系统。

支柱 1 和 3:遏制与根除。Klue撤销了受影响的凭证,并禁用了9个集成,包括Salesforce、HubSpot、Gong和Slack。Salesforce于6月17日禁用了Klue集成。

经验教训:每一个存储的令牌都是长期有效的访问权限。对于集成平台而言,淘汰旧凭证和长效令牌就是支柱4的实际应用。

这两个案例研究有什么共同点?

两家公司都代表客户持有了某些东西:Fireworks 持有数据集和机密,Klue 持有 OAuth 令牌。两者都检测到了该活动,并在大约一天内通知了客户。两者都在源头切断了访问。Fireworks 在第 3 和第 4 项上走得更远,进行了独立取证,并采用了默认存储更少的架构。

当 AI 平台发生事故时,谁应负责?

通常不止一个主体。这些事件大多经过一系列公司,每个环节都发挥作用。

上游供应商:云服务提供商、软件包注册表和构建工具位于每个平台之下。Fireworks 的第二起事件始于第三方云提供商。5 月的软件包活动和 LiteLLM 发布始于构建和发布流水线。

平台或提供商:持有客户机密的平台有责任保护这些机密。CSA 将平台运营商称为主要控制点。

在平台上构建的供应商:集成 AI API 的公司决定发送、存储和共享什么。当他们使用基于上传的功能时,删除不再需要的数据是他们的工作之一。在 Cursor 的案例中,密钥打开了 Cursor 用于与 Fireworks 共享数据的存储桶。该存储桶中的一些痕迹包含未脱敏的凭证,这些凭证传到了 Cursor 自己的工具中。Cursor 此后已添加了机密扫描并轮换了其凭证。

最终客户:密钥在发行提供商撤销之前一直有效。CSA 建议如果持有密钥的平台报告了事故,则将每个长期有效的密钥视为已泄露。

任何环节的正确选择都能遏制事故。这也是下面的指南按角色划分的原因。

这些事故显示了存储数据的情况吗?

一个有用的教训来自于未受影响的部分。Cursor 报告称,隐私模式用户的提示和代码未受影响。该数据从未被保存,因此没有可被复制的内容。

这一模式贯穿整个时间线。事故涉及的存储项目包括:环境变量、OAuth 令牌、数据集、日志和追踪。内存中实时处理的请求并未出现在报告的影响范围内。

这正是短暂处理的实际案例。存储的副本越少,需要保护、追踪和删除的东西就越少。

各方接下来应该做什么?

下面的指南参考了 CSA、Wiz 以及政府的事故响应建议。

AI 提供商和平台

为批量读取机密部署自动遏制触发器。撤销令牌并隔离工作负载,无需等待人工操作。

淘汰非过期的管理员令牌,并将管理员界面置于公共互联网之外。

将内部工作负载与客户工作负载分离。

在事故发生前建立带外通信渠道,并在事故期间使用这些渠道。

快速通知客户、合作伙伴、上游供应商和执法机构。以小时为单位衡量通知时间。

提前聘请独立取证机构,以便在第 1 天就开始根除工作。

采用短暂架构和零数据保留,只要工作流允许,就默认提供消费上限和短期凭证。

在 AI API 上构建的供应商

优先使用短暂、零数据保留的端点。正如林巧所说,只要工作流允许,就使用它们。

当你上传数据时,负责删除步骤。为共享的存储桶和数据集设置过期日期,并在作业结束时删除它们。

在数据离开你的系统之前,对提示、追踪和数据集进行机密扫描。

每个平台和每个应用仅发放一个密钥,以便撤销时范围更窄。

询问供应商他们检测、遏制和通知的速度,以及是否使用外部取证。

持有 AI 密钥的每个团队

在发行提供商处轮换密钥。从平台删除密钥并不能撤销它。

设置符合预期使用的消费上限和速率上限。

在任何供应商通知后审查使用和计费日志。

关键要点

AI 驱动的攻击者正使攻击更快、更频繁且更具全球性。

现代响应依托四大支柱:自动遏制、安全沟通、彻底根除、缩小冲击半径。

零数据保留使 Fireworks 的核心产品未被列入报告的影响范围。

如果数据未被存储,就不可能被窃取。

进一步阅读:Wiz、AI 开发者平台的黑色十月、CSA、黑色十月研究报告以及 CSA、平台链式攻击。

来源

Google Threat Intelligence Group AI Threat Tracker,转自 Cybersecurity News(2026 年 11 月 16 日):https://cybersecuritynews.com/fully-automated-ai-attacks/

Help Net Security,CrowdStrike 关于 AI 智能体在 11 天内针对 200 多家组织的报告(2026 年 11 月 3 日):https://www.helpnetsecurity.com/2026/11/03/ai-powered-cyberattacks-artex-cyberstrikeai/

Cybersecurity Dive,Palo Alto Networks Unit 42 事件响应报告(2026 年 2 月 18 日):https://www.cybersecuritydive.com/news/threat-groups-ai-speed-scale-cyberattacks/812439/

Anthropic,“破坏首个有记录的由 AI 编排的网络间谍活动”(2025 年 11 月):https://assets.anthropic.com/m/ec212e6566a0d47/original/Disrupting-the-first-reported-AI-orchestrated-cyber-espionage-campaign.pdf

Fireworks AI,零数据保留政策:https://docs.fireworks.ai/accounts/zero-data-retention

五眼联盟联合公告,“揭露和修复恶意活动的技术方法”(AA20-245A):https://www.cyber.gc.ca/en/news-events/joint-cybersecurity-advisory

CISA,联邦政府网络安全事件和漏洞响应手册:https://cisa.gov/sites/default/files/2024-08/Federal_Government_Cybersecurity_Incident_and_Vulnerability_Response_Playbooks_508C.pdf

Wiz Research,“AI 开发者平台的黑色十月”(2026 年 10 月 30 日,更新至 11 月 10 日):https://www.wiz.io/blog/black-october-for-ai-developer-platforms

云安全联盟(Cloud Security Alliance),“黑色十月:AI 开发者平台泄露与产业化 LLMjacking”(2026 年 11 月 4 日):https://labs.cloudsecurityalliance.org/research/csa-research-note-black-october-ai-dev-platform-breaches-202/

云安全联盟(Cloud Security Alliance),“推理提供商作为战利品:针对 AI 服务的平台链攻击”(2026 年 10 月 23 日):https://labs.cloudsecurityalliance.org/research/csa-research-note-inference-provider-platform-chain-campaign/

云安全联盟(Cloud Security Alliance),“Mini Shai-Hulud:AI 供应链蠕虫攻击 npm 和 PyPI”:https://labs.cloudsecurityalliance.org/research/csa-research-note-mini-shai-hulud-ai-supply-chain-20260513-c/

NHS England Digital,网络警报 CC-4781(2026 年 5 月 12 日):https://digital.nhs.uk/cyber-alerts/2026/cc-4781

SecurityWeek,Klue 泄露事件受害者:https://www.securityweek.com/more-klue-breach-victims-identified-as-hackers-get-hacked/amp/

Nudge Security,Klue 泄露时间线(2026 年 6 月 23 日):https://www.nudgesecurity.com/post/klue-breach-exposes-salesforce-data-across-the-saas-supply-chain

微软安全(Microsoft Security),“当 AI 基础设施成为目标”(2026 年 8 月 26 日):https://www.microsoft.com/en-us/security/blog/2026/08/26/when-ai-infrastructure-becomes-target-securing-gateways-control-points

Brandefense,LiteLLM、RAGFlow 和 Kestra 漏洞利用及 CISA KEV 收录:https://brandefense.io/blog/ai-gateway-exploitation-litellm-ragflow-kestra/

Fireworks AI,“关于 2026 年 10 月安全事件的更新”:https://fireworks.ai/security/bulletins/october-2026-security-incident-update

Crypto Briefing,Fireworks 员工 API 密钥在 10 月 9 日前轮换:https://cryptobriefing.com/fireworks-ai-october-security-incident-customer-data/

Fireworks AI,批处理 API 状态:https://docs.fireworks.ai/guides/batch-inference

Fireworks AI,批处理迁移指南:https://docs.fireworks.ai/guides/batch-migration

Lin Qiao(Fireworks AI 联合创始人兼 CEO),“数据保留:控制与标准”,X 平台发文(2026 年 11 月 13 日):https://x.com/lqiao/article/2121434466082242896

Cybersecurity News,Klue 检测、当日通知及禁用的集成:https://cybersecuritynews.com/klue-hack-cybersecurity-companies/amp/

Cursor,安全事件更新(2026 年 11 月 13 日):https://cursor.com/blog/security-incident-update

Tech Times,Uber 司机通知(2026 年 11 月 15 日):https://www.techtimes.com/articles/330780/20261115/uber-data-breach-hackers-compromised-ai-vendor-fireworks-stole-drivers-license-data.htm

Notion,“涉及第三方 AI 供应商的安全事件”:https://www.notion.com/help/security-incident-involving-a-third-party-ai-vendor

感谢 Fireworks 团队为本文提供的思想领导力与资源。本文为赞助内容。

正文为 AI 译文。

参考来源

← 返回每日AI报告