使用 Skyflow 与 Amazon Bedrock AgentCore Gateway 保护代理工具调用

媒体报道 AWS 机器学习 原文语言:英文

Skyflow 与 Amazon Bedrock AgentCore Gateway 联手提供拦截器,将敏感数据在工具调用前脱敏、返回后恢复,并在文档访问前提供去标识化副本,实现对 AI 代理工具链的全链路数据保护。拦截器以开源 Lambda 函数形式提供,可在请求和响应阶段统一应用。

全文

使用 Skyflow 和 Amazon Bedrock AgentCore Gateway 保护代理工具调用

在本文中,我们展示了 Skyflow 和 Amazon Bedrock AgentCore Gateway 如何将敏感数据从 AI 代理调用的工具中以及这些工具提供给模型的上下文中移除。我们将 Skyflow Detect 添加为 Amazon Bedrock AgentCore Gateway 的请求和响应拦截器。Skyflow 拦截器在数据到达工具之前进行去标识化,在代理读取结果之前恢复数据,并在代理打开文档之前用干净的副本替换文档。您的代理和工具无需更改。

Skyflow 可在 AWS Marketplace 获取,拦截器的源码在 GitHub 上开源。

代理通过工具行动,工具搬运数据

代理已经从仅回答问题转向执行操作,而这些操作是通过工具完成的:模型上下文协议(MCP)服务器、SaaS API、文档存储和网页搜索。每一次代理工具调用都是一次数据流。大多数企业控制措施覆盖模型的输入输出,而覆盖代理向工具发送内容或工具返回内容的控制则少得多。

这种差距表现为三种情况:

敏感数据通过工具参数泄露。模型会把上下文中的所有信息写入参数,包括工具不需要的细节。询问代理关于某位客户的信息时,客户的姓名、账号或电子邮件会直接进入对第三方服务器的查询。该服务器位于您的 AWS 账户和合规范围之外。

敏感数据通过工具结果返回。抓取的网页、CRM 记录和案例笔记会进入模型的上下文、记忆、追踪和日志中,即使任务本身并不需要这些信息。

文档绕过文本检查。诸如 Amazon Simple Storage Service(Amazon S3)、Box 和 Google Drive 等文档工具返回的是签名 URL,而不是文本。检查字符串的过滤器只会看到链接并放行,随后代理打开原始文件。

对每个代理单独打补丁无法在团队和框架之间规模化,也无法覆盖第三方工具。控制措施需要位于每一次工具调用经过的地方,以便授权、内容安全和数据保护能够以相同方式适用于所有代理和工具。

AgentCore Gateway 正是这个位置。它位于代理使用的每个工具前端,无论代理运行在何种框架或模型上。它不仅仅是流量路由器。通过 AgentCore Gateway 拦截器,您可以在每一次通过它的调用上运行自定义代码(如 AWS Lambda 函数)。请求拦截器在调用到达工具之前检查每一次调用,响应拦截器在结果返回给代理之前检查每一次响应。任一拦截器都可以检查负载、重写负载或阻止调用。这使得网关成为在策略和护栏之外添加数据保护的自然位置。只需一次附加,这一单一控制即可覆盖网关后面的所有代理和所有工具,无需修改代理或工具代码。

示例:一家大型欧洲银行的争议解决代理

设想一家拥有零售和公司业务、并且对数据驻留有严格要求的大型欧洲银行。其运营团队正在采用代理来调查卡片争议。

分析师让代理调查一笔争议交易。代理先在网络上搜索商户,然后从 Amazon S3 拉取争议案例笔记进行摘要。如果没有保护措施,会出现以下三件事:

模型会根据上下文中的所有信息构建搜索查询。搜索提供商收到‘Mateo Jackson dispute AnyCompany Electronics London’。这包含了客户姓名,发送给了第三方,而搜索本只需要商户信息。

抓取的商户页面会把无关的个人数据带入模型上下文。

代理读取原始案例笔记,其中包含客户的全名、电子邮件、电话号码和卡片信息。

在网关上使用 Skyflow 拦截器后,同一工作流的表现会不同:

搜索提供商收到‘[NAME_AJbrIud] dispute AnyCompany Electronics London’,其中 [NAME_AJbrIud] 是可逆的保险库令牌。商户结果保持不变,提供商永远不会知道客户是谁,分析师在代理的答案中仍然看到真实姓名。

网页内容在进入模型前已完成去标识化。

代理仅收到指向去标识化案例笔记副本的链接。

解决方案概览

Skyflow 拦截器是一个单一的 AWS Lambda 函数,挂载在 AgentCore Gateway 的两个拦截点上:

REQUEST 在网关调用工具之前运行。

RESPONSE 在工具回答后运行,在代理看到结果之前。

在每个点,它调用 Skyflow Detect 来查找敏感实体,如姓名、电子邮件地址、电话号码、政府身份证、卡号、出生日期和地点。它用令牌替换它们,或恢复原始值。Skyflow Vault 存储原始值,以便授权系统可以逆向令牌。

Skyflow 网关配置决定对每个工具应用哪种三种保护模式:Shield the tool、Shield the model 和 Shield the document。

模式 发生了什么 谁看到真实数据 工作原理 典型用例

Shield the tool 敏感值在输出时从参数中剥离,并在返回结果时恢复。代理和用户看到真实数据,而不是工具。使用可逆的 Vault 令牌,因此工具回显的值在代理读取之前被恢复。网页搜索、增强和不需要客户身份即可完成工作的第三方 API

Shield the model 在模型读取之前,提示、历史、文件和工具结果会被去标识化。答案在返回时重新标识。代理和用户看到真实数据,而不是模型。模型调用通过网关的推理端点。返回时,仅恢复为该调用铸造的令牌。客户对话、抓取的网页内容、跨区域或第三方模型

Shield the document 文件的签名 URL 被替换为指向去标识化副本的 URL。代理端无人可见。Skyflow Detect v2(预览版)获取文件,清理后将副本存储在批准的区域。文件从不通过 Lambda,因此负载限制不会限制文件大小。案例笔记、声明、存储在 Amazon S3、Box、Google Drive 的合同

生产环境中有四个关键属性:

对代理或工具无需更改。代理发现网关并像往常一样使用其 AWS 身份与访问管理(IAM)角色签署请求。要保护模型,代理将其模型客户端指向网关的推理端点。拦截器对它们而言是透明的。

无需重新部署的配置。策略为每个服务器和每个工具设置方向、实体类型和令牌类型(可逆 Vault 令牌或单向令牌)。它存放在 AWS Systems Manager 参数存储中,修改后无需重新部署即可生效。

失败即关闭。如果去标识化无法完成,调用将被阻止而不是以明文发送。拦截器仅从白名单位置获取文件,并阻止它无法检查的流量,而不是静默通过。

基于 AWS 的运营。Skyflow API 密钥存放在 AWS Secrets Manager 中。每个决策都记录到 Amazon CloudWatch,提供警报指标,拦截器永不记录凭证或原始值。

架构

参考架构展示了每个组件的位置。随后三个演练展示了单个工具调用在 Shield the tool 和 Shield the document 模式下的完整流程。

下图显示拦截器如何位于 AgentCore 网关和您的工具之间。

图 1:参考架构。编号步骤对应以下流程。

流程:

代理通过 AgentCore 网关调用工具,使用其 IAM 角色签名。

REQUEST 拦截器根据策略匹配工具,并在需要时使用 Skyflow Detect 对参数进行去标识化。

网关调用工具,工具收到的是令牌而非敏感值。

RESPONSE 拦截器根据策略重新标识结果、去标识化或交换文档 URL。

代理收到结果。

代理运行在 AgentCore 运行时,这是 Amazon Bedrock AgentCore 的一项功能。与此同时,拦截器从参数存储读取其策略,从 Secrets Manager 读取 Skyflow API 密钥,并将每个决策记录到 Amazon CloudWatch。它调用位于批准区域的 Skyflow Detect 和 Skyflow Vault 进行数据去标识化和重新标识。目标位于网关之外:第三方网页搜索 MCP 服务器、存储在 Amazon S3 的案例笔记,以及通过推理目标访问的 Amazon Bedrock 模型。对于模型调用,拦截器在 Amazon DynamoDB 中保留一条短期记录,记录每次调用铸造的令牌,以便仅恢复这些令牌。记录不包含原始值。对于文档,Skyflow Detect 通过预签名 URL 直接获取文件,因此文件字节从不通过 Lambda。

演练:Shield the tool

以下是纠纷示例中的网页搜索步骤。客户姓名作为一个令牌离开,然后作为真实值返回,因此搜索 provider 从未看到它,但分析师仍然能看到。

图 2:屏蔽工具。在搜索 provider 看到查询之前,客户姓名被替换为一个 vault 令牌,并在 agent 读取结果之前恢复。

演练:屏蔽模型

这是分析师请求 agent 起草给客户的回复。客户的姓名和电子邮件地址以令牌形式到达模型,草稿返回时带有替换后的真实值。

图 3:屏蔽模型。拦截器在模型读取提示词和对话历史之前对其进行去识别化处理,并在 agent 读取答案之前恢复为该次调用生成的令牌。

演练:屏蔽文档

这是案情记录请求。拦截器本身从不处理文件。它检查预签名 URL 并将其交由 Skyflow Detect 处理,后者返回一个净版副本的链接。

图 4:屏蔽文档。拦截器将预签名 URL 与白名单和大小限制进行核对,Skyflow Detect 获取并去识别化该文件,随后 agent 收到净版副本的链接。

以下是存储在 Amazon S3 中的案情记录,旁边是 agent 收到的副本:

图 5:存储的案情记录(左)与 agent 收到的去识别化副本(右)。

像 [NAME_AJbrIud] 这样的令牌是一个 vault 令牌,授权用户可以通过 Skyflow 将其还原。像 [NAME_1] 这样的令牌是一个单向计数器,无法被任何人还原。

以下视频端到端地展示了“屏蔽文档”功能。agent 请求纠纷案情记录,并收到去识别化副本的链接,而不是原始内容。

视频 1:“屏蔽文档”实际效果。如果没有 Skyflow,agent 会读取原始案情记录。如果在网关上启用 Skyflow,它会读取去识别化副本。

它如何与 AgentCore 的其余部分协同工作

该拦截器是对 AgentCore 和 Amazon Bedrock 现有控制机制的补充:

Amazon Bedrock AgentCore 中的 Policy 使用 Cedar 和 Dogwood 授权 agent 可以执行的操作。它不仅限于决定主体是否可以调用工具。它还可以根据 agent 执行轨迹中的早期操作做出决策、控制对 agent 和模型的访问、阻止将特定参数发送到特定工具,并使用 Amazon Bedrock Guardrails 检查流经网关的数据。Skyflow 与 Policy 协同工作。当 Policy 允许调用时,Skyflow 会将其中的敏感值替换为可逆令牌,从而使调用得以进行,而不会将真实数据暴露给工具或模型。Policy 决定 agent 可以做什么,而 Skyflow 控制在执行时如何处理敏感数据。

Amazon Bedrock Guardrails 处理模型交互的内容安全和敏感信息修剪。Skyflow 为同一个网关添加了基于 vault 的令牌化和文档去识别化功能。将它们结合使用,可为每个模型和工具调用提供分层保护。

Amazon Bedrock AgentCore 的功能 AgentCore Identity 以及 AWS IAM 保持不变。拦截器不会增加供 agent 管理的凭据。

Amazon Bedrock AgentCore 的功能 AgentCore Observability 以及 Amazon CloudWatch 将拦截器的决策与网关追踪记录一起记录下来。

部署解决方案

Skyflow 拦截器在 GitHub 上的 agentcore-skyflow 仓库中开源,采用 MIT 许可证。Skyflow 在 AWS Marketplace 中提供。若要将拦截器添加到现有的网关:

在 AWS Marketplace 中订阅 Skyflow,创建一个 vault,并将其 API 密钥存储在 AWS Secrets Manager 中。

使用 AWS 云开发工具包 (AWS CDK) 从仓库部署拦截器堆栈。它会创建 Lambda 函数、其策略参数、用于模型调用记录的 DynamoDB 表,以及 Amazon CloudWatch 指标和警报。

在两个拦截点将拦截器附加到你的网关。仓库中的一个脚本可以完成此操作,并授予网关角色仅调用该函数的权限。如果你使用 AWS CloudFormation 或 AWS CDK 管理网关,请在此处声明拦截器,以便后续的堆栈更新能够保留它。

为了屏蔽模型,请向网关添加一个推理目标,并将 agent 的模型客户端指向网关的推理端点。

该代码库还包含本文中的完整参考部署,包括代理、网关及其目标,您可以使用 Amazon Bedrock AgentCore 的一项功能 AgentCore CLI 进行部署。

有五种接入方式:

现有网关。将拦截器附加到您已在运行的网关。代理和工具保持不变。

新代理。从第一天起就将工具置于 AgentCore Gateway 背后。

AWS 外部的 MCP 服务器。将其作为网关 MCP 服务器目标前端,以便其流量通过拦截器。

文档存储。返回签名 URL 的工具可以通过将它们的位置添加到策略的白名单中来得到覆盖。

模型调用。添加推理目标并通过网关发送代理的模型调用。

Skyflow 提供多种保险库部署模型和区域选择,以满足驻留要求。请参阅 Skyflow 部署模型。

注意事项

格式。文本和 Office 格式(TXT、JSON、CSV、XML、JSONL、DOCX、XLSX 和 PPTX)保留可逆的保险库令牌。PDF 和图像经过完全去标识化,但接收单向令牌,因此无法从这些文件中恢复原始值。

可用性。字符串去标识化和重新标识化现已普遍可用。通过签名 URL 进行的文档去标识化使用处于预览阶段的 Skyflow Detect v2。AgentCore Gateway 的可用性因 AWS 区域而异。在部署之前,请查看 Amazon Bedrock AgentCore 文档中的支持的 AWS 区域。

文档大小和延迟。文档去标识化在设计上是有界的。拦截器在提交之前会检查文件大小,因此超过您配置限制的文件会被立即拒绝,而不会超时。在限制内的文件会在 AgentCore Gateway 允许的连接窗口内完成。去标识化时间随文档大小而扩展,因此请设置与您的文档相匹配的大小限制。Skyflow Detect v2 处于预览阶段。在扩大推广之前,请在试点期间针对您自己的工作负载和区域验证延迟。

结论

代理的可信赖程度取决于它所传输的数据。借助 AgentCore Gateway 和 Skyflow 拦截器,您可以在每个工具调用都必须通过的唯一位置实施隐私控制。它双向起作用,涵盖文档和文本,并且不需要更改代理代码。

从哪里开始

选择一个涉及客户数据并调用至少一个您账户之外的工具的代理工作流。

列出绝不能离开的实体类型,以及获准查看它们的工具。

从 GitHub 代码库部署拦截器并将其附加到该工作流的网关。

从保护工具开始。然后为您的文档存储添加保护文档,并在代理的模型调用通过网关后添加保护模型。

在扩大推广之前,观察拦截器的 CloudWatch 指标一周。

如果您还有其他疑问,请参阅 Skyflow SDK 文档。

正文为 AI 译文。

参考来源

← 返回每日AI报告