Newshot

使用 Skyflow 与 Amazon Bedrock AgentCore Gateway 保护智能体工具调用

AI summary

本文介绍 Skyflow 与 Amazon Bedrock AgentCore Gateway 如何防止敏感数据进入 AI 智能体调用的工具,以及这些工具所提供数据的模型上下文。我们将 Skyflow Detect 作为请求和响应拦截器接入 Amazon Bedrock AgentCore Gateway,它会在数据到达工具前进行去标识化、在智能体读取结果前还原,并在智能体打开文档前替换为干净副本,而智能体和工具本身无需改动。Skyflow 已在 AWS Marketplace 上架,该拦截器在 GitHub 上开源。

Translation(model translation, not the source's own text)

使用 Skyflow 和 Amazon Bedrock AgentCore Gateway 保护智能体工具调用

本文介绍 Skyflow 与 Amazon Bedrock AgentCore Gateway 如何将敏感数据挡在 AI 智能体所调用的工具之外,也挡在这些工具回灌给模型的上下文之外。我们将 Skyflow Detect 作为请求与响应拦截器接入 Amazon Bedrock AgentCore Gateway。Skyflow 拦截器会在数据到达工具之前对其进行去标识化处理,在智能体读取结果之前将数据还原,并在智能体打开文档之前用干净副本替换原文档。你的智能体和工具无需做任何改动。

Skyflow 已在 AWS Marketplace 上架,该拦截器在 GitHub 上开源。

智能体通过工具行动,而工具在搬运数据

智能体已从回答问题走向采取行动,而它们是通过工具来采取行动的:Model Context Protocol(MCP)服务器、SaaS API、文档存储和网页搜索。每一次智能体工具调用都是一次数据流动。大多数企业管控措施覆盖的是进入模型和流出模型的内容,覆盖智能体发送给工具、或工具返回给智能体的内容的则少得多。

这一缺口体现在三个方面:

  • 敏感数据经由工具参数外泄。模型根据其上下文中的所有内容来撰写参数,包括工具并不需要的细节。向智能体询问某位客户的情况,客户的姓名、账号或邮箱就会直接进入发往第三方服务器的查询。而那台服务器位于你的 AWS 账户和合规范围之外。
  • 敏感数据经由工具结果回流。抓取的网页、CRM 记录和案件笔记会落入模型的上下文、记忆、追踪记录和日志之中——即使任务根本不需要它们。
  • 文档绕过了文本检查。Amazon Simple Storage Service(Amazon S3)、Box、Google Drive 等文档工具返回的是签名 URL,而非文本。只检查字符串的过滤器看到的是一个链接,于是放行,随后智能体便打开了原始文件。

逐个给智能体打补丁,无法跨团队、跨框架扩展,也触达不了第三方工具。管控必须落在每一次工具调用都会经过的位置,这样授权、内容安全和数据保护才能以同样的方式作用于每个智能体和每个工具。

AgentCore Gateway 正是这个位置。它位于智能体所用每个工具的前方,无论智能体运行在什么框架或模型上。它所做的远不止路由流量。借助 AgentCore Gateway 拦截器,你可以让自己的代码(以 AWS Lambda 函数形式)在每一次经过网关的调用上运行。请求拦截器在每次调用到达工具之前看到它,响应拦截器在每个结果到达智能体之前看到它。两者都可以检查载荷、改写载荷或阻断调用。这使网关成为在 Policy 和 Guardrails 之外叠加数据保护的天然位置。这一单一管控只需挂载一次,即可覆盖网关背后的每个智能体和每个工具,无需改动智能体或工具的代码。

示例:某欧洲大型银行的争议处理智能体

设想一家同时经营零售银行和公司银行业务、且受严格数据驻留义务约束的欧洲大型银行。其运营团队正在采用智能体来调查银行卡争议。

一位分析师让智能体调查一笔有争议的交易。智能体先在网页上搜索该商户,然后从 Amazon S3 拉取争议案件笔记进行摘要。在没有保护的情况下,会发生三件事:

  • 模型根据上下文中的所有内容构建搜索查询。搜索服务商收到的是‘Mateo Jackson dispute AnyCompany Electronics London’。客户的姓名就这样被发给了第三方,而这次搜索只需要商户信息。
  • 抓取的商户页面把无关的个人数据带入了模型的上下文。
  • 智能体读取了原始案件笔记,其中包含客户的全名、邮箱、电话号码和卡信息。

在网关上部署 Skyflow 拦截器后,同样的工作流会以不同的方式展开:

  • 搜索服务提供方收到的是“[NAME_AJbrIud] dispute AnyCompany Electronics London”,其中 [NAME_AJbrIud] 是一个可逆的 vault token。商户结果原样返回,服务提供方始终不知道客户是谁,而分析师在 agent 的回答中仍然能看到真实姓名。
  • Web 内容在到达模型之前就已经完成去标识化。
  • agent 始终只会收到一个指向案件记录去标识化副本的链接。

解决方案概览

Skyflow 拦截器是一个单一的 AWS Lambda 函数,挂载在 AgentCore Gateway 的两个拦截点上:

  • REQUEST 在网关调用工具之前运行。
  • RESPONSE 在工具返回答案之后、agent 看到结果之前运行。

在每个拦截点上,它都会调用 Skyflow Detect 来发现敏感实体,例如姓名、电子邮件地址、电话号码、政府证件号码、卡号、出生日期和位置。它将这些实体替换为 token,或者还原原始值。Skyflow Vault 存储原始值,以便授权系统可以反向还原 token。

Skyflow 网关配置会为每个工具决定三种保护模式中的哪一种适用:Shield the tool、Shield the model 和 Shield the document。

模式发生什么谁能看到真实数据如何工作典型用途
Shield the tool敏感值在出站时从参数中剥离,在返回时从结果中还原agent 和用户,而非工具使用可逆的 vault token,因此工具回传的值会在 agent 读取之前被还原Web 搜索、数据增强,以及不需要客户身份即可完成工作的第三方 API
Shield the model提示词、历史记录、文件和工具结果在模型读取之前完成去标识化。答案在返回途中被重新标识化agent 和用户,而非模型模型调用经由网关的推理端点。返回途中,只还原为该次调用生成的 token客户对话、抓取的 Web 内容、跨区域或第三方模型
Shield the document文件的签名 URL 被替换为指向去标识化副本的 URLagent 侧无人可见Skyflow Detect v2(预览版)获取文件、清理文件,并将副本存储在获批的区域。文件从不经过 Lambda,因此负载限制不会限制文件大小Amazon S3、Box、Google Drive 中的案件记录、对账单、合同

在生产环境中有四个重要特性:

  • 对 agent 和工具无改动。agent 像以前一样发现网关,并使用其 AWS Identity and Access Management(AWS IAM)角色对请求签名。要屏蔽模型时,agent 将模型客户端指向网关的推理端点。除此之外,拦截器对它们不可见。
  • 无需重新部署即可配置。策略按服务器和按工具设置方向、实体类型和 token 类型(可逆 vault token 或单向 token)。它存放在 AWS Systems Manager Parameter Store 中,更改无需重新部署即可生效。
  • 失败时关闭。如果去标识化无法完成,调用会被扣留,而不是以明文发送。拦截器只从允许列表中的位置获取文件,并且会阻止无法检查的流量,而不是静默放行。
  • 基于 AWS 构建的运维。Skyflow API 密钥存放在 AWS Secrets Manager 中。每个决策都会记录到 Amazon CloudWatch,并提供用于告警的指标,拦截器从不记录凭据或原始值。

架构

参考架构展示了每个组件所在的位置。其后的三个演练会沿着单次工具调用,分别走过 Shield the tool 和 Shield the document 模式。

下图展示了拦截器如何位于 AgentCore Gateway 和你的工具之间。

参考架构:Skyflow 拦截器 Lambda 函数位于 Amazon Bedrock AgentCore Gateway 与工具之间,从 Parameter Store 读取策略,从 Secrets Manager 读取 API 密钥
参考架构:Skyflow 拦截器 Lambda 函数位于 Amazon Bedrock AgentCore Gateway 与工具之间,从 Parameter Store 读取策略,从 Secrets Manager 读取 API 密钥

图 1:参考架构。编号步骤对应以下流程。

  • 代理通过 AgentCore Gateway 调用工具,并使用其 IAM 角色进行签名。
  • REQUEST 拦截器将工具与策略进行匹配,并在需要时使用 Skyflow Detect 对参数进行去标识化处理。
  • 网关调用工具,工具收到的是令牌而非敏感值。
  • RESPONSE 拦截器根据策略要求对结果进行再标识化、去标识化,或替换文档 URL。
  • 代理收到结果。

代理运行在 AgentCore runtime 上,这是 Amazon Bedrock AgentCore 的一项能力。除上述流程外,拦截器从 Parameter Store 读取策略,从 Secrets Manager 读取 Skyflow API 密钥,并将每次决策记录到 Amazon CloudWatch。它在获批区域调用 Skyflow Detect 和 Skyflow Vault 来对数据进行去标识化和再标识化。目标位于网关之外:一个第三方 Web 搜索 MCP 服务器、Amazon S3 中的案件记录存储,以及网关通过推理目标访问的 Amazon Bedrock 中的模型。对于模型调用,拦截器在 Amazon DynamoDB 中保存一条短生命周期记录,记录每次调用生成了哪些令牌,以便仅恢复这些令牌。该记录不保存原始值。对于文档,Skyflow Detect 通过预签名 URL 直接获取文件,因此文件字节从不经过 Lambda。

演练:屏蔽工具

这是争议示例中的 Web 搜索,逐步说明。客户姓名以令牌形式离开,并以真实值返回,因此搜索提供商从未看到它,而分析师仍然能看到。

屏蔽工具流程:在搜索提供商看到查询之前,客户姓名被替换为 vault 令牌,并在代理读取结果之前恢复
屏蔽工具流程:在搜索提供商看到查询之前,客户姓名被替换为 vault 令牌,并在代理读取结果之前恢复

图 2:屏蔽工具。在搜索提供商看到查询之前,客户姓名被替换为 vault 令牌,并在代理读取结果之前恢复。

演练:屏蔽模型

这是分析师要求代理起草给客户的回复。客户的姓名和电子邮件地址以令牌形式到达模型,草稿返回时真实值已就位。

屏蔽模型流程:拦截器在模型读取提示和对话历史之前对其进行去标识化,并在代理读取答案之前恢复其生成的令牌
屏蔽模型流程:拦截器在模型读取提示和对话历史之前对其进行去标识化,并在代理读取答案之前恢复其生成的令牌

图 3:屏蔽模型。拦截器在模型读取提示和对话历史之前对其进行去标识化,并在代理读取答案之前恢复其为该次调用生成的令牌。

演练:屏蔽文档

这是案件记录请求。拦截器从不处理文件本身。它检查预签名 URL 并将其交给 Skyflow Detect,后者返回指向干净副本的链接。

屏蔽文档流程:拦截器对照允许列表检查预签名 URL,Skyflow Detect 返回指向文件去标识化副本的链接
屏蔽文档流程:拦截器对照允许列表检查预签名 URL,Skyflow Detect 返回指向文件去标识化副本的链接

图 4:屏蔽文档。拦截器对照允许列表和大小限制检查预签名 URL,Skyflow Detect 获取并对文件进行去标识化,代理收到指向干净副本的链接。

以下是在 Amazon S3 中存储的案件记录,以及代理收到的副本:

Amazon S3 中存储的完整客户详情案件记录与代理收到的、这些值已被令牌替换的去标识化副本的并排对比
Amazon S3 中存储的完整客户详情案件记录与代理收到的、这些值已被令牌替换的去标识化副本的并排对比

图 5:存储的案件记录(左)与代理收到的去标识化副本(右)。

像 [NAME_AJbrIud] 这样的令牌是 vault 令牌,授权用户可以通过 Skyflow 逆转。像 [NAME_1] 这样的令牌是单向计数器,任何东西都无法逆转。

以下视频展示了 Shield the document 的端到端过程。代理请求争议案件记录,收到的却是一个指向去标识化副本的链接,而不是原始文件。

视频 1:Shield the document 实际运行。没有 Skyflow 时,代理读取原始案件记录。在网关上启用 Skyflow 后,它读取的是去标识化副本。

如何与 AgentCore 的其他部分配合

该拦截器补充了 AgentCore 和 Amazon Bedrock 已提供的控制措施:

  • Amazon Bedrock AgentCore 中的 Policy 使用 Cedar 和 Dogwood 授权代理可以做什么。它不止于决定某个主体能否调用某个工具。它可以基于代理轨迹中先前的操作做出决策,控制对代理和模型的访问,阻止特定参数被发送到特定工具,并使用 Amazon Bedrock Guardrails 检查通过网关的数据。Skyflow 与 Policy 协同工作。当 Policy 允许某次调用时,Skyflow 会将其中的敏感值替换为可逆令牌,因此调用可以在不向工具或模型暴露真实数据的情况下通过。Policy 决定代理可以做什么,而 Skyflow 控制在其执行时如何处理敏感数据。
  • Amazon Bedrock Guardrails 负责模型交互中的内容安全和敏感信息脱敏。Skyflow 为同一网关增加了基于 vault 的令牌化和文档去标识化。将二者结合使用,可为每次模型和工具调用提供分层保护。
  • AgentCore Identity(Amazon Bedrock AgentCore 的一项能力)和 AWS IAM 保持原样。该拦截器不增加任何需要代理管理的凭证。
  • AgentCore Observability(Amazon Bedrock AgentCore 的一项能力)和 Amazon CloudWatch 会将拦截器的决策与网关追踪记录一起记录下来。

部署该解决方案

Skyflow 拦截器在 GitHub 上的 agentcore-skyflow 仓库中以 MIT 许可证开源。Skyflow 可在 AWS Marketplace 中获取。要将该拦截器添加到您已在运行的网关:

  • 在 AWS Marketplace 中订阅 Skyflow,创建一个 vault,并将其 API key 存储在 AWS Secrets Manager 中。
  • 使用 AWS Cloud Development Kit (AWS CDK) 从仓库部署拦截器堆栈。它会创建 Lambda 函数、其策略参数、用于模型调用记录的 DynamoDB 表,以及 Amazon CloudWatch 指标和告警。
  • 在两个拦截点将拦截器附加到您的网关。仓库中的一个脚本会完成此操作,并授予网关角色仅调用该函数的权限。如果您使用 AWS CloudFormation 或 AWS CDK 管理网关,请改为在那里声明拦截器,以便后续堆栈更新时保留它。
  • 要保护模型,请向网关添加一个推理目标,并将代理的模型客户端指向该网关的推理端点。

该仓库还包含本文中完整的参考部署,包括代理、网关及其目标,您可以使用 AgentCore CLI(Amazon Bedrock AgentCore 的一项能力)进行部署。

有五种接入方式:

  • 现有网关。将拦截器附加到您已在运行的网关。代理和工具保持原样。
  • 新代理。从一开始就将工具置于 AgentCore Gateway 之后。
  • AWS 之外的 MCP 服务器。将它们作为网关 MCP 服务器目标前置,使其流量通过拦截器。
  • 文档存储。返回签名 URL 的工具,可通过将其位置添加到策略的允许列表来覆盖。
  • 模型调用。添加一个推理目标,并将 agent 的模型调用通过网关发送。

Skyflow 提供多种 vault 部署模型和区域选择,以满足数据驻留要求。参见 Skyflow 部署模型。

注意事项

  • 格式。文本和 Office 格式(TXT、JSON、CSV、XML、JSONL、DOCX、XLSX 和 PPTX)保留可逆的 vault token。PDF 和图像会被完全去标识化,但会获得单向 token,因此无法从这些文件中恢复原始值。
  • 可用性。字符串去标识化和再标识化已正式可用。通过签名 URL 进行的文档去标识化使用 Skyflow Detect v2,该版本处于预览阶段。AgentCore Gateway 的可用性因 AWS 区域而异。部署前,请查看 Amazon Bedrock AgentCore 文档中的 Supported AWS Regions。
  • 文档大小和延迟。文档去标识化在设计上是有边界的。拦截器在提交前会检查文件大小,因此超过配置限制的文件会被立即拒绝,而不是超时。在限制范围内的文件会在 AgentCore Gateway 允许的连接窗口内完成。去标识化时间随文档大小而变化,因此请将大小限制设置为与你的文档相匹配。Skyflow Detect v2 处于预览阶段。在扩大推广范围之前,请在试点期间针对你自己的工作负载和区域验证延迟。

结论

Agent 的可信度取决于它所流转的数据。借助 AgentCore Gateway 和 Skyflow 拦截器,你可以在每一次工具调用都会经过的唯一位置实施隐私控制。它双向生效,覆盖文档和文本,且无需更改 agent 代码。

从哪里开始

  • 选择一个涉及客户数据、且至少调用一个你账户之外工具的 agent 工作流。
  • 列出绝不能外泄的实体类型,以及允许看到这些实体的工具。
  • 从 GitHub 仓库部署拦截器,并将其挂载到该工作流的网关上。
  • 从 Shield the tool 开始。然后为你的文档存储添加 Shield the document,并在 agent 的模型调用通过网关后添加 Shield the model。
  • 在扩大推广范围之前,先观察拦截器的 CloudWatch 指标一周。
  • 如有进一步问题,请参阅 Skyflow SDK 文档。

关于作者

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by AWS Machine Learning
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗