Newshot

Duco如何借助Amazon Bedrock AgentCore变革金融数据自动化

AI summary

Duco是为金融服务提供服务的智能体运营平台,每月为200多家客户处理200亿笔交易。为应对不断增长的数据处理需求,Duco从传统机器学习模型转向Amazon Bedrock和Amazon Bedrock AgentCore的智能体AI能力,在这些服务上重建了智能体AI技术栈,缩短了部署时间并降低了入驻成本,同时保持各家银行的数据隔离。

Translation(model translation, not the source's own text)

How Duco transforms financial data automation with Amazon Bedrock AgentCore

金融机构面临一项关键挑战:要在全球最严格的监管框架下,以速度、准确性和合规性处理海量数据。Duco 是面向金融服务的 agentic Operations 平台,服务对象包括一级银行及其他金融机构。它每月为 200+ 家客户处理 200 亿笔交易,客户中包括前 20 大银行中的 7 家和前 20 大资产管理公司中的 10 家。为跟上不断增长的数据处理需求,Duco 从传统机器学习模型演进到 Amazon Bedrock 和 Amazon Bedrock AgentCore 的 agentic AI 能力。本文分享 Duco 如何在这些服务上重建其 agentic AI 技术栈,在缩短部署时间和降低上线成本的同时,保持每家银行的数据隔离。

挑战:在受监管环境中扩展智能

Duco 的平台让团队能够使用 AI 和无代码模型自动化关键任务的数据流程,涵盖从数据提取到下游发布的各个环节。该平台此前已使用传统机器学习模型进行预测性标注和模式识别,帮助银行整合并自动化超过 20,000 个流程。

然而,这些经典机器学习方法存在固有局限。它们需要大量历史数据进行训练,难以应对新场景,并且每新增一个用例都需要大量定制。最关键的是,它们无法快速适应现代金融运营中多样且不断演化的数据格式和业务规则。

“经典预测模型在一定程度上有效,但不够敏捷和灵活。传统机器学习模型只能放大它们已经学到的东西——无法帮助迈出下一步或发现新问题。”

— Rob Gates,Duco 首席架构师兼创新官

解决方案:Amazon Bedrock 和 Bedrock AgentCore

Duco 做出战略决策,采用 Amazon Bedrock 获得对基础模型的托管访问,并采用 Amazon Bedrock AgentCore 大规模运行 agent。这不仅是技术升级,更是其系统理解、推理和作用于金融数据方式的根本转变。

关于 Amazon Bedrock 和 Bedrock AgentCore

Amazon Bedrock 是一项完全托管服务,通过单一 API 提供来自领先 AI 公司的高性能基础模型选择,并提供广泛能力,以安全、隐私和负责任 AI 构建生成式 AI 应用。了解更多关于 Amazon Bedrock 的信息。

Amazon Bedrock AgentCore 是用于大规模构建、连接和优化 AI agent 的平台。可使用任意开源框架和任意模型构建。通过内置的身份验证和访问控制,将 agent 连接到你的工具和数据。通过追踪和评估,在生产环境中监控并改进 agent。AgentCore 处理基础设施,让你专注于 agent 逻辑而非后端管线,并在不放弃开源灵活性的情况下获得企业级安全性和可靠性。

在 Amazon Bedrock AgentCore 产品页面了解更多。

为什么选择 Amazon Bedrock?

有几个因素使 Amazon Bedrock 成为 Duco 受监管金融服务行业(FSI)环境的理想选择:

  • 安全与合规优先:使用 Amazon Bedrock,客户数据保留在 AWS 环境内,且不会用于训练模型。通过其虚拟私有云(VPC)中的私有端点,Duco 可以连接内部系统,同时保持它们完全隔离,这对敏感的金融数据处理至关重要。
  • 模型灵活性:通过单一 API 访问来自 Amazon Nova 2 系列、Anthropic、OpenAI、Cohere、Meta 和 Mistral AI 的领先基础模型,意味着 Duco 可以为每项任务选择合适模型。Duco 可以通过更改配置参数在模型之间切换。

写成 {{NAME_ab12cd34}} 形式的值是真实值的占位符。在回复和工具调用中都请完全按原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。

文章标题:Duco 如何借助 Amazon Bedrock AgentCore 实现金融数据自动化转型

正文:

  • 专为金融服务打造:Amazon Bedrock 提供金融服务所需的强大治理控制和合规框架,既避免了基础设施的复杂性,又维持了一级银行所要求的安全标准。

选择 AgentCore 作为运行时

Duco 现有的智能体基础设施基于 LangChain 和 LangGraph 构建,二者均已在生产环境中运行。在为智能体工作负载评估运行时方案时,AgentCore 凭借三大关键原因成为明确之选:

  • 与现有原语兼容:AgentCore 与 Duco 现有的 LangChain 和 LangGraph 代码完全兼容,因此大多数现有代码无需修改即可继续运行。
  • 托管运行时:Duco 无需自行运行智能体基础设施,AgentCore 提供全托管运行时,降低了工程团队的运维开销。
  • 适合受监管环境:AgentCore 内置安全与合规控制,满足在受监管金融服务环境中部署的严格要求。

多租户架构:设计即隔离

Duco 平台以多租户软件即服务(SaaS)形式运营,并具备严格的租户隔离(图 1)。这对于受监管机构而言是不可妥协的要求。该架构在每一层都体现了这一点,从底层云基础设施一直到 AI 智能体运行时。

Duco 多租户架构,在基础设施、安全和智能体各层实现按租户隔离
Duco 多租户架构,在基础设施、安全和智能体各层实现按租户隔离

图 1:多租户架构

基础设施层

  • Amazon Elastic Kubernetes Service(Amazon EKS)集群采用按租户命名空间隔离和网络隔离,有助于在 Kubernetes 层维持工作负载分离。
  • 按租户专用 AWS 服务:每个租户都获得专用的 Amazon Aurora MySQL 数据库、Amazon Simple Storage Service(Amazon S3)存储桶、AWS Key Management Service(AWS KMS)加密密钥、Amazon Simple Email Service(Amazon SES)和 Amazon Simple Queue Service(Amazon SQS)消息栈、Amazon ElastiCache 层以及 Amazon Cognito 用户池。客户之间零共享数据基础设施。
  • 按租户自动扩缩容有助于最大限度减少某个客户的计算密集型工作负载对其他租户性能的影响。

安全与访问控制

隔离通过身份和基础设施共同强制执行,用户与其数据之间的每一跳都经过身份验证(图 2):

  • 租户范围的身份验证:每个请求都携带由该租户专用 Cognito 用户池签发的 JSON Web Token(JWT),在智能体逻辑运行之前,由 AgentCore 运行时的入站授权器验证,该运行时是 Amazon Bedrock AgentCore 的一项能力。
  • 网关中介的工具访问:智能体仅通过租户专用的 AgentCore Gateway 访问工具,该网关是 Amazon Bedrock AgentCore 的一项能力,它将调用转发至租户在 Amazon EKS 中运行的基于容器的 Model Context Protocol(MCP)服务。
  • 端到端用户身份:用户身份会传递至下游服务,每个 MCP 服务器都会对照租户的 Cognito 用户池验证智能体身份和用户身份,因此每次工具调用都以调用用户的身份获得授权,并由受信任的智能体发起。
  • 私有网络:租户共享一个 VPC 和 Amazon EKS 集群,通过命名空间和网络策略实现隔离,私有端点使发往 Amazon Bedrock 和 AgentCore 的流量保持在 AWS 网络内。每个租户的 AgentCore 运行时以 VPC 网络模式运行,网络接口位于私有子网中,因此其出站流量进入 VPC 并受安全组管控。

智能体层

隔离原则完全延伸至智能体架构:

文章标题:Duco 如何借助 Amazon Bedrock AgentCore 变革财务数据自动化

正文:

  • 每个租户一个 AgentCore runtime 和 Gateway:每个租户由专用的 runtime 和 Gateway 提供服务,并针对该租户自己的 Cognito 用户池和 Amazon EKS 命名空间进行配置。结合 AgentCore 内置的会话隔离,这意味着客户端之间没有共享的内存、上下文或工具。每家银行独有的 schema、命名约定和机构知识都与其他租户完全隔离。
  • 按租户划分的 MCP server:每个租户都有自己的一组 MCP server,提供特定于服务的能力,并在启动时动态发现。

该架构有助于维持这样一种模式:每个 agent 只能访问一家银行的数据、上下文和推理,从而促进银行之间上下文的真正隔离。

展示请求通过按租户划分的 AgentCore runtime 和 Gateway 流向 Amazon EKS 中 MCP 服务的高层架构图
展示请求通过按租户划分的 AgentCore runtime 和 Gateway 流向 Amazon EKS 中 MCP 服务的高层架构图

图 2:高层架构

多模型策略

Duco 没有押注于单一基础模型,而是为每项工作选用合适的模型,将其 agent 设计中的每个角色分配给最适合该角色的模型。这种方法通过将合适的模型能力匹配到每个特定工作负载,同时实现了质量和成本效率:

模型主要角色用例
Anthropic Claude Opus规划 agent用于复杂推理和理解,为其他 agent 预先制定可执行的计划
Anthropic Claude Sonnet主要推理与复杂决策异常调查、对账逻辑、规则解释
Anthropic Claude Haiku轻量级工具路由决策快速路由选择、低延迟分类、成本高效的首轮分诊
Amazon Nova 2 Pro工具输出摘要压缩 MCP 工具响应,为分析师生成可读摘要

Anthropic Claude Opus

这种多模型方法在架构上设计为允许在不中断整个技术栈的情况下替换模型,这在一个模型能力快速演进的领域中至关重要。

解决上下文膨胀:MCP skills 架构

Duco 最重要的技术创新之一,解决了任何构建生产级 agent 系统的人都熟悉的一个挑战:上下文窗口管理。

问题

通过 AgentCore Gateway(它为每个底层 Duco 服务前置一个单独的 MCP server),每个租户暴露 300–400 个工具,在工作开始之前,大约有 200,000 个 token 的工具描述被加载到上下文中。这导致了上下文过载:随着对话变长,响应质量下降,模型也失去了对早期推理的线索。团队强调,仅仅感觉 agent 变得能力下降,本身并不足以作为证据。在做出工程决策之前,必须运行评估。

解决方案:按需加载 skills

Duco 使用 MCP 资源类型创建了一种 skills 架构,将工具描述移出静态上下文,仅在需要时加载它们:

  • skill:// 资源——仅在需要某个 skill 时按需加载的工具描述。
  • system:// 资源——在运行时组合的动态系统提示词片段,使基础系统提示词保持精简。
  • ui:// 资源——UI 专用资源,与操作工具隔离。

在 Duco 的 agent harness 中实现的三个新的元工具,取代了臃肿的工具描述负载:

  • load_skill——仅在 agent 判断需要某个 skill 时,按需获取 skill 描述。
  • find_tool——定位相关工具,而无需将所有 schema 加载到上下文中。
  • invoke_tool——在识别出所选工具后执行该工具。
按需加载 MCP 技能:元工具只获取技能和工具描述,而不是把所有工具的模式预先加载到上下文中
按需加载 MCP 技能:元工具只获取技能和工具描述,而不是把所有工具的模式预先加载到上下文中

图 3:上下文加载与 MCP 连接

成果

  • 上下文减少 90%:通过将工具描述移出静态上下文并限制工具响应的大小,主上下文从 200,000 个 token 降至约 20,000 个 token。
  • 提示缓存得以保留:静态提示前缀(系统提示加上三个元工具)保持精简且稳定,技能被加载到对话中而不是工具列表中,因此加载技能不会使缓存失效。
  • 智能体响应质量显著提升:通过严格的评估框架进行了验证。
  • 无需任何基础设施变更:相同的底层模型、相同的工具、相同的任务,却取得了可衡量的更好结果。

MCP 工具发现:部署一个服务,获得一项能力

一个关键的架构决策是在启动时实现 MCP 工具发现。当新服务被部署时,其 MCP server 会作为部署的一部分注册为租户 AgentCore Gateway 上的一个目标。当智能体启动时,harness 会构建一个注册表,包含 Gateway 暴露的每一个工具,并只共享工具名称。随后智能体使用 find_tool 和 invoke_tool 按需发现工具详情并调用工具。因此,智能体自动获得该能力,无需重新部署或重新配置智能体。访问控制由底层服务自身强制执行:由于用户身份会通过 Gateway 传递,每次工具调用只有在该用户被允许执行该操作时才会成功。

这带来了运维敏捷性:平台团队可以通过部署一个新的微服务向智能体交付新能力,而无需改动智能体配置,也无需停机。对于一个服务 200 多个客户、需求多样且不断变化的平台而言,这种动态能力模型是显著的竞争优势。

大规模部署智能体

Duco 采用 Amazon Bedrock 和 Bedrock AgentCore 来支撑两个此前需要大量人工投入的关键工作流:

1. 智能入驻

此前,入驻新的对账流程是一项人工、耗时的任务,需要大量专业服务资源。银行迁移数千个流程需要数年时间,速度约为每周一个。

借助 Amazon Bedrock 和 Bedrock AgentCore,Duco 现在可以:

  • 自动理解跨遗留系统和现代系统的各种文件格式与数据结构。
  • 将现有系统中的遗留配置转换为结构化的 Duco 流程。
  • 解析数十年前编写、无人完全理解的复杂电子表格宏。
  • 以比以往快 10 倍的速度部署新的对账。

一家全球性银行的新对账入驻成本下降了 70%,并通过更好的匹配率和分配规则使直通处理率提升了 20% 以上。

2. AI 驱动的异常调查

金融机构在系统之间运行数千个质量门,每天产生无数异常。传统上,大批分析师会逐一人工调查每个差异,以判断它是否值得关注、是否已在调查中,还是代表一种新的风险。

Duco 的智能体现在负责调查的“第一英里”:

  • 在新差异出现时进行分诊,将可能具有相同根因的相关异常分组。
  • 检查上下文,例如该差异是否已知、是否已在处理中,或是预计会自行消除的时间差。
  • 通过从源数据和系统中提取证据来调查,追溯每个不一致的根因,无论是数据质量问题、记录缺失或延迟、映射或参考数据问题,还是真正的错配,并解释其发生原因。
  • 推荐一个可供决策的案例:可能的原因、拟议的解决方案(如调整、规则变更或升级)、考虑过的备选方案以及支持证据。
  • 将每个案例路由给合适的分析师,由分析师审查证据并做出最终决定,每项决定都记录在审计跟踪中。

这种智能体方法之所以表现出色,是因为财务工作流涉及高度可变的信息路径,而这正是基础模型擅长处理的复杂、上下文繁重的推理。

在受监管环境中运营

在金融服务领域部署 AI 智能体所需的不仅仅是技术能力。它要求严格的合规性、可审计性和风险管理。Duco 在 Amazon Bedrock 上的实现通过四项核心原则满足这些要求:

  • 全面的可观测性:每个智能体的决定都记录在完整的审计跟踪中。审查者可以追溯每项决定,以对照监管要求进行检查。
  • 人在回路控制:高风险操作需要明确授权,对于超出智能体置信度阈值的复杂场景,设有清晰的升级路径。
  • 故障安全架构:系统优先考虑客户保护而非运营效率,即使智能体遇到边缘情况或意外数据也能保障安全。
  • 监管对齐:该平台支持受 SOC 2 和 DORA 要求约束的工作负载,并具备按机构的数据驻留控制。

取得重要成果

Duco 对 Amazon Bedrock 的采用在客户部署中带来了可衡量、可审计的业务影响:

更快的对账部署

入门成本降低

直通处理率提升

手动调查节省的工时

也许最重要的是,Duco 现在拥有了快速创新的基础。构建新的智能体能力不再需要大量的机器学习工程,因此团队可以专注于解决业务问题,而不是管理基础设施。

路线图:人机协作的未来

Duco 的架构旨在增强而非取代员工。该平台设想随着智能体能力的成熟,人类角色将清晰演进:

任务执行者 → 调查者 → 决策者

未来不是由人类执行重复性任务,而是运营团队并行编排多个智能体,人类基于智能体准备的分析做出最终审批决定。该架构旨在支持智能体之间的通信,包括不同金融机构的智能体可以协调的跨机构场景。

结论

对于受监管的金融机构而言,Duco 的架构表明智能体 AI 不仅可行。它已经在生产规模上交付成果。Duco 在 Amazon Bedrock 和 Amazon Bedrock AgentCore 上重建了其智能体 AI 栈,结合了严格的按租户隔离、为每项工作选择合适的模型,以及将上下文开销削减 90% 的 MCP 技能架构。成果包括对账部署速度提升 10 倍,以及为一家全球银行将入门成本降低 70%、直通处理率提升超过 20%。要构建类似的多租户设置,请从 Amazon Bedrock AgentCore Developer Guide 开始,然后阅读 AWS Machine Learning Blog 上的 Building multi-tenant agents with Amazon Bedrock AgentCore。有关这项工作背后的运营模式,请参阅 Duco 的 Agentic Operations: a new operating model for post-trade。

关于作者

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by AWS Machine Learning
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗