Newshot

让 AI 走出演示,进入全球企业

AI summary

AWS Forward Deployed Engineering 现已在 15 个国家面向商业和公共部门客户提供,包括美国、墨西哥、巴西、加拿大、澳大利亚、新加坡、印度、韩国、日本、英国、德国、荷兰、法国、瑞典和沙特阿拉伯,并由数十个内置的生产就绪加速器驱动。每个与我交流的企业都已用 AI 做出了能用的东西:一个读取理赔的原型、一个解决信用卡争议的智能体、一个几秒内回答客户问题的模型;原型能运行,演示能打动利益相关者,但组织一旦尝试投入生产,真正的问题就开始了。生产数据比测试集更杂乱,审计人员想知道智能体为何做出每个决定,用量从试点小组增长到全公司,而最重要的规则其实存在于人们的头脑中;这些都不是模型问题,而是业务问题,它们决定 AI 最终能否产生回报,也决定了从演示到生产的跨越。

Translation(model translation, not the source's own text)

人工智能

让 AI 走出演示,走进全球企业

AWS Forward Deployed Engineering 现已在包括美国、墨西哥、巴西、加拿大、澳大利亚、新加坡、印度、韩国、日本、英国、德国、荷兰、法国、瑞典和沙特阿拉伯在内的 15 个国家/地区面向商业和公共部门客户提供;由数十个内置的生产就绪加速器提供支持。

我交谈过的每家企业都用 AI 构建了一些可用的东西。一个读取理赔申请的原型。一个解决信用卡争议的智能体。一个能在几秒内回答客户问题的模型。

原型能跑通。演示能让利益相关者印象深刻。然后组织试图将其投入生产,真正的问题就开始了。生产数据比测试集更杂乱。审计人员想知道智能体为什么做出每一个决定。使用量从试点群体增长到整个公司。最重要的规则原来只存在于人们的头脑中。

这些都不是模型问题。它们是业务问题,决定着 AI 能否真正产生回报。从演示到生产的这段距离就是最后一英里,大多数 AI 都卡在这里。这也是我们团队投入时间的地方。

我们在 6 月推出了 AWS Forward Deployed Engineering(FDE)来弥合这一差距。自那以后,我们与金融服务、医疗健康、体育、媒体、零售等领域的商业和公共部门客户一起解决了这些问题。以下是我们学到的东西,以及它如何塑造了我们所构建的产品。

问题有三个层面

模型提供商、云提供商和咨询公司都在向客户派驻工程师。在 AWS FDE,我们衡量成功的标准是我们的工程师离开后留下了什么:一个你的团队拥有的基础、持续学习的工作流,以及你可以信任的治理。

在各个客户中,最难的问题出现在三个层面:基础、工作流和治理。每一个都比看起来更难,每一个都建立在前一个之上。无论你是从零开始还是在现有系统上构建,这都成立。在全新构建中,你可以快速推进,但还没有可站立的基础。在既有系统上,智能体必须在数十年的数据、规则和集成中运作。

第一层:可累积的基础

在智能体能够大规模做有用的工作之前,它需要一个基础:身份、安全、上下文、治理和运营控制。这个基础必须从第一天起就是生产就绪的,并且被后续每个用例共享。上下文通常是最大的缺口。大多数客户的数据分散在各个系统中,没有共同的本体——即智能体推理所需的关于业务如何运作的共享模型。

没有共享的基础,第二个试点的成本几乎和第一个一样高。集成被重建,经验无法延续。大多数组织会到达一个节点,停下来先构建基础,这样每个新用例都从上一个用例的成果出发,而不是从零开始。我们称之为 AI 重置。

三星人寿有四个关联公司,各自从零构建自己的 AI 点解决方案。在 45 天内,FDE 团队构建了一个有治理的智能体平台,具有单一控制面和内置合规。新的智能体现在通过注册和策略分配来部署,而不是重建。

第二层:自动化工作流

接下来是工作本身:高容量、规则密集的流程,如理赔处理、了解你的客户(KYC)审查、信用卡争议、贷款发放、发票对账、许可和客户服务。这是 AI 能够带来即时且可衡量成果的地方。回报很快,但驱动这些流程的知识很少存在于系统中。它存在于从事这些工作的人身上。

困难的部分不是自动化本身,而是揭示每个决策背后的业务规则。当发票和采购订单不一致时,以哪条记录为准?异常何时可以自行解除,何时需要人工处理?有经验的员工凭判断回答这些问题,而这种判断很少被写下来。

有时,知识埋藏在系统本身之中。

Rio Tinto Iron Ore 依托一套有 30 年历史的 Oracle 系统,运行着世界上最复杂的从矿山到装船的供应链之一。那套系统有超过 5,000 个数据库表和 140 个应用。对其进行映射曾是一项耗时数月的工作。FDE 团队构建了智能体,在数周内完成了映射,揭示出 Rio Tinto 团队可以验证并据以构建的依赖关系。

映射现有内容只是开始。最大的机会出现在组织不再问 AI 如何让现有工作更高效,而开始问它如何改变工作的完成方式之时。

第三层:在一切变化中依然成立的治理

治理不是项目的一个阶段。它是架构的一部分。随着智能体增多,安全风险、成本以及你必须解释的决策也会增多。每个智能体都需要自己的身份、权限和审计轨迹,并与人类身份分开。而且,由于底层模型是概率性的,智能体需要监控,使其结果在发布很久之后仍可预测、可审计。

系统还必须在周围一切变化时继续运作。模型会漂移,业务规则会变化,数据格式会改变,监管会收紧。新的安全问题会出现,代码会过时。随着更新的模型出现,围绕它们的指令和工具也会改变。你需要评估和防护机制,使智能体在必须可预测的地方保持可预测,在可以发挥创造力的地方保持创造力。

当治理在最后才出现时,它会成为阻止上线的关卡。当它从第一天就内置时,它正是让你的业务快速前进的东西。

Marsh 是一家领先的全球专业服务公司,需要能在自身审计标准下经得起检验的智能体。FDE 团队从一开始就将这些控制内置,第一个用例在工作开始约两个月后进入生产环境。目标领域的效率提升最高达 70%,一些流程步骤从数小时缩短到数秒。此后,Marsh 扩大了这项工作,并持续扩展系统本身。

我们如何解决:速度、规模与控制

我们的视角来自我们亲自构建和运行这些系统。AWS FDE 将一支由 AWS 工程师、科学家和产品经理组成的小团队,与你的工程师以及一组专业 AI 智能体配对。我们的许多 FDE 来自构建 Amazon Bedrock、Amazon Bedrock AgentCore、Kiro、AWS Quick 和 AWS Security Hub 的服务团队。他们以 AWS 的规模构建并运行过 AI 产品,并将这些工程实践带入你的环境。我们的团队共同在 45 天冲刺中,在你自己的 AWS 账户内,将一个高价值业务问题推进到生产环境。客户不应需要在速度、规模和控制之间做选择。FDE 的构建目标就是同时交付这三者。

速度——你可能带着一个宽泛的目标或一个模糊的问题来找我们。我们会与你的业务利益相关者一起细化它,然后从第一天起就在你的环境中、基于你的数据并通过你的身份和安全控制进行构建。我们与实际做事的人一起,以短周期构建。每个周期都会把真实案例摆在他们面前,而他们做出反应时,那些未写下来的规则就会显现出来。我们将这些规则捕获在一个持续演进的上下文中,因此在我们抽身之后系统仍会持续学习。从原型到生产之间不需要重建任何东西。你全程都能看到可工作的演示,评估会对照你关心的结果来跟踪进展,并且你能在一个季度或更短时间内拥有生产系统。

规模 – 单点解决方案可以在一个用例上快速推进,但不会为接下来的五个用例留下基础。每个 FDE 团队都以相同方式工作,使用 AI-Driven Development Lifecycle (AI-DLC),这是我们自己的服务团队用来将宽泛问题转化为可交付成果的方法。我们部署一套有明确主张的 AWS 技术栈,它反映了我们在构建 AI 服务中学到的经验,并适配你的环境:一个关于你的业务如何运作的活上下文,一个让你的工程师和智能体团队进行构建的工作台,一个运行在 Amazon Bedrock AgentCore 上的运行时,以及一个用于治理、成果、成本和智能体表现的控制塔。面向常见任务的加速器,例如文档处理和客户情绪分析,处理标准部分,这样每个新工作负载都能专注于你业务特有的内容。这套有明确主张的 AWS 技术栈、上下文和控制会从一个用例延续到下一个用例。

你的上下文是实现规模化的关键。假设你的第一个用例是销售自动化工作流。由于它的上下文存在于你的 AWS 账户中,下一个用例——供应链优化——会基于它构建,而不是从头开始。你的上下文、工具和 AWS 服务都集中在一处,因此每个用例都比上一个构建得更快。

控制 – 你拥有我们所构建的东西。一切都在你的 AWS 账户中运行,受你的身份、网络和安全控制。你的工程师从第一个冲刺开始就与我们的工程师并肩工作,在真实业务问题上学习架构和交付方法。之后,在合作结束很久之后,他们仍能运行并扩展该解决方案。当我们退后时,你的团队从一个控制塔运行系统,这是一个用于治理、保护和监控每个智能体的单一视图。我们衡量成功的方式是,你的团队在没有我们的情况下能构建多少。

在第一个或第二个项目之后,我们希望你能运行自己的 AI 软件工厂。一家金融服务客户正是这样做的,使用 AI-DLC,让智能体和工程师一起构建。吞吐量提升了 53%,代码审查速度提升了 56%。

你也保持选择开放。模型正在快速改进。当更好或更具成本效益的模型出现时,你可以通过 Amazon Bedrock 采用它,而无需重建,因此你同时控制能力和成本。你也可以自带编码智能体。我们这套有明确主张的 AWS 技术栈适配你的环境,通过 API、开放标准和连接器连接到你的系统,并且可在混合环境中工作。你保留已经在使用的工具和合作伙伴。

一个让所有人变得更好的飞轮

你的团队变得更好。你的能力随着每个用例增长。活上下文、有明确主张的 AWS 技术栈以及你团队的技能会延续下去,因此第二个用例不会重建第一个用例已构建的内容。

AWS 服务变得更好。我们的工程师将从客户那里学到的东西带回产品中。你构建在最新服务之上,而不是一个会过时的定制解决方案。

整个 AWS 都围绕你运作。客户开发工程探索早期想法,FDE 将最难的问题推向生产,AWS Professional Services 和 AWS Partners 将工作扩展到你的整个组织,AWS Support 让它持续运行。你获得 AWS 的完整深度来支持你的 AI,并且你仍然掌控如何使用它。

新变化,以及如何开始

AWS FDE 现已在 15 个国家向商业和公共部门客户提供,并且购买更简单。每个 45 天冲刺在 FDE Terms 下有固定价格,并通过你的 AWS 账户计费。

让 AI 走出演示,走向全球企业

无论客户处于转型的哪个阶段,我们都与他们合作。对于刚刚起步的客户,我们构建安全、可治理的基础,并在其上构建首批工作流。对于准备改变工作方式的客户,我们重建理赔处理和 KYC 审核等工作流,以及客户直接使用的工作流,例如购物和问题解决。然后由代理来执行工作。对于受遗留应用拖累的客户,我们与他们的工程师合作构建软件工厂,使他们可以针对每个新工作流重复使用。对于已经在生产环境中扩展的客户,我们通过能够发现并修复问题的代理来保障系统安全,并降低每个成果的成本。

如果你准备好开始,请与你的 AWS 客户团队沟通。带上一位对成果负责的高管,以及准备好与我们的工程师一起构建的工程师。我们已经了解项目在开始前会在哪里停滞,因此我们的代理会承担大量设置工作,例如访问、数据和安全检查。工作可以在几天内开始。然后我们一起商定第一个 sprint 将交付什么,以及我们将如何衡量成功。

能用的 AI 与能改变业务成果的 AI 之间的差距是真实存在的。这是工程、运营和组织层面的差距,我们的团队每天都在帮助客户弥合它。在 AI 上取得成功的组织不一定拥有最先进的模型。它们将是那些构建基础、工作流和治理,以在整个业务中扩展 AI 的组织。

我们还处于早期,每服务一个客户都会学到新东西。模型将继续演进,围绕模型的工具也会如此。应该持久的是你拥有的基础、持续学习的工作流,以及你可以信任的治理。这就是我们所说的,在我们的工程师离开后留下的东西。

要开始使用,请联系你的 AWS 客户团队,或进一步了解 AWS FDE。

关于作者

资源

  • 入门

博客主题

  • Amazon Bedrock
  • Amazon Comprehend
  • Amazon Kendra
  • Amazon Polly
  • Amazon Rekognition
  • Amazon SageMaker
  • Amazon Textract

关注

  • 电子邮件更新

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by AWS Machine Learning
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗