在线AI教程 / AI上云
[Amazon Bedrock] 让人工智能走出演示并进入全球企业
人工智能 让人工智能走出演示并进入全球企业 AWS Forward Deployed Engineering 现已在 15 个国家/地区可用,包括美国、墨西哥、巴西、加拿大、澳大利
人工智能
让人工智能走出演示并进入全球企业
AWS Forward Deployed Engineering 现已在 15 个国家/地区可用,包括美国、墨西哥、巴西、加拿大、澳大利亚、新加坡、印度、韩国、日本、英国、德国、荷兰、法国、瑞典和沙特阿拉伯,面向商业与公共部门客户;由数十个内置的生产就绪加速器支撑。
我交流过的每一家企业,都已经用 AI 做出了能跑起来的东西。一个会读理赔单的原型。一个能解决信用卡争议的 agent。一个能在几秒内回答客户问题的模型。
原型能跑。演示能打动利益相关方。然后组织试着把它放进生产,真正的问题就开始了。生产数据比测试集更脏乱。审计人员想知道 agent 为什么做出每一个决定。业务量从试点小组涨到全公司。而最重要的规则,最后发现都活在人的脑子里。
这些都不是模型问题。它们是业务问题,并决定着 AI 最终能否产生回报。从演示到生产这一段就是最后一公里,大多数 AI 卡在这里。我们的团队也把时间花在这里。
我们在 6 月推出 AWS Forward Deployed Engineering(FDE),就是为了弥合这道缺口。此后,我们与金融服务、医疗健康、体育、媒体、零售等行业的商业与公共部门客户一起攻克这些问题。以下是我们的收获,以及它如何塑造了我们所构建的东西。
问题有三层
模型厂商、云厂商和咨询公司都在把工程师派驻到客户身边。在 AWS FDE,我们衡量成功的方式是看工程师离开之后留下了什么:一个你的团队拥有的基础、会持续学习的工作流,以及你可信任的治理。
在客户那里,最棘手的问题出现在三层:基础、工作流与治理。每一层都比看上去更难,而且每一层都建立在前一层之上。无论你是从零开始,还是在既有系统上构建,这一点都成立。绿地构建可以推进得很快,但还没有基础可站。棕地系统上,agent 必须在数十年的数据、规则与集成之内工作。
第一层:能够不断累积的基础
在 agent 能在规模上做有用的事情之前,它需要一个基础:身份、安全、上下文、治理与运营控制。这个基础必须从第一天起就是生产就绪的,并由其后的每一个用例共享。上下文往往是最大的缺口。大多数客户的数据分散在各个系统里,也没有一套共同的 ontology——即 agent 需要在其上推理的、描述业务如何运作的共享模型。
没有共享的基础,第二个试点几乎和第一个一样贵。集成被重建,经验没能传递。大多数组织都会走到某个节点,停下来先把基础建好,这样每个新用例都从上一个用例的成果出发,而不是从零开始。我们把这称为 AI reset。
Samsung Life Insurance 有四家附属公司,各自从零构建自己的 AI 点状方案。在 45 天里,FDE 团队建成了一个受治理的 agentic 平台,具备单一控制平面并内建合规。现在新 agent 通过注册与策略分配来部署,而不是重新构建。
第二层:自动化工作流
接下来是工作本身:高频、规则密集的流程,例如理赔处理、了解你的客户(KYC)审查、信用卡争议、贷款发起、发票对账、许可审批与客户服务。AI 能在这里带来即时、可度量的成果。回报来得很快,但驱动这些流程的知识很少存在系统里,而是存在于做事的人身上。
难的不是自动化本身,而是把每个决定背后的业务规则挖出来。当发票与采购订单对不上时,以哪条记录为准?例外什么时候能自动放行,什么时候需要人来处理?有经验的员工靠判断回答这些问题,而这种判断很少被写下来。
有时,这些知识就埋在系统本身里。
Rio Tinto Iron Ore 在一个已有 30 年历史的 Oracle 系统上,运行着世界上最复杂的「矿山到装船」供应链之一。该系统有 5,000 多张数据库表和 140 个应用。过去梳理它需要好几个月。FDE 团队构建的 agent 用几周就完成了梳理,并暴露出 Rio Tinto 团队可以验证、可以据以构建的依赖关系。
把现状梳理清楚只是开始。最大的机会出现在组织不再问「AI 如何让现有工作更高效」,而是开始问「AI 如何改变工作的方式」的时候。
第三层:在一切都在变化时仍然站得住的治理
治理不是项目的一个阶段,而是架构的一部分。随着 agent 数量成倍增加,安全风险、成本,以及你必须解释的决定,也都跟着成倍增加。每个 agent 都需要自己的身份、权限与审计轨迹,且与人的身份分开。又因为底层模型是概率性的,agent 需要监控,让它们的结果在上线很久之后依然可预期、可审计。
系统还必须在其周围的一切都在变化时保持运转。模型漂移、业务规则变化、数据格式改变、监管收紧。新的安全问题出现,代码逐渐过时。随着更新的模型到来,围绕它们的指令与工具也会改变。你需要评估与护栏,使 agent 在该可预期的地方保持可预期,在该有创造力的地方保有创造力。
当治理放在最后做时,它会变成拦住生产的关卡。当治理从第一天就内建进去时,它才是让业务能够快速前进的东西。
Marsh 是一家领先的全球专业服务公司,需要的 agent 要能经受住它自己的审计标准。FDE 团队从一开始就把这些控制内建进去,第一个用例在工作开始约两个月后就进入了生产。目标领域的效率提升最高达到 70%,部分流程步骤从数小时缩短到数秒。此后 Marsh 扩大了这项工作的范围,并且一直在自行扩展该系统。
我们如何解决:速度、规模与控制
我们的视角来自亲自构建和运行这些系统。AWS FDE 会把一支由 AWS 工程师、科学家和产品经理组成的小团队,与你的工程师以及一队专门的 AI agent 配对。我们许多 FDE 来自构建 Amazon Bedrock、Amazon Bedrock AgentCore、Kiro、AWS Quick 和 AWS Security Hub 的服务团队。他们在 AWS 的规模上构建并运营过 AI 产品,会把这些工程实践带入你的环境。双方团队一起,以 45 天为冲刺周期,在你自己的 AWS 账户里把一个高价值业务问题带到生产。客户不应该在速度、规模与控制之间做选择。FDE 就是为了同时交付这三者而构建的。
速度—— 你可能带着一个宽泛的目标或一个模糊的问题来找我们。我们与你的业务利益相关方一起把它打磨清楚,然后从第一天起就在你的环境里、基于你的数据、经由你的身份与安全控制来构建。我们与做事的人并肩,以短周期迭代。每个周期都会把真实案例摆到他们面前,而他们做出反应时,那些没写下来的规则就会浮现。我们把这些规则记录进一份活的上下文中,因此即使我们退出,系统也会继续学习。从原型到生产之间不会有任何重做。整个过程你都能看到可用的演示,评估会对照你关心的结果跟踪进展,而一个季度或更短时间内你就能拥有生产系统。
规模—— 点状方案可以在单个用例上推进得很快,却给接下来五个用例留不下任何基础。每一支 FDE 团队都以同样的方式工作,使用 AI-Driven Development Lifecycle(AI-DLC)——我们自己的服务团队把一个宽泛问题带向可用成果所用的方法。我们部署一套有明确主张的 AWS 技术栈,它凝结了我们在构建 AI 服务中积累的经验,并适配你的环境:一份描述你业务如何运作的活的上下文、一个供你的工程师与 agent 队伍构建的工作台、一个运行在 Amazon Bedrock AgentCore 上的 runtime,以及一个面向治理、成果、成本与 agent 表现的 control tower。针对常见任务的加速器(例如文档处理与客户情绪分析)负责处理标准部分,这样每个新工作负载都能专注于你业务特有的部分。这套有主张的 AWS 技术栈、上下文与控制,会从一个用例延续到下一个用例。
让规模化成为可能的,是你的上下文。假设你的第一个用例是销售自动化工作流。因为它的上下文就存在你的 AWS 账户里,下一个用例(供应链优化)就能在它之上构建,而不必从头再来。你的上下文、工具与 AWS 服务都在同一处,因此每个用例都比上一个构建得更快。
控制—— 我们构建的东西由你拥有。一切都在你的 AWS 账户里运行,处于你的身份、网络与安全控制之下。从第一个冲刺开始,你的工程师就与我们的工程师并肩工作,在真实的业务问题上学习架构与交付方法。此后,即使项目结束很久,他们也能继续运行并扩展这套方案。我们退出后,你的团队从 control tower 上运行系统——这是一个统一的视图,用来治理、保护和监控每一个 agent。我们衡量成功,看的是你的团队不依赖我们时能构建多少。
在第一个或第二个项目之后,我们希望你自己就能运转 AI 软件工厂。有一家金融服务客户就借助 AI-DLC 做到了这一点:agent 与工程师一起构建。吞吐量提升了 53%,代码评审快了 56%。
你的选择也保持开放。模型进步很快。当更好或更具成本效益的模型出现时,你可以通过 Amazon Bedrock 采用它,而无需重建,因此能力与成本都由你掌控。你也可以带上自己的编码 agent。我们这套有主张的 AWS 技术栈经过对你的环境的适配,通过 API、开放标准与 connector 连接到你的系统,并且能在混合环境中工作。你继续使用已有的工具与合作伙伴。
一个人人都在变强的飞轮
你的团队在变强。你的能力随每一个用例增长。活的上下文、这套有主张的 AWS 技术栈以及团队的技能都会延续下去,因此第二个用例不必重建第一个用例已经建好的东西。
AWS 的服务在变强。我们的工程师把从客户那里学到的东西带回产品。你构建在最新的服务之上,而不是构建在一套会逐渐过时的定制方案上。
整个 AWS 都在你周围运转。customer development engineering 探索早期想法,FDE 把最难的问题带到生产,AWS Professional Services 与 AWS Partners 把工作扩展到整个组织,AWS Support 让它持续运行。你的 AI 背后是整个 AWS 的深度,而你依然掌控着如何使用它。
有哪些新东西,以及如何开始
AWS FDE 现已在 15 个国家/地区面向商业与公共部门客户提供,而且购买方式更简单。每个 45 天的冲刺在 FDE Terms 下都有固定价格,并通过你的 AWS 账户计费。
无论客户处在转型的哪个阶段,我们都与之合作。对刚起步的客户,我们构建安全、受治理的基础,并在其上搭建最初的工作流。对准备好改变工作方式的客户,我们重建理赔处理、KYC 审查这类工作流,以及客户直接使用的购物、问题解决类工作流。之后由 agent 来跑这些工作。对被遗留应用拖住的客户,我们与他们的工程师一起构建可复用于每个新工作流的软件工厂。对已经在生产环境中扩展的客户,我们用能发现并修复问题的 agent 来保持系统安全,并降低每个成果的成本。
如果你准备好开始,请联系你的 AWS 客户团队。带上一名对结果负责的高管,以及准备好与我们的工程师并肩构建的工程师。我们已经摸清了项目在开始之前就会卡住的那些环节,因此我们的 agent 会承接大量准备工作,例如访问、数据与安全检查。工作可以在几天内启动。然后我们一起商定第一个冲刺要交付什么、以及如何衡量成功。
「能跑起来的 AI」与「改变业务结果的 AI」之间的差距是真实存在的。它是工程、运营与组织层面的差距,而我们的团队每天都在帮客户弥合它。在 AI 上取得成功的组织,未必拥有最先进的模型。它们会是那些建好基础、工作流与治理,让 AI 在整个业务中规模化的组织。
我们还处在早期,每服务一个客户都会学到新东西。模型会继续演进,围绕模型的工具也会。应当留存下来的,是一个你拥有的基础、会持续学习的工作流,以及你可信任的治理。这就是我们所说的「工程师离开之后留下了什么」。
要开始使用,请联系你的 AWS 客户团队,或进一步了解 AWS FDE。
关于作者