铃阅
❌

普通视图

“AI生成的代码必须开源!”开发者吵翻了,被开源代码喂大的Anthropic怕是第一个不同意

2026年11月16日 12:29

原创 褚杏娟 2026-11-16 12:29 北京

“所有 AI 生成的代码都应该开源。”

作者 | 褚杏娟

“所有 AI 生成的代码都应该开源。”

11 月 15 日,开源开发者 Jakub T. Jankiewicz 公开呼吁将 AI 生成的代码全部开源,或者直接放入公共领域。他认为,AI 模型从开源社区几十年积累的代码和技术知识中受益,企业却可以利用这些模型生成闭源软件,将原本属于社区的集体成果转化为自己的商业资产。这种做法,在他看来已经有了“许可证洗白”(license laundering)的嫌疑。

这个观点迅速引爆了社区讨论。有人赞同,认为 AI 公司依靠开源代码发展壮大,如今应该让生成的代码重新回馈社区;也有人直接反驳:自己花几个月设计、调试的软件,难道因为使用了 Claude Code,就必须把全部源代码免费公开?

实际上,靠编程能力冲上 AI 顶流的 Anthropic 自己也在招股书中承认,使用 Claude Code 等工具生成的代码可能包含或复现开源软件,从而触发许可证义务,严重时甚至需要公开部分专有源代码。与此同时,Anthropic 的商业条款又明确向客户转让其拥有的模型输出相关权利。

而 Jankiewicz 的主张,恰恰触及了这套商业模式中的另一端:如果 AI 模型的能力部分建立在开源社区长期积累的成果上,那么企业利用它生成的代码,究竟能在多大程度上成为自己的专有资产?

部分开源开发者主张让 AI 生成的代码回归公共生态,Anthropic 等商业 AI 公司则需要让企业客户能够继续将生成代码用于专有软件开发。双方没有直接发生冲突,但代码归属、开源许可与商业利益之间的冲突,已经成为开发者社区公开争论的话题。

1 开源代码喂大了编程模型,生成的代码却在闭源赚钱

Jakub T. Jankiewicz 长期参与开源开发,是 JavaScript 项目 jQuery Terminal 的作者,也参与维护过 isomorphic-git。他对于开源与商业软件之间的关系并不陌生。在博客中,他首先质疑的是 AI 产业对开源代码的使用方式。

从 GNU 计划到现代软件生态,开源开发者花费数十年积累了大量代码。大语言模型的训练语料中也包含大量公开的软件代码和技术知识,其中部分内容受到开源许可证或知识共享协议约束。Jankiewicz 认为,AI 公司利用这些资源训练模型,再让模型生成可以闭源销售的代码,本质上有将集体知识转化为私人商业资产的嫌疑。

他甚至将这种现象形容为“许可证洗白”(license laundering)。在他看来,模型提供了一条间接利用开源软件的路径:原本受到许可证约束的代码和知识进入模型后,又可能以新的生成结果进入闭源产品。

他的第二个理由涉及版权。纯粹由 AI 生成的代码没有人类作者,按照他对美国版权原则的理解,这类内容不应该获得版权保护。因此,他主张开发者主动将 AI 生成的代码以开源许可证发布,或者通过 CC0 将其贡献给公共领域。

当然,他也承认,现在的软件开发很难严格区分人工编写与 AI 生成。有人只让 AI 写几行代码,有人让模型负责整个项目的实现,还有人直接接受模型输出,甚至不认真阅读生成的代码。他尤其强调,后面这种几乎没有人工审查和修改的代码,理应开放。

这显然是一项相当激进的提议。如果得到广泛采纳,AI 编程带来的技术成果将不再只由模型供应商和使用模型的企业控制,开源社区也能直接利用和改进这些代码。不过,公开源代码并不意味着企业不能继续通过软件和服务获得商业收入。

2 开发者反击:我花几个月做的产品,凭什么白送?

这场争论触及了开发者的切身利益。

一位开发者表示,自己同时站在争论的两边:他的开源代码可能被用于训练 AI,而他自己也会使用 AI 开发专有软件。对于后者,他坚决反对强制开源。

在他看来,AI 只是工具,某种程度上类似编译器。即便模型写出了全部代码,开发者仍然需要决定产品方向、设计系统架构、反复测试、解决错误,并承担整个项目的技术责任。他正在开发的一个项目就需要几个月的持续迭代。如果仅因为代码由 AI 输出,就要求整个项目公开,显然忽视了其中大量人类劳动。

他还提出了一个问题:如果其他人也能直接使用 Claude Code 开发相似的软件,强制公开他亲自设计和调试的代码,究竟能为社会增加多少价值?

这一观点得到了部分开发者支持。有人认为,随着 AI 生成代码越来越普遍,决定软件价值的可能不再是代码行数,而是开发者对需求的理解、架构选择,以及保证系统可靠运行的能力。

反对者则指出,不能因为 AI 降低了代码生产成本,就忽视原作者的许可条件。尤其当模型生成的代码高度接近已有开源项目时,用户可能在不知情的情况下利用受保护的代码。

开发者“blagie”分享了自己的经历:

我是多个采用 AGPL 许可证的软件系统的作者,其中不少已经得到广泛应用。早期的大语言模型(LLM)几乎可以逐字逐句地生成我的代码。如今的模型虽然不再直接复现代码,但仍然大量借鉴了这些系统的创造性设计。

有一家公司最初直接盗用了我采用 AGPL 许可证的代码,例如,在发布软件时删除我的名字、版权声明,也没有按照许可证要求提供源代码等。我向他们发送了侵权通知。经过数月的交涉和争执之后,他们使用大语言模型克隆了整个系统。

但这个 AI 克隆版本给我的感觉是:

a)与我的原版代码相比,质量很差,漏洞和错误百出。

b)尽管如此,它本质上仍然大量使用了我的原创内容。

这就好比你让大语言模型重写一遍《哈利·波特》:故事情节几乎一模一样,只是对话写得很烂。

这段经历也反映了开源维护者的一种担忧:复制一个成熟项目通常需要直接接触和修改原有代码,现在 AI 可能让重新实现变得更加容易,原作者要判断是否存在侵权也更加困难。

争论还出现了另一个法律难题:如果纯粹由 AI 生成的代码本来就不受版权保护,那么开发者能否通过 MIT、GPL 等依赖版权授权的许可证,对这些代码施加约束?如果企业选择根本不公开代码,所谓“没有版权”是否必然意味着它应当开源?

开发者们并没有对这些问题达成共识。

3 Anthropic 的矛盾:向客户承诺输出权利,却担心自家闭源代码公开

Anthropic 并不是完全的开源旁观者。

2024 年 11 月,Anthropic 开源了 MCP;2025 年 12 月,又将其捐赠给 Linux 基金会旗下的 Agentic AI Foundation(AAIF)。如今,MCP 已成为 Agent 连接外部工具和数据源的重要开放标准之一。公司的 SDK、开发示例和部分智能体工具也采用开放许可证。但另一边,Claude 模型权重并未公开,Claude Code 核心产品仍采用专有授权。

相比开发者之间的观点交锋,Anthropic 在正式商业文件中披露的内容更加具体。

根据 Anthropic 商业服务条款,在适用法律允许的范围内,客户拥有 Claude 的输出内容,Anthropic 也将自身可能拥有的相关权利转让给客户。

这项安排对于企业采用 Claude Code 尤为重要。企业可以把 AI 生成的代码用于商业项目,而不必因为使用了 Claude,就自动将成果交给 Anthropic。

与此同时,Anthropic 本身并没有放弃对专有技术的控制。其公开的 Claude Code 项目许可证保留 Anthropic 的权利,并规定使用须遵守公司的商业条款。项目仓库能够在 GitHub 上访问,并不代表整个工具已经采用符合开源定义的许可证。

值得关注的是,Anthropic 在 11 月 10 日更新的 IPO 招股书中,专门用一节讨论开源软件带来的经营风险。

公司承认,其模型、平台和应用使用了部分开源软件,同时也会使用 Claude Code 等自家 AI 工具开发软件。生成代码可能包含或复现第三方开源内容,从而在不知情的情况下触发相关许可证义务,尤其是著佐权(copyleft)条款。

如果这种情况发生,Anthropic 可能需要重新开发相关软件、承担诉讼和赔偿成本,甚至按照许可证要求公开部分专有源代码。公司还指出,类似担忧可能导致企业客户限制使用其产品。

这些担忧正出现在 Anthropic 估值和融资规模迅速扩大的阶段。

根据招股书,Anthropic 计划以每股 70 至 78 美元的价格发行 8.25 亿股 A 类普通股,其中约 8.01 亿股由公司发行,其余由现有股东出售。按发行价区间上限计算,公开发行总规模最高约 643.5 亿美元。

与此同时,Anthropic 还安排了规模达 260 亿美元的同步私募配售,参与者包括 Google、NVIDIA、AMD、Broadcom、Micron、Microsoft 和 TSMC。其中,Google 和 NVIDIA 分别计划认购约 100 亿美元股份。两部分交易合计规模最高可达约 904 亿美元,有望超过此前其他大型科技公司上市的募资规模。

尽管市场持续讨论 AI 投资泡沫、基础设施支出和商业回报之间的关系,投资者仍希望通过 Anthropic 获得直接投资前沿大模型公司的机会。外媒报道,Anthropic IPO 的认购需求已达到可供认购股票数量的约 6 倍。承销银行还向潜在投资者表示,现有支持者将在股份分配中被优先考虑,这可能使部分新投资者拿到的股份少于预期。

英伟达与 Anthropic 的关系也格外受到关注。英伟达既是 AI 芯片供应商,也是 Anthropic 的战略合作伙伴和潜在重要股东。

这种关系也让开源争论多了一个现实维度:AI 企业的估值越来越高,硬件供应商向模型公司提供算力并参与投资,模型公司再通过向企业销售智能服务和编程能力实现商业回报。开源社区多年贡献的技术积累,在这个体系中究竟应当获得什么样的回馈?

4 AI 写的代码,到底算谁的?

美国版权局已经为这场争论提供了部分法律依据。

在 2025 年公布的《版权与人工智能》报告第二部分中,美国版权局认为,纯粹由 AI 生成、缺乏足够人类创作贡献的内容,不应获得版权保护。仅仅提供提示词,通常也不足以证明人类对最终作品的表达拥有充分控制。

不过,版权局同时强调,使用 AI 辅助创作不会自动取消版权保护。人类对作品进行创造性选择、编排、修改,或者在其中提供能够识别的原创表达,仍可能获得保护。具体是否符合条件,需要根据实际情况判断。

这意味着,开发者让 Claude Code 写出数万行代码,并不必然失去整个软件项目的版权;同样,企业也不能因为代码来自 AI,就认定其中不存在第三方权利。

这里还有一个经常被混淆的问题:没有版权保护,不等于必须向公众公开源代码;采用了 AI 编程,也不意味着生成结果必然继承训练数据的开源许可证。是否需要开源,仍取决于具体的法律关系、代码内容和许可条款。

但对于正在进入企业核心业务的 AI 编程工具,这些边界已经变得越来越重要。企业需要知道,AI 生成的代码能否安全地纳入专有产品,是否复制了受保护的开源实现,是否会带来额外的源代码披露义务,以及应该由谁承担相关风险。

参考链接:

https://jakub.jankiewicz.org/blog/ai-code-open-source/

https://news.ycombinator.com/item?id=50507303

https://www.anthropic.com/legal/commercial-terms

https://github.com/anthropics/claude-code/blob/main/LICENSE.md

https://www.copyright.gov/newsnet/2025/1060.html

声明:本文为 InfoQ 原创,不代表平台观点,也不构成投资建议,未经许可禁止转载。

END

转发,点赞,在看,安排一下?图片

图片会议推荐

12 月 18–19 日,AICon 全球人工智能开发与应用大会将在北京举办。本届大会以探索 A 应用边界为主题,设置 13 大技术专题,覆盖大模型后训练、推理优化、Agent 工程、知识工程、智能体评测与安全、自进化系统、AI 软件交付、原生架构及组织变革等核心方向,汇聚一线技术专家,深入分享 AI 技术突破与企业规模化落地的真实实践。8 折优惠倒计时最后一周,现在报名立减 1160,查看更多详情可扫码或联系票务经理 13269078023 进行咨询。

图片

跳转微信打开

星云 Redis 容器化资源降一半交付不用等

2026年11月16日 12:29

InfoQ 2026-11-16 12:29 北京

星云的 Redis 容器化从立项到上线,用了两个月;但从“能部署”到“敢上生产”,又花了将近一年的时间做专项优化。

作者 | 星巴克中国平台工程

星云的 Redis 容器化从立项到上线,用了两个月;但从“能部署”到“敢上生产”,又花了将近一年的时间做专项优化。
这一年里我们做的事情,说穿了就一件:把过去靠供应商、靠熟练度、靠人盯着的运维能力,一条一条搬进平台里。哨兵高可用、持久化分离、猝死保护、数据与元数据分离、参数自动计算、自助化交付——每一个专项背后都是真实的故障场景或者真实被折磨过的伙伴。到今天,业务的 Redis 从申请到拿到连接信息只要几分钟,故障切换基本都是自动收敛,排障也不再需要先登机器执行一串命令。

背景:为什么要
 让 Redis“走进容器”

在那之前,我们的 Redis 一直跑在虚拟机上,由第三方云管平台 UMP 统一管理。业务想用一个 Redis,要先提资源申请,等 infra 批机器、装环境,再由中间件团队建实例,整个链路走下来,交付以天计。更麻烦的是后面三件事:一是排障。云管平台是个黑盒,出现性能问题、数据问题,我们只能配合供应商一起看,问题定位的主动权不在自己手里。二是成本。虚拟机上跑 Redis,资源都是按峰值预留的,实际利用率经常连一半都不到,但机器已经占住了。三是保障。这类平台是跟着合同走的,合同一到期,版本升级、漏洞修复这些后续支持直接断档——等于把生产数据库的长期可靠性押在了一份采购协议上。

方向定下来之前,我们也反复问过自己:Redis 到底该不该跑在容器里。快手公开过他们大规模 Redis 上 K8s 的实践,同样是把 Redis 从虚拟机搬到容器,规模比我们现在大得多,正面回答过这个疑问。他们给的口径是性能差距通常在 10% 以内,很多场景基本持平。这是别人公开分享的数字,不能直接套到我们身上,但它至少说明这条路有人走通过、也量过,不是硬闯。

项目立项之后,我们没有从零造一个 Operator。数据库的生命周期管理是一个非常专业的领域,自己写一套 Operator 的维护成本会很高,所以最终选了 KubeBlocks 作为底座。它是一个通用的数据库 Operator,API 设计上跟具体引擎解耦,常见的数据库都能接,对我们后面扩展其他中间件也友好。上层我们自研了星云数据服务管理平台,负责面向业务的交付、运维和治理。简单说就是:底层用开源把数据库生命周期管起来,上层自己做,把内部体系集成和定制需求快速落地。

图 1 星云 Redis 容器化整体部署架构

项目推进得很快,两个月时间容器化 Redis 就基本达到上线要求:主从复制和分片集群两种拓扑都支持,扩缩容、配置热更新、备份恢复、监控看板这些功能都开发完了。做演示的时候一切都很顺利。

但真正的考验是从测试环境接入第一批业务开始的。上线前我们自己压测加业务试用,暴露出不少问题,现在回头看,这些问题的暴露是好事,因为如果直接上生产,代价会大得多。

问题大概有这么几类:

哨兵是高可用的核心,当时为了节省资源,所有主从集群都注册到同一套公共哨兵上。这套哨兵一旦不可用,受影响的不是一个业务,而是一批业务。而且业务改造哨兵地址的成本很高——我们自己盘了一下,一次切换要同时改好几个地方的配置,故障时根本快不起来。测试环境还出现过哨兵记录和主从记录对不上的情况,排查了半天才发现两边记录的实例信息一个用 pod IP 一个用 DNS。

持久化对写入的影响比预期大。主节点既要扛业务读写,又要承担 RDB 快照和 AOF 追加的写盘开销,磁盘 IO 一抖动,写请求就被拖慢,集群健康检查的告警随之就来了。

存储这条线当时也想得不够细。为了让盘能跟着 Pod 走,把持久化文件放到共享存储上,结果 Redis 最重的写盘行为全压到了存储系统;而实例一旦换个节点启动,连“自己是主是从”都要靠人工恢复。性能和高可用两头都没落下。

开源 Operator 的默认参数是通用值,不是为我们这种规格和负载调的。容器里跑 Redis,CPU 核数、内存配额都是受限的,不做针对性调整,性能和稳定性都到不了生产的标准。

缺可观测。日志要登机器去看,没有告警体系,出问题基本靠人肉救火。

这几件事让我们意识到:容器化最难的不是“把 Redis 跑在容器里”,而是“让业务敢把生产数据放进来”。后面这一年多的专项优化,就是围绕这个目标展开的。

优化方法论:把“救火”
变成“产品能力”

我们的优化工作有一条主线:每一次故障处理结束,除了修复当场的问题,还要问一句——这类问题能不能在平台层面彻底消掉?

比如早期主从切换要靠伙伴写脚本手工执行,步骤多、依赖熟练度、还有操作风险。后来这块能力做成了标准化的运维操作接入平台,节点维护的时候可以批量执行,一次操作就能把节点上所有主节点全部切换走。再比如拨测误告警,根因是“没有地方表达集群当前处于什么状态”,于是给集群加上了生命周期标签,初始化、维护中、待回收这些状态显式声明出来,拨测和告警按状态区别对待,噪音一下就降下去了。

这就是我们总结的“专项”模式:一个专项对应一类真实问题,解决方式要么是平台功能,要么是运维能力的产品化,要么是参数和脚本的标准化。最终沉淀下来八个方向:

① 高可用与哨兵方案

② 持久化策略与 IO 治理

③ 业务数据与集群元数据分离(让 Pod 能漂)

④ 参数治理与性能调优

⑤ 数据安全

⑥ 可观测与稳定性

⑦ 交付与运维提效

⑧ 业务自助服务(SKU 规格体系)

时间上大致分三段:2025 年下半年平台起步,年底到 2026 年初是集中建设期,绝大部分基础能力和优化都在这个阶段完成;之后进入持续打磨期,随着接入业务变多、生产流量上来,又陆续暴露出新的边缘场景,一个一个补齐。

专项优化

前面列的那些方向,这一年多落地成了七个专项。下面逐个展开,先说当时卡在哪,再说最后变成了什么能力。

专项一:高可用与哨兵方案

图片问题

基于前面说的情况,我们把问题拆成了三条:

公共哨兵集群故障会影响多个业务,影响面必须收窄;业务修改哨兵地址的成本太高,故障恢复链路必须缩短;哨兵与主从之间记录的实例信息不一致,隐患必须消除。

图片方案

最终定的方案是:给业务提供固定的服务地址,底层搭建多套哨兵集群。服务地址通过标签选择器绑定到其中一套哨兵上,当前这套出问题,就把选择器换到另一套,业务侧完全无感。同时我们做了一套迁移操作,把 Redis 集群换绑到新的哨兵集群上,整个过程从以前“改一堆配置”变成后台几分钟完成。

图 2 固定服务地址与多套哨兵的换绑关系

配套还做了两件事:

一是统一哨兵的宣告地址。让哨兵在集群里宣告时直接使用自身 Pod IP 并固定下来,从根上杜绝“记录与实际不符”这类问题。这个问题排查非常痛苦,因为它平时不发作,只在故障切换时才变成坑。

二是把哨兵的运维能力产品化,包括从哨兵端发起主从切换、卸载指定 master 的注册信息、哨兵实例的指标暴露等。

还有一个问题绕不开:Redis 搬进容器之后,外面那些没跟着搬的业务怎么连进来。我们的做法是两条链路并存。集群内的应用走服务和集群 DNS,这层最干净。集群外还有一批跑在虚拟机和物理机上的应用,短期不可能一起迁过来,就给它们留节点端口这条路:先问哨兵拿到主库地址,再直连。查询和运维访问另走一条只读入口,不占业务链路。这条路上踩过坑——节点端口场景下分片集群扩容,扩出来的实例在集群内可达、从集群外连不上,最后是靠把暴露方式统一收敛成服务地址解决的,细节在 3.7。

图片深水区攻坚

高可用这个专项其实持续了很久,因为大量问题只在边缘场景出现,测试怎么都测不出来,接入业务越多才越暴露。我们前前后后修掉的问题包括:

  • 分片集群在极端情况下分片成员之间的 meet 异常——集群拓扑会错乱,修的时候要重新 meet 节点,我们也把它做成了标准操作;

  • 分片成员因角色残留导致的启动死锁——节点重启后卡在启动阶段,需要先修复角色元数据;

  • 一批 Redis 容器多次异常重启、恢复后部分数据丢失的故障。复盘下来根子在存储和调度而不是 Redis 本身,由此定下两条硬性约束——主从节点强制反亲和、虚拟机不落在同一台物理机上,也推动了持久化策略的调整(调度打散这部分在 3.3 展开);

  • 哨兵整体宕机后恢复,不能自动完成切主——这条最危险,因为哨兵“看起来活着”,但实际上已经不再主从切换了。修复后哨兵全挂恢复也能自动收敛;

  • 远程存储异常导致主从都异常之后,哨兵不做自动切主——也是同类问题;

  • 停止集群后哨兵侧的注册信息残留,需要人工清理。

这块后来改成了停服自动清理,清理操作本身也做了增强,支持按状态批量执行。

这些问题,有的来自我们自己的使用方式,有的来自开源组件的边缘逻辑,每一个的修复过程都在提醒我们:高可用不是“部署时配置对”就完了,它是一个需要持续验证和持续修复的能力。

专项二:持久化策略与 IO 治理

这是整个优化历程里最亮眼的专项。

图片问题

Redis 的持久化(RDB 快照、AOF 追加)是数据安全的根本,但写盘产生的磁盘 IO 会跟业务读写争资源。主节点上这个问题尤其突出:一边处理业务请求,一边做后台落盘,磁盘一抖动,请求延迟就上去了,集群健康检查的告警也跟着响。

图片第一版方案:主关从开

思路很直接:主节点关闭持久化,专心服务业务读写;从节点开启 AOF,承担持久化职责。这样 IO 压力从主节点卸载到从节点,写入性能稳定了,数据安全也保住了——毕竟数据在从节点上有 AOF。我们把它做成了可配置的能力,通过环境变量开关控制。

这个方案上线后效果很好,IO 相关的告警明显少了。但它有一个隐患,我们当时就意识到了,并且在设计上做了防备。

图片隐患与猝死保护

隐患是这样的:主节点如果发生闪断——比如容器被 OOM Kill、节点瞬时故障——Kubernetes 会很快把 Pod 拉起来。这个“快”反而带来了风险:哨兵可能还没来得及感知主节点掉线,主从切换还没发生,主节点就已经复活了。而这个复活的主节点,因为在“主关从开”配置下不落盘,内存里是空的。

空的从节点不可怕,同步一下就恢复了。空的主节点是灾难:客户端连上去,写进去的数据全在内存里,一旦这个节点再挂一次,数据全丢。而且这个问题不一定会立刻暴露,可能埋很久才炸。

我们的解法叫“猝死保护”,核心是三条原则:数据安全优先、自动恢复优先、人工兜底。

具体机制是这样:

主节点在成为主的时候,往数据目录里写一个角色标记文件。节点启动时先做检查:

    启动检查:
    ├─ 有持久化数据(AOF 目录存在)? → 正常启动
    ├─ 无数据 + 无标记文件? → 正常启动(初始化场景)
    └─ 无数据 + 有标记文件? → 进入阻塞恢复循环

    只有“无数据 + 有标记”这一种情况会进入阻塞——它意味着“这个节点之前当过主,但现在数据没了”,是最危险的组合。进入阻塞后,节点不对外服务,而是进入一个恢复循环:每轮先看三件事,数据是否恢复了、标记文件是否被人工删除、是否已经选出了新的主节点;等待超过阈值后再去探一次从节点的数据量,从节点有数据就触发强制接管(TAKEOVER)等新主选出,从节点也没有数据,说明这个分片本来就是空的,正常启动。

    超时之后自动尝试接管,是尽可能让系统自愈;如果自愈也失败,就停在阻塞状态等人工处理。

    图 3 猝死保护的完整判断链:只有“当过主 + 数据没了”这一种组合会被拦住

    这个机制的含义是:宁可让这个实例阻塞几十分钟等人来处理,也绝不允许它拿着空数据对外服务。对数据库类产品来说,“暂时不可用”和“数据丢失”是完全不同量级的后果,前者业务能接受,后者不可原谅。

    后来我们把同一套机制也应用到了分片集群,还补了一些工程上的细节。比如主节点重新打开 AOF 时要清理历史遗留的 AOF 目录,我们选择先重命名备份而不是直接删除,留一个后悔的机会;再比如加了总开关,在特殊情况下可以完全关闭“主关从开”的控制逻辑,让 Redis 回到原生行为。

    “主关从开”配合猝死保护,现在是所有生产主从和分片集群的标配。

    专项三:业务数据与集群元数据分离

    这个专项解决一个很具体的问题:Pod 到底能不能挪。

    图片问题:跟一块盘绑死的 Pod

    容器化最有吸引力的地方,是 Pod 可以被随时驱逐、重新调度到别的节点——节点要维护、负载要均衡、机器要下线,这些都是常规操作。但数据库的 Pod 一旦跟某一块盘绑死,它实际上就动不了了。

    早期 Redis 的持久化文件和集群元数据放在同一个数据目录里,一起挂一块盘。这个目录里既有业务数据(AOF、RDB),也有角色标记、配置快照、集群成员和分片拓扑记录、哨兵注册信息这些小文件。混在一起的代价体现在两件事上。

    一是漂移动作变成了有损操作。Pod 漂到新节点,原来那块盘跟不过去,实例重新起来的时候“不知道自己是谁”:原来当的是主还是从、属于哪个分片、哨兵那边注册的地址是哪个。这些信息全在元数据里,元数据一丢,就得人工恢复元数据、重新注册主从关系,一次普通的重新调度要人守很久。

    二是共享存储被写穿。为了让盘能跟着 Pod 走,我们试过把持久化文件放到远程分布式存储上。Redis 的写盘行为在这条路上暴露得很充分:AOF 是持续追加,RDB 快照是把整个内存刷下去,实例内存越大、快照那一下的吞吐越吓人。几套大内存集群的快照时间一撞,共享存储的 IO 直接被打满——而被拖慢之后,受影响的是挂在它上面的所有实例,不只是发起快照的那一个。

    图片方案:按“谁在读”把挂载拆开

    后来我们不再纠结存储规格够不够用,而是先把“什么东西放在了共享存储上”这件事想清楚,按读写方把挂载拆成三类。

    业务数据走本地数据盘。AOF、RDB 这些引擎自己要频繁读写的文件放本地盘,IO 延迟稳定,快照突发不会去挤共享存储的带宽。配套的改动还包括把本地存储的数据目录从系统盘挪到独立数据盘,日志和临时文件写满系统盘这类事情从机制上断掉。

    集群元数据单独一块小卷。3.2 里提到的那个角色标记文件、配置快照、集群成员与分片拓扑记录、哨兵注册信息,全都归到这一类。它们的共同特点是:读的人是平台而不是引擎,体量只有 KB 到 MB 级,对 IO 几乎没有要求,但对一致性要求很高。把元数据从数据目录里拎出来独立存放之后,实例恢复身份这件事就不再依赖原来那块数据盘了。

    备份走对象存储。全量备份压缩之后落对象存储,属于离线链路,完全不占在线存储的资源。

    拆开之后,漂移的链路就顺了:调度器把 Pod 挪到别的节点 → 平台按集群身份找回元数据,实例先搞清楚“我是哪套集群的哪个分片、原来什么角色” → 本地数据盘重新分配 → 以从节点身份加入,通过 Redis 原生复制把数据同步回来 → 需要的时候再做一次主从切换。

    这里有个关键点:数据不是从旧盘上“搬”过来的,而是重新复制出来的。也正因如此,这个专项必须和“主关从开”配套用——主节点不落盘省掉 IO 压力,从节点落盘保证数据始终在盘上有一份,实例重建时才有东西可同步。快速摘除异常节点、重新注册主从关系、重置哨兵的 master 信息这几个动作,也都做成了平台上的标准运维操作,不再是靠人手改配置。

    本地盘不是白拿的,代价得摊开说。腾讯云有篇讲有状态服务上 K8s 的文章把本地盘分两句讲:好处是避开网络 IO 开销,换来更高的读写性能;坏处是节点故障之后数据访问不到、可能丢失,也没法垂直扩容。前一句就是我们选它的全部理由,后一句得自己补上。共享存储被写穿那一下,挂在它上面的实例一起被拖住,形态上就是“数据访问不到”,只是当时出问题的是存储侧,换成本地盘之后出问题的是节点侧。所以反亲和要做成强制的、备份要能随时拖起来、漂移的时候数据靠复制重建而不是等盘回来,这三件事少一件,本地盘就从性能方案变成风险放大器。

    图 4 分离之后:元数据找回身份,本地盘承接写压力,数据靠复制重建

    图片共享存储的 IO 压力降下来了

    分离之后,共享存储上基本只剩元数据这一类小 IO,Redis 的写放大和快照突发全部落在本地盘。远程存储不再站在在线读写路径上,之前那种“几套大实例同时做快照把存储打满”的场景就消失了。同期我们把数据节点从提供存储的机器上迁了出去,存储机器只做存储——数据的性能和存储的服务能力从此互不拖累。

    图片漂移的前提:别把鸡蛋放在一个篮子里

    Pod 能挪,还得保证挪出去的位置不制造新的风险。两条约束固化进了集群创建流程。Pod 这一层,同一套集群的主从节点强制反亲和,不允许调度到同一个节点上;虚拟机这一层,节点所在虚拟机的宿主机也要打散——Pod 反亲和只能保证“不在同一个节点”,但两个不同节点完全可能是同一台物理机上的两台虚拟机,物理机一挂,两个“不同节点”同时下线,Pod 反亲和就白做。

    物理机、虚拟机、Pod 三层故障域都打散,一次漂移才真的是换了一个故障域,而不是换个位置继续挤在一起。

    图 5 少一层反亲和,故障域就没打散

    图片边界再说清楚一点

    这套机制覆盖的是“实例能重建、身份能恢复、数据能重复制”。极端场景下本地盘的整块故障自动转移、元数据的定期备份回滚,目前还在治理中,也一并列进了文末的未来规划。把边界说明白,是因为这两块恰恰是分离架构新引入的关注点:数据可以靠复制重建,元数据不行。

    专项四:参数治理与性能调优

    Redis 的参数有两百多个,跟规格、负载场景强相关。这个专项我们分四层做了系统性治理。

    图片第一层:分版本默认参数基线

    Redis 6、7、8 三个大版本的参数体系有差异,同样的参数在版本间的行为也可能不同。我们基于兼容性测试和性能测试,整理并落地了三个版本各自的默认参数集,目标是开箱即用、保证稳定性。所有新集群创建都从基线出发,这是后面一切优化的地基。

    图片第二层:配置热更新产品化

    参数总归是要改的。以前改参数要么进容器改配置文件重启,要么让平台侧执行命令,都不安全也不方便。

    我们做的方式是让平台从引擎的参数元数据里自动读取全部可调参数,在页面上以下拉框的形式提供配置入口。关键设计是区分动态和静态:动态参数在线修改、立即生效,适合应付流量突增或者限流调整;静态参数则走滚动重启流程,但不是简单重启——先生效从节点,再触发一次主从切换,最后重启原主节点。这样滚动重启的风险被控制在单节点范围内,参数生效的同时业务几乎无感。

    图 6 静态参数的滚动重启顺序:从 → 切 → 主

    图片第三层:参数自动计算

    Redis 不少参数需要跟规格匹配,手工填很容易出错,比如内存上限填得比容器配额还大,实际运行时会出各种奇怪问题。

    我们把这类参数从“手工填写”改成“按规格自动推导”。举几个原则性的例子:

    • 内存上限按规格的 80% 左右计算,留出客户端缓冲区和系统开销的空间;

    • 客户端缓冲区上限再取内存上限的一个小比例(5% 左右);

    • 复制积压缓冲区按规格大小自适应,设了下限和上限,小规格不至于占太多内存,大规格不至于不够用;

    • 客户端输出缓冲区的软硬限制跟积压缓冲区联动,避免慢客户端把内存吃光。

    这些公式都不复杂,但它们跟着规格走,同一套模板在不同规格上都能得到合理的配置,这一点比任何一份“最佳实践文档”都可靠。

    图片第四层:性能细节

    三个具体的点:

    IO 线程数(io-threads)之前是固定值,在小规格上出了问题。CPU 核数不够的时候开多线程 IO,线程之间频繁上下文切换,延迟反而变大。后来改成按核数动态设置:小规格不开启或者用 1,核数够了再开到接近核心数,把 IO 线程和主线程的 CPU 争用避免掉。

    自动碎片整理之前没有开启,长时间运行的实例内存碎片率会上来。我们把碎片整理的参数补进默认配置:启用碎片整理,调整触发阈值的下限,同时控制好整理的天花板,避免碎片整理本身消耗太多 CPU。

    大 Key 治理,包括热 Key 扫描和大 Key 分析的展示优化,把“哪些 Key 有问题、问题有多大”直观地摆在业务面前。

    专项五:数据安全

    高可用解决的是“故障时服务还在”,数据安全解决的是“不管发生什么,数据都在”。这个专项做了三件事。

    备份体系。 支持全量备份,可以定时也可以手动触发,备份数据自动持久化到对象存储。运维人员可以随时从备份恢复数据、回滚。后来我们还做了两个升级:一是从备份创建新集群——用生产备份直接拉起一个隔离的新环境,问题复现、功能验证、变更演练这三个场景都特别有用,以前要么在生产上冒险操作,要么手动导数费半天劲;二是恢复不必回到原来那套集群——同一个备份既能原地拉回来,也能恢复到另一套集群上,我们在测试环境完整验证过恢复流程,确保备份真的能恢复,而不是“备份任务成功但恢复失败”这种最尴尬的情况。

    图 7 数据安全三件事:备份的三条出口、Key 治理、凭据初始化

    数据治理工具。 热 Key 扫描在线分析实例里访问频率最高的 Key,帮助定位热点;大 Key 过滤在备份和分析过程中识别过大的 Key,避免单个大 Key 拖垮内存和性能。快照分析这一块也做了增强:业务以前拿到快照数据后要自己想办法分析,现在平台支持按前缀过滤和导出具体 Key,想让业务看什么就能给什么。这几项在原来那套托管平台上是提不出来的需求——它只做虚拟机部署,热 Key 分析、备份统一管理这类事不在它的路线图里。业务报了问题,我们也只能陪着一起等。

    账号安全。 早期 Redis 用的是固定密码,现在改成随机密码初始化,降低凭据管理体系里的风险面。

    专项六:可观测与稳定性

    日志。 运行日志和慢日志都接入了日志平台,慢日志还单独做了 exporter。容器里的日志有堆栈场景,我们配置了多行合并规则,保证错误堆栈在日志平台上是一条完整的记录而不是散着的几十行。现在排查异常不需要登机器了,这是运维体验改善最直观的一项。

    告警。 从零建立了告警配置,配合告警专群做触达。告警规则本身也做了治理——比如集群刚创建还没交付时不告警,避免干扰值班。

    拨测。 我们用拨测做业务视角的可用性验证,参考了 blackbox 的思路。这里有个挺有意思的设计:以前拨测和告警最烦的场景是“初始化时误告警”“维护时误告警”——变更窗口内的实例状态跟业务预期不一致,拨测结果就没法用。

    根因是集群没有一个地方表达“我现在处于什么状态”。所以我们给模板加了生命周期标签,集群在整个生命周期里有明确的状态:初始化、已交付、维护中、待回收、已回收。拨测和告警根据状态区别处理——维护中的集群不告警不拨测,已交付的集群正常告警正常拨测。变更窗口的噪音一下就消掉了,值班同学再也不用在维护时手动屏蔽告警。

    图 8 生命周期标签:每个状态对应一套拨测与告警策略

    业务关联。 这个能力我们觉得是最实用的:平台可以拿到连接 Redis 的客户端 IP,然后关联到对应的业务 Pod 并展示出来。以前排查一个连接数暴涨或者大 Key 是谁的,要在库里查半天客户端信息再去对业务;现在打开页面就能看到“是哪个业务的哪个 Pod 在连这个实例”,排查时间从几十分钟缩短到一眼。

    监控看板。 指标导出接入统一的监控平台,集群级的监控看板、全局仪表盘都建起来了,多集群的健康状态集中展示。

    专项七:交付与运维提效

    图片业务自助:modio 工单 + SKU 规格

    容器化中期,Redis 的开通入口接到了内部工单系统 modio。业务直接在工单里选规格、提交申请,平台收到工单后自动完成集群创建,再把连接信息回填到工单里。业务从“提申请、等排期、等运维操作”变成了“选规格、等几分钟、拿地址”——规格选择、组件版本、资源配额、监控开关,全在工单里选完,不再需要来回沟通确认。

    规格这一块(我们内部叫 SKU)开放了多个标准化档位,从入门规格到大内存规格都有,用户按需选。背后是一套规格体系:每种规格对应一套固定的资源配额和参数基线,跟内部原来的托管平台规格对齐,业务迁移过来不用重新理解一套规格定义。

    图 9 一次自助开通:业务只提交一次申请,剩下的都在平台里

    交付质量兜底。 自助化之后,交付质量的要求反而更高了,因为流程里没有人工兜底。所以几个交付动作被固化进了流程。

    其中一个是交付后的自动化钩子。平台在“集群创建完毕”这个节点上挂了 hook,可以接着自动执行一批集群级的 ops 操作,第一个用起来的就是主动主从切换。

    这一步看着有点多余——集群刚建好,主从本来就有了,为什么还要再切一次?因为它要保证的是编号 -1 的实例落在 primary 上,而后面那套自愈逻辑正是按这个假设写的。平时看不出差别,可一旦遇到极端故障、一整套集群同时失联再恢复,恢复顺序和角色判定就会跟这个假设对不上,最后还是得靠人工去指定谁是主。让 -1 在交付时就位,等于把自愈的前提提前铺好:真出事的时候,集群自己就能收敛,不需要人半夜上手。

    另一个是返回给业务的连接地址按交付规范生成——sentinel 主从返回固定的服务地址,集群内和集群外访问分别提供对应的方式;期间发现过返回地址错误的问题,也一并修复了。

    变更审批与追溯。 自助化把开通的门槛降下来了,但生产环境的变更不能靠自觉。关键操作一律走审批:谁申请、谁批的、改了什么参数、什么时候生效,链路上全程留痕,事后能一条一条倒回去看。这一层首先是合规要求,对我们自己更有用的地方在于——只有变更可追溯,复盘时才分得清是代码写错了还是某个人在某个时间点手改了一下。分不清这件事,问题清单就永远消不干净。

    双向集成。 星云侧提供了跳回 modio 的入口,两边业务信息关联展示,排查问题时能快速找到工单信息。

    modio 侧的管理能力。 我们还把一批运维操作通过 ops 暴露出来,支持 modio 侧的泳道开发:Kafka 的 topic 管理,RabbitMQ 的用户、vhost、交换机、队列、权限的增删查,以及 exchange 的 bind/unbind,都可以通过 ops 自助完成一部分。

    通用提效。 集群模板、模板克隆、连接信息一键拷贝这些功能把日常交付和复制环境的时间从“按步操作”压缩到“点几下”。节点维护模式支持批量把节点上所有主节点切换成从节点,维护前跑一次,业务无感。主动、被动主从切换、指定实例提升这些都产品化了,让切换从“写脚本执行”变成“页面点选”。

    扩容缩容与网络。 扩缩容期间修掉了一批问题:水平扩容启动脚本失败、副本缩容异常、扩容从节点时出现多个主、nodeport 场景下副本扩容异常。网络暴露方式也做了一次演进——之前主从模式给业务暴露的是 pod IP,现在改成服务地址。服务地址的好处是 Pod 重建、调度变化对业务透明,连接不会因为一次重建产生一次故障。分片集群的 IP 宣告也做了优化,让它跟服务地址一致。外部访问的兼容性问题也一并处理了。

    成果与收益

    稳定性。 现在前面提到的那些故障场景基本都能自动收敛:哨兵切换不需要人工介入、主节点空数据不会对外服务、哨兵全挂恢复后自动切主、维护窗口不再误告警。值班同学从“随时准备登机器救火”变成“处理平台推送的告警”。这些结论不是推演出来的,是一场一场演练打出来的:节点整机宕机、节点计划维护与网络隔离、节点 CPU Soft Lock、实例内存 OOM、分片集群主从切换、哨兵注册信息迁移与快速切换、CoreDNS 出问题时的哨兵行为、用备份拉起一套新集群。演练报告是发布准入材料之一,一个场景没演练过,就不能说它“能自动收敛”。

    交付效率。 交付从天级缩短到分钟级;自助开通后,业务从工单流出到拿到连接信息只要几分钟。规格、版本、资源配额、监控开关都在一张工单里选完,平台按模板把整套集群拉起来,一套三主三从的分片集群三分钟起。链路短了,中间的人工确认和排队都省掉了。

    成本。 资源池化管理,按实际用量分配,专用节点池保障性能——生产环境的 Redis 有独立的专用节点,不会跟其他业务争资源;测试环境按需分配。省了多少,测试环境有一组前后对比:同一批 Redis 集群容器化之后,CPU、内存、存储三项都降到原来的三分之一左右,降幅在 63% 到 69% 之间。这组数字不能直接推到生产——测试环境的负载形状比生产规整,也没有真实的峰值流量,生产上不会降得这么整齐。但省下来的东西是同一类:过去按峰值留给每台虚拟机的余量,现在被资源池吸收了。还有一块是看不见的成本:不再为第三方托管平台的许可付费,长期成本从跟着合同走变成自己算得清。行业里也有量级参照,B 站把 Elasticsearch、ClickHouse 这些有状态服务搬上 K8s,存储选本地盘加 LVM、靠反亲和防单点,公开的数字是资源利用率从 5% 提到 15%、省下上百台物理机。

    测试环境容器化前后资源对比

    基础设施解耦。 业务数据、集群元数据、备份各走各的存储,共享存储不再承接在线写压力;节点维护和实例重调度从“要提前几天准备的人工工程”,变成了平台上的常规动作。

    体验。 业务侧基本无感:故障时不用改配置,开通时不用等排期,排障时有人帮他定位是哪个 Pod 在连。

    经验与感悟

    容器化真正难的部分,是让“人”的经验不再被需要。 容器化本身不复杂,把 Redis 跑在容器里几天就能做到。难的是把过去靠供应商、靠熟练度、靠流程保证的东西,变成代码和产品能力。我们做的每一个专项,本质都是把一条“只有某个人知道怎么处理”的经验,变成“平台自动处理”。这件事没有尽头,但每做一条,系统就强一分。

    数据库产品的底线思维和业务系统不一样。 业务系统出故障,降级、限流、fallback,有很多手段。数据库不行,数据没了就是没了。所以“猝死保护”我们选择了最保守的设计——宁可阻塞等待人工介入,也绝不以空数据启动。这类原则要写进代码里,不能只写在文档里,因为真正出事的时候,没有人会记得文档上写过什么。

    先分清数据流,再选存储。 共享存储扛不住的时候,我们一度以为那是规格问题,加盘、扩容都试过。真正的转折点是换个问法:这份数据是谁在读、读得有多频繁。想清楚这个,业务数据落本地盘、元数据走独立小卷、备份进对象存储就是自然的结果,而不是权衡出来的妥协。存储架构的账,最后都是数据流的账。

    开源 Operator 和自研平台的边界要清楚。 KubeBlocks 帮我们省掉了大量底层工作,但通用产品到生产产品之间有一段距离——哨兵高可用方案、持久化策略这些,都要结合实际场景自己做。选开源组件的时候想清楚“我用它的什么、哪些自己做”,比单纯比较功能列表重要得多。

    快手公开的那份大规模 Redis 上 K8s 的实践是同一条路:也用 Operator 管生命周期,也靠细粒度打散调度把故障域切开,也用 Admission Webhook 挡非预期的变更。这类分享对我们最有用的地方不是抄方案,而是确认了边界在哪:开源组件替你把实例的生命周期管了,但它不会替你把 SLA 兜住。

    这一年做的专项,几乎都能在别人的问题清单里找到对应项。 B 站把 Elasticsearch、ClickHouse 这些有状态服务搬上 K8s,腾讯云那篇讲有状态服务上 K8s 的文章,包括前面提到的快手,踩坑的位置高度重合。这说明容器化中间件要补的能力是共性的,不是我们特殊;也说明没有谁能替谁走一遍。

    团队的坚持才是最关键的。 这一年的优化里,相当一部分工作是在夜里、在业务低峰期完成的——迁移、切换演练、参数调整,很多动作必须放在业务量最低的窗口。也是这一年的坚持,让平台从“能演示”变成了“业务敢用”。回头看,问题清单是一步一步消掉的,没有捷径。

    未来规划

    存量迁移。 新建集群已经不再走虚拟机的交付方式,接下来的重心是把存量一套一套搬过来:按业务等级分批,先做内部业务系统和等级高的集群,每一批都带着演练报告和回滚方案走。

    多数据库矩阵。 Redis 的这套能力还在往外扩:MySQL、PostgreSQL、MongoDB、消息队列(RabbitMQ、Kafka、RocketMQ)、搜索引擎都在推进中,部分已经上线。数据服务管理平台的目标是成为内部所有有状态服务的统一交付入口。

    可用性继续往上走。 有几个方向在进行中:本地盘数据漂移治理——极端故障场景下实现本地存储数据的自动故障转移;远程存储元数据定期备份到本地——控制远程存储整体故障时的爆炸半径;主从状态实时感知集成——让平台对 Redis 主从状态的变化更实时;实例整体宕机后的自动恢复能力。

    自助能力深化。 批量配置变更、和 CMDB 的联动、SKU 体系的持续演进都在排期里。方向只有一个:中间件的交付和运维尽量不再需要人工介入。

    参考资料

    《是否应在 Kubernetes 上运行 Redis?快手这样做》

    《谁说数据库不应放在容器中?B 站 Kubernetes 有状态服务实践》

    《揭秘有状态服务上 Kubernetes 的核心技术》

    END

    转发,点赞,在看,安排一下?图片

    图片

    跳转微信打开

    AI 写得快,谁来接住生产责任

    2026年11月16日 12:29

    InfoQ 2026-11-16 12:29 北京

    AI 已经能在几分钟内把一个应用的 Demo 写出来,这件事早就不新鲜了。真正悬而未决的,是这些 Demo 能不能走到生产环境,并且一直活下去。

    近日在 DBTalk 数据库 AI 技术沙龙成都站上,腾讯云 PG 数据库技术专家黄辉把这个问题摆上了台面,并给出了自己的判断:AI 缩短的是代码生成的时间,不是生产工程的责任清单——这份责任没有消失,只是从"谁来写"变成了"谁来扛"。

    AI 写得快,不代表接得住

    他举了一个团队任务管理系统的例子:一个账号、几个页面,接上数据就能演示。但要推向生产,问题立刻浮现:这个应用给多少用户用?用户归属哪些团队、有什么权限?某个用户突然发出大量请求怎么处理?数据被误操作了怎么恢复?

    这些问题可以归纳成三道工程鸿沟,而且都指向同一个结论——AI 没有分担这部分责任,只是把它推后到了上线之后。

    成本结构不匹配:传统数据库固定规格、长期计费,而 AI 应用负载波动极大,为了兜底高峰去买高规格,平时大部分时间反而在为闲置付费。

    资源供给不匹配:传统应用上线前有数周到数月的评估周期,资源可以提前准备,而 AI 应用要的是快速试错,等不起这个周期——现在最快的云数据库创建也要几分钟,在 WorkBuddy 这类 AI 平台上跑一个任务,光等数据库就位就要十几分钟,用户的耐心早就耗尽了。

    运行治理不完整:身份认证、权限隔离、数据保护、容灾恢复,这些能力在 Demo 阶段都不需要,但在生产环境里一样都不能少。

    三道鸿沟各自有解法,但思路是一致的:把本该由人盯着的责任,写进系统的默认行为里。

    把责任,写进系统的默认值

    先看成本结构不匹配怎么补。解法是把计费单位从"固定规格 × 时长"换成按活跃时间片计算的 CU(1 核 2G 每小时),计费精确到分钟,没请求不产生计算费用。偶尔被调用几次的小应用,不再需要为一整月的闲置买单。

    那资源供给不匹配呢?解法是把数据库创建这件耗时的事,提前挪到用户请求之前:平台预置好一批初始化完成的实例,放进资源池,请求来了直接分配,只需补上身份绑定和网络配置这两步轻量动作。交付时间因此从行业常见的 5 分钟级,压到 3 秒以内,提速约 100 倍。

    最后是运行治理不完整,解法分两步。

    第一步,让权限默认写进数据层。 思路对标了 Supabase 范式——把 PostgreSQL 的 Schema 当成 API、权限和 AI 共同理解的唯一后端契约。权限上分三种角色:匿名角色只访问公开数据,登录角色承担绝大部分业务访问(由 GRANT 控对象权限、RLS 控行级可见性),高权限角色只给服务端用。一个最小示例看得更直观:先开启行级安全,再用一条策略把访问和写入都綁在同一个租户上:

      ALTER TABLE tenant_data ENABLE ROW LEVEL SECURITY;
      CREATE POLICY tenant_isolation_policy ON tenant_data
        FOR ALL TO app_user_role
        USING (tenant_id = current_setting('app.current_tenant')::UUID)
        WITH CHECK (tenant_id = current_setting('app.current_tenant')::UUID);

      这条策略效果是:应用代码不用处处写 WHERE tenant_id = ?,漏写了,数据库自己会拦下来。

      第二步,让同一资源池里的应用互不干扰。 答案是 Serverless 模式:让渡的是资源长期独占,换来低成本按需计费和秒级交付。隔离拆成三层:路由只到自己的实例,连接权限不属于别人,Schema 和对象权限严格隔离。一个实例回收重新入池前,要按顺序走完这套流程:

      1. 摘除路由:网关和连接层不再把新请求路由过来

      2. 关闭新连接:回收上一个使用方角色的连接权限

      3. 清理存量连接:把已有会话排空或终止

      4. 权限重置:回收残留权限,重建默认权限基线

      5. 校验后再入池:确认无旧路由、无旧连接、无旧授权,才能放回资源池

      任何一步没做干净,都可能让旧凭证重新访问到已回收的数据。应用变大之后也有退路:小应用先在 Serverless 资源池里跑,访问量上来了就在池内调高配额,业务稳定后再一键迁到预置规格实例,全程不用改代码。

      这套数据层隔离的思路,还延伸到了 Agent 场景:用 Branch 和沙箱让 AI 先在隔离环境里验证,而不是直接在生产数据上试错。而 Serverless 这套隔离机制本身,也正好划出了整套方案的边界。

      边界划清楚了,分工才清楚

      整套解法的前提是一次价值交换:用户放弃长期预留的固定资源,换来低成本和秒级交付。这笔交换也划出了 Serverless 模式的边界——需要长期保持大量并发连接、负载持续高位,或者对性能隔离、故障域和 SLA 有明确要求的核心交易系统,按需模式省不了多少钱,也给不了固定资源那样的确定性,直接选预置规格实例更合适。

      这条界线划清楚,开发者和平台的分工也就跟着清楚了:开发者继续负责业务模型、业务权限、业务逻辑和产品体验;可用性保障、数据备份恢复,以及安全合规所需的基础能力,则由平台通过架构和托管能力统一承接。

      他最后用一句话结束了这场分享:让 AI 写出的每一个应用,都有一套能长期运行的生产级后端。这句话回应的正是开头那个问题——AI 写应用之后能不能活下去,答案不在模型写得多快,而在谁来接住代码落地之后那一串没人替你扛的工程责任。

      从 Demo 到生产的鸿沟,从来不是今天才有。每一次开发范式换代,都要重新回答一次"谁该接住这份责任",这一次,轮到数据库来接。

      END

      转发,点赞,在看,安排一下?图片

      跳转微信打开

      谷歌 SRE 圣经被迫重写:AI 时代,硬技能在塌陷,第一性原理在升值

      2026年11月15日 10:15

      原创 林绮蓓 、Tina 2026-11-15 10:15 北京

      十年后全面重写,AI 成为《SRE 圣经》的新课题。

      编译|林绮蓓

      策划|Tina

      2016 年,一本蓝色封面的书砸进了整个技术行业,把“运维”这两个字从地下室拽进了工程学科的殿堂。

      在它之前,运维在大多数组织里是一个成本中心,是一群被凌晨告警叫醒的人,是开发团队眼中“拖慢发布速度的那帮人”,是一门靠师傅带徒弟、靠口口相传、靠个人英雄主义在机房里临场发挥的手艺。系统出了故障,运维的默认答案就是:“加人、加班、加流程”。

      第一版《SRE》做的第一件事,就是用一套冷峻的工程语言,正式宣告了传统运维时代的终结。 它向全行业抛出了一个不可辩驳的等式:SRE 等于用软件工程师的标准来设计运维团队。

      《SRE》这本书将日常运维的时间被硬性封顶在 50%,剩下的必须投入工程工作。这揭示了运维(Ops)的本质是一个软件工程问题,不该靠加人来扛故障,而应该靠写代码来消灭故障。从这本书出版那天起,SRE 不再只是一个谷歌内部的岗位名称,它成了一个新学科的名字,催生了全球范围内这一全新岗位的普及,重塑了无数科技公司的组织架构和招聘标准。

      这本书不仅让 SRE 走向更广泛的技术行业,更给整个行业发放了一套通用的“工程语言”和黄金法则。在该书出版之前,DevOps 运动已经喊了七年“要协作、要自动化、要拥抱失败”,但就像是一面插在散沙上的旗帜,它告诉你“要协作”,却没有告诉你凌晨三点告警响了谁看;它告诉你“要拥抱失败”,却没告诉你失败到什么频率才算正常。

      第一版《SRE》给这套哲学浇了钢筋混凝土。微软官方文档后来用一句话精准总结了这种关系:“SRE 类实现 DevOps 接口。” 更重要的是,它将 Google 多年积累的 SLI、SLO、错误预算、toil 管理和无责事后复盘等工程实践系统化地介绍给外界,为不同组织讨论系统可靠性提供了相对统一的概念和方法。

      例如,错误预算彻底改变了“追求 100% 绝对稳定”的错误执念,用数学量化了“系统稳定性”与“业务迭代速度”之间的博弈,解决了开发与运维之间长达数十年的矛盾。在任何一家公司的可靠性评审会上听到的“这个季度的错误预算还剩多少”,这句话的源头就藏在这本书里。它不仅仅是被阅读,还被翻译、被拆解、被贩卖、被模仿。

      出版几个月后,该书其中的一位作者 Niall 在都柏林办公室被一家咨询公司的六个人堵住,他们拿着文件夹,花了一个小时逐条盘问书中细节,准备包装成咨询服务卖给客户。Forrester 甚至发文《SRE 一书中可以立即应用到你组织的 19 个要点》。一本谷歌内部手册,在不到一年里变成了全球咨询业的商品目录。这就是“黄金法则”的实际含义:它成了别人拿来卖钱、拿来照抄、拿来当标准的东西。

      此外,它更是直接推动了云原生与 DevOps 生态的爆发。这本书出版的时间点,恰好撞上了整个行业的基础设施大迁移。企业数字业务规模急剧扩张,IT 从“地下室里的事情”变成业务的关键组成部分,系统停机开始实实在在地烧钱。Kubernetes 在 2015 年发布 1.0,CNCF 在同年成立,云原生运动正在寻找自己的方法论。《SRE》给了这场运动一套可执行的可靠性框架:平台工程、可观测性、SLO 驱动的发布决策,这些后来云原生生态里的核心议题,都能在这本书里找到最初的语言。它和 DevOps、云原生并非三个孤立的故事,更像是同一场运动的三层:DevOps 提供文化,云原生提供基础设施,SRE 提供在那些基础设施上把可靠性当成工程问题来管理的操作手册。没有这本手册,云原生的爆发会少一根关键的承重梁。

      可以说,第一版不仅是一本书,它是现代互联网运维的“开山鼻祖”和“范式转移之作”。

      但十年后,这本书被它的作者们亲手推翻了。

      不是修订,而是重写。今年 10 月,谷歌发布了该书的第二版。作者团队明确表示,第一版已经过时了。过时的原因远比“技术栈更新”更麻烦:第一版默认的那个世界——工程师亲手触碰代码、亲手调试基础设施、在故障现场用肌肉记忆做判断的世界——正在被两层力量同时侵蚀。

      第一层是基础设施与平台工程的全面重构。第一版描述的是“每个团队自己搭建、运行基础设施”的时代。十年后,大量运维工作被下沉到平台层,内部开发者平台接管了 provisioning、部署、可观测性配置。静态仪表盘和手动查日志被 OpenTelemetry 和分布式追踪取代,根因定位从“人肉 grep”变成系统自动推送;第一版教的“写脚本消灭 Toil”,变成了声明式基础设施和自愈系统,故障发生后,系统自己往回拉,不需要等人醒来敲命令。SRE 不再亲手碰那些东西,他们变成了平台的消费者和设计者。

      第二层是 AI 的双向重塑。谷歌官方把 SRE 与 AI 的关系拆成两个方向:

      “为 AI 做 SRE”:AI 系统本身正在给可靠性工程带来新的挑战,大规模 GPU 和 TPU 集群的可靠性、网络拓扑的复杂性、非确定性输出的监控、模型训练和微调管道的稳定运行。模型输出的可靠性也尤为棘手:传统 Web 服务出现 5xx 错误,通常会被监控系统发现,并可能计入错误预算;但一个“自信地给出错误答案”的模型,即使服务运行正常,也可能损害用户的信任。

      “用 AI 做 SRE”:AI 也开始参与生产系统的故障诊断和处理,而且已经不再停留于概念验证阶段。Google SRE 团队已经在用 Gemini CLI 处理真实故障:在一段模拟故障演示中,Agent 自动拉取告警详情、做因果分析、关联时序数据、推荐缓解方案,SRE 只需要输入一句“SGTM(听起来不错),执行重启”,便可触发相应操作。Komodor 的 CTO 说得更直白:大约 30% 的案例,Agent 可以独立解决,人类只收到一个 FYI 通知。TechTarget 的报道甚至描绘了一个“理想场景”:凌晨三点 Agent 发现异常、测试修复、灰度发布,第二天早上人类醒来看到一条“昨晚避免了一次事故”的通知。

      这也是第二版重写的理由。SRE 赖以生存的两个底层假设,同时崩塌了。

      第一版教的那些黄金法则:SLO、错误预算、toil 消灭,全部建立在“系统行为是可被度量、可被预测、被人工工程化控制的”这一前提上。但现在,对传统系统,SRE 不再亲手操作;对 AI 系统,代码根本不按确定性规则运行。AI 更像一个黑箱里的同事,有时候能力超神,有时候胡说八道,而你必须在生产环境中和它共事,还要保证用户不遭殃。Niall 在播客里的那句“LLM 会产生幻觉,准确率是 99.9% 还是 99.5% 后果天差地别”,这句话指向的是:SRE 赖以存在的“确定性”正在被抽走。

      Google 在第二版里反复强调:技术变了,但文化没变,无责复盘、心理安全感依然是根基。但真正致命的问题在于:当你的日常变成审核 AI 的提案,当 30% 的故障判断被机器接管,你对系统的“体感”从哪里来? 第一版 SRE 文化的绝对核心,是“你亲手碰过、被凌晨三点的告警烧过,所以你真懂系统”。错误预算之所以有分量,是因为按下“停止发布”的那个人,曾经在故障中感受过切肤之痛。如今,这个根基正在被抽走。

      播客里 Christoph 的发言值得留意。他说第一版忠实地体现了副标题:“谷歌如何运行生产系统”,但它没有说清楚,这只是一种做法。第二版引入了 Spotify、Microsoft、Etsy、Disney、Waymo 的视角,展示它们如何采用 SRE、哪些做法有效、哪些没有。这个转向本身就是一个信号:SRE 正在从“谷歌怎么做”变成“你在你的环境里,在 AI 介入之后,还能抓住什么不变的东西”。

      如果你在运维、平台工程、或者任何需要对生产系统可靠性负责的岗位上,不妨听听这期播客对话。这段对话并非给出了 AI 时代的答案,作者们自己也在焦虑十年后这本书会不会显得荒唐。第二版书诚实地呈现了一个正在发生的断裂:一本终结了传统运维时代、定义了行业语言、托住了云原生爆发的书,被它的作者们亲手宣告需要重写,而重写它的理由,恰恰是他们还无法完全看清的东西。

      Betsy 在播客里说了,想成为 SRE 的人,她的建议仍然是“从第一版开始”。但如果你想知道 DevOps 和云原生走到 2026 年之后,当 AI 开始接管操作、当平台工程把 SRE 从机房里拽出来,那套曾经让运维变成一门工程学科的东西还剩下什么?第二版的书籍和这期对话,是目前的起点。

      以下是访谈内容,InfoQ 在不改变原意的前提下进行了编辑整理。

      1从人工救火到工程化运维,Google 如何改变了 SRE?

      David Blank-Edelman:大家好,欢迎收听 Prodcast。我是今天的客座主持人 David Blank-Edelman。今天,我们要聊一部在我们这个领域具有开创性意义的著作。虽然参加这次讨论的人可能不太愿意承认这一点,但《SRE》这本书确实帮助推动了整个领域的发展,也成功地让更多人认识了 SRE。

      而且,我们还有一个令人兴奋的消息:今天我们还会重点讨论即将问世的第二版。我想先从这本书的起点聊起。Niall,当初怎么会想到要写这样一本书?等聊到第二版时,我还想再问问你这个问题,听听你当时有哪些不同的考虑。

      Niall Richard Murphy:第一版的想法在正式立项前几年就已出现。随着 Google 内部 SRE 实践不断发展,工程师们意识到,这套知识和工作方法已经复杂到值得系统整理成书。经过约一年半到两年的编写,第一版于 2016 年出版。

      David Blank-Edelman:Christof,你认为为什么第一版会受到如此广泛的欢迎?在你看来,这本书究竟提供了什么价值,能够让这么多人从中受益?

      Christof Leng:我认为,这与当时的时代背景有很大关系。那段时间,很多公司的数字化业务都在快速扩张。IT 系统不再只是发生在地下机房里的事情,而是逐渐成为企业运营的关键组成部分。人们开始意识到,一旦系统宕机,就会真正影响业务。

      于是,大家需要弄清楚几个问题:面对规模越来越大的系统,我们该怎么办?面对各种系统相互交互带来的复杂性,我们该怎么办?又该如何以可持续的方式管理这些系统?很多公司开始尝试采用书中的实践方法,而结果表明,它确实在很多公司中发挥了作用。

      David Blank-Edelman:我想,读者从这本书中看到的应该不只是 Google 的经验,也看到了自己的处境。这其实是一个很值得探讨的问题:这本书解释了 Google 是如何取得成功的,但其中的方法似乎也适用于其他公司。

      你们当初写这本书时,是否已经意识到,Google 的经验也能在其他组织中发挥作用?那么,其他公司是如何借鉴这些经验的?你们当时观察到的情况是什么?

      Christof Leng:我认为,第一版确实有一些内容非常具有 Google 的特点。在我看来,真正成功引入 SRE 的公司,并没有完全照搬 Google 的做法,而是根据自身情况进行了调整。每个组织都有不同的文化和需求,不可能与 Google 完全一样,这其实是件好事。我认为,书中的许多原则具有普遍适用性,其他公司完全可以结合自身的实际情况加以应用。

      2Google 的最佳实践,为什么到了其他公司就失灵了?

      David Blank-Edelman:David,你先来说说?

      David Huska:我在 Google Cloud SRE 团队工作时,主要负责帮助一些大型客户将系统迁移到 Google Cloud(GCP),第一版 SRE 书也恰好在那时出版。当时,云计算已经出现了一段时间,而且正在越来越普及。在与客户合作的过程中,我们逐渐意识到一个问题:这些企业往往拥有规模庞大、运行多年的老旧系统,而系统原有的可靠性问题,并不会因为迁移到云上就自动消失。

      第一版出版的时候,SRE 的理念和实践开始受到广泛关注。很多公司希望效仿 Google,认为既然 Google 是这么做的,自己也应该照着做。但正如 Christof 刚才提到的,由于种种原因,直接照搬往往行不通。接下来的几年,我们与这些大型企业开展了大量合作,也积累了不少经验。这些合作有时像技术咨询,有时又像是在为客户提供情绪疏导,因为我们经常需要回答这样一个问题:“为什么这套方法在我们这里行不通?”

      与此同时,这些经历也不断印证了 SRE 的许多基本判断。有些问题几乎就像物理定律一样,无论在哪家公司,都会遇到类似的挑战。客户也非常希望了解 Google 是如何应对这些挑战的。毕竟,Google 一直被视为可靠性工程领域的典范,他们希望借鉴这些经验。其中不少方法确实有效,而且直到今天仍然适用。

      不过,走进其他企业,观察这些方法在不同环境下的应用效果,也让我们有了许多新的认识。这些企业拥有非常优秀的工程师,他们也十分了解自己的业务,但 Google 的方法并不总能与他们的实际情况完全匹配。客户的反馈促使我们重新审视这些实践:哪些经验具有普遍性,哪些做法需要根据具体环境作出调整?这些问题也成为我们后来总结经验、完善方法时的重要方向。

      Niall Richard Murphy:我简单补充一下。第一版出版几个月后的一次经历,让我第一次意识到,这本书或许也适用于 Google 之外的企业。

      当时,我正在 Google 都柏林办公室工作,突然接到前台通知,说有人来找我。我有些意外,因为事先并没有约人。下楼后才发现,来访的是一家咨询公司的六名员工。我把他们带进会议室,几个人随即拿出文件夹,里面准备了大量列有问题要点的资料。接下来一个小时,他们围绕书中的内容向我提出了许多非常细致的问题。直到谈话快结束时,我才恍然大悟,原来他们是想深入了解书中的各种细节,再把这些经验作为咨询服务提供给自己的客户。

      当然,十年后的我已经不像当时那么天真了。但那次经历确实让我意识到,这些咨询公司可能会把 SRE 的方法带给更多企业,涉及不同的行业,以及对技术有着不同需求的组织。又过了一段时间,我逐渐意识到,SRE 正在走向主流。

      当然,Google 与其他企业之间存在许多差异,比如组织规模、可用资源,包括资金和 CPU 等计算资源。这些差异很容易让人觉得,Google 的经验未必适用于其他公司。但咨询公司却认为,书中有大量方法可以直接应用到其他组织。

      我记得 Forrester 曾发表过一篇文章,标题大致是《SRE 一书中可以立即应用于企业的 19 条经验》。看到这样的文章,我更加确信,这本书对 Google 之外的企业同样具有价值。当然,初创公司可能是一种比较特殊的组织类型,我能够理解这种看法,甚至在一定程度上也认同。但对于大多数企业及其日常工作来说,书中确实有许多值得借鉴的方法。

      事实上,这也是我当初想写第一版的原因之一。在此之前,我长期处于开发与运维严格分离的传统工作模式中。整个职业生涯大约有 75% 的时间从事运维工作,另外 25% 从事开发工作。但我逐渐意识到,开发和运维并不一定要这样分开。

      而 Google 特别擅长的一件事,就是从第一性原理出发重新审视问题,探索不同于传统做法的解决方案。

      3从自建基础设施到平台工程,哪些经典实践已经不适用了?

      David Blank-Edelman:David,我想接着你刚才提到的内容再问一个问题,正好也聊聊即将出版的第二版。经过这么多年的实践和反思,现在回头看第一版,你们觉得有哪些地方当初理解得不够准确,或者处理得不够完善?又有哪些内容,是你们希望在第二版中补充或修正的?

      毕竟,人都会犯错,至少我自己是这样。而 SRE 一直强调从失败中学习,所以我很好奇,你们从第一版中吸取了哪些经验?如果你们能够挥动魔杖回到过去,重新审视第一版,会有哪些地方让你们觉得:“第二版必须补上这个缺口”,或者“这里需要纠正一下之前的说法”?

      David Huska:我认为,第一版很多观点在当时是成立的,也符合我们那时的写作定位,也就是介绍 Google 如何运行生产系统。只是经过这些年的发展,许多技术和实践已经发生变化,书中的部分内容也逐渐过时了。

      十年前,我们强调的是 SRE 文化,以及开发团队自行构建和运行基础设施的工作模式。如今,很多原本由开发人员承担的基础设施工作,已经下沉到平台层,由统一的平台来提供支持。这并不意味着当年的做法是错误的。那确实是 Google 当时运行系统的方式,而且取得了很好的效果。只是后来,我们发现许多公司读了第一版之后,也开始模仿 Google 的做法。

      所以,也许我可以换个角度回答你的问题:第一版推动了哪些实践,而现在回头看,我们希望 Google 之外的公司当初能够采用不同的方法?这样的例子确实有一些。比如,十年前的环境相对简单,我们拥有充足的闲置计算资源,可以采用 N+1 冗余配置,在发生故障时利用预留的计算能力完成故障切换。当时,我们使用的虚拟机环境也相对统一,并在此基础上推动了 Borg、Kubernetes 等技术的发展。所以我很高兴我们当时选择了这条路线,但今天的技术环境已经有所不同。

      平均故障恢复时间(Mean Time to Resolution,MTTR)也是一个例子。过去,这是一项非常实用的指标,其数据分布大致呈钟形曲线,因此我们一直用它来衡量故障恢复情况。但如今,这项指标已经不如过去那么重要了。类似的变化还有很多。

      不过,在我看来,第二版最重要的进步,是我们认识到 Google 并不是唯一能够成功实践 SRE 的公司。其他组织同样积累了丰富的经验,也探索出了许多行之有效的解决方案。因此,我们努力将这些经验纳入第二版,不仅邀请其他公司的工程师亲自介绍他们的实践,也分享 Google 如何借鉴这些经验,以及我们自身的工作方式发生了哪些变化。同时,第二版也开始面向第一版未能充分覆盖的其他读者群体。

      Betsy Beyer:我们后来意识到,第一版遗漏了一项非常重要的内容。当时,我们已经习惯了 Google 的企业文化,默认人员管理、团队协作以及无责文化(Blamelessness)等都是理所当然的。但实际上,这些恰恰是成功推行 SRE 所必需的基础条件。因此,第二版用了更多篇幅讨论社会技术系统(Sociotechnical Systems)层面的问题。与某个数据库表或者类似技术细节相比,这些内容更不容易过时,也更具有长期参考价值。

      David Blank-Edelman:根据我的经验,出版第二版的时候,通常不可能无限增加篇幅,因此,要加入新内容,就必须删减一部分旧内容。刚才 David 提到了平台工程,Betsy 也谈到了组织和文化方面的内容。那么,为了给这些新内容腾出空间,第二版具体删掉了哪些东西?

      David Huska:第一版包含的大量技术细节,比如负载均衡、分布式 Cron 等,这些内容在当时都很有价值。但如今,其中大部分技术已经商品化,即使是尚未商品化的部分,借助 LLM 等代码生成工具,实现起来也比过去容易得多,成本也大幅降低。因此,我们曾讨论过是否还有必要保留这些内容。最终,我们决定把更多篇幅留给第一版中相对欠缺的组织文化内容,比如团队成员如何协作、人与人之间如何互动,以及如何证明自己工作的价值。

      借用作家 David Foster Wallace 的一个比喻,这些东西就像我们生活其中的水。因为早已习以为常,我们反而很难意识到它们的存在,也就没有在第一版中充分介绍。当然,有些内容我们当时已经意识到了,甚至写成了章节,但最终受篇幅等因素限制,还是不得不删去。所以,第二版减少了大量具体的技术细节,转而增加了更多关于组织、人员协作和文化的讨论。

      Christof Leng:第一版很好地体现了它的副标题——“Google 如何运行生产系统”,但没有明确告诉读者,这只是实践 SRE 的一种方式,并不是唯一的方法。

      因此,第二版引入了更多来自其他公司的实践经验,包括 Spotify、Microsoft、Etsy、Disney 和 Waymo。这些公司都有各自的 SRE 实践方法和发展历程,可以分享它们是如何引入 SRE 的,哪些做法取得了成功,又遇到了哪些问题。我认为,这些经验对准备引入 SRE 的企业很有参考价值。毕竟,如果只看 Google 如今成熟的实践体系,而不了解它是如何一步步发展起来的,就很难判断哪些方法适合自己的组织。

      Betsy Beyer:我想特别强调第二版的一个重要特点,这与我们刚才讨论的保留、删除和更新哪些内容直接相关。但实际上,第二版《SRE》是完全重新编写的,并不是在第一版的基础上简单修改和增删。

      举个例子,第一版有一章专门讨论“简单性”(Simplicity)。简单性依然是 SRE 的一项基本原则,我们现在仍然认同它。而且,第一版关于简单性的那一章直到今天仍然非常有价值。

      因此,我们实际上把第二版看成第一版的补充,而不是替代品。事实上,我们还在第二版的前言中,为不同类型的读者提供了阅读建议——当然,前提是有人愿意认真读前言。其中,对于那些希望成为 SRE 工程师的读者,我们的建议很明确:先从第一版读起。

      4连 SLO 都开始讨论弱点了,Google 的可靠性标准变了吗?

      David Blank-Edelman:我还想知道,第二版有没有提出一些与第一版截然不同,甚至有些“离经叛道”的观点?比如,你们会不会说:“SLI 和 SLO 过去确实很不错,但现在已经没那么重要了。”或者说:“可靠性当然很好,不过,现在我想跟你们谈谈韧性(Resilience)。”

      David Huska:在讨论 SLO 和错误预算时,确实经常会涉及教条和异端之争。这两个概念可能是第一版中影响最广泛的内容,也是我们与云客户合作时最常被问到的话题。

      在 Google,我们把 SLO 和错误预算作为一种协调决策的机制。当系统运行出现问题时,它们可以帮助团队判断何时应该暂停发布、集中精力改善可靠性,以及何时可以继续推出新功能。如果所有人事先就这套机制达成共识,那么即使出现故障,团队也能按照既定方案作出决策。这套方法至今仍然具有指导意义。

      但在实际应用中,我们发现,一些企业认为这套机制限制了他们自主权衡风险的空间。毕竟,每个组织的业务情况不同,需要自行决定能够承担多大的风险。因此,他们更倾向于借鉴其中的原则,而不是完全照搬 Google 的做法。

      后来,我们发现,不只是 GCP 客户,许多读者也逐渐形成了类似的认识:只要组织内部的信息足够透明,能够充分理解自身的业务风险,就可以根据实际情况决定如何使用 SLO 和错误预算,而不必严格遵循某一套固定规则。

      不过,第一版中有一项核心原则始终没有改变,那就是 SLO 的价值在于帮助团队了解用户的真实体验,以及用户真正关心什么。Niall 在第二版中很好地强调了这一点。因为在编写第二版时,大家对 SLO 确实提出了各种不同的意见,最后由 Niall 负责把这些观点整合成一套连贯的表述,他完成得非常出色。

      正如 Betsy 刚才提到的,有些基本原则不会改变。至于如何根据 SLO 制定错误预算、何时暂停发布等具体做法,则存在不同的观点和取舍,也更容易引发所谓的教条与异端之争。我们自己的看法也在不断调整,而这些变化,很大程度上来自外界的反馈,以及其他组织在实践中积累的经验。

      Niall Richard Murphy:我认为,第二版中关于 SLO 的章节有一个非常独特的地方:它专门包含了一个讨论“SLO 的弱点”的小节。更广泛地说,第二版在很多章节中都更加充分地考虑了各种不同的权衡。因此,我们在描述如何采用某种方法时,也提供了更加细致、更有层次的讨论。

      当然,在这本书的讨论中,我们还必须谈谈大家最喜欢的两个元音字母。第二版有一章讨论 AI for SRE,还有一章讨论 SRE for AI。这是两个截然不同的主题。我就先说到这里。

      David Blank-Edelman:太好了。我们肯定会在最后继续讨论这个话题。不过,在那之前,我想先来一轮快速问答。

      5从自动化到组织文化,今天的 SRE 更需要关注什么?

      David Blank-Edelman:从 Christof 开始吧。我想知道,在这本书中,除了你自己写的章节以外,你最喜欢、最推荐读者阅读的是哪一章?最好还能用一两句话解释一下值得关注的原因。

      Christof Leng:对我个人来说,应该是关于 SRE 文化背景的那一章。因为它提供了很多背景知识,帮助读者理解在 SRE 领域怎样才能取得成功,以及为什么有时候你甚至还没有开始处理任何技术问题,就已经可能遭遇彻底的失败。

      我认为,这一点经常被忽视。如果你完全忽略文化层面的问题,就很可能遇到大量麻烦,甚至根本不明白问题为什么会出现。所以,我认为我们有必要深入讨论这个主题,并且把它放在全书非常靠前的位置。

      David Blank-Edelman:非常好。Betsy,轮到你了。这个问题对你来说可能有点难,因为你几乎参与了所有章节。即使选不出最喜欢的一章,至少能推荐一章吧?

      Betsy Beyer:当然可以。有一章我个人非常喜欢,就是“自动化与工具”(Automation and Tooling)。这一章最大的优点,是提供了一套循序渐进的实践方法,从最基础的步骤开始,逐步深入。无论读者目前处于什么阶段,都能找到适合自己的起点,这一点很有价值。

      此外,这一章还用了很长的篇幅讨论琐务(Toil)。这是 SRE 工作中一个非常重要的问题,书中不仅深入分析了琐务,还讨论了其中许多值得注意的细节,内容相当全面。

      David Blank-Edelman:非常好。David,你会怎么选?

      David Huska:我想我刚才已经回答过这个问题了。如果要推荐一章自己没有参与编写的内容,我会选“平台工程”(Platform Engineering)。这一章很好地展现了 SRE 从第一版到第二版的演变:我们当初提出了哪些建议,如今 Google 内部又是如何实践的,以及我们现在会向其他企业提出什么建议。它也很好地将软件工程与站点可靠性工程结合起来,体现了我们一直以来的初衷。

      更重要的是,这一章说明,SRE 的基本原则并没有改变,改变的是我们解决问题的方式。这也是贯穿第二版的一个主题。随着技术工具、系统规模和商业环境不断变化,我们需要调整这些原则在实际工作中的应用方式,而不是抛弃原则本身。

      如果可以再推荐一章,我还想介绍自己参与编写的“有价值的可靠性”(Valuable Reliability)。这一章体现了第二版的一种新思路:我们需要认识到,SRE 归根结底是一项业务职能,而不只是一门工程技术。SRE 的重要价值之一,是帮助企业在业务规模扩大的同时,避免运营成本以相同的比例增长,使企业能够持续经营和发展。但我们很容易只关注其中的技术问题,而忽略它对业务的实际价值。

      “有价值的可靠性”这一章讨论的正是这个问题。如果企业只是因为 SRE 流行而投入资源,却始终把它视为运营成本,而不是一项竞争优势,那么到了下一轮预算审议,或者需要重新评估投入的时候,SRE 项目就可能面临被削减的风险。相反,如果组织内部能够充分理解 SRE 的价值,明确为什么需要投入可靠性建设,就能在此基础上形成共识。这也是我非常喜欢这一章的原因,它体现了第二版新增的一个重要视角。

      6当 AI 开始管理生产系统,SRE 如何应对不确定性?

      David Blank-Edelman:最后,我们来聊聊那些即将统治人类的机器人吧。

      关于 AI,我有很多问题想问。其中最让我好奇的是,你们是如何在这本书中讨论 AI 的?以我的经验,写 AI 就像用会逐渐消失的墨水写字,刚写下的内容可能转眼就已经过时,因为技术发展的速度实在太快了。

      如今,几乎每位 SRE 都在思考 AI 将带来哪些变化。但对于一本纸质书来说,你们究竟该写些什么,才能让这些内容在出版后仍然具有参考价值,而不至于读者刚拿到书,里面的观点就已经过时?你们是如何解决这个问题的?

      Betsy Beyer:我认为,我们通过“Tipping Point”(转折点)这一章,回应了 AI 将会如何影响 SRE 这个职业这个问题。围绕这个问题,目前存在大量焦虑和不确定性。我不能说我们已经明确回答了 AI 究竟会给 SRE 带来什么变化,但我认为,书中还是提出了一些很有参考价值的预测。

      David Huska:有些事情我们还是能够确定的。作为 SRE,我们已经有多年运行机器学习系统的经验,现在也开始负责 AI 系统的运行。因此,对于其中一些问题,我们可以从基本原则出发进行讨论。这至少为我们提供了一个相对可靠的基础。

      不过,你刚才提到的,确实是编写这本书时最让我头疼的问题。第一版已经出版了十年,而 AI 技术几乎每周都在变化。我们究竟该写些什么,才能保证十年后再回头看时,这些内容不会显得荒谬?为此,我们反复讨论了很久。

      最终,我们还是决定回到第一性原理,重点讨论那些已经得到验证、能够确定成立的原则,以及为什么即使在 AI 时代,这些原则仍然适用。

      我同意 Betsy 的看法,考虑到 AI 技术变化如此之快,我们最终还是很好地完成了这项工作。至于具体采用了什么方法,就先留一点悬念,等大家读了这本书就知道了。总的来说,这确实是一个很大的挑战,但我对最终呈现的内容非常满意。

      Niall Richard Murphy:我想先提醒大家注意一个问题。相比今天参加讨论的其他一些人,我在日常工作中可能接触了更多 AI 领域的最新进展。比如,METR 有一张广为流传的图表,经常被用来衡量 AI 系统能够完成的任务有多复杂。从图中可以看到,AI 的能力正在快速提升。这也让我有些担心,我们现在写下的内容,可能今天就已经过时了,更不用说等到正式出版,或者读者真正拿到书的时候。

      为此,我们团队反复讨论和修改,仔细斟酌究竟应该从哪些角度来写。最终,我们延续了第一版的思路,尽量围绕那些具有长期价值的基本原则展开,而不是介绍某项具体技术或某个特定版本,比如 HTML5 入门教程之类的内容。毕竟,后者很容易随着技术发展而过时。

      但要准确评价 AI 在 SRE、软件工程等领域究竟能发挥多大作用,还有一个难题。除了技术迭代太快,更重要的是大语言模型本身存在一些固有局限。它们可能产生幻觉、编造信息,也容易受到干扰而偏离任务。从某些方面看,AI 的认知能力甚至超过了人类,但在另一些方面,它又可能是一个远远无法满足要求的协作伙伴。

      如何应对这种能力上的不稳定性,是我们必须解决的问题,尤其是在生产环境中。因为一项任务的准确率是 99.9% 还是 99.5%,看似只有很小的差距,却可能产生截然不同的结果。我们也尝试在书中提出一些应对这些问题的指导原则。

      最后,我想作一个预测:今年结束之前,我认为全球每一位 SRE 都需要对 AI 建立起足够深入、基于实际了解的认识,即使他们还没有亲自使用 AI 工具。到了这个十年结束之前,我们则必须学会如何有效控制这些系统。

      Christof Leng:AI 正在非常迅速地改变我们的行业。但科技行业一直都在发生变化,而这正是它如此令人兴奋的原因。所以,对于科技领域的任何一个主题来说,其实都不存在一个绝对合适的出书时间。但这并不意味着我们就不应该讨论这些事情。

      我认为,真正重要的是写下一本书,与阅读这本书的人交流,然后大家一起学习。我们在书中重点做的一件事,就是努力找到那些我们已经知道是正确的核心原则。现在,每个人都在尝试弄清楚,应该如何在生产环境中使用 AI。没有人知道,两年、五年或者十年之后,这件事究竟会变成什么样。但这本书有一部分内容,专门讨论如何安全地在生产环境中采用 AI。也就是如何一步一步地引入 AI,在这个过程中逐渐建立信心,同时尽可能降低风险。我认为,这是一种非常符合 SRE 思维方式的做法。

      David Blank-Edelman:我希望,在我们的第二次讨论中,还能继续深入这些话题。我个人特别感兴趣的一个问题是:过去这么多年,我一直在运维领域工作,我们基本上都是在尝试利用具有确定性的系统,获得确定性的结果。但现在,我们突然拥有了一种本身并不倾向于产生确定性结果的工具。所以,我非常期待我们能够继续讨论这个问题。

      好了,今天的讨论就先到这里。感谢各位参加这场分为上下两部分的讨论中的第一部分。在接下来的节目中,有些嘉宾会再次回来,也会有新的嘉宾加入。非常感谢大家今天与我们分享有关这本即将出版的第二版《SRE》的讨论。

      播客链接:

      https://t.co/nkzVrTfQG0

      声明:本文为 InfoQ 编译,不代表平台观点,也不构成投资建议,未经许可禁止转载。

      END

      转发,点赞,在看,安排一下?图片

      图片会议推荐

      12 月 18–19 日,AICon 全球人工智能开发与应用大会将在北京举办。本届大会以探索 A 应用边界为主题,设置 13 大技术专题,覆盖大模型后训练、推理优化、Agent 工程、知识工程、智能体评测与安全、自进化系统、AI 软件交付、原生架构及组织变革等核心方向,汇聚一线技术专家,深入分享 AI 技术突破与企业规模化落地的真实实践。8 折优惠倒计时最后一周,现在报名立减 1160,查看更多详情可扫码或联系票务经理 13269078023 进行咨询。

      图片

      跳转微信打开

      AI能力,如何变成真金白银?|赠书福利

      2026年11月15日 10:15

      InfoQ 2026-11-15 10:15 北京

      AI 很热,但企业真正用它赚到钱了吗?

      不少企业尝试将 AI 嵌入产品做局部提效,却发现客户不愿为此付费,根源在于仍沿用旧软件思维看待 AI——AI 作为全新生产力,其价值边界不在于模型能力,而在于人的认知。

      企业用好 AI 的核心,是厘清 AI 的权责边界、重构人机协作模式,挖掘被低效与组织结构所掩盖的利润,这正是 AI 时代企业重构利润的转型之路。

      本文把复杂的 AI 转型拆成找矿、采矿、炼矿、分矿四个看得懂、记得住的动作。企业在 AI 时代重构利润的完整路径,如图 1 所示。

      Word 内嵌图片

      产品创新的两条路

      如果我们把企业 AI落地比作一场价值“找矿”,那么最先要辨别清楚的就是矿脉的分布类型。回望电气化革命的历史,两种截然不同的创新路径恰好为今天的企业 AI转型提供了清晰的底层参照,如图2所示。

      Word 内嵌图片

      ①延展式创新

      一种路径是沿着电网架设电灯,可以叫作“延展式创新”。

      电的普及带来了无数看似微小却体量巨大的商业机会:看到灯泡在发光的同时会发热的特性,人们发明了烤箱和电暖器;有了灯泡照明产生的光影,由传统的皮影戏衍生出了银幕上播放的电影;后来人们想把电影装在盒子里带回家,于是就有了电视;再后来又有了手机和平板电脑,直到今天的新能源汽车,整个社会的电气化已经无处不在。

      这些五花八门的终端应用,才是真正创造巨大商业价值、改变人们生活的关键。

      电灯这种延展式创新的逻辑是,沿着已经铺好的“数据网络”去找矿,寻找 AI应用落地的产品创新点。哪里有电网,哪里就可以安灯泡;哪里有对灯泡的高密度需求,就在哪里率先铺设电网。

      AI的商业创新亦是如此,哪里数字化程度高,哪里就是 AI创新的富矿。

      ②跨越式创新

      另一种路径是点对点安装设备发电报,可以叫作“跨越式创新”。1858年第一条跨大西洋电缆铺设成功之前,纽约交易所和伦敦交易所之间的行情传递完全依赖跨大西洋蒸汽船,单程就需要 10~ 14天。一条从伦敦发出的棉花价格消息,等到达纽约时已经完全失去了时效性,无数商人因为信息差倾家荡产。

      正是这种极端迫切的高时效性需求,催生了电报这种跨越式创新——它不需要等待全国性电网的建设,甚至不需要统一的电力标准,只要解决了点对点的通信链路问题,就能直接产生巨大的效率提升。

      电报这种跨越式创新的逻辑是,无须等待数据完备成熟,只要价值足够大,就可以为企业提供跨越式破局的可能。在高价值场景中深耕研究,寻求点对点突破,也可以找到 AI应用的富矿脉。

      金句图

      这两条路径不是二选一的关系,而是互补的。电灯式创新从已有优势出发,在成熟的基础设施上做确定性高的应用创新,适合稳扎稳打、步步为营。电报式创新从价值机会出发,在高价值场景中做跨越式的单点突破,适合开辟新战场、建立新壁垒。

      前者是“顺着电网点灯”,后者是“为了通信架线”,但它们有一个共同点:都必须扎根在具体的业务场景里,解决真实的问题。

      延展式创新的必要条件

      AI的发展依赖三个要素:算力、算法和数据。

      当前的 AI产业格局中,赚得最多的是大模型厂商和英伟达(NVIDIA)这样的算力供应商。这就类似于电气化革命早期,最赚钱的是修发电厂和铺电缆的人,所有东西都在按电量计价,这是基础设施建设期的必然现象。

      但长期来看,发电厂虽然重要,但如果没有灯泡这样的终端应用,发电厂根本不会普及,也没有真正的使用场景。

      麦肯锡 2018年发布的一份关于 AI产业应用现状的报告显示:预计到 2030年,AI将为全球经济贡献高达 13万亿美元的增量价值,其中垂直行业应用将占据最大份额。

      制约 AI发展的瓶颈已经转移到了第三个要素:数据。更准确地说,是数据的完备性、规则的清晰性和适配场景的规模这三个必要条件决定了“数据电网”的建设质量。

      在AI时代“找矿”,如果选择“沿着电网点亮灯泡”这条路径,企业自身的这张“数据电网”一定要建好,不然有灯泡也点不亮。

      “数据完备”是延展式创新的第一个必要条件。一项业务如果没有完成数字化,就无法通过 AI激活价值。数据不存在,AI就无从下手。数据完备不仅要求“有数据”,还要求数据的质量、格式、连续性和可获取性都达到了 AI可用的标准,业务全流程能够形成闭环的数据链路,并且数据沉淀充足、质量可靠。

      第二个必要条件“规则清晰”是 AI能在企业中稳定运行的保障。规则清晰就是,什么被允许、什么被禁止、操作的边界在哪里都有清晰成文的标准,不依赖个人经验,不依赖主观判断,不存在模糊地带。数据是 AI的土壤,清晰的规则是 AI生长的框架。没有明确的规则边界,即便数据再完备,AI也容易出现逻辑混乱,带来效率和风控的双重漏洞。

      第三个必要条件可以描述为“规模够大”,这是确保 AI落地具备经济可行性的前提。一个应用场景如果数据完备、规则清晰,但一年只发生十几次,AI落地的投入产出比就过低。值得 AI介入的场景必须是发生频率高、覆盖面广、涉及大量重复性劳动的业务实践。

      采矿:从 SaaS 到 RaaS 的商业模式变革

      AI 让软件的价值透明化

      2026年春节,几家 AI大厂搞了一轮大规模补贴,发放了各种红包、优惠券,试图拉动用户使用自家的 AI应用。效果怎么样呢?大量用户领了补贴之后,用 AI干的最多的事情无非尝试一下“帮我点杯奶茶”。

      他们没有因为 AI应用发了补贴就改变自己的消费习惯,平时该用哪个外卖软件还是用哪个,该在哪家店点奶茶还是在哪家。补贴一停,这些用户就消失了。

      传统的用户增量已经见顶,流量也越来越贵。在一个存量市场里搞补贴大战,烧的每一分钱换来的都不是真正的用户增长,而是用户暂时的注意力,一种脆弱、容易消散的东西。

      各行各业的价格战都是一样的。你把价格打到极限,抢来了一个客户,但这个客户不是因为认可你的价值才选择你,只是因为你的价格便宜。明天出现一个更便宜的,他就会走,你并没有建立起真正的市场优势。

      说了这些行业顽疾,画面看起来挺灰暗的,低价竞争的局面真的无解吗?我想说:AI时代的到来,让我们看到了这个死结被解开的希望。

      原因很简单:AI让软件的价值变得可量化、可验证了。

      AI 重新定义市场格局

      产品的 AI能力升级和按结果付费的商业模式变革,组合到一起产生了化学反应,实现了一个我们追求的战略目标:把 AI能力从合思的费控系统中解耦出来,如图 3所示。

      Word 内嵌图片

      我们曾经尝试的路径是“费控 +AI”,客户要用合思的 AI智能审核,就必须先买合思的费控系统,整个销售逻辑是捆绑的:我们的 AI能力基于我们自己的平台,离开这个平台就无法使用。

      这意味着每拓展一个新客户,都需要先说服他把现有的费控系统换成合思的,然后才能用上AI。这个门槛很高,很多企业的财务系统是和 ERP系统深度绑定的,牵一发而动全身。常见的结果是我们的AI能力确实很好,但大量潜在客户因为系统切换的成本太高而被挡在门外。

      解耦之后,逻辑完全变了。新客户不需要采购合思的费控系统,他可以根据自身的具体情况,选择最需要合思先帮他解决的那个问题所对应的产品。客户现在最头疼的是审核效率?那先上智能审核 Agent。客户的痛点是商旅管控?那先上商旅 Agent。

      这极大地降低了新客户的进入门槛。过去是“全家桶”式的销售,现在是“单点切入、逐步扩展”。我们可以先用一个最轻、最急需的产品同客户建立信任和合作关系,后续再根据客户需求逐步展开其他合作。

      “按结果付费”的逻辑降低了客户的决策门槛和试错成本,让合作得以从小处开始,从信任开始。

      金句图

      要做“懂客户”的基础设施

      未来 AI编程构建产品的能力会越来越强,我估计再过不到 10年,除了 AI技术本身的提供者,可能没有人会再用传统意义上的“软件”了。大家用的应该是各种各样的 AI智能体,AI的底座能力来自大模型厂商,而中间那些做应用层软件的公司,如果不完成转型,就会被夹在中间,两头承压。

      面对这种局面,软件厂商怎么活下去?我认为有两条路:一方面深耕客户需求,积累行业 know-how(技术诀窍),把 AI审核的准确率和场景覆盖率做到极致;另一方面持续投入底层能力研发建设,确保我们的系统在底层是可靠的、精确的、经得起检验的。

      上层用 AI做灵活的智能处理,下层用确定性的代码做精确的逻辑保障,我相信这种“AI+基建”的组合才是软件厂商最坚固的护城河。

      我们谈的主要是商业模式转型,在转型的过程中,我越来越强烈地感受到一件事:产品和商业模式的变化一定会倒逼组织革新,如图4所示。

      Word 内嵌图片

      产品变了,商业模式变了,市场生态关系变了,组织不可能不变。如果组织的能力、结构和文化不匹配,再好的产品和商业模式都会在执行层面变形走样。

      金句图

      组织重构:前线深耕与前沿探索

      AI时代的到来,数据的获取和处理方式在变,流程的形态在变,算法的调用逻辑在变。如果底座变了,而我们还站在原来的位置上,那么做出来的产品、搭建出来的组织都会与新的现实脱节。

      要理解 AI时代的组织变革该怎么做,就得理解一个更底层的问题:从“流程驱动”到“模型驱动”,中间到底经历了什么? 这个演进可以分成三个阶段,如图 5所示。

      Word 内嵌图片

      第一个阶段是流程驱动。

      在流程驱动模式下,员工要办什么事,就知道“这个单子该找谁审批签字”;到了数字世界,我们的管理软件也是根据每个企业的管理流程来设置节点和程序,员工填完一个单子就转移到他的上级主管那里审批,层层递进。流程驱动的管理软件提升了企业各层级之间信息流转的效率,也减少了人为的疏漏,降低了随意性。

      但它的局限也很明显:流程是固定的、线性的、单向的。一旦业务场景发生变化,比如新增了一个审批层级、调整了一个费用标准,就需要去修改软件平台上的流程配置,整个系统的灵活性受限于流程设计的精细程度。

      第二个阶段是数据驱动。

      数字化时代带来了一个根本性的变化,数据开始替代流程中的部分人工环节。数据驱动的核心逻辑是让数据自己说话,减少人在流程中的介入。但本质上,数据驱动还是在流程的框架内做优化。流程还在,只是其中一些人工节点被数据自动化替代了。

      第三个阶段是模型驱动。

      当 AI不再是一个附加功能,而成为组织运转的核心枢纽时,就从数据驱动进入了模型驱动阶段。这是一个质的变化。过去的流程驱动是线性的、单向的,填好表格,沿着固定的流程线走一趟,每个节点的人看一眼、签个字。整个交互是一次性的,信息传递是结构化的。

      但模型驱动完全不同,模型就像一个枢纽,它会识别、推理、分发、决策和控制。每次交互不需要填写复杂的结构化表单,三言两语让模型理解了意图,它就自动去做下一步动作,该调用什么数据就调用什么数据,该触发什么规则就触发什么规则,该转给谁就转给谁。

      组织管理:从岗位进化到管理升维

      转型必然伴随阵痛:AI的不确定性、人的路径依赖、尝试后的预期落差,都可能构成转型的负向循环。而穿越阻力的核心终究要回归人本:激活懂业务的核心人才,以深度连接替代流程管控——技术越向前,管理越要回到人本身。

      金句图

      理论是理论,落到实践中,我逐渐形成了三个具体的思考维度,如图 6所示。

      Word 内嵌图片

      第一个维度:AI优先。

      这几个字说起来容易,做起来要考虑两个层面。

      第一个层面是使用习惯,能用 AI的时候就用 AI,让它成为日常工作的默认选项而不是可选项。这一点现在越来越多人开始接受了。

      第二个层面更为重要,即从 AI带来的新生产模式出发,去思考新的机会点。不去思考“我现有的业务哪里可以用 AI优化”,而去思考“如果我从一开始就假设 AI的能力存在,我会怎么设计这个业务”。

      这两个问题看似相近,答案却可能截然不同。前者是改良,后者是重构。

      第二个维度:不做端到端的规划。

      过去上线一套系统之前必须把流程全部梳理清楚,因为传统软件的开发成本高、试错成本高,上线后如果发现流程设计有问题,改起来代价巨大,所以必须设计得严丝合缝,而端到端规划是基本功。

      但 AI时代完全不同。AI的能力恰恰在于它可以“截断式”地完成。哪里有问题就在哪里治理,不需要等一套完整的规划做好才动手。过去靠周密的前期规划来保障的可靠性,现在可以由快速试错来保证。错了就改,改了再试,试的成本极低、速度极快。

      这个逻辑放到组织变革上同样适用,组织变革也要在动态中快速添加 AI的能力。

      第三个维度:消灭比改善更有效。

      这个观点受到资深财务专家付军华的启发,大意是:管理过程原来有很多环节,你在一个环节上提升 5%、10%,效率确实在提升,但其实最好的方法是把这个环节拿走。不是优化它,而是消灭它。

      管理学界也有类似的洞见,省下5%很难,但省下 50%反而容易,因为省 5%靠的是在现有框架内抠细节,而省 50%靠的是重新设计框架、把不必要的环节直接砍掉。

      到了 AI时代,“消灭”的能力被进一步放大了。过去很多管理环节存在的原因是“防止舞弊作假”,所以不同岗位之间要设置互相监督、层层审核的机制。但 AI不需要这些,只要让 AI去监控,它就会时时刻刻、不知疲倦地监控,不会漏掉,不会偷懒。

      过去需要三个人互相牵制才能保障的合规性,现在一个 AI就能覆盖,而且覆盖得更全面、实时性更好。这意味着大量原本为了监督而存在的管理环节可以被直接消灭。

      分矿:人本价值激励与人机共生社会

      分解任务,为 AI 服务

      光能看清问题还不够,你还得能把问题表达和拆解清楚,AI才能真正为你工作。这就是 AI时代人的另一个重要技能:任务分解。

      把一个大任务分解成足够小、足够聚焦的子任务,每个子任务的目标明确、边界清晰、验收标准清楚,AI的执行可靠性就会非常强。反过来,如果你甩给 AI一个模糊的大目标,例如帮我把这个报表做了,它大概率会做出一个看上去像那么回事但经不起检验的东西。

      我们通常说 AI是为人类服务的,帮人干活、替人审核、给人做分析,但从另一个角度来看,也可以认为是人类在为 AI服务,帮助 AI进化得更完善。

      AI时代对人的能力要求可以归结为一个链条:分析问题的本质→规划和分发任务→把任务翻译成 AI能理解的指令→不厌其烦地调试以找到驾驭 AI的合理方式。

      人机共生时代的价值锚点

      人和 AI各自创造的价值该怎么衡量?这是一个看似抽象但极其实际的问题。

      当 AI成为人类普遍使用的生产工具,一个劳动者操控工具的能力本身就是一种价值创造。就像开车技术好的人可以当司机,用 AI写代码的人就是程序员,用 AI作曲的人就是音乐人。

      当然,用 AI写的代码能不能跑通、用 AI谱的曲子是不是好听,这就是产品价值判断的问题了。

      进入 AI时代后,对 AI工作成果的定价催生了新的商业模式。而对人与 AI协同能力的定价则决定了我们如何找到自身存在的意义,这其实是个存在主义哲学范畴的命题。

      我并没有完全想清楚这个命题的内涵和外延,但有一个可能的思路是,我们要敢于定义自己的任何一份工作,就像瓦特定义了“马力”一样,每个行业的每个工作者,都需要找到定义自己工作价值的“马力”。

      金句图

      总    结

      AI不会让人变得多余,它会让人变得更加全能。组织不会因为 AI而瓦解,它会让组织变得更加高效。AI时代的商业逻辑改变的是人类与工具的协同方式,而企业追逐效益的永恒目标以及以人为本的价值导向始终不变。

      跳转微信打开

      Cloudflare KV Instant:读取 p99 仅 1.62 毫秒,写入一次却要 0.1 美元

      2026年11月15日 10:15

      InfoQ 2026-11-15 10:15 北京

      同一套 API,两种相反的成本逻辑。

      作者 | Steef-Jan Wiggers

      译者 | 田橙

      Cloudflare 最近首次 向客户开放 Quicksilver,将其作为 Workers KV 的一种新模式,名为 KV Instant。其读取延迟在第 99 百分位为 1.62 毫秒,而经典 KV 为 287 毫秒。但决定团队能否使用它的,不是延迟,而是它的使用限制。

      Quicksilver 是 Cloudflare 自己的配置存储系统,于 2020 年推出。Rob Sutter 写道,几乎每个发往 Cloudflare 的请求都会从中查询至少一个键,但它此前从未作为面向客户的产品提供。Cloudflare 开发者平台团队的 Brendan Irvine-Broque 在 X 上宣布了这一变化:

      我们在 Cloudflare 有一个性能惊人的键值存储,叫 Quicksilver。

      它能即时将键的更新传播到我们的整个网络,在每个地点都能实现微秒级读取,快得离谱。

      多年来,客户一直希望我们开放它。

      我们终于做到了,而且采用了一种我们认为相当简单的方式:将它作为 Workers KV 的一种新模式。

      以下公布的数据是在 300 多个边缘地点测得的:

      Cloudflare 指出,它无法以亚秒级精度测量经典模式的复制延迟,因此经典模式的中位数和 p95 数据是上界,而非测量值。据报告,Instant 模式的 p95 读取延迟为微秒级。

      它使用 Workers KV 的 API,但有三处区别。模式在创建命名空间时通过 "mode": "instant" 属性设定,此后无法更改。它不支持元数据,因此 getWithMetadata 始终返回 null。此外,list 会返回所有匹配的键,不进行分页。

      接下来是限制。一个命名空间最多容纳 10000 个键值对,总容量不超过 1 MB,键最长为 300 字节。写入上限是每个命名空间每秒一次;相比之下,经典 KV 是每个键每秒一次。Cloudflare 认为,单一的记录来源“让你更容易推断应用中的更新顺序”。这一差异最可能让迁移团队措手不及:经典 KV 允许同时写入多个键的模式,在这里会变成一条串行队列。

      定价也指向同样的使用场景。Cloudflare 坦言:“存储和 A 类操作的价格明显高于 Workers KV。”

      读取成本降低了 60%。一次写入的费用为 10 美分,而经典模式是每百万次写入 5 美元。存储费用为每 MB 每月 100 美元;由于一个命名空间的容量上限是 1 MB,这也是单个命名空间的存储费用上限。多键读取按键计费,因此一次 get 请求三个键,与分别请求三次一样,都按三次 B 类操作收费。

      Irvine-Broque 在同一讨论串中解释了背后的考虑:

      就像我们自己使用 Quicksilver 一样,它适合存放经常读取、很少更新的小规模数据。

      定价也反映了这一点:读取成本甚至比 Workers KV 低 60%。

      他补充说,写入之所以有这样的价格,是因为写入一个键就要将其复制到数百个地点。这种存储的定价方式,就是为了让用户频繁读取、很少写入。

      同样在 X 上,Benjie Malinao 对其适用场景的判断也类似:

      这正是智能体需要的配置存储。同一套 KV API,读取延迟 p99 低于 2 毫秒,全球写入在 p99 时约四分之一秒完成。功能开关和智能体设置不必再等待 TTL 到期。我会先把关键路径上的配置迁过去。

      功能开关、路由表和智能体设置符合这种模式。会话状态、用户记录以及任何需要频繁写入的数据则不适合。

      从业者想到的比较对象是 Vercel。开发者 Shawn Mclean 直接问 Irvine-Broque:

      我正在考虑用 Vercel Global Config 供中间件读取。他们声称延迟为 15 毫秒。如果把工作负载迁到 Cloudflare,你的意思是,我能在中间件中以 2 毫秒读取平台租户的域名映射吗?

      回答并没有完全确认这一点:

      即使是两年前 Workers KV(非 Instant)的 p50,也约为 5 毫秒。KV Instant 比它还快(见文章中的数据)。

      Cloudflare 自己举的例子是:每个请求都读取一个发布开关,并在主题演讲期间切换它。这恰好就是它面向的工作负载:一个键、一次写入,随后立即在各地读取。

      2018 年 Birthday Week 期间推出的经典 Workers KV,仍是存储大规模或频繁更新数据时的推荐选择。两种模式现在共用一套 API,但成本结构截然相反。

      KV Instant 目前处于邀请注册的私有测试阶段,Cloudflare 表示计划扩大开放范围,但尚未公布正式发布的日期。

      原文链接:

      https://www.infoq.com/news/2026/10/workers-kv-instant/

      声明:本文为 InfoQ 翻译,不代表平台观点,也不构成投资建议,未经许可禁止转载。

      END

      转发,点赞,在看,安排一下?图片

      今日好文推荐

      图片

      跳转微信打开

      DeepSeek又来掀桌了!官方App全套能力开放API,联网搜索价格不到OpenAI、Claude的8%

      2026年11月14日 12:24

      原创 褚杏娟 2026-11-14 12:24 北京

      11 月 13 日,DeepSeek 宣布开放“全家桶应用 API”,试图减少这部分工作。

      作者 | 褚杏娟

      让一个大模型回答问题并不难,但要让它搜索互联网、阅读网页、解析 PDF,再将找到的信息组织成带有引用的回答,开发者往往需要额外搭建一套工具系统。这些工作构成了 AI 应用开发中一层容易被忽略的工程负担。

      11 月 13 日,DeepSeek 宣布开放“全家桶应用 API”,试图减少这部分工作。它将官方 App 和网页端使用的联网搜索、深度思考搜索、文件输入、网页阅读等能力整合进现有 API,同时开放搜索、网页抓取、OCR、ASR 和 TTS 等独立接口。

      DeepSeek 声称,开发者可以利用这些能力实现与官方 App 基本一致的对话体验,甚至 1:1 复刻出完整的 DeepSeek App。

      对于联网搜索和网页阅读,开发者只需在 API 请求中声明相应工具,模型即可根据任务需要自主决定是否调用,搜索、网页抓取及相关上下文处理由 DeepSeek 服务端完成。文件输入则需要先通过 Files API 上传并解析,再将返回的文件 ID 加入对话;OCR、ASR、TTS 等能力则支持通过独立接口调用。

      “产品化之后确实不一样了,DeepSeek 这都开始把自己的 App 能力拆出来了,从搜索到 OCR、再到语音,这个感觉怎么有种冲着百度来的即视感。”开源项目《GSYVideoPlayer》 作者恋猫在知乎上评价。

      价格方面,官方表示,用户调用 DeepSeek API 使用扩展能力时,除收取 Token 费用外,也将收取相关工具的调用费用。具体价格如下:

      “我按官方价格表算了一下,写一篇带资料检索的文章,成本不到 4 毛钱。”知乎用户 药尘 Ray 总结称,“API 的钱已经便宜到可以忽略,贵的是三样东西:控制调用次数的工程、合规,以及你自己的判断。第三样最贵。”

      用 DeepSeek App 里免费语音聊天的用户表示,文字转语音的效果“其实是有点拉的”,商用 API 如果是一样的效果,“那这个价格就不值了,不如火山引擎接豆包”。

      还有用户认为,“语音识别、语音合成的价格感觉有点抽象,不过价格也不算贵,应该只是用来给用户兜底的,考虑到那些不方便部署自己语音识别和语音合成服务的人。文字识别这个好像综合下来不一定比百度便宜,百度的是 2.5 元 / 千页更贵,但有 1000/2000 次的免费额度。”

      实际上,DeepSeek 这条路线已经有不少先行者。OpenAI、Anthropic 和 Google 都在通过各自的 API,将模型、搜索、文件处理和工具执行整合到一起。DeepSeek 此次补齐应用层能力,也让模型厂商之间的竞争延伸到开发者过去自行维护的工具链。

      也有用户对比了三家价格:DeepSeek 的联网搜索每千次 5 元。作为对比,OpenAI 和 Anthropic 的同类工具每千次都是 10 美元。

      从调模型到调完整应用,
      开发者可以省掉什么?

      传统模式下,开发者会在请求中向模型声明可用工具。模型认为需要查询外部信息时,返回工具名称及参数,应用程序根据这些参数执行搜索、数据库查询或其他操作,再把结果传回模型。模型能够选择工具,但工具如何执行、何时重试、返回什么数据,主要由应用程序负责。

      随着任务复杂度提高,这套流程也会变得繁琐。例如,一个需要多次搜索的 Agent 可能在一轮对话中产生数次工具调用。每次调用都涉及数据传递、结果整理和上下文更新。开发者还需要处理不同工具之间的参数格式、调用失败以及模型误用工具等情况。

      DeepSeek 此次提供的服务端工具改变了其中一部分流程。

      根据官方开发文档,开发者可以在现有 API 请求中声明`deepseek_web_search`和`deepseek_read_url`两个工具。前者负责联网搜索,后者负责读取用户提供的链接。

      开启非思考模式时,模型可以根据用户问题自动搜索网页或图片,并生成带有来源引用的回答。开启思考模式后,模型还可以在推理过程中多次搜索、打开网页和查找页面内容。DeepSeek 称,开启思考模式后,模型最多可以执行约 20 次工具调用,包括联网搜索、打开网页和页内查找,让模型能够在多步推理过程中持续检索和核对信息。

      与开发者自行组织搜索流程相比,新接口将搜索决策、工具执行及结果处理整合到了服务端。客户端不再需要分别向搜索和抓取接口发起请求。

      返回结果中仍保留工具调用记录、搜索结果和引用信息。开发者需要将这些内容正确展示在界面中,并在后续对话中按协议回传相关内容块,但无需自行执行 DeepSeek 提供的服务端搜索工具。

      这一变化尤其适合需要联网问答、新闻检索和资料查询的应用。开发者可以直接使用官方维护的搜索链路,将更多精力放在业务功能和用户体验上。

      文件处理也是类似的思路。新版 API 允许开发者将 PDF、Word、PowerPoint 和图片上传至 DeepSeek Files API,解析完成后返回文件 ID,再将其加入对话。开发者可以选择纯文本识别,也可以选择图文混排识别。

      后者能够提取文档中的图片、图表和示意图,并按照原始位置与文字一起提供给模型。这意味着开发者无需另外整合 OCR 和基础文档版面解析服务,就可以让模型阅读一部分包含图文内容的复杂材料。

      不过,文件解析仍然需要上传和引用两个步骤。官方也明确指出,图文混排识别无法保证提取所有图表,解析后的图片仍会消耗模型输入 Token。

      DeepSeek 同时开放了独立的 Search、Fetch、OCR、ASR 及 TTS 接口。开发者既可以使用服务端自动编排,也可以将独立工具接入自己的工作流。

      实际上,DeepSeek 早在 10 月 17 日就开放了自研搜索引擎的 Search 和 Fetch API。此次发布的主要增量是将这些底层工具进一步整合到模型对话中,让服务端承担一部分过去由应用负责的工作。

      为了演示这种变化,DeepSeek 还在 GitHub 上开源了 chat-demo 项目。该项目提供流式对话、搜索、文件输入、语音交互、历史记录导入和多种消息渲染功能。开发者配置 API Key 后即可运行,静态版本甚至不需要独立的应用后端。

      Demo 体验入口:https://cdn.deepseek.com/chat-demo

      示例代码入口:https://github.com/deepseek-ai/chat-demo

      OpenAI、Anthropic 早已入场

      随着 AI 应用从简单对话发展为多步骤任务,模型厂商逐渐意识到,仅提供文本生成接口不足以支撑完整的产品体验。搜索、数据检索、代码执行、文件处理和工具调度开始成为 API 平台的重要组成部分。

      OpenAI 已经通过 Responses API 提供托管式联网搜索和文件搜索等工具。其中,文件搜索则可以让模型检索已上传文件。开发者创建向量存储并上传资料后,由 OpenAI 负责检索工具的执行,无需自行实现向量索引和语义搜索逻辑。

      需要指出的是,OpenAI 的文件搜索偏向知识库 RAG,而 DeepSeek 此次开放的文件功能主要是上传解析后将文档内容加入模型上下文。两者覆盖部分相似的开发需求,但底层处理流程与适用场景并不完全相同。

      Anthropic 也在 Claude Messages API 中提供服务端网页搜索与网页获取工具。

      在这种模式下,Claude 可以直接执行搜索并读取网页,开发者无需自行搭建完整的执行环境。Anthropic 还提供搜索次数限制、域名过滤以及结果引用等控制项。其较新的工具版本进一步引入动态过滤,允许 Claude 在搜索结果或网页内容进入模型上下文前,使用代码筛选相关信息,以降低无关内容带来的 Token 消耗。

      Google 则通过 Gemini API 提供 Google Search Grounding、URL Context 和 File Search 等工具。内置搜索与网页读取能够在一次模型 API 调用过程中完成,Google 负责运行工具并将结果交给模型。

      这几家厂商的实现方式有所不同,但方向已经比较明确:原本分散在应用框架、检索工具和第三方服务中的部分能力,正在被整合进模型厂商提供的 API 体系。

      对于开发者,这种变化降低了使用门槛。一个原本需要接入多个外部工具的功能,现在可能通过开启几个参数就能完成基础版本。

      对模型厂商而言,竞争范围也随之扩大。开发者选择某个模型 API 时,不再只考虑模型质量、推理速度和 Token 价格,还包括搜索结果、文档处理、工具执行稳定性、开发便利性以及服务端能够承担多少工作。

      DeepSeek 还有一项值得注意的设计:此次新增功能同时支持 Messages、Responses 和 Chat Completions 三种接口,其中包含 Anthropic 和 OpenAI 风格的协议。

      这使得已经使用相应 API 协议的开发者有机会沿用现有客户端或部分调用结构,降低迁移成本。不过,协议兼容并不意味着所有模型能力、参数和工具都可以直接替换,具体仍取决于各家实现。

      DeepSeek 目前明确支持这些应用层功能的是 V4.1-Flash 模型。开发者如果希望使用其托管搜索和文档处理能力,需要考虑对应模型是否满足自身业务需求。

      少写了代码,
      也交出了一部分控制权

      工具编排转移到模型厂商服务端之后,随之出现一个问题:开发者还能在多大程度上控制模型的执行过程?

      DeepSeek 的新接口提供了一个具体例子。根据官方文档,当开发者开启托管联网搜索或网页阅读工具时,不能通过`tool_choice`强制指定模型执行其中某个工具,否则将返回 400 错误。是否发起搜索、是否阅读链接,由模型自行判断。

      此外,DeepSeek 目前尚未开放托管搜索的域名白名单、黑名单等控制参数。如果应用需要限定搜索来源,开发者仍需通过独立 Search、Fetch 接口或自建工具链实现。DeepSeek 还对部分 API 参数设置了限制,当开发者声明托管联网工具、开启高级安全校验或启用会话标题时,部分生成与工具控制参数将由服务端决定,即使开发者传入也不会生效。

      这对于普通聊天应用可能比较方便,但对于需要强制检索的业务流程,意味着开发者不能简单地依靠原有工具选择参数来保证执行。

      更值得注意的是参数控制。DeepSeek 文档显示,启用部分托管工具或安全功能后,某些请求参数将由服务端决定,即使开发者传入也会被忽略。这对于依赖固定配置进行模型评测、重复执行任务,或者需要精确限制外部工具调用的应用,是一个需要提前考虑的变化。

      在 Messages API 中,这些参数包括`temperature`、`top_p`、`top_k`及部分思考控制参数;

      在 Responses API 中,包括`max_tool_calls`、`parallel_tool_calls`等;

      在 Chat Completions API 中,则涉及`seed`、`temperature`和`top_p`等。

      相比之下,OpenAI 和 Anthropic 的部分托管工具提供了域名限制、调用次数等控制能力。这种差异反映了模型服务平台设计上的不同取舍:封装越完整,开发者需要处理的细节通常越少;但如果希望自行决定搜索策略、工具执行顺序和异常处理方式,仍可能需要保留自己的编排层。

      DeepSeek 开放独立 Search 和 Fetch 接口,也为这种需求提供了选择。开发者可以绕过托管式搜索,直接控制查询词、返回结果数量和网页抓取,再自行决定如何把结果交给模型。

      因此,对于简单问答、原型开发和标准化助手,服务端托管具有较明显的便利性;对于强调数据来源、执行可审计性和复杂业务规则的产品,自建工具链仍有价值。

      参考链接:

      https://mp.weixin.qq.com/s/78KBHc4-4N5b2vfL9SkutQ?scene=1

      https://api-docs.deepseek.com/zh-cn/

      https://developers.openai.com/api/docs/guides/tools-file-search

      https://aistudio.google.com/docs/tools?hl=zh-CN

      https://platform.claude.com/docs/en/agents-and-tools/tool-use/web-search-tool

      声明:本文为 InfoQ 原创,不代表平台观点,也不构成投资建议,未经许可禁止转载。

      END

      转发,点赞,在看,安排一下?图片

      图片会议推荐

      12 月 18–19 日,AICon 全球人工智能开发与应用大会将在北京举办。本届大会以探索 A 应用边界为主题,设置 13 大技术专题,覆盖大模型后训练、推理优化、Agent 工程、知识工程、智能体评测与安全、自进化系统、AI 软件交付、原生架构及组织变革等核心方向,汇聚一线技术专家,深入分享 AI 技术突破与企业规模化落地的真实实践。8 折优惠倒计时最后一周,现在报名立减 1160,查看更多详情可扫码或联系票务经理 13269078023 进行咨询。

      图片

      跳转微信打开

      InfoQ 2026 年趋势报告:AI、ML 与数据工程

      2026年11月14日 12:24

      InfoQ 2026-11-14 12:24 北京

      这份 InfoQ 趋势报告概述 AI、机器学习、数据工程领域的新兴技术与趋势,汇集编辑团队和外邀嘉宾的观点,研判当前技术走向以及未来一年值得关注的重点。

      作者 | Srini Penchikala, Chip Huyen, Daniel Dominguez, Hien Luu, Art

      译者 | 明知山

      InfoQ 人工智能与机器学习年度趋势报告为 InfoQ 读者提供 AI、ML 和数据工程领域新兴趋势和技术的全面概述。本报告总结了 InfoQ 编辑团队与外部嘉宾的播客内容,讨论 2026 年 AI 和 ML 技术的趋势以及未来十二个月值得关注的方向。我们的配套播客对所有这些趋势进行了深入讨论。

      人工智能与机器学习技术采用曲线图

      年度趋势报告的重要组成部分是曲线图,它展示了进入创新者阶段的趋势、技术和主题,以及进入早期采用者和早期大众阶段的趋势。这些阶段的划分参考了 Geoffrey Moore 的著作 《跨越鸿沟》。InfoQ 的主要关注点集中在尚未跨越鸿沟的技术。以下是今年的曲线图:

      自 ChatGPT 于 2022 年 11 月发布到现在已经快四年了。RAG 技术开始获得企业采用,自主 LLM 智能体出现也已经有两三年了。过去几年的爆炸式增长在 2026 年得以持续,自 InfoQ 团队讨论 2025 年的趋势报告(见下面的 2025 年曲线图)以来,AI 技术得到了显著的创新和发展。

      有关 2025 年 AI/ML 技术趋势的详细信息,还请查看去年的趋势报告 文章。

      今年的趋势报告建立在我们去年讨论的基础上,重点解读技术采用曲线图,展示了技术采用的不同阶段,并提供了自去年趋势报告发布以来新增或更新的技术的更多细节。我们还讨论了哪些技术和趋势在采用图中得到了提升。对于今年更新的采用曲线图,团队还添加了一些我们在播客中没有讨论的主题。

      可以看到,我们还对范围重叠的主题做了重大重组,移除了一些不再需要跟踪的技术,因为它们已经成为主流。

      以下是自去年报告发布以来的部分变动要点。

      创新者阶段

      采用曲线图的第一阶段——创新者阶段,今年新增了多个值得关注的方向,详细介绍如下。

      智能体间通信协议

      随着智能体式 AI 系统日趋复杂,往往包含多个智能体、跨多个业务域,单个智能体之间、多智能体系统之间的通信是保障这些系统稳定、安全、准确、可靠运行的关键。

      趋势报告播客嘉宾 Daniel Dominguez 谈到了智能体通信协议及其在整体智能体式 AI 解决方案中的重要性。

      Daniel Dominguez:底层正在发生一场架构变革。要让智能体在企业内部发挥作用,它们需要调用工具、读取数据、访问 API,并与其他智能体对话。MCP 或 A2A 这类协议将变得越来越不同。我认为问题是智能体间协议是否会成为新的企业集成层。

      例如,现在我们将应用程序连接到 API,未来可能会增加智能体发现能力,基于这些 API 实现任务协同。我认为所有这些架构层也在改变智能体相互交互的方式。

      推理引擎(vLLM、SGLang、llm-d)

      AI 推理是另一个高速发展、变革巨大的领域。2026 年被称为推理之年。企业正在从训练模型转向在生产环境中运行 AI 推理。到今年年底,推理预计将占 AI 计算支出的三分之二左右。推理模型、长上下文和智能体让推理不再只是模型执行问题,而是覆盖算力、内存、网络、路由、成本的系统性工程。

      Hien Luu 详细讨论了这一趋势,以及他在推理框架方面看到的情况。

      Hien Luu:自 2026 年初以来,与推理相关的话题出现了爆炸式增长。一方面,vLLM、SGLang 等推理堆技术栈让我们可以在自有环境中快速搭建推理服务。另一方面,开放权重模型变得越来越强大。这个领域最初没有多少人了解它们的工作原理以及如何运维,但现在有更多关于如何使用和优化这些软件的信息和资源。与此同时,我们谈到的部分应用场景面向金融企业,这类场景中会涉及个人身份信息(PII)。

      针对这类特定业务场景,在企业内部部署开源权重模型变得非常重要。我认为这一趋势还会持续发展,因为门槛大幅降低、落地变得更容易,未来企业会更多地采用这种方式。有些企业出于降本需求,会在内署部署开源权重模型用于编码。出于许多原因,推理依旧是一个非常有用、影响力巨大的话题,越来越多的企业将开始这样做。

      Harness 工程

      一个相对较新的领域从今年开始受到很多关注,那就是 Harness 工程。Hien 谈到了它的重要性,以及它如何为记忆管理和协同执行等工程能力提供支撑。

      Hien Luu:关于智能体,我想补充两点。一个是 Harness 工程,我认为它是上下文工程的延伸。有一个现象我觉得很有意思,也和我即将开展的研讨会主题相关,这些智能体 SDK 最初只是帮助我们编写任务循环逻辑,现在已经扩展到提供 Harness 工程能力,包括上下文记忆管理、协同执行,以及一些用于本地文件系统的现成工具。

      这是你可以看到的另一个趋势,来自 LangChain、Anthropic 或 OpenAI 的智能体 SDK 都在朝着在 Harness 工程中添加更多能力的方向发展。对于构建智能体的人来说,这是值得关注和利用的。智能体管理领域还存在另一大趋势,这些公司为你提供托管智能体的运行时环境。你是否想这样做是另一个问题,但这是行业观察到的现状。“我们有能力搭建智能体,也能把它做好,但接下来该如何规模化运维、部署运行?”

      规范驱动开发和 AI 软件工厂

      随着 AI 技术在软件开发过程中贡献大部分代码,开发者开始更多地关注需求和规范,充分利用自动化能力完成应用设计、编码工作。

      这一技术转变催生了规范驱动开发和 AI 软件工厂等趋势。企业组建专门团队搭建软件工厂模式,开发团队可以使用 AI 工具来自动化完整的软件开发过程。这个模式包含特定的 SDLC 步骤,如自动编译和分析现有软件应用程序的业务和需求、评审新的业务需求或系统增强、为这些新需求编写功能和非功能(技术)规范、生成设计和开发任务来实现新需求,最后自动生成新版本软件的代码与交付产物。

      嘉宾 Hien Luu 分享了他对规范驱动开发的见解。

      Hien Luu:这可能是从四五年前开始的。编码智能体现在变得非常强大。但在开发项目时,你通常会先明确目标、功能,做好规划,而不是直接丢给编码智能体开始写代码。它借鉴了我们早已熟知的最佳实践,只不过现在将其编纂成编码智能体可以遵循的形式。例如,如果从零启动一个全新项目,你要先编写需求规范:这个项目是做什么的?需要具备哪些能力?

      然后你与编码智能体进行头脑风暴,在它开始编码之前为它提供所需的上下文。人们为此有了很多好的实践。我认为大多数人都认可这是一种好的实践。现在相关讨论反而变少了,因为人们已经在实践它了。而 AI 工厂是另一个可能在过去几个月才真正出现的趋势,即如何将 AI 融入软件开发生命周期的各个步骤。

      一个典型的场景:“有人提了一个缺陷。你如何让 AI 从头到尾处理这个问题,拉取 PR、进行分析、尝试重现问题、修复、提交 PR,然后走完评审、测试等后续流程?”我们所有人都有太多事情要做、太多任务要完成。我认为如果我们能够自动化这个过程,那将从另一层面提速软件开发生命周期。

      物理 AI / 具身 AI

      另一个创新持续涌现的领域是物理 AI,也就是把智能带到现实物理世界当中。AI 智能体是一个软件系统,我们如何将同样的能力带入硬件,无论是机器人、协作机器人还是自动驾驶汽车。

      Daniel Dominguez 谈到了物理 AI 领域正在发生的事情以及我们应该关注的方向。

      Daniel Dominguez:核心命题就是“我们如何将 AI 带入物理世界?”过去几年,我们花时间将智能放入软件中,现在开始将这种智能连接到可以感知物理环境、执行物理动作的机器上。所以我们开始看到机器人,看到自动驾驶汽车、无人机和工业系统,现在都是这一转变的一部分。我认为物理 AI 与软件智能体的根本区别在于,物理 AI 一旦出错,会产生实实在在的物理后果。

      软件智能体可能在生成文件时出错,但机器人一旦失误,将是完全不同级别的错误。可靠性、模拟、安全、验证和评估在物理世界中将变得越来越重要。在这样的背景下,机器人基础模型正在发生的另一个重要转变是机器人也开始从语言、视觉领域已经验证有效的基础模型路线中受益。

      我们将开始看到为 数字孪生机器人 这类技术落地,开源机器人领域会迎来新进展,实现从 AI 智能体到物理智能体的跨越。所有这些都将在明年开始发展得越来越快,因为现在 AI 能力已经就绪,我们必须将其落地到我们的物理世界中。

      Chip Huyen 还讨论了机器人和视觉语言模型如何协同工作。

      Chip Huyen:让模型进入现实世界是下一个前沿方向,目前已经有了很多进展,但同时也面临多重挑战。我们一直说机器人就像汽车,就像大模型说的,“我们知道在现实世界中有很多机器人。”我们有 Waymo,有 Zoox,现实世界中有很多机器人。

      机器人模型和 LLM 之间有一个很大的区别,就是回退所带来的难题。当你在虚拟环境中训练 LLM 时,如果它犯了错误,你可以回退。你可以重置状态然后继续,可以做很多探索并选择最佳的状态。

      但你很难对机器人做同样的事。举个例子,如果机器人爬楼梯摔坏了,你无法让机器人恢复成出事之前的状态。这就让试错探索变得非常非常困难。另一个挑战是数据。我一直在研究很多机器人方案。我关注很多机器人创业团队,Janatics Robotics、Generalist、Physical Intelligence、Sunday、Skild AI 这些公司都很值得期待。

      今年我们在创新者类别中添加或修订的其他趋势包括以下主题:

      • 智能体安全与治理

      • 语音智能体

      • 专用决策模型(例如 TypeSafeAI 的 Jev 模型)

      • AI 网关

      • GraphRAG

      • LLMOps / GenAIOps

      • 脑机接口

      早期采用者

      在早期采用者类别中,我们想强调两个主要的主题:语言模型的创新和 RAG。

      AI 智能体 / 智能体编排

      和去年一样,智能体式 AI 依旧是本年度核心热点。2025 年及之前的年份都是关于如何学习和如何构建 AI 智能体。现在企业正在努力弄清楚如何运维智能体,如何将它们部署到生产环境,以及如何在生产环境中扩展它们。

      Daniel Dominguez 在 2025 年的播客 中讨论了 AI 智能体领域的最新发展。

      Daniel Dominguez:我认为 2026 年最大的变化是 AI 正在从与人交互的工具转变为可以执行任务的执行者。就像 Hien 说的,我认为过去几年大多数 AI 应用程序都是基于简单的交互。你问问题,手机给你答案。从今年开始,我们看到了可以自主规划、调用工具、执行动作、并持续工作更长时间的系统。我认为今年的重点不在于模型智能能力的又一次飞跃,而在于把已有的智能能力落地成真正可用的系统。

      我觉得有趣的是,智能体正在非常快速地跨越几个阶段。从个人智能体开始,然后我们开始看到与团队合作的智能体,现在企业正在思考跨整个组织运作的智能体。我认为最重要的变化是我们正在超越聊天机器人模型,不再只是生成一个答案。智能体可以有目标、可以使用工具、可以与软件交互、可以做决策,并可以持续工作直到任务完成。

      我认为这将 AI 从界面转变为更接近执行层的东西。这一点在软件开发领域体现得最为明显。我们从代码补全发展到智能助手,现在有了编码智能体。我们有 Claude、Codex、Cursor、Replit 等工具,它们可以浏览代码库、修改多个文件、运行命令、执行任务、检查失败,并可以自己迭代。现在有意思的问题已经不再是“AI 能写代码吗?”我们早就知道 AI 可以写代码了。

      在 AI 智能体领域,使用多个智能体的系统(多智能体系统)正变得越来越普遍,因为与基于单个智能体的系统相比,它们可以带来额外的好处。

      嘉宾 Arthur Casals 谈到了多智能体系统的前沿研究现状,这些多智能体系统的工作原理,以及真实的落地场景。

      Arthur Casals:多智能体系统 这个话题时在 LLM 智能体之前已经存在几十年了。学术界发现,LLM 智能体和 Transformer) 之后出现的一切,都与整个多智能体系统相关,本质上是在试图重新发明过去已经存在的东西。我的研究领域是 LLM 之前的多智能体系统,但这并不意味着它不能将 LLM 系统作为其中的一部分。最近我一直在研究 信念修正,这是解决 AI 领域的两大问题,一个与幻觉有关,一个与智能体处理后信息的准确性和来源有关。它介于计算机科学和哲学之间,大量用到形式逻辑,非常有意思。从去年年底到今年年初开始,我一直在研究基于形式逻辑的配置文件定义。它类似于我们之前讨论的 Jev 概念。它有结构化输入、结构化输出,以及如何约束智能体,让它们沿着可靠路径完成任务。

      模型与智能体评估

      今年,我们在质量保证领域也看到了更多发展,包括 AI 评估、护栏和 Harness 框架。2026 年被称为 AI 评估之年。在这个领域有很多不同的技术受到关注。测试 Harness 框架可能是今年讨论最多的话题。随着 AI 工具越来越多地被用于编写代码和软件解决方案的其他组件,对正式、严格、一致和可靠的 Harness 框架的需求变得非常迫切。那么我们如何衡量 AI 的有效性?什么样的指标可以用于评估和验证步骤,形成一个有适当制衡校验机制的端到端流程?

      我们请嘉宾分享他们在智能体式 AI 评估领域观察到的趋势,以下是他们的观点。

      Hien Luu:对于将 AI 智能体投入生产的公司来说,这是一个非常重要的主题,特别是那些为客户提供服务的公司,内部使用智能体的公司反而没有那么突出。举个例子,DoorDash 就构建了一个用于点餐的 AI 助手。还有其他公司正在为外部用户构建客户支持智能体。我们都知道 LLM 不具备确定性,构建出来的智能体可能会走错路,可能会做出错误的工具调用等等。评估机制就是用来保障智能体能够高质量、按要求完成对应任务。

      没有评估机制,你怎么知道智能体是否失控、做出意料之外的行为,或是违反企业政策等等。企业不仅必须这样做,而且必须将其作为构建 AI 智能体的核心步骤之一。很多企业最终都会构建评估 Harness,用来驱动整个评估流程,从获取数据、运行评估或测试到最后的质量评估。

      Daniel Dominguez:我完全认同今年正在成为模型和智能体评估之年的观点。一旦智能体能够执行动作,只评估底层模型是不够的。你必须评估整个系统,你必须评估模型、工具、上下文、智能体循环、环境。评估指标也随之发生了变化。

      不再只看答案是否正确,还要看智能体有没有完成任务、成本多少、耗时多久、需要多少次人工介入、过程中有没有不安全行为。我认为所有这些评估才刚刚开始,我们将看到如何评估所有这些关于智能体、LLM 以及它们在业务流程中的交互路径的工作流。

      除了这些重点技术趋势之外,还有一些正在从创新者阶段进入早期采用者阶段的技术。下面列出的所有这些技术都经过了广泛的发展和采用,已经被应用在大量的企业业务系统中。

      AI 技术已经开始被用于 DevOps 和 SRE 领域的生产支持、故障排除、维护和升级操作。

      • 智能体编码 / 自主软件工程

      • 智能体可观测性

      • 推理优化和模型路由

      • 小语言模型(SLM)

      • 推理模型

      • 可解释 AI

      • 虚拟现实(例如 VR/AR/MR/XR)

      • 认知服务

      • 边缘 AI 推理

      • 模型上下文协议(MCP)

      • 多模态 AI

      • AI DevOps/AI 驱动的 SRE

      早期大众

      我们将下面这些技术归入早期大众阶段,因为它们已经趋于主流,被各类机构里的软件开发团队广泛采用。

      上下文工程

      在 AI 智能体时代,上下文工程持续演进发展,为 AI 驱动的解决方案提供支撑。Arthur Casals 谈到了这一点,并重点提到上下文工程中的一大难题——上下文污染。

      Arthur Casals:上下文污染 实际上是最大的问题,是现在最值得关注的问题,因为我们在过去一年看到了行业普遍在往更大的上下文窗口方向发展,但如果系统无法区分哪些信息是有用的、哪些是最新的、哪些是备选参考、哪些是不相关的、过时的、带有干扰的,就不能真正解决问题。这里是结合我自己的研究观点:总的来说,更多上下文会让智能体变得更慢、更昂贵、更不可靠。

      一个很现实的问题是:不管上下文窗口有多大,到底哪些信息可以放进上下文?信息来自哪些数据源、需要具备哪些权限、对应工作流里哪一步,才能避免严重的上下文污染。这就涉及检索质量、来源管控、业务规则,以及通用上下文模型、上下文压缩 等一系列问题。我的意思是,“上下文”这个词背后藏着一大堆问题。这就是我对它的看法。

      对比去年报告,还有更多技术进入早期大众阶段。

      • 生成式 AI/ 大语言模型(LLM)

      • 检索增强生成(RAG)

      • 知识图谱

      • MLOps

      • 向量数据库

      • 数据契约

      • 数据可观测性

      • 图数据分析

      • 合成数据生成

      • 开放表格式(OTF)

      晚期大众

      最后,在采用曲线图的最后一个阶段“晚期大众”,有一些从早期大众移入的主题。这些技术现在已被团队完全采用,并成为其核心架构、设计模式和开发流程的一部分。

      • 自动化机器学习

      • 图像识别(计算机视觉)

      • 数字助手

      • 数据网格

      • 流处理和分析

      • 推荐引擎

      • 湖仓一体

      • Spark

      移出技术采用曲线图的主题

      我们还要指出,在本期 AI/ML 趋势报告中,我们移除了一些已经使用多年的成熟技术。这些技术已经成为主流技术和采用的非常重要的部分,不再需要放在曲线图中持续跟踪。

      其中一些主题包括 NLP 和深度学习、NoSQL 数据库、内存数据网格和大数据(Hadoop)等成熟技术。

      总    结

      AI 是一场重大的技术变革。正如我们现在都知道的,经过近四年,它不是昙花一现的热点或技术雷达上的临时波动。它将长期存在。它是过去二十多年来的主要技术浪潮之一。我们应当拥抱这场变革,而不是畏惧它。想办法利用 AI 工具来自动化日常工作流,无论是在办公室项目中还是在你的个人生活中。

      团队对明年的一些预测包括:

      • 美国本土机器人企业会涌现更多创新;

      • 性价比更高、速度更快的模型持续推出,TypeSafe 风格的模型值得重点关注;

      • AI 的约束会逐步显现:能源、算力基建会受电力供给、机房容量、散热条件限制。2027 年行业重磅新闻或许不再聚焦模型本身,而是能源、芯片、基础设施与地缘因素;

      • 每个 AI 智能体都将包含某种形式的 Jev 模型;

      • 随着智能体开发、运维、规模化落地走向成熟,智能体之间的通信交互会越来越普遍;

      • 大量场景会采用轻量化专用智能体、混合模型,处理边界清晰的任务;差异化重点在于配套系统;

      • AI 更深地融入日常生活;行业边界会慢慢清晰:哪些场景 AI 价值突出,哪些场景依然离不开人类。

      查看英文原文:

      https://www.infoq.com/articles/ai-ml-data-engineering-trends-2026/

      END

      转发,点赞,在看,安排一下?图片

      今日好文推荐

      跳转微信打开

      OpenAI、Anthropic、Google 各有接口,开放标准离统一还有多远?

      2026年11月14日 12:24

      InfoQ 2026-11-14 12:24 北京

      AGNTCon + MCPCon 2026:Agentic AI Foundation 新增四个项目,MCP 转向安全议题。

      作者 | Mark Silvester

      译者 | 田橙

      在圣何塞举行的 AGNTCon + MCPCon North America 2026 上,Agentic AI Foundation(AAIF)新增了四个项目,使其在成立第一年内从 三个创始项目 发展到十个项目。这场于 10 月 22 日至 23 日举行的活动紧随同一场地举办的 PyTorch Conference 之后,其议程重点很大程度上从协议新功能转向了安全和身份议题。

      AAIF 执行董事 Mazin Gilbert 在开幕演讲中宣布了项目动态以及三个新的治理委员会。Alibaba 贡献了 OpenSandbox,这是一个用于运行智能体的安全沙箱;OpenAI 贡献了 Open Responses,这是一项用于实现 LLM 接口互操作性的开放规范。Anthropic 加入了 Agent Skills,Hugging Face 则加入了 OpenEnv,这是一个用于训练和评估智能体的强化学习环境框架。基金会首席技术官 Manik Surtani 在公告中这样概括这一里程碑:

      一年前,AAIF 携三个项目成立,并押注智能体 AI 需要一个中立的家园才能蓬勃发展。如今,我们托管着十个项目。

      在题为“谁来保持它的开放性?”的演讲中,Surtani 认为,仅有许可证并不能确保基础设施保持开放。他将始终由一家公司控制的 Android,与 Google 移交给中立基金会的 Kubernetes 进行了对比。当前尚待解决的开放性问题集中在身份、证明、审计和支付方面。

      外部媒体的报道则较为冷静。The New Stack 指出,Open Responses 已经获得 AWS Bedrock、Databricks、Ollama、Nvidia 和 vLLM 的支持,但 Anthropic 仍在定义自己的 Messages API,Google 也有自己的 Interactions API。The Register 以“供应商关联的 AI 智能体技术被友好且资金充足的基金会接纳”为标题进行报道,并在结尾警告道:

      这种对 AI 智能体充满热情——或者说轻信——的接受速度,对某些行业而言可能有些过快。

      成立仅 11 周的 Tokenomics Foundation 执行董事 J.R. Storment 告诉现场观众,不要再计算 Token 数量。每项任务的成本优于每个 Token 的成本,每项结果的成本则更进一步,但真正应该衡量的是业务价值。

      Anthropic 的 MCP 联合创建者 David Soria Parra 认为,如今能力强大的模型更需要连接能力,而不是帮助它们专注于任务。7 月 28 日的规范新增了无状态服务器,一些开发者担心 这会让 MCP 变成又一个普通 API,而部分平台已经有约 70% 的流量采用这种模式。Soria Parra 宣布 Claude Code 支持 MCP Tasks,让工具调用可以持续数分钟、数小时甚至数天,而不再只是数秒。Anthropic 还将 Agent Skills 标准捐赠给基金会。该项目的 路线图 列出了五个优先领域,涵盖智能体消息、通过 MCP 使用 Skills、身份以及 HTTP 原生传输等方向。

      OpenAI 的 Thomas Sarlandie 分享了从 ChatGPT 插件目录中观察到的 MCP 服务器生产使用情况。工具数量实际上没有上限,但过大的 Schema 会被裁剪,最先被删除的是参数描述。已发布服务器中约四分之三的工具 Schema 小于 1KB,而最大的单个工具 Schema 约为 260KB,单个服务器则可达到 1.4MB。OpenAI 会拒绝所有未给每个工具添加注解的服务器提交;这些注解可以让 ChatGPT 快速处理只读调用,并在执行破坏性操作前请求确认。只有 56% 的插件使用服务器指令,Sarlandie 表示,这些指令可以安全地扩展到约 1,000 个字符。

      Chrome 的 Sarah Drasner 介绍了 WebMCP,这是一项目前正在进行源试用的拟议 Web 标准,允许网站向智能体公开工具。智能体可以调用已经声明的工具,而不是抓取 DOM;Drasner 援引的基准测试显示,操作速度可提高 2.5 至 7.5 倍。只读提示和不受信任内容提示也可以帮助智能体抵御隐藏在用户评论中的提示词注入。Drasner 强调,WebMCP 是对 MCP 的补充,而不是取代 MCP。

      加州大学伯克利分校教授 Dawn Song 认为,短期内,前沿 AI 给攻击者带来的帮助将超过防御者。Song 的 CyberGym 基准测试涵盖近 200 个开源项目中的 1,500 多个漏洞,而模型现在已经能够发现零日漏洞。在 ExploitGym 上,GPT-5.6 Sol 在两小时内针对 869 个目标生成了约 230 个可运行的漏洞利用;即使启用标准安全缓解措施后,仍能生成 80 多个。由于攻击者只需找到一个漏洞,Song 呼吁构建默认安全的系统,使用 AI 生成的证明,并提到一个用于追踪这些能力的新 观测平台。

      Anthropic 的 Den Delimarsky 是该协议的首席维护者,他表示 SDK 的累计下载量已达到 41.7 亿次。大约一个月前,这一数字还是 30 亿次;Delimarsky 表示,这让每一个安全缺口都变得更加重要。在 116 个一致性测试场景中,约三分之一目前用于测试安全性,而 企业托管授权 功能已经在 Claude 中上线。在 Delimarsky 展示的身份验证路线图中,该功能被标记为稳定;持有证明令牌和工作负载身份联合仍处于草案阶段;最终目标则是让智能体以自身身份登录。

      Goose 创建者、Block 的 Bradley Axen 演示了 Buzz,这是一个让人与智能体共享频道的开源工作空间。每个智能体都拥有自己的身份,以及一份注明其所有者的证明;它们可以读取频道,但不能读取私信。Buzz 拥有 8 万个社区和 3.6 万颗 GitHub Star,1.0 版本计划于 11 月中旬发布。

      GitHub 前首席执行官、现任 Entire 首席执行官 Thomas Dohmke 表示,智能体已经让代码审查成为瓶颈。Dohmke 援引行业数据指出,使用编码智能体的团队每周会创建约 57 个 Pull Request,而其他团队约为 10 个。Dohmke 希望将智能体会话日志存储在 Git 中并与提交关联,让审查人员能够根据变更的原始意图检查代码。

      Tim O'Reilly 将 MCP 称为 AI 领域的“参与式架构”,并认为它延续了 Unix 的传统。O'Reilly 指出,AI 经济仍然缺少相应的运行机制,就像 Web 曾经需要按点击付费的广告和安全支付一样。他将解决方案描述为机制设计,也就是“逆向博弈论”:从期望得到的结果出发,反向推导能够产生这一结果的规则。他传达的信息是,应将信任从模型中移出,放入协议、网关和可验证身份之中。

      对于运行 MCP 服务器的团队而言,实践建议十分具体:为每个工具添加注解、保持 Schema 小巧,并为智能体携带自身身份而不是借用用户 Token 做好准备。演讲中的部分数据缺少已公开的支撑材料,一些安全扩展也仍处于草案阶段。希望进一步了解相关内容的开发者,可以观看 第一天 和 第二天 的主题演讲直播,或者阅读基金会的 项目页面。下一届 AGNTCon + MCPCon 活动将分别于 2027 年 4 月 28 日至 29 日在旧金山,以及 9 月 15 日至 16 日在伦敦举行。

      原文链接:

      https://www.infoq.com/news/2026/10/agntcon-mcpcon-2026/

      END

      转发,点赞,在看,安排一下?图片

      今日好文推荐

      图片

      跳转微信打开

      码上 2027,AI Coding 等你一起定义

      2026年11月13日 18:20

      InfoQ 2026-11-13 18:20 北京

      AI Coding 的变化正在加速—— 旧代码与业务知识正被激活;从需求到上线的交付链路逐步贯通;系统与应用开始自我进化;真正接入真实生产环境。与此同时,模型、编程工具与 Agent Native 基础设施也在加速演进。

      阿里云 AI Coding 嘉年华,以 1 场千人级开幕式、多角色专题思辨、3000 平米实操嘉年华,邀你共同定义 AI Coding 的 2027。

      12 月 2 日- 3 日

      码上 2027 ,上海见!

      跳转微信打开

      奥运史上第一次,一朵云整体留给了举办国

      2026年11月13日 14:00

      原创 白默 2026-11-13 14:00 北京

      留下并没那么简单,背后是中国云计算出海逻辑的一次转向

      作者 | 白默

      11 月 13 日,2026 年达喀尔青年奥林匹克运动会将在塞内加尔闭幕,这是奥林匹克运动首次进入非洲。中国代表团也派出了 66 名运动员参赛。
      把奥运带到非洲大陆,是本届青奥会写下的第一项历史。另一项,藏在聚光灯之外,中国企业为塞内加尔打造了奥运史上首个专有云底座。

      奥运会结束后,支撑它的云会怎么样?过去的方案很简单:赛事数字系统运行在公共云节点上,赛事结束后,技术团队撤场,云资源用完就释放。

      但这次不一样。近日,阿里云智能集团副总裁、专有云总经理刘国华在一场线上媒体沟通会上给出了不同的答案:达喀尔青奥会的这朵云,在结束之后不会拆,会留在本地。

      这朵云部署在达喀尔和萨利两地,支撑票务与电子签证系统。赛后,它将整体移交给塞内加尔政府,转为这个国家的“主权云”。未来,这朵云将具备接近公共云的完整服务能力,由本地团队自主运营。

      项目体量不小。仅票务系统就覆盖 7 个场馆和官方节庆场地,涉及约 100 万张票,现场有 100 多台扫描设备。青奥会从 10 月 31 日持续到 11 月 13 日,约 2700 名运动员参赛。组委会也将这套技术视为长期数字遗产,希望它在 14 天赛期结束后,继续惠及塞内加尔和非洲体育界。

      阿里云方面称,这是奥运史上第一次把赛事云整体留给举办国。

      “以前的合作周期相对较短:你用我的云,我支持项目落地,用完就结束。”刘国华说,“这次我们真正把阿里的云技术变成一个平台交付给本地,最终它会成为当地的国家云。”

      这背后还有一个更大的行业背景:主权云正在成为独立的市场。Gartner 预测,2026 年全球主权云 IaaS 支出将达 800 亿美元,同比增长 35.6%,中东和非洲增速最快,约为 89%。需求在增长,市场还没有完全形成。

      云厂商也做过类似的事。国内某云厂商于 2024 年底在尼日利亚推出当地首个本地云,同时承诺培养开发者和合作伙伴。但达喀尔的特别之处,在于所有权移交:厂商将平台连同运维能力一起交给当地,让运营能力留在本地。

      “留下”并没那么简单。这个动作背后,是中国云计算出海逻辑的一次转向:从卖资源到交付能力,从短期项目到长期基础设施,从技术输出到组织赋能。

      而这一转向,也要面对几重考验。出海需要耐心,也需要持续的投入;企业 AI 正从试点走向规模,成本仍是绕不开的门槛;合规要求则随着每进入一个新市场而变化,企业需要逐一适配。

      中国云厂商的技术能力已处于全球前列。出海过程中,如何把能力真正交付给本地,让对方用起来,也是比技术本身更大的挑战。

      第一笔钱的问题

      “交钥匙”曾是云出海的通行做法:搭好基础设施,留下系统和手册,团队撤场。在欧美,客户有成熟的 IT 团队,接手后就能运行。

      在非洲和东南亚,情况有所不同。刘国华说:“很多国家拥抱新技术的意愿非常强,但缺少相应能力。”需求是真实的,缺的是把系统用起来、敢于调整它的本地能力。

      但比能力更现实的问题是:第一笔投资由谁出?

      传统路径主要有两条:政府举债采购,或等待外资进入。前者财政压力大,后者周期长、条件多,两者也都不能自动解决能力转移的问题。Gartner 数据显示,撒哈拉以南非洲 2026 年的主权云 IaaS 支出约为 3100 万美元,2027 年约为 6100 万美元。这样的市场规模,难以支撑厂商“先垫资、再等回报”的模式。

      达喀尔走的是第三条路:找一件预算明确、工期明确的事,让它承担第一笔投入。青奥会就是这件事。平台在支撑赛事的同时完成本地化部署和人员培训,赛后转为持续运营的公共云,再用后续的商业收入覆盖成本。这次的赛事同时也是这朵云的融资方式。

      非洲的电力不稳,网络也不可靠。项目早期,两地之间的容灾切换还要靠人工完成。

      团队于是在达喀尔和萨利搭了双可用区体系,然后一遍遍演练。最难的不是把云部署起来,而是云平台、票务应用和运维团队同时出问题时,三方怎么协同响应。从"能切"到"敢切",演练花了好几个月。赛事没有重来的机会,14 天赛期要求核心系统零中断,这种压力本身就是最好的演练,这套方案来自阿里云在国内为多家银行建设"两地三中心"的经验。。

      这是阿里云三层服务体系的第一层:团队常驻当地,手把手带本地运维人员熟悉操作、排障和切换。

      第二层是 7×24 小时的全球应急服务。本地团队遇到处理不了的重大问题,由阿里云专家远程介入。这一层是安全阀,设计上不会经常用到。

      第三层最重要,是在线培训认证平台。阿里云技术学院向 35 岁以下的塞内加尔青年提供免费的云计算在线课程,注册人数已超过 1 万。赛后,当地企业和开发者还能通过这朵云调用阿里的全栈 AI 能力和千问开放权重模型。

      "授人以鱼不如授人以渔。"刘国华说,"我们很期待 2 到 3 年后,这朵云会成为'塞内加尔本地的阿里云'。它很可能成为一个可复制的案例。"

      耐心是战略投入

      刘国华透露,阿里云专有云国际化业务占整个部门业务的比例不到 10%,资源投入却接近 50%。

      这是主动选择。市场增速快、基数小,投入必须赶在市场长成之前。Gartner 估计,约 80%的主权云 IaaS 支出来自新建数字化项目或待迁移的存量业务。赛事这种“先有项目、后有平台”的切入方式,正好落在需求较集中的地方。

      这笔战略投入,首先是耐心和时间。

      “做国际化不能按一个月考核 KPI,那样肯定会挂掉。”刘国华说,“要按年、甚至按三年的维度来考虑。”很多专有云项目从接触到实施需要两到三年。国内竞争以月甚至周计,海外则是另一种节奏,阿里云选择了适应它。

      其次是解决现场问题。达喀尔项目面临三个硬挑战:

      • 基础设施。难点在于云平台、票务应用和运维团队同时出故障时如何协同响应。团队用了数月演练,把“能切”练成了“敢切”。

      • 爆发式流量。项目采用混合云架构,在 CDN 等环节使用公共云技术,借助弹性能力缓解带宽瓶颈。

      • 供应链波动。刘国华说,2026 年内存涨价带动整体硬件涨到 2 到 4 倍,阿里云靠“一云多芯”的开放性,兼容不同规格的服务器。

      投入还包括人和文化。“公专一体”直接讲给海外客户,对方听不懂;换成“Cloud Native(云原生)架构”,才能进入对方的语境。

      达喀尔项目里也有类似的“翻译”。开幕式上,阿里用 AI 视频模型,把约 100 名各国年轻人变成演奏塞内加尔萨巴鼓的短视频。

      刘国华还认为,国际上则更讲开放合作,厂商需要把能力开放给本地伙伴,让他们基于核心技术创新,这样合作才能走得更远。

      技术只是基础。协同、文化和组织心态才是真正的考验。

      回报的信号已经开始出现。2026 年上半年,阿里云专有云国际化服务收入接近 2 倍增长,增速远高于国内。单看达喀尔,项目可能利润空间并不大,但整体趋势已经打开了空间。

      成本下降数十倍

      这里有一个容易被忽略的细节:这次青奥会出于成本和时间的考虑,没有铺开太多 AI 应用,精力集中在最核心的票务和签证系统上。但这并不意味着非洲大地不需要通过 AI 加速本地的产业创新。

      美国人口普查局的数据显示,2026 年 8 月有 23.2%的美国企业在使用 AI,250 人以上的企业为 38.4%。欧盟统计局的数字是 20.0%。在非洲使用 AI 的人数也在快速增长中,将 AI 嵌入到工作和生产流程中的案例在本地并不少见。

      20%之所以受到关注,是因为跨过这条线,意味着行业开始从“试点验证”进入“规模复制”。Citi Institute 的报告称,约 60%的机构仍处于探索或试点阶段,约 40%已进入生产或规模化。一项针对 AI 智能体的调查显示,78%的企业有试点,但只有 14%做到组织级规模化。

      刘国华判断,企业级 AI 整体渗透率正迈过 20%这道门槛。在他的观察中,AI Coding 已经跑起来,很多企业达到 30%到 40%,大企业超过 60%;智能客服的 AI Agent 渗透率突破 80%;其余场景基本还在早期,空间很大。

      第一道门槛是成本。刘国华半开玩笑地说:“能让 CIO 们‘闭上眼睛继续用 AI’的价格底线,是比当下的 token 再便宜数十倍。”

      但 token 其实一直在降价。一份行业分析称,2024 年到 2025 年,企业 AI 推理支出从 115 亿美元涨到 370 亿美元,同期每 token 成本下降了约 1000 倍。单价降了,账单还在涨,因为调用量涨得更快:智能体会反复检索、调用工具、失败重试,完成一件任务消耗的 token 远多于一次问答。

      因此,刘国华建议换个计价单位:不只看 token,还要看“完成一次工作的调用成本”。达喀尔青奥会也出于成本考虑,把精力集中在最核心的数字化系统上。

      第二道门槛是效果,背后涉及业务流程重构:哪些环节交给 AI 执行,哪些仍需人来判断?

      调查反复指向同一个瓶颈,试点停滞往往不是因为模型不行,而是治理、数据准备和可观测性跟不上。另一项调查发现,62%的停滞项目没有明确的业务负责人。FDE(驻场工程师)这个工种因此流行起来,他们的核心工作就是帮客户重新定义业务流程。

      一个解法是用更小的模型,配更深的数据。阿斯利康用阿里云的工具链把私有数据训练进模型后,8B 模型的效果超过了开源 235B 模型,QPS 提升 35 倍以上。

      这一思路并非一味追求更大的模型,而是用较小的模型和更深入的数据,在垂直场景中取得大模型的效果,同时压低成本。学术研究也有类似结论:用专门数据微调的小模型,在文本分类等明确任务上明显优于直接调用的大模型。

      阿里云的方案是“模型+数据”双飞轮:把客户的生产数据接入知识加工流程,让业务和模型一起迭代。未来,企业 AI 大概有两条路:基于私有数据做后训练,成为主流;通过混合云调用更大的模型处理复杂场景,作为补充。

      刘国华还认为,近期受关注的“判断型模型”,有望以接近百分之一的成本解决同样的问题。如果这个方向跑通,“token 再便宜数十倍”就不只是玩笑,而是两三年内可能看到的现实。

      合规写进架构

      合规,是 AI 云出海绕不开的一关。

      欧盟《人工智能法案》2024 年 8 月 1 日生效。它没有取代 GDPR,处理个人数据的 AI 系统必须同时满足这两部法律:既要保护数据隐私,也要满足风险分类、透明度和可解释性的要求。

      此外,还有中国的数据安全法、个人信息保护法,以及各国各自的主权云和数据本地化要求。出海企业需要在不同司法辖区之间切换合规策略。

      行业观察认为,合规投入已占企业研发预算的 35%到 50%,三年前还不到 20%。不过,这条曲线未必会一路上升:欧盟刚放宽时间表,还为中小企业简化了文档要求。

      这些压力直接影响技术选型。据 Gartner 2026 年企业 AI 落地报告,89%的大型集团把私有部署作为 AI 智能体落地的核心诉求。私有部署成本更高,但数据留在可控的物理边界内。

      混合云因此成为主流:核心数据留在本地以满足合规要求,算力和弹性资源放在云端以控制成本。Gartner 预测,70%的企业将通过混合云实现服务智能化,2026 年混合云在企业级市场的占比已突破 60%。

      阿里云的产品节奏也在对接这一需求。10 月 29 日,在荷兰阿姆斯特丹国际云栖大会上

      阿里云专有云正式发布面向国际市场的可信 AI 云解决方案,该方案以飞天企业版为底座,将涵盖 IaaS、PaaS 到 MaaS 的全栈 AI 能力完整交付到客户本地。

      其中,“可信 AI 云”围绕开放、可信、高效三个特性展开。

      可信对应数据主权:数据可完全专有化,平台支持断网部署,基本实现 100%本地化。

      开放体现在多个层面:硬件层支持 95%的主流硬件、13 家 GPU 厂商的 51 款 GPU 卡;模型层支持千问及第三方开源模型;接口层允许客户构建自主可控的本地公共云。

      这套设计试图直接把合规要求纳入架构。数据从一开始就在客户的物理边界内,就不需要为跨境传输再做额外的加密、脱敏和审计;平台支持断网部署,联网风险的防护成本也随之降低。

      数据可用性、隐私合规和成本可控很难三者兼得。可信 AI 云,是目前相对平衡的解法。

      结尾:一个值得期待的样板

      达喀尔这朵“不拆的云”,正试图回答一个问题:如何在短期项目结束后,成为长期基础设施?

      它不是中国云出海的第一个本地云,国内其他厂商在海外也做过类似的事。但据阿里云称,把赛事云整体移交给举办国,在奥运场景中还是第一次。

      第一阶段已经有了一些成果:三层服务体系帮助本地团队提升能力,混合云平衡了成本与合规,电子签证系统已经开始迁入,本地团队学会了容灾切换。

      接下来是更长的考验。2 到 3 年后,这朵云能否成为“塞内加尔本地的阿里云”?三年里,市场、政策和竞争格局都会变化,每进入一个新的地区和国家,产品和服务都需要适配当地需要。这些变量,是先行者必须面对的成本。

      这个问题的答案,关乎一家云厂商的商业模式,也关乎中国云出海能否走出一条可复制的路。

      刘国华说:“国内客户和国际客户买的是同一朵云、同一个产品,但购买的货币单位不一样,国内用人民币,国际可能用的美元。中国企业要相信自己的技术优势,市场足够大,值得花 2 到 3 年不断去探索、去投入。”

      达喀尔的完整答案,要等到 2028 年或 2029 年。但这朵云已经留下。

      END

      转发,点赞,在看,安排一下?图片

      今日好文推荐

      图片会议推荐

      12 月 18–19 日,AICon 全球人工智能开发与应用大会将在北京举办。本届大会以探索 A 应用边界为主题,设置 13 大技术专题,覆盖大模型后训练、推理优化、Agent 工程、知识工程、智能体评测与安全、自进化系统、AI 软件交付、原生架构及组织变革等核心方向,汇聚一线技术专家,深入分享 AI 技术突破与企业规模化落地的真实实践。8 折优惠倒计时最后一周,现在报名立减 1160,查看更多详情可扫码或联系票务经理 13269078023 进行咨询。

      图片

      跳转微信打开

      智能互动 Agent 在快手商业场景的落地实践

      2026年11月13日 14:00

      原创 AICon 2026-11-13 14:00 北京

      知识库保证它答得对,进化机制保证它不越用越退化,成交归因让它学明白整个对话和交易策略。

      作者 | 邱慧,快手大模型应用算法专家

      编辑 | 宇琪

      审核 | 罗燕珊

      策划 | AICon 全球人工智能开发与应用大会

      随着大语言模型能力的持续演进,电商场景下的智能对话系统正从传统 FAQ 问答向具备规划、决策与工具调用能力的 Agent 架构迁移。

      本文整理自快手大模型应用算法专家邱慧在 AICon 2026 深圳站 的分享《智能互动 Agent 在快手商业场景的落地实践》。他围绕智能互动 Agent 在互动业务场景下的真实落地实践,系统阐述了商业 Agent 在效果、时延与成本三重约束下的工程选择,以及动态知识库构建、用户模拟器训练、自进化策略与成交归因等关键技术路径。

      以下是演讲实录(经 InfoQ 进行不改变原意的编辑整理)。

      1 商业 Agent 落地背景与挑战

      今天分享的核心问题很朴素:在一个真实的商业场景里,我们要做哪些事情,才能让一个对话 Agent 真正跑起来、跑得稳、并且持续变好。具体来说,我会从三个方面展开:第一,怎么建知识库,尤其是动态知识库,因为在我们的场景里,知识是有时效性要求的,我们需要知道要做什么才能在真实商业场景里让它用得好。第二,怎么解决用户模拟和 Agent 自进化的问题,避免模型越用越退化。第三,怎么解决模型训练中的奖励稀疏问题,我们整个场景是一个对话场景,对话本身的奖励非常稀疏,最终有没有成交、有没有解决用户问题,只有到最后一轮才能拿到信号,那中间过程的奖励应该怎么分配。最后,我会简单展望一下,从一个商业 Agent 走向下一代 Agent AI,我们还需要做哪些事情。

      先讲落地背景和挑战。在端侧,大家常提“不可能三角”;在商业场景下,我们的不可能三角是效果、时延和成本。这个关系很好理解:如果希望效果好,就需要换更大的模型,需要给它加上思考过程,但这样一来整体时延就会上升,成本也会随之提高。我们面临的核心问题,就是怎么在商业场景下把这个三角做好平衡,既保证效果可用,又不让时延和成本失控。

      具体到一个对话 Agent 的落地,我们面对的是四重约束,从下往上看。最底层是成本。商业场景下的 QPS 和请求量都非常大,数据又很敏感。如果直接调用外部开源 API,很难保证数据安全和成本可控。往上一层是稳定性。在高 QPS 环境下如何保证稳定输出,是一个非常实际的问题。现在大家用开源模型用得很多,但开源模型有一个普遍问题:相对时延较高,思考模式通常很难关闭,而且输出不稳定。在我们的业务场景下,我们其实希望模型输出尽可能稳定可控。再往上一层,是知识的变化速度。举个例子,在直播或者大促场景下,商家会频繁变更活动:可能现在是买二送一,过几分钟就变成买三送一。这种变化是实时的。如果知识更新不及时,就存在巨大风险,模型可能答错。最上面一层,是进化问题。模型如果长期不更新,会越用越退化,今天跑得好好的,明天出现新场景,效果就开始下滑。

      为什么不用现成的方案?在大模型兴起之前,我们做客服、AI 经营小二等场景,主要用传统小模型。那时候的技术栈基本是 FAQ:客服场景用 BERT 比较多,图像任务用 EfficientNet,多模态后来出现了 ALBEF 之类的模型。这些东西做了很多年,但效果一直不理想。根本原因在于,小模型对复杂场景的理解能力不足。我们的对话场景非常复杂,尤其是在售后经营场景下,多轮对话涉及大量追问。如果只做小模型分类,整体流畅度很差,也缺乏稳定的推理和规划能力。此外,真实场景下涉及大量工具调用:用户问商品价格、问快递到哪里了、问能不能退货,这些都需要复杂的工具编排,小模型搞不定。

      那为什么不用开源大模型?现在开源模型确实做得越来越好,也越来越便宜。但问题是,开源模型通用,却没有我们的业务数据。它在世界知识上回答得很好,但一旦涉及领域知识,表现就没那么好。而且它可能回答得“像模像样”,像专家一样,但不一定能促进成交。最后回到成本和稳定性的问题:在我们的场景下,我们希望模型能在一到两秒内返回结果。如果直接用开源大模型,一轮思考就可能超时。这些原因共同指向了一个结论:我们需要自研大模型,用自己的业务数据,训练一个懂业务、会决策、能调工具的大模型,同时把成本控制在安全边界内。

      具体要做的事情可以归纳为三块。第一块是知识库,我们希望它支持实时更新,保证时效性。第二块是自进化,包括用户模拟器和自进化策略,这部分所有内容都在业务场景下真实落地。第三块是成交归因,就是前面提到的稀疏奖励问题,只有到最后一轮才知道有没有成交或解决问题。我们会分享在真实场景下怎么做分层奖励和信用分配。这三块形成一个闭环:知识库保证它答得对,进化机制保证它不越用越退化,成交归因让它学明白整个对话和交易策略。

      2 动态知识实时性——“知道什么”

      做知识库之前,得先知道要解决什么问题。第一个问题是时效和覆盖。所有业务、所有公司都会遇到索引滞后的问题,不管你怎么建索引,它都有滞后性。同时,知识分布在各种不同的载体上:商家维护的知识、商品详情页、直播口播、直播切片等,很难做有效的归总和复用。第二个问题是可信和理解。知识来源多样,商详页、口播、商家维护的信息之间可能存在冲突。知识越多,冲突问题就越难避免。还有语义缺口的问题,有些知识在检索时难度会更大。

      针对这些问题,我们首先构建了一个全域知识库。整体链路不算复杂,核心目的是把所有知识统一成一种存储格式和统一形式。把知识做规整化之后,更有利于检索、存储和后续更新。整个知识来源包括两个维度:第一个是对话维度,用户跟人工客服聊天产生的真实对话,我们会从中挖掘知识。第二个是视频维度,包括商家上传的短视频和直播内容,我们从中做知识提取。提取完之后形成 QA 对,同时挂载 entity。这里的 entity 可以理解为知识的归属维度:如果是商品维度的知识,比如某个商品的价格,就挂在商品上;如果是店铺维度的知识,比如这个店铺通常发哪些快递,就挂在店铺维度上。

      做完这一步之后,我们给每条知识添加了 intent 标签,目的是为后续检索服务。知识属于哪个维度,物流维度、商品维度,还是其他维度,都通过 intent 标注。这样整个知识库就构建得更加规整。这环可能被一些人理解为“脏活累活”,但它其实是保证整体回答质量最重要的一步。

      知识构建完成之后,还需要持续的更新机制。目前我们做到的是天级别更新。当用户问题进来之后,我们会跟现有知识库做检索对比,判别工作交给大模型自己完成。如果发现冲突,就做冲突消减;如果有重叠,就做去重。如果模型能解决就让模型解决,模型解决不了就让人工做 check。通过这一整套机制,数据飞轮就能转起来:知识越用越准,覆盖面越来越广。

      但天级别甚至小时级别的挖掘,仍然无法满足实时问答场景的需求。在直播等场景下,商家活动变化极快,这一秒是一个活动,下一秒就换一个。如果依靠离线知识,很难给用户精准回答。针对这个问题,我们在图片知识这一侧做了一个轻量级优化。图片是商品最重要的知识载体之一。用户每问一个关于某个商品的问题,我们会把这个商品下的所有图片一次性拿回来,平均二十到三十张,不做索引。这样做的好处可以做一个对比:原来的索引库方案,知识更新有滞后,而且刷库时间很长。如果我们有一亿商品,每个商品下面二十到三十张图,全量刷库的量非常大。向量模型想换一个,要先做 AB 实验,就要全量刷一遍,推全再全量刷一遍,这个计算量非常庞大。所以我们把所有的计算都放在在线完成:用户问题来了,把商品下所有图片取下来,在线做相关性检索,二十张图里检索一到两张最相关的,再给下游稍大一点的模型做推理。这个思路类似于排序里的粗排加精排。

      这里有一个耗时瓶颈。前面提到我们的整体耗时要求很高,希望一秒内返回结果。如果用较大的图片输入,耗时根本扛不住。所以我们的做法是把所有图片 resize 到 224×224。按 224×224 的输入、patch size 为 28 来计算,对应的 token 数大约六十多个。三十张图加起来也就一千八到两千左右的 token,整体检索耗时可以控制在两百毫秒左右。如果图片稍大一点,耗时就会翻倍,检索时间可能到一秒,这是不可接受的。

      但简单的 resize 会带来两个问题:首先是图片上的文字可能看不清了,其次整个语义信息会变形。我们的做法是先在大图上做 embedding,同时在大图上加 VCoT(Visual Chain of Thought),包括对图片的各种讲解和商品相关的知识,然后用其他工具把这些 VCoT 信息提取出来。接着训练一个 student 模型,它的输入是 224×224 的低分辨率图片,输出的向量对齐 teacher 模型在大图上学到的向量。这样相当于用小尺寸的向量去学大尺寸向量的表征能力。这是第一个 VCoT 对齐。

      对应的 rule 我们加了两个。第一个是 srcc rule,即 student 和 teacher 模型对应向量的对齐 rule,这个保证下限,至少不比 teacher 模型差太多。第二个是 task rule,就是模型自身的分类 rule:我们把图文相关性分了三类:强相关、相关、不相关,做一个三分类任务。通过这两层训练,student 模型的向量就能对图片有一个比较好的理解。

      在应用层面还有一个策略。很多图片大图上有大量文字,resize 之后文字看不清。我们在推理阶段会做一些轻量级检测,比如用连通区域检测的方法,把字比较密集的区域抠出来,然后做拼接,再进行推理。这样就能把图片上的关键知识信息保留下来。从效果上看,我们这种图文检索的训练方法相比 baseline 有明显的提升。

      知识库构建完成之后,在使用层面有两个 tips 可以分享。第一个是给所有知识打编号。我们不让模型做长思考,但不思考的话模型很容易乱讲。解决方案是给每条知识编一个号,强制模型输出编号。输出一个数字几乎不增加耗时,同时用短溯源代替长思考,既避免了推理时间的增长,又能非常有效地控制“无中生有”。第二个是知识冲突处理。我们给知识设置了优先级:较新的知识优先级更高;从人类对话中挖掘出来、需要人工确认的知识设为较低优先级。通过优先级设置,缓解知识冲突带来的问题。

      3 用户模拟与 Agent 自进化——“如何变好”

      知识库做好之后,只能保证模型不容易乱答、对用户问题能够回答得比较好。但还有一个问题:怎么保证模型能有效迭代,不会越用越退化,能够突破性能和能力的上限。先讲一下背景,为什么固定的策略在商业场景下运行不好。第一个原因是反馈稀疏,前面已经讲过多次。第二个原因是环境在不断漂移,大促、时效性要求高的场景下,环境在持续发生断层。第三个是更新遗忘的问题。做业务的同学可能有体会:最近迭代了一个新能力,做着做着突然发现之前的能力不行了,发生了能力断层。第四个是预警缺失,很多时候上线之后,最近什么也没做,指标就跌了,但缺少有效的预警机制。

      要解决迭代问题,首先要构建一个可以迭代的环境。这里我们做了一个用户模拟器。先回答一个根本问题:用户模拟器是不是必要的?我们有线上真实的对话语料,为什么还要用户模拟器?核心原因是我们的模型在持续迭代。模型变了,它给出的回答就变了。如果模型上一轮的回答和之前不一样,那下一轮就不能再拿用户之前的问题来继续对话。所以我们需要一个能够根据当前语境生成合理用户反应的模拟器。

      为什么不能直接用开源大模型做用户模拟器?我们做过实验,把用户画像喂给 Gemini 或者豆包这类模型,效果不太理想,很容易被人识别出来是机器人。看右下角的图灵测试结果,Gemini 和豆包都很容易被识别出当前发问的人是一个机器人。所以我们需要自研一个用户模拟器,用快手自己的数据训练,让它能真实地模拟用户提问。

      具体方法是一个两阶段的训练流程。第一阶段是 SFT,用真实数据训练,但这里我们加入了一个 thinking 维度的信息,这个 thinking 是用超大模型生成的。做完 SFT 之后,图灵测试指标就相对好了很多,但是还不够高。第二阶段我们做了一个 RL(Reinforcement Learning)的过程,包括三个部分:token 级别的 alignment,分层 reward design,以及最后的 advantage 分配。Token level alignment 是让 student 模型跟我们较好的模型在对应轮次上的输出做对齐;分层 reward 是对最终结果和中间结果做一个加权分配;同时加一些格式约束的 rule。做完 SFT 加 RL 之后,我们自己的用户模拟器的图灵测试结果基本达到了五五开,也就是说,人类已经分不清它到底是机器还是人了。

      有了用户模拟器之后,后面积累迭代数据、做模型更新,整个流程就顺畅了很多。我们维护了两个自进化策略,整个线上模型的更新策略是维护在 prompt 里的。

      第一个是机制层面的更新,核心是一个三元组策略池。策略池维护了三类信息:策略本身、环境中的用户数据、以及环境数据。环境数据包括用户环境,比如用户当前的情绪状态、系统环境、以及商品环境。这些环境信息共同维护在一个策略池中。第二个是停止检测机制。当我们发现最近某些轮次的检测值比较大时,就需要触发策略的重新选择,或者重新触发一个策略。

      这个说起来比较抽象,举两个例子。第一个是用户环境的变化。我们刚开始跟用户正常聊天,聊着聊着发现用户情绪不对了,开始很生气。这时候我们的回答策略就不能再像普通回答一样,而是需要做更多的安抚动作。这就是用户环境变化导致的策略切换。第二个是系统环境的变化。比如最近一段时间,咨询某一款商品退款的人特别多。刚开始我们会正常告诉用户怎么退款,但当我们发现最近退款量异常高时,整个回答就会变得更加保守,会更多地询问用户为什么要退货,尽量维护商家权益。这就是系统环境变化带来的策略调整。这套策略在线上的使用是,我们把它放在 prompt 里,让模型去检索当前轮应该用什么样的策略,是沿用之前的策略,还是触发新的策略更新。

      这样一来,用户、模型、策略、模拟用户之间形成了一个完整闭环:用户和环境产生真实交互,带来训练数据;模型通过数据不断迭代,产生新的数据和反馈;策略负责监督变化。同时我们还设置了围栏策略,如果新模型经过自进化之后策略不对,或者出现了异常变化,就可以做策略回退。通过这种方式,线上模型既能持续更新,又不至于更新到一个诡异的状态。

      4 多轮长程归因——“怎么学”

      讲完了知识库和自进化,接下来是模型迭代中最核心的问题:怎么学。这里解决的是如何把最终的奖励拆解到关键的对话节点上。

      为什么这个问题很难?因为最终的成交和问题解决都发生在最后一轮。但中间可能经历了很多轮:先识别用户需求,然后做商品推荐和比较,用户比较完之后可能还在犹豫,于是做顾虑消除,最后才促成成交。不能说最终成交了,只有最后一轮的奖励重要。中间环节的奖励怎么分配?顾虑消除这件事很重要,但怎么让模型知道它重要?

      先讲动态环境建模。我们需要用户模拟器,在动态环境下产生对应的数据。真实场景是动态变化的,所以必须有一个对应的环境来刻画这种变化。然后是中间奖励的来源问题。最终的 session 级奖励只有最后一轮才有,那中间的过程奖励从哪里来?有一个比较直观的方法:看当前这一轮模型有没有回答用户的问题、有没有解决用户的问题。如果连问题都没回答,那这一轮肯定不是一个好轮次。这个判断可以用 LLM-as-judge 的方式来做。但有时候回答了问题也不一定是一个好回答。比如你回答完之后加了一个反问,引导用户给出更多信息,这反而更容易促进成交。至于 token level 的奖励,可以根据自己的业务场景来设计:大家可以用的最多的就是 LLM-as-judge,看当前有没有回答问题。如果业务场景更看重转化,觉得反问很重要,那就把反问也作为一个奖励维度。这些都需要结合具体场景来定。

      然后是整个分层奖励的分配机制。最终的 session 级别奖励怎么分配回去?我们有一个比较有效且朴素的方法:给每一轮做一个权重加权,token 级别给一个超参,这个超参可以在对应数据集上搜索。session 维度的分配方式也有多种选择:可以做平均分,每一轮权重一样;也可以做时间衰减。在我们的业务实践过程中,时间衰减的效果比较好,越靠近后面的轮次,奖励分配越高。当然这跟业务有关,如果在你业务上越靠前的轮次越重要,比如第一轮就答错了,后面全错,那就该让前面的权重更高。这些都可以在自己的场景下尝试。最后加一个格式约束的 rule,相当于围栏,不管你回答得怎么样,至少格式得跟我设定的一样。如果让你输出一张卡片或一个按钮,就得按要求来。通过这种方式,我们把最终的结果拆到了过程环节里,模型就能知道为什么成交,做到可解释、可学习,让一次真实交互成为下一次决策的样本。

      但这里有一个更深入的问题:按照朴素的方法分配奖励之后,多轮对话中中间某些轮答错了,这条样本可能一直学不到。这种情况下怎么处理?我们有两个方式。

      第一种是 forward-to-back。如果中间某一轮答错了,我们就把后面的轮次都不分配奖励,只学那些答对的轮次,不断迭代,让答对的轮次越来越多。第二种是 back-to-forward。有时候刚开始就答错了,但后来模型靠自己的纠偏能力把结果慢慢掰回来了。这种样本虽然最终结果是对的,但也不能简单地认为是一条好样本,然而它确实有值得学习的地方。做法是找到哪一轮开始错的,把错的那些轮次跳过去,不参与学习。判断哪一轮开始错的方法很多,可以用熵最大的判断,也可以用 LM-as-judge 去判断这一轮是不是开始出错了。然后结合前面的奖励分配方式,只在对的轮次上做奖励分配。这两类策略的目标是一致的:把难例的利用率提上去。

      还有一种情况:不管怎么学都学不会,怎么办?这就涉及到课程学习,现在 OPD 等课程学习在业界都很火。这里分享一个比较有效的例子:刚开始模型就是学不会,那我们就让教师模型给提示,比如发现第五轮错了,就告诉它第五轮应该怎么输出。后面逐步减少提示:刚开始告诉它第五、六轮应该怎么输出,之后发现学好了,就只提示第五轮,再往后再逐步减少,最后完全让它自己把完整过程输出出来。这种课程学习的方式在真实应用层面非常有效。

      训练层面还有几个 tips。第一个是模型选型:分类任务用 2B 或 4B 的模型就够了;生成任务在我们这种对话场景下,9B 的模型相对更合理。第二个是奖励归因:不管做什么任务,奖励归因都很重要,需要先把奖励拆清楚,应该有哪些奖励维度,才能指导模型迭代。第三个是数据配比:领域模型不能全用业务数据训练,需要混合一定比例的通用数据,否则通用能力会消退。

      5 快手商业 Agent 矩阵

      目前我们在业务上的落地场景主要有四个。第一个是数字员工π,承担营销 Agent 的功能。第二个是快语 AI 小二,即电商客服场景。第三个是 AI 分身+ AI 助播,在直播间里回答用户问题。第四个是女娲互动,与互动变现相关的场景。

      在时延和成本这两个维度上,由于我们采用了关闭思考模式的中等规模模型,整体响应时间控制在两秒以内。成本方面,我们没有使用外部大模型做在线推理,大模型主要用于数据生成,自己部署的成本比调用外部大模型低很多。

      回顾整个迭代链路,我们经历了从早期 FAQ 架构,逐步升级到 multi-agent 架构,再升级到多模态 agent,中间结合了大量 RL 相关的工作。目前线上运行的架构是一个多模态、多 agent 的体系。

      6 从商业 Agent 到下一代 Agentic AI

      最后谈谈下一代 Agent AI 的方向。目前业界很多大厂和创业公司都在做“闭环”这件事,让 Agent 不只回答问题,而是真实促进成交。它能识别用户诉求,做决策,决定该说什么,甚至可以在特定条件下给用户发券、做优惠,类似于真实场景下的讨价还价。它还应该能复盘:今天为什么卖得不好,明天应该怎么卖,这个方向目前是业界的重点。

      第二个方向是 Agent world 的概念。这里的 Agent world 是指我们不光让 Agent 去卖东西,还能协助商家做进货、经营复盘等工作。可以有多个 Agent 协同,把整个电商经营环境构建起来,让 Agent 从完成一次对话,变成在动态环境中做持续的经营协同和自我修正。在这个愿景下,人工的角色转变为设定目标和边界:不能给用户无限优惠,优惠多了用户肯定买,但不能亏本;退货等高风险动作需要人工确认;其他的经营、卖货、进货可以尝试交给模型去做。

      图片会议推荐

      12 月 18–19 日,AICon 全球人工智能开发与应用大会将在北京举办。本届大会以探索 A 应用边界为主题,设置 13 大技术专题,覆盖大模型后训练、推理优化、Agent 工程、知识工程、智能体评测与安全、自进化系统、AI 软件交付、原生架构及组织变革等核心方向,汇聚一线技术专家,深入分享 AI 技术突破与企业规模化落地的真实实践。8 折优惠倒计时最后一周,现在报名立减 1160,查看更多详情可扫码或联系票务经理 13269078023 进行咨询。

      图片

      跳转微信打开

      ❌