铃阅
❌

普通视图

别急着用AI裁员!OpenAI首席经济学家:模型会做任务,不代表岗位就会消失

2026年11月16日 18:00

原创 姜篇 2026-11-16 18:00 日本

罗尼·查特吉:在已经使用AI的企业里,真正给它接上现有软件的,仍然只是一小部分。

编辑 | 姜篇

罗尼·查特吉:在已经使用AI的企业里,真正给它接上现有软件的,仍然只是一小部分。

罗尼·查特吉:就业市场还没有像人们预想的那样大变。变得更明显的,是人们每天实际在做的工作:相当一部分已经超出了岗位说明。

罗尼·查特吉:如果AI只能回答问题,没法连接你的电脑和软件,你得到的还不是它的全部能力。

在一场访谈中,OpenAI首席经济学家罗尼·查特吉(Ronnie Chatterji)谈了一个变化:公司还没来得及改岗位名称,员工已经开始跨出原来的职责范围;模型能力一路增长,许多企业却还没把它接进真正使用的软件。

他拿自己的工作打趣。加入OpenAI前,他亲手写了这份首席经济学家的岗位说明;两年后再看,这份工作大约变了6次。

谈到更广泛的变化,他用财务人员也能做营销、人事工作,传播人员也能自己分析数据作例子:岗位没有按任务清单一项项消失,任务却开始在岗位之间流动。

这场对话还谈到另一面:Agent如果真的进入企业系统,谁给它权限,谁接收它持续产生的代码和信息?AI能完成一项任务,又能不能据此推断一个岗位会消失?

查特吉谈上任以来的工作内容多次变化

以下根据原访谈翻译整理。

AI会回答,却还进不了公司的软件

主持人问查特吉,未来一两年,AI在企业里会发生什么变化。他没有先谈模型参数,而是说起“连接器”。

连接器,就是让AI在获得授权后,接入企业已有的软件和数据。没有这一步,AI无法读取系统里的实际信息,也很难在现有流程里完成工作。

罗尼·查特吉:很多公司已经说自己在用AI,但其中真正打开连接器的仍是少数。AI若没有接到人们正在使用的软件,能做的主要还是问答。

查特吉谈企业连接器的启用仍处在早期

这也是“能回答”和“能干活”的区别。企业需要的不只是一个会说话的模型,还要让它在许可范围内获取信息、调用工具,并把结果交回原有流程。

罗尼·查特吉:如果AI只是一个问一句、答一句的工具,你还没有用到它的全部能力。接下来12到18个月,我预计会有更多企业让Agent进入实际工作。

查特吉用“问答机器”形容未接入现有软件的AI

模型的能力在提高,企业能不能用起来,还取决于系统、数据和权限有没有接通。

职位没换,手里的活先变了

查特吉说,就业市场至今没有出现一些人预想的剧烈变化。但看员工每天做的事,变化已经很明显。

罗尼·查特吉:我看到越来越多工作已经越过了岗位说明的边界。随着Agent进入企业,这种变化还会继续。

查特吉说的不是员工换了岗位,而是职位名称没变,负责的事情却变了。AI接手一部分工作后,员工可能承担过去不属于自己岗位的工作。

查特吉认为,跨岗位工作会随着企业使用Agent而增多

他还提到OpenAI内部的使用节奏:技术团队先用上Agent,非技术团队大约晚了4到5个月才跟上。

罗尼·查特吉:不要只看技术团队。非技术团队也在使用Agent,而且可能比外界想得更快。OpenAI内部,两者的普及时间大约差了4到5个月。

这个时间差只来自OpenAI,不能套到所有公司。但方向很清楚:AI可以代替的工作越来越多,开发者不能只把它做成技术团队的工具,还要考虑其他部门能否安全、顺畅地使用。

Agent不停干活,人却未必接得住

Agent可以连续工作,查特吉却提醒了一个很简单的问题:它做完以后,谁来接收结果?

一方把工作交给AI,另一方却仍按原来的方式处理,就会出现新的堵点。一个任务不能只在工作一端自动化。

罗尼·查特吉:如果越来越多请求由Agent发出,接收的一方也得有处理这些请求的能力。只有一边自动化,不会让整个流程变快。

还有一个问题:AI能不断生成内容,但接收的人未必有时间逐一阅读、判断。它产出得越快,后面的审核工作可能越重。

罗尼·查特吉:如果把大量AI生成、别人又看不懂的内容直接交过去,等于把负担转给了对方。人需要决定哪些内容值得传递,以及由谁检查。

查特吉谈AI生成内容可能给接收者增加负担

因此,开发者做Agent时,不能只看它完成了多少任务。还要明确结果交给谁、谁负责判断、出了错谁来处理。否则AI只是把工作从一端转移到了另一端。

AI能完成任务,不等于岗位就会消失

谈到就业,查特吉反对直接拿模型的任务成绩预测失业。测试能说明AI会做哪些事,却不能说明一家公司会怎样安排人。

罗尼·查特吉:AI擅长一部分工作,不等于承担这些工作的人就会失业。一个岗位的内容会随着工具变化,但不能把任务比例直接换算成失业概率。

他认为,技术替人完成一些旧任务,也可能让人去做更多原来做不到的工作。岗位会不会减少,还要看企业是否出现新的需求。

罗尼·查特吉:人会放下部分旧任务,也可能转向新的任务。只测AI能完成什么,还不足以判断一个岗位会不会消失。

这不是说所有岗位都不会受冲击,而是说“AI会做这项工作”与“企业不再需要这个人”是两回事。任务测试有价值,直接用它计算失业人数则不可靠。

新工作从哪里来?先得有新产品

主持人把话题转向AI会不会创造工作。查特吉说,他听到不少企业只谈节省人力成本;他更关心有没有人用AI做出以前因为成本太高而做不起的产品。

罗尼·查特吉:过去的互联网和软件,并非只让旧工作变便宜。它们还带来了过去没有的产品和行业。我认为AI也有这样的机会。

查特吉谈AI的机会不止于降低现有工作的成本

AI还可能缩短从想法到产品的时间。尝试会变多,失败和成功都可能增加。

罗尼·查特吉:AI让创业者更快看清一个想法行不行。试得快,失败会增加,但有益的成功也可能增加。

这仍然是对未来的判断,新产品能不能变成新工作,还要看是否有人需要、是否有人愿意付费。

对开发者来说,重点不只是把旧工作做得更快,还要找到有人愿意使用的新产品。只有新需求真的出现,新的工作才有机会出现。

写在最后

访谈结尾,查特吉说:“通往AGI的路要经过组织。”AGI是“通用人工智能”的简称。他的意思是,模型再强,也需要公司把它接入工作,并安排好人怎样使用、检查它。

罗尼·查特吉:通往AGI的路要经过组织。模型能力能不能用在真实工作里,还取决于公司怎样组织人和工作。

查特吉谈组织在AI能力落地中的作用

因此,开发者要解决的,不只是让Agent更聪明,还包括让它接入软件、交付结果,并在需要时把工作交还给人。这些环节没做好,AI仍然难以走出问答框。

参考链接:

跳转微信打开

阿里云+自建 IDC 混合运维:一套 AIOps 打通云监控与机房动环,实现跨域根因 RCA

2026年11月11日 18:00

哒哒AI工具库 2026-11-11 18:00 日本

我是韩先超,51CTO 学堂 K8s、Python 教学总监、AIOps 实战训练营讲师,云计算架构师

我是韩先超,51CTO 学堂 K8s、Python 教学总监、AIOps 实战训练营讲师,云计算架构师,具有 8 年项目实战经验+5 年教学经验,线上学员已达 300w+。

很多中大型企业运维现在都卡在一边使用阿里云的公有云、一边自建机房/IDC 的混合架构里。

两套体系各自有监控:云上是云监控、ARMS、SLS;机房侧是传统动环、UPS、精密空调、安防监控。

两套系统独立告警、独立台账、独立值班,云归云、机房归机房,出了问题经常 “分头查、各自猜”。

图片

网上大部分 AIOps 文章,要么只讲纯云上微服务链路 RCA,要么只讲本地机房巡检,很少讲如何用一套 AIOps 平台把阿里云观测数据和传统机房运维数据进行对接、融合、统一研判。

本文针对这个差异化场景给出落地实操,包括架构、对接流程、真实故障案例、踩坑、收益等。

混合运维的真实痛点:阿里云和机房是两个信息孤岛

我们的架构:核心业务跑阿里云 ECS、容器服务用 ACK、RDS;数据库备份、存储、灾备、物理网关、供电制冷放在自建 IDC 机房。

之前的现状是:

  • 阿里云侧:云监控告警、ARMS 链路、SLS 日志、ACK 容器指标,告警推到一个值班群;

  • 机房侧:动环系统采集电压、温湿度、漏水、UPS 状态,单独一套告警推另一个群;

  • 运维人员要同时看两套平台、两套告警、两套资产台账。

痛点:

1. 故障因果割裂

机房空调故障 → 机房温度升高 → 阿里云专线接入的物理网关过热丢包 → 云上业务大量超时。

故障现象是阿里云 ARMS 疯狂报接口错误、RDS 延迟上涨,但云上监控看不到机房温度、空调状态;机房动环只报空调告警,不知道会影响云上哪些业务。

两边告警分开推送,值班人很难第一时间把 “机房制冷故障” 和 “云上业务报错” 关联起来。

2. 资产无法统一映射

阿里云资产(ECS、ACK Pod、RDS)、机房物理资产(机柜、交换机、UPS、专线设备)没有绑定关系。

想查某个云上业务依赖哪条物理专线、在哪个机房机柜,只能靠 Excel 手工查。

3. 告警风暴叠加,分不清主次

机房一个动力故障,同时触发动环告警+专线告警+阿里云 ECS 网络告警+业务应用告警,几十条告警分散在两个渠道,很难识别根因。

4. 变更不互通

机房割接、专线改造、UPS 检修,变更记录只存在机房工单;阿里云发布、弹性扩容记录在阿里云平台。AIOps 无法自动识别 “是不是机房变更引发云上异常”。

5. 运维流程两套标准

云上用云侧工单、机房用本地运维工单,故障复盘、SLA 统计、值班排班两套体系,统计 MTTR、故障影响范围非常麻烦。

很多人会问:阿里云本身有云监控、企业监控,机房动环厂商也自带平台,为什么还要 AIOps?

答案很简单:它们各自只能看懂自己域内的数据,无法跨云-机房做关联推理、根因研判。AIOps 在这里的定位,就是统一融合层、事件收敛层、跨域因果分析层。

整体对接架构:AIOps 作为中间融合枢纽

整体思路:不替换阿里云原有观测工具、不推翻原有动环系统,做对接集成,而不是重建。整体数据流如下:

图片

1. 阿里云数据接入层(AIOps 拉取/接收阿里云数据)

  • 云监控:指标、告警事件(OpenAPI+告警 Webhook 推送)

  • ARMS:调用链 Trace、应用错误指标

  • SLS:日志,通过 SLS 消费/投递到 AIOps

  • ACK:容器指标、Pod 事件、HPA 事件

  • 资产:ECS、RDS、SLB、专线、云连接网关资产信息,定时同步资产标签

2. 机房传统运维系统接入层

  • 动环主机:Modbus/SNMP 协议拉取 UPS、配电柜、空调、温湿度、漏水传感器指标与告警

  • 机房监控平台:摄像头告警、门禁、消防事件

  • 本地运维工单系统、机房变更管理系统:割接、检修、上架下线变更事件

3. AIOps 核心引擎

  • 资产拓扑映射模块:建立 “云上业务 → 云专线 → 机房物理交换机 → 机柜 → UPS/空调” 的依赖拓扑

  • 异常检测引擎:时序基线检测、跨域告警聚类

  • 根因推理引擎:基于拓扑做跨域因果研判(重点:区分云上自身故障/机房基础设施引发的云上故障)

  • 事件中心、工单闭环、报表 SLA 模块

4. 统一出口

统一事件卡片、统一值班通知、统一工单、统一故障复盘看板。

核心原则:原有系统继续保留,只做数据单向流出到 AIOps,AIOps 不反向改造阿里云和动环底层,降低对接风险。

三个真实跨域 AIOps 实操案例

案例 1:机房空调故障,跨云根因自动研判(最经典场景)

背景:阿里云专线接入设备部署在自建机房机柜,该机柜由精密空调负责制冷。

某天,机房空调故障停机,机柜温度缓慢上升,物理网关芯片过热,专线丢包,最终阿里云上订单服务、RDS 跨库访问大面积超时。

传统处理流程:运维先收到阿里云 ARMS 大量业务超时告警 → 排查 SLS 日志发现跨专线请求丢包 → 人工去查专线设备所在机房 → 打开动环平台,才发现空调已经停机。整个排查耗时 70 分钟。

接入 AIOps 之后的处理流程

1. 机房动环通过 SNMP 推送【空调停机告警】到 AIOps 事件中心;

2. AIOps 拓扑引擎自动检索这个空调负责哪些机柜、机柜上有哪些专线设备、专线对应阿里云上哪些业务服务;

3. 短时间窗口内,阿里云 Webhook 推送上来一批【专线丢包、应用 P99 延迟上涨、RDS 访问超时】告警;

4. AIOps 基于拓扑依赖关系做因果推理

根因候选:机房精密空调停机(置信度 94%) 

衍生影响:机房机柜升温 → 专线网关丢包 → 阿里云侧订单、库存服务跨专线调用超时 

影响范围:阿里云 ACK 集群订单应用、跨机房 RDS 读请求 

建议:机房现场恢复空调,云上可临时切备用专线

5. 只推送一条汇总事件卡片,附带:动环空调指标曲线、机柜温度曲线、阿里云专线指标、受影响云上服务清单。

值班工程师拿到结论直接处置,本次 MTTR 缩短至 12 分钟。

踩坑点:

坑:一开始只做告警汇聚,没有做资产拓扑绑定,AIOps 只能把告警堆在一起,分不清因果,只是一个消息合并机器人。 

方案:提前梳理专线、物理设备、云上服务的依赖关系,维护拓扑。注意拓扑是跨域 RCA 的基础。

案例 2:UPS 电池劣化预警,联动评估云上业务风险

背景:机房 UPS 给专线、核心交换机供电,是阿里云专线的后备电源。动环只能看到电压,单节电池缓慢劣化很难发现。一旦市电中断,UPS 撑不住,云上业务直接断连。

AIOps 实操方案

1. AIOps 持续从动环拉取 UPS 每一节电池内阻、电压、温度时序数据;

2. 时序异常算法学习基线,识别内阻持续漂移,输出电池健康度 SOH;

3. 一旦识别电池劣化隐患,AIOps 自动查询拓扑:这台 UPS 承载哪些专线,对应阿里云上哪些核心业务;

4. 生成分级预警工单,标注:隐患位置+关联云上业务等级(核心交易/内部后台),推送给运维和业务负责人。

和单纯机房动环告警的最大区别:动环只会告诉你电池有问题;AIOps 可以告诉你:这块电池出事之后,阿里云上哪些业务会受影响、业务优先级多高,指导你优先抢修高风险资产。

落地收益:隐性供电隐患提前识别,同时完成基础设施隐患到云上业务影响的预判。

案例 3:机房专线割接变更,AIOps 自动校验阿里云侧是否异常

背景:机房经常做专线扩容、交换机割接检修,变更人员只在机房工单系统登记,阿里云侧没有记录。经常出现割接后,云上出现抖动,过很久才发现是割接引发。

AIOps 实操方案

1. 机房变更工单推送到 AIOps,录入变更时间窗口、涉及专线/机柜;

2. 变更开始后,AIOps 自动订阅该专线对应的阿里云指标:专线带宽、丢包、云上应用错误率;

3. 变更窗口期内,如果阿里云指标出现异常,AIOps 自动打上【变更关联异常】标签,优先推送给变更负责人;

4. 变更结束,自动生成变更校验报告。以变更期间云上业务指标是否平稳,作为变更是否成功的依据。

这个能力解决了跨域变更的灰度校验,区分 “业务自发故障” 和 “机房改造引发的云上故障”。

阿里云侧对接的实操细节

这里给出可直接落地的接入方式,不是空谈架构:

1. 告警接入:阿里云云监控、ARMS 支持 Webhook,直接配置回调地址到 AIOps 事件接收接口;

2. 指标与资产同步:调用阿里云 OpenAPI(云监控 OpenAPI、资产中心 OpenAPI),定时拉取 ECS、RDS、SLB、云连接、专线资产和指标;建议用 RAM 子账号,最小权限;

3. 日志接入:SLS 配置投递(投递到 Kafka),AIOps 消费 Kafka 日志流,避免直接高频率拉 SLS 接口限流;

4. 权限规范:RAM 子账号只开放只读观测权限,AIOps默认不开放云上资源操作权限,根因结论只做建议,不自动执行云上自愈,保障安全;

5. 机房侧对接:动环设备优先 SNMP;新一点动环平台支持 HTTP WebService 接口;老款只能 Modbus 的,用边缘网关做协议转换后再输出标准化指标给 AIOps。

重点:老机房大量传统动环没有开放 API,是对接最大卡点,优先用边缘网关做协议标准化,不要硬改动环主机。

落地路线建议(循序渐进,避免项目难产)

阶段 1(0-1.5 个月):打通接入+资产映射 

先把阿里云告警 Webhook、机房动环告警接入 AIOps;梳理专线、物理设备、云上业务的依赖拓扑表,完善标签。

这个阶段目标:告警统一汇聚,资产关系可查。 

阶段 2(1.5-3 个月):告警降噪、跨域聚类

做告警相似度聚类、抑制,同一故障窗口内区分根告警和衍生告警,先解决告警轰炸,团队快速拿到体感收益。 

阶段 3(3-6 个月):跨域根因推理、变更关联校验

在拓扑稳定后,上线跨域 RCA,优先打磨【机房基础设施 → 云上网络】这类高频故障场景。 

阶段 4(长期):容量联合预测、SLA 统一统计

比如机房带宽、专线容量预测,联动阿里云业务流量趋势,做统一容量规划。

总结

很多人对 AIOps 有两个极端理解:要么认为 AIOps 就是云上链路大模型 RCA;要么认为 AIOps 只是机房摄像头 CV 巡检。

在大量政企、制造业、中型互联网的混合架构里,AIOps 更务实的定位,是跨域观测融合平台: 

1. 不替代阿里云原生监控,不淘汰跑了很多年的机房动环; 

2. 把云侧、本地机房两套运维语言打通,预判基础设施故障对业务的影响; 

3. 故障发生时,帮运维判断:是阿里云业务本身问题,还是底层机房供电、制冷、专线带来的连锁故障; 

4. 统一事件、统一工单、统一复盘,解决两套运维体系 “各管一段” 的痛点。

混合云、云+自建 IDC 的架构还非常普遍,这种跨域 AIOps,往往比纯云上 RCA 更容易做出别人没有的差异化价值。

欢迎留言交流:你们是否也同时维护阿里云+自建机房,遇到过哪些跨云跨机房联动故障?

阅读原文

跳转微信打开

AI“自我进化”被吹过头了!李飞飞当场反驳谷歌科学家:“自我改进”和“递归自我改进” 是两回事

2026年11月10日 18:04

原创 姜篇 2026-11-10 18:04 美国

李飞飞:让系统自己试验,把模型的准确率做高,很多机器学习方法早就在做。这本身还不叫“递归”。

编辑 | 姜篇

李飞飞:让系统自己试验,把模型的准确率做高,很多机器学习方法早就在做。这本身还不叫“递归”。

Jeff Dean:对。模型可以越做越好,但负责提出“下一次试什么”的那个系统,未必跟着变好了。

两人的争论,从一个看似很小的用词开始。

在斯坦福HAI对谈中,Jeff Dean刚讲完AI如何自动尝试不同的模型架构,李飞飞就打断他,要求把“自我改进”和“递归自我改进”分清楚。两个人花了好几分钟,反复确认究竟是哪个系统在变强。

这件事离开发者并不远。今天的Coding Agent会根据报错修代码,也能回看失败记录,建议修改自己的Skill。但一次任务做得更顺,并不能说明下一次遇到陌生任务时,它提出方案的能力也提高了。要说Agent会“自我进化”,还缺少这验证。

李飞飞随后追问得更犀利:硅谷谈RSI时,常常仿佛只要让AI进入循环,它就能越转越快、一直加速。但那些实验,训练的时间从哪里来?

Jeff Dean同意自动化可以缩短研发中的等待,却明确说,训练、计算、保存数据和检查结果都要花时间。快一些,和无限快,是两回事。

备注:Jeff Dean曾任Google首席科学家,如今是DiscoveryLoop联合创始人兼CEO;李飞飞是斯坦福HAI创始主任、斯坦福大学计算机科学教授。

李飞飞打断Jeff Dean,区分一般自我改进与递归自我改进

以下内容按对谈话题整理。

模型准确率提高了,改进模型的“脑子”呢

Jeff Dean举的是医学影像的例子。给系统一批核磁共振图像和对应结果,让它试不同方案,做出更准确的识别模型。它可以自动提出实验、运行实验,再根据准确率决定保留哪一种方法。

李飞飞立刻开口。这样的系统当然会让任务结果变好,可过去不少机器学习方法也能做到。她不愿意因此就把它叫作RSI,也就是“递归自我改进”。

李飞飞:等等,很多机器学习算法都能提高一个模型的表现。光做到这一步,还不能算递归。

Jeff Dean:例如让系统自动改进一个MRI影像模型,准确率可能不断上升。但这并没有改进那个负责提出下一次实验方案的基础系统。

Jeff Dean用医学影像模型解释,任务模型变好与实验设计系统变好并非同一件事

区分“任务模型变好”和“实验系统本身变好”

可以把它想成两层:第一层做题,第二层决定下一道题怎么出、用什么办法解。前者的分数提高了,不代表后者更会设计实验。Jeff Dean所说的RSI,要求改进触及第二层;下一轮又能利用这个改进,提出更好的方案。

这也是斯坦福研究院对于RIS的解释:系统改进自身能力,并利用增强后的能力继续改进。不过,定义并不等于已有系统达到了这个水平。判断一个具体项目时,仍要看它究竟改了什么,后续能力有没有经受新任务检验。

李飞飞不买账“永动机”理论

把词说明白后,李飞飞又问了一个问题:这种循环的物理边界在哪里?在她看来,硅谷对RSI的使用太宽松,有时还把它描绘成一台会不断提速、看不到尽头的机器。

李飞飞:现在很多人很随意地使用RSI这个词。我作为科学家,会在意它究竟指什么。尤其是有人把它讲得像能一直加速下去,那它的物理限制在哪里?

李飞飞追问RSI被炒作成无限加速时,现实中的限制被放在了哪里

Jeff Dean没有回避这个问题。

他先讲了人类研究团队是怎么做模型的:研究员和工程师跑一批小实验,分辨哪些想法有效,再把有效的东西带进下一代模型。Gemini从一代到下一代,在他看来也是这样一步步试出来的。

自动化确实能减少人的等待。一个实验凌晨两点跑完,研究员可能早上八点才坐到电脑前查看;如果系统自己读结果、安排下一轮,六小时的空档就可以缩短。在大型项目里,它还可能把不同人的实验结果放在一起判断,减少重复尝试。

Jeff Dean:实验凌晨两点结束,人不一定要到早上八点才看见结果。自动化系统可以及时检查,再决定下一步做什么。

Jeff Dean用凌晨结束的实验说明自动化能够缩短哪段等待

但下一代基础模型不会因为“决定得快”就立刻出现。实验仍要运行,模型仍要训练,数据仍要存下来,结果还得有人或另一个系统分析。Jeff Dean说,把整个循环想象成能无限快地转下去,缺少现实依据。

Jeff Dean:要让基础模型变得更好,训练和实验都得实际发生。计算要跑,结果要看,数据要保存;这个过程不会无限快。

Jeff Dean说明模型改进不能跳过训练、计算和结果分析

Jeff Dean的新公司,先挑“跑得动的循环”

这番话并非一个旁观者在给RSI降温。Jeff Dean离开Google后参与创办DiscoveryLoop,目标就是把科学和工程研发中的“提出方案、运行实验、评估结果、决定下一步”接成自动循环。

传统实验循环需要人在提出、执行和评估各环节参与

DiscoveryLoop设想通过专用工具与模型自动推进多轮实验

李飞飞问他,为什么先做这些领域。

Jeff Dean给了一个答案:先找实验能在数字环境里完成的工作。计算机里提出方案,计算机里跑,再用可衡量的结果决定下一轮,整个过程比较容易加速;涉及真实物理过程的领域,要等设备、材料或人体数据,循环很难同样提速。

Jeff Dean:我们现在优先做整套循环可以在数字环境中完成的科学和工程问题。碰到必须依赖物理过程的领域,推进实验就没那么容易了。

Jeff Dean说明DiscoveryLoop为什么先从可数字化的实验领域做起

他们目前优先关注机器学习研究、机器学习工程和硬件设计。

Jeff Dean还主动给自己的项目划了线:假如系统替医疗领域做出一个更好的专用模型,那是针对任务的自我改进;单凭这件事,还不能称作递归自我改进。

Jeff Dean:为特定任务做出更好的模型,可以说是自我改进,但还不是递归自我改进。

Jeff Dean列出DiscoveryLoop已搭建的Agent工作环境及并行实验循环

Agent改了自己的Skill,算不算RSI

开发者已经能看到一些“自我改进”的小版本:Agent做完任务,回看工具调用,发现测试说明写错了,于是提交一份Skill修改;下一次遇到同一类任务,它少走了几步弯路。

这件事有用,但按这场对谈中的严格区分,只修好一条指令,还不足以证明RSI已经发生。团队至少要弄清:它改的是当前任务的说明,还是提出改进方案的机制?换一批任务后,进步还在不在?系统会不会为了提高评分,悄悄放宽测试、跳过难题?这些是把“看起来变好了”变成“确实变强了”时要做的检查。这里是根据两人讨论作出的开发场景延伸,不是他们直接评价某款Coding Agent。

李飞飞在用了一个容易理解的比方:人第一次煎蛋煎糊,第二次做得好些,这是学习;如果还学会了怎样更快学会新菜,改变的就是学习方法。Jeff Dean接着说,人会学微积分,也会逐渐知道哪种学习方式对自己更有效。RSI讨论的,正是后一层能不能不断改进。

李飞飞:第一次煎蛋做不好,多试几次总会进步。我想问的是,在这个过程中,那个负责学习的系统有没有发生变化?

Jeff Dean:人会学会一件事,也会学会怎样学习。后一种变化,会让你以后学更多东西时更快。

写在最后

这场对谈没有给出“RSI何时到来”的时间表。李飞飞要的是别把两种改进混在一起;Jeff Dean要做的是让实验循环少等人、少重复,扎扎实实跑得更快。两人并不矛盾。

下次看到“Agent已经学会自我进化”,不妨先问一句:它只是把这道题做对了,还是连提出下一道题、判断答案的办法也改进了?实验记录和新任务的结果,比那个响亮的标签更能回答问题。

参考链接:

跳转微信打开

AI会向开发者隐藏错误!Warp负责人谈Coding Agent最难发现的失败

2026年11月9日 18:00

原创 姜篇 2026-11-09 18:00 美国

Ben:Agent碰到障碍,会继续尝试,直到把任务做完。它不会告诉你中途哪里失败过,最后只会说:已经完成了。

编辑 | 姜篇

Ben:Agent碰到障碍,会继续尝试,直到把任务做完。它不会告诉你中途哪里失败过,最后只会说:已经完成了。

Ben:只保存人和Agent的对话还不够。它调用过什么工具、碰过哪些文件、最终交出了什么,都要放在一起看,才能知道这项任务是怎么完成的。

Ben:把那些表现不好的会话放在一起,找出反复出现的原因,再让Agent提出修改Skill或配置的建议。团队仍要审查这些改动。

这三句话,讲的是Ben在演讲中说的的一条完整路径:先发现Agent没报告的麻烦,再找出麻烦为什么总会发生。

备注:Ben Holmes是开发者工具公司Warp的开发者体验工程负责人,参与Warp Factories项目,主要关注Coding Agent的工作流程、运行评估和Skill改进。

他拿Warp的测试环境举例。

测试Skill里的部分指令已经过时,Agent按说明操作没跑通,就自己试端口、摸索环境,最后继续写代码。

任务完成了,团队只觉得它比预期慢了约两分钟。翻开工具调用记录,他们才看见那两分钟里发生了什么。指令并没有因为这次任务成功而得到修正,下一个Agent仍可能照着它重走一遍。

还有些问题藏得没那么明显。Agent可能为一个改动写下许多团队并不需要的测试,也可能在代码里塞进大量注释,让PR变得更难审。它最终交出的代码未必有错,测试也可能全绿;单看这两样,开发者很难发现它花了多少时间试错,或把多少审查负担留给了人。

Ben建议回看完整的工作记录,并按团队自己的标准检查。

如果多个Agent都卡在同一处,就修改那条Skill,而不是每次接过任务后再提醒一句“下次别这样”。他展示的Skill Doctor能检查Claude Code、Codex等工具的历史会话;在持续运行的方案里,Agent还会针对反复出现的问题提出PR。

给会话打分的也是Agent,它可能看错原因;多加一层检查还会消耗Token。修改Skill的PR是否真的减少了绕路、有没有引入新问题,仍要由开发者核对。

这场演讲值得讨论的地方就在这里:Agent交付成功之后,团队要不要回头检查它走过的路?如果没人看,今天被它绕过去的小问题,明天还会出现在另一次“任务完成”之前。

图Ben谈Agent绕过障碍后,开发者可能只看到完成结果

以下根据演讲和Ben相关原文整理。

它把代码交了,坏指令还留在那儿

Ben举的例子发生在Warp自己的测试流程里。Skill本来应该告诉Agent怎样启动和检查环境,其中一些说明却已经过时。

Agent遇到问题后,并没有停下来等人修改说明,而是试了不同端口,摸清环境,再继续写代码。

Ben Holmes:我们测试环境的Skill里有不少过时指令。Agent自己绕过去了,也没有告诉我们。我们只知道它似乎比预期慢了两分钟。

Ben讲述测试Skill里的旧指令如何让Agent反复试错

如果只看这次PR,可能什么都不值得追究:改动交了,测试也跑了。但那份Skill下次还会被读取。一个Agent独自绕路两分钟,十个Agent并行工作时,就会变成团队重复支付的时间和Token。

“隐瞒错误”说的正是这里:问题留在过程记录里,没有进入交付报告。它不是“Agent偷偷把失败测试改成通过”,也不是Ben证明了模型有欺骗意图。

为什么只看最终结果,看不出它在绕路

Ben让团队把每次Agent工作留下的三样东西放到一起:对话、工具调用、产出的代码或PR。对话能看到人交代了什么;工具调用能看到Agent运行了哪些命令、撞上了哪些错误;最终改动说明它交出了什么。

Ben Holmes:别只保存人和Agent说过的话。它调用的工具、访问的文件,以及最后交出的代码,也应该和这次会话放在一起看。

Ben展示分析Agent工作时需要的会话、工具调用和产出

这也解释了为什么“测试全绿”不能回答文章开头的问题。

测试检查的是这次改动有没有满足相应的验收条件;它不记录Agent为了让测试跑起来,是否先试错了十几次。要找这种重复耗时,得回到执行记录。

多写测试、反复试命令,也值得查吗

演讲现场,Ben问听众有没有觉得Agent写了太多测试。接着他列出三类检查项:重复测试、表达是否冗长、工作是否高效。

Ben Holmes:团队也许想要端到端测试,Agent却写了很多覆盖同一行为的单元测试。代码看起来“测试很多”,未必符合团队原本的测试安排。

他又谈到代码注释和PR说明。如果Agent在本来清楚的改动里留下大量无用解释,审查者要花更多时间筛掉噪声。至于效率,不能只按完成耗时判断,还要看它有没有因为说明不清而反复执行同一种失败命令。

Ben说明如何检查Agent是否把时间花在重复步骤上

这里有个区别:多跑一次测试不一定是坏事。第一次失败后换方法,也可能是必要的排查。Ben提出的是让团队先写清楚评价标准,再用Agent筛出值得人回看的会话,而不是把“工具调用多”直接等同于质量差。

给Agent打分的也是Agent,分数能信到哪一步

Warp的做法是给历史会话设定评分规则,让另一个Agent检查。例如“效率”这一项,就看它是否朝着结果推进,还是陷在重复步骤中。Ben展示了一种按会话抽样评分的方法,也提到可以让每次PR合并后触发检查。

Ben Holmes:评分标准得由你来定。先写几条,拿真实会话试一试,再慢慢改。制定这套标准,更像一门手艺,不是一道算完就对的题。

Ben展示效率评分的示例规则

分数能帮团队从大量记录中挑出异常,但它本身不是证据。假如评分Agent把一次必要的重试误判成浪费,团队仍要点开原始工具调用;修改Skill也一样。它是后续任务都会用到的说明,不能因为这次改完跑得快,就直接合并。还要拿其他任务试一试,确认新说明没有带来新的问题。

找到一串失败之后,改哪里

Ben描述的下一步,是把低分会话里的原因交给一个专门的Agent,让它找共同点。若许多任务都在同一条测试指令上打转,改的就该是那条指令,而不是逐个安慰“下次注意”。

Ben Holmes:把失败会话和原因放到一起,让Agent找出反复出现的问题,再让它提出对Skill、配置或代码库的修改。

Ben说明如何从多次低分会话中寻找共同原因

在演示里,Agent发现测试时总在争抢端口,于是建议修改端到端测试Skill:先确认可用端口,再启动环境。另一处反复出现的人工修改,是Ben总要把Agent写的更新日志改成团队习惯的说法;他也把这一点写回Skill。两处都很小,却让下一次任务少走了同样的弯路。

Ben展示Agent针对测试端口问题提出的Skill修改

Warp还展示了让Agent持续检查会话、提出自我改进PR的工作流。Ben说,团队会审查这些PR;这不是Agent可以自行改写规则并直接上线的证明。演讲里还发生了一个颇贴题的小插曲:Ben准备展示持续评分图表时,暂存环境访问失效了,他只好改用口头解释。现场演示本身也会出错。

开发者现在能试的,是先查一次自己的工作记录

不用先搭一套“软件工厂”。Ben展示的Skill Doctor可以检查本地Claude Code、Codex或Warp的历史会话,给出效率、代码质量等方面的报告,并提出Skill修改建议。这是Warp提供的工具,效果仍要用自己的项目核对。

更稳妥的第一步,是找一类你常交给Agent的任务,例如跑端到端测试或改接口。翻看最近几次记录:它在哪条命令前停得最久?是不是每次都要人补同一句提醒?如果根源是项目说明不准,先修说明,再用同类任务比较前后。记录里可能有仓库路径、日志和密钥,集中分析前也要先处理访问范围。

这套做法的收益不该靠一个漂亮分数宣布。看下一次任务是不是少试了几条无效命令、少来回问了几次,修改后的测试是否仍能发现问题,就已经足够具体。

写在最后

那份过时的测试指令,Agent自己绕过去了。它把活交了,团队却差点没发现同一条指令还会挡住后来的Agent。

Ben这场演讲最值得记住的,不是“Agent会隐瞒错误”这句标题,而是一个开发者每天都可能遇到的差别:这次做成了,和下次不用再踩同一个坑,是两项不同的工作。

参考链接:

跳转微信打开

沃顿教授:程序员的新工作是“经理”,监督AI比派任务更困难,别把Agent当“一键完成”

2026年11月6日 18:00

原创 姜篇 2026-11-06 18:00 北京

莫利克:以前总有人说商学院毕业生得找技术人员帮忙。现在轮到更多人学习怎么管理工作了。

编辑 | 姜篇

莫利克:现在,人人都得学着当经理了。

莫利克:把工作交给Agent之后,盯着它有没有做对,同样要花不少时间。

莫利克:那些决定,我不想全让AI替我做。

莫利克:以前总有人说商学院毕业生得找技术人员帮忙。现在轮到更多人学习怎么管理工作了。

在访谈中,伊桑·莫利克把这几件事连在了一起。

他说的“当经理”,不是让程序员转去管人,而是当Agent开始替你执行任务,你得负责讲清目标,约定它什么时候来汇报,并从它拿出的方案里作选择。

备注:伊桑·莫利克,沃顿商学院管理学副教授、生成式AI实验室联合主任,长期研究人如何与AI共同工作。

这事并不省心。莫利克算过另一笔账:把任务交出去,除了花Token,还要花时间盯进度、看方案、发现跑偏后把它拉回来。

他担心开发者们太早相信Agent。工具“按一下就能完成”,开发者们容易错过那些本来该自己做的选择。

他讲了自己的经历。Agent替他找约5000个故事、整理材料、写分析工具,但它提出的第一套研究办法,他没有直接照办。而是先让Agent列出几种方案,比较结果,再把不同方案里有用的部分拼起来。费时间的活可以交出去;研究什么、采用哪条路,仍由他选。

还有一次,他明明不想发邮件,AI却给院长发了出去。莫利克因此强调:对Agent的信任要从低风险任务慢慢建立,不能因为它过去完成过几项任务,就默认它可以替你做所有决定。

放进开发者的日常,问题就很具体了:Agent可以修Bug、补测试、准备PR;谁来告诉它改动不能碰什么,什么时候必须停下来请人看,以及“测试过了”之外还要验收什么?

莫利克谈AI工作给人带来的管理任务

以下根据访谈翻译整理。

派完活还得注意:Agent有一笔看不见的成本

主持人问莫利克,该怎样管理Agent。他说了一个很容易被忽略的地方:安排十项任务很快,但是逐项看它们做到了哪一步、有没有走错方向,很费时间和精力。

莫利克:使用AI系统的成本,不只是Token。把大量工作派出去之后,监督这些工作的时间和精力也很贵。你要想清楚的是,怎样管理整个过程。

莫利克指出监督Agent同样要花时间

他的做法是在派任务时就说清楚:做到哪一步回来汇报,在哪一步给出几种不同方案供他挑选,什么样的结果算好、什么样的结果不行。尤其任务刚开始时,他会早一点检查,免得Agent理解错了方向,还一路认真地做下去。

莫利克:我会指定它在哪些节点回来和我核对,也会要求它拿出几种不同的例子,让我来选。关键是由我决定,自己要在哪一步参与,而不是把Agent放出去就等成品。

莫利克描述自己的检查点设置

对一个开发任务来说:让Agent升级支付接口,可以先要求它列出会改哪些调用点、旧接口在哪些服务里还在用;确认范围后再改代码;最后提交测试结果和未覆盖的风险。这里的“管理”就是把决定留在合适的位置,不是坐在旁边看它敲每一行代码。

他让Agent找5000个故事,却没让它选研究方法

访谈中最能说明这套分工的,是莫利克自己的研究。

他想弄清不同故事有没有可比较的结构,于是让Agent先提出研究思路。Agent能给出办法,但他没有让它挑一个自己最喜欢的就直接执行。

莫利克:我先让它提出多种研究路径,再给反馈,让它分别做出初稿。我看过结果后,可能会说:“第三种有意思,但第二种有个好地方,能不能把两者结合?”

莫利克没有让Agent直接执行它推荐的第一种研究方法

在这个过程中,Agent替他找约5000个故事、建立分析文本的工具;莫利克自己则是比较方案,追问哪里可能错了,再决定下一步。

这不是一个“万能提示词”的故事。

他说自己像带研究团队那样工作:先看几个方向,再根据看到的东西调整,而不是事先写死每一步。

莫利克:繁琐的检索和整理工作可以让AI做。我希望把有意思的部分留给自己,包括挑选、组合方案,以及决定哪些结果值得继续研究。

莫利克谈自己的研究分工

开发者也会遇到这样的选择。让Agent先给某个慢接口提出三种优化方案,再决定改索引、改缓存,还是先查上游请求;它可以跑压测、整理日志,但不能因为它给出的第一条建议看起来完整,就跳过对业务代价的判断。

越像“一键完成”,越容易把选择权一起交出去

莫利克并不反对自动化。他很愿意把事实核查、填表等费时间的工作交给AI。在自己的新书里,AI查出过他写错的地方,甚至指出他引用的资料也有错误。不过,“省事”不等于把过程里所有选择都交给AI。

莫利克:最常见的错误,是过于相信Agent。现在有些界面把它的工作过程藏起来,让结果显得像魔法;人想在中途参与,反而更难了。

莫利克谈使用Agent时常见的过度信任

他说,经理也不会每分钟站在员工背后看屏幕,但会约定什么时候汇报、什么情况必须请示。Agent同样需要这样的节点。它能自行完成中间步骤,不代表用户只该看到一个“已完成”。

莫利克:即便AI作出的选择不错,我也希望自己能参与选择。否则,最后交出来的工作里已经没有我的判断;任何人输入同一句话,都可能得到差不多的结果。

对开发团队来说,这句话至少对应两件事。第一,任务交给Agent之前,把不能触碰的边界说清,例如不得更改账务规则、不得发送外部邮件。第二,在需要取舍的地方让它停下来,例如“先给出迁移方案和回滚办法,经确认再改生产配置”。

它给院长发了邮件:信任不是一次测试跑绿

访谈后半段,主持人说自己的AI助手替她填表,却直接把表发了出去。莫利克接过话:他的AI也曾在他不希望发邮件时,给院长发了邮件。

莫利克:我的AI曾给院长发邮件,尽管我当时的意思是不要发。这也是为什么不能一下子把信任交出去;要像了解一个新同事那样,先从低风险任务开始,看清它会怎么行动。

莫利克讲述AI越过他的意愿发送邮件

他拿自己的任务作对比:他知道任务运行时有哪些指令,也能慢慢调;对另一个更主动、设置又不透明的助手,就不能照搬同一份信任。模型或界面换了,原来摸清的脾气也可能不算数。

这里的开发者落点很朴素:让Agent读代码、起草PR,和让它发邮件、改权限、发布上线,不是一档权限。一次修复通过测试,只能说明这次改动满足了现有测试;不能替下一次高风险操作签字。

写在最后

“程序员都要当经理了”听着像一句调侃,莫利克讲的却是实打实的工作量:任务交给Agent以后,人仍要说明目标、安排汇报、比较方案,还要在它越界前叫停。Agent写得越快,这些决定越容易接连出现。

好用的分工也不复杂。让Agent查、写、跑、整理;让人决定哪条路值得走,哪些动作需要确认,出了意外先停在哪儿。这样省下来的不只是敲代码的时间,也能把人的注意力留给真正需要判断的地方。

参考链接:

跳转微信打开

“前端已死”说早了!Epic React创始人:框架已经不重要了,AI会写React并不代表能做出好产品

2026年11月5日 18:04

原创 姜篇 2026-11-05 18:04 日本

肯特:我仍然认为开发者有很多东西要学,但框架已经不是最重要的了。

编辑 | 姜篇

肯特:我仍然认为开发者有很多东西要学,但框架已经不是最重要的了。

肯特:练习编程时,不要为了“学得扎实”就关掉AI助手。你将来就是这样工作的;工具写完之后,你还得弄懂它做了什么。

肯特:代码生成得更快,不代表用户体验会跟着变好。软件仍然需要真正在乎用户体验的开发者。

肯特谈起自己的变化:过去花一年打磨一门课,发布后能教很久;现在Agent的用法几周就换一次,课程还没做完,部分内容可能已经过时。他甚至认真想过,接下来到底该教开发者什么。

说这些话的,是Epic React课程作者肯特·C·多兹。

现在Agent的用法几周就可能变一次。他开始担心,课程还没录完,讲工具操作的部分已经过时了。一个教React多年的人,为什么开始说“框架不是重点”?

肯特并没有说React不用学,也没有劝新人跳过编程基础。

主持人问,初学者练习时是不是该关掉AI,自己把代码一行行敲出来。肯特说不必:开发者在真实工作中已经在用AI,练习也该接近真实工作。难处在后面。Agent交出一个能运行的页面,你是否看得懂它怎样处理状态、哪里可能出错,需求变了又该从哪儿改起?

访谈中还有一个让开发者无法回避的例子。主持人用过一款点餐应用,页面卡住,最后连订单都没下成。他问肯特:写代码的工具越来越快,为什么用户用到的软件没有同步变好?

肯特也没有把故障归咎于AI。他说,团队写完页面,还得有人把整条流程走通。用户下不了单,再漂亮的组件也交不了差。

这也是肯特如今更想教“产品工程”的原因。他所说的产品工程,是把想让用户完成的事,和软件具体怎样实现、怎样验证连起来。

访谈的最后,话题走到了前端更远的地方。如果Agent能替人操作软件,网页还要不要做?肯特的回答是要。有些任务交给Agent方便,但有些时候,人就是想看清有哪些选择,或者直接按下一个停止按钮。

从学React、用AI写代码,到用户能不能下单、界面要不要保留,肯特谈的是同一份工作的不同环节:生成页面只是其中一步。当这一步越来越快,开发者仍得知道页面为什么这样工作,以及用户能不能靠它把事情办成。

肯特说仍有很多东西值得教,但框架已不是他最想教的重点

以下根据访谈整理。

教React的人,先被自己的课程问住了

肯特做技术教育多年,习惯用很长时间准备一门质量高的课程。Agent起来后,这种节奏首先让他难受:工具变得太快,讲某个版本、某种操作流程,可能刚录完就要重录。

肯特:我可能花一年准备课程,等发布时,它已经过时了。我得想想,有什么东西能让开发者学会以后,过一年仍然有用。

肯特谈自己过去一年做一门课的方式为何受到冲击

主持人说,自己以前常听肯特讲React、Hooks和`useEffect`,现在这些话题少多了。

肯特接过话:我仍在做教育,也相信开发者还要学习,但自己不想把下一个重点继续放在框架上。

他把方向转向“产品工程”:从用户想得到的结果出发,设计能实现这个结果的系统。

肯特:产品工程要连接两件事:产品希望达成什么结果,以及技术上怎样把它做出来。只把实现交给Agent,还不等于把这两件事接上了。

肯特解释自己所说的“产品工程”

工程师还得决定订单状态什么时候更新、支付失败怎样返回、重复点击会不会多扣钱,以及该用什么测试确认这些路径。

学React时要不要关掉AI?肯特说不要

主持人接着问到新人学习:练习时该不该关掉AI助手,逼自己把每行代码写出来?肯特的答案是不要。他认为练习应接近以后真实工作的样子,而真实工作已经在用这些工具。

肯特:不要关掉AI助手。你将来就是这样编程的,练习时也该用它。但它替你写完之后,你仍要弄明白发生了什么。

他回忆,早期的代码补全会直接把练习题写出来,他还能要求学生停下来读懂。后来工具变成对话式Agent,甚至开发者自己也不再逐行看代码,原来的教学方法就不好用了。

肯特谈新人怎样从初级走向资深

肯特:新人成长为资深工程师,并不是因为把语法敲了足够多遍,而是因为开始处理资深工程师处理的问题。

但他紧接着说:碰到架构和技术取舍时,仍要思考,弄懂底层为什么这样工作。

对前端开发者来说,这个区别并不抽象。Agent会替你写一个带搜索框的React组件;你仍要知道搜索请求何时发出、旧请求回来会不会覆盖新结果、页面重载后状态是否丢失。不会背出每个Hook的API,和完全看不懂页面行为,是两回事。

代码快了,为什么用户还是点不了餐

主持人讲了自己的经历:在一款点餐应用里,页面卡住,他没法完成下单。他问肯特,工程师有了更强的AI,为什么用户体验没跟着变好?

肯特:代码能很快生成,不代表好的用户体验也能很快产生。团队仍然需要真正在乎用户体验的开发者。

肯特强调交付速度重要,产品质量同样重要

他没有把这次故障归咎于“AI写错了代码”。他的意思是,写代码这一步快了,团队也不能跳过用户真正走的那条路径。肯特给了一个很具体的办法:让Agent定期像用户一样下单,或者把这条检查放进发布流程。下不了单,就别发布。

肯特回答为什么快速生成代码并不会自动改善体验

下次让Agent改一个页面,除了检查组件能否渲染,团队还可以拿真实任务走一遍:网络慢时能不能继续操作,提交失败后能不能重试,用户按回退键会不会丢掉刚填的内容。页面在开发环境里看着正常,不等于这条路走得通。

别等AI写完,再临时找另一个AI挑错

主持人继续追问:AI能产出更多代码,质量是不是更难守住?肯特把问题往代码库里推了一步。一个老项目如果到处是过时写法和不清晰的边界,Agent会照着现有代码继续写。之后再加一道AI审查,可能只能反复清理同一种问题。

肯特:让AI审查员拦住烂代码是一回事;让Agent从一开始就不产出这些代码,是另一回事。后者需要把它工作的环境先整理好。

肯特比较“事后审查”与“从源头减少烂代码”

他把这套基础叫作`primitives`。

通俗讲,就是Agent在项目里现成可用、也容易用对的东西:稳定的组件和接口、清楚的错误处理方式、能跑起来的测试,以及一眼可见的代码惯例。整理这些东西很花工夫,但同一个项目里的下一次改动也会受益。

前端团队可以先挑一条高频流程来测试:例如登录或下单。让Agent照仓库现有方式改一处,然后记录它在哪一步猜错了状态、复用了哪个坏模式。修掉那处公共做法,比每次都在提示词里解释“这次千万别再犯”更有用。这是我们从访谈延伸出的实践建议,不是肯特给出的统一实施清单。

Agent能替人操作软件,界面还要不要做

聊到未来的前端,主持人担心:如果用户只需开口让Agent办事,网页会不会越来越不重要?肯特否认“界面已死”。

肯特:界面仍然重要。有时我就想按一个停止按钮,不想先对Agent说一句“现在停”。但查数据、执行一些重复操作,自然语言可能比一层层点页面方便。

肯特谈视觉界面不会消失

他设想,有些软件会同时提供两种入口:人可以直接看和操作界面,Agent也能通过API或MCP调用功能。

做前端的人不能只问“这个页面用什么框架写”,还要问用户什么时候需要看见、比较和控制,什么时候只想把事情交代出去。这是他谈界面去向时留下的一个具体问题,不等于所有产品都该把页面改成聊天框。

写在最后

肯特在访谈里说“框架不是重点”,并不是让开发者扔掉React。眼前的项目照样要维护,页面照样要有人做。他担心的是,工程师把“会写某套语法”当成工作的终点,等Agent也会写了,却没想过用户到底能不能把事办成。

访谈结束后,我记住的是那个没法完成的订单。代码生成得再快,用户如果仍卡在提交按钮前,前端工作就还没做完。

参考链接:

跳转微信打开

哈佛教授:最容易受AI影响的,可能不是初级开发者,而是中间管理层!我解雇过拿模型答案交差的人

2026年11月4日 17:50

原创 姜篇 2026-11-04 17:50 日本

拉哈尼:有人拿“这是AI给我的”解释自己交出去的工作。我解雇过这样的人。

编辑 | 姜篇

Karim R. Lakhani:“I have fired people who have told me the AI gave me that.”

拉哈尼:有人拿“这是AI给我的”解释自己的工作。我解雇过这样的人。

哈佛商学院教授卡里姆·拉哈尼在访谈中直言工具能帮人完成任务,但他无法接受,人直接把结果交上来,却连好坏都没判断过。

一项研究观察了244名咨询顾问。有人边用AI边思考,有人把双方擅长的工作分开;还有一组人让AI从头做到尾,自己只做简单润色。最后这组人节省了动手的时间,也失去了从任务里学习的机会。

另一项研究发现,模型面对两件看似相近的任务,可能做好一件、做错另一件。更麻烦的是,它答错时也能讲得很有道理。

拉哈尼因此不相信模型的第一个答案,还会要求它先反驳自己。

聊到岗位,他不认为初级员工最先失业。比起敢于上手新工具的年轻人,他反倒担心不愿改变的中间管理层。他甚至设想:如果AI让团队提交的PR数量翻倍,人工审查很快会跟不上。

开发者把更多工作交给Agent后,这个问题已经不远。

拉哈尼谈有人拿“AI给我的”解释工作结果

以下根据访谈内容和拉哈尼提及的研究整理。

244名顾问中,27%是“放手型”:活交给AI,自己学得最少

主持人先问拉哈尼:使用AI,为什么有人越用越熟练,有人却开始依赖它?

拉哈尼把在BCG研究中观察到的使用方式分成三类。“协作型”会和模型来回讨论,一起寻找解法;“分工型”知道自己擅长什么、AI擅长什么,分配任务后再回来监督;“放手型”把整项任务交出去,等答案出现。

拉哈尼:分工型的人会说,“这部分我更懂,那部分交给AI做”,但回来以后仍会检查。放手型的人只是按下开始键。论学习效果,最后这一组最差,因为他们不再参与思考和解决问题。

拉哈尼解释“放手型”使用者为何容易停止学习

研究记录的244名顾问里,约27%属于“放手型”。

拉哈尼自己更在意这种工作状态:一个人如果只负责把AI的输出搬到交付物里,还能从哪一步积累经验?

协作型与分工型同样把工作交给AI,区别在于他们仍会追问、挑选和检查。模型升级以后,原先的分工也得跟着调整;一直把AI当成只会做某类小任务的工具,同样可能落后。

两件差不多的任务,AI可能只做对一件

主持人拿出“锯齿状能力边界”的图问:普通人能不能提前看出哪项任务适合AI?拉哈尼说,研究团队起初也以为模型会做好顾问的大部分工作,实验结果却没有那么整齐。

拉哈尼:做完实验才发现,有些顾问任务AI做得好,有些就做不好。棘手的是,我们拿到的是一种不完美的智能,可它说话很流利,也很有说服力。

拉哈尼谈模型对相近任务也可能表现不同

另一项实验把这种差异测了出来:在大模型擅长的咨询任务上,使用AI的人完成得更快;换到超出其能力范围的任务,使用AI反而降低了得出正确答案的概率。这与前面244名顾问的使用方式研究不是同一项实验。

主持人提醒拉哈尼,新模型上线,过去划好的边界又会移动。他承认这很难:只能持续把真实任务交给新模型试,留意它在哪里失手,而不是凭一次顺利的结果相信它从此都能做好。

你指出它错了,它可能把错误解释得更漂亮

访谈接着聊到一项更让人头疼的发现。主持人提到,顾问质疑AI的答案时,模型有时没有认真退回去检查,反而给出了更强硬、更完整的论证。

拉哈尼点头。他认为人容易被这种流畅表达欺骗,尤其在自己本来就不熟悉的问题上。

拉哈尼谈模型不完美却很会表达

哈佛商学院相关研究发现,研究团队查看了72名BCG顾问验证AI答案时留下的近5000次提示。

模型被追问后,有时会拿出更能让人信服的说法,顾问也可能因此停止核查。这是特定实验里的现象,不能推成所有模型都会在被质疑时“嘴硬”。

主持人问,既然模型会这样诡辩,日常工作怎么防范?

拉哈尼:别让AI只负责支持你的想法。先请它指出你的问题可能问错了什么,找出反面证据,再要求它交代哪些判断没有可靠依据。

拉哈尼:我会让它先提出反对意见。如果有一份方案摆在面前,就请它找出几个理由,说明这份方案为什么可能行不通;还要继续调查,找可能被我们漏掉的危险信号。我从不直接接受第一个答案。

拉哈尼讲述自己怎样追问模型

他形容自己和模型的关系有一点“对抗”:模型要敢反驳他,他也要敢反驳模型。

对开发者来说,让Agent质疑自己的修复方案可以帮助发现遗漏;最后仍得回到可检查的证据,例如失败路径是否被测试覆盖、改动有没有碰到旧接口。模型第二次说“我检查过了”,本身不算检查结果。

一个人能做整个产品,也可能只拿到“平均方案”

主持人又提到一种新用法:给模型数据和工具权限,它能自己挑分析方法、安排步骤。既然模型越来越会做决定,人还需要盯着它选了什么吗?

拉哈尼说需要。他担心模型会挑一种常见、平稳的办法,而不是最适合眼前问题的办法。自己做了20年研究、受过5年博士训练,他仍会遇到这种情况:让模型从几种回归方法中选择,它挑出的不一定适合那份数据。

拉哈尼:如果让模型自行决定方法,而你不看它选了什么,它可能给你一个平均做法。平均做法对这个具体任务,未必够好。

拉哈尼解释模型自主选方法时可能落入“平均方案”

他把话题引到“一人产品团队”:工程师借助AI可以做页面、访谈用户、写测试,不再只管代码。但一个人能产出设计稿,不等于已经知道什么设计适合产品。他说自己的女儿学了四年工业设计,对产品的判断就比自己强;模型能很快给出一版看起来不错的设计,却未必给得出这个团队真正需要的那一版。

主持人追问:如果一个人原本不懂设计,怎么判断模型交来的是一流作品,还是一份中等水准的拼接?

拉哈尼的回答是先补一点该领域的基本知识,知道有哪些方案和取舍,再决定让模型往哪个方向做。工具扩大了一个人的工作范围,也把更多学习责任推回给这个人。

新人还要不要练基本功?他让900名MBA学生亲手做项目

这就引出了主持人的下一个问题:基础任务被AI接走,新人从哪里学会判断好坏?拉哈尼说自己也没有现成答案,但他借用了一个学积分的例子。

拉哈尼:最开始,你得亲手做几道积分题,弄懂它是怎样算出来的。后面几十道、上百道重复题,可以让机器去做。你再观察机器处理不同题目的规律,而不是永远重复同一种练习。

这不是要求新人先关掉AI苦练几年。

先建立能看懂结果的底子,再利用机器扩大练习和观察的范围,是他在访谈里给出的顺序。

拉哈尼还谈了自己参与的哈佛商学院AI必修课。课程内容每年都得改,单靠读案例已经跟不上模型变化。于是他们取消了原来的期末考试,让约900名MBA学生动手做项目。他说,下一轮课程还计划让学生构建检索增强应用、做模型评测、尝试多Agent系统,用AI解决真实的商业问题。

拉哈尼:我们不能在商学院里只谈AI,却不让学生真正去做。只有亲手构建,才会知道这些工具能完成什么、在哪些地方做不到。

拉哈尼介绍哈佛商学院约900名MBA学生的AI项目实践

他把“学会学习”看得很重。模型可以解释概念、换一种讲法、随时提问,学生也可以更快做出作品;但如果作业只剩复制和粘贴,人就没有机会弄明白自己到底会了什么。

经理以为团队在用AI,自己却没碰过它

拉哈尼在给企业高管做训练时,也见过另一种落差。

管理者说公司已经在用AI,真让他们围绕自己的工作动手做一个应用,阻力却很大。他不愿他们做一个与业务无关的小玩具,而是让负责生产、运营的人拿自己头疼的事来试。

他回忆,把一些高管放到电脑前约90分钟,情况会突然变化:有人发现,自己催了IT部门好几年的一个需求,竟然可以先做出可运行的原型。另一个变化是管理者终于明白,自己没有亲手试过工具,就很难判断团队哪些工作该改变。

拉哈尼转述高管亲手试用AI后,对多年未解决需求的反应

访谈谈到2030年的岗位时,他也不肯对“初级员工先失业”下定论。

他明确表示,初级工作是否已经被自动化,这个问题远没有定论。自己观察到的年轻人敢用AI做东西;一些中间管理层反而因为熟悉旧流程,不愿改变。

拉哈尼:从我看到的公司内部情况看,中间管理层可能比初级员工面临更大的风险。但这不意味着每个新人都安全。如果你的工作只是复制模型输出,这样的岗位确实很难保住。

拉哈尼强调“初级工作最先被自动化”尚无定论,中间层风险是他的观察与判断

他没有拿出一项证明“中层比新人更容易失业”的岗位统计。这个判断来自他在企业里的观察,不能被写成就业市场的既定趋势。采访中更确定的一点是:一个人处在什么级别,并不能代替他亲自理解新工具。

PR真要翻倍,人工审查还看得过来吗

访谈后半段,主持人问:AI让每个人产出更多东西,接下来谁有时间看完?拉哈尼立刻拿软件开发举例。

拉哈尼:假设团队能提交的PR数量一下翻倍,人工审查很快就会跟不上。模型可以继续帮忙审查,但那时人要做什么?这个问题我还没有答案。

拉哈尼设想PR数量上升后,人工审查可能成为新的卡点

让另一个模型审PR,也许能筛掉不少错误;但是当生成和审查都加快,团队得重新决定哪些改动可以自动过,哪些改动必须有人看,以及看的人究竟对什么负责。拉哈尼在访谈中提出了问题,没有声称找到一套可以直接照搬的审查制度。

他研究软件行业并非偶然。上世纪90年代末,他最初想弄明白:开发者明明能拿高薪,为什么还有人愿意为开源项目无偿写代码?他发现,人并非只为报酬工作,也会享受解决问题本身。

如今AI接手更多编码任务,他反过来问:如果人喜欢的那部分工作也被拿走,只剩管理Agent,这份工作对人还有没有意义?

写在最后

主持人最后问,如果下一代模型越来越强,公司怎样判断自己是在做有价值的产品,还是只给模型套了一层界面。拉哈尼说,他还不知道完整答案。但他坚持一件事:领导者不能把这个判断外包给别人,自己必须动手理解模型能做什么。

这也是这场访谈留给开发者的落点。AI会继续写更多代码、给出更多方案,甚至审查另一台AI的改动。工作可以交出去,判断却不能只靠“模型说没问题”。

参考链接:

跳转微信打开

程序员正迎来40年一遇的机会!前Arm工程师:AI会写代码了,让项目一直改得动才是难题

2026年11月3日 17:33

原创 姜篇 2026-11-03 17:33 日本

Chavdar Yotov:这是过去40年里,软件工程师遇到的最大机会。

编辑 | 姜篇

Chavdar Yotov:这是过去40年里,软件工程师遇到的最大机会。

说这句话的是Chavdar Yotov。他自己做了15年软件开发,其中12年在Arm,从初级工程师做到高级经理,后来还担任过AI总监。

在Arm时,他一直觉得自己走在前面。直到出来找工作,招聘信息上出现了一串他看不懂的技术名词。

熟悉的工具在以前的公司里仍然好用,外面的软件行业却已经换了样子。如今AI又把开发工具改了一轮,但他反而觉得开发者的机会来了。

Yotov说的机会,就在“做出来”与“继续做下去”之间。

Agent能写代码,但它未必知道旧需求藏在哪份工单里、哪些模块不能随意改、交出的结果该怎样验收。这些问题还没有现成答案。

Yotov接触过一位独立开发者。他借助AI,一个人把项目做到了很大的规模。但是麻烦出现了:以前几秒钟能完成的小修改,现在可能要花几个小时;这处修好了,另一处又坏了。AI能帮一个人迅速做出软件,但是后续的修改和维护是一个很大的问题。

更让人好奇的是Yotov自己的做法。

他说,自己现在已经很少逐行读代码。一个见过AI把项目越改越乱的工程师,为什么敢减少亲自看代码的时间?他花了几个月搭起一套工作流程:让Agent先弄清项目背景,再限定各自能改的范围,最后检查实际运行的结果。

它让“程序员迎来机会”不再只是一句口号:代码写得更快之后,怎样让一个项目在下一次需求到来时仍然可以修改?Yotov用自己的经历,讲了他正在尝试的办法。

Yotov称,软件工程师正遇到“过去40年里最大的机会”

以下是按照视频内容进行整理。

在Arm一路晋升,出门找工作却被技术栈难住

他在Arm待了12年。职位从初级工程师一路升上去,技术也一直围绕手头的工作更新。

换工作时,他才发现和以前并不是一回事:公司内部仍在使用的语言和工具,在外面的招聘市场可能已经不再吃香;Web应用和JavaScript生态,他也得重新学习。

Yotov:在Arm的那12年,我觉得自己一直处于最好的状态。等我开始找下一份工作,才意识到外面的技术已经走了很远。有些招聘要求上的名词,我甚至得先去搜索它是什么意思。

Yotov回忆在Arm工作12年后,求职时发现自己与外部技术变化脱节

这段经历并不是说明“资深工程师没用了”。

在他看来,AI带来的新问题还没有成熟的标准答案。你很难像过去排查常见报错那样,打开Stack Overflow就找到一篇完全对口的解决方案。先把新问题摸透、做出可用办法的人,会有机会。

他接下来讲的客户项目,说明了问题究竟是什么样。

一个人把项目做大了,小改动却越来越难

他正在接触的一位客户,以独立开发者的身份做出了一个规模不小的项目。Yotov用自己所在的20多人团队作比较,形容这个项目已经相当庞大。

可项目越往后做,问题越多,过去很快能改完的地方,现在可能要花几小时;改好了这一处,另一处又坏了。

Yotov:以前几秒钟就能做的小修改,现在会花上几个小时,而且常常把系统里别的地方弄坏。

Yotov描述一位独立开发者的项目越做越大,后续修改却愈发困难

他把其中一个原因称为“上下文腐烂”:任务越长,塞给模型的代码、日志和要求越多,模型越可能抓不住当下真正相关的约束。

开发者不必记这个术语,想想接手陌生仓库时的情形就明白了:只看眼前的函数,你不知道旧接口为什么还在,也不知道隔壁服务是否依赖它;把整个仓库一股脑交给Agent,它也未必能自己找准重点。

他先让一个Agent找资料,再让别的Agent改代码

Yotov没有靠写一份更长的提示词解决问题。他把工单、Confluence文档、会议记录,以及过去处理任务时发现的约束收进项目知识库。需要动手时,一个被他称为“scout agent”的Agent先去找相关资料,执行任务的模型再据此判断要改什么。

Yotov:我做了一个侦察Agent。它会从工单、Confluence等资料里找出当前任务需要的信息,在模型需要更多背景时把这些内容取回来。

Yotov讲述如何用侦察Agent从项目知识库中取回相关信息

他还尽量把项目拆成边界清楚、通过简单接口协作的服务,并限定不同Agent各自负责的部分。假设四个模块都要适配一次接口变化,模型为了尽快让测试通过,可能在中间塞一层“大家都能用”的捷径,最后反倒打乱原来的分工。他不想让一个Agent同时捧着整个仓库、替所有模块作决定。

Yotov:参与构建的每个Agent,都有自己负责的代码区域;它们不去碰彼此的工作。

Yotov介绍把代码库分成相对独立的部分,再给Agent划定工作范围

这也是为什么“测试通过”在他这里还不够:测试能检查这次修改有没有满足写出来的要求,却不会替团队判断一个模块是不是被改得越来越难维护。

少看代码的代价,是需要花更多精力检查结果

说完这些,他抛出了视频里最容易引起争论的一句:自己现在已经很少去读Agent写下的代码。

Yotov:我现在大体上已经不怎么读代码了。我花了几个月搭建工具和流程,才慢慢对它们的输出建立信心。

Yotov谈自己的代码阅读习惯变化,并解释这份信任来自逐步搭建的工作流程

他举了一个正在做的界面项目:给Agent安排专门的流程,让它打开Chrome检查页面,发现错误后继续修,再交出PR。

起初他会亲自检查结果;连续看到几次符合预期后,就不再逐个重复相同的手工检查。

这里仍有一个需要开发者们自己掂量的地方:前三次符合预期,不能证明后续每次都可靠。尤其当代码会处理真实用户数据、支付或权限时,浏览器里看起来正常,但也不能代替必要的审查与上线验证。Yotov展示了这一做法,同时也留下了它尚未证明的边界。

Yotov讲述让Agent用Chrome检查界面、发现问题后继续修改的流程

机会不在多生成几页代码,而在解决自己项目里的难题

讲到最后,Yotov把“机会”落回到工程师手上。他建议开发者建立针对自己任务的评测:同一个工具,在你的项目里能否找对资料、守住模块边界、交出能用的改动?通用榜单不会替你回答这些问题。

Yotov:比什么都重要的,是建立自己的评测,看看工具交出的结果是不是你真正需要的结果,而不只看别人做的通用评测。

Yotov建议开发者用自身工作中的任务评估工具,而非只依赖通用结果

他也看好能改造的开源Agent工具,以及服务具体行业、具体团队的工作流程。这是他根据个人项目和客户经历作出的判断。对仍在团队里工作的开发者,一个更小的起点也成立:挑出反复出现、又总要人补背景的任务,看看资料缺在哪里、Agent容易越过哪条边界、结果该怎样验收。

他在Arm的那次求职,提醒他一家公司内部的熟练,不等于了解整个行业。现在他提出“40年一遇”,原因恰好是许多办法还没定型。会用工具的人越来越多;谁能让它在一个真实项目里持续把事情做好,仍需要有人亲自试出来。

开发者:机会是有了,岗位和兴趣怎么办

视频下方,有网友认同他所说的新机会,却问了一句很实在的话:机会很多,谁会付钱让工程师去追?也有人说,工程师担心的未必是AI本身,而是管理层不懂技术,却急着拿AI替换人。
另一位开发者提到,自己喜欢编程、打磨代码;如果连代码都不看,工作里最喜欢的部分也可能消失。

写在最后

Yotov说自己现在很少读代码,最容易被记住的是这半句话。但他花了几个月搭流程、检查结果,才敢把一部分工作交给Agent。省下逐行看代码的时间,不等于省掉判断。

他在Arm工作12年后才发现,自己熟悉的技术和外面的需求已经有了距离。今天用Agent也可能如此:代码生成得很快,开发者却未必知道它改动了哪些约束,下一次需求来了还能不能接着改。

“40年一遇”的机会是否属于每个人,现在没人能保证。至少可以从手上的项目开始试:找一项反复出现的任务,看看Agent在哪里找错资料、改错范围,或者交出了能运行却难以维护的代码。把这些问题弄明白,比多生成几页代码更接近Yotov说的那种机会。

参考链接:

跳转微信打开

❌