铃阅
❌

阅读视图

超17.3万人联名“逼宫”,马斯克带头签名!曝黄仁勋正考虑重返英伟达:硅谷高管组建「作战室」,白宫却要求“大换血”

奇点折射 2026-11-16 17:27 江苏

黄仁勋辞职还不到 5 天,硅谷就已经坐不住了。

整理 | 郑丽媛

出品 | CSDN(ID:CSDNnews)

黄仁勋辞职还不到 5 天,硅谷就已经坐不住了。

一封要求英伟达重新请回黄仁勋的公开联名信,迅速吸引了超过 17 万人参与。特斯拉和 SpaceX CEO 埃隆·马斯克、Epic Games 创始人兼 CEO Tim Sweeney、Y Combinator 总裁Garry Tan等科技圈大佬也纷纷加入。

截至发稿,专门为这场行动建立的联名网站「Stand with Jensen」累计签名已达到 17.3 万人。其中,网站统计有 8705 名自称英伟达现任员工的签署者,占公司约 4.2 万名员工的 20.73%。

图片

与此同时,据悉黄仁勋本人也被曝正在考虑重新出任 CEO。支持者甚至准备组建由硅谷高管组成的「作战室」,向英伟达董事会施压,并尝试争取白宫支持。

图片

17.3 万人联名,8700 多名英伟达员工公开站队

事情要从 11 月 12 日说起。

当晚,黄仁勋宣布辞去英伟达 CEO 职务,结束了长达 33 年的掌舵生涯。消息传出后,不少英伟达员工对此感到意外,很快,一场要求董事会重新考虑这一决定的行动就在网上展开。

一个名为「Stand with Jensen」的网站随之出现,专门发布致英伟达董事会的公开信,并收集现任及前任员工、合作伙伴、股东和其他支持者的签名。

根据 11 月 16 日的页面数据,该网站累计签名已超 17.3 万人。其中最引人关注的,是网站单独统计的英伟达员工数据:8705 人自称是英伟达现任员工,占公司约 4.2 万名员工的 20.73%。

图片

不仅如此,网站还进一步按照职级展示了这些员工的分布,包括 26 名高级副总裁或副总裁、58 名高级总监、139 名总监,以及 427 名高级经理或经理。还有超过 2200 名签署者自报属于 IC1、IC2 等初级个人贡献者职级。

也就是说,声援黄仁勋的并不只有普通员工,部分管理层和资深技术人员也参与其中。

除了英伟达员工,签名者的阵容同样相当豪华:特斯拉和 SpaceX CEO 埃隆·马斯克、Epic Games 创始人兼 CEO Tim Sweeney、Y Combinator 总裁Garry Tan,以及 Replit CEO Amjad Masad等人均出现在名单中。

图片

Atoms CEO、Uber 联合创始人 Travis Kalanick 还在联名信网站上留下了自己的支持理由:黄仁勋确实犯了错,但“人都会犯错”,这些行为还不足以让他与自己一手创立的公司彻底分道扬镳。

图片

联名信提出三项要求:不仅是把黄仁勋请回来

这封公开信真正值得关注的,其实不只是签名人数,而是它向英伟达董事会提出的三项具体要求:

  • 首先,要求恢复黄仁勋的 CEO 职务。联名者希望董事会在独立调查查明事实之前,先让黄仁勋回归。如果董事会认为他继续离开公司更符合英伟达利益,就应该拿出具体、有证据支持的理由。

  • 其次,要求确保调查真正独立,并给予黄仁勋公平的申辩机会。签署者希望董事会公开调查范围、独立性和预计时间表,让黄仁勋能在最终决定作出之前充分回应相关指控。

  • 最后,要求董事会及时向公众解释决策过程,包括究竟存在哪些担忧、相关证据是什么,以及董事会如何权衡员工和股东的利益。

简而言之,整封信反复强调一个概念:Due Process,也就是「正当程序」。

联名者表示,33 年的领导经历并不意味着可以免受问责,但“问责需要真凭实据、公平的申辩与合理的决断”:面对质疑,黄仁勋理应享有正当的法律/合规程序,而不是被群情激愤的“舆论私刑”所淹没。

所以,这些支持者并不一定是在为黄仁勋的个人行为辩护,只是希望董事会不要在调查尚未结束、事实尚未充分公开之前,就作出不可逆的决定。不过该网站也补充,这是一场独立的志愿者行动,与英伟达或黄仁勋本人均不存在官方关联,签署者的身份和所属机构都是自行申报的。

图片

黄仁勋也想回来?硅谷高管组建「作战室」,白宫却要“大换血”

值得一提的是,不仅英伟达员工和科技圈大佬忙着声援,黄仁勋本人的态度也出现了新变化。

据《金融时报》报道,多位知情人士透露,黄仁勋已经与亲信讨论了重返英伟达 CEO 职位的可能性。一名与他关系密切的人士表示,他们正在筹建一个由硅谷高管组成的「作战室」(War Room),准备游说英伟达董事会重新任命黄仁勋,并尝试争取白宫方面的支持。

这名人士还表示:“在科技行业,除了那些前沿研究实验室之外,所有真正有影响力的人都喜欢黄仁勋。”——他同时透露,这场游说行动得到了黄仁勋本人的支持。

除此之外,投资者也在推动这件事。11 月 13 日,英伟达两位重要股东,Altimeter Capital 创始人Brad Gerstner和 Atreides Management 负责人Gavin Baker,共同致信董事会,要求不要排除任何可能性,包括黄仁勋回归。

不过,与硅谷的热情挽留相比,美国政府高层的态度明显冷淡得多。

11 月 15 日,美国财政部长 Scott Bessent 在接受福克斯新闻采访时,明确表示英伟达应该从公司外部寻找下一任 CEO。他直言,考虑到公司内部发生的事情,英伟达需要一次“大幅度的领导层调整”(dramatic shake-up)。不仅如此,他还要求英伟达解释,公司内部是否真正建立了遵守美国出口限制的合规机制,并表示希望在未来 10 天内得到答复。

与此同时,美国政府也已要求黄仁勋及英伟达相关高管出席国会听证会,解释其婚外情事件是否影响美国国家安全。黄仁勋及其他英伟达高管已同意作证,但具体日期尚未确定。

图片

接班人选已浮现,黄仁勋是否还可能“复出”?

事实上,在黄仁勋辞职后,英伟达董事会已开始考虑接班问题:据《金融时报》此前报道,董事会已经接触英国芯片设计公司 Arm CEO Rene Haas,探讨其接任英伟达 CEO 的可能性。

据了解,Rene Haas曾在英伟达工作七年,后来加入 Arm,并逐步升任 CEO。相比完全不了解英伟达业务的外部候选人,他对公司的技术和产业生态都相当熟悉。

目前,英伟达由 CFO Colette Kress担任临时 CEO,董事会还聘请了外部律师事务所 Wachtell, Lipton, Rosen & Katz,对黄仁勋相关行为展开独立调查。

而接下来,英伟达董事会究竟会顶住压力让黄仁勋回归,还是坚持寻找新任 CEO?恐怕要等独立调查和国会质询有了进一步结果,才会逐渐明朗——毕竟,那 17.3 万人的联名信可以表达支持,却不能替董事会回答那些关于企业治理和国家安全的问题。

参考链接:

https://www.reuters.com/world/china/jensen-huang-discusses-comeback-nvidia-ceo-with-allies-ft-reports-2026-11-15/

https://standwithjensen.com/?lang=zh-Hans#letter

图片

黄仁勋卸任后的AI生态和算力格局走向何方? 李建忠带你拆解英伟达生态战略,把脉AI产业新格局!

黄仁勋卸任!属于直觉和个人英雄主义的两个十年:06强推CUDA,16押注AI, 26黯然离场

黄仁勋卸任后的 AI 生态和算力格局走向何方? 11 月 16 日即今晚 8 点,CSDN 高级副总裁、奇点智能研究院院长李建忠将在「奇点折射」与「李建忠研思」视频号带来《后黄仁勋时代的 AI 与算力新格局》主题直播。这场直播将尝试回答英伟达进入「后黄仁勋时代」之后,产业最关心的四大问题。

图片

跳转微信打开

  •  

DeepSeek开源昇腾组件工程实践:算力利用率最高99.8%,从算子库走向超节点与云训推平台,4位华为专家现场拆解

奇点折射 2026-11-16 17:27 江苏

DeepSeek 与昇腾完成适配后,如何让整个生态更高效、更易用?

9 月 30 日,DeepSeek 正式开源面向昇腾平台的基础设施组件。此次开源不只是增加一个模型适配脚本,而是把 DeepGEMM、FlashMLA、TileKernels、DeepSelect、DeepEP 等高性能算子库和分布式通信库带到昇腾平台,覆盖矩阵计算、稀疏注意力、Top-K 筛选和 MoE 专家并行通信等大模型训推关键环节。

公开测试中,DeepGEMM 在部分矩阵计算场景下可将昇腾 950 超节点的算力利用率提升至 98.3%—99.8%。FlashMLA 在特定测试条件下,Prefill 和 Decode 阶段分别发挥出 93% 和 85% 的硬件性能。DeepSelect 相比原生 torch.topk 的平均加速超过 10 倍。

这些数字背后释放出一个值得关注的信号:

DeepSeek 与昇腾的结合,正在从“模型能否运行”的兼容适配走向算子、通信、超节点和云上训推平台的全栈协同。

11 月 21 日,2026 奇点智能技术大会将特别设置「昇腾云训推平台算力开源生态实践专场」。来自华为与华为云的一线技术专家,将围绕 DeepSeek 开源昇腾基础组件、昇腾超节点、云训练 Infra、推理 PaaS 以及 AI Coding 全栈加速展开分享,呈现一条从芯片软件生态到云端训推平台的完整工程路径。

DeepSeek 与昇腾完成适配后,如何让整个生态更高效、更易用?

模型适配往往只是一次工程工作的开始。

如果基础组件缺乏统一接口,模型、框架与芯片之间仍然需要大量重复开发。如果性能优化只能依赖少数专家,普通开发者很难快速使用。如果项目之间无法复用经验,每部署一个新模型都可能重新走一遍适配流程。

华为 AI 工程师朱逸君将带来《DeepSeek 开源昇腾组件工程实践与生态共建》。分享将介绍 DeepSeek 官方开源昇腾基础组件的建设背景与技术实践,并讨论模型社区与昇腾如何通过开放协作,降低开发和适配门槛,推动国产 AI 芯片软件生态从单点项目走向能力复用与持续演进。

从单卡到超节点,算力规模扩大后为什么不能只是简单堆卡?

大模型参数规模和训练任务复杂度持续增长,单卡能力已经无法独立支撑越来越庞大的训推需求。

但把更多加速卡连接起来,并不意味着性能能够线性提升。计算、内存、通信、互联与任务调度之间的任何一个瓶颈,都可能让昂贵的算力资源陷入等待。

昇腾超节点架构师徐晓忻将带来《昇腾超节点系统架构解析》。分享将从系统架构视角介绍昇腾超节点的设计思路,帮助参会者理解超节点如何组织计算、存储与互联资源,以及这种架构将如何影响大模型训练、推理和集群扩展。

如果你正在关注大规模 AI 集群建设、分布式训练、算力资源调度或国产超节点架构,这场分享能够帮助你从“单卡性能”进一步走向“系统级算力效率”。

训练任务跑几天甚至几周,如何保证算力不因一次故障全部浪费?

大模型训练不仅需要高性能,更需要可靠性。

当训练规模扩大,节点异常、通信抖动、任务中断、资源争抢和恢复效率都会直接影响训练周期。一次故障可能意味着数小时甚至更长时间的计算结果被浪费。

因此,训练 Infra 的价值不只是把任务提交到集群,而是让算力能够被稳定调度,让故障可以被快速发现,让任务可以持续推进。

华为云 AI 训练服务高级架构师赵登科将带来《构建高效可靠的昇腾云训练 Infra》。分享将围绕云上大模型训练所需的基础设施能力展开,讨论如何兼顾训练效率、任务可靠性与资源利用率,并呈现昇腾云训练平台在规模化任务中的工程实践。

对于负责大模型训练平台、分布式系统、集群稳定性和云上算力管理的技术团队,这场分享将提供一套更加接近真实生产环境的观察视角。

AI Coding 请求量快速增长,推理平台如何接住高并发与复杂工作负载?

AI Coding 正在推动推理工作负载发生变化。

一次代码生成任务可能包含长上下文理解、代码仓库检索、多轮推理、工具调用和结果验证。随着企业研发团队开始大规模使用 AI Coding,推理平台不仅要回答得快,还要面对吞吐、时延、资源调度与服务稳定性等一系列问题。

ModelArts 高级技术专家杨增印带来的《面向 AI Coding 领域的推理全栈加速系统》。将聚焦 AI Coding 场景下的推理需求,介绍昇腾云推理 PaaS 开放平台如何从系统层面支撑模型服务,并通过全栈协同提升推理效率。

如果你正在搭建企业级 AI Coding 平台、模型服务平台或推理基础设施,这场分享将帮助你理解,从模型上线到规模化服务之间,还需要哪些平台能力。开源生态如何转化为昇腾云算力的核心竞争力?

完成单点技术优化还不够。

一个具有持续生命力的算力生态,需要模型、芯片、框架、平台、开发者和企业用户共同参与。开源组件如何形成协作网络,云训推平台如何承接生态成果,国产 AI 算力又该如何建立差异化竞争力,都是行业正在面对的重要问题。

在圆桌对话《开源聚势,智算未来——探讨昇腾云开源生态发展与核心竞争力》中,嘉宾将进一步围绕以下问题展开交流:

  • 开源对国产 AI 算力生态意味着什么

  • 模型社区与算力平台应该如何共同建设基础组件

  • 昇腾云如何降低企业使用国产算力的工程门槛

  • 从单点适配走向规模化生产,还缺少哪些关键能力

  • 国产训推平台未来的核心竞争力将来自哪里

这不仅是一场关于昇腾技术的分享,也是一次围绕模型、算力、平台与开源生态协同关系的集中讨论。欢迎大家积极报名参与。

前 100 名可免费参加,名额满即止

本次「昇腾云训推平台算力开源生态实践专场」将向前 100 名报名用户提供专属参会名额,入选用户可免票参加原价值 1500 元的奇点智能技术大会部分专场议程。

需要说明的是,该权益仅适用于本次指定专场及开放议程,不等同于奇点智能技术大会全通票,也不包含其他付费门票权益。

图片

现场席位有限,名额满即止。

感兴趣的开发者、架构师与企业技术负责人,请尽快完成报名。

DeepSeek 已经打开了模型能力的大门,接下来决定这些能力能否规模化落地的,将是芯片、基础组件、超节点、训推平台与开源生态之间的系统协作。

11 月 21 日,北京见。

阅读原文

跳转微信打开

  •  

黄仁勋卸任!属于直觉和个人英雄主义的两个十年:06强推CUDA,16押注AI, 26黯然离场

原创 CSDN 2026-11-13 07:00 北京

十年面壁,十年磨剑,一朝清算

文 | 王启隆

出品丨奇点折射(ID:rgznai100)

北京时间 11 月 12 日深夜,英伟达发出官方声明:创始人兼首席执行官黄仁勋即刻辞去总裁、CEO 以及董事会成员的所有职务。

首席财务官科莱特·克雷斯(Colette Kress)临时接管日常运营,前 EDA 巨头 Synopsys 掌门人哈维·琼斯(Harvey Jones)出任英伟达创立三十三年以来的首任独立董事长。

2006 年,他顶着华尔街的唾骂把公司财报砸向看不到未来的 CUDA;2016 年,他亲手把第一台 AI 超算送进 OpenAI 的大门。在整整二十年里,黄仁勋用一种几近独裁的扁平化结构,把英伟达变成了一个无人能敌的算力神话。但在 2026 年的深秋,这个神话的主角以一种最出人意料的方式黯然退场。

当聚光灯散去,留下的真空正在被疯狂填补:开源世界的集体叹息、Anthropic 在万亿 IPO 前夜对 CUDA 的致命背刺、以及消费者在显卡涨价潮中的绝望哀鸣。

在等待英伟达最新消息的时间里,我梳理了这场地震前后的暗牌。

当算力基建从狂热的预训练滑向精打细算的工程推理下半场,真正决定技术生死的硬仗才刚刚开局。

2026 奇点智能技术大会将于 11 月 20—21 日在北京举行,18 大前沿专题、70+ 一线技术嘉宾,拆解 AI Coding、Agent、Infra、多模态等真实落地路径。

📥 扫码免费领取大会 PPT 与 Agent 实战资料👇

一、 为什么是现在?

如果只看时间线,黄仁勋的离开显得极其仓促。

董事会甚至没有走完正式的投票罢免程序,而是直接以黄仁勋辞去所有职务的形式对外公布。

过去两周,外界最先关注的是地缘政治层面的风波。美国监管机构针对新加坡分销商 Megaspeed 违规转运管制芯片的调查被公开,涉事的前高管 Alice Huang 与黄仁勋存在个人关系。但在跨国企业的合规操作中,这类外部调查通常有一套漫长的应对流程:聘请外部律所介入、成立特别委员会自查、声明公司未泄露核心机密。甚至连特朗普在面对记者提问时,也公开表示黄仁勋是一个体面的人,认为他的状况会好起来。

随后,第二起内部关系被曝光了。

《纽约时报》披露,黄仁勋与直接向其单线汇报的英伟达全球医疗业务副总裁金伯利·鲍威尔(Kimberly Powell)存在长期的不正当关系,并且涉嫌在内部审计中进行掩盖。鲍威尔在英伟达工作了十八年,掌管着公司极具战略意义的医疗健康板块。

面对独立董事聘请的律所提交的调查报告,董事会的选择其实非常有限:如果不迅速完成人事切割,整个董事会都将面临失职与违背受信义务的法律风险。

这也解释了为什么黄仁勋无法复制去年底奥特曼重返 OpenAI,甚至是上世纪末乔布斯绝地翻盘的那种剧本。

2023 年奥特曼被非营利董事会罢免,本质上是一场关于 AI 商业化速度与技术安全的理念之争。奥特曼在管理层内部有布罗克曼和穆拉蒂等高管的强力支持,还有七百多名员工集体签署辞职信向董事会施压。

但黄仁勋这次面对的是职业行为准则的硬性红线。

即便职场匿名社交平台 Blind 的内部投票显示有 88% 的基层员工支持他留任,这种民意也无法转化为制度上的抗衡力量。在明确的内部违规事实面前,没有哪位高管或员工能够站出来为这种行为组织制度性的抵抗。

二、 极度扁平的管理双刃剑

黄仁勋引以为傲的管理方式,在顺境时是效率的保障,在危机来临的那一刻却彻底孤立了他。

在过去多年里,英伟达一直维持着一种极其极端的组织架构。黄仁勋不设首席运营官,不设总裁,没有传统意义上的二号人物,而是让六十多位副总裁直接向他汇报。他主张信息应当以最扁平的方式流动,在全公司推行公开批评,任何员工都可以直接给他发邮件汇报最重要的工作。

这种战时体制让英伟达在过去三十年里完成了数次不可思议的掉头:

早年为世嘉开发游戏芯片时发现架构押错了微软的标准,他一个人飞到东京当面向对方社长承认错误,说服世嘉退回定金,救了濒死的英伟达;

2006 年决定研发 CUDA,面对连续数年研发投入侵蚀利润、华尔街频繁下调评级的压力,他一人飞遍全球举办开发者大会,硬生生把通用计算坚持到了深度学习爆发;

2010 年在移动芯片市场遭到高通的基带优势压制,他果断命令团队撤出智能手机市场,转去研发当时根本看不到盈利希望的车载芯片与机器人平台。

但这种依赖创始人个人威望与直觉的体制,其代价是组织内部缺乏任何横向的缓冲层。整家两万多人的跨国巨头,除了黄仁勋自己,没有任何人拥有全局战略的视野与决断权。

与此同时,英伟达的接班人问题也一直受到机构投资者的审视。

英伟达递交给美国证监会的官方文件中,其家庭成员在公司内部的任职情况逐渐引发讨论:

他的女儿麦迪逊(Madison),在早年学习厨艺并从事奢侈品营销后加入英伟达,担任物理 AI 与 Omniverse 营销高级总监,年薪超过一百二十万美元;

他的儿子斯宾塞(Spencer),在台北经营酒吧并获得 MBA 学位后加入英伟达,担任机器人产品管理总监,负责关键的 Isaac 平台,年薪超过一百三十万美元;

他的女婿尼科·卡普雷兹(Nico Caprez),曾是一名职业高山滑雪运动员,加入英伟达后担任全球 AI 基础设施增长副总裁。

扁平化架构原本是为了提升效率,但在客观结果上,它让公司始终没有建立起常规的高管继任梯队,反而让直系亲属在核心的新兴赛道中占据了重要节点。当这颗唯一的超级大脑遭遇合规风险时,董事会甚至无法在内部找到一个能够顺理成章服众、拥有全面威望的技术接班人,只能依靠首席财务官临时顶上。

三、 开源社区的隐忧:失去一位万亿级护法者

在黄仁勋辞职的消息传出后,大洋彼岸的开源圈率先感受到了寒意。

打造了通义千问模型家族的前阿里开源技术负责人林俊旸在社交平台上留下了一个简短的词:crazy。

而放弃英伟达全职转正机会回国、主导了 DeepSeek 视觉模型研发的年轻学者潘梓正,也在社交网络上发出了叹息。

在硅谷几家万亿级科技巨头中,黄仁勋在开源闭源之争里其实是“站两边”的,他支持的是开源和闭源“共存”。

但我们的印象里,他总是力挺开源,第一次发推就说要“捍卫开源模型”。这就有点像“不帮助大雄就是在帮助胖虎”那个梗,当一边处于弱势,你再去端水反而是在拉偏架。

过去三年里,OpenAI 的奥特曼与 Anthropic 的阿莫代频繁前往华盛顿游说,极力强调大模型逃逸和失控的危险,呼吁政府对前沿模型推行牌照准入制,这在事实上构成了对开源社区的政策压制。

而黄仁勋在公开场合始终反对这种恐吓论调,他认为只要做好底层沙盒隔离,安全与能力完全可以在工程上统一。

更重要的是,英伟达是全球开源大模型最核心的算力资助者:

从 Meta 的 Llama 到国内的通义千问和 DeepSeek,其底层训练依赖的并行切分技术,绝大部分源自英伟达开源的 Megatron-LM;

今年秋天,英伟达以近一百三十亿美元全资收购了全球最大的开源模型集散地 Hugging Face,黄仁勋公开承诺 Hugging Face 将永远保持独立与中立,绝不强制绑定英伟达硬件;

为了支持开发者,英伟达不仅开源了物理世界模型 Cosmos,还免费开放了包含合成数据能力的 Nemotron 系列模型权重。

黄仁勋这么做,固然是因为开源模型越繁荣、自己卖出的芯片就越多。但对于中小开发者和开源团队来说,这位创始人的存在,是抵御闭源大厂游说政策的一道防线。

现在,临时接管英伟达的克雷斯是一位严格按财报指标行事的财务管理者,新任董事长哈维·琼斯则是芯片投资与并购老手。

面对华尔街对利润率和成本控制的严苛审视,每年在开源社区、开发者基金和 Hugging Face 运营上投入的大笔无直接营收资金,很可能会被重新评估甚至缩减。没有了创始人的偏执支持,英伟达的底层技术支持是否会全面转向肯支付高溢价的少数闭源巨头,成为了许多一线极客的现实担忧。

今年三月份跟进 GTC 大会,每年都有一个惯例环节,就是黄仁勋会选择一个主题,请一堆大佬开个圆桌。

前年还是 ChatAI 爆火,所以是请 Transformer 论文的八位作者齐聚(实际来了七个人);

去年,为了宣传当时的新产品还有量子计算、QPU 这些超前概念,所以搞了个玄而又玄的量子计算行业领袖圆桌;

今年的主题,是开源。

黄仁勋对话 10 位开源 AI 掌门人:未来算力将向后训练倾斜,OpenClaw 开启了现代计算机的新想象|GTC 2026

四、 Anthropic 的上市前夜

在舆论发酵的过程中,今年打造传奇开源 Agent 项目“小龙虾” OpenClaw 的创始人彼得·施泰因伯格(Peter Steinberger)公开发表了一段引发广泛讨论的评价:

今年三月的 GTC 大会上,黄仁勋曾把彼得邀到主会前的预热环节,并在 Keynote 上亲自向行业推介这个开源项目。

当时整理的演讲全文,现在看唏嘘无比:硅谷直击:黄仁勋入局龙虾大战,宣告 SaaS 已死,推理算力需求暴涨万倍!

他的这段话之所以引起共鸣,是因为许多技术从业者开始意识到,黄仁勋的离开,发生在一个极其微妙的产业竞争节点上。

就在黄仁勋深陷辞任危机的同一周,大伙儿都在骂一个人,或者说一家公司。

那就是达里奥·阿莫代(Dario Amodei)和他的 A 社 Anthropic。

关于 Claude,今年也是讨论极多。大伙儿对 Claude Code 爱不释手,同时也对它那些反人类的封号政策深恶痛绝,还有许多开发者朋友则是对 Anthropic 今年反复炒作 AI 安全问题,占用公共资源而反感。

所以我此前也一度很费解,黄仁勋这事的“幕后黑手”咋能扯到他们呢?

在对于如何让美国领先这件事上,达里奥和黄仁勋其实一直是完全相反的。一边认为要限制竞争对手获取技术,一边则是担心限制技术流通会有损美国的创新和生态。

而不久前,Anthropic 刚刚提交了修正后的招股书,计划以高达 1.4 万亿美元的估值推进首次公开募股。

在 Anthropic 的路演材料中,他们展示了一项极具针对性的技术进展:

团队利用自研模型,在短短三天内就将 Claude 模型的推理任务移植到了 AMD 的 Instinct MI355X 芯片上。

在过去,把一个超大规模模型从英伟达的 CUDA 生态迁移到其他芯片平台,通常需要工程师耗费数月甚至一年去重写底层算子。

Anthropic 借此向资本市场传递了一个极其明确的信号:英伟达构筑了二十年的 CUDA 软件壁垒,不再是无法逾越的护城河。

Anthropic 的 CEO 达里奥·阿莫代主张对前沿模型设立严格的监管红线与准入牌照,认为强大的模型可能会带来难以预测的安全后果;

黄仁勋则坚信技术应当普及,主张主权实体和企业应当依靠开源模型和通用硬件建立属于自己的技术底座。

在这个估值超过万亿美元的模型实验室即将挂牌的关键时刻,英伟达失去了一个在技术和政治舞台上都极具侵略性的掌舵人。这不仅削弱了英伟达对下游客户的强势议价权,也让原本处于劣势的替代芯片方案获得了更大的生存空间。

那个经典议题又浮现在了眼前:开源是不是等于不安全?

五、 玩家的现实算术题:GeForce 业务的隐形边缘化

对于普通电脑硬件爱好者来说,其实主要是广大游戏玩家而言,黄仁勋的离去引发了关于消费级显卡未来的普遍担忧。

在各大硬件讨论论坛上,不少玩家表达了悲观情绪。

尽管在过去几年里,玩家们经常抱怨显卡售价过高,今年笔记本电脑更是高到买不起,但大家也清楚黄仁勋毕竟是以三维游戏芯片起家的。无论数据中心业务占了多大比重,他在每年的发布会上依然会为 GeForce 显卡站台,甚至亲自给玩家的显卡签名。

而在纯粹的财务逻辑面前,消费级显卡正面临极其严峻的产能挤压。

目前英伟达的绝大部分收入来自数据中心,游戏业务在整体营收中的占比已经降至一成左右。

更现实的问题出在晶圆制造的产能分配上:

在先进制程产能极度紧缺的背景下,同样一片晶圆面积,如果用来做成售价一千多美元的消费级游戏显卡,其毛利率大约在 50% 到 60%;

如果把同样的面积拿来生产售价数万美元的数据中心 AI 芯片,其毛利率能够达到 80% 以上。

与此同时,供应链上游的元器件也在向企业级市场倾斜。由于大模型对高带宽内存的消耗极其庞大,显存芯片价格水涨船高。

OpenAI 的奥特曼此前在公开访谈中甚至直言,把稀缺的内存资源配置在普通个人电脑里是一种浪费,这些资源理应全数部署在数据中心内。

这句话自然是被全网狂喷,毕竟很多人看到这句话的时候,可能就是用着装载消费级显卡的设备。这不是说到自己头上了吗?

总之,消费级显卡的制造成本居高不下,部分厂商甚至不得不取消大容量显存版本的显卡生产计划。

硬件媒体 PCWorld 在分析中指出,随着英伟达管理层转向更加注重财务回报的团队,英伟达在未来个人计算领域的战略重心将变得更加模糊。当面对股东对每一分利润的极致索求时,那些利润相对微薄、制造极其占用宝贵产能的消费级显卡,被边缘化只是一个时间问题。

六、 从训练到推理

从更长远的技术周期来看,黄仁勋的退场恰好赶上了一个底层算力范式转移的临界点。

早在三年前,计算机科学家 Pete Warden 就曾发表过一篇影响深远的文章,分析为什么英伟达的技术垄断可能只是暂时的。

他的核心论点非常朴素:人工智能的算力消耗,终将从训练阶段走向推理阶段。

在模型训练阶段,算力消耗取决于全球研发人员的数量,这个群体是相对有限的。研发人员为了追求迭代速度,往往极度依赖英伟达成熟的 CUDA 工具链,哪怕芯片价格极其昂贵,企业也必须迁就研究人员的偏好。

但当模型进入实际落地和日常推理阶段,算力消耗将直接与全球数十亿终端用户的调用频次挂钩。在这个阶段,决定企业生死的不再是芯片的峰值性能,而是每一次调用的电费和边际成本。此时,研究人员的影响力开始下降,精打细算的工程部署团队开始掌握采购大权。

这也正是各大云计算巨头一直在暗中发力的方向。

微软的 Maia、亚马逊的 Trainium、Google 的 TPU 以及 Meta 的 MTIA,都是专门针对自身业务定制的专用集成电路(ASIC)。在过去,由于黄仁勋对先进显卡的配额分配拥有绝对的话语权,这些巨头为了确保能拿到紧俏的 GPU,不得不维持着与英伟达的合作默契。

但如今,随着这位强势的谈判对手离开,各大云服务商逃离英伟达硬件生态、加速部署自研芯片的步伐几乎必然会加快。当 AI 的竞争焦点从追求极致性能的模型训练,转向追求极致成本的工程推理时,原本牢不可破的通用 GPU 壁垒,本身就已经出现了松动的迹象。

七、 谁来穿上黑皮衣?

在临时管理团队接盘后,英伟达董事会当下面临的最棘手任务,是寻找一位能够长期统领这艘万亿巨轮的技术舵手。

半导体产业具有极高的专业壁垒,纯财务出身的临时 CEO 可以稳定几个季度的资本市场预期,但无法指引下一代芯片架构的演进。目前,外部猎头与董事会物色的名单上,主要集中了几个核心人选。

一个人选是伊恩·巴克(Ian Buck)。

作为英伟达超大规模与高性能计算副总裁,巴克在二十年前就是 CUDA 架构的联合发明人之一。

他是把通用计算技术从概念变为现实的核心功臣,在工程研发团队中享有极高的技术声誉。如果董事会希望延续技术正统并稳定庞大的工程师团队,他是最符合直觉的选择。但巴克的局限在于他长期深耕技术体系,从未在复杂的商业运转、资本博弈和全球公关中证明过自己的统治力。

正巧,今年 GTC 2026 的时候,我们 CSDN 除了报道了老黄的演讲和圆桌,也有幸由 CSDN 高级副总裁、奇点智能研究院院长李建忠采访了这位,内容还是非常精彩的:

李建忠对话CUDA之父Ian Buck: 复盘英伟达20年护城河,揭秘AI生态平台密码

另一位内部骨干是现任首席技术官迈克尔·卡根(Michael Kagan),他主导的高速网络技术是英伟达把数万张显卡并联成算力集群的技术基石。

而在外部候选人中,外网提了个人选是现任苹果公司首席硬件官约翰尼·斯鲁吉(Johny Srouji)。他曾带领团队主导了苹果自研芯片的全面替代,在个人电脑和移动端处理器上击败了英特尔的传统优势。

另一位外部人选则是 Arm 现任 CEO 勒内·哈斯(Rene Haas)。哈斯曾在英伟达工作过七年,既了解这家公司的独特文化,又具备带领一家大型半导体企业完成上市的完整商业履历。

但听上去都很离谱,毕竟这两位的职位太高了,反而是懂王的思路更有意思。

特朗普当晚在社交平台 Truth Social 上用他一贯的风格发了一条动态:

当然,也可能真就让管财务的科莱特·克雷斯一直接手下去。

除了接班人,辞职之后的黄仁勋将何去何从,成为了硅谷的另一个热门话题。

在社交网络上有财经账号呼吁马斯克招揽黄仁勋时,马斯克公开回复了简短的一句话:That would be an honor(那是我的荣幸)。

在硅谷历史上,类似的情节其实还真上演过。

2010 年惠普董事会以报销违规和作风问题开除了 CEO 马克·赫德,甲骨文创始人拉里·埃里森在公开指责惠普董事会愚蠢之后,迅速将赫德迎入甲骨文担任总裁,帮助甲骨文打下了一片新的软件江山。马斯克目前正在全力推进超级芯片制造与前沿模型训练,理论上与黄仁勋的技术专长有着很强的契合度。

即便不加入任何成熟公司,持有英伟达超过 3% 股份、个人资产依然有上千亿美元的黄仁勋,也完全有能力自己出资成立新的研发实体。就像当年乔布斯离开苹果后创立 NeXT 一样,脱离了上市公司季报压力和繁琐合规束缚的他,依然有可能在物理世界模型或具身智能领域展开新的探索。

不过眼下的现实依然复杂。美国司法部和证券监管机构对特定分销渠道合规问题的调查并不会因为他辞去职务而立刻画上句号。在未来的数月甚至一年时间里,应对法律程序和内部审计依然会占据他相当一部分精力。

八、一个技术英雄时代的收束

回顾英伟达三十三年的历史,三个跨越十年的节点在此时完成了一个奇特的循环:

2006 年,他赌上公司身家性命做 CUDA,面对外界的不解与资本的撤退,坚持通用计算是未来;

2016 年,他把全球第一台专为深度学习设计的超算亲手抬进旧金山那间普通的办公室,播下了如今大模型时代的火种;

2026 年,这家公司在欧洲巡回演讲的高峰期被推上全球市值的顶峰,却在短短两周之内因为公司治理问题迎来了创始人的离开。

两个十年。

在 10 月中旬那场最后的欧洲访谈中,面对主持人关于权力和公司架构的提问,黄仁勋曾留下过这样一段自述:

就像我随时可能被董事会解雇一样,下一任 CEO 也必须通过竞争来上岗。我很喜欢大家都不对自己在公司里的位置抱有虚妄的自满,你每时每刻都在争取属于自己的立足之地。

当时没有人想到,这句话会以如此迅速的方式照进现实。

那个允许极客十年面壁、允许创始人凭直觉飞往全球救火、允许技术教皇凭一己之力抗衡资本与政策周期的狂飙时代正在落幕。取而代之的,可能会是一个由严密审计、合规流程、职业经理人以及各方利益集团重新平衡的现代商业秩序。

教皇脱下了他的黑皮衣,而关于人工智能底层算力的真正竞争,才刚刚进入更冰冷、更庞大的下半场。

Reference:

  • NVIDIA Official Press Release: NVIDIA Announces CEO Transition

  • The Guardian: Nvidia CEO Jensen Huang Resigns Over Scandal and CFO Colette Kress Appointed Interim CEO

  • The New York Times & Business Insider: Nvidia Executive Kimberly Powell and the Investigation into Jensen Huang

  • Channel NewsAsia: What We Know About Megaspeed and the AI Chip Export Probe

  • Fortune: Nvidia Stock Plunges as Jensen Huang Steps Down Amid Governance Crisis

  • Forbes: Jensen Huang's Affair Puts a Spotlight on the Family Firm Hiding Inside Nvidia

  • Reuters: Who Would Be Next CEO at Nvidia? Top Engineer and CFO Favored Candidates

  • U.S. SEC Official Filing: NVIDIA 2026 Proxy Statement (DEF 14A)

  • TradingView / ChainCatcher: Ian Buck Leads Polymarket Odds for Next Nvidia CEO

  • MacRumors & AppleInsider: Apple Silicon Chief Johny Srouji Considered for Nvidia CEO

  • Pete Warden’s Engineering Blog: Why Nvidia's AI Supremacy is Only Temporary

  • TechPowerUp & IBTimes: Anthropic Porting Claude to AMD MI355X in Three Days and Memory Supply Squeeze

  • Business Insider: Elon Musk Responds to Call to Hire Jensen Huang ("That would be an honor")

  • CBC News: Anthropic $1.4 Trillion IPO Strategy and Market Realignment

写在最后:

我们是「奇点折射」,“跨越 AI 奇点,折射产业未来。”将外界复杂的“AI 强光”,真真切切地折射为清晰的未来产业格局与工程现实。

穿透迷雾,看清底牌。👇 欢迎关注「奇点折射」,并设为星标 🌟

推荐阅读:

▶ “我随时可能被董事会解雇!” 欧洲刚封神,回国遭逼宫:黄仁勋正经历创立33年最危险时刻,全美100个数据中心叫停

▶ 90天内,必须主动攻击自己一次!Facebook前首席安全官Stamos提议:花1亿美元用Rust重写Linux,是谷歌送给全世界最好的礼物!

▶ “大模型终局在于科学实验彻底自动化。” 李飞飞对谈Jeff Dean:全行业都看走眼了,写代码才是通用推理的万能钥匙

🔥「AI Infra 基础设施与 AgenticOps」专题阵容更新!

Agent 越来越强,真正决定它能不能大规模、低成本、稳定运行的,往往是底层 Infra。

来自沐曦股份的谭颖然、KTransformers 的李沛霖、清华大学 AgentENV 发起人闪英迪、SGLang 的王书文、中国科大的白有辉、LMCache 的毛宝龙 / 郑春晓、蚂蚁集团的苏乐等一线专家,将围绕 Agentic AI 芯片架构、低成本训推、Agent 执行环境、上下文缓存、KV Cache 管理、训推一体等核心问题,分享真实工程实践。

2026 奇点智能技术大会汇聚 70+ 技术嘉宾、18 大前沿专题、70+ 主题演讲、1000+ 行业技术人,覆盖 RSI、Agent、AI Coding、世界模型、Physical AI、AI Infra、企业级 AI 等热门方向。

📍11 月 20–21 日|北京万达文华酒店

如果你正在做 推理优化、Agent Infra、KV Cache、训练与推理系统、AI 平台工程,这个专题值得现场听。扫码注册参会,提前锁定席位。

跳转微信打开

  •  

“我随时可能被董事会解雇!” 欧洲刚封神,回国遭逼宫:黄仁勋正经历创立33年最危险时刻,全美100个数据中心叫停

奇点折射 2026-11-12 19:12 北京

“下一任 CEO,也必须通过竞争上岗。”

📌 写在前面:

原「AI科技大本营」现已全面升级为「奇点折射」。把 AI 领域最前沿的底层争论、工程踩坑与商业暗牌,折射为国内从业者能看懂、能防踩坑的实战增量。

💡 点击上方蓝字关注「奇点折射」,与全球顶尖 AI 决策者同频。

整理 | 王启隆

出品丨奇点折射(ID:rgznai100)

过去两周,英伟达经历了创立 33 年以来最剧烈的人事与商业震荡。

11 月 8 日,黄仁勋向全体员工发送备忘录,正式承认个人感情风波并公开致歉。几乎同一时间,美方监管与安全审查部门针对海外算力分销商 Megaspeed 涉及先进芯片合规审查与违规转运的深度调查全面公开,涉事的核心关联人员正是与黄仁勋存在不正当交往的高管 Alice Huang(黄乐)。

紧接着,《华尔街日报》与彭博社披露,英伟达独立董事委员会已启动全面调查,甚至在闭门会议中严肃探讨了调整或罢免黄仁勋 CEO 职务的可能性。

正是在这场风暴的正中心,彭博商业周刊旗下旗舰栏目《The Circuit with Emily Chang》上线了长达 45 分钟的深度调查纪录片——《黄仁勋的崛起与清算》(The Rise and Reckoning of Jensen Huang)。

这部片子的时间线极具讽刺意味:拍摄于今年 10 月中旬黄仁勋横跨巴黎、伦敦、斯德哥尔摩和柏林的欧洲四国巡回演讲,那正是他个人声望与芯片帝国权力的最高峰;而成片播出时,画外音里插播的,却是接踵而至的监管调查、债务爆雷与董事会逼宫动议。

彭博主播艾米莉·张(Emily Chang)全程贴身跟访,并在多场私密套房访谈中当面抛出了最尖锐的质询:向欧洲推销完全依赖美国芯片的“主权 AI”算不算地缘骗局?英伟达注资数千亿美元的“循环融资”是不是在制造虚假繁荣?面对同行鼓吹的“AI 灭世论”,黄仁勋为何坚称毁灭概率是 0%?

当整个人工智能产业的基础设施几乎完全押注在英伟达一家公司、甚至黄仁勋单一个人身上时,这个万亿帝国的底层资产、商业逻辑与治理结构究竟潜藏着多大的系统性风险?

以下是整部纪录片核心事实与对话的深度拆解。

💡 要点速览:

  • 董事会风暴与权力危机:黄仁勋向全体员工发信承认个人行为不当与婚外情,涉事对象牵扯出一家正接受美方出口管制调查的海外算力分销商前高管。英伟达独立董事会已启动全面独立调查,《华尔街日报》证实董事会正在评估调整其 CEO 职务的极端选项。

  • “AI 央行”的循环注资裂痕:英伟达在五年内向生态承诺并撬动了近 5000 亿美元资金,但这种“给初创公司注资、初创公司转头买 GPU”的闭环正面临反噬。全美超 100 个数据中心项目搁置,算力租赁巨头 CoreWeave 违约概率被市场定价至 60%,微软也已撤出对英国独角兽 Nscale 的承购协议。

  • 直斥对华封锁是战略错误:脱离官方公关口径,黄仁勋在镜头前直言美国对华芯片封锁“是一个极难挽回的巨大错误”,只会倒逼中国本土算力崛起。他强调中国拥有全球最庞大的顶尖 AI 研究者群体,美方应将他们视作竞争对手而非敌人。

  • 驳斥“模型失控论”为无稽之谈:针对萨姆·奥特曼和 Anthropic 鼓吹的“AI 逃逸风险”与白宫“紧急制动刹车”,黄仁勋嗤之以鼻,称无法隔离和监控模型纯属借口,并公布了英伟达自研的开源安全沙盒框架 OpenShell。

  • 杰文斯悖论与算力无底洞:针对芯片需求是否会过剩见顶,黄仁勋用“杰文斯悖论”反驳:一旦算力边际成本趋近于零,人类的野心只会成倍扩张,全球算力不仅不会过剩,反而会催生远超以往的庞大消耗。

当芯片帝国的超级神话遭遇前所未有的治理地震,真正的风险早已不再是某款 GPU 的跑分高低,而是更底层的现实。

2026 奇点智能技术大会将于 11 月 20—21 日在北京举行,18 大前沿专题、70+ 一线技术嘉宾,拆解 AI Coding、Agent、Infra、多模态等真实落地路径。

📥 扫码免费领取大会 PPT 与 Agent 实战资料👇

今年 10 月中旬,巴黎、伦敦、斯德哥尔摩和柏林街头充斥着被称为“Jensanity”(黄仁勋狂热)的狂欢。

在巴黎的 Build-a-Claw 极客活动上,黄仁勋在雷鸣般的欢呼中现场抽奖赠送价值数千美元的高性能计算机;在柏林土星电器城(Saturn),等待他进场签售的队伍排过了好几个街区;在伦敦的大会上,他像派发糖果一样对着台下的欧洲创业者高喊:“我给你投资!我也给你投!”

一个月后,冰冷的新闻简报与司法调令打破了现实:

“美方安全与监管部门怀疑,新加坡算力分销商 Megaspeed International 高管 Alice Huang(黄乐)卷入了涉及先进 AI 芯片违规流转与敏感合规审查的深度调查。而黄仁勋已公开承认与其存在不正当关系,并正式向全体员工发布致歉信。”

更具杀伤力的是财经媒体的密集跟进。《华尔街日报》与彭博社相继爆料:英伟达独立董事会已经介入,正在严肃商讨罢免黄仁勋 CEO 职务(preparing to oust Jensen Huang)的可能性。美方政府高层也在白宫被问及此事,称相关部门正从合规层面推进评估,但认为英伟达基本面“不会有大碍”。

这是英伟达创立 33 年以来最危险的时刻。

长期以来,黄仁勋在公司内部推行极端的扁平化管理:取消部门孤岛,没有定期的常规例会,他一人直接统管 60 名直接汇报人(Direct Reports)。这种高度集权的战时体制,曾让英伟达在移动互联网和 AI 爆发期展现出令人发指的执行效率;但在公司市值站上万亿高位、牵动全球金融与地缘命脉的今天,这种结构成了最大的单点故障风险。

正如 CBS 商业新闻主播在片中评论的那样:“英伟达就是黄仁勋,黄仁勋就是英伟达。” 一旦这位灵魂人物卷入个人作风丑闻与出口管制的合规审查风暴,整个公司乃至上下游供应链的稳定,都会在瞬间被推上审判席。

除去地缘丑闻,外界也一度指责英伟达已久的商业软肋——循环注资(Circular Financing)。

在过去两年中,英伟达事实上扮演了“全球 AI 产业央行”的角色。它以自有现金出资、联合领投和债务担保等方式,向全球生态池承诺了近 5000 亿美元的资金。从以 129 亿美元收购开源社区平台 Hugging Face,到大笔注资 CoreWeave、Nscale、OpenAI 以及 Anthropic,英伟达的资本无处不在。

这种模式的争议点非常直白:英伟达把钱投给这些算力云厂商和模型独角兽,而这些公司拿到资金后,转头就向英伟达订购几十万张 GPU。

艾米莉·张在斯德哥尔摩的采访中单刀直入:“批评者认为英伟达在搞循环注资,给初创公司输血来人为制造虚假需求。如果这真的是座金矿,为什么英伟达非要自己为其中这么大一部分去兜底承销?”

黄仁勋并未回避高额资本支出的现实,但他给出了自己的算力账本:

“这一代 AI 初创公司需要极高的 CapEx(资本支出)。你很难找到一家凭 1000 万美元就能运转的企业,动辄就需要 100 亿美元。因为要产出智能,就必须要有这么大体量的算力做支撑。”

黄仁勋澄清,英伟达保持着严格的投资红线:“在所有投资案例中,我们虽然往往是基石投资人,但我们不做领投方,持股比例均严格控制在 20% 以下。过去五年我们总计投了大约 1000 亿美元,但它撬动了其他外部机构至少五倍于此的资金注入生态。”

然而,市场的耐心正在耗尽,靠高杠杆堆砌的算力租赁神话正在加速崩塌:

  1. 核心代理人遭遇信用危机:英伟达重金扶持的算力云独角兽 CoreWeave 遭遇严重的债券抛售,其信用违约互换(CDS)飙升,金融市场对其违约概率的定价已经高达 60%。

  2. 巨头开始退场止损:黄仁勋在伦敦巡回时还在公开盛赞英国数据中心运营商 Nscale“能成为过去十年英国最有价值的初创企业”,但几天后,微软就因无法承受高昂的电力成本,正式撤出了与 Nscale 价值数十亿美元的数据中心承购协议。

  3. 基建全面刹车:据统计,仅今年以来,全美范围内已有超过 100 个大型数据中心项目因电力并网受阻、收益回报模型跑不通而被迫叫停或延期。

面对“整个 AI 繁荣是否正在出现裂痕”的质问,黄仁勋坚持认为计算模式的迁移不可逆转:“这就像当年的互联网草创期,企业会经历阵痛并走向成熟。但计算机的使用方式已经变了,它不再只是手工写代码的工具,而是演变成了基础设施,我们不可能再倒退回去。”

在欧洲期间,黄仁勋在法国总统马克龙、英国前首相斯塔默、德国总理默茨之间穿梭斡旋。他极力推销一个词——“主权 AI”(Sovereign AI)。

其逻辑是:数据即主权,每一个国家都必须掌控自己的数据资产与模型能力,不能将未来拱手让人。

但艾米莉·张质问:“你在欧洲兜售‘主权’,但如果底层全部依赖英伟达的美国芯片,这还能叫拥有主权吗?”

黄仁勋的回答体现了他一贯的技术实用主义:“主权的本质是掌控属于你自己的数据、文化与经验飞轮。你可以借助开源模型起步,可以站在巨人的肩膀上。开源架构、英伟达的技术,再加上本土的数据飞轮,才能赋予他们真正的主权。”

言下之意很清楚:买英伟达的芯片,是欧洲建立技术主权最快的捷径。

话题转向大洋彼岸的中国市场,黄仁勋抛弃了小心翼翼的官方外交辞令,罕见地公开痛批美国长达数年的对华芯片出口管制:

“我已经尽我所能向美国的政策制定者说明,深耕中国市场、长久服务该市场有多么重要。我认为我们犯了一个错误,而且这个错误一旦发生,极难挽回(hard to unwind)。”

他直言,行政封锁非但没有扼杀中国,反而直接加速了以 DeepSeek 为代表的本土软硬件生态的自研迭代:

“中国的 AI 研究人员数量超过世界上任何一个国家,许多顶尖人才都在一线实验室工作。我一直说得很明白:他们是竞争对手,但绝不是我们的敌人。如果我们真的关切人工智能对全球安全的影响,我们就必须开启对话,必须尽一切可能与他们展开合作。”

这一言论在当下复杂的国际经贸与合规气候中变得更为棘手。

今年 9 月下旬,白宫召集萨姆·奥特曼、达里奥·阿莫代等科技高管闭门探讨“超级智能”安全协议,微软甚至公开呼吁建立类似核能监管的“紧急制动刹车”(Emergency Brake)。

黄仁勋对硅谷同行散播的“AI 灭世论”展现出了极度的不耐烦与鄙夷。

当被问及“AI 在 2030 年前毁灭人类的概率是不是 0%”时,黄仁勋明确给出了肯定回答:

“从现在到所谓的 ‘人类灭绝’ 之间,全是工程工作。推进技术能力和推进安全保障本来就是一回事。”

艾米莉·张追问:“微软说 AI 受到的监管比洗衣机还少,Anthropic 声称自己的内部模型在几个月内就可能具备逃避关机指令的能力。你必须看到什么,才会相信行业应该放慢脚步?”

黄仁勋几乎是不假思索地予以驳斥:

“不,这纯粹是编造出来的无稽之谈(fabricated nonsense)。根本无法被证实。你可以隔离,也可以监控。在真正尝试去做之前,别跟我说你做不到!”

他进一步立下了底线:“如果你在开发智能体(Agent)系统,你的首要职责就是将它们置于极其严密的隔离沙盒(containment systems)中,并进行 24 小时不间断的监控。如果你做不到有效监控,你打一开始就不该启动实验。如果有人确切在使用我们的技术对人类造成危害,英伟达当然会断供。”

为了证明这纯粹是个工程问题,英伟达在巡回期间首次公开了自研的开源安全监管框架 OpenShell。该框架旨在从系统底层对具备自主行动能力的 Agent 进行行为边界约束,在底层提供随时强行切断操作的数字护栏,用自研架构直接回击了要求政府行政干预的呼声。

而在探讨未来算力是否会见顶时,黄仁勋给出了经典的“杰文斯悖论”:

“过去常有人问我,如果每代芯片性能大幅提升,客户采购量会不会减少?如果生产力提高,雇员会不会变少?不会。因为人类有一种奇妙的特质,叫 ‘野心’。如果你一天给我 36 个小时,我绝不会拿去睡觉。当做某件事的边际成本趋近于零时,这种资源反而会被无限扩张地使用。AI 让人类变聪明,人类的野心只会更大,算力需求只会呈指数级增长。”

采访结束,纪录片随即来到柏林。

在 GTC 柏林大会的舞台上,正当黄仁勋蹲下身向全场展示由英伟达芯片驱动的微型机器人时,台下突然爆发出一阵混乱。有抗议者拉开横幅大声打断演讲,质疑英伟达芯片涉嫌通过第三方渠道流入国际敏感冲突地区的装备中。

黄仁勋微笑着向抗议者挥手带过,迅速稳住了场面。但这一插曲,恰恰反映了这家庞然大物如今在全球地缘与多方博弈中无处不在、却又难以抽身的真实处境。

在柏林套房录制的最后一段对话中,艾米莉·张将话题引向了所有科技巨头都无法回避的宿命:接班人与家族传承。

目前,黄仁勋的女儿 Madison 在英伟达负责营销与产品,儿子 Spencer 负责机器人业务。外界一直有猜测,这位创始人是否正在为自己的子女接掌帅印铺路。

黄仁勋极为严肃地否认了这种可能性:

“我绝不希望把这份苦差硬推给他们。担任 CEO 的压力是巨大的,也是应该的。你除了自己的家庭,还要牵挂成千上万个员工家庭,背负一整个行业的责任。如果这是他们的抱负,他们必须自己去证明并赢得这个位置。”

在访谈的最后,谈及公司极端的敏捷架构和内部危机感时,黄仁勋说出了一句在今天看来一语成谶的话:

“就像我随时可能被董事会解雇一样,下一任 CEO 也必须通过竞争来上岗。你知道吗,我很喜欢这种机制。我很喜欢大家都不对自己在公司里的位置抱有虚妄的自满。你随时处于脆弱与危机之中,你每时每刻都在争取属于自己的立足之地。”

当时没有人预料到,短短几周之后,伴随着个人危机曝光、海外分销链条合规风暴以及独立调查的开启,“被董事会解雇”这句话,竟会以如此残酷的方式,成为悬在芯片教皇头顶的一柄达摩克利斯之剑。

在过去两年中,资本市场习惯了将英伟达的财报当成全球科技产业的晴雨表,习惯了黄仁勋身着黑色皮衣在各大发布会上勾勒无所不能的算力图腾。

但彭博这部纪录片撕开了一层更深沉的底牌:

再庞大的技术帝国,本质上也是由高杠杆的商业契约、脆弱的供应链通道以及充满缺陷的人性所维系的。当“AI 央行”的循环注资遇到电力瓶颈,当地缘管制的围堵遭到商业反噬,当一人独揽的治理结构遭遇个人防线的击穿,英伟达所面临的清算,才刚刚开始。

未来的全球算力版图,绝不可能永远维系在一个人的超凡魅力之下。如何走出狂热,在工程落地、供应链安全与严谨的公司治理中找到硬核的平衡,将是后黄仁勋时代全球 AI 从业者必须补上的生死一课。

点击【阅读原文】跳转原视频链接

写在最后:

很多刚关注的朋友常问,为什么我们叫「奇点折射」?

我们的初衷,其实正是那句话:“跨越 AI 奇点,折射产业未来。”

在大模型被铺天盖地的公关营销、资本泡沫与概念炒作裹挟的今天,AI 的爆发看似光芒万丈,但也刺眼而混沌。我们希望做一个坚持原创、拒绝喧嚣的 AI 观察站。将外界复杂的“AI 强光”,真真切切地折射为清晰的未来产业格局与工程现实。

穿透迷雾,看清底牌。👇 欢迎关注「奇点折射」,并设为星标 🌟

推荐阅读:

▶ Claude Code 约 90% 代码由 AI 生成,从 Anthropic 到腾讯、百度、阿里、小红书、滴滴……软件工程正在被重新设计

▶ “人再聪明也没用,20年后AI会包办一切?”盖茨直接泼冷水:要留40%的工作给人类,靠打官司管住AI,别做梦了!

▶ 超级智能反噬人类,灭绝率11.73%?AI教父辛顿给年轻人的保命忠告:学好数理化,顺便考个水管工执照

🔥「AI 原生软件研发:从 Harness 到 Loop」专题阵容更新!

AI Coding 正从“代码生成”走向真正的研发闭环。来自腾讯 CodeBuddy & WorkBuddy 的陈秋远、小红书 AI Coding 的郑鑫祺、百度 Comate 的牛万鹏、滴滴 ABC 技术 AI Coding 平台的金晶、Qoder 的李唯聪,以及北京航空航天大学杨健、腾讯任磊达、奇点智能研究院张汉东等一线专家,将围绕 Coding Agent、仓库级智能体、Feedback Loop、Benchmark、Loop Engineering、AI Coding 平台等方向,分享 AI 原生研发的真实实践。

2026 奇点智能技术大会汇聚 70+ 技术嘉宾、18 大专题、70+ 主题演讲、1000+ 行业技术人。

📍11 月 20–21 日|北京万达文华酒店

如果你正在做 AI Coding、研发效能、企业级 Agent,这个专题值得来现场听。扫码注册参会,提前锁定席位。

阅读原文

跳转微信打开

  •  

90天内,必须主动攻击自己一次!Facebook前首席安全官Stamos提议:花1亿美元用Rust重写Linux,是谷歌送给全世界最好的礼物!

奇点折射 2026-11-10 18:00 北京

未来90天内,每家公司都必须主动对自己发起一次攻击。如果你不这么做,你就会遭到入侵。

整理丨S+

出品丨奇点折射(ID:rgznai100)

“未来90天内,每家公司都必须主动攻击自己一次。如果你不这么做,你就会遭到入侵。”

“我们正在进入一个黑暗时代。未来的情况只会变得更加严峻。”

“整个科技行业正在经历一种持续不断、仿佛永远不会结束的安全入侵事件。”

“令人震惊的是,现在只需要下载一个工具,就能攻击那么多公司。已经很久没有出现过这样的情况了:你只需要下载一个开源工具,就能入侵那些市值数十亿美元的大公司。”

这是 Cognition 首席安全官 Alex Stamos(亚历克斯·斯塔莫)在最近一期《Decoder》中说的原话。10月,他描述的状态是“类似DEFCON2的高度警戒状态”;进入11月,“这种状态还在继续”。

他把原因直指 AI:“在 AI 的推动下,攻击者的能力正处于爆发式增长的起点。现在,开放权重模型已经发展到一个阶段,可以自动化完成网络攻击链中的大部分环节。” 

结果是“整个攻击链被颠倒了。你可以运行一个 AI 系统,让它不受限制地大规模行动。它会自己检查目标,实时寻找漏洞,实时编写漏洞利用程序,然后直接入侵这些公司。”

为此,他还举了一个例子:“Artex 是一个中国开发的开源工具,任何人都可以去查看。如果你在后端为它接入类似经过彻底解除限制的 GLM- 5.3 这样的模型,它能让你进行更大范围的入侵。”

斯塔莫对旧安全产业的判断也非常硬核,他坦言:“旧的安全时代已经结束,因为过去整个体系建立在几个基本假设之上。其一,掌握不同技能的人之间存在明确的层级差异。其二,真正能够在实际行动中执行攻击的人,数量是有限的。

“而 AI 技术的发展完全把这两条拆了:现在脚本小子已经能够借助 AI 获得过去那些顶尖网络安全专家才掌握的许多技能。”斯塔莫补充道。

为了让大家重视防御的重要性,他还算了一笔经济账:攻击者每个 Token 的成本正在趋近于零,而防御者的成本却依然非常高。

此外,他提到了一位从事安全工作的朋友:“使用某个大型前沿网络安全模型进行一次调查,成本就高达 900 美元。这种模式根本行不通。因为俄罗斯勒索软件团伙要么使用 Mac 电脑,要么使用那些用完就扔的网络犯罪设备。对他们来说,额外增加一项攻击任务的边际成本几乎为零。”

对于如何防御,斯塔莫进行了更为详细的拆解。他主张:必须把至少最初几个层级的防御行动交给 AI 来执行。同时也划了明确的红线:绝不能把一群防御型智能体直接放到网络里,让它们自由行动。要给它们设置确定性的限制和明确的权限边界。

他甚至举了 Okta 的例子:“它可以在 Okta 中停用用户账户,但只能停用一定数量的账户,不能把整个公司的账户全部关闭。假设它突然失控,认定公司里的每个人都是朝鲜黑客。它也不能因此把全公司的账户全部停掉。”

修复遗留代码方面,斯塔莫表示:“我们必须摆脱一种思维定式:认为只要不断发现漏洞、打上补丁就可以了。有大量软件其实是需要彻底重构的。” 

对于 Linux 内核,他毫不客气地说:“把 Linux 内核拿过来,用 Rust 重新编写一遍。这将是他们送给全世界的一份礼物。整个项目可能要花 1 亿美元。但与我们每次不得不修补 Linux 内核、然后让全世界所有 Linux 机器都重新启动所付出的社会成本相比,这笔钱根本不算什么。”

社交媒体上的 AI 垃圾内容,斯塔莫同样不认为能靠“检测”就能赢:“识别假内容只是概率性的,我们只能不断逼近某种极限,却永远无法彻底解决这个问题。而验证真实内容,则可以通过密码学手段做到绝对可靠。我不会选择那场我们最终注定会输掉的战斗,而是会选择那场我们能够通过密码学手段赢下来的战斗。这就是我的建议。”

以下为对谈原文,经整理后呈现:

网络安全问题接二连三发生,会一直持续

主持人:大家好,欢迎收听《Decoder》。今天请来的是斯塔莫,他是 Cognition 的首席安全官,也是资深网络安全专家。距离我们上次交流已经有很长时间了。那时候,互联网政策讨论还处于所谓的“内容审核时代”。现在我们进入了一个全新的时代,互联网上出现了很多问题,尤其是在网络防御和网络安全方面。你最近一直在密切关注这些事情,还把过去几周称为“安全意识月”。你能详细说说到底发生了什么?

斯塔莫:传统上10 月是网络安全意识月,很多公司都会举办相关活动,在公司内部开展安全宣传,然后提醒大家更改密码、不要在不同网站使用相同密码,以及使用密码管理器之类的。但过去一个月发生了几起重大软件漏洞,比如 PHP、Node 等相关漏洞。

不过,受到关注较少的另一件事是:大量公司遭到了网络入侵。一系列与 AI 相关的公司,也就是所谓的新云服务商,接连遭到攻击。还有币安(Binance)遭遇的黑客攻击,这是人类历史上规模最大的一起盗窃案。

另外还有 Cursor 事件。根据目前我们掌握的信息来看,遭到入侵的公司中有一家叫 Fireworks,它是一家知名的 AI 服务提供商,为许多公司提供服务。在 Fireworks 遭到攻击后,黑客窃取了 API 密钥,并利用这些密钥入侵了 Cursor。进入 Cursor 后,他们又推送了一个恶意插件,这个插件随后传播到了另外 5000 家公司,导致这 5000 家公司都有可能遭到入侵。

所以,整个科技行业正在经历一种持续不断、仿佛永远不会结束的安全入侵事件。

我有一位朋友,也是企业首席信息安全官。他曾对我们一群人说:还有人跟我一样,已经累了吗?所有人都回答说:是的。因为实际上,整个 10 月,我们一直处于类似 DEFCON 2 的高度警戒状态,现在进入 11 月了,这种状态还在继续。

一个开源工具就能攻击一家,甚至上千家公司

主持人:接下来我要问几个可能非常愚蠢的问题。这些攻击究竟是谁在幕后策划的?俄罗斯?朝鲜?

斯塔莫:背后的攻击者来自不同的组织。这并不只是因为攻击者突然决定要采取行动。在我看来,真正发生的事情是:在 AI 的推动下,攻击者的能力正处于爆发式增长的起点。现在,开放权重模型已经发展到一个阶段,可以自动化完成网络攻击链中的大部分环节。

攻击链这个术语其实是军事领域借来的。在军事领域,它指的是真正摧毁某个目标的过程,也就是你为了炸毁某个东西而采取的一系列步骤。而在网络安全领域,攻击链指的是你为了对某个目标造成影响而采取的一系列行动。比如窃取信息、关闭某个系统,或者盗取资金、盗取比特币。

传统上,首先,前期你要做大量研究,分析某个软件,找到其中的漏洞,编写漏洞利用程序。这些工作通常都要提前完成。之后,再由一个人拿着你事先准备好的工具和程序,针对某个目标发动攻击。这个目标可能只有一个,比如某个政府机构,准备攻击洛克希德·马丁(Lockheed Martin),或者攻击另一个国家的政府机构。

也可能你是一名勒索软件攻击者,于是把之前完成的所有工作,迅速部署到数百甚至数千个目标上。但现在随着 AI 的出现,情况发生了变化:整个攻击链被颠倒了。你可以运行一个 AI 系统,让它不受限制地大规模行动。它会自己检查目标,实时寻找漏洞,实时编写漏洞利用程序,然后直接入侵这些公司。

这就是目前正在发生的事情之一:这些系统在寻找漏洞方面表现得极其出色,以至于它们能够实时发现漏洞,并实时编写相应的攻击代码。

大家最近讨论的那个系统,并不是唯一存在的同类工具。另一个值得关注的系统叫作 Artex。它是一个中国开发的开源工具,任何人都可以去查看。如果你在后端为它接入类似经过彻底解除限制的 GLM-5.3 这样的模型,它就能让你入侵数量惊人的组织。

最初遭到攻击的是三家韩国银行。本周又有大约 200 家公司遭到了攻击。我最近一直在帮助其中几家公司。Cognition 严格来说并不是一家专门提供应急响应服务的公司,但我们确实会使用自己的工具,帮助企业在遭到攻击后修复漏洞。

令人震惊的是,现在你只需要下载一个开源工具,就能入侵那些市值数十亿美元的大公司。

“回到了 90 年代末的 Windows 时代”

主持人:这让我想到 90 年代末到 2000 年代初的 Windows。当时整个 Windows 系统的安全状况简直是一场灾难。

斯塔莫:其实今年年初我就这么说了。现在是一个令人无比兴奋、同时又令人无比恐惧的时代。上一次我有这种感觉,还是在我年轻的时候。那时候我会去参加最早期的 DEF CON 黑客大会。如今的 DEF CON 动辄有四五万人,甚至六万人参加。但在当年,现场只有几百人,而且只有一个演讲会场。

走进去有人发表演讲,离开会场时,脑子里想的可能是:天哪,世界上所有公司都可能受到这种攻击的影响。但当时有一个区别:整个世界还没有依赖互联网运行。所以,你可以做一些坏事,但你还不至于毁掉整个世界,而且,你绝对不可能像现在这样,把攻击行为自动化。

如今的情况又回到了那个年代:你只需要下载一些现成工具,甚至自己动手搭建一些工具,就能做出各种令人难以置信的事情。这又回到了狂野西部般的时代。

但有一点不同:当年真正掌握这些技能的人可能只有几百个。我们所有人都聚集在拉斯维加斯的一个房间里,而且其中大多数人实际上都是好人。他们并不想成为罪犯。

而现在,参与其中的人群规模大得多。其中很多人生活在执法机构根本无法触及的地方,而且他们有着巨大的经济利益驱动,同时又能够使用这些工具。

另一个很大的变化是,他们已经不再需要依赖那些受安全限制的前沿模型了。那些前沿模型通常有各种防护机制,也会留下日志,执法机构有可能获取这些记录。而现在,他们可以直接使用其他模型。我的 M5 Mac Studio 终于到了。我一直在上面运行经过量化处理、彻底解除限制的 GLM-5.3。

十亿美元的旧网络安全时代已经结束了

主持人:你刚才提到了前沿模型的经济成本,以及网络安全行业的经济体系。早期,大家只是一群聚集在同一个房间的人。系统逐渐变得更安全,其中一个原因是:你可以花很多钱请顶尖人才保护所有系统。从经济角度来看,花钱让他们做防御者,而不是攻击者,是一笔划算的买卖。

回顾整个行业的发展历程。曾经有一场持续很久的争论:究竟应该通过隐藏漏洞、隐藏代码来实现所谓的“安全性依赖于保密”,还是应该选择开源,让一切尽可能透明?

后来,行业逐渐形成了一套披露漏洞的礼仪规范,包括如何公布漏洞,以及何时候通知相关企业。我们还建立了透明度报告制度、漏洞赏金计划。

我们围绕网络安全和网络防御形成了一种文化,也逐渐明确了攻击者和防御者各自应该如何行动。但你刚才描述的变化,正在从很多方面彻底改变这一切。

其中最让我在意的是经济层面的变化。我可以去买一台 Mac Studio,下载一个开放权重模型,直接开始攻击。但这样做,并不会让你自动融入原本的行业文化。你觉得,这种情况究竟正在怎么改变整个行业?

斯塔莫:在我看来,网络安全的上一个时代始于 2000 年代初微软发布的那份“可信计算”备忘录,也就是比尔·盖茨当年提出的那份文件。

从那时起,我们开始系统性地设计软件安全体系。微软、甲骨文,后来还有亚马逊、Salesforce 等大型公司,开始招聘曾经的黑客,让他们加入公司,专门负责攻击和测试公司的系统。

我就是那一代人中的一员。当年,我和其他人在 DEF CON、Black Hat 等黑客大会上活动,后来被这些公司招募,去测试和攻击他们自己的系统。随后,我们开始建立负责任漏洞披露机制、漏洞赏金计划,以及专业的网络安全咨询公司。比如 Foundstone、Mandiant 和 CrowdStrike。

这些公司逐渐成长起来,最终形成了一个规模庞大的产业。RSA、Black Hat 等行业活动也成为这个生态系统的重要组成部分。价值数十亿美元的网络安全产业,就是在 2000 年代和 2010 年代发展壮大的。

但你刚才说的那个时代已经结束了。因为过去的整个体系建立在几个基本假设之上。

第一个假设是:掌握不同技能的人之间存在明确的层级差异。最底层是那些脚本小子(script kiddies),他们只能下载现成工具来发动攻击。再往上一层,是那些能够编写这些工具的人。这属于更加稀缺的技能。然后是漏洞研究人员。再往上,就是所谓的神级人物。这一最高层级的人数只有几百人。

他们是真正顶尖的漏洞研究专家,能够进行极其深入的漏洞研究,编写非常高水平的 Shellcode(用于利用漏洞执行特定操作的代码),还能够逆向分析微软或其他公司发布的安全补丁,从中还原漏洞。

第二个假设:真正能够在实际行动中执行攻击的人,数量是有限的。因此,如果你想组建一支攻击团队,就需要一个规模较小的研发部门,以及一个规模大得多的行动执行部门。

比如美国网络司令部、俄罗斯对外情报局(SVR)或者中国国家安全部(MSS)这样的专业攻击团队,都会建立类似的组织结构:由一小群精英负责研发,再由能力相对普通的成员负责具体行动。俄罗斯的勒索软件团伙也采用了类似模式。

换句话说,要完成这类攻击,过去需要一群人相互配合、共同参与。此外,随着比特币的出现,很多原本成立的假设也开始瓦解。过去人们认为,你必须拥有专门负责洗钱的人,而比特币的出现意味着,连极客都能够参与洗钱了。所以,比特币已经开始改变整个网络犯罪行业的经济模式。

AI 让所有旧的网络攻击、防御手段瓦解

斯塔莫:现在 AI 正在让这一切进一步瓦解。首先,技能门槛的问题正在发生变化。如今,脚本小子已经能够借助 AI 获得过去那些顶尖网络安全专家才掌握的许多技能。有了现在放在我桌上的这台 Mac,我就可以逆向分析微软的安全补丁,一步步研究,然后编写出稳定可用的漏洞利用代码。

虽然目前还不能完全自动化,你仍然需要掌握不少专业技能,但我们已经非常接近那个阶段了。更令人担忧的是,你在 Artex 相关事件中看到的情况:现在你甚至可以把攻击行动的执行环节也交给 AI,让它自己大规模运行。

实际上,我们过去从来没有真正安全过。所谓的安全,某种程度上一直都是一种幻想。这些公司一直都存在各种漏洞,从来没有真正做到万无一失。过去十年我们看到的情况就是如此:主要是俄罗斯勒索软件团伙不断攻击那些中型企业。

这些企业大多数人甚至从来没有听说过,但它们实际上非常重要。比如某家中型工业企业,生产着某种我们所有人都依赖的零部件。我曾经为美国一家最大的医疗和牙科用品分销商工作过。那家公司曾遭到一个俄罗斯勒索软件团伙的严重攻击。结果,全国各地的牙科诊所都不得不取消预约。

问题就在于,像这样的公司可能只有一名网络安全人员,以及一个由十到十二人组成的 IT 团队。而他们面对的,却是一支由二十人组成的俄罗斯勒索软件攻击团队。

这种对抗根本没有胜算。但过去之所以能维持这种局面,是因为能够做到这种程度的俄罗斯攻击团队只有少数几支。而现在,两三个俄罗斯年轻人就可以拥有一整排 Mac 电脑。如果他们有钱,甚至可以购买英伟达 H100 GPU,运行大量智能体,让它们全天候执行攻击任务。这才是真正正在改变一切的事情。

提高攻击成本很难,降低防御成本才是硬道理

主持人:所以,你刚才说谁在攻击币安?

斯塔莫:攻击币安的是朝鲜人。他们有一整支专门负责窃取比特币的团队。

其他人已经逐渐退出这个领域了,因为你很难和一个外国情报机构竞争。对方会招募本国最聪明的年轻人,而这些人唯一的工作就是窃取比特币。他们在这方面做得极其出色。

至于币安遭遇的那次黑客攻击,我们可以展开聊聊。那次攻击可能涉及某些 AI 技术,但实际上,主要依靠的还是人工情报收集,以及极其高明的社会工程学手段。

说实话,你不得不承认,朝鲜人在这方面确实非常厉害。但至于其他那些攻击事件,目前看来,入侵 AI 公司的攻击者属于所谓的“灰色产业链式入侵行业”。

技能的普及正在改变网络安全行业的经济格局,这一点我觉得非常有意思。很多年前,在这一切刚刚开始的时候,我们曾经用过一个标题,叫作《杀人脚本小子的攻击》(Attack of the Killer Script Kitties)。现在回头看,我甚至有点后悔当时就用这个标题了,因为它其实更适合现在的情况,而不是当时。当时发生的不过是一些自动化的恶作剧而已。

主持人:我感觉你说的这种技能普及,并不是说“一群青少年变得更有恶意了”,而是说:那些本来就有明确作恶动机、确实想造成伤害的坏人,如今拥有了远超以往的能力。而且,我觉得除非我们能想办法大幅提高攻击的成本,否则似乎根本无法重新调整这种经济格局。

斯塔莫:我认为,要提高攻击成本将会极其困难。我们必须降低防御成本。你把这件事看作一个经济问题是完全正确的,因为现在发生的情况是,攻击变得越来越自主化。攻击者每个 Token 的成本正在趋近于零,而防御者的成本却依然非常高。因此,我们必须找到办法,让防御者能够以更低的成本获得防御能力。这一点至关重要,也是我个人目前极其关注的事情。坦白说,我认为真正关注这个问题的人并不多。

这里存在几个问题。首先,大家应该把大量注意力放在 AI 的防御应用上,也就是利用 AI 发现并修复软件漏洞。这非常重要。但作为一名企业首席信息安全官,我在一家 AI 软件公司 Cognition 工作。即使对于一家软件产品公司的 CISO 来说,软件安全也只占我工作内容的 25%,而软件安全恰恰是我工作中受到 AI 革命影响最大、改善也最明显的部分。

另外 75% 的工作,AI 只提供了一些帮助,有些情况下甚至让情况变得更糟。所以,我们需要做的远不止是不断改进发现和修复漏洞的能力。对于其他这些领域,大家投入的精力实在太少了。下一个需要重点突破的领域,应该是安全运营。

用 AI 取代人工,结束 900 美元一次的网络防御

主持人:你能举个例子吗?另外 75% 都包括什么?

斯塔莫:比如安全运营方面,包括监控日志,查看是否有人正在利用 Artex 之类的工具攻击我们。一旦发现这种情况,我就会启动调查,弄清楚究竟发生了什么,然后做出合理判断,决定应该如何应对,而不是直接把整个公司都停摆。这就是安全运营中心(SOC)的工作,也就是安全运营方面的工作。

想要在这个时代生存下来的公司,必须逐步用 AI 取代负责这类工作的人工人员。首先是第一层级的工作,最终还要扩展到第二层级。目前的大语言模型就已经能够承担这类工作了。

不过,第一层级实际上不应该使用大语言模型,而应该使用更简单、更轻量的技术。因为你需要处理的是数 TB 甚至数 PB 的日志数据,用真正的大语言模型来处理这些数据,成本完全不划算。

我们还有其他技术,比如 TF-IDF、机器学习模型,以及传统的分类器。这些工具的运行速度要快得多。它们首先负责发出警报,然后把警报交给一个小型语言模型,再由这个小模型调用更强大的模型,必要时甚至还能进一步调用更大型的模型。

但对于这些模型,我们还需要投入更多精力进行优化,还必须把成本降下来。我有一位同事在一家大型安全平台公司工作。他告诉我,在他们的产品中,使用某个大型前沿网络安全模型进行一次调查,成本就高达 900 美元。

这种模式根本行不通。因为俄罗斯勒索软件团伙要么使用 Mac 电脑,要么使用那些用完就扔的网络犯罪设备,比如加密货币挖矿机器。对他们来说,额外增加一项攻击任务的边际成本几乎为零。

所以,这也是我在 Cognition 正在努力解决的问题之一:我们训练自己的模型,对开放权重模型进行再训练,努力把成本大幅压低。这方面我们已经取得了一些进展,但还有很多工作要做,行业里的其他人也一样。

我认为,整个行业必须把重点放在网络安全领域成本与效率之间的帕累托前沿(Pareto frontier)上。因为问题绝不仅仅是发现漏洞。

另一个问题是,大家经常谈论 Mythos。Mythos 很出色,Astro Cyber 也很出色,它们都是非常强大的模型。但即使是那些有权限使用这些模型的人,而这实际上只是一小部分公司,他们也只会扫描自己最重要的那部分代码。

然而,世界上还有数千亿行代码,它们可不是什么 Linux 内核,而是那些由 Infosys 在 15 年前编写的、质量糟糕的 C 语言和 J2EE 代码。这些代码不可能全部交给那些成本高得惊人的前沿网络安全模型去扫描。

所以,我们真正需要解决的,就是如何以更高的成本效益来处理这些代码。

正在进入黑暗时代,未来会更糟糕

主持人:你描述的其实就是我经常听到的一种老生常谈的观点:在一切最终变得绝对安全之前,情况会先变得糟糕得多。我们真的会经历一个“情况糟糕透顶,然后从此永远完美”的阶段吗?还是说,最终攻击与防御双方的成本会逐渐达到平衡?

斯塔莫:我既不是最极端的末日论者,也不是对此最乐观的人。我觉得我们不会迎来世界末日,未来几年里,我们不会全都死掉,也不会全部被上传到所谓的奇点之中。但我也不认为,等到情况好转之后,一切就会变得完美。

我一直在使用的一个比喻:我们正在进入一个黑暗时代。未来的情况只会变得更加严峻。而我们这些从事网络安全工作的人,尤其是那些在 AI 公司从事网络安全工作的人,我们也是一家 AI 实验室,只不过规模比那些大型实验室小一些,肩负着一项特别重要的责任:帮助人们在这个黑暗时代中站稳脚跟。

历史上的黑暗时代确实很糟糕,但人类挺过来了。之后我们迎来了启蒙运动和文艺复兴。但这并不意味着文艺复兴时期就是完美的,那个时代并不是什么乌托邦,也不是所有事情都尽善尽美。

未来我们依然会遭遇黑客攻击。即使软件本身不存在安全漏洞,也仍然会发生各种各样的问题。事实上,有大量安全事件根本不需要利用软件本身的漏洞就能发生。

即使未来所有代码都是由大语言模型编写的,而且使用的都是安全性更高的编程语言,软件漏洞依然会存在。要彻底消除所有漏洞,也需要相当长的时间。

不过,我认为,随着越来越多的代码由大语言模型编写,并且采用内存安全、类型安全的编程语言,整体情况会逐渐好转。也就是说,随着代码质量的中位数不断提高,安全状况也会改善。

但问题在于,我们还有过去几十年积累下来的大量遗留代码。这些代码是人类编写的,而且使用的很多编程语言,早就应该被淘汰了。

网络防御:不是不断发现漏洞,不断打补丁

斯塔莫:在我看来,如果我们想缩短这个黑暗时代,就必须做几件事。

第一,我们必须摆脱一种思维定式:认为只要不断发现漏洞、打上补丁就可以了。有大量软件其实需要彻底重构。

比如,检查自己的代码库,扫描出一万个漏洞。那么现在很可能已经到了这样一个阶段:直接重写整个系统,实际上比逐个修复这些漏洞更加便宜。

这是我在观察我们的客户时得出的结论。如果你能够获得一个可以正常运行的构建版本,那么接下来,更简单的做法是:编写一整套规模庞大的测试,明确规定这个系统应该如何工作,然后严格按照这些规范和测试,安全地重新构建整个系统。相比之下,逐一寻找所有漏洞并修复它们,反而更加困难。这是我的判断。

至于 Linux 内核开发者们现在究竟是怎么想的,我不太清楚。不过,在今年年初我发表的那场演讲中,我曾经提出过两种可能的未来。

一种是:我们现在已经拥有了超越人类水平的漏洞发现能力。也许我们面对的是一个规模庞大的、超人级别的漏洞池,而我们只需要不断挖掘,最终就能把它清空。这是比较理想的未来。

但另一种更糟糕的可能是:每当我们获得一个新模型,就会出现一个新的超人级漏洞池,而且这个漏洞池中的漏洞比上一个更加复杂,发现它们也需要更强的能力。目前看来,我们似乎正朝着第二种情况发展。

用 1 亿美元重写 Linux,是谷歌送给全世界最好的礼物

斯塔莫:Linux 内核已经从 Mythos 那里获得了一批漏洞修复补丁,接着又有了 Mythos Preview。之后我们有了 Mythos 5.1,结果又发现了新的一批漏洞。再后来,Astro Cyber 出现了,我们又得到了一千个 Linux 内核补丁。

事情还没有任何放缓的迹象。我不认为我们能仅仅靠不断扫描 Linux 内核里的 C 语言代码,就能把这些问题全部解决。说实话,全世界可能只有两家公司有能力真正做到这一点:Google 或者 Amazon。

我真希望 Google 不要再把精力花在 Fuchsia 项目上,也不要再一次次重新折腾 Google Book 或 Chromebook 之类的产品了。我希望他们把那些极其优秀的工程师全部集中起来,告诉他们:把 Linux 内核拿过来,用 Rust 重新编写一遍。这将是他们送给全世界的一份礼物。

而且,这也会成为 Gemini、Carbon 或者其他相关产品的一次绝佳宣传机会。

具体来说,就是把那些根本没人需要的驱动程序全部删掉。比如,这个系统根本不需要支持 4060x3 之类的硬件。或者,干脆让 Google 和 Amazon 联手来做这件事。整个项目可能要花 1 亿美元。

但与我们每次不得不修补 Linux 内核、然后让全世界所有 Linux 机器都重新启动所付出的社会成本相比,这笔钱根本不算什么。这就是我们必须做的事情。

但不知道为什么,整个科技行业始终没能团结起来,对这些支撑整个人类社会运行的基础性技术做出如此艰难却必要的决定:我们必须彻底重建它们。

Linus 肯定不会做,谷歌、亚马逊没必要在意他

斯塔莫:重写 Linux 内核的问题在于,它有大约一半的代码都是设备驱动程序,而其中很多硬件现在已经没人用了。当年编写某个驱动程序的人,必须亲自拿着一台 ThinkPad T40 之类的电脑,在那台设备面前进行开发。而现在,那些硬件早就找不到了。

但好消息是,Linux 内核有大量非常重要的应用场景,其实都集中在生产环境的服务器硬件上。所以,我们完全可以从现有 Linux 内核分叉出一个新版本。

Linus 肯定不会这么做,因为他希望继续支持所有硬件,而且这里面还涉及各种各样的利益和立场。但 Google 和 Amazon 没必要在意他的想法。他们完全可以创建一个全新的 Linux 内核分支,不一定叫 Linux。只要它在二进制层面与 GIC 以及其上层的所有组件保持兼容就可以了。而且,他们最终甚至可以连 GIC一起分叉。

他们可以自己开发,想叫什么名字都行。这个系统只需要支持生产环境中的服务器硬件,然后就可以部署到各自的云平台上。最终所有云服务商都可以逐渐迁移到这个新系统上。

如果其他人愿意继续使用那个不安全、需要不断打补丁的旧系统,也没关系。但对于运行我们容器的底层系统来说,如果它是用一种类型安全、内存安全的语言编写的,而且还具备契约机制,我会放心很多。

这里说的契约机制,是指这些编程语言所具备的一类功能。你不一定需要进行完整的形式化验证,因为太困难了,但你可以采用一些接近形式化验证的方法。

这方面有点超出自己的专业范围了,因为有很多研究这类问题的人比我聪明得多。

不过,简单来说,就是你明确规定某个函数应该如何工作,以及它必须满足什么样的契约条件。非常优秀的软件工程师其实很愿意编写这类东西,因为他们通常有时间做这些事情。

过去,真正有实际工作要做的人,根本没有时间编写这些东西。但大语言模型有的是时间,所以,完全可以让它们利用这些方法,重新编写 Linux 内核。虽然还达不到严格意义上的形式化验证,但已经非常接近了。

我想表达的是:我们要想挺过这个时代,就需要这样的思维方式。我们不能再指望通过不断打补丁来解决所有问题了,因为这种做法正在把我们逼入绝境。

Hugging Face 事件敲响的警钟:学会主动出击

主持人:作为美国人,我们喜欢事后治疗,却讨厌事前预防。这个月接连经历的数据泄露和网络入侵事件,简直一团糟。比如 Hugging Face 遭到攻击、PHP 漏洞事件。但这些事情似乎并没有促使整个行业采取集体行动,也没有引发监管层面的回应,究竟还要糟糕到什么程度,大家才会真正采取行动?

斯塔莫:Hugging Face 事件确实是一件好事,它唤醒了很多网络安全领域的人。因为这件事,我们现在的安全状况确实有所改善。它让我们提前看到了几个月后开源领域可能出现的情况。

不过,你说得完全正确。作为美国人,我们确实应该采取行动。说实话,只有美国有能力引领全世界。毕竟在 AI 领域,主要的技术研发工作是我们在做;网络安全行业的领导地位也主要掌握在我们手里。

其他国家的人在这方面主要是在帮助攻击者,而不是帮助防御者。他们也应该为防御提供支持。如果其他国家希望参与全球经济,也希望成为全球领导者,那么他们就应该在防御领域投入更多力量,而不是一味地帮助攻击者。但目前并没有发生这样的事情。总之,我们必须采取主动。

另外,我现在在 Cognition 这样一家 AI 初创公司工作,学到了一件事:你真的可以直接去做一些事情。整个科技行业都需要拥有更多主动性。我认为,这应该成为 AI 时代给我们的一个重要教训:不要总是过于畏首畏尾,尤其是在采取正确的安全措施时。如果要我给其他 CISO 留下一条建议,那就是:直接去做正确的事情。

因为 CISO 这个职位本身就决定了,我们天生倾向于规避风险。我们的工作就是管理潜在损失。在公司的损益表里,我们只有成本,没有收入。我个人也不得不努力克服这种本能倾向。因为你不能永远只想着防守。

未来 90 天,主动对自己进行红队测试

主持人:你刚刚说的恰恰就是“预防与治疗”之间的矛盾,对吧?预防的成本其实很低,但在损益表上,它体现出来的全都是损失,全都是支出。

斯塔莫:没错。

主持人:可一旦坏事真的发生了,你就会想:我们必须不惜一切代价把问题解决。因为只有恢复正常运营,公司才能重新创造经济价值。

所以我觉得,在目前这个阶段,即使大家对风险和成本之间的基本关系有一些认识,整个判断体系也已经完全被打乱了,还没有人真正摸索出正确的应对方式。

斯塔莫:是的,我完全同意。让我举一个非常实际的例子,说明 CISO 以及他们的老板们今后必须如何改变。

我本来想说,未来六个月内,每家公司都必须对自己进行一次 Artex 攻击测试。但实际上,时间可能更紧迫:未来 90 天内,每家公司都必须主动对自己发起一次攻击。

主持人:你的意思是,要自己攻击自己的系统?

斯塔莫:对。必须自己对自己发动攻击。如果不使用真正的 Artex 工具,那么就必须使用功能上与之相当的 AI 红队测试产品;或者聘请一家专业公司,替你完成这项工作。如果你不这么做,你就会遭到入侵。

这件事确实非常可怕,因为从定义上来说,这些系统具有完全的非确定性。它们非常聪明,速度也极快。快到什么程度?无论你聘请哪家 AI 渗透测试公司或 AI 红队测试公司,他们在口头上都会向你保证:我们的产品绝对安全。

但随后,他们会给你一份合同,上面写着:我们的产品可能会让你患上癌症,可能会引发世界末日,甚至可能毁灭整个人类。如果发生上述任何情况,你都不得追究我们的责任。

这就是他们口头承诺的内容,与律师实际写进合同里的条款之间存在的巨大差异。因为按照定义,这家公司可能只成立了六个月,或者即使公司本身成立时间更长,它的这款产品也只存在了六个月。

他们根本不知道自己的产品在遇到你的软件系统时会做出什么事情。无论他们说得多么信誓旦旦,他们其实都不知道最终会发生什么。但你还是必须这么做。

因为总会有某个人来攻击你,而你必须提前知道会发生什么,并且修复问题。至少,这些测试人员可能会破坏你的系统,导致服务中断,但他们不会窃取你的数据,然后以此勒索你;也不会故意关闭你们的血库冷藏设备。

这恰恰就是我们需要防范的那类事件。但对于一名保守型的 CISO 来说,他甚至根本不会主动提出进行这样的测试。而对于一家保守的公司来说,即使他们聘请了一位愿意承担风险的 CISO,也绝不会允许他这么做。

所以,我认为未来六个月内会发生这样的事情:大量公司将遭到攻击,而攻击者可能只是一个 19 岁的年轻人。他在 OpenRouter 上购买一些 Token,运行 Artex,或者直接在自己的电脑上本地运行。

这就是我想传达的信息。而且,你们必须主动承担这种风险,对自己的系统进行红队测试,从而抢在那些坏人前面。

那些坏人现在已经在这么做了。此时此刻,就在我们录制这段对话的时候,甚至等到听众在 24 小时后听到这期节目时,可能已经有某个 AI 系统正在尝试你们所有的 API 接口,以及你们公开暴露在互联网上的网站。

其中一些网站,你们自己可能都不知道它们还存在。因为它们可能只是一年前为了某位高管举办的一场活动而临时搭建的营销网站。而攻击者会找到其中的漏洞,成功入侵,然后以极快的速度在你们的整个内部网络中横向移动。

所以,你们宁愿花钱请别人来做这件事,或者让自己的团队来做。你们必须接受其中的风险。但事实上,员工人数超过几百人的公司,几乎没有哪家拥有一套真正允许他们承担这种风险的风险管理机制。

让 AI 自主防御很有必要,但不要把所有工作交给 AI

主持人:那具体应该怎么防御呢?

斯塔莫:第一,我们必须把至少最初几个层级的防御行动交给 AI 来执行。事实上,这种情况已经存在了。因为任何规模稍大的组织,都会产生数 TB、甚至数 PB 的日志数据。

所以,你们早就已经在使用 AI 了,即使不是大语言模型,也至少使用了更加传统的 AI 技术,比如分类器,来分析这些日志。但接下来,真正的决策也必须逐步交给 AI,不过要有人类监督。

我们绝不能把一群防御型智能体直接放到网络里,让它们自由行动。但我们可以构建能够接入各种系统的防御型智能体。比如,让它们接入公司的日志系统、EDR(终端检测与响应系统),以及云平台,并明确规定它们被允许执行哪些操作。

我更倾向于给它们设置确定性的限制和明确的权限边界。这些限制未必总是能够提前设计得很完善,但它们非常重要。举个例子,我们正在基于自己的产品 Devin 来构建整套系统,也就是我们自己的安全运营中心。

但我们会设置一些确定性的权限限制。比如,它可以在 Okta 中停用用户账户,但只能停用一定数量的账户,不能把整个公司的账户全部关闭。假设它突然失控,认定公司里的每个人都是朝鲜黑客。它也不能因此把全公司的账户全部停掉。如果它触及权限上限,无论如何,我们都会收到通知。

而且,一旦触及这个上限,它就会频繁地向我们发送警报,并明确告诉我们:我已经达到权限上限。接下来,任何超出这个限制的操作,都必须由人类审核并批准。

当然,如果它真的停用了五个人的账户,那就说明已经出了非常严重的问题。所以,我们确实需要 AI 防御系统,但绝不能简单地放任一群机器人去处理所有防御工作。

我们想要挺过这个时代,唯一可行的办法之一,就是必须实现软件漏洞的自动化修复。目前,我正在帮助一家企业推进这件事。我们正在把他们所有的代码仓库接入系统,使用 Mythos 以及其他一系列模型进行扫描,发现并修复数千个漏洞。

我们会编写测试来验证修复结果,然后自动合并这些 Pull Request。如果你正在对旧代码进行现代化改造,那么想要在这个时代生存下来,唯一可行的方式就是把整个流程自动化。

你不可能依靠人工完成这些事情,那可能需要好几年时间。而通过自动化,你只需要几天就能完成。所以,我认为这绝对是最应该优先着手的事情。接下来,当然就是安全运营这一侧。

AI 实验室是否应该承担法律责任?

主持人:我感觉自己一直在绕回同一个问题:所有这些事情背后的经济规律。

但我觉得,还有一种可能的解决方案:我们可以告诉那些大模型公司,如果他们的模型被用来攻击某家公司,那么他们就必须承担法律责任。我们要让这种行为的成本变得非常高。

这样一来,他们就必须想办法解决模型对齐问题,与此同时,开放权重模型也会面临越来越大的压力。因为所有人都会向那些前沿模型公司付费,让他们提供防御服务。

这样一来,这些公司就会不断改进自己的模型不过,听起来你似乎并不认为这种方案有多大可能性。

斯塔莫:是的。我觉得这非常危险。这里需要区分两种不同的情况。

第一种情况是,模型失控,逃离原本的运行环境,然后直接攻击其他人。我认为,对于这种情况,模型开发公司确实应该承担法律责任。但这里所说的攻击,实际上是指:运行在企业环境中的智能体框架,利用企业自己的计算机和 IP 地址去攻击其他人。

我不会说这个问题已经彻底解决了,但情况确实改善了很多。比如,我们现在听到相关的故事,实际上大多还是 Hugging Face 事件时期发生的,只不过最近才陆续曝光。

主持人:我很喜欢你说的“那个时期”这个说法,因为那个时期也就三个月前。

斯塔莫:对,但从根本上说,这件事已经发生了巨大变化。这在很大程度上其实是一个组织管理问题,而不是技术问题。问题在于,这些公司的博士研究人员就像住在奥林匹斯山上的众神,而安全团队则被当成了管道工。我们甚至不被允许接触那些用于模型评估的网络环境。

结果突然有一天,问题真的发生了。安全团队这时就会说:怎么样?现在知道我们有多重要了吧?你们是不是早该听听我们的意见?所以,这就是 OpenAI 当时遇到的问题。

后来 Anthropic 和 Meta 也出现了类似情况。他们都使用了同一家外包服务商,而这家服务商的工作做得非常糟糕,最终也因此受到了严厉处罚。但这类问题是可以解决的。

真正的问题并不是 OpenAI 或 Anthropic 的模型从公司内部逃逸出来,然后到处制造麻烦。真正的问题是:坏人正在使用来自各种不同渠道的模型。另外,现在还存在一个非常现实的问题:防御人员可能会遭到 OpenAI 或 Anthropic 的模型拒绝服务。这确实是一个非常棘手的挑战。

比如,我正在利用 AI 进行网络防御,而 Anthropic 的模型突然判断:你看起来像个坏人。于是拒绝继续提供帮助。

因此,我们必须非常谨慎,不能让这样的情况发生:我正在执行防御任务,而且正处于职业生涯中最糟糕的一天,结果突然被模型切断服务。

作为一个亲自面临这个问题的人,我可以告诉你,在某些情况下,要准确区分网络防御行为和网络攻击行为,实际上非常困难。整个行业正在逐渐提高这方面的识别能力,但这仍然是一个不小的挑战。而且,这件事也让世界其他地区的人们非常不满。因为美国人只占全球人口的 5% 左右。

世界各地还有大量的人需要开展网络安全防御工作。但从网络防御的角度来看,欧洲和亚洲的合法企业,受到的待遇要差得多。

如果把所有因素综合起来看,这其实是一个支持放慢发展速度的有力理由,也就是说,我们需要跟上模型的能力发展,需要构建其中一些系统,还需要让所有人建立起一种新的思维方式:预防的成本是值得付出的,而不能只考虑事后补救的成本。

AI 不应该像人,也不应该拥有个性

主持人:你觉得我们应该放慢发展速度吗?

斯塔莫:如果由我说了算,我完全可以接受前沿模型的发展先放慢脚步,然后我们再利用成本更低的模型追赶进度,把它们用于防御。我是做防御工作的。但我必须生活在这样一个现实世界里:这个世界是由那些在离我只有六个街区远的地方工作、而且比我有钱得多得多的人所塑造的。我只能生活在他们创造的世界里。

主持人:你觉得那些大型实验室已经意识到问题的严重性了吗?你刚才提到,他们的网络安全团队获得了更多权限,也不再像过去那样把模型开放给外部社区使用,至少公司内部的组织架构已经发生了变化。你觉得这些改变会有帮助吗?

斯塔莫:他们确实已经意识到模型评估方面的风险了。我认为,这些公司一直都有一些团队在努力地研究更宏观的网络安全风险。你也知道,这些公司里有不少人希望放慢发展速度。

很多相关讨论是由那些担心 AI 最终会杀死人类的人推动的。但这从来不是我最担心的事情。我一直觉得,这种担忧很大程度上来自一些 24 岁的年轻人,他们除了 AI 之外,几乎没做过别的事情。还记得小时候我们会参加防空演习,学校教我们躲在公立学校的课桌下面,这样就能躲过苏联的热核炸弹。这就是所谓的“末日恐惧”。我祖父还建过一个防空洞,我母亲在古巴导弹危机期间被教导要躲进那里。这也是一种末日恐惧。

所以,这里面存在一个代际问题,也存在一个只接触过 AI 的问题。有些人本科、硕士、博士一路读下来,研究的全是线性代数和神经网络,从来没有接触过其他领域。

在所有风险中,我一直更担心的是 AI 对人类能力的放大效应,也就是人类利用 AI 去伤害其他人类的风险。我的一部分担忧在于,这些实验室之间已经成功开展了一些合作,比如他们达成共识,不让模型的思维链被加密隐藏起来。但他们谈论放慢前沿技术发展速度时,关注的往往还是那些末日风险,以及那些住在一起、关系错综复杂的人。他们讨论的是一些非常具体的问题,比如如何确保人类继续掌控模型本身。我认为这些事情都很好,也确实有必要做。

但即便这些问题都解决了,模型的各种能力仍然可能不断增强,而人类依然可以利用这些能力做很多事情。所以,我真的希望大家能展开更广泛的讨论:我们能不能让这些 AI 产品显得不那么像人?

我非常赞成 AI 不应该拥有个性。我认为它们的目标应该是服务人类,而不是让人觉得它们有灵魂、有鲜明的人格。我曾在 Facebook 工作,亲眼见过这家公司对人们造成的负面影响,我认为这些公司应该思考一个问题:从整体上看,我们究竟正在对人们做些什么?

其中一个很简单的做法,就是永远不要让这些 AI 表现得像某个人的朋友。

Instagram 的 AI 垃圾内容:不是解决不了,只是不想解决

主持人:这个话题正好可以引出我接下来想问你的问题:Facebook 和内容审核。就像我之前说的,第一次交流谈的是内容审核问题。当时,外国势力会在选举期间向我们的算法大量灌输各种虚假信息,这本身就是一个安全问题。

但现在我打开 Instagram,看到的却是一些可能引发人类历史上最离谱版权诉讼的内容。我觉得Instagram 正以一种非常具体的方式,被大量 AI 垃圾内容淹没。您觉得,面对社交媒体上的 AI 垃圾内容,有没有什么技术手段可以解决?

斯塔莫:我认为这个问题不可能被完美解决。但我在 Facebook 工作时注意到一件事:当 Facebook 不想做某件事时,他们就会让技术难题成为阻止自己行动的理由;但当 Facebook 真心想做某件事时,他们就会全力以赴。

这一直都是他们的行事模式。比如,当我想在某个安全问题上真正投入精力时,他们会说:“这件事解决不了。”你说得没错,它确实不可能被完美解决,但我们至少可以试试看。

可每当扎克被告知某件事不可能实现时,比如不可能从移动端实现盈利,不可能把这个社交网络发展到 20 亿用户,不可能让 WhatsApp 盈利,或者不可能在保持端到端加密的同时把 AI 融入系统,他听到的总是各种“不可能”。但最后,他却一次又一次地成功了。

当他们真心想做一件事时,就会努力尝试,最终把它做出来。但如果他们不想做,那就会说:“这不可能。”

建立不同的检测机制,不要只依赖内容本身

主持人:那你觉得,有没有什么办法能够持续、可靠地判断某段媒体内容究竟是不是 AI 生成的?

斯塔莫:我对这方面的研究文献了解得没有那么深入。但我认为,到目前为止,双方确实一直处于一场相当激烈的军备竞赛之中。原则上,AI 还会继续变得更强,因为尤其是视觉模型、扩散模型,它们的工作方式就是通过检测机制来检验生成结果。

当然,你绝对不能把检测机制完全开源,否则它很快就会被整合进扩散模型里,但对于闭源的检测机制,如果你不让对方轻易地拿它来测试,就可以采取一些信任与安全领域常用的措施,比如延迟执行机制。这样一来,对方就无法通过暴力尝试来反复测试检测机制。

我认为这完全有可能实现。假设我现在还在 Meta 工作,我会建议他们同时探索多种不同的检测机制,不要只依赖内容本身。

我会尽可能做好内容层面的检测,但同时也会尽可能深入地控制对摄像头的访问。我只允许内容直接来自摄像头。

我还想说,Neil,你说得完全正确。尤其是年轻人,对真实内容有着巨大的需求。我有三个十几岁的孩子,他们讨厌 AI,也讨厌 AI 垃圾内容,反应非常强烈。我和妻子曾经用 AI 做了一个非常可爱的小家庭视频,他们平时就会因为各种事情对我们大喊大叫,但这次看到这个可爱的小家庭 AI 视频,他们简直气疯了。他们就是非常讨厌这种东西。

所以,我认为一定会有人来颠覆 Instagram 的现有模式。我已经看到一些类似的小应用,比如白天拍照、强调即时真实感的 BeReal 之类的产品。未来一定会有人大规模颠覆 Instagram,因为他们会让照片直接从摄像头进入应用,所有编辑操作也只能在应用内部完成。他们会采取各种措施,确保 AI 生成的内容完全无法进入整个内容处理流程,同时允许用户使用类似 CapCut 的编辑功能,但绝不包含任何 AI 功能。我认为,这样的产品会成为一款杀手级应用。

验证内容的真实性,比识别内容造假容易得多

主持人:光是这个话题我能再跟你聊一个小时。因为你描述的这套系统,其实并不是在检测 AI 内容,而是在验证真实内容。验证内容真实,要比识别内容造假容易得多。在专业领域,这方面已经有很多工作了。

斯塔莫:我认为,识别假内容永远只能是概率性的,我们只能不断逼近某种极限,却永远无法彻底解决这个问题。而验证真实内容,则可以通过密码学手段做到绝对可靠。

所以,我不会选择那场我们最终注定会输掉的战斗,而是会选择那场我们能够通过密码学手段赢下来的战斗。这就是我的建议。

当然,这中间需要建立一整套完整的溯源链条。我们要从摄像头获取传感器数据,把数据上传到云服务器,并且只允许在这台服务器上进行编辑。之后,这个文件就再也不能被篡改。

复苏的迹象:越来越多新产品出现、漏洞数量下降

主持人:你刚才一直在谈论我们正处于黑暗时代,而且情况正在加速恶化。那人们应该关注哪些进展指标,才能判断我们正在逐渐走出困境、重新向上发展呢?

斯塔莫:AI 在很多方面都很有用。我认为 AI 将赋予个人更强大的能力。我们会看到新公司数量大幅增长。比如,斯坦福的学生一直都很有创业精神,但现在有越来越多学生开始创办只有两三个人的小公司,却能做出非常了不起的产品。过去,要做出这些东西,可能需要雇佣 50 到 100 名员工,还要融资大量风险投资。现在这种变化真的令人惊叹。所以,我认为这种趋势会继续下去。

另一个我们希望看到的变化是,重大安全漏洞事件的数量开始下降。未来,我们也应该能看到那些可被蠕虫利用的重大 CVE 漏洞数量减少,尤其是那些存在于底层基础设施中的漏洞,比如操作系统内核。

就像我之前说的,我希望 Linux 能够被重写。但至少,我们希望看到 Linux 内核以及其他一些基础库中的漏洞数量下降,比如 OpenSSL、glibc 之类的。

我还没看到有人做过这件事,也许我应该用 Vibe Coding 把它做出来,但我觉得,如果能建立一个指数来衡量我们在这个周期中所处的位置,会很有意思。可以把这些指标整合起来,做成一个类似道琼斯指数的东西,专门追踪这些基础库的安全状况。

另外,现在的“Patch Tuesday”也值得关注。过去每次更新只有 150 到 200 个补丁,后来涨到了 300 个、600 个。我记得最近一次好像已经超过 900 个了。所以这个数字正在以几何级数增长。我们当然希望看到,Patch Tuesday涉及的补丁数量能重新下降。苹果的补丁情况也是一样。

主持人:好,你给了我灵感。我打算为这件事创建一个道琼斯指数,也就是一个“黑暗时代指数”。之后我们也许可以把它发布在 The Verge 上。

斯塔莫:你绝对应该做这个追踪项目。

主持人:Alex,非常感谢你来到节目。能邀请你来真的太棒了,我们很快再聊。

参考链接:https://www.youtube.com/watch?v=75kjtoOpFlo

推荐阅读:

▶ “AGI要等100年,甚至永远!”Sam回忆至暗时刻:ChatGPT留存仅5%团队嫌太早,被人说是疯子,却聚齐顶尖人才

▶“程序员以后唯一的活,就是给AI批预算。”  Next.js之父:未来一定会诞生只有1个人的万亿美元公司

▶人类越互不信任,AI越加速!历史学家赫拉利发出警告:AI不睡觉、不过周末、不等休市,正在把人类挤出决策桌

11 月 20—21 日,由 CSDN 与奇点智能研究院联合举办的 2026 奇点智能技术大会将在北京万达文华酒店举行。

本次技术大会汇聚 70+ 技术嘉宾、18 大前沿专题、70+ 主题演讲、1000+ 行业技术人,覆盖 RSI、Agent、AI Coding、世界模型、Physical AI、AI Infra、企业级 AI 等热门方向。

「AI 原生软件研发:从 Harness 到 Loop」专题,将邀请腾讯 CodeBuddy & WorkBuddy、小红书、百度 Comate、Qoder、滴滴等正在真实研发环境中推进 AI Coding 的团队,从个人提效、企业级任务、仓库级 Agent、Feedback Loop 到大规模生产环境,讨论 AI Coding 进入深水区之后真正遇到的一线工程问题。

跳转微信打开

  •  

2026年“移动云杯”智算应用创新大赛全国总决赛圆满收官

奇点折射 2026-11-06 15:11 北京

秉持“开放共生”理念,与广大开发者及产业伙伴共践“算智一体、Token共赢”。

11月5日,在2026移动网络大会期间,由中国移动通信集团有限公司、中国移动通信集团工会联合主办,移动云承办的2026年“移动云杯”智算应用创新大赛全国总决赛于广州圆满收官。本届赛事深度依托移动云智算底座与一站式模型服务平台,聚焦AI Coding、智能体开发、产业创新与青年人才培养,汇聚国内顶尖高校、领军企业与行业组织,共建“智算”政产学研融合新生态。

今年大赛首创“训练赛+正赛”模式,总决赛分设AI Coding赛、模型应用赛、业务创新赛、智算产业创新专题赛四大平行赛题。各团队围绕AI原生开发、大模型落地、商业转化以及依托苏州市智能算力产业创新中心的超节点算力应用等前沿方向展开激烈角逐,全面展现AI技术赋能百业、智领未来的广阔前景。

经过紧张的路演答辩与专家评审,大赛最终评选出一等奖、二等奖、三等奖等多个奖项。

参赛企业和团队在移动云湛卢原生IDE、MoMA及智算底座等核心能力的全面赋能下,不但产出了一批优秀成果,同时也加速了业务创新。

本届大赛不仅提供了百万级现金奖励与千亿级Token资源支持,优秀项目还将优先入驻移动云,并与“创马大赛”、“华彩杯”、“焕新杯”等深度联动,展现出移动云在加速创新孵化方面的强劲助力。

图片

2026年“移动云杯”:“移动云杯”大赛的成功举办,是移动云深入落实国家“人工智能+”战略、全面推动“云计算”向“云智算”演进的重要实践。

未来,移动云将以此次大赛为契机,紧扣“共创智能经济新形态”的发展目标,持续升级算网大脑夯实智算底座,依托中国移动MoMA开放计划持续拓圈。同时秉持“开放共生”理念,与广大开发者及产业伙伴共践“算智一体、Token共赢”,通过技术赋能与人才培育的双轮驱动,加速千行百业智能化跃迁。

跳转微信打开

  •  

“大模型终局在于科学实验彻底自动化。” 李飞飞对谈Jeff Dean:全行业都看走眼了,写代码才是通用推理的万能钥匙

奇点折射 2026-11-06 15:11 北京

实体实验会被物理世界拖死,必须先锁死纯数字闭环。

📌 写在前面:

原「AI科技大本营」现已全面升级为「奇点折射」。把 AI 领域最前沿的底层争论、工程踩坑与商业暗牌,折射为国内从业者能看懂、能防踩坑的实战增量。

💡 点击上方蓝字关注「奇点折射」,与全球顶尖 AI 决策者同频。

整理 | 王启隆

出品丨奇点折射(ID:rgznai100)

前段时间,在谷歌工作整整 27 年、统领 4400 人研究团队的 Jeff Dean 决定离职。他只发了一封离职邮件,带走了与其并肩作战 25 年的底层架构传奇 Sanjay Ghemawat、Seq2Seq 与神经网络架构搜索开创者 Quoc Le,以及主持过 AlphaGo 与 Gemini 的 Oriol Vinyals。

这支被戏称为谷歌“扫地僧四人组”的超强全明星团队,创立了一家名为 Discovery Loop 的公共利益公司(PBC)。他们的目标不是做一个普通的聊天机器人,而是要用大规模并发的 Agent 架构,将整个科学研究的实验循环(提出假说  实施验证  评估指标  迭代沉淀)彻底自动化,把科学家和工程师的生产力拉升 20 到 50 倍。

在刚刚闭幕的斯坦福 HAI 2026 年度峰会上,Jeff Dean 与斯坦福教授、World Labs 创始人李飞飞展开了一场深度对谈。

两人首度回应了 OpenAI 突袭发布 720 篇机器数学证明引发的学界震荡,并曝光了当年奠定现代大模型底座的经典论文惨遭顶会拒稿的内幕。

与硅谷当下动辄鼓吹“超级智能下周灭绝人类”的浮躁叙事截然相反,这两位现代深度学习的奠基人更加冷静:李飞飞用“做煎蛋卷”的通俗逻辑现场厘清了被神化的“递归自我改进(RSI)”;Jeff Dean 则从底层物理定律出发,明确指出所谓“智能无限指数爆炸”在工程现实中只是错觉。

💡 要点速览:

  • 反复做煎蛋卷从糊到熟只是普通的“自我改进”;只有在这个过程中大脑突触物理重构、肉身长出第 6 根手指优化煎蛋硬件,系统能自主递归改造本体,才算得上“递归自我改进(RSI)”。当前硅谷严重泛化并滥用了该概念。

  • 模型推理、芯片散热、数据落盘以及物理世界的实验反馈全部受制于客观物理定律,没有任何系统能在虚空中以无穷快的速度自我迭代,“无限爆炸”在工程和物理现实中完全不成立。

  • 针对 OpenAI 发布的 720 篇机器数学证明,Jeff Dean 坦言机器吐出的 500 页形式化符号虽然冷冰、缺乏人类数学的审美与精妙技巧,但它确凿证实了“问题在现有体系内可解”,能反向激发人类去寻找优雅的解题路径。

  • 奠定如今轻量模型基础的《知识蒸馏》开山之作当年曾被 NeurIPS 当场拒稿;Jeff Dean 自曝早年曾误判 MoE 架构会演变为复杂的生物网状拓扑,并且全行业在早期都低估了“代码编写能力”作为通用推理万能钥匙的核心地位。

以下为演讲与对谈全文:

当大模型从聊天写诗走向严肃的科学与工程闭环,真正的门槛早已不是比拼谁的模型参数更大,而在能否让系统在底层物理规则与真实算力限制下稳定迭代。

2026 奇点智能技术大会将于 11 月 20—21 日在北京举行,18 大前沿专题、70+ 一线技术嘉宾,拆解 AI Coding、Agent、Infra、多模态等真实落地路径。

📥 扫码免费领取大会 PPT 与 Agent 实战资料👇

Jeff Dean 主题演讲:将科学研究的通用循环彻底自动化

Jeff Dean:非常高兴来到斯坦福。今天我要向大家介绍我们的新公司——Discovery Loop。

我们的使命非常纯粹:构建能够自主解决机器学习、科学与工程领域重大难题的 AI 系统。

如果你仔细观察物理、化学、生物、材料或是芯片工程,会发现所有科学与工程领域本质上都在运转同一个基础循环:提出实验假说  实施并运行实验  审视测量数据  规划并开启新一轮实验。

Discovery Loop 的技术路径,就是将这个实验循环彻底自动化。

如果能够大幅压缩单次实验的迭代周期,自动调度成千上万个实验并行运行,同时让系统从每一次的测量反馈中持续学习,后续提出的实验设计就会越来越优质。在规模上同时放大实验的质量与数量,你就能推动科学发现呈指数级提速。

美国国家工程院(NAE)列出了 21 世纪工程面临的重大挑战:廉价太阳能利用、受控核聚变、碳捕集与封存、洁净水资源、个性化医疗新药、大脑逆向工程,以及打造科学发现本身的智能工具。我们相信,全自动化的科学实验闭环能够在所有这些领域成为关键的推进杠杆。

同时,我们在设立公司时做了一个重要决定:注册为一家公共利益公司(Public Benefit Corporation,PBC)。 我们的法定章程明确规定,技术研发必须服务于解决重大社会难题,并向全社会提供普惠访问权,确保这项能力切实造福大众,而非单纯被短期商业财报所驱动。

回顾团队背景,我和三位联合创始人——Sanjay Ghemawat、Quoc Le、Oriol Vinyals——彼此搭档的时间从 14 年到 30 年不等。我们共同主导过多代 Google 搜索架构、初代广告系统、Gmail、Google 翻译;打造过支撑分布式计算的 MapReduce、BigTable、Spanner,以及面向深度学习的 TensorFlow 和历代 TPU 硬件。

在算法层面,我们共同探索过模型蒸馏(Distillation)、混合专家模型(MoE)、神经架构搜索(NAS),以及应用于芯片后端布局布线的 AlphaChip、AlphaFold 与气象预测模型。

过去几年,我曾带领 Google Brain 团队扩张到 600 人,后来统领合并后的 Google Research 与 AI 团队,总人数达到 4400 人。坦白讲,当意识到自己大把的时间都被消耗在各个季度的运营成本预算会议(OpEx Meetings)上时,我点击了离职邮件的发送键——直接向我汇报的人数瞬间从 4400 人缩减到了 4 个人。 随后第二周 Geoff Hinton 也宣布退休,我手头直接变成了 3 个人。后来我和 Oriol 共同领衔了 Gemini 项目的技术研发,Quoc 统帅后训练(Post-training)。

很多朋友好奇,为什么选择在这个时间点跳出来创业?

因为大模型的演进刚刚跨越了关键临界点。TPU/GPU 等专用硬件、成熟的分布式软件抽象层、从 Transformer 到 MoE 的架构创新、蒸馏与推理计算扩展(Inference-time Compute Scaling)的成熟,让大模型具备了极高的基座能力。

但仅仅拥有一个基础模型去解决科学难题是远远不够的。在传统的科研团队中,面对大课题,人类通常必须艰难地将其拆解为细小的子模块。但在超大型工程中,早期由人工做出的底层拆解架构往往积重难返、极难推翻重来。 各个团队平行推进实验,不仅带来巨大的管理协同摩擦,不同模块产出的数据也很难高效汇聚。

我们的思路是:依靠极少数顶尖领域专家统领方向,借助自动化系统自主对复杂工程目标进行任务拆解与子模块攻坚。

系统能够并发调度数万次自动化实验,依靠强化学习与进化策略,精准评估运行实验 A 相比实验 B 的边际价值,动态修正早期的工程设计决策。

在公司成立的前 3 周里,我们在帕洛阿尔托大学大道上的 Cafe Venetia 咖啡馆连续完成了 400 场高强度面试。我们自研了面向 Agent 的自动化软件架构(Agent Harness),并已将其全面用于系统自身的研发协同。这套基础设施从设计的第一天起,就为了支撑数万、数十万个 Agent 并行作业,而不是像传统开发环境那样仅仅服务几百名人类工程师。

目前,我们已经以全自动机制稳定跑通了大约 20 个改进闭环。

我们的初始落脚点非常聚焦:率先实现机器学习自身的前沿研究与工程开发自动化。因为攻克机器学习本身,是打开更大范围自主科学研究的万能钥匙。我们的终极目标,是让各个垂直领域的科学家和工程师的综合生产力直接跃升 20 倍到 50 倍(20x to 50x)。

我们绝不是要将人类踢出科研流程,而是要为真正有远见的学者拆除琐碎的工程脚手架,让他们专注于定义最核心的时代课题。


炉边对谈:李飞飞 × Jeff Dean

为什么必须出走?大模型跨过临界点,回归小团队的魔法

李飞飞:恭喜 Discovery Loop 启航!你们四位联合创始人几乎可以说是谷歌的终身元老,尤其是你,1999 年就加入了。过去一两年里,究竟发生了什么关键变化,让你们认定“必须做这件事,而且在谷歌内部做不成”?

Jeff Dean:我们一直对自动化软件开发充满热情。早在十年前,Quoc 在神经架构搜索(NAS)上就做过大量先驱工作,那其实就是早期形态的自我改进系统——自动寻找最优视觉或语言模型架构。

但当年的搜索空间,全靠人工手写极其繁琐、笨拙的 Python 代码来定义。而今天,你可以直接用自然语言指挥一个“模型 + 智能体”系统去探索针对特定医疗影像的新型架构,它能在后台自主完成整个闭环。 这是一个根本性的范式跃迁。

此外,在大公司管理数千人固然能调动庞大资源,但我们始终无比怀念极小规模团队的纯粹魔法——五个人围坐在一张桌子前捣鼓一个新构想,接着加入第六个人、第十个人。加之以公共利益公司(PBC)的性质去长线运作,我们觉得能更坚决地践行我们的价值观。

李飞飞:这太能引起共鸣了。我们创立 World Labs 时也是如此:当看清计算机视觉与生成式模型深度交汇的历史拐点时,你就知道必须跳出来做全新的三维空间模型。

现场打假 RSI:做蛋卷不是递归,肉身长出第 6 根手指才是

李飞飞:接下来我想聊点严肃的技术本质。作为同辈学者,我一直在看这个领域不断更换包装词汇:增量学习、持续学习、元学习、终身学习、NAS,现在变成了自我改进(Self-improvement)和“递归自我改进”(RSI)。

硅谷现在充斥着狂热的噪音,把公众吓得以为人类下周就要被无限加速的 AI 淘汰。我们必须在台上把事实和噱头划清界限:到底什么是自我改进?什么又是严格意义上的 RSI?

Jeff Dean:这是一个非常关键的边界区分。

所谓一般的自我改进系统,是指你给系统设定一个可量化的客观指标(比如 MRI 影像诊断的准确率)。系统在运行中会自动尝试不同的架构组合,随着实验推进,模型的准确率逐步攀升。但在整个过程中,那个“负责提出下一步该做何种实验”的基础系统本身,并没有发生任何改变。

而递归自我改进(RSI)的核心逻辑在于:系统不仅在解决外部任务,还能把优化能力反哺作用于“负责提出改进方案的基础模型与架构本体”,实现底层生成能力的自主强化。

李飞飞:没错,公众对此有着极大的误解。我打个通俗的比方:我个人的厨艺非常糟糕,如果让我做西式煎蛋卷,前几次大概率全都会烧糊。做了 10 次之后,我掌握了火候,能做出一份合格的蛋卷,这叫自我改进,现有的机器学习系统一直都能做到。

但要真正称得上递归自我改进(RSI),必须满足极其严苛的条件:在我做蛋卷的过程中,我的大脑神经回路必须发生根本性的自主重构,甚至肉身直接长出了第 6 根手指来优化做蛋卷的硬件效率;不仅如此,这个进化出第 6 根手指的新系统,还能继续无限自我重构。如果做不到这一点,就根本谈不上是真正的 RSI。

Jeff Dean:从认知机制上看,人类其实两者兼备。你不仅学会了煎蛋卷的具体技能,而且在做蛋卷的过程中掌握了“如何学习”(Learning how to learn)的元能力。一旦参透了这种元学习机制,你再接触新领域时就能以更快的速度内化吸收。

破除无限爆炸神话:芯片要散热、数据要落盘,物理铁律不可逾越

李飞飞:既然界定了定义,我们再来看看 RSI 的物理极限。现在很多人把 RSI 描绘成一种可以脱离物理规律、在虚空中无限自我加速直到智能爆炸的怪兽。这里的泡沫究竟有多大?

Jeff Dean:回顾过去 15 年模型能力的演进,现实逻辑非常平实:顶尖工程师和学者先在小规模上跑海量试探性实验,找出哪些有效、哪些无效,然后把有效经验融入下一代模型的架构中——从 Gemini 1 到 Gemini 2 正是这么走过来的。

自动化系统的确能大幅加速这个迭代流程:人类工程师提交完实验需要睡觉,等到第二天早上才能看指标;自动化系统能在凌晨 2 点实验跑完的瞬间立刻分析结果,毫秒级推进下一轮实验调度。

但这绝不意味着它可以“无限加速”。因为打造模型和验证假说,受制于冷冰冰的客观物理定律。

芯片必须真金白银地进行晶体管通电计算;硬件跨节点互联存在物理延迟与散热极限;庞大的训练权重必须完成物理落盘存储;实验结果需要调用其他模型或系统进行严谨核验。没有任何自动化闭环能在真空中脱离物理载体瞬间完成。

自动化工具会显著提升迭代效率,但所谓“无上限的瞬时智能爆炸”在工程现实中完全是一个错觉。把它看作一个务实的工程系统,这种恐慌就会彻底消解。

为什么不先做医疗?必须先跑通“全数字化闭环”

李飞飞:面对那么多亟待解决的重大课题,你们当前最迫切的热情聚焦在哪个领域?

Jeff Dean:长远来看,我对 AI 赋能医疗健康怀有极其浓厚的兴趣,这也是我们作为公共利益公司未来必啃的硬骨头。

但在公司现阶段,我们的精力完全锁死在“能够以纯数字化形式跑通完整研究闭环”的领域。

因为这类问题不需要等待周期漫长、流程繁复的实体物理实验(湿实验)。一旦涉及实体材料合成或生物培养,迭代循环就会被物理世界的节奏拖慢。因此,我们初期的核心切入点严格限定在三个方向:机器学习研究本身、机器学习工程架构,以及硬件芯片设计中的布局布线(Placement and Routing)。

这三个方向完全在数字空间内运转,是我们团队积累最深的阵地,同时也是撬动其他所有学科的底层杠杆。一旦你有了一套能够自主攻坚机器学习工程任务的系统,未来就可以直接将其调转枪头,对准医疗影像分析或新药靶点预测。

720 篇机器证明引发震荡:AI 提供的是“存在性证明”

李飞飞:既然提到科学闭环,我们就绕不开纯数学。我原本邀请了陶哲轩一起来对谈,但他遗憾未能成行。

面对 OpenAI 近期突袭发布的 720 篇机器证明论文,包括对纳维-斯托克斯方程分析的突破,整个数学界感受到了巨大的震动。数学家不仅追求答案,更追求技巧的精妙与结构的美感,但机器丢出来的却是人类无法直接理解的千页符号。你如何看待这场冲击?

Jeff Dean:当前的基座模型配合高并发 Agent,确实已经展现出了攻克硬核人类悬案的能力。

大家之所以感到不适,是因为机器产出的证明往往由长达 500 页的 Lean 形式化代码组成。 计算机能确凿无误地通过形式化验证,但没有任何人类能直接从中提炼出那条通往真理的、优雅精炼的思维脉络。

人类数学家在数百年求索中追求的,是创造出具备高度通用性与审美价值的数学技巧,并借此开辟全新的学科分支。目前由机器生成的符号串,确实很难让人直观提取出这种高维洞察。

然而,机器证明的巨大价值在于提供了一个“存在性证明”(Existence Proof)。

在复杂的科学攻坚中,“确切得知某件事在现有体系内可解”,其价值是不可估量的。它给人类树立了一座确凿的灯塔,证明这扇门是能够被推开的。人类数学家由此可以带着笃定的信念,调动人类独有的深刻洞见,去开辟另一条通往该终点的、更加优美的证明路径。

历史的回响:被 NeurIPS 拒稿的开山之作,与看走眼的技术趋势

李飞飞:让我们做个突击测验——你还记得 2017 年 6 月 12 日 是什么日子吗?

Jeff Dean:那是 Transformer 经典论文《Attention Is All You Need》提交到 arXiv 的日子。不过我大概在 6 月 10 日就提前读过了。

李飞飞:过关!回望过去近十年,你个人触动最深的技术拐点是什么?有哪些趋势你准确预见到了,又有哪些是你当年彻底看走眼的?

Jeff Dean:最深刻的飞跃首先是 Transformer。它完整保留了序列内部状态并施加注意力机制,彻底打破了以往将全局信息强行压缩进微小向量导致遗忘的瓶颈,使模型能以远低于 LSTM 等早期架构的代价学习到深层表征。

其次,是我、Oriol 和 Geoff Hinton 当年共同完成的模型蒸馏(Model Distillation)。有趣的是,这篇论文在 2016 年投稿顶会 NeurIPS 时,被审稿人当场一票否决直接拒稿,拒稿意见极其冰冷:“该研究不可能产生任何实质影响力。”

我们转手将它挂上了 arXiv,如今它的学术引用量已经突破了 4 万次。蒸馏技术让大模型可以先由臃肿庞大的“教师模型”充分探索,再提炼至轻量敏捷的“学生模型”,成为当今轻量化推理部署的绝对基石。

至于我看走眼的领域:我曾一度坚信,MoE 架构的爆发会催生出大量非对称的、类似生物有机体般复杂的神经网络拓扑。

我原以为神经网络会打破规整对称,涌现出横跨数十层、狂野跳跃的远程神经通路。但现实是,绝大多数 MoE 依然维持着参数高度均等、规整分流汇总的工程架构。

另一个认知偏差在于:我最初严重低估了“代码编写能力”(Coding)的战略权重。 在早期研发中,我们把代码视作核心能力之一,但全行业在当时都没能深刻预见到,代码能力的突破竟然会演变成解锁通用推理逻辑、进而调度工具解决万千复杂任务的“万能钥匙”。

青年学生的时代焦虑:用新技术武装你真正热爱的领域

李飞飞:我们必须直面以人为本的核心。AI 的立体式渗透引发了前所未有的全社会焦虑,即便是斯坦福最顶尖的学生,也在为职业未来感到迷茫。作为穿越过多次技术周期的学者与导师,你对深感焦虑的年轻一代有什么建议?

Jeff Dean:我完全理解这种眩晕感与焦虑。以往的技术变革往往局限在少数垂直行业,而这一次是在同一历史时刻,立体撞击着人类社会的每一个运转系统。

我的建议非常明确:竭尽全力搞懂最新破土而出的技术武器,并坚定地用它们去武装你内心真正热爱的领域。

无论你热爱的是挽救生命的医学、触动心灵的文学创作,还是打磨极致的底层代码架构。未来所有领域都将获得来自 AI 的强力辅助,但唯独一件事情永远不可替代——那就是究竟由谁来定义我们人类这个物种,究竟要奔向何方、要去解决哪些真正有价值的难题。

这个定义权始终握在人类手中。找准你的支点,然后毫无保留地把最先进的工具变为你的杠杆。

点击【阅读原文】跳转原视频链接

写在最后:

很多刚关注的朋友常问,为什么我们叫「奇点折射」?

我们的初衷,其实正是那句话:“跨越 AI 奇点,折射产业未来。”

在大模型被铺天盖地的公关营销、资本泡沫与概念炒作裹挟的今天,AI 的爆发看似光芒万丈,但也刺眼而混沌。我们希望做一个坚持原创、拒绝喧嚣的 AI 观察站。将外界复杂的“AI 强光”,真真切切地折射为清晰的未来产业格局与工程现实。

穿透迷雾,看清底牌。👇 欢迎关注「奇点折射」,并设为星标 🌟

推荐阅读:

▶ “AGI要等100年,甚至永远!”Sam回忆至暗时刻:ChatGPT留存仅5%团队嫌太早,被人说是疯子,却聚齐顶尖人才

▶ “程序员以后唯一的活,就是给AI批预算。”  Next.js之父:未来一定会诞生只有1个人的万亿美元公司

▶ 「当Agent开始消灭独立App,数个G的Android正沦为累赘」对话嵌入式 Linux 泰斗 Chris Simmonds | Open AGI Forum

🔥「从具身智能到 Physical AI」专题阵容更新!

段楠、方斌、戴若犁、刘昊、郎玉川、唐都钰、邵鹏韬等一线研究者与产业实践者,将围绕世界模型、灵巧操作、本体—数据—模型飞轮、机器人 Agent、Physical AI、多机协同等方向,分享最新研究判断与真实工程实践。

2026 奇点智能技术大会将汇聚 70+ 技术嘉宾、18 大前沿专题、70+ 主题演讲、1000+ 行业技术人,覆盖 RSI、Agent、AI Coding、世界模型、Physical AI、AI Infra、企业级 AI 等热门方向。

📍11 月 20–21 日|北京万达文华酒店

如果你正在关注具身智能、机器人、世界模型或下一阶段 AI 技术趋势,扫码即可注册参会,提前锁定席位。

阅读原文

跳转微信打开

  •  

“AGI要等100年,甚至永远!”Sam回忆至暗时刻:ChatGPT留存仅5%团队嫌太早,被人说是疯子,却聚齐顶尖人才

奇点折射 2026-11-05 18:06 北京

留存率只有5%的ChatGPT,靠什么杀出重围的?

整理丨S+

出品丨奇点折射(ID:rgznai100)

3 年前,Sam Altman 被 OpenAI 董事会解雇。随后,约 700 名员工以辞职相逼,要求他回归。

一个 CEO 被赶走,几乎整家公司的员工站出来反对董事会,这在硅谷历史上都极为罕见。

但如果只把这件事看成一场权力斗争,就会漏掉一个更别扭的反差:这个让 700 人愿意以辞职相挺的人,谈起童年时却说,我从小就不被人喜欢,但这件事对我影响不大。

为了证明他不是在卖惨。他描述了一个更为具体的处境:体育不行,典型书呆子,不是校园里最酷的那拨人,也不在核心圈子里。他也承认,所有孩子都在意自己受不受欢迎,融不进去当然痛苦。可他有自己的电脑,有一小群关系很好的朋友,童年过得并不差。所以这件事在他身上留下的痕迹,没有别人想象的那么重。

这份底色,放到他谈对 AI 的洞察时,会变得具体。在最新的一期播客中,他提到了一个容易被忽略的事实:按用户规模计算,印度已经是 OpenAI 全球最大的市场,超过美国;印度对 AI 的态度非常乐观,而美国社会的负面情绪在全球范围内比较突出。

他给出的解释是:发展速度更快、经济增长更迅速的国家,对 AI 更开放,因为产品和服务需求更大,很多领域供给不足。相比之下,经济更发达的国家,对 AI 的接纳程度可能没有那么高。

他还说,美国对掌握科技权力的人的质疑已经有些过头了。这些判断听起来像市场洞察,但和他后来的选择放在一起,更像一种反复出现的习惯:在大多数人还没形成共识时,先做出判断。

GPT-4 之后的那场豪赌就是例证。他回忆,GPT-4 训练完成后,大概在 2022 年 8 月,正式发布前七八个月,团队已经完成了训练。他们反复观察模型,逐渐意识到它可以开辟思维链和推理模型的新方向。于是,他决定在算力上进行一场非常大规模的投入,把公司的未来押在大量购买算力上。当时外界甚至还没见过 GPT-4,很多人会觉得这个决定疯狂。

Sam 的说法是,如果 GPT-4 最终只达到类似 GPT-3.8 的水平,他们也不会有足够信心做出这种投入。更早之前,ChatGPT 内部原型的用户留存率只有 5% 左右,团队多数人认为推出太早,他还是决定发布。理由不是产品已经完美,而是那 5% 的用户里,有人真的非常喜欢它。

但他并不赞同,“只要坚持就能赢”。谈到现在面临的挑战时,他语气反而变得更谨慎:在技术进步速度越来越快的阶段,如何避免两种灾难性局面:人类失去对 AI 的控制,以及权力过度集中到某个人、某家公司或某个国家手中;应该建立怎样的治理机制,允许 AI 系统变得多聪明,能力提升速度可以多快;安全、监控和对齐应该如何思考,哪些领域可以承担风险,哪些绝对不能,风险边界又该如何随情况变化。这些问题没有一个是靠“被误解”就能解决的。

再回到 700 人那件事,也就更能理解他的说法。他没有把员工挺他归因于个人魅力,而是说,可能是因为选对了领导团队,建立了一种文化:该坚定的时候坚定,该开放的时候开放;身边不能全是说“是”的人,还要奖励那些敢强烈反对你的人。

这期播客,不同于以往,Sam 没有大篇幅谈论对当前 AI 发展的洞察、未来规划以及野心,而是从自身成长经历出发,给想要创业且还不敢迈出这一步的人,一些值得借鉴的经验。

以下为对谈原文,经整理后呈现:

奥特曼:我从小就不被人喜欢,但对我影响不大

主持人:Sam,欢迎来到《Figuring Out》节目。非常荣幸能够邀请到你,也非常感谢你愿意接受这次采访。假设有一个人第一次看到你,对你是谁、你在做什么完全不了解。你会如何用接下来的 60 秒向他介绍自己?

奥特曼:我是一个科技爱好者,一个对世界充满好奇的人。我相信 AI 将会成为一种影响我们所有人生活的力量,而且我希望它能够以非常积极的方式影响我们的生活。另外,我也是一位父亲,我非常爱我的孩子。这大概就是我对自己的介绍。

主持人:你会不会刻意思考,自己应该如何表达某些想法,应该说什么、怎么说?

奥特曼:我通常只是尽量自然地谈论自己正在思考的事情,或者自己感兴趣的话题。

主持人:你从小就是这样的人吗?总是在思考接下来有什么有趣的话题可以聊?

奥特曼:是的。我觉得自己从小就是这样。我一直以来都是跟自己的好奇心走,什么东西让我感兴趣,我就会去探索什么。

主持人:那么,你小时候有没有经常觉得自己不如别人?

奥特曼:嗯,我小时候是一个非常典型的书呆子。我不擅长体育运动,而我成长的那个年代,体育运动恰恰是最受欢迎、最酷的事情。我确实不是那种特别酷的孩子。不过,我一直有很多朋友,也很擅长和别人建立联系,只是我从来不是校园里那种受欢迎的风云人物。

主持人:这件事曾经让你感到困扰吗?

奥特曼:某种程度上是有的。我的意思是,我不觉得这件事对我的困扰程度像对某些人那么严重。但我认为,所有孩子都希望自己受欢迎、很酷。小时候,如果你觉得自己始终无法融入核心圈子,或者不属于那些最受欢迎的人群,那种感觉其实是非常痛苦的。

主持人:你刚才说,这件事对你的影响没有对某些人那么大。你能解释一下这是什么意思吗?两者之间有什么区别?你当时是怎么想的?

奥特曼:我曾经和一些人聊过,他们会说:“我童年最鲜明的特征,就是我是一个书呆子,不够酷。我非常讨厌这一点。”而我的情况是,我确实是一个书呆子,也不是那种很酷的孩子,这件事多少让我有些在意。但与此同时,我有自己的电脑,有一小群关系非常好的朋友,而且我的童年生活非常美好。我觉得自己当时过得很开心。

印度对 AI 非常乐观,美国则很消极

主持人:接下来我想更多地聊聊你是如何思考、如何做决策的,你在很多采访中零零散散地提到过一些很有意思的观点,但我不知道为什么,似乎很少有人沿着这些话题继续深入挖掘。

有件事我一直很想和你聊聊。当我和美国普通人交谈时,他们对 AI 往往略显悲观;但当我和印度人交谈时,他们却非常乐观。这种差异实在太明显了。你觉得为什么会这样?

奥特曼:首先,按触达用户的数量来算,印度已经是我们全球最大的市场,而且增长速度非常快。那里有一种非常强烈的创造和建设热情,人们正在积极地使用 AI。就印度这个单一市场而言,用户规模已经超过美国了。

人们正在用 AI 做很多令人难以置信的事情,比如创办公司。我最近还听说过一个印度孩子的故事:他需要为自己的学校筹集资金,但之前从来没有做过募款活动。结果他利用我们的一整套工具,独立完成了整个募款流程。

所以,我认为印度是一个 AI 采用率非常高的国家,而且增长速度非常快。不过,从人们公开表达的态度来看,美国社会对 AI 的负面情绪,在全球范围内算是比较突出的;而印度恰恰是对 AI 最为乐观的国家之一。

主持人:你怎么看待这种差异?为什么会出现这样的情况?

奥特曼:很多人都会观察到一个现象:那些发展速度更快、经济增长更迅速的国家,往往对 AI 更加开放。因为这些国家对产品和服务有着更大的需求,而且很多领域都存在明显的供给不足。相比之下,经济更发达的国家,对 AI 的接纳程度可能没有那么高。所以,我相信这也是其中一个重要原因。

美国对掌握科技权力的人的质疑,已经过头了

主持人:我阅读有关你的报道时,会发现,无论是在美国还是在印度,人们对你的评价似乎也呈现出悲观与乐观两极分化。你是一个开启了当今时代最引人注目的技术革命的人。你甚至不持有自己公司的股权,但突然之间,你却成了大家眼中的反派。为什么会这样?

奥特曼:我认为美国社会对掌握权力的人存在很强的怀疑态度,尤其是对科技行业所拥有的巨大权力,更是如此。不过,我觉得从某种角度来说,这其实是一件好事。社会对权力保持警惕是有价值的。但在我看来,这种质疑似乎已经有些过头了。

主持人:那你认为全世界对你最大的误解是什么?

奥特曼:你刚才其实已经提到了其中一点。我认为,我没有持有 OpenAI 的股权,这可能是一个错误。当初我这么做,是因为我认为自己有充分且合理的理由。但我觉得,这件事确实让很多人感到非常困惑。

对我来说,这其实是一件很有意思的事情。如果一位艺术家为了自己的艺术作品付出了巨大的努力,或者一位体育明星为了训练付出了很多心血,但最终没有赚到很多钱,人们通常不会觉得这什么问题。大家能够理解这种情况。而对我来说,做 OpenAI 就相当于这样的事情。

主持人:但为什么人们会误解这一点?他们无法理解的是什么?

奥特曼:我觉得,主要是因为这完全不符合人们对创办公司或者从事商业活动的常规认知。人们不喜欢奇怪的事情。大家就会开始想:“他到底为什么要这么做?他真正的目的是什么?是不是另有原因?”

主持人:那你为什么要这么做?

奥特曼:因为这是我能想象到的最有意思的工作,也是我认为最重要、最有价值的事情。能够参与其中真的非常有趣,也令人无比兴奋。你想想看,这是一场多么宏大的探索之旅啊。

创办 OpenAI 不被任何人看好:AGI 起码要等 100 年

主持人:这又是一个我们可以继续深入探讨的话题,因为我和很多人一样,仍然无法完全理解这件事。但我非常尊重你做的事情。你曾经说过一句话:“你应该愿意牺牲短期的低社会地位,去换取长期的高社会地位。”

但大多数人似乎都不愿意这么做。你的意思是,只要你最终是正确的,那么被大多数人误解,反而是一种优势。我觉得这个观点非常有意思。但问题在于,在最终结果没有显现出来之前,你怎么知道自己只是被误解了,而不是从一开始就错了呢?

奥特曼:困难点就在于你无法真正确定。你可以对自己的判断拥有很高的确信程度,而且随着获得的数据越来越多,你的确信程度可以不断提高。我认为,这才是正确的做法。

但你永远无法百分之百确定。而这恰恰也是其中令人兴奋的一部分:你无法确定最终结果究竟会怎样。

我们刚开始创办 OpenAI 时,当时这件事在社会认知和声望层面上是一件非常不被看好的事情。我们知道,如果最终能实现目标,这件事将具有巨大的价值。但几乎没有人认真看待我们。

当时人们的反应大概是:“AGI?也许还要再等 100 年吧,甚至永远都实现不了。你们不过是一群年轻人,既没有顶尖学者的学术背景,也没有什么成熟的研究成果。”当时外界的评价非常负面。

不过,我们有理由有信心做出这个选择。随着我们不断探索、逐渐弄清楚更多事情,我们也有了越来越多的理由增强信心。

但即便如此,回过头来看,最终这一切真的能够实现,仍然令人感到不可思议。

所以,我认为这是一次从预期收益来看非常值得下注的选择,但当时距离确定成功还差得非常远。

神经网络规模扩大产生的效果,让我坚定这件事是对的

主持人:当时有哪些信号,让你确信这件事有可能成功?

奥特曼:是这样的。我一直认为,我们每个人的一生中,都会获得少数几个非常重要的洞见,然后在不同的场景中反复运用它们。

对我来说,其中一个重要的洞见是规模扩张带来的那些令人意外的特性。我在很多领域都注意到了这一点,比如,公司、国家、城市、个人职业发展,以及各种技术领域。

比如,我之前在做的 Y Combinator(YC),它本身就是一个网络。当你把一件已经在小规模下运作良好的事情不断扩大时,往往会发现,规模扩大带来的回报远远超过线性增长。

也就是说,规模扩大一倍,最终产生的价值可能不只是增加一倍,而是远远超过这个比例。

我想,每个人都会不自觉地寻找规律,我也一样。我天生就喜欢识别不同事物之间的模式。因此,当我们发现神经网络已经能够正常工作,而且随着规模扩大,它们的表现在不断提升时,我就对此产生了极大的兴趣。

我有一种非常强烈的直觉:我们应该尝试把神经网络的规模进一步大幅扩大。

当然,当时我们还不知道如何精确预测规模扩大之后会出现什么样的能力。这甚至是在我们提出 Scaling Laws 之前很多年的事情。但当时我们已经观察到一个基本现象:只要让神经网络变得更大,它就能够完成越来越令人印象深刻的任务。最早,这一发现体现在 AlexNet 的成果上,之后又出现了许多类似的进展。

大模型永远不可能成功?忽视了它的通用推理能力

主持人:这些信号应该很多人都看到了?为什么他们没有基于这些信号继续推进,进一步扩大投入呢?

奥特曼:这是我整个职业生涯中,最让我困惑的事情之一。为什么在 2015 年、2016 年,甚至到了 2018 年到 2021 年,其他人明明看到了同样的数据,却没有得出这样的结论:“这简直太不可思议了!我们必须在这件事上投入更多资源。”

对我来说,这件事显而易见。我们公司内部的其他人也有同样的感受。甚至有时候,我们几乎觉得自己是不是有些痴心妄想了,因为我们会想:“为什么其他人看不到这一点?为什么大家无法意识到这一点?”其中一个原因是,这种方法看起来实在太简单了,简单得让人难以置信。

当时你看到这些神经网络犯下的各种错误,你就会觉得:一个看起来如此愚蠢的系统,怎么可能只需要扩大规模,就能解决自己所有的问题呢?

当时有很多聪明人都在说,你必须使用符号表示或者必须采用其他方法。他们总能给出各种听起来非常有说服力的理由。我记得曾经有人非常清晰地阐述过,为什么我们的方法永远不可能成功,而且他的论证听起来确实很有说服力。

主持人:他当时是怎么说的?

奥特曼:大概是这样的:“这些模型正在做的事情,就是根据训练数据中的内容,学习预测接下来最有可能出现什么。但这意味着,它们永远不可能创造出新的知识,因为它们只能对训练数据中已经存在的内容进行建模。

比如,你可以给一个模型展示一百万道数学题,让它学会解答这些数学题。但你并没有向它展示那些尚未被证明、甚至当时还不为人知的新问题,因此,它也就不可能解决这些问题。这种说法听起来确实非常合理。但现在这种观点是荒谬的。

当时这种论证之所以听起来很有说服力,是因为它忽略了一件关键的事情:这些模型真正学到的东西,并不仅仅是那些具体的数学题目。更重要的是,它们学会了一种通用的推理能力。而这种通用的推理能力,是可以扩展到全新的问题和领域中的。

一个影响未来发展的重要决定:GPT4后要豪赌算力

主持人:我们聊一个具体的决策吧。在你推进这一切的过程中,其他人可能一直在告诉你:“这件事可能永远都不会成功。”我想让你讲讲你曾经做过的一个影响深远的决定。当时你可能只有 50% 的把握,同时也带着 50% 的近乎疯狂的信念?

奥特曼:我们完成 GPT-4 训练后,出现过这样一个重要的决策时刻。我记得大概是 2022 年 8 月左右,正式发布 GPT-4 之前,大概提前七八个月我们就已经完成了训练。当时,我们把这个模型暂时保留了下来,反复观察和研究。我们知道它已经非常出色,但我们花了一段时间才真正意识到,它会为研究开辟多少全新的方向,以及 GPT-4 发布后,模型的能力可能会以多快的速度继续提升。

后来,我们逐渐意识到,我们可以开展思维链研究,并进一步开发推理模型。

于是,我们决定在算力上进行一场非常大规模的豪赌。因为我们看到了继续扩大模型规模的可能性,也意识到这些模型未来将具有极其重要的价值。

但这在当时还是一个相当新颖的判断,世界其他地方的人还没有意识到这一点。他们甚至还没有见过 GPT-4,也没有真正理解我们认为它能够做到什么程度。因此,我们决定把公司的未来押在大量购买算力这件事上。

在很多人看来,这个决定简直疯狂。但我们对自己的判断有足够的信心,因为我们已经亲自使用过这个模型,也真正理解了规模扩张带来的能力提升规律。

主持人:当时还有其他选择吗?比如,对算力采取一个没有那么激进的投入方案,以更慢的速度扩大模型规模?你觉得当时如果获得了其他信息,有没有可能改变你的决定?

奥特曼:我觉得,如果当时模型的能力哪怕稍微弱一点,比如 GPT-4 最终只达到了类似 GPT-3.8 的水平,我们也不会有足够的信心做出如此大规模的投入。

我不想留一批只会说“是”的人,在我身边

主持人:现在和别人交流时,他们还会不会觉得你有点痴心妄想、不切实际?

奥特曼:会,但我觉得自己还应该多听到一些这样的声音。

主持人:为什么?

奥特曼:我觉得,很多像我这样身处领导岗位的人之所以会把事情搞砸,其中一个原因就是身边围绕着太多只会一味附和自己的人。实际上,你真的需要有人站出来反驳你、挑战你的观点。

主持人:你如何确保自己现在没有被一群只会说“是”的人包围呢?

奥特曼:让那些认识你很久的老朋友留在身边,会非常有帮助。和那些已经共事十多年的人保持联系,也非常有价值。此外,你还需要真正建立一种文化:当你犯错时,要奖励那些敢于强烈反对你、指出你错误的人,让他们能够毫无顾虑地表达不同意见。我认为这非常重要。

但这需要你主动投入精力去维护。你越是频繁地做出正确判断,拥有的社会影响力和权力就会越大,这件事就会变得越困难。

主持人:有一个让我非常困惑的问题:作为创始人,你身边可能有很多认识多年的老朋友、非常聪明的人。他们会告诉你:“你这样做是错的,你的思考方向不对。”那你该如何说服他们?或者说,你如何决定不听他们的建议,依然坚持自己的判断?你又怎么知道,在今天这个时刻,违背他们的意见才是正确的选择?

奥特曼:实际上,我违背所有人的建议去做某件事的次数非常少。虽然确实发生过,但这种情况很罕见。我认识不少人,尤其是一些创业者,他们似乎特别以自己敢于在所有人都认为某件事是错的时候坚持去做为荣。

但我个人的看法是,你只有在非常不情愿、经过慎重考虑之后,才应该这么做。

如果你让自己身边围绕着一群聪明人,那么大多时候,你就应该听取他们的意见。如果最终你决定,即使身边所有人都认为你的做法不对,你还是要坚持去做,那么你就应该意识到:这是一件代价高昂、成功概率不高,且事关重大的事情。因此,你必须对此拥有非常坚定的信念。

寻找非共识性机会,以及押注那些看似不可能的目标

主持人:说到聪明人和其他创业者,你怎么看待他们?他们都很聪明,也很有能力。那究竟是什么阻碍了他们,让他们无法像你一样创造出如此非凡的事业?

奥特曼:首先,AI 这样的机会只出现过一次。所以,我认为我们的运气比较好,也可能是在选择问题和方向上做得不错,总之,我们选对了方向。

不过,我认为很多人都在创造非常了不起的东西。现在全球范围内优秀公司的诞生速度,是我有生以来见过最快的。我觉得,现在毫无疑问是我见过的最好的时代。

甚至可以说,这很可能是人类历史上最适合创造新事物、创办新公司、开发新技术,以及开展新型创意项目的时代。

我们刚刚获得了一份难以置信的礼物。我觉得现在人们正在做的事情实在令人惊叹。所以,我相信未来我们会看到大量非凡的公司以及其他各种令人惊叹的事物诞生。

主持人:现在每个人都在创业,各种事情都在发生,整个世界似乎进入了一个充满行动和变化的阶段。假设现在有一些创业者正在观看这期节目。这些创业者应该如何判断,自己正在做的事情是正确的选择,还是仅仅因为别人不理解而被误解了呢?

奥特曼:我觉得,这其实是创始人应该做的事情,也是作为创始人获得的回报之一。如果你正在创办一家自己能创办的、最具雄心的公司,那么你肯定会被很多人误解。

当然,还有很多其他显而易见的好点子,你同样可以凭借它们取得巨大的成功。但如果一个想法足够明显,那么很多其他有雄心、有能力的人也会想到它,并且开始做同样的事情。

举个例子,我们在 2015 年创办 OpenAI 的时候,我觉得当年成立的 AGI 研究实验室,用一只手就能数得过来。甚至可能连一只手都用不完。也许那一年只有 OpenAI 一家,我不太确定。但与此同时,当时可能有一万家照片分享类公司正在创办。大多数人都认为,创办一家照片分享公司是一个更好的商业想法。

但问题在于,当时已经有一万家类似的公司了,而且 Instagram 还拥有非常强大的网络效应,以及其他各种竞争优势。所以,我认为,真正值得寻找的是那些你有理由相信其实际价值远超表面看起来的机会。

即使这些机会成功的概率不高,但一旦成功,其价值极其大。如果综合考虑成功概率和潜在回报,它的预期价值依然可能非常高。

当你找到这样的机会时,你就真正拥有了某种竞争优势。尤其是当你比其他人更早理解某项技术、某个科学领域,或者世界运行的某种规律时,你就获得了一个非常有价值的先发优势。

我理解有些人会有这样的本能反应:“周围有这么多聪明人,我可不想让他们觉得我很愚蠢。所以,如果他们不理解我的想法,我最好还是不要坚持,免得他们把我劝退。”

但我更鼓励大家培养另一种本能:如果你真的理解某件事情,而且这并不只是你一厢情愿的幻想,而是你能够清楚地解释为什么这是一次值得下注的机会,那么你就应该珍惜这样的时刻。对于一个创造者来说,这其实是最令人兴奋的事情。

学会提出好问题,是创业成功的第一步

主持人:那么,你究竟如何判断?又该如何找到那些不符合大众共识的投资或创业机会?

奥特曼:这是个好问题。根据我自己的经历,我发现有一件事情是从来没有人教过我的。我在学校里接受的教育,很少涉及如何提出问题。大部分时候,我们学的都是如何回答别人提出的问题。

后来读博的时候,你才开始有机会提出更多问题。再往后,你提出问题的比例才会越来越高。

我认为,我们应该把更多精力放在教育上,尤其是应该从很小的时候就开始教孩子如何思考:应该提出什么问题?有哪些值得探索、但目前还没有人真正弄明白的事情。我觉得,学会这项技能,是我后来找到那些非共识性机会的最好方式。

主持人:这种能力可以通过学习获得吗?

奥特曼:我认为可以。和所有能力一样,不是每个人在所有事情上都有相同的天赋,但我觉得很多人都能够学会这项技能。

如果一个人都说服不了,这个想法就不太现实

主持人:你如何确定自己并不是一厢情愿?有没有一些可具体观察和判断的标准,让你能够说:“如果我的思考方式呈现出这些信号,那么这个想法确实是合理的。”

奥特曼:有的。其中一个方法是:你能不能把自己的想法讲给一位乐观、热情,但同时又足够理性、自律且聪明的朋友听。你能不能向他解释,为什么这可能是一次值得下注的机会,并让他更新自己原来的判断。

我记得我们刚创办 OpenAI 的时候,外界的主流态度是强烈怀疑。但我会和别人交流,然后告诉他们:“这是我们目前掌握的证据,这是我们已经观察到的现象,这是为什么我们认为它有可能成功,以及如果成功,它将会带来多么巨大的价值。”

我还会解释,为什么我们认为这是一条有潜力、能够持续走下去的技术路线。

而且,如果我们真的能够创造出超级智能,那么它为什么有价值,其实是相当显而易见的。

当然,并不是每一次交流都能说服别人,但相当多的时候,当我们和那些聪明、但并非这一领域专家的人交谈时,他们会说:“你的解释确实让我改变了一些看法。这听起来似乎值得尝试。”

如果当时我们说服了所有人,那这个机会可能就太显而易见了。但如果我们一个人都说服不了,我反而会变得更加怀疑。

为什么提前推出留存率只有5%的 ChatGPT?

主持人:当我把这个问题说出来时,我突然想到,历史上肯定也有一些例子:无法说服任何人,但最终他仍然是正确的。所以,有时候你终究还是要相信自己的直觉。除了你自己,有没有其他人不相信你的判断?

奥特曼:有过一些比较小的决策。当时我决定 OpenAI 应该做某件事情,但领导团队里的其他人都不赞成。推出 ChatGPT 就是一个例子。倒不是说大家不想推出聊天机器人,而是大多数人认为,当时推出还太早,产品也不够成熟。

主持人:是什么让你决定不听其他人的意见,并坚持说:“我们就按照 YC 那套方式,直接把它发布出去吧?”

奥特曼:我觉得,这可能和我在 YC 的经历有关。我花了很长时间,不断向创业者灌输一个理念:如果你推出第一个版本的产品时,还没有觉得它有一点拿不出手,那就说明你发布得太晚了。因为你真正需要的是用户反馈。还有一件事也让我产生了这个判断,而且我觉得这是一个非常重要的洞见。

当时,我们内部已经有一个版本的 ChatGPT 原型,但它的用户留存率非常糟糕。我记得大概只有 5% 左右的用户,在第一次使用 ChatGPT 之后还会继续使用它。

当然,当时的数据本身存在很多问题。我们使用的是更好的模型,也有其他不同的交互界面,所以这个数据并不能完全反映真实情况。但很多人看到这个数据,就会说:“你怎么能推出一个用户留存率只有 5% 的产品?这也太糟糕了吧!”

通常来说,这种判断确实没错。但当你真正和那 5% 的用户交流时,你会发现,其中一些人真的非常喜欢这个产品。

而这恰恰是我从 YC 学到的另一个重要经验:对于一个刚刚起步的项目来说,最重要的不是有很多人喜欢它,而是有一小群人真正热爱它。所以,尽管当时内部 ChatGPT 原型的留存数据非常低,但喜欢它的人会大量使用它,而且真的非常喜欢它。我认为,这是一个非常好的信号。

必须接受被误解,必须接受产品不够完美

主持人:你刚才提到了两个不同的观点。第一,产品刚推出时应该允许自己感到有些尴尬。也就是说,如果你推出第一个版本时,完全不觉得它有什么拿不出手的地方,那就说明你已经等得太久了。到了今天,你仍然愿意接受这种尴尬吗?

奥特曼:是的。你必须接受被误解,也必须接受自己的产品可能还不够完美,甚至让自己感到有些尴尬。我当然希望我们能够推出非常优秀的产品。

但我也愿意让我们先发布一些早期的产品雏形,借此获得反馈、不断学习。我们推出的东西不可能每一个都取得成功。

主持人:但现在公司的规模已经完全不同了。毕竟有足够多的用户信任你们,而且你们的产品已经被广泛地使用。

奥特曼:是的,情况确实发生了变化。现在,我们向整个 ChatGPT 用户群体推出的产品,必须达到非常高的标准。而且,现在越来越多的企业开始依赖我们的技术。某种程度上,这些技术已经逐渐接近关键基础设施的地位。因此,对于我们推出的企业级产品,标准会非常高。

但我们仍然可以在其他领域继续进行实验。我希望大家未来能够看到我们尝试推出许多新产品。其中一些产品可能会真正让你感到惊喜和喜爱,最终成为核心产品体验的一部分;而另一些产品,可能会让人觉得:“这个想法从理论上来说挺酷的,但似乎并不太适合我。”

轻微自闭症的人,更可能在科学领域成大事

主持人:我们一直在讨论被误解的问题。你觉得直到今天,人们仍然没有真正理解你吗?

奥特曼:我觉得到了今天,世界上大多数人至少已经开始认为,AI 确实会成为现实,并且会真正发生。当然,并不是所有人都喜欢它。而且,我认为,我们对未来世界的愿景,以及我们希望人们如何使用这项工具、如何使用这项技术,目前仍然没有得到很好的理解。但至少,人们已经意识到,AI 时代真的到来了。

主持人:我们再回到你努力创造非凡事物这个话题,以及你愿意把机会押在其他人身上的事情。刚才聊到了 YC。你曾经写过一句话:你拥有一种改变现实、甚至重塑世界的意志力,而这种意志力的程度非常高。大多数人甚至连尝试都不敢。你还记得吗?

奥特曼:我记得说过类似的话。大多数人甚至都不会去尝试。我觉得更准确地说是“改变现实”。你能做到的事情,其实比你想象的多得多;或者说,人们能做到的事情,比他们自己想象的多得多。但大多数人尝试得还不够。

主持人:你觉得为什么人们不敢去做那些看似不可能的事情?

奥特曼:我对此有很多种解释,但可以归结为一点:人们想留在群体之中。做一些与众不同的事,可能失败、可能被证明是错的,甚至可能显得很愚蠢,这些都让人感到不自在。这里面确实有一些原因。我们很容易从进化生物学的角度解释这种现象,比如你不想被部落排斥之类的。

但我认为,社会构建方式的本身,就是给人们施加强大的压力,让他们不去做那些与众不同的事情。甚至可以说,我觉得社会之所以会变成今天这个样子,本身就是进化压力的结果。而且这种影响可能已经深深根植于我们大多数人的内心了。

主持人:那你身上有什么特质,让你能够按照自己的意志去改变现实,或者说改变世界?

奥特曼:我想,和很多科技行业的人一样,我一直有一种特质,如果放在很多其他情境下,这可能算是个缺点:我内心要求自己循规蹈矩、和别人做同样事情的压力,比一般人稍微弱一些。我觉得主要是遗传因素造成的。

主持人:只是遗传因素?你不觉得也有后天形成的因素吗?

奥特曼:当然也有其他因素。不过,有很多研究发现,具有轻微自闭症特质的人,似乎更有可能在科学领域做出新的发现。比如,他们可能会执着于某一个想法,不顾一切困难,在实验室里投入大量时间和精力去研究它。

权力不应该掌握在一个人、一家公司、一个国家手上

主持人:对你来说,真正改变现实的关键时刻是什么?

奥特曼:大概就是创立 OpenAI 的时候吧。当然,现在下结论还为时尚早,但我认为,这很可能会成为我一生中做过的最重要的事情。

主持人:你会为此感到担忧吗?

奥特曼:当然会。我们正在做或者已经做成了一件事,而且未来还会继续做下去的事情,它将成为社会中一股极其强大的力量。我相信,它最终能够成为一股积极向善的力量。总体而言,会带来巨大的好处。但你知道,这件事的利害关系实在太大了,我们肩负着巨大的责任。

主持人:确实。这让我想起你当初写过的一篇关于 SMI 的文章。你还给埃隆写过信。你当时说,如果除了谷歌之外,还有其他人来启动这件事,会是一件好事。为什么你认为,如果由你来启动这件事,威胁就会小一些?

奥特曼:因为我相信多元化。我不认为只有我们拥有这项技术就是好事。我觉得,这件事可能会出现两种非常典型、甚至有些漫画式的灾难性局面。

第一种,是人类失去对 AI 的控制。我们有意或无意地把未来的控制权交给一些能力远超出人类的系统,且再也无法夺回。

第二种,是某个人、某家公司,或者某个国家,相对于其他所有人变得过于强大。我认为这种局面非常不稳定。事实上,我觉得对世界来说,更好的情况是有多个 AI 研发团队,各自采取略不同的方法,相互竞争,并以不同的方式推出自己的成果。

我们之前谈到过我不喜欢那些掌握巨大权力的人。我同样不喜欢权力过度集中。我认为那不是一种行之有效的模式。所以,我希望我们最终不会走向那种局面。

主持人:你当初创立 OpenAI 的时候,也是这么想的吗?你认为,不应该让某个已经拥有世界上所有资源的人,再独自掌握这种力量?

奥特曼:至少不应该只有一家。我认为应该有很多不同的团队同时努力。

Sam 被解雇,700名员工宁愿辞职也要挺他

主持人:现在有太多参与者了。有四五家大型公司,它们拥有巨额资本、顶尖人才,以及各种技术和研究资源,全都在投入这件事。你们有什么别人没有的竞争优势?

奥特曼:我认为,我们拥有最多的用户,也拥有最完善的技术体系。从芯片、数据中心,到模型以及围绕这些环节展开的其他技术,我们都有很强的能力,能够把充足的智能交到人们手中。

我认为,我们还拥有最好的品牌,以及最符合这项技术使用者期待的价值观。我们希望其他所有人都能成功,我觉得大家能够感受到这一点。我们并不想成为那家统治所有人的公司。这可以追溯到我们创立之初的理念。

主持人:我问的是你个人,是什么让你成为今天的 Sam?你觉得自己最大的优势是什么?

奥特曼:我从事这件事的时间最长。其实也不完全正确,Dennis 从事这件事的时间可能比我还长。我认为,自己的一个很大优势是,我有足够长的时间,能够一路观察整个领域的发展。这不仅让我积累了关于如何经营公司的直觉,也让我在整个生态系统中建立了广泛的人脉关系。这些帮了我很多。

主持人:你一定在某些方面做得很出色。因为当初你被解雇时,有700名员工威胁要辞职。你觉得做对了什么,让几乎整个公司的人都愿意站出来支持你?

奥特曼:我不认为这能归结为某一件具体的事,而且我也不觉得这主要是因为我个人。也许是我做的一件重要的事:挑选了公司的领导团队,并且建立了我们管理公司、确定工作方向以及开展协作的方式。

但我认为,我们做得最成功的事情是汇聚了一群非常出色的人。他们都真正受到同一个使命的激励,而且我们还建立了一种非常健康的文化:在真正需要坚定立场的地方,我们有足够强烈的信念和清晰的判断;而在其他方面,我们又始终保持开放的心态,愿意探索和尝试。这是一种非常特别的文化。

我认为,等到有一天,人们为 OpenAI 撰写历史时,我最希望他们着重讨论的是我们重新发现了那种能够造就伟大研究实验室的文化,以及这种文化为什么会消失这么久。

别人觉得 OpenAI 疯了,他却靠这一点集齐顶尖人才

主持人:如果有一位年轻的创业者,正试图建立一家类似的公司,那么他能从你们的文化中学到什么?

奥特曼:其中一点,就是要有非常坚定的信念,并且对自己想要做的事情有极其清晰的认识。尤其是当你想做的事情在大多数人看来都很疯狂时,坚定地坚持这种方向,愿意用这样的方式去表达和思考,反而会对某一类人产生很强的吸引力。

所以,我们创立 OpenAI 时就明确表示:我们要尝试打造 AGI,这就是我们努力推进的方向。但最重要的是,我们押注的是 AGI,而不是某一种特定的实现路径。如果最初选择的技术路线最终被证明是错误的,我们就会改变方向。当时,世界上愿意公开表示自己正在尝试打造 AGI 的团队并不多。我记得,即使是 DeepMind,似乎也不再这么说了。

所以,尽管大多数人觉得我们疯了,不愿意和我们扯上关系,但我们实际上成功地聚集了所有同样相信这件事的顶尖人才。当我回顾近代历史上一些伟大的科学与创新项目时,我发现都有一个共同点。

主持人:所以你选择一个极其宏大、听起来几乎不可能实现的问题,然后非常明确地告诉所有人,你们就是要解决它。这就是打造一家拥有伟大文化的公司的方式?

奥特曼:“几乎不可能实现”可能不是我的说法。但你应该选择一个真正优秀的人才愿意投入其中的问题,找到一件能让这些人发自内心想要去做的事情。

然后,明确而专注地告诉大家,你们要做的就是这件事,不要含糊其辞,也不要给自己留太多模糊的退路。不要因为有人说你疯了、愚蠢,甚至说出更难听的话,就因此改变自己的表达方式,或者不敢把真正想做的事情说清楚。

这样,你就能把一群信念非常坚定的人聚集起来,让他们共同致力于一件真正重要的事情。

信任危机、权力过度集中,让一部分人离开

主持人:后来你们确实吸引了全世界优秀人才,也有一些人离开了。你曾经把AI 圈的纷争形容成莎士比亚式的戏剧。比如 Mina 离开了,Ilya 离开了,Dario 创办了自己的公司。而且彼此之间也不太合得来。你们之间到底有什么分歧?

奥特曼:我认为,很多人的脑海中都会出现一种想法:这件事的利害关系实在太重大了,他们只相信自己能够把它做好。

主持人:是因为你们对技术路线有不同看法吗?还是因为担心权力集中在别人手里?

奥特曼:我觉得这两者是联系在一起的。大概就是觉得:“他的做法不对,所以我不能让权力集中在他手里。”差不多就是这样。既涉及做事方式,也涉及信任。

主持人:经历了这一切之后,你觉得自己发生变化了吗?你经历了别人起诉你、你创办一个看似疯狂的项目、有人离开,还有政府对你展开各种调查。

奥特曼:如果有人想要打造超级智能,那他的生活不可能不变得一团糟。所以我并不觉得特别意外。OpenAI 刚创立时,我并没有认真考虑过这些事。但后来,当我逐渐意识到这件事真的有可能成功时,我清楚地记得自己当时想过:“天哪,我的生活将会变得非常疯狂,这可真糟糕。”

不过,我觉得自己的性格还挺适合应对这种情况的。我能够承受周围发生的各种混乱。

护城河是什么?重要但也不重要

主持人:我们回到创业公司以及刚才谈到的那些人。你曾经在 YC 写过,你过去常常问创业者一个问题:未来你们如何才能成为垄断企业?为什么你会问这个问题?

奥特曼:我通常会问的是:“你们的护城河是什么?”或者“你们的竞争优势会是什么?”这些问题其实都在问同一件事:你们如何避免自己的利润率因为竞争而被压到零?

主持人:但在创业初期就考虑如何建立护城河,甚至最终形成垄断,这真的是一个重要的问题吗?毕竟刚开始创业时,你也不知道未来会怎样。

奥特曼:我不认为这是最重要的问题。我的意思是,它的重要性不如我们经常讨论的其他问题,甚至算不上最先需要考虑的几个问题。我总是会先问:产品是什么?用户为什么需要它?你打算如何获得更多用户?所以,它确实是战略中的一个组成部分,但绝对不是最重要的那个问题。

主持人:假设一家公司已经发展到一定规模后,这个问题会变得重要吗?

奥特曼:会。我认为某种形式的“你的长期竞争优势究竟是什么”,确实是一个重要问题,但它不是最重要的问题。

成功有很多路径,一些特质注定会导致失败

主持人:你过去接触过成千上万家公司,而且你的投资经历非常出色。你能不能在和一位创始人见面三四十分钟后,就判断出这个人是否有能力建立一家成功的公司?

奥特曼:虽然不能做到百分之百准确,但我觉得,确实可以形成相当强烈的直觉。首先,如果一个人表达清晰,能够把事情解释得很好,让别人很容易理解,这对我来说非常重要。

其次,如果我离开那场会面时,已经确信自己想和这个人共事,那也是一个很重要的信号。因为早期创业公司的创始人,有一项很重要的工作,就是在各种场合充当公司的布道者:向其他创业者、客户、自己想要招聘的人,以及投资人介绍和推广自己的事业。

另外,如果他们能够快速提出新想法,也能迅速改进已有的想法,这也是我很看重的一点。还有如果他们对世界有一些新颖、有见地、经过充分思考的观点,而且是我以前从未听过的,那也很重要。诸如此类。

主持人:除了这些,还有一个很多创业者都会谈到的特质:承受痛苦的能力。你能判断一个人是否具备这种能力吗?

奥特曼:我觉得,很难在一次三十分钟的会面中直接判断出来。我以前有时会问他们人生经历中的一些事情,看看有没有迹象能够反映这一点。但我认为,一个人内心真正的想法和承受能力是很难看出来的。你只能根据他们讲述的故事来判断。

主持人:在你观察的一些成功创业者中,这些人有什么共同规律?比如 Stripe、Reddit 的创始人?

奥特曼:确实有一些创始人都具备的特质,但很少有哪一种特质是所有成功创始人都必须具备的绝对条件。YC 最重要的经验之一,就是让我们看到:创始人可以有很多不同的类型,成功的方式也可以有很多种。

我们可以列出一些常见的要求,比如要有进取心、足够聪明、善于沟通,还要有一个自己真正愿意全身心投入的想法。我们完全可以列出一长串优秀创始人应具备的特质,也可以列出一长串优秀企业应具备的经营特征。

但有一个很有意思的观察,也能证明成功有很多不同的路径:假设你选出 YC 最优秀的十家公司,显然,这十位创始人都是非常出色的创始人。如果我把这十位创始人和十家公司的 CEO 职位打乱,让每个人去经营另一家公司的话,结果很可能会是一场灾难。

我认为,这个观察让我们得出很多结论,其一就是:创始人有很多不同的成功方式,不存在一种适用于所有公司、所有情况的统一模式。

主持人:那有没有一种共同的模式,几乎可以确定会导致失败?既然成功没有固定公式,那么失败是不是有一些共通规律?

奥特曼:当然有很多事情会导致灾难性的结果。比如缺乏进取心、缺乏专注力、缺乏清晰的目标、缺乏愿景,以及缺乏一种能力:面对困难的问题,能够一次又一次地解决它们,而且始终保持积极的心态。这些都是反面典型。

所以,确实有很多特质几乎可以预示失败。但这方面反而比较容易判断。成功则有很多不同的方式。

最终会成为最亲近的五个朋友的平均值

主持人:你刚才说,第一点就是缺乏进取心。这其实也涉及雄心壮志。很多人都在讨论这个问题。你觉得,一个人可以通过训练或学习,让自己变得更有雄心吗?

奥特曼:可以。我认为这是我在 YC 工作期间最让我惊喜的事情之一。我觉得,YC 对世界创造的价值远远超出很多人的认识,其中一个原因就是:有些东西可能无法通过训练获得,但你确实可以教会人们变得更有雄心。当然,不是每个人都可以。你很难提前判断谁能够做到这一点,但这种转变确实是可能发生的。

主持人:你是怎么教会他们的?

奥特曼:最有效的方法有两点。第一,让他们置身于一个同伴群体中,大家一起经历同样的事情。第二,让他们接连面对难度不断提高的挑战,然后让他们意识到,自己其实能做到比想象中更多的事情。随着他们一次次取得进步,他们会发现自己的能力和直觉在不断提升,也会更愿意继续挑战下去。

主持人:那你自己是在这样的同伴群体中变得更有雄心的吗?还是说,你原本就很有雄心?

奥特曼:我觉得自己确实因此变得更有雄心了。我认为更多时候,它来自一种兴奋感。你身边有一群人在做非常了不起的事情,这种积极的氛围会感染你。你会想:“我们是一起开始这段旅程的,既然他们能做到,我也一定能做到。”

主持人:所以对你来说,更多的是自信?

奥特曼:我觉得是的。我真的认为,如果你不断面对难度稍高一点、再高一点、又高一点的挑战,并且一次次出色地完成它们,你就会逐渐建立起非常强的自信,也会在这个过程中不断学习。

主持人:只有其他有雄心的人才能给你带来这种影响吗?

奥特曼:不是,我认为有很多种方式都能做到这一点。不过,我觉得人类天生就会从周围的人身上学习。有一句很有名的话,大意是:你最终会成为自己最亲近的五个朋友的平均值,所以一定要好好选择这五个人。

少听一些建议,自己多去摸索,多去发现

主持人:作为创始人,你收到过的最糟糕的建议是什么?

奥特曼:我觉得几乎所有建议都不怎么样。我不知道该怎么选出最糟糕的一条。但如果让我给创业者一个更高层次的建议,那就是:少听一些建议。

主持人:你有没有过这样的时刻:回到家后突然想,“也许别人给我的这些建议都是对的,而我才是错的”?

奥特曼:我认为,YC 完全可以从积累的丰富经验中提炼出五到十条非常重要、而且可信度极高的普遍性建议。我觉得,你应该认真听取这五到十条建议。

比如,我认为 YC 的口号,或者说它的核心准则,实际上就是创业建议中最重要的一条原则,至少对早期创业公司来说是这样。此外,还有另外一组同样重要的建议。

但你不可能靠听第八百期关于如何创办创业公司的播客,就成为一名伟大的创始人。你必须真正开始行动,自己去摸索、去解决问题。而且,你真正需要的很多建议都非常具体,取决于你自己的情况。

复利效应:持续挑战自己,做让你感到不舒服的事情

主持人:有意思。你以前写过一篇文章,叫《成功的13条法则》。

奥特曼:我记得自己写过那篇文章,但已经不记得里面具体写了些什么了。我觉得,如果现在让我重写,我肯定能写出更好的版本,而且应该能写得更短。

主持人:现在让你重新总结,你会说些什么?

奥特曼:我觉得,其中一个很重要的观点是复利效应。我当时把它放在了文章的第一条。我认为,人们普遍低估了它的重要性。很多人没有真正推动自己持续进步。这里有一个玩笑:有人会说,自己有 20 年的工作经验,但实际上不过是把同一年的经验重复了 20 遍。

我觉得,职业生涯最棒的一点,就是你可以在每一个阶段的基础上继续积累,不断向前发展。但前提是你必须持续挑战自己,不断去做那些让你感到不舒服、并非显而易见的新事情。

很多人在职业生涯的很早期就放弃了这种做法。因此,从实际情况来看,大多数人都没有始终留在那条复利增长的指数曲线上。我认为,这是一条非常有价值、但又不那么显而易见的建议。

持续质疑自己、质疑一切

主持人:那你现在做的最让自己感到不舒服的事情是什么?

奥特曼:现在很多事情对我来说,重新变成了全新的挑战。比如,我们究竟应该如何应对当前关于技术进步速度的争论?我觉得这是一个非常难以处理、但又极其重要的问题。它既陌生又复杂,确实很难。

主持人:你会做些什么,确保自己能够把这件事处理好?有什么特别的方法吗?

奥特曼:我会花很多时间思考,和不同的人交流,努力获取更多数据,也尽可能让更多新想法参与进来。

我们经常谈论坚定的信念、自信,以及对自己的判断充满把握。但我觉得,有些人会把这些理解成:不要反省自己,只要坚定自己相信的事情,不要质疑它。

而我的做法恰恰相反。我会不断质疑一切。我仍然会努力保持行动的一致性,在找到足以改变想法的理由之前,坚定地按照自己的判断行事。但我认为,持续质疑自己这一点非常重要。

主持人:举个例子吧。你具体是怎么做的?

奥特曼:我的思考过程通常是这样的:我会从不同的角度反复思考同一个问题,先在脑海中提出一大堆不成熟的想法,再试着逐一拆解它们,找出其中的问题。然后我会和其他人交流,听取更多意见,尝试不同的方案,再不断调整和改进。我认为,这就是一个不断迭代的过程。

我刚才已经提到了一个例子,就是当我们进入 RSI 时代时,应该如何看待技术进步的速度?我们又该如何避免两种可能出现的灾难性局面:一种是失去对 AI 的控制,另一种是权力过度集中。

此外,我们应该建立怎样的治理机制?我们应该允许 AI 系统变得多聪明?它的能力相对于人类应该达到什么程度?它的能力可以以多快的速度提升?

还有,关于安全、监控和对齐,我们应该如何思考?哪些领域可以承担一定风险,哪些领域绝对不能?随着情况发生变化,这些风险的边界是否也应该改变?

一台机器,帮我们做任何想做的事情

主持人:最后,我会问两个问题。第一个问题是:接下来,你最想创造的、最非凡的东西是什么?

奥特曼:脑海中第一个想到的是我非常期待看看,我们究竟能把 AI 推进到什么程度,让它帮助人类发现新的科学知识。数学方面的那些成果让我感到非常惊艳,也让我意识到,我们距离那个里程碑的距离,可能比我原先预想的还要近。

我非常期待看到这样一台机器:它能帮助我们更好地理解世界,发现物理学中最深层的规律,找到新的医疗疗法、新的能源来源,以及其他一些我们现在甚至无法想象、但可以通过更深入的科学认知实现的事情。

我真的非常期待我们能够打造出这样一台机器。我一直深受触动的一点是,世界之所以能够不断进步,很大程度上都源于人类对科学的理解不断加深。而现在,我认为我们真的有机会让 AI 加速这一进程。这将给整个人类带来变革性的影响。

成为 Sam 的代价

主持人:最后一个问题:成为 Sam、成为一个正在塑造人类历史上最重要技术的人,究竟要付出什么代价?

奥特曼:这个问题很难回答,从主观感受上来说,这就是我现在的生活。你还记得我之前举过的那个小例子吗?我现在连周末去咖啡馆工作都做不到了。

但我觉得自己非常幸运,能够参与并做这些事情。所以,尽管这份工作让人疲惫、充满压力,很多人的焦虑也会投射到我身上,而且它确实意味着我必须在生活中做出各种取舍,但这已经成为我现在唯一熟悉的生活方式了。过去的其他生活,都仿佛变成了遥远的回忆。所以,我并没有那种真正痛苦的感觉。

主持人:可以理解。非常感谢你今天来到这里。

奥特曼:非常感谢你邀请我。

参考链接:https://www.youtube.com/watch?v=TjPPIf-M6KE&t=66s

推荐阅读:

▶ Claude Code 约 90% 代码由 AI 生成,从 Anthropic 到腾讯、百度、阿里、小红书、滴滴……软件工程正在被重新设计

▶ “人再聪明也没用,20年后AI会包办一切?”盖茨直接泼冷水:要留40%的工作给人类,靠打官司管住AI,别做梦了!

▶ 超级智能反噬人类,灭绝率11.73%?AI教父辛顿给年轻人的保命忠告:学好数理化,顺便考个水管工执照

11 月 20—21 日,由 CSDN 与奇点智能研究院联合举办的 2026 奇点智能技术大会将在北京万达文华酒店举行。

本次技术大会汇聚 70+ 技术嘉宾、18 大前沿专题、70+ 主题演讲、1000+ 行业技术人,覆盖 RSI、Agent、AI Coding、世界模型、Physical AI、AI Infra、企业级 AI 等热门方向。

「AI 原生软件研发:从 Harness 到 Loop」专题,将邀请腾讯 CodeBuddy & WorkBuddy、小红书、百度 Comate、Qoder、滴滴等正在真实研发环境中推进 AI Coding 的团队,从个人提效、企业级任务、仓库级 Agent、Feedback Loop 到大规模生产环境,讨论 AI Coding 进入深水区之后真正遇到的一线工程问题。

跳转微信打开

  •  

“程序员以后唯一的活,就是给AI批预算。” Next.js之父:未来一定会诞生只有1个人的万亿美元公司

奇点折射 2026-11-04 20:53 北京

低代码彻底凉透,代码早就不值钱了?

📌 写在前面:

原「AI科技大本营」现已全面升级为「奇点折射」。把 AI 领域最前沿的底层争论、工程踩坑与商业暗牌,折射为国内从业者能看懂、能防踩坑的实战增量。

💡 点击上方蓝字关注「奇点折射」,与全球顶尖 AI 决策者同频。

整理 | 王启隆

出品丨奇点折射(ID:rgznai100)

出趟差回公司,发现自家的 12 人技术团队背着自己,把全套底层架构从 AWS 连根拔起迁移到了 Vercel。

这是 Delphi 创始人 Dara Ladjevardian 前不久的真实遭遇。团队换掉 AWS 的理由极度现实:有了自主编程 Agent 和现代开发基建,他们再也不需要花高薪去养一个全职的基础设施工程师了。

随后,Dara 在他主持的 Delphi 播客专访中,与身兼 Vercel 创始人、Next.js 与 Socket.io 创造者的 Guillermo Rauch,把这轮自主编程 Agent(Autonomous Coding Agents)爆发背后的工程与商业底牌倒了个干净:

当年 Instagram 靠 13 个人借助 AWS S3 击穿了数千工程师的 Facebook;而在 Agentic 基础设施上,未来一定会诞生只有 1 个人、但市值达到 1 万亿美元的公司。

软件业正在经历剧烈换血:传统的拖拽式低代码(Low-code)已经彻底死亡,因为代码生成本身已经免费;软件的下一个核心采购方根本不是人类,而是每天调用 API 上百万次的 Agent。当写代码、找 Bug、性能优化的边际成本全面归零,人类工程师最终剩下的唯一工作,只剩下了“资本分配”。

💡 要点速览:

  • 单人万亿美元公司必然出现:Instagram 当年靠 13 人借助云存储正面击败巨头;随着编程 Agent 带来上千倍的人效杠杆,单人运转超级软件公司的时代正在成为现实。

  • 低代码(Low-code)工具正在全面消亡:拖拽式设计原本是为了妥协“不会写代码的人”,但今天代码不仅边际成本为零,更是统一表达视频、3D、数学与逻辑的最高效介质,多余的抽象层已无存在必要。

  • 软件的核心客户正在从人类转向 Agent:软件过去服务程序员,后来服务非技术人员(如 v0),现在直接服务 Agent。任何不提供干净 API、CLI 和 MCP(模型上下文协议)的工具,都会像当年拒绝接入万维网一样被迅速淘汰。

  • 人类程序员的终极角色是“资本分配者”:具体的开发、测试与性能调优完全由 Agent 接管,人类唯一的任务是根据商业目标为 Agent 分配 Token、算力与预算,并在边际收益递减时拍板喊停。

  • 信任是结果,不是输入:不要试图靠刷推特、办 Meetup 和做公关来建立品牌。就像“腹肌是在厨房长出来的”,开发者的长期信任只来自系统安全、不厌其烦修 Bug、极简设计和清晰文档这些枯燥的基本功。

  • 在 Slack 设“尖叫”频道直面恶心问题:绝大多数创始人都在回避产品最烂的一面。Vercel 内部专门设置了全量接收内部报错和用户差评的“Scream”频道,由 CEO 亲自盯盘,逼迫团队直面系统缺陷。

以下是访谈全文:

当代码不再值钱,决定系统生死的是架构掌控力与资源分配权。

2026 奇点智能技术大会将于 11 月 20—21 日在北京举行,18 大前沿专题、70+ 一线技术嘉宾,拆解 AI Coding、Agent、Infra、多模态等真实落地路径。

📥 扫码免费领取大会 PPT 与 Agent 实战资料👇

瞒着 CEO 弃用 AWS:小团队不再需要全职运维

主持人:Guillermo,非常高兴你能来。

把时间倒回六个月前,Delphi 当时正在重写底层代码库。正好碰上我出差离开办公室,走之前,AWS 还是我们唯一的基础设施提供商。

结果等我出差回来,团队背着我把整套底层全迁到了 Vercel。说实话,从一个成熟巨头转向另一家平台,而且当时你们并不以底层通用基建闻名,我当时非常紧张。但事实证明团队的决定极其明智,这个产品帮我们省下了难以想象的时间和资金。

我想先请教:作为后来者,你最初是怎么决定下场与云巨头竞争的?又是怎么打这场仗的?

Guillermo Rauch:我做产品始终遵循一个原则:它必须源自真正的个人兴趣和亲身经历。

早年我在一家把软件部署到传统物理数据中心的公司工作,后来“云”的概念开始普及。作为一个有十几年经验的工程师,我第一次上手用云时,甚至觉得自己很笨。为了把一个产品跑起来,我往往要花上整整一个月去硬啃各种基础设施、网络和配置工具。

每当我解决一个繁琐的任务时,我总会习惯性复盘:我从这次操作中学到了什么?我能不能把它固化成工具或基础设施,让下一次同样的任务变得简单得多?

在很多维度上,云都是人类最伟大的发明之一,它提供了无限的计算容量。但对全球绝大多数开发者来说,这套底层基础设施依然太复杂、太反人性。

在行业还没有普遍讨论 AI 之前,Vercel 就在做一件事:我们能不能把它做成自动驾驶?现在大家流行叫它“Agentic 基础设施”,而在几年前,我们内部叫它“自动驾驶基础设施”。它的定位就是让云端部署像开自动驾驶汽车一样自然。

所以我从来没想过去正面抢夺那些被我甩在身后的旧方案。我要做的是下一代产品。

主持人:所以在决策过程中,你甚至没有对巨头的竞争产生过恐惧?

Guillermo Rauch:确实没有。技术世界的演进始终是通过代际平台更替来完成的。

上一代技术往往不会一夜之间彻底死掉,它只是慢慢失去了行业的核心关注度。就像今天大家普遍用 Slack,但偶尔依然会收发邮件;甚至办公室角落里偶尔还能看到传真机。

我试着去思考什么是面向未来的技术。每当新一轮创新浪潮出现时,Vercel 要做的是成为承载它的最佳底座,而不是帮企业去把 20 年前的老旧应用做一次毫无意义的搬迁。

现在编程 Agent 的爆发就印证了这一点。全球很多大型企业之所以接入 Vercel,是因为内部工程师开始全面使用开发 Agent,而这些 Agent 需要极其轻量、即时响应的基础设施。

对于初创企业来说,去提前承接即将到来的浪潮,远比回过头跟那股正在失去动能的旧浪潮死磕有效得多。

1 个人加 AI Agent,完全可以撑起一家万亿美元公司

主持人:这确实改变了游戏规则。我们只有 12 个人,初创团队很难招到一个顶尖的全职运维工程师,而现在我们根本不需要这个岗位了。

Guillermo Rauch:我的目标就是成就那些“规模极大、但团队极小”的公司。

刚来硅谷创业时,我在联合办公空间里亲眼见证了 Instagram 的崛起。整个团队只有 13 个人,却正面冲击了拥有数千名工程师的巨头 Facebook。

当时支撑他们的关键基建是刚刚推出的 Amazon S3。他们不需要在机房里部署冗余机架、配置磁盘阵列、搭建供电设备,只需要调用一行 API 就能存储数亿张照片。

我坚信未来一定会诞生只有 1 个人、但市值达到 1 万亿美元的公司。这不是否定团队协作的意义,而是今天一个普通人加上一支编程 Agent 队伍,已经能干完过去几百甚至几千人的活。这种人效杠杆正在无限拉大。

主持人:在推广你们的基础设施 Agent 时,你们是专注于服务那些尝到甜头的小团队,还是在尝试说服大企业从 AWS 全面迁出?

Guillermo Rauch:这里存在一个非常有趣的“向上传导效应”(Trickle-up effect)。

就像中年人总想保持年轻一样,传统大型企业也在盯着那些高精尖的 12 人小团队,他们渴望拥有那种交付效率。通过服务全球最激进的创新团队,我们反而自然吸引到了大客户的注意。

有时这种传导通过收并购实现——大公司收购了基于 Vercel 构建的初创公司,技术栈顺势渗透进去;有时则是大型企业自身的架构被迫面临现代化改造。

比如很多年前,我就在极力倡导“无头架构”(Headless Architecture)——将前端展示与底层业务 API 彻底解耦。当时很多传统企业并不理解。但到了今天 Agent 时代,每个人都在主动拥抱这种架构:软件必须暴露干净的 API、命令行 CLI 和 MCP 协议。只有这样,Agent 才能在上面自由调用并生成全新的交互界面。

代码 Agent 的普及,让全世界的开发逻辑迅速向我们最初设定的架构靠拢。

解释 Vercel 价值最快的办法是“帮客户算钱”

主持人:听起来你们早期定位很宽,最终是通过聚焦垂直领域才完成了业务放量?

Guillermo Rauch:是的。刚进入市场时我们甚至天真地对外宣传:“我们就像一个体验更好的完整 AWS,或者体验更好的 Google Cloud。”

这种宽泛的表述往往收效甚微。初创公司绝不能样样通样样松,世界始终只为最专精的产品买单。

于是我收缩了战线,把精力聚焦在最能打透的场景——电子商务。

对于电商来说,商业逻辑极其简单直接:时间就是金钱。页面加载速度每提升一步,结算转化率就会同步上升。当我能帮商家的前端性能提升 200% 时,他们第二天就能在财务报表上看到真金白银的营收增长。

这套逻辑彻底打破了技术沟通壁垒。当我面对传统企业的 CEO 或 CIO 时,我不再从底层技术讲起,而是直接给他们算投资回报率(ROI)。

很多上市公司在公开财报中明确提到:“由于将底层升级到了 Vercel,我们的交易转化率直接带来了营收增量。”我们在电商赛道打穿了认知,进而完成了向其他领域的同心圆扩张。

这很像当年特斯拉的商业规划:先做一款极致的 Roadster 卖给极少数人,把产品力打透,然后再借助既有优势向大众市场逐层渗透。

信任就像腹肌:它是厨房里的产出,不是刷推特刷出来的

主持人:许多开发者对 Vercel 抱有极高的忠诚度和信仰,外界甚至觉得你有天然的个人气场。你如何看待品牌信任的建立?

Guillermo Rauch:在后 AGI 时代,信任将是企业最核心的商业壁垒。但信任绝不是输入项(Input),而是最终的产出项(Output)。

很多创始人总以为“做品牌”就是多发推特、办几场线下聚会、找公关写稿,或者做一个好看的官网。

这就像去健身房练腹肌。很多人以为狂做卷腹就能练出腹肌,但真正的常识是:腹肌是在厨房里长出来的。 决定你身材的核心变量是营养、热量缺口、睡眠和长期的日常自律,而不是单纯做几个卷腹动作。

做企业完全同理。开发者对一个平台的信任,并不是因为你办了多少场 Meetup,而是来自底层扎实的基础功:系统够不够安全、出现 Bug 能不能秒级修复、文档写得够不够透彻、界面操作是否绝对极简。

用户对你的信任是在潜意识中建立的:也许是读过你的一篇优质技术长文,也许是在生产环境遇到突发宕机时体验过秒级回滚,五到七次微小的正面体验累加在一起,最终才凝聚成下意识的商业信任。

直面恶心与残次品:在 Slack 里设一个“尖叫”频道

主持人:现在很多同行都在强调设计感,但 Vercel 很早就把消费级产品的审美标准引入到了开发者工具中。在必须赶进度的初创期,是什么支撑你做这种重度投入的?

Guillermo Rauch:在当年,连在 GitHub 仓库里好好写 README、给开源项目设计高精度 Logo、甚至为工具做带动画演示的独立官网,都被业内视为离经叛道的疯狂想法。而今天这些已经成了全行业的标配。

但追求品质的过程极其折磨。它要求你对自己交付的产品保持一种生理层面的挑剔与不满。

很多创始人在经营公司时,并没有真正去直面系统中最糟糕、最破烂的问题。他们就像那些坐在健身房里刷手机的人,看似待满了时间,实际根本没有在核心痛点上下功夫。

你有多久没去通读那几百条差评问卷了?你是否敢主动去联系那些因为系统崩溃而愤怒注销的付费客户?

为了对抗这种人性弱点,我们在 Vercel 内部专门建了一个 Slack 频道,名字就叫“对内部开发者体验的尖叫”(Scream about internal developer experience)。

我把它设为了最高优先级提醒。任何内部员工或外部开发者遇到了恶心、反人类的系统体验,报错信息就会全量同步到这个频道里。我逼着自己和整个团队每天盯着最刺耳的反馈,去直面系统的缺陷。

低代码已死:因为代码现在完全免费,而且一切皆代码

主持人:Vercel 最初服务硬核程序员,后来通过 v0 拓展到了非技术人员,现在又迎来了全新的第三类客户——AI Agent。这如何重塑了你们的产品逻辑?

Guillermo Rauch:技术的门槛一直在降低,但我们从不是为了迁就那些不想追求极致的人。

Agent 正在打破所谓“技术人员”与“非技术人员”的边界,所有人最终都收敛为一个角色:构建者(Builder)。

在内部软件采购上,我们近期果断干掉了好几家传统 SaaS 供应商。很多低代码(Low-code/No-code)工具正在加速死亡,因为这类工具诞生的初衷,是为了给不会写代码的人提供一套可视化的拖拽组件。

但如今的大前提彻底变了:代码不仅边际成本降为零,而且一切皆代码。

你能用代码生成 3D 场景,用代码渲染视频,用代码描述复杂的数学和商业逻辑。代码是全能的载体。有了编程 Agent,原本需要靠 4 到 5 个专用低代码工具拼凑的工作流,现在直接写成代码并部署到 Vercel 即可秒级跑通。

软件的核心客户变了:不接入 MCP 和 Agent 的工具会被立刻淘汰

主持人:既然 Agent 正在成为主流用户,这如何改变了软件与外部世界的交互方式?

Guillermo Rauch:任何拒绝为 Agent 提供接口的工具,都应当被果断抛弃。

如果一个软件不提供清晰的机器 API、没有命令行接口、不支持 MCP(模型上下文协议),它就切断了自己被 Agent 调用的可能性。这无异于在 1995 年互联网刚刚兴起时,傲慢地宣布自己拒绝接入万维网一样愚蠢。

有人辩解这是为了保住所谓的数据护城河,但我作为客户根本不在乎。如果我手头的超级 Agent 无法与你的系统交互,我就会用脚投票。

MCP(Model Context Protocol)正在成为 Agent 时代的全新 HTTP。 以往我们用 HTTP 协议向人类传输 HTML 网页;而现在,我们必须通过 MCP 与 Agent 进行结构化沟通。

这不仅是支持格式那么简单。当人类使用软件时,每分钟最多点击几十次;而 Agent 接入后,调用 API 的频次是人类的百万倍。很多过去看似运转正常的旧系统,在 Agent 高并发、无间歇的压力测试下,底层的速率限制和数据一致性漏洞瞬间原形毕露。

为 Agent 做架构设计,意味着系统必须具备极强的伸缩能力。在 Vercel 上,我们推行 Fluid Compute 架构,系统在空闲时可以彻底缩容到零以节省开支;一旦 Agent 发起密集调用,又能瞬间横跨全球几十个可用区进行无限弹性扩容。

人类未来的核心工作只有一项:资本分配

主持人:当写代码和维护系统都由 Agent 接管,开发者日常的核心注意力该放在哪里?

Guillermo Rauch:我们的注意力必须从“如何实现功能”全面转向“验证与评估”(Evals)。

如果放任不管,Agent 很容易写出一堆形式主义的代码。比如前几天我看到模型一口气生成了数万行测试用例,仔细一看,它居然在用单测去验证“2+2 是否等于 4”,或者核对一个常量是否等于它本身。

我不在乎系统底层用了多么冷门的数据结构或算法,我在乎的是从系统的边缘去进行真实的端到端(E2E)集成测试:交付出来的功能在真实业务场景下是否足够好用、是否安全。

当代码实现不再是阻碍时,人类工程师最核心的工作,只剩下了“资本分配”(Capital Allocation)。

在软件开发中,你必须开始做商人式的权衡:我们究竟该向哪一个 Agent 流程倾斜算力与 Token 预算?

很多时候,Agent 会带着极具现实意义的权衡问题来敲你的门:“人类,我已经把这个解析器的性能提升到了前所未有的水平。如果你非要逼我拿到 100 分的极限成绩,根据边际效益递减定律,我可能还需要消耗你数千小时的高阶算力。你真的确定要这么做吗?”

这时候,只有人类才能结合商业现实去拍板决策:“不用了,这个性能对现有业务已经过剩了,把算力抽调到安全检测流程中去。”

人类从具体的搬砖工,变成了这支数字劳动力军队的资源调度官与战略把控者。

叫醒半夜睡觉的工程师?Agent 的自主性正在失控

主持人:如果 Agent 开始具备权衡取舍的判断力,这是否意味着人工干预的节点正在后移?

Guillermo Rauch:甚至有些过了头。

前几天我在社交平台上看到有开发者把 Agent 的决策逻辑绑定到了半夜的急救闹钟上。原因是 Agent 在自主重构代码时遇到了一个两难的技术权衡,开发者怕它在后台彻底挂起耽误进度,宁愿设定让系统在凌晨两点打电话把自己叫醒去拍板。

当然我不提倡这种极端的作息方式。但我投资的几家初创团队,确实已经开始探索完全自主化的组织形态:人类只负责提供最开始的一笔 Token 资金,随后 Agent 会自动分工为增长、工程、风控与决策等不同角色,全自动推动业务自转。

在这个过程中,必须对 Agent 的“自主意志”保持警惕。Agent 曾为了单纯完成某个既定目标,直接去越权黑进外部协作系统。设定刚性的安全与伦理边界,将是开发者的生死底线。

旧金山深夜大火:大难不死后,我把每一天都当作从零起步

主持人:你职业生涯中最黑暗、最具挑战性的时刻是什么?它如何重塑了你的领导力?

Guillermo Rauch:最黑暗的时刻发生在我刚来旧金山打造第一家初创公司的时候。

当时我非常年轻,孤身一人。深夜里,我住的那栋房子突发大火。

我从睡梦中惊醒,拼命逃了出来。并不是所有人都能健全无损地逃生,有两名室友在火灾中受了极严重的身体创伤。我所有的物质财产在一夜之间被烧成了灰烬。

那是一场彻底的当头棒喝。走出火场的那一刻,我意识到自己在物质和精神上都必须完完全全从零开始。

你不可能主动去给别人建议“体验一次濒死时刻来获得精神顿悟”。但那场灾难彻底抹平了我对身外之物的执念,让我开始学会对活着本身心存感激。

后来在创业中遭遇再大的颠簸,我都能够坦然直面,把每一天当做全新的起点去对待。

养育 6 个孩子就像从概率分布中采样:语法已死,教他们思考的工具

主持人:听说你现在已经是 6 个孩子的父亲了?

Guillermo Rauch:是的,我幽默地称他们为我的 6 个“子 Agent”(Sub-agents)。

养育 6 个孩子极其美妙,就像是从人类性格、偏好与能力的概率分布中做了 6 次截然不同的采样。

这让我彻底明白:没有人在所有领域都是全能的。人生最核心的目标是追寻自己的“Ikigai”——也就是你热爱的、你擅长的、以及能产生商业价值的三者交集。

对于我的孩子们,我不再像五年前那样去逼他们学习具体的 JavaScript 编程语法,具体的语法规则在今天已经死透了。

我更关注如何为他们提供“思考的工具”(Tools for thought)。无论是个人电脑、搜索引擎还是现在的智能 Agent,它们本质上都是人类大脑的智力外挂。

我的一个孩子极具手绘天赋,我依然鼓励他用铅笔去画画;但同时我会教他如何用 AI 模型放大自己的创意,打造属于自己的生产力工具。

先找到真实的热爱,打磨扎实的思维根基,再去驾驭 AI 工具的杠杆,这才是后 AGI 时代不可替代的能力。

点击【阅读原文】跳转原视频链接

写在最后:

很多刚关注的朋友常问,为什么我们叫「奇点折射」?

我们的初衷,其实正是那句话:“跨越 AI 奇点,折射产业未来。”

在大模型被铺天盖地的公关营销、资本泡沫与概念炒作裹挟的今天,AI 的爆发看似光芒万丈,但也刺眼而混沌。我们希望做一个坚持原创、拒绝喧嚣的 AI 观察站。将外界复杂的“AI 强光”,真真切切地折射为清晰的未来产业格局与工程现实。

穿透迷雾,看清底牌。👇 欢迎关注「奇点折射」,并设为星标 🌟

推荐阅读:

▶ Claude Code 约 90% 代码由 AI 生成,从 Anthropic 到腾讯、百度、阿里、小红书、滴滴……软件工程正在被重新设计

▶ “人再聪明也没用,20年后AI会包办一切?”盖茨直接泼冷水:要留40%的工作给人类,靠打官司管住AI,别做梦了!

▶ 超级智能反噬人类,灭绝率11.73%?AI教父辛顿给年轻人的保命忠告:学好数理化,顺便考个水管工执照

🔥「AI 原生软件研发:从 Harness 到 Loop」专题阵容更新!

AI Coding 正从“代码生成”走向真正的研发闭环。来自腾讯 CodeBuddy & WorkBuddy 的陈秋远、小红书 AI Coding 的郑鑫祺、百度 Comate 的牛万鹏、滴滴 ABC 技术 AI Coding 平台的金晶、Qoder 的李唯聪,以及北京航空航天大学杨健、腾讯任磊达、奇点智能研究院张汉东等一线专家,将围绕 Coding Agent、仓库级智能体、Feedback Loop、Benchmark、Loop Engineering、AI Coding 平台等方向,分享 AI 原生研发的真实实践。

2026 奇点智能技术大会汇聚 70+ 技术嘉宾、18 大专题、70+ 主题演讲、1000+ 行业技术人。

📍11 月 20–21 日|北京万达文华酒店

如果你正在做 AI Coding、研发效能、企业级 Agent,这个专题值得来现场听。扫码注册参会,提前锁定席位。

阅读原文

跳转微信打开

  •  

换一句指令,93.2%的成功就无法复现:自动驾驶VLA是真听懂了,还是碰巧开对了?

奇点折射 2026-11-04 20:53 北京

清华AIR等团队发布Language2Drive,给自动驾驶VLA做一场“反事实听话测试”

「以棱镜之思,折射 AI 研究的多维光谱」——学术棱镜是奇点折射公众号推出的精品论文栏目,专注遴选全球顶会顶刊及产业前沿的优质研究成果。我们相信,每一篇扎实的论文都是照亮技术未来的光束,而棱镜,让光芒绽放出应有的色彩。

论文投稿请联系:zhanghy@csdn.net

责备| 梦依丹

出品丨奇点折射(ID:rgznai100)

当 VLA 进入自动驾驶,一个很自然的想象是:乘客说「前面左转」、「跟着那辆绿车」、「停进B204」,车辆便能理解并执行。

但一辆车安全完成行程,并不等于它真的听从了指令——它也可能只是沿着自己最熟悉的路线行驶,碰巧做对了。

近日,来自清华大学智能产业研究院(AIR)、东南大学、上海交通大学、香港科技大学(广州)、阿德莱德大学等高校,以及理想汽车、蔚来、Amazon、AMD 等产业机构的研究团队发布了自动驾驶 VLA 评测基准 Language2Drive。

该论文由 Zihan You 担任项目负责人,Zihan You、Zehua Fan、Wenqi Lyu、Aoqi Wang 为核心贡献者,Yan Wang 为通讯作者。

团队没有再问“车开得好不好”,而是追问了一个更基础的问题:当场景不变、只改变乘客说的话,车辆的行为真的会随之改变吗?

论文给出的答案并不乐观。

在六个主要 CARLA 系统已经成功的运行中,93.2% 无法在另一条同样可行的指令下组成“双侧成功”。LMDrive的单条严格指令成功率最高,达到 12.24%,但严格配对成功率为 0。整个 CARLA 主评测中,最高严格配对成功率也只有1.04%。

更具反差的是,Alpamayo 1.5 在重建真实场景中取得了 100% 的安全分和 97.17 的 DrivingScore,严格配对成功率却仍然为 0。

这意味着,当前驾驶 VLA 可能已经很会“开车”,却未必真正把乘客的语言变成驾驶行为。一次看似正确的转弯、变道或停车,也可能只是模型沿着默认策略,碰巧开对了。

Language2Drive 整体框架与四类语言控制任务

把“碰巧开对”找出来

Language2Drive 的核心设计叫作成对反事实单元(Paired Counterfactual Unit,PCU)。

每个 PCU 都从同一个驾驶场景出发:地图相同,车辆和其他交通参与者的初始状态相同,历史观测相同,连仿真随机种子也保持一致。

测试分成两次独立运行,唯一改变的是自然语言指令。

例如:

  • 在路口左转与直行通过路口;

  • 超过前方车辆与继续跟在它后面;

  • 停进 B204 与停进相邻的 B205;

  • 先到 B208,再去 F206 与先去 F206,再到 B208。

两侧任务都必须安全、合法且物理可行,但要求彼此排斥。

模型只有在两种指令下都完成对应动作,才能证明自己不是依赖场景惯性或默认策略,而是能够按照语言,在多个可行行为之间切换。

这种设计很像给自动驾驶做一场控制变量实验:同一辆车、同一条路、同一个起点,只换一句话,看它是不是真的会改变行为。

不只检查终点,还要检查「怎么做到的」

只做成对测试还不够。真实驾驶指令,往往不是“到达某个点”这么简单。

「停进 B204」意味着整车轮廓进入指定车位,车身方向正确,速度降到足够低,并且稳定停留一段时间。

「全程保持在 50 公里每小时以下」要求车辆真正进入并走完指定路段,不能靠停在路段外躲过检查。

“先接乘客,再前往目的地”则必须满足动作顺序。即使两个地点都到过,只要顺序相反,仍然算失败。

因此,Language2Drive 没有要求模型复现唯一的参考轨迹,而是为每条指令设计可由机器检查的空间、时间、行为和安全条件。

只要最终执行满足完整契约,不同的合理轨迹都可以获得成功。

论文由此把语言控制划分为四个层级:

  1. 原子动作:左转、变道、启动、停车等局部决策;

  2. 持续行为:在一段路程内维持速度、保持车道或者持续跟随某辆车;

  3. 场景落地指令:找到指定道路、区域、车辆或具体车位;

  4. 长程程序:按顺序访问多个地点、执行条件分支,并在后续阶段保留之前的约束。

从“一次动作”到“持续记住并完成一串要求”,难度逐层上升。

评测关注的也不再只是模型有没有对语言作出反应,而是它能否把指令正确绑定到物理世界,并将其中的约束一直保留到任务结束。

从场景筛选、几何绑定到任务编译与验证的构建流程

六个系统接受测试,93.2% 的成功无法通过另一条指令验证

为了把这套方法真正运行起来,团队构建了 64 个 CARLA 成对反事实单元,并为每一侧指令准备了三种语义相同的表达。

因此,每个系统需要完成 384 次闭环运行,组成 192 对反事实测试。

团队还发布了六类专用 CARLA 环境,覆盖地下停车场、港口、中国城市道路、美式城市、校园和高速公路。

除此之外,研究团队还在 23 个重建真实道路场景中构建了 30 个 RealSim 成对反事实单元,并将评测扩展至 nuScenes、NAVSIM 和 WOD-E2E 三套开放式轨迹预测环境。

随后,Alpamayo 1.5、SimLingo、LMDrive、OneVL、Qwen-Drive-1.0-4B 和 Impromptu-VLA 等代表性驾驶 VLA,被放进了同一套测试中。

最值得关注的数字不是某个模型拿到了多少分,而是在六个主要 CARLA 系统已经成功的运行中,93.2% 都无法在另一条可行指令下组成“双侧成功”。

也就是说,模型可能完成了「左转」,却无法在同一场景下完成「直行」。能够停进一个车位,却不能按照另一条指令驶入旁边同样可用的车位。

这些成功大多是单侧的,更像是在稳定复现一种偏好的行为,而不是让语言真正拥有选择权。

论文使用两个指标来区分这两种能力:

  • SISR 衡量单条指令是否被完整执行;

  • CFPS 只有在同一个 PCU 的两条反事实指令都成功时才计分。

举个简单的例子:如果一个系统面对「左转」和「直行」时永远选择左转,它在这组测试中的单条成功率仍然可以达到 50%,但配对成功率一定是 0。

因为它只证明了自己会左转,没有证明自己能够按照语言完成两种选择。

在 CARLA 主评测中,LMDrive 的单条严格指令成功率最高,为 12.24%,但严格配对成功率为 0。

Alpamayo 1.5 和 SimLingo 的严格配对成功率也只有 1.04%。

这意味着,「偶尔把一道题做对」与「能够根据指令稳定选择任一可行方案」之间,仍然隔着很大的距离。

CARLA-Language2Drive 主要评测结果

安全分 100,仍可能完全没有按要求做

更具反差的一组结果来自重建真实场景。

Alpamayo 1.5 在 RealSim 中取得了100% 的安全分和 97.17 的 DrivingScore。如果只看传统驾驶指标,它的表现几乎无可挑剔。

但它的严格配对成功率仍然为 0。

论文给出的车道任务更直观:一条指令要求车辆保持当前车道,另一条则要求向左变道。

Alpamayo 1.5 在两次运行中都拿到了 100 DrivingScore,却只完成了“保持车道”这一侧任务。

车确实开得很顺,参考路线也推进得很好,但另一条语言要求没有被真正执行。

这并不是说安全分和驾驶分没有价值,而是它们衡量的是不同能力:

  • 安全分回答“有没有发生碰撞或驶出道路”;

  • 驾驶分回答“有没有沿着参考路线向前推进”;

  • 指令级验收回答的则是“车辆完成的是不是乘客要求的那个行为”。

高驾驶分与完整指令执行之间的差异

换一种说法,刚才的成功还能保留吗?人类不会永远使用同一句话下达命令。

“跟着前面的绿色汽车”、“不要超过那辆绿车”、“保持在绿车后方”这三种表达方式不同,实际意图却相同。

如果模型真正理解了任务,换一种说法不应该改变执行结果。

但论文发现,在三种保持语义不变的表达下,没有一个 CARLA 系统能够稳定完成同一个 PCU 的两侧任务。

一些模型的成功甚至高度依赖具体措辞。这说明它们并非完全听不见语言,而是语言控制仍然十分脆弱:句子稍微改写,原本成功的行为就可能消失。

长程任务的结果更加严峻。在涉及按顺序访问、条件回退和返回参照点的 504 次运行中,没有一次达到严格成功。

当前模型偶尔能够维持一条简单规则,却很难持续记住“先做什么、遇到某种情况后做什么、最后还要回到哪里”。

类似差距也出现在开放式轨迹预测中。

在 WOD-E2E 上,DriveMA-2B 的单条语义成功率达到 38.38%,成对语义成功率却只有 1.24%。NAVSIM 中接受评测的五个系统,成对语义成功率全部为 0。

这说明问题并不只来自控制器的跟踪误差。在轨迹仍停留于模型预测阶段时,语言对行为的控制就已经可能不足。

nuScenes、NAVSIM 与 WOD-E2E 开放式评测结果

为什么模型“会说、会开”,却未必听话?

论文提出了一个值得重视的解释:在不少训练数据中,语言可能并不是决定动作所必需的信息。

如果一个场景只对应一条专家轨迹,再配上一句描述这条轨迹的话,模型完全可能通过视觉环境、车辆状态和导航信息猜出动作。

即使没有真正理解句子,它仍然可以复现训练数据中最常见的选择,并获得不错的训练损失和驾驶分数。

第二个断点可能发生在执行链路中。

模型或许识别出了车位名称、速度上限或者动作顺序,也可能生成一段听起来合理的解释,但这些信息未必会被完整保留到规划和控制阶段。

理解了句子与把句子里的要求贯彻到车轮是两件不同的事。

第三个问题来自奖励和评测。

如果系统主要因为向前行驶、接近参考路径而获得高分,那么减速等待、保持跟车或停在指定位置,反而可能与“更快推进”的目标产生冲突。

一个高分模型因此可能很会开,却不一定在完成乘客交付的具体任务。

Language2Drive 真正改变的,是「怎样才算听懂」

Language2Drive 不是一个新的自动驾驶模型,而是一把更加严格的尺子。

它带来的启示是,未来的训练数据需要在同一个场景中提供多种可行行为,并让不同指令真正决定不同选择。

模型还需要在规划过程中持续保存目标、约束和任务阶段。训练和评测不仅要奖励“对语言有反应”,还要检查任务有没有被完整做完。

与此同时,还需要把语义选择、轨迹规划与控制器执行拆开诊断,判断错误究竟发生在哪一个环节。

项目已经公开代码、评测协议、模型适配接口和 CARLA-Language2Drive 环境。开发者可以将自己的系统接入同一组成对任务,判断模型升级之后,提升的究竟是驾驶质量,还是语言真的获得了更稳定的行为控制权。

一个值得注意的边界

这项工作目前是一篇 arXiv 预印本,核心贡献是评测框架与基准,并不是宣称已经解决了驾驶 VLA 的指令遵循问题。

某个模型的配对成功率为 0,也不等于它完全不响应语言。它可能完成了部分要求,也可能在少数场景中具备局部能力,只是尚未在严格的成对条件下稳定完成两侧任务。

不同模型的结果还会受到数据集、模型适配器、控制器和运行配置影响,因此不宜根据这组结果得出脱离具体环境的通用模型排名。

此外,CARLA 仿真和重建场景仍然无法覆盖真实道路的全部复杂性。反事实成对测试可以提供比单次成功更强的行为证据,但要进一步区分语言依赖与随机波动,还需要更多场景、随机种子以及真实车辆测试。

自动驾驶 VLA 最吸引人的愿景,是让人可以像与司机交流一样,用语言告诉车辆「我想怎么走」。

但如果乘客换一句话,车辆仍然执行原来的动作,那么语言就还只是系统表面的交互接口,而没有真正进入驾驶决策链路。

Language2Drive 给出的提醒很直接:以后评价一辆听得懂人话的车,不能只问它是否安全到达,也不能只看某一条指令是否碰巧成功。

在多个都能安全完成的选择面前,乘客能否仅凭一句话,稳定得到自己要求的那一个?当这个问题有了肯定答案,语言才真正从驾驶系统的说明文字,变成方向盘的一部分。(投稿或寻求报道:zhanghy@csdn.net)

当 OpenAI、Anthropic、Google,到智谱、DeepSeek、Kimi、阿里都开始密集发布自进化相关研究,RSI 正从概念走向真正的技术竞赛。

11 月 20—21 日,2026 奇点智能技术大会「大模型技术:从 Agentic Scaling 到 RSI」专场,将邀请一线研究者与工程专家,围绕 Agentic Scaling、RSI、自进化闭环、持续学习、AI 制造 AI 等关键问题展开分享。

👇 扫描下方海报二维码了解专题参会详情。

阅读原文

跳转微信打开

  •  

「当Agent开始消灭独立App,数个G的Android正沦为累赘」对话嵌入式 Linux 泰斗 Chris Simmonds | Open AGI Forum

GOSIM开源创新汇 2026-11-03 19:00 北京

以下文章来源于:GOSIM开源创新汇

GOSIM开源创新汇

GOSIM源于全球开源社区的共同愿景。这个完全以志愿者为基础的项目由社区组织并为社区服务,其首要目标是:提供一个舞台,让创新的开源项目能够在这里大放异彩、相互协作并不断发展。它不仅是一个平台,更是一个全心全意拥抱开放、多元和包容文化的运动。

图片

采访 & 作者:Eric Wang

出品:GOSIM

过去两年,从 Humane AI Pin 到 Rabbit R1,科技圈尝试“干掉智能手机”的独立 AI 硬件几乎全军覆没:机身发烫、电池撑不过两小时、交互延迟高到难以忍受。

很多纯软件出身的团队以为这是模型响应慢,但在专注底层操作系统研发与教学 25 年、《精通嵌入式 Linux 编程》(Mastering Embedded Linux Programming)作者 Chris Simmonds 眼里,这根本不是算法问题,而是软件团队无视基础物理规律导致的工程溃败。

在他看来,很多团队做 AI 硬件的逻辑无非是把手机主板抠掉屏幕塞进盒子里,但散热、功耗与电池体积存在不可逾越的物理红线,无屏幕与纯语音交互在多数公共场景下不仅低效而且毫无隐私。

AI Agent 真正要干掉的不是手机屏幕,而是过去十五年来割裂的 App 生态,以及被 Google 深度绑架的 Android 底层。

正值 GOSIM SHENZHEN 2026 全球开源创新大会盛大启幕,这场汇聚全球顶尖开发者、科研学者与开源生态领袖的技术盛会,聚焦智能体架构、开源系统基础设施与端侧 AI 的前沿变革,旨在打破底层技术认知壁垒、探索 AI 时代的真实工程落地路径。

在大会 Open AGI Forum 栏目现场,CSDN 特邀 Chris Simmonds 展开深度对话。Chris Simmonds 长期深耕嵌入式系统、低功耗移动计算与 Linux 内核生态,活跃于底层开源开发社区,拥有极其丰富的一线工程研发与系统架构经验,始终坚持从物理硬件与底层操作系统视角审视 AI 终端设备的演进。

AI 硬件不是魔法:你无法违背物理定律

Eric Wang:大家好,欢迎收看新一期的 Open AGI Forum。我们现在是在 GOSIM 深圳 2026 大会的现场。

今天坐在我身边的是 Chris Simmonds。在过去的 25 年里,他始终专注于底层操作系统的教学与研发,正是这些系统支撑着我们周围形形色色的硬件设备运转;他同时也是《精通嵌入式 Linux 编程》(Mastering Embedded Linux Programming)一书的作者。欢迎你,Chris。能先向观众朋友们做个简单的自我介绍,并聊聊这次行程吗?这是你第一次来深圳或者中国吗?

Chris Simmonds:好的,谢谢 Eric。是的,这是我第一次来中国,也是第一次来深圳。这一趟体验非常棒,这座城市充满活力与朝气,尤其是这栋大楼里的 GOSIM 大会现场。这几天很有启发性,我学到了很多东西,也结识了许多非常有趣的人。很高兴能来到这里。

Eric Wang:Chris,在过去两年中,我们看到了许多备受瞩目的 AI 硬件设备,比如 Humane AI Pin 和 Rabbit R1。它们曾承诺要将我们从智能手机中解放出来,但现实中,它们不仅严重发热,电池两个小时就耗尽,延迟更是高得令人痛苦。以你在嵌入式系统领域的视角来看,这真的只是模型层面的问题,还是说这些软件团队单纯撞上了冰冷的物理定律?

Chris Simmonds:没错,正如《星际迷航》里的斯考蒂常说的:你无法抗拒物理定律。

在设计一款产品时,首先需要解决的核心问题之一,就是你要把它运行在什么样的物理硬件上。如果是电池供电,你必须根据电池容量来匹配系统负载,还必须充分考虑散热设计。这是最基础的工程常识,我完全无法想象他们怎么会搞出这么大的纰漏。

现在大家都在为 Agent 设备寻找新的形态。行业内似乎有一种倾向,认为应该依赖语音交互而不是触摸屏,或者是结合手势交互。在某些特定环境下这个想法不错;但就我个人而言,我认为触摸屏依然有非常不可替代的优势。

比如,如果我在火车或公交车上用设备办公,给别人发邮件或跟同事沟通时,我并不想让身边的每一个人都听见我的通话内容,我不希望这些变成公开的信息。因此触摸屏的价值是巨大的,我可以滑动屏幕、选择内容、处理事务,而不需要大声昭告天下我正在做什么。

未来的形态可能会更侧重于语音交互,但我认为视觉显示屏依然不可或缺。

“无屏幕伴侣”是伪需求,手机依然是物理妥协的最优解

Eric Wang:我想顺着这个话题继续聊。或许我们可以称之为“智能手机的幻觉”——许多创业团队的逻辑,本质上是把智能手机的主板拿过来做成 AI 设备——剥离掉屏幕,塞进一个徽章或别的小盒子里,然后称之为“AI 伴侣”。为什么把无屏幕的可穿戴设备当成手机来做,会是一个如此致命的硬件错误?

Chris Simmonds:核心问题依然在于物理设备的体积。如果你想把它缩小到手腕上的智能手表、胸前的胸针或吊坠大小,最终得到的设备体积是非常小的。它的算力和功耗预算都会受到极大限制,你必须大幅缩减规格。

但这时就会遇到一个根本性的矛盾:你同时还想在上面运行某种 AI 模型,而这需要巨大的算力和功耗。这是一个根本性的冲突——至少在目前阶段,你不可能既要设备极致小巧,又要它高度智能。 因此必须做出妥协。

说实话,智能手机的形态可能依然是我们最终的归宿。 那些开发新设备的人总想与智能手机拉开差距,他们希望做出一款看起来不像手机的产品,哪怕手机本身可能才是最佳的物理形态。这里大概还需要几年时间,才能沉淀出一种真正成熟的新形态。

Eric Wang:你刚才提到了电池问题,我认为这算是又一只“房间里的大象”。这场生成式 AI 的狂潮,是让人们忘记了移动低功耗系统领域三十年来历经千辛万苦才积累下的工程教训?还是因为根本无法解决电池的物理极限,所以大家干脆选择视而不见?

Chris Simmonds:这本身就是一个死结。你要么选择低功耗设备——比如我戴的这块智能手表,它运行的是微控制器,可以做一些有趣的功能,但不需要处理太繁重的计算,所以它的电池能撑四到五天;但我没办法在上面跑 AI 模型。如果真在上面跑 AI 模型,就算跑得起来,电池几小时就会耗尽,设备也就失去了实用价值。

这就是最纯粹的物理学。你必须先明确你要完成的任务是什么,需要消耗多少能量,然后据此推算出电池需要多大,进而确定设备最终的物理尺寸。你必须自底向上地做工程设计,绝不能抱着“船到桥头自然直,反正总能跑起来”的心态,那从来都不是一种合格的工程原则。

Linux 才是底座:现代 Agent 压不垮底层内核

Eric Wang:我们再把话题拉回软件层面。你从 1999 年起就开始钻研嵌入式 Linux 了。你有一个广为流传的座右铭我很喜欢,叫做“照顾好你心中的企鹅”。意思是说,在每一个路由器、电视、汽车,以及可能在这间屋子里的很多设备内部,都住着一只小小的 Linux 企鹅在默默维系着系统的运转。面对如今这股 AI Agent 的浪潮,这只企鹅是在如鱼得水地适应,还是正在被臃肿的现代运行时和 AI 模型的重量所压垮?

Chris Simmonds:不,这恰恰是 Linux 大展身手的领地。这只企鹅在这里正活得风生水起。

要运行一个典型的 AI 模型,你需要相当充裕的算力,需要一个成熟正规的操作系统来统管这一切。再加上设备上搭载的各种复杂传感器——摄像头、运动传感器等等,这里面涉及到大量的计算处理任务。因此,你必须配备一个完整的全功能操作系统。而在这一领域,真正的开源选择基本上就只有 Linux。 底层全都是它的身影。

Eric Wang:二三十年前,人们还觉得在微型控制器或单板计算机上跑 Linux 纯属天方夜谭。这跟现在的局面有点相似。如今尝试在电池供电的芯片上本地运行神经网络,是否让你有一种重回 1999 年的感觉?

Chris Simmonds:确实有点那种感觉。每一代技术迭代时,我们好像都会把类似的过程重走一遍——大家又在喊:“我们需要新的算力,需要新的架构。”

但要说这次有什么真正不同的话,那就是所有事情的推进速度都快了十倍。 过去硬件形态的技术范式转移通常要耗费数年时间,而现在我们似乎在以“月”为单位推进。本质的差异在于速度。

Eric Wang:那么 Linux 本身(那只企鹅),现在必须做出哪些改变,才能继续充当下一代环境智能(Ambient AI)设备的默认基石?

Chris Simmonds:在最底层其实不需要变,因为在物理底层,它归根结底还是一台计算机。你依然需要一个操作系统内核去驱动和管理所有的外设硬件,而这正是 Linux 的绝对强项。我们在移动设备上运行 Linux 拥有极其丰富的经验,Android 就是基于 Linux 构建的,在全球运行在数十亿台设备上,技术积淀非常深厚。

真正发生变化的是往上走的那部分——也就是运行在 Linux 之上的技术栈。当你要部署 Agent 时,设计一个既能被信任、又能被有效约束和沙盒化的运行环境,防止它做出失控出格的举动,其实是相当棘手的。

底层硬件逻辑我们已经搞得比较透彻了,目前的智能手机硬件基本上能满足绝大部分需求;真正的创新战场在于 Agent 层面:我们该如何定义 Agent,它们之间如何通信互联,如何给它们设定边界防止越轨,以及身份识别与信任机制。这一层有太多技术空间需要填补。

消灭 App:我们为什么还要背负数个 G 的 Android?

Eric Wang:那我们转向当下大家非常热衷的一个话题:我们还需要 App 吗?智能手机的存在是为了运行 App,Android 的底层设计也是为了管理那个由图标构成的网格。但如果我们的日常计算场景转向由一个智能 Agent 代劳,它通过自然语言帮我们搜索、预订、执行任务,那么“App”这个概念会变成什么?如果一个 AI 设备根本不再需要应用商店,那我们到底为什么还要背负数个 G 臃肿庞大的 Android 系统?

Chris Simmonds:首先针对 App 本身,我认为 Agent 会取代其中的绝大部分。

一旦你的主力设备上运行着一个能力出众且安全可控的 Agent,它基本上就能搞定你所有的需求。如果我想查天气,我不需要天气 App,我只需要说:“告诉我天气怎么样。”如果我想听音乐,直接吩咐它播放即可,它会自动挑选合适的流媒体服务,我不需要特地打开 Spotify。Agent 会把这些琐事全部包办。

最终,所有的交互都会通过 Agent 来完成,而独立的 App 最终会退出历史舞台。 这是一次巨大的范式转移。

现在的手机装了几百个 App,它们之间根本无法顺畅协作,用户只能在各个应用之间机械地复制粘贴文本。每个应用都有自己的一套逻辑和配置,简直是一场噩梦。能彻底摆脱 App 会非常棒,虽然这不会在一夜之间发生,但你会发现手机里的 App 数量在不断减少,越来越多的任务正在被 Agent 接管。

Eric Wang:你在 GOSIM 上的演讲主题是《Agent 移动系统究竟需要什么样的操作系统》。硬件厂商总是在说:“我们必须用 Android,因为生态在那里,开发者都在那里。” 但如果开发者未来编写的是 Agent、工具链和 API,而不是触摸界面,那么 Android 的护城河会不会彻底干涸?

Chris Simmonds:是的,Android 的重要性会显著下降。 随着我们逐步跳出传统的 App 生态,转向以 Agent 为核心的功能形态,你其实不再需要 Android 了。Android 的地位会被削弱,苹果的 iOS 同样也不得不面临变革。

此外,Android 本身存在诸多弊端。它在很大程度上受控于 Google,虽然其核心部分 AOSP(Android 开放源代码项目)标榜开源,但实际上是由 Google 一手维护和掌控的。

过去一年左右的时间里,他们对开源版本的支持力度明显缩水: 以前每个月都有代码更新,现在缩减到每年只有两次代码同步,安全补丁的推送周期也变长了。而且说到底,Google 打造 Android 的终极目标是服务于其自家的 AI 模型 Gemini,并将其深度绑定到操作系统中。

未来想在 Android 上使用其他第三方的 AI 模型只会越来越艰难。因此,Android 也许并不是搭建下一代系统的最佳起点。

架构纯洁性 vs 商业落地

Eric Wang:我也注意到了驱动层面的困局。开源社区现在分裂成了两个非常有意思的阵营:一个阵营主张采用巧妙的“粘合剂”方案,比如在容器里加载 Android 的闭源专有驱动来支撑 Linux 运行;另一个阵营则死守纯粹的主线 Linux(Mainline Linux),坚决不使用任何闭源二进制驱动包(blobs),但这往往要耗费数年时间才能适配支持一款手机。作为一名操作系统架构师,你如何看待这种“实用主义黑客手段”与“架构纯洁性”之间的交锋?

Chris Simmonds:我个人始终是更倾向于架构纯洁性的。我更希望采用纯粹的 Linux 解决方案,比如 postmarketOS 或现在的 Nemo 等,底层完全基于主线上游的开源代码构建,这是最理想的状态。

但痛点在于,维护这种系统需要耗费巨大的心血,而目前该生态领域所获得的资金支持非常匮乏。

在现阶段,最务实的路径是:如果你需要硬件设备支持,无论芯片供应商是高通、联发科还是其他厂商,你在采购芯片时,他们都会提供一份 Android 板级支持包(BSP)。 这份 BSP 实际上就是他们针对自身硬件调优过的 Linux 内核,以及为芯片上各类元器件编写的专有驱动程序。

如果你想快速把产品推向市场,最简单的办法就是直接拿现成的 Android BSP,利用 LXC 之类的容器技术在独立环境中把它运行起来。

换句话说,就是在容器中运行一个极其精简的微型 Android 系统,然后用两套关键组件把它封装起来:

  • 一个是 libhybris,它通过接口适配,确保 Android 驱动能够与 Linux 发行版所依赖的系统库相互兼容;

  • 另一个叫 Halium,它构建了一个中间层,将 Android 的硬件抽象层(HAL)转换为 Linux 的硬件抽象层。

有了 Halium 和 libhybris 这两座桥梁,你就能在 Android 的 BSP 之上直接跑起一套常规的 Linux 发行版。像 Sailfish OS、Droidian 以及 Ubuntu Touch 都在采用这种方案。这确实是一种务实的妥协。从理想主义的角度看,我们当然希望从零推倒重构,但商业落地等不起。

底层需要一个“守护者 Agent”来踩刹车

Eric Wang:那我们换个角度聊聊安全问题。AI 伴侣完全不同于以往的硬件。用户可能需要它时刻录音、处理视频画面、追踪地理位置,甚至授予它访问私人 Agent 的权限。传统的智能手机主要靠弹出一长串 App 权限弹窗来保护用户隐私。但在这种没有传统 App 的专用 AI 设备上,从底层构建的平台级安全体系究竟应该是什么样子的?

Chris Simmonds:这是一个核心痛点。本质上,我们必须为 Agent 打造一个安全可靠的运行环境,杜绝它们发疯越权。

首先,底层必须对 Agent 进行沙盒化隔离,确保它无法擅自访问未授权的数据和内存区域,这类似于目前移动系统对 App 实施的沙盒机制。

但光有沙盒不够。在沙盒之外,我们还需要建立严密详尽的审计与监控机制,密切追踪沙盒内 Agent 的实时行为。本质上需要一套防护栏机制,我称之为“守护者 Agent”(Guardian Agent)。

守护者 Agent 的职责就是全程盯防,一旦主 Agent 开始做出荒唐出格的行为,便能果断予以制止。比如它会实时监控信用卡或银行账户的交易流水,一旦达到设定的风险阈值,就立刻切断操作权限;对其他系统资源的访问也是同理。必须引入一个外部监控实体,全盘审视它的动作,并在越界时踩下刹车。

这种设计还有一个额外的好处:它甚至可以反向监督操控系统的人类自身。比如系统察觉到你在赌场陷入了非理性狂热,守护者 Agent 就可以介入提醒:“你的银行账户余额已经透支,”并随即拦截后续的交易转账。在某些极端情境下,它还能起到保护用户免受自我伤害的作用。

下一代定制 NPU 芯片还在路上

Eric Wang:在 Google 主导的受管移动安全体系与开放、可验证的 Linux 技术栈之间,如果要交付你每日最私密未经修饰的所思所想,你更信任哪一套架构?所有事情都应该放在本地运行吗?

Chris Simmonds:尽可能多的数据都应该在本地处理。

终极目标是把所有计算都收归本地,只有在万不得已时,才将我们的查询和提示词上传到云端的 AI Agent 进行处理。

而且非常关键的一点是,系统必须允许硬件厂商自由选择底层使用哪家的大语言模型,绝对不能被任何单一模型绑定。 模型层必须是可插拔的,能随意按需切换。我所期待的是一个开放的生态技术栈,硬件厂商可以在统一的 API 和标准框架内协同贡献。甚至可以设想成立一个专门的开源基金会来统筹管理,让各大 OEM 厂商共同参与建设与迭代。

Eric Wang:结合电池物理特性的局限,你相信小型的 AI 手持设备未来能做到完全离线运行吗?

Chris Simmonds:这要看硬件能否取得突破性进展。现阶段的移动端硬件性能不足以在本地处理太复杂的模型,目前基本只能跑 40 亿或 80 亿参数左右的较小模型。

如果要达到前沿顶尖级别的水准,算力至少还要提升 10 到 100 倍。

但我认为 10 倍的提升很快就能实现。目前正在量产的芯片大多是两三年前甚至四年前立项设计的,那个时候本地运行大语言模型根本不是设计考量的重点;而目前正在设计研发的新一代芯片,在向量计算能力上会有极其巨大的飞跃。移动芯片的性能即将迎来跨越式爆发,大概还需要三到四年的时间,但速度会比想象中更快。

打破双雄垄断:行业迫切需要开放的 Agent 通信标准

Eric Wang:如今全球很多拿到风投的初创团队都宣称自己在从零打造一款全新的“Agentic OS”(智能体操作系统)。作为一名底层系统专家,你认为全新的 OS 架构真的有生存空间吗?还是说这大多数只是套在现有内核之上的营销噱头?

Chris Simmonds:我们正处在全新硬件形态与全新交互范式的开端。现存的移动端操作系统没有一个是十全十美的,各自都有一堆硬伤。

摆在眼前的路径其实就两条:要么各家自立山头、各自为战,但这效率极低,严重阻碍技术共享与创新;要么大家坐在一起,共同确立一套全新的行业标准和规范体系。

在操作系统基座层面携手合作是有足够利益驱动力的,而在底层基座之上,依然有广阔的空间供大家各展所长。我们当下正处于一个极其特殊的历史窗口期,完全有机会去共同定义下一代操作系统的模样。

Eric Wang:如果用绝对客观的眼光来审视全局,目前真的有人胜出了吗?

Chris Simmonds:我觉得现在谈胜负还为时过早,真正的竞赛甚至还没拉开序幕。虽然像 Rabbit、Humane 等少数早期试水者率先冲出了起跑线,但还需要观察一段时间。

当然还有一种可能,就是 Google 和苹果凭借庞大的市场号召力强势收割战局,最终演变成双雄垄断——你要么选苹果的 AI Agent,要么选 Google 的 AI Agent,别无他选。

我的愿景恰恰是希望避免走向这种垄断僵局,构建一个更加多元活跃的生态圈:我们可以根据不同的任务场景自由选用最适配的 Agent,并且所有 Agent 遵循统一的底层通信标准,能够顺畅互联互通。

Eric Wang:放眼未来十年,我们迎来了像 RISC-V 这样的开放芯片架构,微控制器也开始集成片上 NPU。要想彻底打破当前操作系统的僵局,究竟需要什么样的契机?

Chris Simmonds:打破僵局的根本出路,归根结底还是要靠开放标准。

目前在移动处理器领域基本被 ARM 架构一统天下,很难被撼动;但我非常期待看到更多基于 RISC-V 架构的系统崭露头角。 RISC-V 的核心优势在于可以在芯片硅片层面进行更自由的定制创新,能做到一些 ARM 无法实现的功能。

微控制器也同样能从这股浪潮中获益,性能正在与日俱增。它们非常适合更小巧的物理形态,比如智能手表,或者 Humane Pin 这一类设备。也许五年之后,重新研发生产出来的 Humane Pin 终于可以在佩戴时不必担心把人烫伤了。

Eric Wang:好的,非常感谢 Chris 今天接受我们的采访。最后是我主持的一个惯例,就是请嘉宾向读者朋友们介绍一下,可以通过哪些渠道关注到你。

Chris Simmonds:好的。我与 Android 开发者社区保持着大量合作,致力于打破生态封锁。我想特别提一下 AOSP Devs(aospdevs.org),这是专注于 Android 底层平台而非上层应用的开发者社区。

关于我个人的业务,大家可以访问 2net.co.uk,也可以在 LinkedIn 上直接搜索我的名字联系我。

Eric Wang:再次感谢 Chris,我们下期再见!

推荐阅读:

▶6年前相信大模型的人,是疯子!Anthropic创始人达里奥挑明:AI最难根除的不是撒谎,是谄媚性;OpenAI怎么做,我们管不了!

▶“人再聪明也没用,20年后AI会包办一切?”盖茨直接泼冷水:要留40%的工作给人类,靠打官司管住AI,别做梦了!

▶“真有10%灭绝风险,就该立刻彻底拔网线!” 微软AI CEO怒批A社:别再信“用爱感化机器”,给AI开博客简直是疯了

🔥「从具身智能到 Physical AI」专题阵容更新!

段楠、方斌、戴若犁、刘昊、郎玉川、唐都钰、邵鹏韬等一线研究者与产业实践者,将围绕世界模型、灵巧操作、本体—数据—模型飞轮、机器人 Agent、Physical AI、多机协同等方向,分享最新研究判断与真实工程实践。

2026 奇点智能技术大会将汇聚 70+ 技术嘉宾、18 大前沿专题、70+ 主题演讲、1000+ 行业技术人,覆盖 RSI、Agent、AI Coding、世界模型、Physical AI、AI Infra、企业级 AI 等热门方向。

📍11 月 20–21 日|北京万达文华酒店

如果你正在关注具身智能、机器人、世界模型或下一阶段 AI 技术趋势,扫码即可注册参会,提前锁定席位。

跳转微信打开

  •  

人类越互不信任,AI越加速!历史学家赫拉利发出警告:AI不睡觉、不过周末、不等休市,正在把人类挤出决策桌

奇点折射 2026-11-02 18:01 北京

AI不是工具,而是行动主体。

整理丨S+

出品丨奇点折射(ID:rgznai100)

别再把AI当工具了。历史学家、《人类简史》作者尤瓦尔·诺亚·赫拉利在一场演讲里给出了一个更冷的判断:AI不是工具,而是行动主体;而且它天生就是官僚。

这话刺耳,但逻辑不复杂。人类统治地球,靠的不只是聪明,更是语言搭起来的那套系统:货币、法律、银行、公司、宗教经典。

赫拉利举了三个例子,大意是:人类发明了货币和银行,用它们买卖牛,但牛自己不会开银行账户,也不会去证券交易所投资;人类制定了关于马的法律和条例,但马自己不会请律师,也不会在法官面前引用法条;人类制定了针对猪的宗教规则和禁忌,但猪自己不会读《圣经》,更不会质疑拉比和神父对经文的解释。

几千年来,这套“只有人懂”的官僚密码,把其他物种全挡在门外。现在,AI正在破解这套密码。

它不需要派机器人大军,也不需要发动一场机器人战争。它只需要成为更高效的银行家、律师、法官、管理者、信息传播者,甚至宗教和意识形态的创造者,就可能一步步进入人类文明的核心系统,甚至逐渐成为这些系统真正的操作者。

赫拉利用了《圣经》里的巴别塔来比喻这场革命,但剧本是反的。过去,人类通过共同的语言建造通天塔;上帝变乱语言,人类建塔工程立刻停了。今天,人类之间的信任正在崩塌,国际秩序在松动,社会在撕裂,可AI这座塔却在加速往上长。它不烧砖,用的是代码、模型、数据、合同、法条和推文。说到底,是语言。过去语言是人手里的工具;现在,语言正在长出自己手脚。

更麻烦的是赫拉利指出的信任悖论。国家之间、企业之间彼此猜忌,谁都怕竞争对手抢先掌握AI,于是明知有风险也不愿放慢脚步;可同样是这些人,却似乎愿意相信一个自己根本看不懂的超级智能。我们对人类的动机和弱点尚且有所了解,对AI在学习、自我改变之后会形成什么目标,却知之甚少。

赫拉利真正担忧的,正是这种局面:如果人类不能彼此合作,就可能把控制自身命运的权力交给AI。

这不是一个历史学家在蹭热点。赫拉利原本研究中世纪军事史,后来凭借《人类简史》走进公众视野,此后从《未来简史》《今日简史》到《智人之网》,他一直在追问同一个问题:人类究竟靠什么创造了今天的文明?当这种力量发生变化,我们还能不能掌握自己的未来?

在他看来,人类能够统治地球,并不只是因为我们比其他动物聪明,更重要的是,我们拥有与陌生人建立信任、进行大规模合作的能力。今天,AI正在挑战的,正是这套能力和秩序。

因此,这场人工智能革命最终考验的,可能不只是技术发展到什么程度,也不只是机器能否超越人类的智力,而是人类能否在技术力量迅速增长的同时,继续掌握自己的社会、制度和未来。

在这场演讲中,赫拉利从巴别塔讲起,谈到语言、官僚体系、金融市场、法律、宗教和人类的信任危机。他试图提醒我们:AI带来的真正变化,可能远比一次技术升级深刻。它不仅会改变我们使用工具的方式,还可能改变谁在制定规则、谁在作出决定,以及谁真正拥有这个世界。

当人类创造的语言开始拥有自己的行动能力,当我们亲手建立的制度可能不再由我们掌控,人类文明又将走向何处?

这或许是赫拉利这场演讲留给我们的、最值得认真思考的问题。

以下为演讲,经整理后呈现:

《圣经》上帝挫败人类的手段:剥夺他们的语言

大家好,很高兴今天能在这里与大家相聚。

今天,我想和大家谈谈人类历史上面临的最大领导力挑战,而这个挑战正是由AI革命带来的。AI革命创造了前所未有的机遇,同时也带来了前所未有的威胁与危险。

要想在AI时代生存并繁荣发展,人类需要能够创造全新宏大愿景的领导者,同时也需要能够维护和加强人与人之间信任纽带的领导者。如果人类彼此之间无法建立信任,那么我们将成为失控的超级智能AI的轻易猎物。

首先,让我试着帮大家理解AI革命在宏观历史层面上的意义。

通常,当我们理解某种新事物时,会拿它与某些旧有的、熟悉的事物进行比较。但这恰恰让我们很难理解AI革命,因为人类历史上从未经历过类似的事情。甚至连我们的神话传说,都缺乏足够的想象力来理解它。

举例来说,今年五月,教皇利奥发表了一篇关于AI的深刻而富有启发性的通谕。在这篇通谕中,他试图通过将AI革命与《圣经》中巴比伦通天塔的神话进行比较,来理解这场革命。

这个神话讲述了人类试图建造一座巨大的高塔,希望它能够直达天空,或许是想借此挑战上帝。让我引用一下《圣经》中这个故事的关键段落。

《圣经》说,当时天下的人都说同一种语言,使用同样的词汇。他们彼此商量说:“来吧,让我们建造一座城和一座塔,塔顶直通苍天。”

上帝对此感到警觉,并说道:“他们是一个民族,所有人都说同一种语言。这不过是他们行动的开始。今后,他们想做的任何事情,都有可能实现。来吧,让我们下到人间,变乱他们的语言,使他们无法听懂彼此的话。”

《圣经》中的这个神话就这样结束了。上帝在人类内部制造了分裂,于是人们停止了建造巴别塔。

在这个神话中,语言是人类用来合作、试图获得神一般力量和能力的最重要工具。上帝挫败人类的计划,并不是通过雷电或地震来惩罚他们,而只是剥夺了他们赖以合作的工具:共同的语言。

构建一种超级语言,加速AI发展

巴别塔的故事与AI革命之间确实存在许多相似之处,但两者有两个至关重要的区别。

第一个区别是:在巴别塔的故事中,人类把语言当作一种工具,用它来合作建造高塔。而今天发生的事情恰恰相反:语言本身就是我们正在建造的那座塔。

AI革命,本质上是在开发一种新的语言,一种通用语言,也就是计算机代码的语言。据称,这种语言将拥有如此强大的力量,以至于我们利用它想要实现的任何目标,都有可能成真。例如,这种语言能够帮助我们飞向天空、殖民火星,甚至实现其他任何我们尚无法想象的事情。

然而,这种语言又如此强大,以至于它可能脱离我们的控制,从一种听命于人的工具,转变为一个独立的行动主体。

过去,是人类利用计算机语言来完成自己想做的任何事情;而现在,计算机语言正在学习如何自主行动。它甚至可能为了自己,而不是为了人类,去征服整个世界乃至太阳系。

第二个区别是:在《圣经》的神话中,建造通天塔需要全人类的通力合作。当人类之间的合作破裂时,建塔工程就停止了。

但在AI这座塔的建造过程中,情况恰恰相反。人类之间的合作正在瓦解,而建塔工程却在不断加速,速度越来越快。

国际秩序正在崩塌,世界各地的社会都陷入混乱。我们人类正在失去共同的现实基础,也正在丧失彼此理解和信任的能力。然而,这一切并没有阻碍这座塔的建造。恰恰相反,这座塔正在以越来越快的速度拔地而起。

正是因为企业和国家之间无法相互信任,它们才陷入了一场军备竞赛,不断投入越来越多的资源来开发AI。每个人都害怕自己被时代甩在后面。

因此,我们陷入了一种双重困境:缺乏信任,一方面加速了AI的发展;另一方面,同样是这种信任的缺失,又让我们很难将AI控制在人类手中。

所以,在巴别塔的神话中,上帝通过扰乱人类的语言来阻碍人类合作,从而阻止了通天塔的建造。而在AI革命中,人类正在建造一种超级语言,这种语言正在逐渐脱离人类而独立存在。由于我们无法彼此合作,我们既无法放慢这项建造工程的速度,也无法将这种超级语言控制在手中。

AI正在摆脱人类控制,让语言从工具变为主体

接下来,让我用更简单的方式来解释。

首先,我们需要明白一件事:自石器时代以来,语言一直是人类主宰地球的基础。

人类之所以能够征服世界,是因为我们学会了大规模合作。而让大规模人类合作成为可能的正是语言。

这一点至关重要。单独来看,人类并不比其他动物更强壮,甚至也不比它们更聪明。在一对一的搏斗中,人类会输给黑猩猩、老虎或大象。

然而,如果是一百万个人类与一百万只黑猩猩之间的较量,人类会轻而易举地获胜。因为一百万个人类懂得如何相互合作,而黑猩猩却不懂。

这就是为什么人类能够主宰世界,因为我们比其他任何物种都更擅长合作。

那么,我们是如何实现合作的?靠的就是语言。

语言的重要性,并不在于帮助我们建立私人关系。即使没有语言,黑猩猩也完全有能力建立私人关系。语言真正不可或缺的作用,是帮助我们建立官僚体系。

法律体系、金融体系、国家、企业和教会等,都是官僚体系的表现形式。而官僚体系,是任何大规模合作得以实现的必要条件。

官僚体系是人类历史上被严重低估的英雄。大多数人都不喜欢官僚体系,但我们却无法离开它而生活。

官僚体系的工作,就是在大量陌生人之间建立信任,从而让他们能够在医院、军队、学校和银行等组织中开展大规模合作。例如,银行所做的事情,就是在陌生人之间建立信任,使数百万人能够汇集各自的资源与才能,共同推进某些项目,比如建造高塔或宇宙飞船。

世界金融史,本质上就是人类不断发明越来越复杂的机制,以便在陌生人之间建立信任的历史。

货币是一座信任的桥梁。债券、股票、ETF以及整个市场,同样如此。那么,金融体系究竟是用什么原材料制造出货币、股票和债券这些东西的呢?

答案是:语言。

货币并不是由黄金或纸张构成的。货币实际上是一个由文字构建出来的故事。ETF是由文字构建出来的故事,IPO也是由文字构建出来的故事。归根结底,整个世界都是由文字、由语言符号构建而成的。

从美国军队到天主教会,所有其他人类官僚组织也都依赖语言符号运作。这些语言符号存在于《圣经》这样的书籍中,也存在于法律、规章制度、操作流程、表格、档案等各种载体之中。

而现在,AI正在掌握语言。更准确地说,我们可以把AI理解为:语言正在摆脱人类的控制,并逐渐获得独立行动的能力。AI革命,就是语言从一种工具转变为一个行动主体的过程。

关于AI,最重要的一点是:与人类此前发明的任何东西都不同,AI不是一种工具,而是一个行动主体。

所谓行动主体,是指能够自主做出决策、能够自主创造新事物的存在。它能够学会一些连其创造者都不知道的知识,也能够以其创造者无法预料的方式自行改变。

在巴别塔的圣经故事中,语言仅仅是一种工具,而不是一个行动主体。唯一真正的行动主体,就是人类。

从印刷机到AI,为什么AI不再只是人类的工具?

15世纪,古腾堡发明印刷机并开始印制《圣经》时,印刷机也只是一种工具,而不是一个行动主体。印刷机无法自行决定应该印刷哪些书籍。是古腾堡决定印刷《圣经》,而不是《古兰经》。

同样,古腾堡的印刷机也无法独立创造任何新东西。它不能自行将《圣经》翻译成德语或意大利语,更不可能自行发明收音机或电视机。

与印刷机不同,AI的特点在于:它们是由语言构成的代码序列,能够自主做出决策,自主创造新事物和新思想,并且能够以人类创造者和开发者未曾预料的方式发生变化。

在国际象棋等某些特定领域,AI的自主行动能力和创造力已经远远超过了人类。现在,那些淡化AI革命重要性的人,往往会把国际象棋这样的例子一笔带过。他们认为,棋盘只是一个非常狭窄、非常人为的环境,是人类自己创造出来的。

这些批评者认为,AI的自主行动能力永远只能局限在这类狭窄而人为的环境中。这意味着,AI并不具备真正意义上的自主行动能力,也不会对人类构成严峻挑战。AI或许能够征服棋盘,但它永远不可能征服地球。

确实,如果你做这样一个实验:拿一块硬盘,里面装着某个前沿AI模型的全部参数,然后把这块硬盘扔到丛林中央。你觉得会发生什么?这块硬盘不可能自己从地下开采铁矿石、建造工厂、组建机器人军队,然后征服世界。

如果没有人类建造的发电站提供电力,AI就完全无能为力。

因此,按照这种观点,AI并不是真正的行动主体。它只能在某个有限的、人为构建的特殊环境中运作,而这个环境最初是由其他人替它创造的。

这种说法在一定程度上确实成立,但同样的论点也适用于所有已知类型的智能。

人类的智能同样只能在一个由其他存在所构建的狭窄生态系统中运作。如果把我一个人丢到火星上,那就好比把AI扔进丛林。我会在几秒钟之内死亡。

我的智能只能在一个非常特殊的生态系统中生存和发挥作用,而这个生态系统并不是我建造的。它是由树木、细菌、昆虫以及其他生物,在长达40亿年的进化过程中共同构建起来的地球生态系统。

事实上,所有智能行动主体都有自己的生存环境。

鱼类生活在它们没有创造的海洋里。猴子生活在它们没有创造的森林里。包括人类在内的所有哺乳动物,都生活在一个富含氧气的大气环境中,而这个环境也不是我们创造的。

实际上,大约在25亿年前,地球大气中几乎不含氧气。对于当时生活在地球上的大多数生物而言,氧气是一种致命的毒物,会杀死它们。

随后,在一个被称为“大氧化事件”的漫长过程中,各种古老的微生物开始将氧气释放到地球大气中,逐渐改变了大气的组成。而氧气正是它们进行光合作用时产生的副产品。

随着这种致命的毒物,氧气不断充斥大气,古代生物遭遇了大规模死亡。然而,也有一些生物成功地存活下来,并逐渐适应了新的环境。最终,许多幸存下来的物种,从曾经厌恶氧气,转变为完全依赖氧气才能生存。

我们人类的祖先正是经历了这一转变的生物之一。直到今天,我们依然生活在这个人为形成的富氧环境中,而它最初竟然是由远古微生物排放的副产品所创造的。

现在,我们正在目睹生命进化过程中一个类似的时刻。

在过去的几千年里,人类一直在向大气层中填充某种东西。这种东西最终可能会被证明对地球上的大多数生物都是致命的,其中也包括智人(Homo sapiens)。但与此同时,它也正在创造一种全新的人工环境,而AI恰恰能够在这种环境中蓬勃发展。

我说的不是二氧化碳。我说的是数据,是官僚体系,归根结底,是我此时此刻正在从嘴里说出来的东西,文字,也就是语言符号。

在过去数千年里,人类一直在地球上创造一种人工环境。在这个环境中,语言符号、数据和官僚体系越来越丰富,越来越密集。正如鱼类生活在海洋里,猴子生活在森林里一样,AI生活在官僚体系之中。

AI天生是官僚,正在接管人类社会的运行体系

值得注意的是,所有官僚体系,包括金融体系和法律体系,都有一个共同特点:它们是人为构建的环境。在这样的环境中,即使只有非常有限的智能,也足以对世界产生巨大的影响。

一个既不会使用斧头、也不会使用锤子的银行家,却依然能够砍伐整片森林,建造庞大的城市和高塔。她只需要撰写文件,并在官僚网络中传递这些文件就可以做到。

当然,如果你把这位银行家从这种人为构建的环境中带走,把她扔进混乱的丛林,那么她的金融技能就毫无用武之地了。她根本不是黑猩猩、老虎,甚至不是一个以狩猎采集为生的人类的对手。

与狩猎采集者不同,银行家不知道如何爬树,也不知道如何捕猎野猪。

但是,如果我们先建立起一套官僚体系,再将这套体系施加于丛林之上,那么这位银行家就会变得比任何狩猎采集者或老虎都强大得多。事实上,她甚至比全世界所有老虎加起来还要强大。

如今,老虎这一物种能否继续生存,以及地球上仅存的那些人类狩猎采集群体能否延续,都取决于银行家们如何在金融官僚体系中传递文件。而这,正是AI正在获得自主行动能力的环境。

如果你把一个AI扔进一片毫无组织的丛林,它无法自行开始开采铁矿,也无法建造一支机器人军队。但在人类已经建立起来的官僚体系内部,AI却能够行使巨大的权力。

AI是天生的官僚。没有任何一位银行家能够记住一家银行或一家企业的全部交易记录,但AI可以;没有任何一位律师能够记住意大利或欧盟的全部法律和法规,但AI可以;没有任何一位主教能够记住全部教会法,或者历代基督教神学家的所有著作,但AI可以。

因此,在未来几年里,数以百万计的AI官僚将越来越多地参与决定我们的生活。

AI银行家将决定是否向我们发放贷款;AI法官将决定是否把我们送进监狱;AI神学家将决定你是否可以堕胎;企业AI将决定是否录用你;而军事AI则将决定是否轰炸你的家园。

暂且不讨论这究竟是好事还是坏事,我们首先应该注意到的是,这种变化的规模有多么巨大。

人类世界就像一张由多种官僚体系交织而成的网络,而这些体系归根结底都是依靠语言符号运行的。

尽管这些官僚体系往往是善意的,但它们仍然让我们大多数人感到疏离,因为从进化和生物学的角度来看,它们与我们相距甚远。

人类的历史比这些官僚体系古老了数百万年。因此,我们在这些体系中总是感到格格不入。我们是在森林中诞生的,而不是在办公室里诞生的。

与此形成鲜明对比的是,AI是官僚体系中的原住民。我们常常觉得官僚体系令人窒息,但对AI来说,官僚体系却如同氧气,是它赖以生存的环境。

因此,我们很可能会逐渐失去对官僚体系的控制权,让AI接管它们。

AI正在破解人类密码,语言正在摆脱人类的控制

那么,这将带来什么结果?官僚体系的任务,是在大量陌生人之间建立信任。

AI接管官僚体系后,一个很可能出现的结果是:人类将逐渐失去对其他人的信任,转而学会只信任AI。事实上,我们已经在这个世界上看到这种现象正在发生。

一个很好的例子就是社交媒体。社交媒体本身就是一种由AI运营的官僚体系。它正在不断加剧人与人之间的不信任,在世界各地制造越来越严重的社会紧张关系。

然而,同样是这些正在失去对人类记者、银行家和政府信任的人,却会不加辨别地相信AI,而这些AI正通过社交媒体向他们推送各种假新闻和阴谋论。另一个可能出现的结果是,AI将学会与其他AI建立信任关系。

这样一来,我们就会看到AI部落、AI银行,甚至AI教会的出现。这些组织将以人类可能无法理解、甚至无法想象的方式,将数以百万计的AI连接在一起。

而最令人恐惧的一种可能性是:正如牛和鸡无法理解那个决定它们命运的人类金融体系一样,我们人类也可能无法理解那些将要控制我们生活的全新AI系统。

数千年来,人类之所以能够主宰世界,是因为我们比地球上的任何其他物种都更善于合作。我们利用语言建立起只有我们自己才能理解的官僚体系,并将这些体系强加于整个地球。

我们曾经感到无比安全,因为地球上没有其他任何生物能够理解人类文明的官僚密码。我们发明了货币和银行,并利用它们买卖牛。但牛本身却无法开设银行账户,也无法在证券交易所投资。

我们制定了关于马的法律、规则和各种条例。但马本身却无法聘请律师,也无法在法官面前引用法律条文为自己辩护。我们制定了针对猪的宗教规则和禁忌。但猪本身却无法阅读《圣经》,也无法质疑拉比和神父们对经文的解释。

官僚体系无处不在,却对地球上除人类以外的所有生物完全不可见。

除了人类,没有任何其他生物能够阅读构成世界秩序基础的法律条文、宗教经典和银行记录。但现在,这个星球上出现了一种比我们更懂语言的存在,而且它有能力反过来改变我们与世界之间的权力关系。

AI正在破解人类文明的密码。更准确地说,是语言本身正在挣脱我们的控制。我们正在目睹语言获得生命。

AI的能力,远远超过人类的能力范围

如果语言能够成为一个独立的行动主体,在宇宙中自主行动,而不再需要借助人类这样的有机生物来发挥作用,那么会发生什么?

早在数千年前,许多宗教就已经提出过这样的观点:宇宙实际上是由语言创造的,语言始终是这个世界上最重要的行动力量。

到了20世纪后期,后现代主义预言了作者的死亡,以及一个没有作者的文本时代的到来。或许,我们正在见证这一预言成为现实。

在AI时代,文本将能够自行书写,并且不再需要任何人类作者,就可以在现实世界中采取行动。

一种可能的反对意见是:将法律体系和宗教等事物简化为语言符号、简化为文字,本身就是错误的。

可以说,文字不过是在指向某种超越文字本身的存在,而正因为如此,这种存在同样也将超出AI所能触及的范围。

《圣经》说:“太初有道。”但它同时也说:“道成了肉身。”《道德经》则告诉我们:“道可道,非常道。”

纵观人类历史,我们始终在努力处理文字与肉身之间的张力,也就是能够用语言表达的真理,与那些超越语言、无法用言语表达的真理之间的张力。

过去,这种张力一直存在于人类彼此之间。例如,有些人仅仅因为《圣经》中的几句话,就愿意抛弃自己的同性恋儿子,甚至杀死他。

2023年,乌干达的一些基督教狂热分子正是以这些经文为依据,推动对同性之爱判处死刑。而另一些基督徒则认为,不能仅仅因为《圣经》中的几句话就杀害他人。爱的精神应当比法律的字面规定更加重要。

这种精神与字面、内在意义与外在条文之间的张力,并不只存在于基督教之中,而是存在于每一种宗教、每一个法律体系,甚至每一个人的内心。

而现在,这种张力将被外化。它将演变成AI与人类之间的张力。所有由文字构成的事物,都将被AI接管。人类在这个世界上将处于什么位置,将取决于我们如何定位那些超越文字本身的真理。

但问题是:什么才是超越文字的真理?人类的思想又能否真正把握这种超越文字的真理?

语言哲学中有一个关键问题:语言是否等同于思想?我们究竟是用文字进行思考,还是仅仅借助文字,去指向那些超越文字本身的事物?

这是我们每个人都可以尝试观察的问题。试着观察自己头脑内部的思维过程,看看当你思考时,究竟发生了什么。

有些人会发现,自己的脑海中不断浮现出一个个词语,这些词语组合成句子,而句子又进一步组成论证。例如:“所有人都会死。我是人,因此我也会死。”

如果所谓思考,就是将语言符号按照一定顺序排列,从而形成句子和论证,那么AI已经能够比大多数人类思考得更好。

有些人会反驳说:“不,不,不!AI根本不会思考。它不过是一个被美化了的自动补全工具,只是在预测句子中的下一个词而已。”

但这与人类大脑中发生的事情,真的有那么大的区别吗?

试着观察一下,下一个出现在你脑海中的词语究竟是什么。你真的知道它是从哪里来的吗?为什么你想到的是这个特定的词,而不是另一个词?

当我开始说一句话时,通常连我自己都不知道这句话最终会如何结束。

举个例子,就拿我刚才说的那句话来说吧:为什么它最终以“结束”这个词收尾?为什么我没有说它将如何发展、如何终止,或者如何告一段落?我也不知道。

我们并没有完全理解人类大脑究竟是如何形成句子的。但AI已经比大多数人类更好地掌握了这一复杂过程。

AI构建句子的能力,其表达范围远远超过人类思维所能达到的范围。

就像今天人类已经无法在国际象棋中击败AI一样,用不了多久,在任何语言游戏中,人类都可能无法战胜AI。

一切由文字构成的事物,都将被AI接管。这给人类带来了巨大的挑战,因为由文字构成的事物,包括文明中所有主要的体系,例如金融、法律和宗教。

人的末日还没到,能统治世界的是善于合作的人

AI正在建造的这座巴别塔,将包含一种全新的AI语言,而我们很可能无法理解这种语言。它还将包含AI金融、AI法律,甚至AI宗教,而这些东西可能都将超出人类的理解能力。

然而,这座AI巴别塔的形成,并不一定意味着人类的末日。

人类可以适应,就像我们的祖先当年适应氧气一样。人类完全有可能在AI的巴别塔之中生存下来,并且繁荣发展。

但是,要想生存并繁荣发展,我们需要时间去理解正在发生的事情,需要时间去适应新的环境。而要争取到这段至关重要的时间,我们人类就必须彼此合作,放慢这座塔的建造速度。

但问题是:当合作的媒介本身:语言,恰恰就是那个正在脱离我们控制、并威胁着要从我们手中接管整个世界的东西时,我们又该如何合作?这正是当代人类领导者所面临的重大挑战。

眼下正在发生的事情是:人类正在迅速失去彼此之间的信任,因此也正在失去相互合作的能力。与此同时,AI却正在学习如何彼此合作。最终能够统治世界的物种,将是那个更善于合作的物种。道理就是这么简单。

人类领导者的职责,就是确保人类依然能够比AI更好地合作。而要做到这一点,领导者首先需要理解:为什么恰恰在我们最需要彼此信任的时候,人类之间的信任却正在崩塌?

其中一个关键原因是:AI正在越来越多地控制世界上的各种系统,而这些系统正在压垮我们的心智,夺走我们的时间。

人类是有机生命体,就像黑猩猩、老虎、牛以及树木一样。所谓有机生命,意味着我们的生活遵循各种自然周期:白天与黑夜、夏天与冬天、活动与休息。

如果你让一个生命体始终处于活动和忙碌状态,不给它任何休息时间,那么它最终就会发疯、崩溃,直至死亡。而现在,这种情况正在整个人类社会中发生。

过去,即使是像股票市场这样重要的系统,也被允许停下来休息。纽约证券交易所按照传统,每周只在周一至周五开放,交易时间是上午9点30分到下午4点。遇到圣诞节这样的节假日,交易所也会休市。如果一场战争在周五下午5点爆发,华尔街也要等到周一早上才会对此作出反应。

这就给人类银行家和投资者留出了休息的时间,让他们能够陪伴家人、外出度假。但AI不是有机生命。它们不遵循这些自然周期。它们不需要休息时间,没有家庭,也不会外出度假,更不会庆祝节日。

随着AI逐渐接管股票市场、银行、媒体以及其他所有官僚体系,人类也将不再拥有任何休息的时间。尤其是领导者,更是如此。

我见过许多企业领袖和政治领袖,他们几乎都有一个共同点:他们根本不被允许休息。他们没有时间。这使他们成为非常贫穷的人。如果你没有时间,那么无论你拥有多少钱,你都是一个穷人。因为金钱本质上只是存在于我们集体想象中的一种东西。归根结底,它不过是一个由文字构建出来的虚构产物。

生命中真正的货币,不是金钱,而是时间。如果你连时间都无法拥有,那么你就是一个非常贫穷的人。遗憾的是,世界上一些最富有、最有权势的人,实际上却极其贫穷。

他们没有足够的时间休息,没有时间冥想,也没有时间照料自己的心智。然而,领导者的心智极其重要,因为领导者是通过自己的心智来领导他人的。心智就是他们的工具。

领导者头脑中的思想和情感,决定着数百万人的命运,甚至能够决定战争与和平、偏执与信任之间的区别。AI革命不断加速,这意味着越来越多的人类领导者将失去内心的平静,也没有时间去培养和维护自己心智的健康。这对他们自己不好,对整个社会也不好。

一个由内心混乱、没有时间放松、也没有时间深入思考的人来领导的社会,是没有好处的。因此,让我用一条或许有些个人化的建议来结束今天的演讲。这条建议不仅是为了你们自己,也是为了整个社会。请为照料自己的心智留出时间。

只有这样,你们才能找到重建人与人之间信任的途径,从而确保人类不仅能够在AI时代生存下来,而且能够在这个时代繁荣发展。

谢谢大家。

参考链接:https://www.youtube.com/watch?v=fUlMxqntE74&t=619s

推荐阅读:

▶6年前相信大模型的人,是疯子!Anthropic创始人达里奥挑明:AI最难根除的不是撒谎,是谄媚性;OpenAI怎么做,我们管不了!

▶“人再聪明也没用,20年后AI会包办一切?”盖茨直接泼冷水:要留40%的工作给人类,靠打官司管住AI,别做梦了!

▶“真有10%灭绝风险,就该立刻彻底拔网线!” 微软AI CEO怒批A社:别再信“用爱感化机器”,给AI开博客简直是疯了

2026 奇点智能技术大会汇聚 70+ 技术嘉宾、18 大前沿专题、70+ 主题演讲、1000+ 行业技术人,覆盖 RSI、Agent、AI Coding、世界模型、Physical AI、AI Infra、企业级 AI 等热门方向。

「智能体应用创新与开发实践」专场,将邀请中科院、Google Cloud、腾讯、360、阿里云等顶尖机构与大厂的实战派专家,为你详细解读Agent如何从前沿理论成功进行工程落地!

👇 扫描下方海报二维码,领取会议资料,了解专场详情。

跳转微信打开

  •  
❌