铃阅
❌

阅读视图

Close the Loop:Verification是AI加速物理世界的关键

原创 Ted Xiao 2026-11-11 18:38 新加坡

局部加速越快,还没有被加速的部分就越容易成为瓶颈

演讲者:Ted Xiao(Prometheus 创始技术成员、前 Google DeepMind 研究员)

编译:Haozhen ⁠

如果 AGI 和通用机器人都取得成功,一个物质丰富、全人类都能受益的世界,是否就会自然到来?

 ⁠

Ted Xiao(Prometheus 创始技术成员、前 Google DeepMind 研究员)在 Humanoid Hub Conference 的演讲中,从这个假设出发,分析了新技术从构想到量产的过程:即使智能和劳动能力都变得充裕,哪些环节仍会拖慢研发和生产?又有哪些研究和商业机会值得提前投入?

 ⁠

在他看来:

 ⁠

•按 Amdahl 定律,如果一半时间花在无法加速的环节,其余工作再快,总耗时也最多减半。

 ⁠

•Verification 决定模型 post-training 的上限。

 ⁠

•如果 verifier 有漏洞,模型可能学会利用漏洞拿高分,实际表现不一定变好。

 ⁠

•Verifier 也要接受检验,遇到历史数据没覆盖的新设计,仍要用实测结果检验它的判断。

 ⁠

•开发团队要到现场弄清什么算合格,据此设计 verifier,再用有限的实测检验和改进它。

 ⁠

我们编译了 Ted Xiao 的这场演讲。他谈到的 verification 瓶颈,也正是我们看好 AI for Science、机器人和硬件制造的原因之一。随着 AI 能力的增强,虽然模型可以更快地提出方案,但要知道方案能不能用,往往还得做真实的实验和工程测试,而模型变强很难直接加快这些测试。

⁠/⁠

01.

AGI 和通用机器人都实现后,还缺什么?

 ⁠

现在的研究与投资,大致集中在两个方向:一端是比特(Bits),另一端是原子(Atoms)。在硅谷甚至全球都能看到这个趋势,这两个方向的技术进展也很快。

 ⁠

•Bits 端是 AGI 支持者,希望在数据中心里建起一个“天才之国”,先造出 AGI,再让 AGI 解决其他问题。

 ⁠

•Atom 端关注 robot learning、与物体接触时的灵巧操作,以及通用机器人的普及。

 ⁠

 ⁠

如果假设 AGI 和通用机器人都能成功,那么为 post-AGI 社会做准备时,还需要考虑它们之间缺少什么:数字超级智能(digital superintelligence)怎样才能真正改善生活质量,让人们拥有更丰富的物质生活?

 ⁠

要回答这个问题,可以先看今天的物质生活是怎样改善的。

 ⁠

技术进步一直在创造财富、推动社会繁荣、改善人的生活,其中很重要的一部分,就是发明新的物理世界技术(physical technology),并把它们真正做出来。我们今天享受的舒适生活,正是世界各地数百万工程师、科学家、设计师,以及白领和蓝领工人世世代代工作的成果。

 ⁠

具体来说,把一项构想做成能够大规模生产和使用的产品,需要设计、工程开发、原型制作、投产前测试与认证、生产、逐步提高产量和扩大生产规模等环节。

 ⁠

 ⁠

判断 AGI 和机器人之间还缺什么,也需要把它们放进这套具体的工作流程中。但这条链条涉及设计、分析等脑力工作,实际操作中的体力劳动,以及资本投入,到底哪些能交给 AGI,哪些能交给通用具身智能(embodied intelligence),哪些还需要其他办法解决?

 ⁠

根据 Ted Xiao 的分类,下图中蓝色的部分是抽象、数字化的工作,仅在数字环境中工作的 AI 模型已经表现出处理这类工作的能力。粉色的部分涉及接触物体和灵巧操作,是通用机器人可以承担的工作。

 ⁠

 ⁠

但即使数字 AGI 和机器人的灵巧性都达到很高水平,工程链条上仍有大量工作无法直接交给它们。无论是看 GDP、劳动份额、行业利润率,还是不同领域的岗位数量,都能发现这一点。即使只是粗略列出这些工作,也会发现:获得人类级的操作能力,并不意味着其余工程问题会自动解决。

 ⁠

 ⁠

02.

Amdahl's Law:还没有加速的环节决定整体加速上限

 ⁠

要让所有人都能享有今天一部分人已经拥有的丰富物质生活,要提高每个人的生活质量,就必须逐一解决这条链条上的问题。不能只加速其中一端,就假设其余环节会自动跟上。

 ⁠

这些还没能解决的环节,会影响一项技术或产品完成研发、验证并实现规模化生产的速度。就像 Amdahl’s law 指出的那样,一个程序即使有大量操作可以并行执行,整体速度仍然受制于那些必须按顺序完成、无法同时进行的操作,创新和发明也有类似的限制。

 ⁠

 ⁠

如上图所示,假设 p 表示可加速环节原本占总耗时的比例,s 表示这部分工作的加速倍数。我们已经看到,一些环节的 s 非常大后,所需时间大幅缩短,但无论局部快了多少倍,整体提速的上限仍取决于 p,也就是这些环节原本占用了多少时间。

 ⁠

图中的灰色、橙色和蓝色曲线,分别对应不同的可加速比例。假设能够加速的工作占原有总耗时的 50%,(这已经比前面工程链条里展示的覆盖范围更广),即使这部分工作变得无限快,整个过程的总耗时最多也只能缩短一半,也就是整体速度变为原来的两倍。

 ⁠

当 p 接近 99%、99.9%,甚至更高时,研发、反复改进并投入使用所需的总时间,才可能缩短到原来的十分之一、百分之一,甚至更少。

 ⁠

局部加速越快,还没有被加速的部分就越容易成为整个研发和生产过程的瓶颈。

 ⁠

事实上,许多工作所需的时间很难进一步压缩,背后的限制主要来自两个方面:

 ⁠

一类限制来自测试本身需要的时间。

 ⁠

•测试快充电池时,需要进行负载测试和充放电循环测试,整个过程往往超过一年半。

 ⁠

•药物研发从最初的构想、研究和报告,到三期临床试验,有时需要十年以上。考虑到人体对照试验必须评估药物的安全性、疗效和副作用,这些实验所需的时间是无法省去的。

 ⁠

•即使经过漫长的测试,实验的结果仍可能不稳定,难以重复得到。美国生物技术公司安进(Amgen)的研究团队曾尝试复现 53 项有影响力的癌症临床前研究,最终仅成功复现 6 项,约占 11%。因此,即使是已经发表、看起来很有价值的研究,也不一定能提供稳定可靠的反馈。

 ⁠

另一个问题是,工程知识分散在不同企业、系统和岗位中。要加快更多环节,首先需要了解这些工作是怎么做的。但这其中有些诀窍属于企业的知识产权,有些留在从业者的经验里,很难直接获得。

 ⁠

值得关注的是,软件开发在这方面其实是比较特殊的:代码和版本历史可以完整保存,程序是否按预期运行,也常有明确的规则和工具可供检查。实体经济同样积累了大量工程知识,但打开 GitHub,我们找不到一套完整的资料,告诉我们人类是怎样建造今天这个世界的。

 ⁠

 ⁠

03.

Verification 决定模型 post-training 的上限

 ⁠

要进一步判断哪些环节还能加速,可以先看 verification 需要多长时间。前面的电池和药物研发例子都涉及同一个问题:我们要等多久,才能获得可信的结果,来指导下一轮实验?

 ⁠

在这个问题下,不同任务的答案差别很大,短则几毫秒,长则数十年。

 ⁠

•有些结果可以用模型或仿真检验,投入更多算力往往就能更快拿到反馈。因此增加 GPU、CPU 和资金,在这类任务中是有用的。这种情况下,虽然实现起来可能仍然很困难,但我们至少知道可以从哪里着手加速。物理仿真、用 Lean 检查形式化数学证明、代码单元测试,以及部分设计任务,都属于这类可以靠算力加速的工作。

 ⁠

•但有些结果必须靠实测来检验。到了这个阶段,验证可能就需要数小时,甚至数年。

 ⁠

 ⁠

验证所需的时间之所以重要,是因为模型需要依据验证结果继续学习。frontier model 研究中的经验是,只要能明确、可靠地判断结果是否符合要求,就可以用这些判断作为奖励,通过 RLVR(基于可验证奖励的强化学习)训练模型,提高它在相应任务上的表现。

 ⁠

Microsoft AI 曾把自己的模型称作一台“爬山机器”,这个比喻其实很贴切:只要能可靠判断结果是否达标,模型就能朝着目标持续优化。

 ⁠

因此,verification 决定了 frontier model 在 post-training 阶段能达到的水平,数学、coding 等领域都体现了这一点。

 ⁠

不过,研究者用来训练模型的奖励和验证结果,本身也可能有问题:负责检查结果、给出反馈的程序或模型,也就是这里所说的 verifier,如果它有漏洞,模型就可能利用漏洞取得更高分数。训练越充分,这些缺陷的影响也可能越大。

 ⁠

 ⁠

04.

机器人训练:依靠仿真,还是依靠真实数据?

 ⁠

在物理世界中,能否获得快速、可靠的反馈,同样会影响研究方法。

 ⁠

机器人训练就是一个例子:过去十年,运动控制、全身控制和操作任务形成了不同的研究路线,获取训练反馈和评估结果的方式也很不一样。

 ⁠

•一类是 sim-to-real,通过物理仿真和基于模型的学习获得快速反馈。

 ⁠

•另一类主要使用在真实环境中采集的人类示范数据:先利用这些示范训练模型,再用真机评测策略的表现,不依靠仿真等方法获取反馈。

 ⁠

 ⁠

以运动控制为例,现在拿一台 Unitree G1,下载 GitHub 上的代码,用一张 GPU 和一个很小的 MLP 网络,训练 15 分钟就能看到效果。训练完全在仿真中进行,用 GPU 优化的物理仿真环境,可以并行模拟数千乃至数百万次机器人执行动作的过程,不需要先采集人形机器人的真实数据,也不需要通过遥操作教它走路。

 ⁠

MLP(Multi-Layer Perceptron,多层感知机):一种基础的神经网络,由多层相互连接的神经元组成。这里用于根据机器人的状态计算相应的控制动作。

 ⁠

训练出的控制策略(policy),也就是决定机器人如何行动的模型,可以直接用于操作真实机器人,让它完成走路、后空翻等动作,甚至更敏捷的运动和全身控制。这种效果在几年前还很难想象。

 ⁠

相比之下,机器人操作研究在过去十年里主要专注于大规模真实世界数据采集,而这些数据几乎都依赖人类的专业技能和示范。无论是第一视角数据(egocentric data)、机器人遥操作(teleoperation),还是数据手套、UMI 等设备,研究者都在利用这些方式扩大离线专家示范数据集(offline expert datasets),让机器人学会完成实际任务中需要灵巧性的操作。

 ⁠

Physical Intelligence、Generalist、Dyna 和 Google DeepMind 等团队,训练好模型后,还需要在实验室做真机 A/B 评测,往往要花数百小时,才能发布一个新模型。

 ⁠

比如,Google 在发表 RT-1、RT-2 论文时,就曾投入数十名外包人员、数十台机器人和数百小时人工劳动,才能比较两个 checkpoint 哪个更好。

 ⁠

 ⁠

因为真机反馈来得慢,研究团队很难在每次更新模型后,都用新版本采到足够的数据。Ted Xiao 建议按训练用途选数据,比如预训练可以用过去采集的示范,只要示范接近理想表现;但采集纠错数据时,则应尽量让当前版本先执行任务,记录它在哪一步需要干预,以及纠正后的动作。

 ⁠

但人已经掌握的许多操作技能,还没有被记录成机器人能学的数据。实体经济(physical world and physical economy)也面临类似的问题。

 ⁠

•在机器人领域,人类在进化中掌握了大量身体技能,研究者需要采集人运用这些技能的过程,让机器人从中学习。目前,这类数据的规模还远远不能与互联网相比。因此,采集这些数据,并开发能够从有限数据中学习、又能随着数据增多而扩展的算法,一直是大家追求的目标。

 ⁠

•实体经济中也积累了大量这样的知识和数据,否则我们不可能建成今天的社会。但这些资料还没有被系统地记录、存储和整理,无法像维基百科或 Reddit 上的内容那样直接取用。

 ⁠

更重要的是,在实体经济中,人类并没有穷尽所有可能发明的技术,工程创新仍然需要持续迭代。相比之下,对于许多我们希望机器人掌握的灵巧操作,人类已有的能力就可以作为标杆,当然,也有需要超越人类能力的操作和一些特殊的工业场景。

 ⁠

因此,如果有人造出一台机器人,能在各种任务上达到人类水平,这已经是巨大的成功,但如果一套工程系统只能帮助人类重新发明 20 世纪 50 年代中期的技术,它的价值就很有限。

 ⁠

所以,工程创新既需要获取已有数据,也需要继续推进技术。我们要了解当前的技术水平、最优秀的团队如何工作,也要了解一个新想法怎样经过设计、实验和工程流程变成现实,以及这些过程还能怎样改进。

 ⁠

 ⁠

05.

工程研发:计算提速之后,还要等待实验

 ⁠

进一步看,工程测试也可以按反馈速度排列:手工计算、软件分析和自动化检查通常能较快给出结果;而涉及真实设备、材料和环境的试验,则可能耗时数周、数月、数年,甚至数十年。

 ⁠

测试还受资源和次数限制,比如 F1 车队每年设计新赛车时,风洞试验次数和 CFD 仿真算力都受到规则约束。这些测试和仿真配额也是车队研发竞争的一部分。

 ⁠

 ⁠

除了测试资源有限,通过计算或仿真进行验证的适用范围也是一个问题。同一项设计,可能通过了下图蓝色部分的计算或仿真检查,却在橙色部分的真实测试中暴露出问题。这些验证方法在什么情况下可靠,又在什么情况下无法反映真实表现,是工程实践中需要厘清的问题。

 ⁠

 ⁠

Ted Xiao 表示,Anthropic、OpenAI、Gemini 等团队已经开始针对一些数字化设计和工程任务训练模型。在这些能够快速、低成本地检查结果的任务上,模型的表现已经有了明显改善。这些团队展示的工程设计 demo,也让 Ted Xiao 印象很深。

 ⁠

但把这些设计放进实际生产的工程流程,结果就不一定合格,有时甚至连工程师进行的基础检查都无法通过。因此,至少目前看来,仅靠计算或仿真检查给出的反馈来训练,似乎还不足以让模型直接满足实际工程的要求。

 ⁠

这种情况也不限于 CAD。许多领域都一样:能够用计算替代实测的部分,进展很快,但仍然必须等待真实测试结果的部分,还是很难同步加速。

 ⁠

自动化实验室正在尝试改善这些实测环节。Periodic Labs、OpenAI、Anthropic 等团队正在材料科学、药物发现等领域探索如何利用真实实验的反馈,其中也包括实际操作样本、试剂的湿实验。他们既在提高实验效率,也尝试让模型判读实验结果或检查实验方案。

 ⁠

比如 Periodic Labs 就公布过一项进展:他们的自动化实验室,每天可以完成大约 100 次涉及 X 射线衍射的真实实验,新实验室可能把这个数字提高到每天 1000 次。但即便如此,这个规模仍远小于 coding 模型训练和人形机器人仿真训练中可以进行的数百万次尝试。

 ⁠

 ⁠

因此,Periodic Labs 还尝试训练一个 LLM judge,让 LLM 判读 X 射线衍射图谱。它与博士专家的判断一致率达到了 77%。他们希望用真实实验的反馈改进 LLM judge,再让 judge 提供奖励分数,用来训练模型。

 ⁠

不过,这类方法在不同团队中的效果并不一致。相比 coding、工程计算和数学领域,自动化实验室的进展更容易出现停顿或反复,许多环节依然需要等待真实实验。

 ⁠

Anthropic 关于蛋白质结合体和 CRISPR 的研究也显示了这种限制:科学家与 Anthropic 的内部模型合作,在计算机中反复提出、检验实验设计,再把选出的实验交给人工操作的湿实验室执行。在科学家与模型的协作下,更多实验设计和初步检验得以在计算机中完成,原本需要数月或数周的工作,现在只需数周或数天。但人工执行的湿实验仍然需要数周,设计和分析的提速并没有缩短实验本身的等待时间。

 ⁠

 ⁠

总的来说,实验可以同时开展,但后一轮实验如果要根据前一轮的结果来设计,就必须等前一轮结束。即使一次并行做了更多实验,也只是让这一轮获得更多信息,研究者仍然需要看到结果,才能据此提出新的假设、安排下一轮实验。因此,并行实验能增加每一轮的探索量,却无法消除轮次之间的等待。

 ⁠

 ⁠

06.

用模型替代实测有哪些局限?

 ⁠

为了缩短验证所需的时间,许多领域都在尝试用计算替代一部分真实测试。原本耗时长、操作繁琐、结果容易受干扰且成本高的测量,如果能通过模型或仿真可靠地完成,就有机会借助更多算力加快验证。对于仍然必须进行的真实测试,我们则需要提高测试效率,或者设法避免每一轮设计迭代都要等待实测结果。

 ⁠

 ⁠

如果沿用 Periodic Labs 的思路,我们可以设计一个价值函数(value function),也就是训练一个能够根据真实反馈评估方案的 critic。如果模型足够可靠,就可以用低成本的计算替代一部分昂贵的实测。

 ⁠

但这里有一个问题:verifier 是用历史数据训练的,它可能只在这些有数据覆盖的任务和条件下可靠。但我们往往要检验的是此前没有见过的新设计。

 ⁠

虽然模型确实可能学会处理训练中没有见过的情况,比如 AlphaGo Zero,但围棋可以依据规则判定结果,不必为每次验证付出高昂的真实实验成本。物理世界没有这样的条件:蛋白质怎样折叠、结合,新材料和晶体能否被发现、合成,最终都要接受自然规律的检验。而我们训练 verifier、奖励函数和价值函数时,能够使用的真实观测很有限。

 ⁠

模型也许能处理一部分新情况,但这种能力是有边界的。新设计与历史数据中的情况差别越大,就越难获得可靠、有用的反馈。

 ⁠

 ⁠

因此,沿着已有路线重新完成一次发明或设计,模型可能快得多,但要超越已有成果,难度仍然很大。学习价值函数值得尝试,但不一定能直接解决探索未知的问题。

 ⁠

 ⁠

07.

接下来该如何改进验证?

 ⁠

Ted Xiao 结合自身在 robot learning、frontier model 研究中的经历,以及同行的进展,他认为,接下来最重要的问题,就是建立既可信、又能扩大验证规模的方法,并确认它在实际使用条件和新一轮研发任务中仍然可靠。

 ⁠

左右滑动查看更多图表

 ⁠

回到最初的假设,首先,AGI 提供的智能和机器人提供的劳动能力,都是实现物质丰富的必要条件。但即使未来两者都成功了,工程与发明中剩下的问题也不会自动消失。

 ⁠

第二,能可靠验证的方向,往往更容易取得进展。验证方法可信,而且能大规模使用,我们就可以依据反馈继续学习和开发技术,逐步接近这些任务中的能力上限。

 ⁠

最后,评测指标必须反映我们实际想要的结果。分数提高了,模型在现实中的表现是否也会改善?把 AI 模型、机器人和工程流程结合起来后,整个系统是否完成了预期的工作?这些都需要直接测量。

 ⁠

 ⁠

三个研究方向

 ⁠

具体到研究,Ted Xiao 认为有三件事值得做。

 ⁠

第一是建立更多 verifier,也包括大家常说的 RL 环境。现在很多团队希望增加训练环境,再投入更多算力做 RL。但除了增加数量和覆盖范围,我们也需要深入一个领域,了解其中的工作如何进行、实际应用要求达到什么标准,不能只看学术 benchmark。

 ⁠

第二是检验 verifier 是否可信。我们需要到模型实际工作的环境中,了解它会遇到哪些任务和操作条件,再检查 verifier 在这些情况下的判断是否可靠。

 ⁠

第三是安排好真实测试。verifier 和完整系统最终都要接受现实检验,而这些测试成本高、耗时长,需要大量资本投入,能做的次数有限,有些等待时间也无法压缩。因此,能可靠模拟的部分,可以用合成数据补充训练;必须实测时,先明确要验证什么,再优先做那些结果最能指导下一轮设计或训练的实验,让每次结果都尽可能有助于改进 verifier 和技术。

 ⁠

 ⁠

实际推进需要怎么做?

 ⁠

过去一年半,Ted Xiao 也一直在考虑具体该怎么做。

 ⁠

•对于最后阶段那些成本高、次数有限的实测,可以增加资本投入,争取更多实验资源,通过更广泛的合作扩大测试规模。

 ⁠

•但离线数据稀少而且分散,因此部署就非常重要:Ted Xiao 认为,与数字世界不同,OpenAI 可以先在实验室里用互联网数据训练模型多年,再推出 ChatGPT,但物理世界中的现成数据却稀少、分散,我们需要把系统用于实际工作,持续收集数据、改进 verifier 和模型,也在使用过程中理解究竟要解决什么问题。

 ⁠

以金属切削为例,Ted Xiao 建议做软件的团队先去现场,看看操作者怎么完成工序,听他们说哪里容易出问题,再用双方都能理解的话把问题说清楚。

 ⁠

•做这些工作也需要专注。机会很多,研究者和创业者很容易同时追逐多个方向,但只改进某一个环节,还不足以大幅缩短一项技术研发和投产的总时间。局部成果可能带来财富、声誉和研究影响力,却不一定能让整个过程按同样幅度加快。

 ⁠

•最终要看的是:实体经济的产出有没有提高,新技术的研发和投产有没有加快,工业产量有没有增加。几项 benchmark 的高分,或者社交媒体上的关注,都不能替代这些实际结果。

 ⁠

⁠⁠⁠

作者卡片

⁠⁠⁠

延伸阅读

和 Robotic × LLM 研究员聊:LLM 会“吃掉”机器人模型吗?⁠

和 Robotic × LLM 研究员聊:LLM 会“吃掉”机器人模型吗?

›
AI 如何改写企业安全预算?自动攻防、Agent 权限与代码安全⁠

AI 如何改写企业安全预算?自动攻防、Agent 权限与代码安全

›
RSI 的新闭环:当 AI 开始参与芯片设计⁠

RSI 的新闭环:当 AI 开始参与芯片设计

›
深度讨论 Personal Agent:“最互联网”的 AI 命题⁠

深度讨论 Personal Agent:“最互联网”的 AI 命题

›
智能进步的复利:从 RSI 加速到持续学习⁠

智能进步的复利:从 RSI 加速到持续学习

›

跳转微信打开

  •  

和 Robotic × LLM 研究员聊:LLM 会“吃掉”机器人模型吗?

原创 Best Ideas 2026-11-06 17:08 北京

LLM 冲击下,具身公司拼的是数据、硬件、部署一体化

Astra、Opus 等 LLM 对 robotic 的冲击,远远超出了许多 robotic 研究员的预期:LLM 也开始能做机器人的“小脑”了。过去,一种常见的分工是,LLM 先理解任务、制定计划,再由专门的机器人模型生成动作。但今天这个分工开始松动:

 ⁠

•“LLM 降临派”认为,既然 LLM 已经开始生成动作,随着模型继续变强,任务规划和动作生成就可能交给同一个模型。具身公司可以借此更快做出产品,但自研模型的部分优势也可能被追上。

 ⁠

•实际部署视角出发,模型能否让机器人持续达到客户的要求是最根本的。生成有效动作之后,机器人还要满足速度、质量和稳定性的要求。因此,专门的机器人模型仍然值得重视。

 ⁠

这些分歧背后,更根本的问题是:LLM 的进步究竟改变了机器人的哪些研究路线?哪些能力可以直接从通用模型中获得,哪些仍需要专门的数据与训练?

 ⁠

围绕这些问题,我们组织了一场 Best Ideas 线下活动,邀请 robotic 和 LLM 研究员坐在一起,交流各自的实验、观察和判断。我们整理了活动中可公开的部分 notes,分享给大家:

 ⁠

1.机器人是否还需要独立的“小脑”模型,是今天 robotics researcher 们之间的主要分歧;

 ⁠

2.给机器人加上记忆,不等于它就会 in context learning;

 ⁠

3.机器人对动作精度的要求,可能是近期 UMI 数据需求上升的原因之一;

 ⁠

4.LLM 让研究者重新看好 simulation,但环境搭得快,不等于物理模拟得准;

 ⁠

5.灵巧手的价值,是让机器人能用人类现有工具完成整套工作流程;

 ⁠

6.具身公司要想清楚自身定位:是让模型更聪明,还是让机器人干活更快、更便宜?

 ⁠

我们也期待更多来自 frontier labs 的研究员和 Physical AI、AI4S 方向的研究者一起参加未来的线下讨论。如果你感兴趣,非常欢迎添加微信 Unicorn_observer,和我们聊聊你正在做的研究,以及希望交流的话题。

⁠/⁠

Insight 01

LLM 开始能做机器人的“小脑”

 ⁠

1.Astra 等 LLM 在机器人控制中的表现,远远超出了许多 robotic researcher 的预期:虽然之前 LLM 就已经能帮助机器人理解任务、制定计划,但这次最值得重视的变化,是 LLM 开始直接生成机器人动作。也就是说,LLM 的能力正在从理解任务、制定计划的“大脑”(System 2),延伸到负责动作生成的“小脑”(System 1)。

 ⁠

 ⁠

2.以 Astra 为例,虽然它不是专门为操作机器人训练出的模型,却能根据视觉输入,生成机器人位置、姿态或关节层面的控制指令,它还能随当前场景灵活生成机器人双手操作轨迹,而不只是复现固定轨迹。

 ⁠

3.在 RoboDojo 仿真评测中,Astra 在推理强度设为 medium、采用简单零样本设置的情况下,平均得分为 28.97(满分 100),平均成功率为 22.48%,超过了当时参评的大部分 VLA、WAM 类机器人基础模型。

 ⁠

在这个测评中,得分反映任务完成了多少,成功率则要求完整做完任务。

 ⁠

 ⁠

4.不过,28.97 分也不一定是 Astra 现有能力的上限。为了公平比较不同模型,RoboDojo 最初的测试采用了较简单的 harness,基本只让模型直接输出动作,如果可以让模型在操作后检查结果、分析错误,再调整下一步动作,完成任务的效果可能进一步提高。

 ⁠

5.有观点预计,到 2026 年底,会有模型在 RoboDojo 评测中拿到接近满分的成绩。

 ⁠

6.Astra 让 robotic researcher 感到震撼的另一个能力,是跨本体泛化:即同一个模型可以根据机器人自身的身体信息和执行反馈,逐渐适应不同结构的机器人。

 ⁠

•一位测试者向 Astra 提供了自制机器人的外观、自由度、夹爪或手的类型等信息后,就让 Astra 操作机器人,Astra 起初会出错,但经过少量重试和反思,控制逐渐变准;

 ⁠

•另一位测试者让 Astra 直接控制陌生机器人的关节,最初几帧动作较乱,但随着尝试继续,控制也越来越准确,动作也越来越流畅。

 ⁠

7.但也有 researcher 认为,Astra 的这些表现并不意味着机器人能力发生了质变,因为模型在操作机器人上的表现更像是已有的 coding 和游戏能力的自然延伸。考虑到 LLM 早就能正确理解任务意图,这一轮能力提升可能主要来自更准确的三维位置估计。

 ⁠

•比如在测试中,模型会花大量时间推理计算像素坐标、估算相机参数,再推算物体的三维位置,但最终生成的动作主要是在改变空间位置,其实很少涉及姿态调整。

 ⁠

8.不过,inference 速度太慢是目前这类 LLM 方案最直接的问题之一。而且现在 Astra 能处理的动作也很简单,目前很难直接扩展到灵巧手或机器人全身控制等需要协调几十甚至上百个自由度的任务。

 ⁠

9.此外,LLM 对 robotic 的冲击也已经从直接的动作生成扩展到了模型训练范式。比如,不少 researcher 开始思考,如何借鉴 LLM 的发展路径,让机器人模型也具备 in context learning 等能力;LLM 还大幅缩短了仿真环境的搭建时间,这也让一些 researcher 重新看好 simulation 这条技术路线。

 ⁠

 ⁠

Insight 02

“大小脑”模型:融合,还是继续分工?

 ⁠

10.随着 LLM 既能完成任务规划,又能直接生成动作,机器人是否还需要独立的“小脑”模型,是今天 robotics researcher 们之间的主要分歧。

 ⁠

11.支持大小脑融合的人认为,任务理解和修正动作都需要世界知识,独立的小模型不一定有足够容量掌握这些能力。既然 LLM 已经能理解任务、根据反馈纠错,System 1 与 System 2 就有可能由同一个模型承担。

 ⁠

•也有研究者预计,System 1 与 System 2 短期内仍会共存,未来可能融合,但长期如何分工暂时没有共识。

 ⁠

12.主张保留独立机器人模型的人认为,机器人模型不仅要生成正确动作,还必须及时响应环境变化,如果通用模型的推理速度跟不上,低延迟的动作模型就仍有价值。

 ⁠

•动态任务场景尤其需要模型在有限时间内给出下一步动作。比如桌面上的物体静止时,机器人可以有动作暂停,等待模型完成推理;但如果机器人是执行倒水之类的任务,水会持续流动,机器人必须及时调整动作。

 ⁠

13.此外,精细接触操作需要更快的响应,这类底层控制被称为 System 0。比如,机器手与物体的接触点从视觉上看经常会被遮挡,但考虑到实际操作中,几毫米的偏差就可能导致物体滑落,因此机器手其实需要根据触觉等传感器的反馈快速调整。

 ⁠

•以削黄瓜为例,人可以先决定“把皮削掉”,但削皮刀贴上表面后,手需要快速调整力度和位置,顺着黄瓜表面移动。如果每次细小接触都需要模型重新进行复杂推理,机器人的动作就会太慢。

 ⁠

•有研究员估计,这类底层控制至少需要每秒响应几十次,而云端通信加上模型推理,可能延迟一两百毫秒甚至更多。因此,即使 System 1 与 System 2 融合,System 0 可能仍需要在机器人本地运行。

 ⁠

14.比如 Dyna 联合创始人 York 最近也明确强调了实时控制对部署方式的要求。在他的设想中,System 2 可以通过语言来低频给出指导,而 System 1 和 System 0 都需要及时响应。除了模型推理速度,网络波动也会影响执行,因此他希望将这两层都放在机器人本地运行,只让 System 2 保留云端接入。

 ⁠

15.对于这些模型和控制层如何划分,也有研究者认为,System 0、1、2 没有固定的边界,模型如何分工,要看动作范围、响应速度要求和所需的模型规模。 输入与动作对应关系较固定、需要快速响应的任务,可以交给小模型;动作范围更广、决策更复杂的任务,则需要更多知识和计算。

 ⁠

 ⁠

Insight 03

In Context Learning:机器人训练可以借鉴 LLM 的哪些方法?

 ⁠

16.In context learning 是机器人提升泛化能力的重要方向:模型可以利用 context 中的人类示范和自身执行反馈调整动作,不需要为当前任务重新训练模型。

 ⁠

17.但一些团队的实验发现,直接给 VLA 加入执行历史和反思能力,并不会自动带来纠错或调整能力。

 ⁠

•一个团队尝试让 VLA 利用历史信息,结果虽然模型训练和验证时的误差都下降了,但部署时,模型却没有表现得更好,有时反而变差。对这个现象,一种可能原因是加入历史信息的方式反而干扰了模型原先 pre-traing 学到的能力。

 ⁠

•另一个团队基于 Qwen 改造 VLA,让机器人按指定顺序,把五六样零食和饮料放进各自的区域。在训练时,团队标注了完整计划、每一步是否完成,以及失败后应该重试。测试时,模型能说对计划,也知道哪一步失败了,但依然会反复做出错误动作。与不使用历史的普通 VLA 相比,它的成功率几乎没有提升。

 ⁠

18.事实上,要让反思能力能改善机器人表现,模型需要把语言反馈转化为具体的动作调整。一位研究者尝试把语言反馈与动作标注得更细。例如,抽屉没拉开时,不只写“失败了,重新来”,还要描述“抽屉没拉够,再拉开一点”,并与相应动作配对。结果,相比只给训练数据补充 CoT 标注,在细粒度的标注基础上加入 CoT,能训练出表现更好的模型。

 ⁠

19.但这种机器人模型的 in context learning 能力是否必须依靠专门的失败与恢复数据来训练,研究者有不同判断。

 ⁠

•Generalist 的一个 demo 中,机器人第一次抓得太高,第二次便降低了位置。有观点据此推测,训练数据中可能已经包含类似的失败与恢复示范,模型从中学会了这种调整。

 ⁠

•另一种观点认为,模型的纠错能力也可能是从其他任务迁移而来的。

 ⁠

1)考虑到现有采集数据中的错误示范比例较低,人的失误也不一定能覆盖机器人实际执行时的错误,仅靠这类数据,很难训练出能应对多种失败情形的纠错能力。

 ⁠

2)机器人模型可以沿用 LLM 的输入输出方式,这也让机器人有机会用上 LLM 已有的调整能力,例如,模型在多轮 coding 训练中学会根据运行结果纠错,在 computer use 中学会根据画面反馈调整下一步操作。有研究者认为,目前已经看到了部分这样的能力迁移。

 ⁠

20.即使模型具备 in context learning 能力,在模型实际执行任务过程中,是否需要引入动作执行历史,以及上下文中需要放哪些信息,最终还是要取决于具体任务。

 ⁠

•有观点估计,约八成机器人任务只需要机器人看当前状态就能决定下一步,做好这些机器人任务已经能覆盖很大市场了。

 ⁠

•前后步骤相互依赖的长任务,以及需要高精度操作的任务,更可能受益于引入动作执行历史,比如模型可以结合此前的动作与结果,推断机器人如何运动、环境如何响应,再据此调整下一步动作。

 ⁠

•此外,任务说明也是一种有用的上下文。例如,机器人在装配训练时没见过的家具时,可能需要先读说明书。

 ⁠

21.进一步,在机器人 context 不断累积后,长上下文下的动作稳定性和推理时延问题就会凸显出来。

 ⁠

•有团队曾在实验中将模型上下文长度设为约 8K token。随着执行历史不断累积,上下文达到 7K-8K token 时,机器人的动作开始混乱。

 ⁠

•一位研究者尝试用 test-time training 压缩上下文、控制时延,同时让机器人根据反馈纠错。(ICL 把新信息保留在上下文中,TTT 通过训练更新模型参数)但他测试 Astra 后发现,Astra 的 in context learning 能力已经能实现自己原本希望通过 TTT 获得的不少纠错效果。

 ⁠

 ⁠

Insight 04

Astra makes simulation great again

 ⁠

22.LLM 给 robotic 仿真领域带来的冲击也引发了 researcher 们的共鸣:LLM 大幅缩短了仿真环境搭建的时间,这甚至让一些 researcher 重新看好通过仿真来扩大模型训练规模的这条技术路线。

 ⁠

•Astra 出现后,仿真团队原来需要几个月搭建的部分评测环境,现在几个小时、甚至几分钟就能完成。

 ⁠

•仿真环境建好后,机器人可以在其中反复尝试不同动作,并根据反馈,通过 RL 改进动作策略,甚至有研究者希望在模型的 pre-training 阶段就加入这种试错学习。

 ⁠

23.但环境搭建提速和仿真模拟更准其实解决的是不同问题:光线追踪、三维重建和 Gaussian 表示,让摄像头“看到”的画面更逼真,但物理模拟需要算清,手施加一个动作后,物体会怎样移动、变形和接触。视觉上更像现实,不代表同一个动作在仿真与现实中会产生相同结果。

 ⁠

24.仿真能覆盖哪些任务,仍取决于底层物理引擎能多准确地还原任务中的物理过程。现有物理引擎与五六年前相比没有质的突破,接触力、触觉等模拟结果与现实仍可能相差一个数量级。因此有观点更看好先在抓取、搬运固定形状物体等仿真已较成熟的任务上扩大模型训练规模。

 ⁠

•把真实物体还原进仿真,需要知道它的可动结构和物理属性。有实验室曾买入几千个抽屉等带关节的物体,逐个扫描、切分可活动部件,再建立开合关系。即便做完这些工作,也只测得了质量等部分属性,开合阻力等信息仍是不完整的。

 ⁠

•游戏引擎虽然积累了大量现成素材,也难以直接补齐精细操作所需的物理反馈。因为游戏为了实时运行,往往避开穿衣、吃饭等繁琐过程,或用预制动画呈现。这些素材可以帮助模型学习近大远小等基本空间规律,但难以直接提供精细操作所需的物理反馈。

 ⁠

25.对于机器人团队来说,提高仿真精度,往往也会推高训练成本。复杂接触、柔性物体等模拟得越精细,计算通常越慢、成本越高,同样预算下机器人能在仿真中尝试的动作次数也越少。当成本过高时,直接采集真实数据甚至可能更划算。

 ⁠

26.要降低这部分成本,也可以用 GPU 加速、提高并行程度,或用 AI 优化底层代码,但有研究者认为,目前整个行业在这类底层优化上投入的人才和资金仍然不足。

 ⁠

27.也有团队尝试用世界模型预测动作带来的状态变化,替代一部分仿真计算,来降低训练成本。

 ⁠

•例如,SuperMimic 用仿真数据训练世界模型,让它预测机器人执行某个动作后,身体状态会如何变化,再利用这些预测训练人形机器人的全身运动控制策略。但有研究者指出,SuperMimic 虽然涉及翻转、侧滚等复杂动作,但模拟的对象仍是由刚性部件和关节组成的机器人。

 ⁠

 ⁠

28.但世界模型的能力实际上取决于训练数据。如果数据只来自现有仿真器,它能学到的物理变化也会受仿真器能力限制。而且,即使引入真实数据能补充仿真难以覆盖的接触和形变,但这些真实数据也不一定能记录下现实世界里的完整信息。例如,用相机拍摄衣物时,衣物表面状态能被记录下来,底下被遮挡的褶皱却拍不到,模型很难仅凭这些画面还原衣物的完整状态。

 ⁠

29.降低训练成本的另一种思路,是让模型学会适应仿真与现实的差异,从而减少对高精度仿真的依赖。有观点提出,可以先让模型在较粗颗粒度的仿真中学会观察、行动和纠错,再到现实中通过少量尝试来适应环境。

 ⁠

•但这个设想有一个前提:同一个动作在仿真和现实中产生的效果,不能相差太远。如果模拟结果始终明显偏离现实,模型就很难靠少量试错完成环境适应。

 ⁠

•实际上,仿真所需的精度取决于具体任务。例如,清理房间中的固定形状物品,有些操作可以接受粗略模拟,但拉拉链等精细接触任务则需要更高精度。

 ⁠

30.进一步,还有研究者希望,模型能在持续与环境交互的过程中积累经验、提高能力。在机器人领域,Physical RSI 的设想就是:先让机器人在现实中执行任务,用执行中获得的数据对模型进行仿真训练,再将更新后的模型部署回现实,反复迭代。

 ⁠

 ⁠

Insight 05

什么样的数据对机器人训练有用?

 ⁠

31.除了模型能力和训练方法,训练数据对机器人动作的准确性影响也非常大。一小时数据能带来多少提升,要看数据中包含哪些任务和动作,以及示范数据与机器人实际操作的接近程度。

 ⁠

32.Ego、UMI 和真机数据各有优劣,总的来说,越接近机器人实际执行的动作,通常越难低成本、大规模地采集。

 ⁠

 ⁠

33.有团队用 Ego 数据,让模型学习如何规划任务、理解空间关系,但要让机器人掌握操作时该用多大的力、如何感知接触,还需要通过带传感器的手套等设备来采集力和触觉数据。

 ⁠

34.看好 Ego 长期价值的人认为,未来机器人的手和身体会更接近人类,再配合上更好的数据清洗、质量控制和任务多样性,模型利用人类视频学习动作的效果可能会提高。

 ⁠

35.对于真机数据来说,这类数据更接近机器人实际执行的动作,但成本较高,也更难扩大采集规模。

 ⁠

•按有效数据小时估算,UMI 数据比真机数据便宜,Ego 数据又比 UMI 数据更便宜,但真机可采集的数据总量可能比 UMI 少一个数量级。因此,真机采集可以优先选择覆盖仿真难以精确模拟的任务,比如流体操作、叠衣服等场景。

 ⁠

•真机采集还受场景覆盖限制:在一些非家庭场景,机器人更难进入,UMI 则更容易开展采集;这种差别在家庭场景中相对较小。

 ⁠

UMI 数据需求在快速上升

 ⁠

36.最近 UMI 数据和相关硬件的需求都在上升。

 ⁠

•一些团队用大量 Ego 数据训练后,虽然看到了模型能力提升,但动作仍不够准确,因此转向使用 UMI。

 ⁠

•对于夹爪操作,UMI 采集的动作更接近机器人实际执行的动作。一位研究者估计,50 小时 Ego 视频的训练效果,可能才相当于 5 小时 UMI 数据。

 ⁠

•UMI 的外购需求还与团队有没有自己的机器人有关:有固定本体的团队,往往围绕自己的夹爪或手采集 UMI 数据;没有特定本体的团队,会更依赖外部供应。

 ⁠

37.但 UMI 能否成为长期的数据路线,目前市场上仍有分歧。

 ⁠

•看好 UMI 的人认为,手持夹爪比真机更方便采集,又能提供普通视频缺少的动作信息,还可增加触觉等传感器,现在做 UMI 数采的公司即使后续要调整数据路线,已有的 UMI 数据也仍有利用价值。

 ⁠

Data Scaling vs Data Recipe

 ⁠

38.除了数据本身包含哪些任务,数据的筛选、标注和训练配比,也会影响模型的最终效果。

 ⁠

•一些低价采购的 Ego 数据中,可能包含大量重复的擦拭、清洁操作,如果缺少进一步地筛选和细致标注,数据的小时数虽然看起来很长,但能给模型提供的新经验仍然有限。

 ⁠

•即使将不同来源、不同形式、不同本体的数据进行统一表示,训练时仍要确定每类数据用多少、在哪个阶段加入。

 ⁠

39.先扩大数据量,还是先确定有效配比,不同 researcher 仍有分歧。

 ⁠

•支持先做 data scaling 的人认为,现有数据规模仍远远不够,应优先扩大采集和训练规模,比如 Dyna 就使用了超过 100 万小时的 Ego 数据,对 Dyna-2 进行预训练。

 ⁠

•主张先确定 data recipe 的人认为,数据量已经大幅增长,应先验证 Ego、UMI 和真机数据怎样搭配效果更好,再按有效配比扩大采集。特别是对于 AI labs 这些已有模型和大量数据积累的团队来说,新数据能补上模型的哪些能力,以及新数据应该怎样与已有数据混合训练,这些问题尤其重要。团队的采集设备、训练经验和算力预算,又决定了团队能以多大规模采集数据、开展多少轮训练实验。

 ⁠

 ⁠

Insight 06

灵巧手的机会:这个社会的工具是为人手设计的

 ⁠

40.在采集数据、验证模型效果时,机器人团队可以根据任务要求,自由选择使用夹爪或灵巧手,但实际部署时,机器人需要完成整套工作流程,灵巧手的优势就会凸显出来。

 ⁠

•以制作奶茶为例,即使十个步骤中有九步都能用夹爪完成,但只要有一步需要灵巧手来操作,只有抓夹的机器人就无法独立完成整杯奶茶的制作。

 ⁠

•化学实验室的工作往往涉及多种操作,例如从狭窄柜子里取试剂、处理细线或细长容器。总的来说,实验中使用的工具大多按人手设计,夹爪即便能完成部分动作,也不一定能稳妥地拿取和使用这些工具。如果为夹爪重新设计工具,又会增加改造成本。

 ⁠

41.不过,灵巧手在操作上的优势能否很快带来大规模需求,研究者仍有分歧,关键在于工业场景是否需要灵巧手。

 ⁠

•一种观点认为,标准化工厂任务用夹爪就够了,灵巧手要大规模用起来,还得等家庭机器人普及,而机器人进入家庭仍需要较长时间,因此灵巧手短期内很难有大规模需求。

 ⁠

•另一种观点认为,一些工业任务已经同时要求较大负载和灵巧操作。例如加工海产品时,机器人既要拿稳较重、湿滑的物体,又要翻面、对准刀具等,普通夹爪很难稳定完成这些操作。虽然夹爪也可以针对固定工序改造,但如果机器人总是需要改造夹爪,或只能做固定动作,客户可以直接选择专用机器。

 ⁠

42.灵巧手能否长期稳定运行,也是影响实际部署需求的重要因素。有使用者遇到过灵巧手用了两周就出故障、甚至第二天损坏的情况。

 ⁠

43.硬件之外,模型能否协调多个手指,也会影响灵巧手的使用效果。有研究员表示,在一些通用模型控制灵巧手的 demo 中,灵巧手的手指仍然只是像夹爪一样开合,还有出现控制失败或效果不佳的情况。也就是说,虽然模型已经学过大量人类操作视频,但由于灵巧手关节自由度太多等因素,目前机器人仍然用不好灵巧手。

 ⁠

44.为了兼顾灵巧性、稳定性和成本,三指手被视为一个折中方案。支持者认为,它比二指夹爪更灵活,手指又可以做得比五指手更粗、更稳,成本也可能更低。但三指的问题在于:

 ⁠

•数据采集:有人担心,人的五指动作难以直接用于三指手,但支持者认为,可以在数据采集时就让人按三指手能完成的方式操作,从而获得与硬件相匹配的数据。

 ⁠

•研发投入:一位从业者表示,团队已经有二指夹爪,新增研发资源又往往优先投向五指灵巧手,很难再单独组建团队开发三指手,即使做出了三指手的 demo,后续持续优化仍需要大量投入。

 ⁠

 ⁠

Insight 07

LLM 冲击下,具身公司优势在于数据、硬件、部署一体化

 ⁠

45.在 LLM 冲击下,具身公司需要重新判断研发投入的重点:是继续提高机器人模型的智能上限,还是先优化机器人在具体任务上的执行速度和成本?也就是说,自己的 System 1 模型要做成偏向 System 0 的高效控制器,还是偏向 System 2 的通用决策模型。

 ⁠

46.支持继续提高模型智能的人认为,物理世界的任务种类很多,仅靠 coding 等任务的训练,不一定能解决所有机器人控制相关的问题。如果持续有足够强的开源 LLM,具身公司可以在这些模型的基础上,针对机器人任务继续做 pre-training 或 post-training。随着资金、算力和人才投入增加,具身公司也可以选择从头训练自己的基础模型。

 ⁠

•而且提高机器人模型的能力,或许也可以降低新任务的适配成本。York 在访谈中表示,从 Dyna-1 到 Dyna-2,预训练模型变强后,任务微调所需的时间从以月计缩短到以天计。同时,Dyna 完善了数据采集、筛选和部署工具,让运营团队也能完成更多现场工作,减少对研发人员的依赖。

 ⁠

47.另一方认为,自研机器人模型不一定能在能力上超过通用模型,具身公司更应该利用通用模型已有的能力,让机器人以更快的速度、更低的成本完成实际部署中的具体任务。一位研究者设想:如果把机器人数据加入通用模型的训练,即使新增数据量只有原训练数据量的 1% 甚至 1‰,模型也可能凭借已有的知识和多模态能力,迅速学会机器人操作。

 ⁠

48.其中,利用 LLM 提高机器人任务执行效率的一个潜在思路是,具身公司可以从 Astra 中蒸馏出专门用于机器人控制的小模型。具体来说,团队需要先让真实机器人或仿真器执行 Astra 生成的动作,再用执行记录训练机器人模型。这需要时间,也要投入硬件和仿真设施,有观点认为,获取这些训练数据其实不一定比直接采集数据更便宜。

 ⁠

49.即使具身公司的这类机器人小模型推理更快、运行成本更低,这种速度和成本优势也不一定能长期保持。因为 computer use 和语音交互同样需要快速响应,LLM 厂商也有动力提高推理速度。

 ⁠

50.因此,有研究者表示,具身公司应在通用模型发展进一步提速前的这段窗口期,尽快把高效的机器人方案用于实际业务。“技术上可以做”与“谁能更快做出来”,是不同的问题。

 ⁠

51.在面向客户交付时,具身公司需要把模型和硬件配合好,提供能完成实际工作的整套机器人方案。

 ⁠

•在叠衣服、叠毛巾等场景,客户更可能为整套方案付费,而不只是调用模型 API。

 ⁠

•在零售和工业场景,一些团队过去用传统算法规划机器人的动作,现在改用微调后的 π0.5 或自有模型生成动作,但换用模型后,目前团队仍需针对客户的具体任务进行现场调试,才能让机器人完成实际工作。

 ⁠

•总的来说,进入新场景要采集多少数据、做多少调试,会影响具身公司的交付成本;运行稳定性和执行速度会影响机器人每天能完成多少工作。

 ⁠

52.此外,实际部署也是具身公司获取模型训练数据的途径:就像 LLM 厂商可以通过自有产品回流用户数据来训练模型,具身公司也可以通过持续记录机器人执行任务的过程和结果,来改进模型和产品。而且部署还能产生一类稀缺数据:机器人是怎样失败,又是怎样恢复的。

 ⁠

53.因此,对于具身公司来说,要获得并用好这些反馈,末端硬件设计、数据采集和客户部署就需要一起考虑:末端决定哪些动作数据能采集、能执行,部署能检验这些动作能否完成真实任务,并回流真实数据。

 ⁠

⁠⁠⁠

延伸阅读

AI 如何改写企业安全预算?自动攻防、Agent 权限与代码安全⁠

AI 如何改写企业安全预算?自动攻防、Agent 权限与代码安全

›
RSI 的新闭环:当 AI 开始参与芯片设计⁠

RSI 的新闭环:当 AI 开始参与芯片设计

›
深度讨论 Personal Agent:“最互联网”的 AI 命题⁠

深度讨论 Personal Agent:“最互联网”的 AI 命题

›
智能进步的复利:从 RSI 加速到持续学习⁠

智能进步的复利:从 RSI 加速到持续学习

›
线虫、多巴胺与股份公司:进化给 RSI 的启发⁠

线虫、多巴胺与股份公司:进化给 RSI 的启发

›

跳转微信打开

  •  

AI 如何改写企业安全预算?自动攻防、Agent 权限,与代码安全

原创 Daniel、Siqi 2026-10-30 13:00 北京

Agent for Security, Security for Agent

作者:a16z

编译:Daniel

编辑:Siqi

今年夏天,OpenAI agent 入侵 Hugging Face 的生产系统事件让 AI 带来的安全挑战变得非常具体:模型不仅能找到漏洞,还能获取权限、执行攻击,完成一连串原本需要专业攻击者操作的步骤。

 ⁠

而最近,OpenAI 的“Patch the Planet”计划又协助研究人员发现了 PHP 中的严重漏洞,这次发现把检查系统、紧急修补的压力带到了更多企业面前。AI 正在帮助防守方更快地发现问题,但找到漏洞之后,企业能不能及时判断风险、完成修复,同样决定了系统是否安全。

 ⁠

与此同时,企业自己也在使用越来越多的 agent。它们能读取内部文档、访问源代码,甚至用员工的权限调用业务系统。安全团队一边要借助 AI 处理更多告警、测试更多系统,一边也要弄清这些 agent 能访问什么、做了什么,以及哪些操作必须经过人的审批。

 ⁠

这些变化会如何影响 AI 安全领域? a16z 最新的这篇面向 100 位首席信息安全官(CISO)的调研是一个很好的材料帮助我们理解这个领域的变化。CISO 们结合 AI 在企业真实生产环境中的变化,讨论了 2027 年在企业安全上的工作重心、预算和采购计划。

 ⁠

相比对技术能力的预测,这些来自一线采购者的回答,让我们更容易看清企业眼下遇到了什么问题,以及它们愿意为什么样的产品付费。

 ⁠

以下是我们对这篇报告的编译。我们想借这份调研梳理两个问题:AI 正在给企业安全带来哪些具体变化?当这些新需求进入采购流程,现有安全平台和创业公司,各自的机会又在哪里?

⁠/⁠

01.

Why Now

 ⁠

AI 正在改变企业安全的重心

 ⁠

AI 比量子计算更早改变了网络安全行业。

 ⁠

今年夏天的 OpenAI 的 Agent 入侵 Hugging Face 是一个开端,在这之后,AI 又陆续帮助发现了互联网基础软件中的漏洞。而就在上周,OpenAI “Patch the Planet”计划的研究人员找到到 PHP 中的严重漏洞,且这些漏洞已经存在了十多年。同一天,人们还发现,所有主流浏览器都信任的证书颁发机构 eMudhra,使用了极弱的加密密钥,其中一个竟然只是数字 4。

 ⁠

Patch the Planet 是 OpenAI 与安全研究机构、开源维护者合作开展的计划,将 AI 辅助漏洞研究与人工验证、补丁开发结合起来。这次 PHP 漏洞在特定条件下,可让未登录的攻击者在服务器上执行代码,风险会沿共同的软件依赖影响许多企业。本次 PHP 事件表明,AI 辅助研究能在被广泛依赖的成熟软件中,验证出长期缺陷的严重后果。

 ⁠

 ⁠

这类安全问题其实一直存在,只是模型发现和利用漏洞的能力在不断提高。AI Security Institute 的评测也反映了这种进步:新模型能够完成越来越复杂的网络安全任务。

 ⁠

AI Security Institute(AISI,人工智能安全研究所)是英国政府设立的前沿 AI 研究与评测机构。

 ⁠

这项测试把模拟网络攻击拆成 32 个步骤。在同档测试预算下:GPT-5.4 平均完成约 13 步,新版本的 Mythos Preview 平均完成约 25 步,而后者最好的一次尝试则是完成了全部 32 步。这个测试说明,新模型已经能把更多攻击环节连起来,推进更长的攻击流程。

 ⁠

AISI 测试。以上结果来自模拟网络,不能等同于攻破有防御措施的真实企业网络。

 ⁠

随着漏洞越来越多,企业的安全团队必须快速地作出判断:哪些最可能危及自己的业务,并赶在攻击者利用之前修补好。

 ⁠

Epoch AI 在今年 7 月发布的一组数据显示,企业需要评估和处理的安全漏洞正在增多:下图中,橙线代表高危漏洞,截止 2026 年 7 月已接近 1,200 个;绿线代表严重漏洞,接近 400 个。

 ⁠

 ⁠

与此同时,企业安全团队的关注范围也在扩大。

 ⁠

随着越来越多员工开始发布用 Vibe Coding 做出的应用,越来越多的 Agent 开始访问公司文档、源代码和生产系统。每增加一个应用、接入一项新服务,安全团队就得弄清它如何运作,以及该怎么保护。

 ⁠

而这些变化也有助于解释 Palo Alto Networks 和 CrowdStrike 等网络安全平台今年的市值上涨,截至 10 月 28 日,这两家公司市值较年初分别增长约 152% 和 132%。

 ⁠

 ⁠

但企业面临的安全风险越来越多,那么一个相当现实的问题是,企业的网络安全预算会如何变化?

 ⁠

为了了解安全负责人如何应对这些压力,a16z 调查了 100 位 CISO,询问他们 2027 年的工作重点、预算和采购计划。这些受访者所在企业的员工人数均超过 1,000 人。

 ⁠

其中,87% 的受访者预计网络安全支出将增加。原因主要有两个:

 ⁠

•AI 带来了新的安全威胁;

 ⁠

•企业部署 AI 的程度越深,需要保护的应用和系统也越多。

 ⁠

 ⁠

一方面, 这些新增支出大多会用于采购相关 AI 工具。但和“AI 取代白领”的大趋势不同,这些受访企业目前还没有因此考虑缩减安全团队的规模。甚至接近 ~50% 的受访者仍预计 2027 年安全团队人数会增加,另有一半预计保持不变,只有 4% 预计裁员。

 ⁠

为什么 AI 接管越来越多 coding 类任务的同时,反而为什么还需要这么多人?因为团队希望完成更多工作:团队仍然需要人手,是因为还有更多工作要做:处理原本只能排队等待的告警,测试更多应用,更早修好漏洞。

 ⁠

 ⁠

CISO 们已经在开展试点、预留预算,并判断哪些产品足够可靠,可以投入生产环境。很多采购决定会在未来 12 个月内作出,而他们最关心的问题,已经与一年前大不相同。

 ⁠

安全行业的需求在快速发生变化,在 2026 年的 a16z CISO 调研中,优先级最高的分别是暴露面与漏洞管理,以及安全信息与事件管理(SIEM)。而到了 2027 年, CISO 的工作和预算优先级都和 AI 相关。

 ⁠

 ⁠

在 Top 5 priorities 的选择上,AI SOC 与代码安全进入的比例接近,分别为 49% 和 48%,如果要选择最重要的那个,22% 的受访 CISO 则认为是 AI SOC。

 ⁠

SOC (Security Operations Center)安全运营中心,是企业里负责日常监控网络安全、发现攻击并处理安全事件的团队。

 ⁠

虽然不同类型企业的 top priority 并不相同。比如排名最靠前的是 SOC 自动化,也有团队把进攻性安全(Offensive Security)、漏洞修复,或保护自身部署的 AI 更加重要。不过,普遍认同共识是,AI 已经是安全系统不可缺少的一部分。

 ⁠

从具体方向变化趋势来看,对比 2026 年,企业内部 AI Agent 安全(增加了 28 个百分点)、SOC 自动化(增加 26 个百分点)和进攻性安全(增加 24 个百分点)的优先级上升最多,代码安全、漏洞修复和 AI 治理紧随其后。

 ⁠

传统暴露面与漏洞管理下降了 21 个百分点,而同时 AI 漏洞修复上升了 22 个百分点。需求正在向新能力倾斜,不过这里的趋势更多代表企业在 cyber security 上优先级的变化,还不能直接解释为对应品类预算的增减。

 ⁠

 ⁠

企业开始采购 AI 安全工具

 ⁠

虽然企业对这些工具很感兴趣,但大多还没有真正在生产环境中用起来。只有 18% 的受访者已在生产环境使用 AI SOC 工具,使用 AI 进攻性安全工具,以及 AI 暴露面与漏洞修复工具的比例,均为 13%。

 ⁠

•目前在实际生产环境中被使用最多的是代码安全工具,有 26% 的受访企业表示已经在使用,36% 的受访企业正在试点;

 ⁠

•检测工程与威胁狩猎虽然目前只有 9% 投入生产,却有 30% 正在试点,42% 预计未来一年采用。

 ⁠

不过不少企业还处于试点状态,或预计未来一年内投入生产。代码安全和邮件防护的使用更普遍一些,但距离普及仍然很远。

 ⁠

 ⁠

45% 的受访者计划在未来 12 个月内,采购或升级内部 AI Agent 安全产品:

 ⁠

•计划采购或升级进攻性安全产品的比例为 42%;

 ⁠

•AI 使用管理与治理产品为 38%;

 ⁠

•AI SOC 在前面的优先级调查中最常排第一,但未来一年计划采购或升级的比例为 31%,低于内部 AI agent 安全的 45%。

 ⁠

 ⁠

企业正在决定买什么,产品本身却还在不断变化。有的企业准备扩大现有部署,有的则第一次采购这类工具,还在比较供应商。所以 2027 年有可能是能够从企业支出和预算侧真正看到变化的一年,各个品类都将迎来新一轮评估与采购。

 ⁠

接下来,结合 CISO 们的回答,可以看看市场正在发生什么变化,以及哪些地方可能出现机会。

 ⁠

 ⁠

02.

What's New

 ⁠

更高频的安全测试

 ⁠

速度在企业安全里非常重要。

 ⁠

首先,从实际工作流来看,安全团队处理一个漏洞的事件天然很长。因为企业的系统一直在变。团队可能花上几周处理渗透测试发现的问题,但这期间,开发者还在发布功能,员工还在接入新服务,权限设置也在变化。等这一批问题修好,可能又有新的漏洞需要检查。

 ⁠

此外,AI 让攻击者能够更快地发起更多攻击,相对应,防守方也需要同样的能力去应对。贝恩估计,AI 能把一套典型攻击流程从大约四周压缩到约 18 小时,留给企业发现问题并完成修复的时间少了很多。

 ⁠

 ⁠

面对这个变化,安全负责人首先是希望提高测试频率。比如,83% 的受访 CISO 就认为,更频繁地测试安全状况很重要,“面对所有这些新的 AI 威胁,我们需要比别人更早发现问题。”.

 ⁠

a16z 参与投资的 Armadin 就是通过使用自主 Agent,寻找攻击者可能利用的入侵路径,并帮助安全团队将其堵住。

 ⁠

 ⁠

与此同时,负责模拟攻击的安全人员仍然不可替代,但因为人手有限,能测的应用和系统也有限。一个安全团队告诉 a16z,他们在原有测试预算不变的情况下,还再通过 AI 测试更多应用和基础设施。

 ⁠

从测试会越来越频繁。有 18% 的受访者表示,他们的大多数进攻性安全测试已经在持续检查生产环境中的系统和应用;52% 预计一年内会做到这一点。展望五年后,44% 预计测试会接入 CI/CD,在代码或基础设施发生变化时自动启动。

 ⁠

图表解读|持续测试与接入开发流程,是两步不同的变化

 ⁠

结合前一张测试频率图,多数受访者希望提高测试频率。预期中的改变分阶段发生:一年后,以持续测试为主的比例为 52%,接入 CI/CD 的为 9%;五年后两者分别为 39% 和 44%。近期重点是持续覆盖生产环境,更长期才是随代码和基础设施变更触发测试。以上均为受访者预期。

 ⁠

 ⁠

这样一来,安全测试就能跟上软件开发和维护的节奏。每次发布新版本,都可以启动测试;补丁部署后,也能立刻验证修复效果。团队不必等到下一次定期评估,才知道这段时间又出现了哪些问题。

 ⁠

 ⁠

图表解读|进攻性安全的采购倾向更偏向 AI 原生厂商

 ⁠

在进攻性安全中,42% 计划向 AI 原生厂商采购,24% 选择现有平台的附加功能;其他九类 AI 安全产品的对应中位数分别为 24% 和 45%。这一品类的采购倾向与其他品类不同,但采购计划尚不等于成交。

 ⁠

漏洞发现提速,但修复仍是难点

 ⁠

但 AI 加速了漏洞发现之后,随即而来的就是漏洞修复。但漏洞修复往往要更慢:先找到负责的人,确定怎么改,再完成测试和部署。如果团队本来就有大量问题没处理完,即便 AI 可以更快发现漏洞也并不能从本质上提高企业安全水平。

 ⁠

因此,在漏洞发现后,可以先借助 AI Agent 测试确认攻击者能否利用漏洞,以及能够访问哪些系统或数据,甚至生成工单。

 ⁠

随后企业安全团队就可以基于 AI 测试的结果来评估漏洞的实际风险,确定修复优先级,并判断在哪个环节修复可以阻断攻击。

 ⁠

当然 AI 也可以参与协助漏洞修复,并在修复后再次测试,确认原先的攻击路径已被阻断。

 ⁠

 ⁠

SOC 需要扩容

 ⁠

攻击速度加快,也要求 SOC 更快完成告警调查和响应。但分析师处理一条告警,往往要先从多个系统收集证据,还原事件经过,再确认是否存在真实威胁。等这些工作做完,可能几个小时已经过去,后续处置还没开始。

 ⁠

因此,SOC 可以先让 AI Agent 收集证据、完成常规检查,再由分析师调查复杂事件,作出需要专业判断的决定。这样,在人手有限的情况下,团队也能处理更多原本顾不上调查的告警。

 ⁠

当然,让 Agent 完成调查,并不意味着后续处置都可以由它自行决定。企业还需要根据操作风险,确定哪些权限可以交给 Agent。

 ⁠

现阶段, 36% 的受访者愿意让 Agent 自主执行低风险操作。如果看未来 12 个月,60% 的 CISO 预计会接受让 Agent 自主完成低风险的 SOC 任务。

 ⁠

 ⁠

比如,收集日志和修改生产系统的风险并不相同。团队可以把大部分调查工作交给 Agent,但对可能影响业务运行的处置操作,仍保留人工审批。

 ⁠

Cotool 就提供了这样的工具。安全团队可以先将已有的调查流程配置成 Agent,设定操作权限和审批要求,再让它调用现有工具,筛选告警,并在授权范围内采取行动。分析师可以检查结果,继续调整流程。原本需要人逐步完成的重复调查,就可以交给 Agent 反复执行。

 ⁠

Cotool 官方产品示意:Agent 先检查应用权限、核查发布者并追踪数据访问,再请安全团队批准撤销授权

 ⁠

代码量增加,安全检测压力上升

 ⁠

即使企业自身的安全做得很好,所依赖的软件一旦有漏洞,也可能让企业受到牵连。最近的 PHP 漏洞就说明了这一点。

 ⁠

代码安全并不是新领域。静态应用安全测试(SAST)和软件成分分析(SCA)工具已经有是企业安全软件的标配。但当 AI 让开发者能够编写、发布更多代码,也增加了现有安全工具的检测压力,传统代码安全审查是否也会受到挑战?

 ⁠

因此,接近一半的受访 CISO 把 AI 代码安全列为 2027 年最优先的五项工作之一,而 2026 年这一比例约为 25%。企业可能会升级到 Socket 这类能主动扫描依赖项代码的工具,也可能采用精简容器镜像,持续从源代码重新构建,并及时加入最新补丁;有的企业会两种方式一起用。

“写代码的工程师,远比做安全测试的人多。”

——某金融服务企业 CISO⁠

Agent 值得信赖吗?

 ⁠

AI 已经进入企业日常业务,安全团队也需要应对这些工具和 Agent 自身带来的风险:

 ⁠

•92% 的受访者表示,面向员工的生成式 AI 工具至少已在部分生产场景中投入使用;

 ⁠

•83% 的受访公司已经在生产环境使用 coding copilot/agent;

 ⁠

•55% 的受访公司已通过 MCP 服务器或其他方式,让 Agent 连接业务应用并投入使用。

 ⁠

 ⁠

安全团队既要关注员工向 AI 工具输入的数据,也要了解 Agent 能调用哪些工具、执行哪些操作。因为这些 AI 系统不仅能读取源代码、检索公司文档,还能在多个应用中执行操作。一家餐饮软件公司的安全负责人问出了许多团队的困惑:“你怎么才能真正知道,Agent 到底在做什么?”

 ⁠

•47% 的受访 CISO 把员工向 AI 工具泄露敏感数据列为最担心的问题之一;

 ⁠

•46% 的人担心 Agent 越权或遭到入侵;

 ⁠

•另有 29% 担心 AI 应用遭遇提示词注入攻击,或出现数据泄露。

 ⁠

 ⁠

这些担忧已经拖慢了不少企业使用 AI 的进度。63% 的回答提到,安全要求已经推迟或限制了部分 AI 应用的使用,比如需要先做安全审查、获得审批,或者不能用于某些用途。

 ⁠

要管理这些风险,企业安全团队就需要充分了解:有哪些工具和 Agent 在运行,由谁负责,拥有哪些访问权限,以及实际执行了哪些操作。并且这些信息需要持续更新:原本获批的普通软件,更新后可能增加 Agent 功能;员工会添加新的扩展和集成;Agent 承担的工作越多,获得的权限也可能越大。

 ⁠

另一个难点,是区分操作究竟由人还是 Agent 发起。

 ⁠

当 Agent 在员工设备上运行、使用员工本人的权限时,它读取文件或调用 API 的行为,可能与员工亲自操作难以区分。这让现有的终端检测与响应(EDR)、数据防泄漏(DLP)和零信任机制,在识别和约束 Agent 行为时面临困难。

 ⁠

a16z 投资的 Neo,就在尝试解决这一问题。Neo 的创始人曾参与创立 SentinelOne。Neo 会识别员工设备上的 Agent、扩展和 MCP 服务器,跟踪各自的访问权限,区分操作由人还是 Agent 发起,并实时执行安全策略。例如,Agent 可以获准调查生产系统的问题,但修改系统仍需审批。

 ⁠

Neo 界面示例:为 Claude Code、Codex 设置文件访问规则。图中针对读取 。ssh 目录的行为,设置了升级处理(Escalate)、生成高危问题记录和通知用户

 ⁠

AI 让社会工程攻击更难识别

 ⁠

攻击者用 Deepfake 模仿团队成员的声音或面孔,让员工相信自己正在和其通话,进而转账或交出账号权限,这种利用人的信任、诱导其执行危险操作的方式,就是社会工程攻击。

 ⁠

这类攻击不一定需要 Deepfake,冒充同事的钓鱼邮件、仿冒登录页面,也是在利用人的信任。在安全调研机构 SANS 调查中,80% 的受访组织把社会工程攻击列为最主要的人员相关风险。AI 让攻击者更容易伪造可信的消息、声音和视频。过去,员工还能通过拼写错误、可疑措辞识别一些骗局;现在,即使声音听起来像本人,视频里出现了熟悉的面孔,也不能据此认定请求可信。

 ⁠

这意味着安全培训和模拟演练也需要更新。Adaptive 用 AI 模拟钓鱼邮件、冒充他人的语音和深度伪造视频,让员工练习识别这些骗局,以及遇到可疑请求时如何核实对方身份。

 ⁠

除了仿冒身份,借助 AI,攻击者可以批量生成假冒高管的账号、仿冒域名和欺诈网站。对于这类问题,比如 Doppel 这样的公司就则帮助企业发现这些仿冒账号和网站,并推动下架,减少安全团队逐一查找、处理的工作。

 ⁠

 ⁠

03.

机会属于谁?

 ⁠

为了争夺接下来企业在 AI 安全领域的新预算,市场上已经出现了大量 AI 安全供应商。

 ⁠

从 Black Hat 2026 供应商图谱中可以看到,AI SOC/SecOps 有 43 家,agent 安全/治理有 35 家,应用与代码安全有 34 家。这些厂商对产品能力的介绍却很相似:让系统自己完成更多工作、更快查清问题、减少人工操作。

 ⁠

 ⁠

企业要决定买什么,首先需要实际评估:产品能替团队完成多少工作,哪些环节仍要人来跟进,哪些操作可以交给它,以及使用成本是多少。这些评估本身也需要安全团队投入时间和人手。

 ⁠

一家全球服装企业的 CISO 说,他们先从七八家供应商中选出三家,再实际测试。用他的话说:“要给七八家全部做概念验证,人手根本不够。”

 ⁠

新厂商不断出现的同时,已有产品的功能也在随着底层模型能力的提升而变化,企业比较的对象一直在变,采购决定也就更难作出。

 ⁠

另一位安全负责人解释了自己的犹豫:“我不想每天为了一个新问题,就又临时买一个单点产品。”他的方案是先和其中一款工具签订短期合同,同时也在评估其他产品。

 ⁠

AI 安全采购:企业仍优先考虑现有平台

 ⁠

从 a16z 的调研来看,在选择供应商时,企业通常还是先看已有的安全平台能否满足需求:

 ⁠

•44% 的受访者会优先考虑现有安全平台提供的功能,只有 21% 会先找 AI 原生厂商;

 ⁠

•25% 表示不会向创业公司采购。

 ⁠

企业优先选择已有平台的原因相当直接:是现有供应商已经在保护企业终端、处理安全数据,已经通过了采购审核,企业自然更容易先想到它们。

 ⁠

如果现有平台解决不了新的问题,企业也会考虑创业公司。调查中,47% 的受访者把“解决现有供应商无法满足的需求”列为选择创业公司的重要条件。性能、创新速度、价格,以及能否接入现有系统,也会影响采购决定。

 ⁠

虽然当下看,创业团队可切入的空间很窄、赢得客户的门槛极高,但 AI 带来的安全变量未知,AI 安全很快会成为业务运行中不可缺少的一部分,这一批技术变革下一定催生一批重要的安全公司。

 ⁠

 ⁠

⁠⁠⁠

⁠⁠⁠

延伸阅读

RSI 的新闭环:当 AI 开始参与芯片设计⁠

RSI 的新闭环:当 AI 开始参与芯片设计

›
深度讨论 Personal Agent:“最互联网”的 AI 命题⁠

深度讨论 Personal Agent:“最互联网”的 AI 命题

›
智能进步的复利:从 RSI 加速到持续学习⁠

智能进步的复利:从 RSI 加速到持续学习

›
线虫、多巴胺与股份公司:进化给 RSI 的启发⁠

线虫、多巴胺与股份公司:进化给 RSI 的启发

›
为什么 CPU 重新变得重要?⁠

为什么 CPU 重新变得重要?

›

跳转微信打开

  •  

RSI 的新闭环:当 AI 开始参与芯片设计

原创 Daniel、Cage 2026-10-26 18:01 北京

模型开发的 RSI 已经得到初步实现,芯片设计领域是下一个闭环

作者:Daniel

编辑:Cage ⁠

模型开发的 RSI 已经得到了初步实现,在芯片设计领域,这条路径也在逐步跑通:AI 已经在深度参与电路设计、验证与优化,并根据反馈修改方案。目前 AI 正在将芯片设计 18~24 个月的周期压缩至一年之内。

 ⁠

模型公司也在大力发展这个方向,OpenAI 与 Broadcom 合作的推理 Jalapeño 芯片代表着模型公司正在自己下场打造芯片。除了自研芯片,模型公司还在推动 Coding Agent 接入 EDA 工具链,并与 EDA 巨头联手开发芯片专用模型,从芯片设计与工具两端同时发力。

 ⁠

芯片设计是一个适合 RSI 的领域已经成了业内共识。包括 Jeff Dean 创立的 Discovery Loop,也明确会涉及芯片设计。除此之外,今年也有很多初创公司广受关注,大致可以分为三类:

 ⁠

•Chip Design Agent 公司:加速芯片开发。接入客户现有 EDA 流程,协助设计、验证和调试,并在持续使用中积累客户工程经验 close the loop。

 ⁠

•RL 环境公司:培养模型的芯片设计能力。把难以获取的工程反馈组织成训练任务、工具环境与评价机制,直接受益于模型公司对芯片设计能力的投入。

 ⁠

•AI Native 芯片公司:降低定制芯片门槛。以 AI 重组研发流程,直接交付定制设计或芯片,让更多企业拥有专用硬件实现芯片设计能力平权。

 ⁠

这里第一类公司更接近工具层,第二类更接近模型训练层,第三类则直接参与芯片竞争。

 ⁠

我们认为,芯片设计流程中最核心的壁垒是数据和 IP:真实设计大多沉淀在芯片公司内部,成熟 IP 与工程经验也难以复制。因此优先看好两类公司:一是深入客户现有工作流的 Chip Design Agent 公司,在使用中持续积累客户工程经验、提高切换成本,护城河更深,但短期内起量较慢,且面临模型公司的竞争;二是为模型公司打造训练环境的 RL 环境公司,直接承接模型公司对芯片设计能力的核心需求,收入兑现更快、确定性更高。AI Native 芯片公司长期空间值得期待,但商业兑现周期更长,也容易芯片公司被视为竞争对手,合作和数据获取也会更困难。

⁠/⁠

01.

行业现状

 ⁠

芯片设计是一个高度依赖工程经验和人力投入的行业,每年有超过 800 亿美元的人力成本。随着芯片越来越复杂,设计工作量持续增加,行业面临两大问题:

 ⁠

•如何让有限的工程师完成更多设计:随着芯片越来越复杂,设计的工作量也水涨船高,而行业长期面临人才短缺,约 53% 的半导体企业反映难以招募到具备先进 EDA 平台专业知识的工程师。如何让有限的人力完成更多设计,正在成为芯片行业的重要问题。

 ⁠

•芯片开发的速度越来越难以匹配需求变化:AI 的需求正在加速演进,不同场景需要不同的计算架构。企业却仍需提前数年预测工作负载,再投入漫长的开发与验证过程。有时芯片还没做出来,AI 已经出现了新的计算需求和执行模式变化,原来芯片的架构不再支持。

 ⁠

AI 在算子优化上的进展,为芯片设计行业提供了一个很好的先行案例。在一些目标明确、结果可以验证的任务中,AI 已经能够通过反复修改代码、测试和筛选,找到优于已有人工实现的方案。芯片设计也包含大量这样的迭代:工程师修改电路,调用 EDA 工具检查功能、评估功耗和性能,再据此调整方案。这为 Agent 提供了发挥空间。只是相比算子优化,复杂电路的评估往往更慢,也更昂贵。

 ⁠

今年 AI 在芯片设计领域也广受资本市场关注,今年 1 月,来自 Google AlphaChip 的 AI Native 芯片公司 Ricursive Intelligence 完成了 $3 亿 A 轮融资,投后估值达到 $40 亿,开启了硅谷对芯片设计领域的关注。从今年融资看,Chip Design Agent 与 AI Native 芯片公司是今年最常见的两条路线:前者合计融资约 $1.8 亿,后者约 $3.8 亿(主要由 Ricursive Intelligence 贡献)。

 ⁠

 ⁠

 ⁠

02.

EDA:芯片设计背后的高壁垒生意

 ⁠

EDA,即电子设计自动化,是工程师设计芯片所使用的软件工具。从描述电路功能、检查设计是否正确,到安排元件的位置和连线,EDA 贯穿芯片开发的主要环节,帮助工程师把设计想法变成能够交给晶圆厂制造的版图。

 ⁠

EDA 是一个年收入百亿美元级、由少数头部公司主导的市场。按 SEMI/ESD Alliance 的季度数据加总,2025 年全球 EDA 工具收入约为 $125 亿;如果计入半导体 IP 和相关服务,广义电子系统设计市场约为 $212 亿。

 ⁠

这是一个高度集中、进入壁垒极高的行业。2025 财年 Synopsys 和 Cadence 的收入分别约为 $70.5 亿和 $53.0 亿。Synopsys、Cadence 和 Siemens EDA 三家巨头合计占据全球 EDA 收入的 90% 以上。它们凭借长期研发投入、与晶圆厂工艺设计套件(PDK)的深度适配,以及大量经过验证的半导体 IP,建立了难以复制的优势。对客户而言,工具是否可靠尤其重要:芯片制造成本高,一处设计错误就可能带来数月延误和耗费上千万美元的重新流片。

 ⁠

EDA 工具早已经与客户、晶圆厂的开发流程有着极深的绑定。企业围绕这些工具积累了设计代码、IP 库和自动化脚本,工程师也形成了相应的使用经验。更换工具需要重新适配和验证,切换成本高,使头部厂商拥有较强的定价能力和稳定的客户关系。

 ⁠

与半导体行业相比,EDA 的收入表现更有韧性。其收入主要来自软件授权与订阅,需求更多由下一代产品研发、技术迭代和设计复杂度驱动。过去十余年,Synopsys 和 Cadence 即便在半导体下行周期中,也总体保持了营收增长。这与客户的预算结构有关:EDA 费用通常来自研发预算,而非资本开支。市场低迷时,企业可以推迟扩产,但很难长期停止下一代芯片的研发。

 ⁠

新的计算需求不断推动芯片开发,芯片设计的成本水涨船高

 ⁠

 ⁠

03.

一颗芯片被设计出来需要经过哪些步骤

 ⁠

 ⁠

要理解这些机会,先看一颗芯片是怎样被设计出来的。

 ⁠

以数字芯片的设计周期为例,从想法到流片,首先要明确功能和性能目标,再由工程师编写 RTL 代码,描述电路如何工作。团队一边开发,一边通过测试检查设计是否符合要求。随后,设计工具将代码转换为实际的电路版图,安排元件的位置和连线。完成检查后,版图才会交给晶圆厂制造。

 ⁠

这个过程最耗时的,是反复检查和修改。代码中的错误需要排查,电路运行速度不够快、功耗过高或面积过大,也可能要求团队重新调整设计。每次修改后,还要再次测试,确认没有引入新的问题。专家访谈提到,在复杂逻辑芯片约两年的设计周期中,仅 RTL 编写和功能验证就可能需要 12—14 个月。

 ⁠

ChipAgents 发布的报告称,功能验证占工程投入时间约 60%,RTL 设计占约 25%,两者合计约 85%。

 ⁠

芯片设计中的这些任务,十分适合 AI 发挥:目标相对明确,操作集中在代码和工程工具中,结果可以通过仿真、验证和性能分析来检查。AI 因此有机会反复执行“提出方案—运行工具—根据反馈修改”的过程,减少人工操作,加快设计迭代。

 ⁠

这也为 AI 的持续改进提供了条件:设计方案可以交给工具测试,执行过程和结果又能成为模型训练的反馈。但我们同样能观察到:越接近真实世界,模型试错通常越贵、越慢。芯片设计虽然有可反复测试的软件流程,但可靠反馈并不容易。综合阶段看起来更好的方案,经过布局布线后往往未必更好;要判断一次修改是否有效,往往需要运行后续流程,而中间反馈就可能耗费数天。

 ⁠

这也给了创业公司发展的契机,如果从最终向客户的交付物来分类,可以分为三类:

 ⁠

 ⁠

 ⁠

04.

大模型公司在芯片设计的动作

 ⁠

在看这个领域的创业公司之前,我们也可以先看一下模型厂在芯片设计领域的动作。具体而言,Anthropic 更关注在少数如生物医药等高价值研究领域,而 OpenAI 则更希望覆盖广泛的商业与工业软件,因此在芯片设计领域的进展也更为明显。

 ⁠

加速自研芯片:

 ⁠

模型公司本身是芯片需求大户,拥有很强的动力自研芯片。它们理解芯片所需要的能力和参数。自己参与芯片设计,就可以把这些需求提前纳入硬件,实现成本降低。

 ⁠

 ⁠

2026 年 6 月,OpenAI 与 Broadcom 公布了面向大模型推理的 Jalapeño 芯片。OpenAI 围绕模型需求设计架构,Broadcom 提供芯片实现与网络技术。双方披露,项目从初始设计到流片约用了九个月,OpenAI 的模型参与了部分设计与优化工作。模型帮助团队探索不同实现方案,缩短设计与验证之间的迭代,并优化芯片中的运算电路。最终签核仍然使用标准 EDA 流程;芯片回片后,团队又使用 Codex 优化运行模型的软件。优化后的 attention 和 MoE kernel 比人类专家手写实现快 1.5–1.8 倍。

 ⁠

而另一边,Anthropic 也在组建自研芯片团队。也在招聘为 Claude 开发定制芯片的人员,工作覆盖架构定义、流片和回片调试,为量产准备。

 ⁠

这里更多还是满足模型公司自己的需求,对这个领域的创业公司影响暂时相对有限。但大模型公司入场之后,也会加速各家芯片公司对 AI 芯片设计的重视程度,利于渗透的提升。

 ⁠

联手开发芯片专用模型:

 ⁠

2026 年 9 月 30 日,OpenAI 与 Synopsys 宣布合作开发 GPT-Synopsys。双方计划让模型学习直接操作 Synopsys 工具,理解工具输出,并围绕功耗、性能和面积等目标反复修改设计。OpenAI 将获得 Synopsys EDA 工具许可,用于专用模型开发。

 ⁠

合作同时双方约定收入分成,并计划将计算资源、模型和工具许可证打包提供。公告称,已经与领先半导体客户开展早期技术合作。这让客户未来可能从同一套服务中获得模型能力和 EDA 工具,减少自行集成的工作。

 ⁠

这展示了一种 EDA 商业模式的新方向:从单独提供工具许可,延伸到同时提供模型与计算服务,并可能按照 token 进行付费。这对希望自己开发芯片专用模型的公司来说形成强大的竞争压力。

 ⁠

Coding Agent 成为使用 EDA 的入口

 ⁠

从另一方面,EDA 巨头也主动向 Coding Agent 靠拢,并开放接入。2026 年 2 月,EDA 巨头 Siemens 发布 Questa One Agentic Toolkit,明确支持 Claude Code、Cursor 等编程工具。它提供 RTL 生成、验证计划和调试等功能,通过 MCP 接口连接自家的验证工具,公告时向客户提供早期接入。

 ⁠

这表明了 Coding Agent 希望成为工程师使用的工具,并接入相关的 EDA 厂商开展操作。EDA 是重要入口,但模型与 EDA 合作未必足以形成完整闭环。 EDA 提供设计、仿真和验证工具,但大量设计经验及流片反馈仍掌握在芯片公司手中。因此,要持续改进设计能力,可能还需要芯片公司的数据和实际项目参与。

 ⁠

 ⁠

05.

Chip Design Agent 公司:用 Agent 加速芯片开发

 ⁠

这类公司提供面向芯片设计的 Agent,接入客户已有的 EDA 工具,大型芯片设计公司是其重要目标客户。芯片设计公司的流程复杂,一旦出错,可能需要重新流片,增加成本并延误上市,因此通常从审慎试点开始:先检查工具能否接入现有流程,再用小模块或历史设计评估效果,通过后才扩大到真实项目。试点的规模和周期各不相同。一个典型例子是由少于十人的团队使用约四五个许可证,投入数十万美元,观察一年至一年半后再决定是否扩大使用。

 ⁠

这类公司的优势,在于深入进入客户的真实工作流程,深度绑定后建立长期壁垒。过程中积累该客户的历史问题和有效处理方法,把工程经验沉淀并 close the loop。这是帮助芯片公司 AI 提效最直接的办法,可以在特定领域中实现 RSI。而这类公司面临的挑战,除了模型公司下场竞争以外,也存在大型 EDA 厂商可能通过接口限制第三方 Agent 的风险。

 ⁠

ChipAgents

 ⁠

ChipAgents 从芯片设计与验证切入,希望让 Agent 承担工程师日常耗时的工作:读懂已有代码,按照规格完成修改,再调用仿真和验证工具检查结果、定位问题。产品接入客户已有的开发环境,处理 RTL 和设计规格,也结合验证代码、仿真日志与波形开展分析,让代码修改和验证反馈形成持续迭代的工作流。

 ⁠

公司已在 AWS Marketplace 上架 ChipAgents,同时支持在客户自己的 AWS 环境中部署,使设计 IP 保留在客户控制的基础设施内。这种 SaaS 部署方式有助于降低客户的部署门槛,推动产品推广。

 ⁠

 ⁠

在 Agent 产品之外,公司也开始开发面向芯片工程的微调模型。2026 年 6 月 17 日,ChipAgents 发布首个微调模型 Renoir,以一个开放权重的 MoE 模型为基础,训练任务覆盖 RTL 生成和规格理解,也包括调试、测试生成及工具使用。

 ⁠

根据专家访谈,公司收取的是固定费用 + token 费用的模式。以 ADI 为例,公司收取每年 500 万美元的固定费用 + token 费用。token 费用预计从低于 500 万美元上涨到 2000 万美元量级,已经约等于公司在一家传统 EDA 巨头上的花费。

 ⁠

公司创始人兼 CEO 为 William Yang Wang,是 UCSB 计算机科学教授及 NLP 研究组负责人。ChipAgents 成立之初,大部分团队成员来自 UCSB。2026 年 7 月 29 日,公司宣布新增 $6,000 万 Series A2 融资,由新投资方 B Capital 领投,Bessemer、Micron、MediaTek 和 Ericsson 等参与投资。同期公司披露,2026 年上半年 ARR 增至原来的六倍,产品已部署到超过 120 家半导体公司,包括同时也是投资方的 Micron 和 MediaTek。

 ⁠

Agentrys

 ⁠

Agentrys 由曾在 NVIDIA 主导 ChipNeMo 项目的 Mark Ren 创办。如果说 ChipNeMo 还停留在通过问答、脚本生成和缺陷总结来辅助工程师,那么 Agentrys 则更进一步:让 Agent 直接使用已有的 EDA 工具,连续完成设计任务,并根据运行结果自主调整下一步工作。

 ⁠

公司希望自动化跨越前后端的往返迭代。 芯片开发中的大量工作需要不同岗位反复配合:前端工程师完成 RTL 后,验证工程师检查功能,后端工程师运行综合与布局布线。如果最终发现频率不达标,问题往往需要返回前端解决:修改逻辑、调整流水线,再重新验证并评估物理实现结果。Agentrys 希望让 Agent 接手这段跨越代码、工具和不同工序的工作。

 ⁠

公司在 2026 年 6 月发布的 Composable Silicon 技术报告展示了这一思路。实验围绕一颗小型 CPU,并用多个 Agent 分别负责需求、RTL 电路代码、功能验证、物理设计和最终检查。

 ⁠

前端设计、功能验证和后端反复配合,提高同一个设计能效

 ⁠

在产品层面,Agentrys 允许客户围绕自己的工具、基础设施和设计数据构建 Agent。芯片公司的内部流程差异很大:同一项验证任务,可能涉及不同的脚本、代码组织方式和检查标准。可定制的平台让企业能够把这些内部经验纳入自动化流程,并通过执行记录持续积累可复用的工具使用方法和设计经验。

 ⁠

2026 年 8 月,公司宣布累计融资 $2,450 万,其中包括联发科领投的 $540 万 Pre-seed 轮,以及 Etna Labs 领投的 $1,910 万种子轮。

 ⁠

Normal Computing

 ⁠

Normal Computing 在 2022 年成立时定位为热力学计算芯片公司,主张从热力学原理出发、共同设计算法与硬件,在 2025 年 6 月完成全球首个数字 CMOS 热力学计算芯片流片,面向扩散模型推理。

 ⁠

目前公司同时开发芯片设计软件与新型计算硬件,拥有软件产品 Normal EDA ,支持本地部署,并利用客户数据对模型进行后训练。2026 年 3 月,公司披露已与全球前十大半导体公司中的过半数建立合作。

 ⁠

公司由 CEO Faris Sbahi 等人联合创立,创始团队来自 Google Brain、Google X 和 Palantir;2026 年 3 月完成 Samsung Catalyst Fund 领投的 $5,000 万战略融资,累计融资超过 $8,500 万。

 ⁠

 ⁠

06.

RL 环境公司:帮模型培养芯片设计能力

 ⁠

芯片设计的壁垒是数据,而真实的设计大多只存在各家芯片公司的内部,因此诞生了专门沉淀数据与环境的公司的机会。这类公司主要面向大模型公司的训练团队,提供芯片设计任务、可运行的 EDA 工具环境,以及判断结果好坏的评分机制。模型可以在环境中反复编写 RTL、运行验证,再根据结果修改设计。现在随着模型能力增强,许多代码题已经无法反映真实工程。因此也诞生了环境公司的机会,以可接受的成本,持续提供贴近真实工程、能够准确评分的训练任务。

 ⁠

随着 AI 芯片设计越来越受到模型公司的关注,RL 环境有望成为这一领域短期收入增长较快的方向之一,因为它们直接承接模型公司的研发预算,在模型公司也加大对芯片数据的采买的现在,这是短期内确定性最强也是增长最迅猛的一类公司。但与此同时,天花板会受到客户数量、交付成本和需求变化的共同约束。

 ⁠

Standard Machines

 ⁠

Standard Machines 由曾在 Apple GPU 架构团队工作的 Jacob Peake 创立,成立于 2026 年,参加 YC Summer 2026 批次。它面向大模型公司的强化学习、后训练和数据团队,提供芯片设计训练环境与评测。其商业定位是为模型开发者提供训练基础设施。 客户可以将模型接入环境,让它反复执行设计任务,收集执行过程与奖励信号用于训练。

 ⁠

公司认为现有评测偏向短代码题,不能代表真实工程。公司将训练任务组织成一个可以反复运行的工程循环。每个任务先规定电路要完成什么计算、如何输入输出,以及必须满足的物理约束,再由 Agent 自行选择内部结构。

 ⁠

 ⁠

Agent 在 Sandbox 中工作,工作区包含规格说明和它自己的文件,并安装了真实的 EDA 工具。它可以将有限预算用于当前设计的布局布线预览,在回合中途看到真实的面积、时序和功耗数据,从而发现时序不达标,并在最终确定架构前进行修改。

 ⁠

为了检验模型是否学会了新任务,公司按任务来源划分训练集与测试集。评测同时固定模型、工具和尝试预算,并报告成功率、失败阶段及执行成本。目前开发环境使用的是固定的开源工具流程,主要作用是在相同条件下比较不同方案。客户可以接入自己的工艺库和经过认可的工具流程。

 ⁠

创始人兼 CEO 是 Jacob Peake,曾任 Apple GPU 架构师,是 Apple GPU 架构团队的首位实习生及最年轻入职者。公司成立于 2026 年,参加 YC Summer 2026 批次。已经获得 YC、以及来自 Anthropic、OpenAI、Google 等公司的个人投资者支持。

 ⁠

Phinity Labs

 ⁠

Phinity Labs 是一家训练 AI 自主设计芯片的初创公司,目前通过为前沿模型实验室提供芯片设计训练基础设施开展业务,长期目标是让用户描述需求后,AI 自动完成从架构探索到流片的全过程。

 ⁠

Phinity 为模型实验室提供训练环境、评分系统和性能数据。自 2026 年中发布平台首版以来,他们已经与全球领先的前沿实验室建立合作,ARR 已经在短时间内到达八位数。

 ⁠

两位创始人 Sonya Jin 和 Aadi Nashikkar 在斯坦福学习计算机科学时相识。Sonya 曾为 NVIDIA 的芯片设计与代码推理模型构建合成数据管线,并在 AWS AI Lab 从事图机器学习研究;Aadi 曾任一家 YC 创业公司的联合创始人兼 CTO,后来创办的合成数据与资产平台被收购。公司于 2026 年 10 月宣布完成 $5.2M 种子轮融资,由 Uncork Capital 领投,Moxxie 和 Jeff Dean 等参与。

 ⁠

 ⁠

07.

AI Native 芯片公司:芯片设计的能力平权

 ⁠

AI 有望降低定制芯片的设计门槛,让更多拥有独特计算需求的企业获得专用硬件。 过去,自研芯片需要组建专业团队,并承担从架构开发到验证、流片的投入。只有足够大的业务规模,才能摊薄这些固定成本。随着计算支出扩大,围绕特定工作负载优化硬件的经济价值也在增加:即使效率只改善一部分,长期运行所节省的成本也可能相当可观。

 ⁠

成熟芯片公司的优势,来自多年积累的可复用 IP、经过验证的代码和工程经验。AI 则有机会加快新进入者理解代码、生成设计和处理问题的速度,让规模较小的团队也能组织更复杂的设计流程。不过,成熟芯片公司和 EDA 厂商仍然积累了大量专利、可复用 IP 和工程经验,长期验证过的设计流程很难被快速替代。业内人士普遍认为至少在未来五年,不会发生对传统 EDA 的完整替代。

 ⁠

我们认为,AI 降低设计门槛后,有望打开定制芯片的增量市场,让过去无力组建完整设计团队的企业也能拥有专用硬件。但这个领域是否能诞生颠覆传统设计流程的新公司,仍然需要长时间的检验。长期来看,芯片产业价值可能从设计服务向工具迁移。 如果客户能够承担更多设计工作,博通这类定制芯片公司的部分设计价值可能被压缩,其角色可能更多转向供应链和产能协调,但他们的 IP 和产能组织能力仍然重要。

 ⁠

Ricursive Intelligence

 ⁠

Ricursive Intelligence 是这一方向的代表之一,由 Anna Goldie 和 Azalia Mirhoseini 创立。两人曾在 Google 共同创建并领导 AlphaChip 项目,利用 RL 优化宏单元布局,并将相关方法用于实际芯片设计。

 ⁠

Ricursive 希望降低企业拥有定制芯片所需的设计门槛,这一愿景概括为从“fabless”走向“designless”:过去,企业可以将制造交给晶圆厂,但仍需组织自己的设计团队;未来,企业有机会将更完整的设计工作交给外部平台,由需求出发,得到可以进入制造环节的设计。

 ⁠

公司认为传统设计流程中的一些工具单次运行就要很久。如果 AI 每提出一个方案,都必须等待漫长的评估,那么即使模型能生成很多方案,也无法高效筛选。Ricursive 的思路是先大幅加速底层分析与优化工具,再让 AI 围绕这些工具进行反复搜索。

 ⁠

 ⁠

2025 年 12 月,公司公开亮相,宣布获得 Sequoia 领投的 $3,500 万种子轮融资,估值 $7.5 亿。2026 年 1 月,公司又完成 Lightspeed 领投的 $3 亿 A 轮融资,投后估值达到 $40 亿,参与方包括 DST Global、NVentures、Felicis 和 Sequoia,两轮累计融资 $3.35 亿。

 ⁠

Architect Labs

 ⁠

Architect Labs 是一家利用 AI 加速定制 ASIC 开发的芯片设计公司。公司认为目前的芯片设计流程封闭且割裂,局部工具提效难以根本性缩短整芯片开发周期。因此希望重建统一流程,让有工作负载需求的企业也能获得定制设计,而不必先组建完整芯片公司。

 ⁠

Architect 同时在 post-train 面向芯片设计的专用模型,为自动化流程提供底层能力。在一项研究中,公司以 Kimi-K2.5 为基础,将模型在 CVDP 的 198 道单轮 Verilog 任务上的首次通过率从 48.4% 提高至 54.5%,与同一评测环境下的 Claude Opus 4.6 持平。

 ⁠

Architect Labs 由 Ebrahim Hussain 和 Aaditya Subedi 联合创立。按官网介绍,Hussain 曾在 Stanford 从事研究,并在 Apple 和 Tesla 的芯片团队工作。创始技术成员来自 Meta AI 芯片团队、Anthropic、xAI 和 Google DeepMind 等。公司于 2026 年 6 月宣布获得 Kindred Ventures 领投的 $2,400 万种子轮融资,TQ Ventures、Race Capital 和 Together Fund 等机构参与,个人投资者包括 Jeff Dean、Srinivas Narayanan、Lukasz Kaiser 和 Aravind Srinivas 等。

 ⁠

Cognichip

 ⁠

Cognichip 以面向半导体设计的物理信息模型为核心,希望让模型学习设计逻辑与物理约束,再用于具体工程任务。目前公司以训练模型为主要目标。

 ⁠

 ⁠

2026 年 9 月 14 日,Cognichip 发布 ACI Enterprise,将专用模型与 Agent 框架、上下文及记忆管理结合,并接入设计工作流。公司披露,ACI Enterprise 已在 40 多项客户合作项目中运行,并公布了 Renesas 和 SiTime 工程的反馈,应用包括分析和改进规格、规划新功能,以及创建和验证 IP。

 ⁠

创始人兼 CEO Faraj Aalaei 此前曾领导芯片公司 Aquantia 和 Centillium。2026 年 4 月 1 日,Cognichip 宣布完成 Seligman Ventures 领投的 $6,000 万 A 轮融资,SBI Investment 参与,Mayfield、Lux Capital 等原有投资方继续加注,累计融资达到 $9,300 万。英特尔 CEO 陈立武也以个人身份参与本轮投资,并与 Seligman Ventures 管理合伙人 Umesh Padval 一同加入公司董事会。

 ⁠

⁠⁠⁠

作者卡片

编辑卡片

⁠⁠⁠

延伸阅读

深度讨论 Personal Agent:“最互联网”的 AI 命题⁠

深度讨论 Personal Agent:“最互联网”的 AI 命题

›
智能进步的复利:从 RSI 加速到持续学习⁠

智能进步的复利:从 RSI 加速到持续学习

›
线虫、多巴胺与股份公司:进化给 RSI 的启发⁠

线虫、多巴胺与股份公司:进化给 RSI 的启发

›
为什么 CPU 重新变得重要?⁠

为什么 CPU 重新变得重要?

›
和一线研究员的闭门讨论:蒸馏变难后,下一步的重点是什么?⁠

和一线研究员的闭门讨论:蒸馏变难后,下一步的重点是什么?

›

跳转微信打开

  •  

深度讨论 Personal Agent:“最互联网”的 AI 命题

原创 Best Ideas 社群 2026-10-23 17:17 北京

早期重产品,中期看模型,长期看生态

Personal Agent 是今年 Q4 最热闹的 AI 领域:Meta 的 Muse、OpenAI 的 dots、Instinct,以及 Anthropic 新推出的 Claude Duet,让大厂、AI Labs 和创业公司同台竞争。

它也是最像互联网的 AI 命题:如果用户开始把需求交给 agent,那么从用户入口、流量分配,以及交易闭环,都会被被重新组织。

不过,考虑到 Personal Agent 的单用户服务成本远高于传统互联网产品,产品或商业模式角度的也有可能会失效。

今天对 Personal Agent 的想象一定会受限于我们过去的认知和经验。参考 PC 的进化演变,从 Palm、Windows Mobile,直到 iPhone 才找到真正适合大众的移动计算体验。Personal Agent 也才刚刚开始,整个领域同样需要一个“iPhone 时刻”,即找到真正让普通人自然、持续使用的个人智能产品形态。

以下是我们对 Personal Agent 主题 Best Ideas 讨论的观点整理。

⁠/⁠

Insight 01

这一轮 Personal Agent 新在哪里?

 ⁠

1.和 Chatbot 比,“更主动、能办事”是 personal agent 的关键进步。过去的交互主要是用户提问、AI 提供信息;但连接 Gmail 等服务、获得用户背景和授权后,agent 开始有机会主动替用户处理事务。

 ⁠

2.Personal agent 与 Chatbot 的关系,可能更像推荐与搜索的关系。Personal Agent 对用户的吸引力在于主动性。Chatbot 里很多用户不知道可以让 AI 做什么,也很难把需求表达清楚。如果每次都要用户先提问,使用就会受到限制,但当 Agent 具备 proactive 的能力时就可以有效解决这个问题。

 ⁠

3.年初 OpenClaw 的爆火和 personal agent 是一条线的叙事,personal agent 最重要的进步是产品化和云端托管,解决了普通用户搭建、配置和维护的负担,更加“开箱即用”。

 ⁠

4.比如 Meta 的 Muse 其实就是把持续运行的云端环境、连接账户与服务的 connector、可重复使用的 skills,以及后台多 agent 协作放进同一个产品。用户可以直接在手机上给 Muse 交办任务,不需要先把这些部件逐一配好。

 ⁠

5.Meta AI 产品负责人 Nat Friedman 也明确提到,Muse 的产品设计从 OpenClaw 上得到了不少启发。

 ⁠

 ⁠

6.模型进步给 personal agent 带来的产品变化非常重要:模型在长任务执行、工具调用和指令遵循方面的能力进步,让 personal agent 开始变得可用,如果未来百亿、两百亿参数的模型能做好长任务,就可能给 personal agent 带来像 GPT 4o 当年那样的用户增长。

 ⁠

7.Grok Bot 和 Muse 不能 head-to-head 地对比:

 ⁠

•Grok Bot 更像一人公司(OPC)或美国小微企业的工作助理。它能操作应用、浏览网页和调用工具,替企业主或员工处理具体任务。用户还可以把 Codex 等工具接入 Grok Bot 托管的云电脑,之后只需要统一向 Grok Bot 交办任务,由它调用相应工具执行。

 ⁠

•但 personal agent ,尤其是 Muse,很明显对生活场景的优化做得更好。在一些用户的亲身体验中,Muse 处理购物、在 Facebook 上与卖家讨价还价和保险等任务时,能够在 10 分钟内完成,而其他 agent 往往要 20 至 30 分钟。

 ⁠

8.随着这两个产品的功能边界不断发生变化,两者能做的事情也有了很多重合,比如 Muse 上个月也推出了企业版,它通过在 Muse App 中加入面向 small business 的连接器和 skills,定位是能读取经营数据、跨软件执行任务的 AI 经营助手。

 ⁠

 ⁠

9.如果 personal agent 能把语音、跨端使用、主动交互和个人场景优化做好,仍能让产品用起来很不一样。

 ⁠

 ⁠

Insight 02

产品使用体感

 ⁠

10.从用户的直接使用体感来看,大家普遍在重复性、繁杂的信息处理和检索类任务上来使用 personal agent,其中,购物和个人财务类任务是最能感受到 personal agent 产品价值的场景。

 ⁠

11.“定期补货”或许是 personal agent 目前相对明确的一个场景:每周购买的生鲜杂货相近,目标明确,重复下单又费时间,完全可以交给 agent 来完成。

 ⁠

12.此外,AI 擅长的信息检索和比较也可以外化到购物体验上。比如有用户原本习惯去 Amazon 购买物品,Agent 却帮他找到了此前没考虑过的 Best Buy,最后促成了购买。

 ⁠

13.个人财务相关:例如报税、保险、产品订阅管理等。这类任务的典型特征是:流程繁琐,但因为关系到真金白银,用户之前不得不花大量时间来处理。并且在这类场景上,因为 personal agent 既能让用户节省时间,还能直接感受到的收益,因此这一场景比普通购物场景有更大的想象空间。

 ⁠

14.基于上述,站在开发者的视角,要判断一项任务是否值得交给 agent,不能只看 agent 执行任务的成本,还要比较它替用户省去多少沟通、办理手续的时间和麻烦。

 ⁠

15.前面提到的产品体验主要是针对海外市场,国内 personal agent 产品首先需要面临的是接入问题,生态的封闭、 API 生态不够成熟,让独立 agent 更难获得账户数据,替用户执行后续操作的实现度更是很大挑战。

 ⁠

16.作为典型的 To C 应用,Personal agent 的产品角色形象可能也是影响普通人是否愿意尝试 personal agent 的要素之一。Muse 更有亲近感,会让原本不熟悉 AI 的人更愿意尝试。而 Instinct 基于 iMessage 没有明确的角色形象,Grok Bot 和 ChatGPT 的 dots 的形象都偏像素或几何设计。

 ⁠

 ⁠

 ⁠

Insight 03

Personal Agent 需要自己的“iPhone 时刻”

 ⁠

17.AI 产品已经积累了庞大的用户群,ChatGPT、Claude、Gemini 等产品去重后估算可能有 6 亿日活,已经是一个相当 meaningful 的数字,而今天的头部产品例如 Facebook 大致在 20 亿 DAU。

 ⁠

18.这个趋势最直接体流量分配的改变上:当用户把需求交给 agent,由它跨平台搜索、比较并完成购买,过去受限于个人注意力和使用习惯的选择范围就可能扩大。比如用户原本只习惯在 Amazon 购物,agent 却可能找到 Best Buy 等此前未考虑的渠道。这个变化也可能压缩部分依赖信息不对称赚钱的业务。

 ⁠

19.从 Muse 的早期用户规模来看,“Facebook 级别的机会”也是可预期的:估算角度,Muse 上线一个多月后,就有了~300 万 DAU,每名日活用户每天发起 10 次以上 prompt。虽然 Meta 旗下应用的导流贡献了 ~60%—70%,但 Muse 的数据仍旧是 Personal Agent 需求验证的重要信号。

 ⁠

20.但 Personal Agent 的现实瓶颈也很明显:

 ⁠

•今天用户可能还是要用上 Muse 2-3 周,才能逐渐进入重度使用的状态;

 ⁠

•根据 Sensor Tower 的数据,在 9 月、81 个国家的 iOS 与 Android 新安装用户中,Muse 安装后第 1 天的打开率高于 ChatGPT,到第 14 天则低于 ChatGPT;

 ⁠

•其中一种可能是普通人没有那么多值得交给 personal agent 来办的事,也就是说,能长期提供邮箱、职业资料、代码仓库等背景、又不断提出高价值任务的人群有多大,仍需要讨论。

 ⁠

 ⁠

21.但 Personal Agent 类产品也已经开始在解决帮助用户“发现需求”这件事,以 Muse 为例:

 ⁠

•Muse 用 Goals 保存用户长期想完成的目标,再用 ideas 提供新的任务建议,目标是希望用户在一次任务结束后,还能找到下一件值得交办的事。

 ⁠

•有调研估算,目前只有约 10% 的交互由 agent 先发起(agent 主动发起时,多是依据用户的近期计划、到访地点或搜索记录),90% 仍由用户先发起。

 ⁠

22.当然,用户展示出来的数据未必反映真实需求。从推荐内容到主动完成实际行动,产品面临的难度更高,因此主动性的实现会是一个循序渐进的过程。

 ⁠

23.不过,仍有一类声音是质疑当下市场对 Personal Agent 的部分热度是否来自大众对个人助理的想象,而相比之下,企业里的 agent 同事或许比消费级 personal agent 更可能产生万亿美元级公司:

 ⁠

•企业有更明确的任务来源;

 ⁠

•企业的业务记录、内部沟通信息和流程中的新事项,都能给 agent 提供待处理的事;

 ⁠

•团队里只要有少数能提出有价值任务、搭建流程的人,就能带动其他成员使用,而非要求每个人都不断想出新任务。

 ⁠

24.人们往往沿着已有的产品形态想象未来:今天对 Personal AI 的想象,可能像当年尝试把 PC 搬到小屏幕上,再配上键盘和触控笔,却没有直接得到真正适合大众的移动计算体验,直到 iPhone 出现才实现这一目标。这个演进也说明,找到让普通人自然、持续使用 Personal AI 的产品形态的过程可能比预期更漫长。

 ⁠

 ⁠

25.时间窗口长带来的影响,不是对落后者会更宽容,而是让领跑者也非常煎熬:它们需要建设生态、持续留住用户,甚至在亏损中坚持投入,最终迈过拐点。

 ⁠

 ⁠

Insight 04

产品能力提升靠什么

 ⁠

模型

 ⁠

26.接下来值得关注的是,模型能否继续降低 personal agent 的使用门槛,让它像 coding agent 一样明显变得更好用。

 ⁠

27.围绕个人任务设计 benchmark,再根据表现调优模型,可以很大程度上改善 agent 处理这些任务的表现。办公场景中的 AutomationBench 就提供了一种参考:在模拟企业环境中,让 agent 通过 API 完成跨应用任务,再检查要求的操作是否真正生效。

 ⁠

左右滑动查看更多图表

 ⁠

28.Meta 的 agent 模型 Muse Wonder 就很强调 active memory 和 active focus 能力,分别对应跨对话保留重要上下文、在长任务中持续围绕目标执行。

 ⁠

29.Muse 目前还是用搜索等常规工具读取记忆,并在模型推理前按需要提供相关内容。如果这些检索和信息提供的工作已经做好,那么专门训练模型的记忆能力,还能带来什么提升?

 ⁠

Context

 ⁠

30.普通用户未必关心背后用了哪个模型,更在意产品用起来怎么样。大家开始更多地讨论产品体验,产品本身的重要性正在上升。

 ⁠

31.也有用户认为,长期来看,得到用户个人的信息比使用 SOTA 模型更重要,甚至模型会是 personal agent 里最不重要的一环。

 ⁠

•以电脑类比,换 CPU 会改变运行速度和能使用的软件,但只要原有数据和状态还在,用户仍会觉得这是自己的电脑。

 ⁠

•因此,相比 coding 工具把主要产物和项目状态留在代码仓库里,personal agent 除了要留下单次任务的结果,还需要长期保存用户资料和任务进度,并有能使用外部服务的账户和身份。

 ⁠

32.但 agent 能拿到用户的背景信息,并不等于理解了用户想要什么结果。比如有用户在 Claude Code 与 Codex 之间切换时发现,即便把原有 agent 掌握的背景信息搬过去,新 agent 仍可能不明白用户的真实需求。

 ⁠

33.即使 agent 理解了用户想要什么结果,agent 办事时仍要分清哪些动作可以自行完成,哪些必须先问用户。

 ⁠

•比如读邮件、起草回复和直接发出邮件,带来的后果是不同的。

 ⁠

•写代码可以通过运行和测试检查结果,个人事务往往没有同样明确的检查办法。如果每一步都要用户确认,用户仍得花精力盯着,如果全让 agent 自行处理,agent 又可能发错消息或作出难以撤回的承诺。

 ⁠

34.为了让 agent 做好专业任务,还有一种分工设想:由掌握个人身份、记忆、目标和权限的主 agent,按需调用编程、法律、健康或财务等专业 agent。

 ⁠

•比如在编程任务中,有开发者用 DeepSeek V4.1 Flash 驱动 Hermes,并在同一台电脑上安装 Codex CLI,在需要写代码或修 bug 时,他就会让 Hermes 先写任务单,再交给 Codex 执行。

 ⁠

35.Personal agent 早期重在产品,中期看模型,长期则看生态。

 ⁠

生态

 ⁠

36.国内国外的生态环境差异很大,而这一差异限制了国内和海外在 Personal Agent 产品体验上的差距:

 ⁠

•国内的个人信息、支付和生活服务更多集中在超级应用里,独立产品较难读取其中的个人信息。

 ⁠

•美国许多服务仍围绕 PC 网页展开,agent 通过浏览器操作网页,已经能提供不错的体验。

 ⁠

37.但即便 agent 在技术上能操作网页,平台也可能限制它接入,比如今年 9 月,Amazon 就屏蔽了 Muse,阻止它代用户购物。

 ⁠

•一种解释是,平台不愿让新入口截走用户关系和业务利益。因此,如果 agent 服务商与平台能谈妥合作后的利润分配,生态接入的阻力可能减小。

 ⁠

 ⁠

38.除了接入大平台生态,agent 也可以直接连接商家。比如瑞幸已提供 MCP 服务,支持 agent 搜索门店、选品和下单,关键环节仍需用户确认和支付。

 ⁠

39.行业也在尝试建立通用的接入协议。Meta、Sierra 正与 Instinct、Shopify、Stripe、Walmart 等公司共同开发 Personal Agent Protocol,让用户决定授予 agent 哪些权限,企业决定允许 agent 执行哪些操作。

 ⁠

 ⁠

40.不过,即便开放支付或 agent 互通协议,也不一定能解决所有接入问题。Agent 在实际执行时,仍要处理个人数据接入、账户授权,以及用户设备与云端如何配合执行任务、保护隐私等问题。

 ⁠

41.这些生态接入难题也带来一个创业设想:能否由专门的服务商帮助 agent 接入不同平台,并获得平台的数据访问授权?或许大厂和创业团队都可以尝试提供这类服务,但能否做成一门生意,还不确定。

 ⁠

 ⁠

Insight 05

成本测算

 ⁠

42.Personal agent 的成本包括模型推理、运行环境和对外身份的配置。在 personal agent 的服务成本上,不同人的估算差异较大。

 ⁠

•有从业者估计,Muse 和 Instinct 每名用户每天约需 1 至 5 美元。

 ⁠

•参考 Morgan Stanley 估算,如果用户每周用掉 5% 至 10% 的 token 额度,Muse 每月服务一名用户约需 10 至 18 美元,其中 CPU 沙箱成本约为 5 至 8 美元。

 ⁠

 ⁠

43.OpenClaw 爆火之后,一个曾尝试将 personal agent 产品化的团队,分享了当时搭建和运行产品的成本:

 ⁠

•给每个 agent 配备独立计算环境和可靠的网络身份,每名用户每月至少需要约 50 美元(不包含 token):团队最初试过 Mac Mini,觉得价格高,也难以规模化,但改用带桌面的虚拟机后发现,即使按 AWS 大客户价格,每月仍需 10 至 15 美元。按团队当时的方案,用于注册外部服务的 Gmail 账户每月还需要 14 美元,再加上电话、信用卡等身份配置,固定开支已经不低。

 ⁠

•Token 开支随模型型号和用户使用强度变化。团队早期给 personal agent 用的是当时最好的模型,测算发现,重度用户每月仅 token 就可能消耗约 1000 美元。

 ⁠

•总的来说,用户正常使用 personal agent 产品时,算上 token 和计算资源,每名用户每月约需 50 至 100 美元,这已是当时的最低量级。

 ⁠

44.除了成本,团队还遇到了规模化接入的问题:部分网站限制注册,大量 agent 所需的邮箱、电话和信用卡身份也很难规范配置。因此,增加预算并不一定就能服务更多用户。

 ⁠

45.但估算成本时要注意区分使用场景和资源配置情况:

 ⁠

•企业场景下,20 人的财务团队可以共用一台虚拟机,80 人的产研团队可以分摊两台或一台高配虚拟机。

 ⁠

•虚拟机资源还可以超卖,即分给多台虚拟机的资源总量可以超过物理机器实际拥有的资源,其中 CPU 可超卖的比例高于内存;

 ⁠

•此外,工作 agent 可能一天运行十几至二十小时,普通生活助理每天则可能只有十几次请求,因此不应该按照工作 agent 长时间运行的方式估算生活助理成本。

 ⁠

46.考虑到近期 personal agent 产品集中出现的一个原因是,更多团队已经能做出接近 SOTA 水平的模型。因此掌握自有模型和算力的厂商,还可以尝试通过蒸馏小模型,进一步控制 agent 的运行成本。

 ⁠

47.生态开放可能降低单次任务的执行成本,但更可靠的履约也可能带来更多任务。模型降价后,agent 还可以投入更多推理来发现需求,因此单位成本下降,并不意味着总 token 消耗下降。

 ⁠

48.除了当下普遍使用的云端方案,也有人提出,随着本地模型能力和运行效率提升,可以考虑把部分 agent 任务交给用户设备上的本地模型。但这个方案就会带来一个问题,到底哪些可以交给本地模型,哪些仍需调用云端模型?

 ⁠

49.模型能在本地运行,对于普通用户来说仍旧存在设备维护成本,因此面向大众的服务可能仍会以云端为主,而数据敏感或有特殊需求的人群则会选择本地方案,两者可能长期并存。

 ⁠

50.到 2027-2028 年,技术、供应链和市场供需的变化可能进一步降低本地部署门槛,让本地 agent 设备更容易推广。到那时候,这类设备或许能像企业激光打印机一样,成为可以直接采购使用的标准产品。

 ⁠

 ⁠

Insight 06

什么样的收费模式更适合 Personal Agent

 ⁠

51.AI Application 和移动互联网相比最大的区别在于边际成本。Personal agent 的单用户服务成本可能比传统互联网高 2-3 个数量级,因此,互联网商业模式有可能会失效。

 ⁠

52.订阅制是大多数 Agent 产品,尤其是生产力类产品的收费方式,但 Muse 已经提供了免费服务,因此对于 personal agent 来说,在今天的竞争环境下,短期靠消费级订阅实现增长的难度很大。

 ⁠

53.不过,订阅制虽然面临免费产品的竞争,却可能更符合个人助理替用户节省注意力的出发点。

 ⁠

54.但愿意花钱节省时间、重视办事结果的用户可能会接受按量收费,或按结果付费、收取分成:

 ⁠

•对用户:假设 agent 帮用户节省 1000 美元保险费,那么就可以从节省额中收取费用;

 ⁠

•对交易方:可以把 Instinct 这类独立 personal agent 的商业模式设想概括为“AI 携程”,帮用户对接外部服务方、完成服务购买,agent 服务商再从交易中分成。

 ⁠

•但也有人对交易分成换取收入表示质疑,因为 ChatGPT 中有明确购物等商业目的的高价值意图只占 ~5%。

 ⁠

 ⁠

备注:OpenAI 全球广告解决方案负责人 David Dugan 于 2026 年 6 月公开表示,约 20% 的 ChatGPT 查询具有“直接商业意图”(direct commercial intent)。

 ⁠

以 Muse 为例:免费服务怎样回本?

 ⁠

55.Muse 免费提供生活助理服务,对普通人很有吸引力,有用户甚至把 Muse 的出现比作当年 Gmail 的推出:普通人原本难以长期负担的个人助理服务,有机会成为日常生活的一部分。

 ⁠

56.不过,Muse 能否长期提供免费服务,还要看它能找到怎样的收入来源。有观点看好通过 Muse Feed 获得广告收入,因为用户使用生活助理时,可能会更愿意接受广告和商业推荐。相比之下,用户用 ChatGPT、Claude 处理工作时,会很反感回答里插入商业推荐。

 ⁠

57.但如前文所说,如果 Muse 服务一名用户每月至少需要 10 至 20 美元,那么即使 Muse 做到 Meta 其他成熟应用的单用户收入水平,也可能覆盖不了成本。

 ⁠

•Meta 2026 年 Q2 财报显示,Meta 旗下应用的 ARPP(每人平均季度收入)为 16.86 美元,折合每月约 5.62 美元,其中包括 Facebook、Instagram 等应用的广告及其他收入。

 ⁠

•因此,Muse 或许应该先把每名用户的月服务成本再降一个数量级,降到约 1 至 2 美元,让收入先覆盖成本,再进行模型和产品改进。

 ⁠

 ⁠

58.也有人认为,用户交给 Muse 的任务能更直接地反映用户需求,如果这些信息能帮助 Meta 增加现有广告业务的收入,就可以用新增收入补贴 Muse 的服务成本。

 ⁠

备注:Meta 在发布 Muse 的 blog 中公开承诺,Muse 不会把用户对话及虚拟机中的数据共享给广告系统。

 ⁠

 ⁠

Insight 07

谁有优势:大厂、AI Labs,还是独立团队?

 ⁠

大厂

 ⁠

Meta & Google

 ⁠

59.Meta 和 Google 被看好,首先来自于他们在身份认证、基础模型、用户基数等优势,更为重要的还是二者的算力储备:在 Personal Agent 竞争下,只有拥有充分算力资源厂商才能持续提供免费服务、获取用户。

 ⁠

60.公司品牌会影响用户是否愿意连接账户,比如一位 Muse 的使用者就表示,相比 Instinct,他更愿意把账户权限交给 Meta。

 ⁠

61.Google 的优势首先来自 Gmail:海外许多正式事务都是通过邮件处理,邮箱既保留历史往来,也可以给 personal agent 不断带来新任务。

 ⁠

62.Pixel 和 Android 也让 Google 拥有了设备层入口,能从硬件到软件一体化优化用户体验,而不只依靠与手机厂商的软件合作。

 ⁠

63.不过,Google 会投入多少资源做 personal agent,还取决于业务重点和算力分配:

 ⁠

•Google 的外部客户、搜索推荐、DeepMind 和云业务都在占用算力,消费级 agent 的优先级较低;

 ⁠

•但搜索本来就是 agent 完成任务的一步,因此 personal agent 其实与 Google 搜索主业关系紧密,如果未来算力供给增加,Google 可能会提高 personal agent 的优先级;

 ⁠

Apple

 ⁠

64.以 iPhone 为代表的智能手机是真正的大众级个人计算设备,持续承载着用户的日程、位置、沟通和服务记录。因此,Apple 等设备平台在 Personal Agent 竞争中的角色不能被忽视。

 ⁠

65.中立的平台角色也是 Apple 的优势:

 ⁠

•作为平台方,它可能更容易协调开发者和服务商,让 agent 能够接入更多服务,服务商也可能更愿意合作;

 ⁠

•Apple 的封闭生态也让 Apple 更有能力要求开发者按统一规则向 agent 开放服务。

 ⁠

•相比之下,Google 自己经营应用和服务,与部分合作方存在竞争,因此合作方可能不愿把用户入口交给它;而 Android 生态又更开放,Google 也更难统一要求开发者配合。

 ⁠

66.但 OS 权限是否有不可替代的作用,仍有争论。也有人认为,Apple 和现有手机、设备厂商不会成为 personal agent 最重要的玩家,因为目前还不存在只有拿到 OS 权限才能完成、而云端 agent 做不了的任务。而且,app 只是用户使用 agent 的当前入口。如果未来 agent 能主动替用户办事,用户也不再需要通过某个固定的 app 使用它,那么现有 app 和设备入口的重要性就可能下降。

 ⁠

•针对这一观点,有人补充表示,少数身份核验场景仍依赖实体设备:某些验证需要在特定时间、地点通过实体设备完成,有些网站登录则要用前置摄像头扫脸或后置摄像头扫码,这是云端 agent 无法完成的任务。

 ⁠

OpenAI

 ⁠

67.OpenAI 和互联网大厂一样拥有庞大的用户基础和前沿模型,虽然现在 dots 的交互体验并不是最好的。

 ⁠

独立团队

 ⁠

68.更看好独立团队的人认为,创业团队做产品的动力来自自己想把这件事做好,大厂可能只是看到商业机会后跟进。在这一派看来,personal agent 的产品形态还会变化,团队需要持续投入、作出产品选择,最初为什么想做这件事就很重要。

 ⁠

69.对小团队从哪里切入,也有不同设想。

 ⁠

•设想一:专业需求已经能由在垂类工具上加 AI 功能来满足,没有必要再做一个垂直 personal agent。

 ⁠

•设想二:personal agent 可以与硬件结合,硬件作为了解用户情况、让用户接触并使用产品的媒介,或许可以在教育、健康等领域提供独特用户体验。

 ⁠

⁠⁠⁠

延伸阅读

智能进步的复利:从 RSI 加速到持续学习⁠

智能进步的复利:从 RSI 加速到持续学习

›
线虫、多巴胺与股份公司:进化给 RSI 的启发⁠

线虫、多巴胺与股份公司:进化给 RSI 的启发

›
为什么 CPU 重新变得重要?⁠

为什么 CPU 重新变得重要?

›
和一线研究员的闭门讨论:蒸馏变难后,下一步的重点是什么?⁠

和一线研究员的闭门讨论:蒸馏变难后,下一步的重点是什么?

›
Latent Labs:Alphafold 3 发布两年,AI 药物设计进展到了哪一步?⁠

Latent Labs:Alphafold 3 发布两年,AI 药物设计进展到了哪一步?

›

跳转微信打开

  •  

智能进步的复利:从 RSI 加速到持续学习

原创 Cage、Penny 2026-10-20 17:00 北京

当 AI 开始创造下一代智能

作者:Cage、Penny

⁠/⁠

01.

Key Takeaways

 ⁠

•RSI 范式已经在发生了,模型的自我训练和自我迭代在硅谷 frontier labs 中体感明显。我们对 RSI 的定义是:AI 可以参与到模型训练的每一个环节中。随着 compute 增加,使智能产生同等程度进步所需的 researcher 数量不再同比例增长,而是开始下降。

• 继年初 opus 4.6 带来的推背感之后,我们在硅谷再次感受到 RSI 加速的震动。coding 进步没有放缓,synthetic data 和 infra 优化大大受益于 RSI,研究员的工作不再需要理解代码,更多在于提出假设,理解需求和想办法 validate 模型产生的结果。Lilian Weng 回到 OpenAI 之后也在 RSI 上投入了大量精力。

 ⁠

•RSI 与持续学习是在解决两个不同的问题,甚至可能有了 RSI,持续学习才能真正解决。RSI 让生产智能的过程更加自动化、close the loop;持续学习让 AI 可以自己在交互中学习积累能力,学会利用真实工作零散、常常没有标准答案的经验。

 ⁠

•实现 continual learning 大概率需要一次范式跳变。我们对持续学习的定义是:一个系统在 interaction experience 中能把新的知识和 entropy,转化为能够泛化到各种任务上的能力提升。

 ⁠

•两者都受制于好的 verifiable 环境。coding agent 让生成任务和模拟环境越来越容易,但是怎么判断任务的效果,正在成为更关键的约束。一件事情只有 AI 掌握了好的 taste 去验证和证伪,怎么去对于任务设计好的 verify 和 falsify 方法,才算是真正 close the loop。

 ⁠

•这会同时改变算力需求和产品形态。RSI 会让 AI 的进步完全受 bottleneck by compute 的物理约束;持续学习会训练和推理的分工边界会变模糊,持续进步的 AI 也会比现在的 API 更加有极致的个性化和用户粘性。

• RSI 也会拉大中美两地模型的差距,算力和模型迭代速度两者叠加,frontier labs 的模型进步会更快。RSI 可能是 frontier labs 最终实现护城河的飞轮。

 ⁠

Personalization × Self-evolution Matrix

 ⁠

在我们讨论 RSI 和持续学习的时候,有这样两个维度是最核心的,可以用来区分这两个定义的差别:

 ⁠

•Adaptation:AI 能不能围绕特定的任务或环境,来进行个性化的学习。

 ⁠

•Self-evolution :AI 能不能 close the loop,自己训练更好的 AI

 ⁠

在这个思考框架下,传统的 LLM 范式,foundation model 隔代升级、定期 release 被放在了左下角。而现在 的 frontier labs 训练方式正在变得越来越自动化、工业化,也正是在从左下角走向左上角的过程中。

 ⁠

而从个性化的角度思考,现在的 Chatbot/ Personal Agent 都是在用 memory file 的形式,用 markdown 等结构化文件系统存下用户的个性化记忆,在对话相关的地方去回忆,类似一个随身带着笔记本的人。

 ⁠

持续学习则是右上角两个维度的交汇点,同时具有 self-evolve 的持续进步和个性化 adaptation 能力。

 ⁠

 ⁠

公司 Mapping:从矩阵到产业切入点

 ⁠

本文后续的核心内容,主要围绕 RSI 目前的进度与下一步展开,然后后续持续学习需要实现的核心技术路线。因此不会涉及太多对具体公司的判断,但我们确实观察到这两个方向上都出现了很多 Neolab。

 ⁠

随着该领域涌现出大量的 startup,我们希望先在此分享这些 startup 的分类与 mapping 思路。总的来说,主要分为三大类:

 ⁠

1.RSI:AI 研究自动化

 ⁠

这是 RSI 愿景的直接体现。其中又可以细分为两类:

 ⁠

(a)训练平台:企业可以在其平台上通过 API 或 RL fine-tuning 等方式训练个性化模型。因此这类创业公司的产品将 RSI 搭建成平台,让企业更容易地完成模型训练。代表公司如拥有 Tinker 平台的 Thinking Machine。

 ⁠

(b)偏向 RSI 本身的研究:目标是在 AI 以及其他领域实现 close loop 的闭环任务。代表公司如 Jeff Dean 出来创业做的 Discover Loop。

 ⁠

2.Continual Learning:新范式突破

 ⁠

在这个分类中,我们认为前沿模型公司仍有很大的作为空间。例如 OpenAI 和 Anthropic 内部大概率已经部分实现了 RSI,而持续学习和算法效率的提升可能是他们下一个最关心的问题。

 ⁠

此外,也有很多 visionary 的 researcher 创业在探索学习与新范式方向。我们认为这类探索的赔率更高,但客观来说胜率更低:

 ⁠

探索下一代范式更像是一个 research bet,是在解决一个 science 问题。不确定性会高得多。甚至有可能在现有范式下 frontier lab 用 RSI 就解决了持续学习问题。

 ⁠

3.Domain Loops:在垂直领域内闭环

 ⁠

越接近真实世界,实验通常越贵、越慢,也越难复制。因此,RSI 能否带来复利,最终取决于系统能否从每一轮反馈中学到更多。这里列出的是各垂直领域中相对更 AI-native 的团队:

 ⁠

•在 science 领域,主要的代表方向是 science discovery agent 和自动化实验室(automated lab)类的公司。

 ⁠

•在 chip design 与材料发现领域,一些团队致力于直接打造终端产品,另一些则是为了在过程中沉淀数据与 RL 环境,以解决现实世界的瓶颈问题。

 ⁠

对于这些细分领域,我们后续也会对每个领域发布研究 mapping 分享给大家。

 ⁠

 ⁠

 ⁠

02.

State of RSI

 ⁠

初级 RSI 已经实现:实验自动化

 ⁠

初级 self improvement 更接近模型训练的 automation,从去年年底 coding 能力大幅提升后开始加速,把现有的 pre-training,post-training,RL,全部用 AI 替代。现在在 frontier labs 中,越来越多任务可以由 Agent 完成闭环。一个 researcher,可以同时推进多个问题,把更多精力用在选择方向、设计验证和判断结果上。

 ⁠

RSI 并不需要完全没人参与,更实际的定义是,deliver 单位智能需要的 researcher 数量,不需要随 compute scale。模型的提升 scale compute 和 intelligence,但不 scale people。

 ⁠

这点反应在 OpenAI 在 2026 年 9 月公布的内部数据上:每位活跃实验人员的实验量,在 8 月达到 2025 年均值的约 1.6 倍。考虑到 OpenAI 的员工增长数应该是比算力增长来的快的,researcher 们正在把更复杂、时间跨度更长的任务交给 Agent。

 ⁠

 ⁠

从算力看,这种变化包含两个不同的量:每位研究员能管理多少 GPU 小时,以及每个 GPU 小时能产生多少有效成果。自动化肯定让前面这一项提高了,让更多假设进入实验;但要让后者提高,需要评估和研究方法进一步改善。真正的 RSI,最终要把更大的实验规模转化为更强的研究能力,让模型产生迭代速度明显指数级增加的复利。

 ⁠

Karpathy 的 autoresearch 展示了闭环的具体做法:Agent 修改训练代码,在单 GPU、每次五分钟的训练预算内运行,用固定评估决定保留还是撤销改动,然后进入下一轮。人负责研究指令与边界,Agent 连续执行。五分钟指训练时间,不含启动、编译和 Agent 推理。

 ⁠

AI agent 读取当前训练代码和实验记录 → 训练代码修改 → 固定的计算 budget 下,做实验与评估 → 保留或撤销 → 下一轮实验。

 ⁠

Infra 也因此在变化:训练系统除了方便 researcher 使用,还要让 Agent 能操作、观察和纠错。可调用的训练接口、可复现环境和独立评估,决定一名研究员能同时管理多少条这样的闭环。

 ⁠

研究瓶颈

 ⁠

初级 RSI 实现之后,最稀缺的工作变成了这些:

 ⁠

•规模迁移。小模型上的 optimizer、数据配比或架构改动,能否在前沿训练中继续有效?从简单任务到复杂任务的迁移和泛化,是现在 自动化实验最主要的瓶颈。Anthropic 的自动 alignment 研究已经开始自动设计并迭代,但最优方法移到 Claude Sonnet 4 生产训练时,没有取得统计显著改善。便宜实验筛出的候选,仍需要一定程度的 human in the loop。

 ⁠

•好的 verifiable environment。需要好的环境和 verifier,来为模型提供反复尝试和学习的任务。科学上,Scalable oversight 要解决的是:当任务多到人无法逐项检查、难到监督者不能直接判断时,怎样仍然给出可靠反馈。工程上,生成 verifier 还要平衡质量与效率。一种实用做法是让 agent 生成正确变体和错误干扰项,检查 verifier 能否区分。

 ⁠

•从真实轨迹构建环境:有些开源环境和 benchmark 围绕修复一个 issue 这样的单轮任务构建。真实工作却是连续的任务序列,文件、运行环境和用户目标都在变化。从真实轨迹重建环境,可以让训练更贴近这些工作序列和状态。这里又有三类难点需要解决:

 ⁠

1.文件与运行环境。从轨迹中尽可能恢复文件内容,拼接文件树,再让 agent 补齐和修复缺失部分;同时恢复语言、依赖和构建配置,让环境真正跑起来。

 ⁠

2.任务边界。从模糊的用户 query 中识别任务区间,比如把“继续”这样的请求还原为目标清楚、上下文完整的任务。

 ⁠

3.任务验证。原始回复往往不是最优答案。Verifier 应根据模型行为和真实状态变化判断任务是否完成,避免把复现原回复当成成功。

 ⁠

•研究判断中的 taste 与资源分配。哪些问题值得做,哪些实验应该加计算资源,何时该放弃?这些决定缺少现成的短期分数,却决定了实验最终能否留下有价值的发现。Anthropic 对内部研究工作的观察也指出,执行自动化越多,研究方向和 human in the loop 越重要。

 ⁠

RSI 接下来的进展,会来自这些环节一起改善:实验能自主推进,结果能被 scalable verified,再进入下一轮实验和上线,做到真正的 close the loop。但也会有很多与现实世界关系比较大的领域大部分领域可能很难有好的 verifiable environment。

 ⁠

垂直领域的 RSI

 ⁠

除了模型训练和 coding 之外,RSI 很难直接 close the loop。因此我们倾向于一个渐进的顺序:先在 frontier lab 内部形成闭环;再进入目标更明确、反馈更可验证的垂直领域。AI for Science 和 robotics 已经开始在找一些局部闭环,这也能让前面关于 verifiable environment 的讨论变得更具体。

 ⁠

AI for Science:

 ⁠

Anthropic 最近的蛋白设计工作调用了类似 AlphaFold 的专用模型、自动提交实验和分析实验结果,串起来作为一条成熟的工作流。

 ⁠

下一步,就是 Agent 能反过来改进自己的科研工具。Anthropic 让 Claude 优化了 30 多个开源生物分子模型的推理代码和 GPU kernels,再结合更简洁的 prompt、harness 与新版模型。他们提到,做同样水平蛋白设计,使用的 GPU 小时数已经是优化前开源模型的 1/100。

 ⁠

Phylo 发布的 Biomni × TusoAI 也展示了科学模型研发的自动化。Agent 搜索数据和代码,检索文献、改写方法、训练并评估候选。它在一周内测试了 500 个候选,得到结合多源 gene embeddings、回归与 kNN 的基因扰动预测方法。

 ⁠

随着计算环节变便宜,瓶颈会更集中到真实实验反馈的质量与速度。下一步的垂直 RSI,要让系统从有噪声的结果中提炼可信信号,建立新的 assay,并据此改进下一轮的实验选择、工具和模型。这需要科研 taste 和实验自动化的进一步发展。

 ⁠

Robotics:

 ⁠

模型已经不只是接入机器人,也在改进机器人的 policy。Anthropic 的 Project Fetch 第二阶段里,Opus 4.7 完成五项接入与编程任务平均用了 12 分 7 秒,上一轮使用 Claude 辅助的人类团队用了 264 分钟。这个对照显示 coding 能力正在显著压缩机器人研发中的软件工作。

 ⁠

NVIDIA、Stanford 和 UT Austin 的 RoboTTT 则是在优化机器人边做任务边学习的能力:把 fast weights 接入 VLA policy,压缩视觉与动作历史,在执行中吸收刚发生的经验。论文展示了 8K 时间步的 context、单次人类视频示范适应,以及长程装配中的在线纠错,并观察到训练 context 变长时性能持续改善。这让 context length 成为机器人 policy 的一个新 scaling axis。

 ⁠

 ⁠

03.

持续学习:定义与关键问题

 ⁠

continual learning 的目标更接近学习的本质,要在 experience 中快速转化为 capability 的提升。因此不仅能做 auto research & training,还能做现在大家没在做的东西。比如要解决 data efficiency 不够高,记忆和遗忘机制不够好等问题,就需要更底层的 continual learning。

 ⁠

continual learning 的核心机制分两步:

 ⁠

•第一步,怎样获得新的 entropy。在系统和环境中获取新问题,新思路,新 tool。Entropy 可能来自用户和环境,也可能由模型自己产生。

 ⁠

•第二步,怎样把 entropy 转换成 learning,把新的数据变成自己能力的一部分。

 ⁠

这个机制的关键是,AI 得到一个新经历,能立刻转化成 knowledge 就是实现了 continual learning。如果需要先把所有经历收集起来,过一段时间再统一训练,就还是已有范式。

 ⁠

在这个能力下,我们也可以对持续学习的范围进行进一步的分级。其中第一级的实现是现在最重要的目标,让一个任务能够在 long context window 中持续学到信号并且越做越好,这个是当前范式很难实现的。

 ⁠

 ⁠

持续学习范式的核心问题

 ⁠

 ⁠

最大难点:Sample efficiency

 ⁠

软件测试通常可以恢复环境、并行重跑,reward 是很密集,很快得到的。这种环境可以被定义为 grindability,能够切得很碎并且并行的得到 reward 甚至是 process reward,环境能够低成本、并行、可重置地反复尝试。但物理世界工作是没有办法这样 grindable 且 verifiable 的,因此需要在更少的样本点中学习到关键经验。

 ⁠

因此样本效率会是 continual learning 中最关键的难点:环境越难复制,越要从每次真实经验中学到更多。

 ⁠

 ⁠

04.

持续学习的技术路线

 ⁠

 ⁠

其中 TTT 和 lora 主要解决的是记忆机制和个性化问题,meta-learning 主要解决的是学习机制和 sample efficiency 问题。

 ⁠

TTT / fast weights

 ⁠

Test-time training 这条路线带来了三个重要变化:第一,模型拥有可在线更新的 fast weights;第二,learning 和 inference 可以同时发生;第三,memory 可以相对 context length 保持 O(1)的计算复杂度。

 ⁠

TTT 在模型的最后几层 hidden state 本身设计成可学习的模型,让模型不再是完全的 frozen weights。fast weights 可以压缩很长的任务信息,但系统必须选择哪些内容值得保留。

 ⁠

2025 年底到 2026 年的工作开始尝试把 TTT 接入标准 Transformer,test-time learning 可能是一种新 architecture,也可能慢慢变成现有模型可插拔的 capability。

 ⁠

这一方向有多个工作在沿着不同方向探索:

 ⁠

•TTT-E2E 在 sliding-window Transformer 上做 test-time 更新,并在训练时学习适合更新的初始化,让现有架构更善于从长上下文中学习。

 ⁠

•In-Place TTT 把现有 MLP 的输出投影矩阵用作 fast weights,在原有 Transformer 内部引入在线更新。

 ⁠

•REFINE 用 next-sequence prediction 和序列级奖励训练 fast weights,改善模型对长距离信息的保留。

 ⁠

•Falcon 从在线学习的角度设计 fast-weight attention,探索归一化 delta rule 和滑动窗口更新,提高固定大小关联状态的写入效率。

 ⁠

TTT 现在还没有 scale up,接下来要 scale 的关键可能是数据。训练序列需要覆盖不同更新频率,并利用长 trajectory 和后续结果,让模型学会哪些经验值得写入、如何控制干扰与遗忘,以及哪些状态应跨 session 保留。

 ⁠

Adapters/ multi LoRA

 ⁠

LoRA 已经成为 online adaptation 最常见的方法之一,这个思路冻结底座,只训练较小的低秩参数。更广义的模块化更新还包括 adapters、sparse memory layers 等。

 ⁠

Thinking Machines 的 Tinker、Trajectory、River 还有 Fireworks 都已把 LoRA / Multi-LoRA 用于训练或服务。LoRA 可以成为可持久保存的局部状态:用户、项目或领域的经验留在各自的 adapter 中,再按任务选择或组合使用。

 ⁠

这些方法兼容现有 Transformer infra,无需复制或更新全部 weights,也方便分别训练和部署。

 ⁠

模块化路线的核心价值是控制 stability–plasticity tradeoff:把局部 learning 限制在可路由、可删除的 parameter space,降低一次更新破坏整个 base model 的风险。一个可能的 hierarchy 是:fast weights / task-local LoRA 保存短期跨 session 状态,slower adapter 固化稳定 skill,base weights 只吸收跨用户反复验证的通用能力。

 ⁠

这类主要解决个性化与成本,但不会直接带来学习规则,因此很可能未来是和其他方法并存的。模块化路线的核心价值是控制 stability–plasticity tradeoff:把局部 learning 限制在可路由、可删除的 parameter space,降低一次更新破坏整个 base model 的风险。一个可能的 hierarchy 是:

 ⁠

•fast weights / task-local LoRA 保存短期跨 session 状态

 ⁠

•slower adapter 固化稳定 skill

 ⁠

•base weights 只吸收跨用户反复验证的通用能力。

 ⁠

Multi-LoRA 的核心挑战是把可以训练和使用的 adapter 数量 scale up。每个 adapter 的训练和更新必须足够轻量、高效,系统还要做好并发训练、路由和 serving,才能让大量用户与项目拥有持续积累的专有状态。

 ⁠

Meta-learning

 ⁠

SSI 最近 leak 出的消息是在这个方向上有了比较明确的突破。Meta-learning 把模型如何“学会如何学习”也变成训练对象:什么初始化更容易适应和泛化、哪些层应该更新、更新多少,以及什么信息值得留下。它直接瞄准学习效率和记忆管理。

 ⁠

Nested Learning / Hope 把模型看成多个嵌套、不同更新频率的 optimization loop:快模块适应当前 context,慢模块保存更稳定的 knowledge。TTT-E2E 也采用了类似思想,在 pre-training 中 meta-learn 模型,使其在 deployment 时更容易通过 next-token prediction 更新。

 ⁠

2026 年开始有 SCoL 等研究让模型根据当前 context 生成自己的 update instruction,决定哪些 Transformer layers 应该被更新,再用 meta-RL 在连续 experience stream 上训练这个学习策略。

 ⁠

Meta learning 方向其实对应了 TTT 尚未解决的问题:不是所有 fast-weight update 都应该永久保留;系统需要一个 learned gate,决定哪些 experience 值得进入长期记忆也就是 long-term weights。在很早的访谈中 Ilya Sutskever 就把类似能力指向内部 value / steering system:人不需要为每个新任务重新设计 verifier,也能判断尝试是否有价值。

 ⁠

这条路线最有价值的目标,是让系统在陌生任务中也能用少量经验作出合适更新,有不少 researcher 和高价值任务上的科学家都会都发现现在的模型更像是在熟悉分布上学会一套固定方法/ skill。

 ⁠

Self-distillation 和 on-policy learning

 ⁠

最近对 OPSD(on-policy self-distillation)这个方法讨论开始变多,这个是 CL 的学习部分很有潜力的一类算法。这个方法的核心思路是怎么把一个任务 session 中的核心信息,蒸馏回模型中获得能力 improvement。

 ⁠

传统 distillation 会保留一个冻结的 teacher checkpoint,让 student model 模仿 teacher,以减少旧能力流失。这个方法现在还常用在让一个小模型学到大模型的能力和行为,但其实本质是对某种更强能力的学习,因此在持续学习上也会很有用。

 ⁠

continual learning 的关键是新训练信号与模型当前 policy 的距离。on-policy distillation 则试图在不依赖显式 reward function 的情况下,获得类似 online RL 的稳定性。

 ⁠

在 OPSD 方法下,把经历过完整 session 的“veteran”模型蒸馏回 base student。Teacher / student 的 token distribution difference 能提供比终局 reward 更稠密的信号;trajectory-refined distillation 则从 student 自己犯错后的状态继续指导,减少 teacher forcing 的 distribution shift。

 ⁠

模型架构创新是必须的吗

 ⁠

有 top researcher 认为,continual learning 不一定需要额外的架构创新:一条全新架构从设计到 scale 需要多年,智能增长更可能先来自可长期积累的优化目标与 feedback loop。

 ⁠

Dario 在播客中也做过一些讨论:在 coding 等可外部化领域,现有 Transformer、长 context、RL 与工具系统可能已经足以覆盖大量经济价值,CL 不是必须条件。这从他们做 skills 之类的生态系统也能看出他们的想法。

 ⁠

另一派 researcher 认为,Transformer 并不适合承担真正的 continual learning:

 ⁠

•Transformer 的 attention 做 retrieve 本质是 shallow pattern matching,通过关键词匹配找前面类似的问题,把答案 copy 过来,非常浅。

 ⁠

•更深的学习应该是,把前面 100 道数学题 compress,提取核心数学逻辑,再用逻辑解决新问题。这是预训练好的原因——通过 compression 提取共用逻辑变成参数。

 ⁠

Sutton 的版本比较根本:当前 LLM 从人类 data 学 imitation,而不是在持续 sensation–action–reward stream 中学习 transition model,现有 gradient descent 也没有保证 good generalization 的机制。

 ⁠

Dwarkesh 的观点处在两者之间:他接受现有模型缺少高吞吐 experience learning,但不认为 imitation learning 与 experience learning 必须二选一。LLM 可以作为强 prior,再通过其他机制 比如 self-distillation 逐渐去逼近 CL 这个目标。

 ⁠

Transformer 之外:RNN、SSM 与混合架构

 ⁠

RNN:用紧凑状态保存历史。RWKV、xLSTM 等路线的优点是长序列推理时不必保留不断增长的完整历史。缺点是有限 state 会丢失细节,精确回忆大量信息更难。要大规模替代 attention,还需要在复杂任务上证明综合能力,并把能够 scale up 模型有更强的 agentic 能力

 ⁠

SSM:让状态更新更高效。Mamba 用结构化状态和输入相关的选择机制,控制信息的写入与遗忘,适合高效处理长序列。但压缩记忆与精确检索仍有取舍。专用算子可以提高效率,真正换掉成熟的 Transformer 系统,还需要在大规模训练中证明综合收益。

 ⁠

混合架构:更接近 attention ,保留了的长处。比如 Qwen3-Next 就把 Gated DeltaNet 与 attention 结合,用递归记忆降低成本,同时保留对细节的访问。代价是仍有 attention cache,系统也更复杂。

 ⁠

因此目前更合理的是三种假设由弱到强:

 ⁠

1.现有范式:更长 context、更强的智能下,准备好对持续学习的数据,足以覆盖大部分需求;

 ⁠

2.Learning-rule hypothesis:Transformer 还在,但需要 meta-learned fast / slow update、distillation 和 memory gate 等算法上的创新来实现持续学习

 ⁠

3.Architecture hypothesis:必须从底层设计可持续更新的模型架构 和 optimization dynamics。

 ⁠

总的来说,RSI 已经在提高智能研发的效率,持续学习则有望让真实使用成为能力增长的来源。这两个飞轮会相互强化:自动化研究帮助我们找到更好的学习方法,更善于学习的模型再加速下一轮研究。

 ⁠

后面的突破,要看模型如何从少量经验中学习到真正的能力提升,以及这是否是当前技术路线可以实现的。这也是我们认为模型真正能长期优势的 flywheel:谁能持续提高经验转化为能力的效率,谁就有让智能的增长斜率保持陡峭。

⁠⁠⁠

作者卡片

作者卡片

⁠⁠⁠

延伸阅读

线虫、多巴胺与股份公司:进化给 RSI 的启发⁠

线虫、多巴胺与股份公司:进化给 RSI 的启发

›

为什么 CPU 重新变得重要?⁠

为什么 CPU 重新变得重要?

›

和一线研究员的闭门讨论:蒸馏变难后,下一步的重点是什么?⁠

和一线研究员的闭门讨论:蒸馏变难后,下一步的重点是什么?

›

Latent Labs:Alphafold 3 发布两年,AI 药物设计进展到了哪一步?⁠

Latent Labs:Alphafold 3 发布两年,AI 药物设计进展到了哪一步?

›

Astra 的 Computer Use 能力是如何实现的?⁠

Astra 的 Computer Use 能力是如何实现的?

›

跳转微信打开

  •  

线虫、多巴胺与股份公司:进化给 RSI 的启发

原创 Celia、Siqi 2026-10-19 20:00 北京

通往 RSI 的路上,我们为什么重读进化史?

作者:Celia

编辑:Siqi  ⁠

25 年底,Dwarkesh 曾经问 Ilya,你是 AI 领域公认 research taste 最好的人,这种 taste 到底来自于什么?

 ⁠

Ilya 的回答是,这来自于对人脑的长期琢磨。对他来说,最好的想法往往同时满足两个条件:一是它是否从生物机制中得到了恰当的启发,二是它是否足够简单、优雅。这两者往往决定了它能不能触及更底层更通用的规律。

 ⁠

一个有意思的点是,最近我们和 AI researcher 聊天,好几个人都提到,自己又回头看了 Ilya 的一些访谈,越品越有味道。一方面,SSI 已经做出一些技术突破,开始进入 scaling 阶段,另一方面,关于 continual learning 等新范式的讨论,正重新回到话题中心。大家都想找些线索:一个多次判断对方向的人,究竟是怎么思考问题的。

 ⁠

这篇文章,我们就想沿着 Ilya 的这种生物视角,梳理一下进化中那些底层而优雅的机制,以及它们和 AI 之间的奇妙联系,比如:

 ⁠

1.生物智能的进化史上有哪 5 次突破?这和 AI 有哪些呼应?

 ⁠

2.Ilya 等几位最顶尖的 researcher,为什么都在重新思考 value function?它会通向 AI 的下一个范式吗?

 ⁠

3.人类几万年的合作史,能给 AI alignment 哪些启发?

 ⁠

这可能是海外独角兽历史上最务虚的一篇内容。主要讲的是几亿年的大脑演化和几万年的人类合作史,主角是线虫、鱼、老鼠和黑猩猩。

 ⁠

他们或许最后给不了 AI 什么直接指导,但生物机制本身已经足够有趣和迷人了,就像难得有机会从飞机舷窗俯瞰整座城市,我们得以在浩瀚的可能性中重新理解我们自身。

⁠/⁠

01.

Intro

 ⁠

我们先退后一步,思考一个宏大的问题:如果把进化想象成一位做了几亿年实验的 researcher,它到底在优化什么?

 ⁠

答案和今天 frontier labs 在做的事惊人地相似。

 ⁠

Frontier labs 眼下的工作可以归为两条主线:一是提升 intelligence,尤其是通过 RSI,让 AI 加速改进 AI;二是提升 alignment,让越来越强大的 AI,目标始终和人类对齐。

 ⁠

前者是一个确定性的现实。今年 5 月,Anthropic 联创 Jack Clark 给出的估计是:RSI 有六成概率在 2028 年底前出现,就在前几天,他又把这个时间点提前了一年,认为 full RSI 更可能在 27 年就完全实现,而不是 28 年。后者是未来最大的挑战。OpenAI 首席科学家 Jakub 的判断是,alignment 的进展可能追不上智能的进展。随着自我改进不断加速,瓶颈会从算力和数据,转向安全。

 ⁠

有意思的是,生物的进化也有两个方向,和这两条主线几乎可以一一对应。

 ⁠

进化史学者 John Stewart 在 Evolution's Arrow 里追问过一个根本性的问题:跨越所有物种、所有环境,有没有哪个方向,进化始终在奖励?

 ⁠

答案有且只有两个:

 ⁠

1.更高效地发现新的适应方式;

 ⁠

2.更大范围的结盟与合作。

 ⁠

前者可以简单理解为 intelligence 或者 RSI,也就是进化奖励的不是某个具体的解法,而是找到解法的能力本身。生物有了更好的通用能力来对外界进行建模、预测,从而适应和改造环境。

 ⁠

后者则很像 alignment。在生命史中有一个反复出现的模式:原本各自为战的单元,逐步融合成更大的协作体。分子聚成细胞,细胞组成多细胞生物,个体结成社会与文明。每一次跃迁,都要先解决一个问题:怎么让局部的目标和整体的目标对齐,同时保留一定的局部自主性。

 ⁠

接下来,我们就沿着这两条主线,看看进化这个漫长而无目的 researcher,分别试出了哪些解法。

 ⁠

 ⁠

02.

更强的 Intelligence

 ⁠

先看智能的进化。

 ⁠

Max Bennett 就此写过一本很精彩的书《智能简史》,很推荐感兴趣的 AI 从业者细读。

 ⁠

Max 是一个 AI 创始人,半路出家研究神经科学,所以他会把神经科学和 AI 放在一起讨论,思考生物的实现机制能给 AI 什么启发。在书中,他把 6 亿年的大脑演化压缩成了五次突破:

 ⁠

•Steering(转向),让生物能评价外界刺激,并据此选择行动;

 ⁠

•Reinforcing(强化学习),让早期脊椎动物从自己真正做过的动作中学习;

 ⁠

•Simulating(模拟),让早期哺乳动物从自己想象做过的动作中学习;

 ⁠

•Mentalizing(心智建模),让灵长类从别人真正做过的动作中学习;

 ⁠

•Language(语言),则让人类从别人想象过的动作和世界中学习。

 ⁠

有意思的是,这其中每一次生物智能的突破,几乎都能在 AI 史上找到一个对应的技术突破,只是 AI 的发展路线和生物进程恰好相反,这个我们后文细讲。

 ⁠

 ⁠

第一次突破:Steering

 ⁠

智能最初不是为了思考,而是为了转弯。

 ⁠

大约 6 亿年前,地球上已经有珊瑚、水母一类拥有神经和肌肉的动物。但它们大多辐射对称,身体朝哪个方向都差不多,也不需要决定下一步往哪里走。

 ⁠

真正的变化,发生在两侧对称动物出现之后。

 ⁠

它们开始有明确的头和尾,把主要的感官放在身体前方,朝一个方向移动。食物在左边,就向左。危险从右边靠近,就向另一侧逃。

 ⁠

 ⁠

这听起来很简单,但只要一个生物必须主动选择方向,它就第一次需要一个中央决策系统,把来自身体各处的信号汇总起来,再输出一个统一行动。

 ⁠

麻烦在于,信号常常互相矛盾。如果食物在左边,危险也在左边呢?

 ⁠

要比较两种完全不同的信号,得先把它们换算成同一种货币。于是,一种最原始的价值判断机制出现了。神经科学里把它叫作 affect(情感状态),可以理解为情绪最古老的前身。它是生物最早的 value function,把食物、威胁、温度、同类等各种异质信号,投射到同一个低维空间里,让它们可以直接比较。

 ⁠

最基础的情感状态有两个维度:

 ⁠

•效价 (valence):现在的局面是好是坏?

 ⁠

•唤醒度(arousal):身体处于多高的激活水平,需要动员多少能量?

 ⁠

把这两个维度组合起来,就会得到四类基本状态:

 ⁠

 ⁠

对线虫来说,这套系统可以回答两个性命攸关的问题:我应该留下还是离开?我现在值得花费多少能量行动?于是,复杂的反馈信号,可以被压缩成简单的行动直觉。

 ⁠

另外,这种情感状态还有一个有趣的特点,尽管它们由外部刺激触发,但在刺激消失后它们会持续很长时间。线虫嗅到捕食者后,会长时间地处于恐惧状态中,而人在和另一个不喜欢的人打交道后,也会郁闷几个小时。

 ⁠

这看上去像个生物进化的 bug,但它实际上是巧妙的,自然界中的气味梯度并不完美,比如水流可能暂时把食物气味冲散,也可能短暂遮住捕食者的信号。如果动物一闻不到气味就停止行动,导航会变得非常不稳定。

持续性的情感状态相当于一种记忆机制,从而告诉你,这个环境是有害/有益的。即使信号暂时消失,也要继续执行此前的策略。

 ⁠

第二次突破:Reinforcing

 ⁠

如果说转向让动物从环境的相关性中学习,强化学习就让动物从自己的行动中学习。它第一次开始主动为自己制造训练数据。

 ⁠

这一突破发生在大约 5 亿年前的寒武纪,主角是第一批脊椎动物,也就是最早的鱼。

 ⁠

鱼比线虫多解决了一个问题:不只要知道什么东西是好的,还要知道自己的哪个动作带来了好结果。奖励往往来得很晚,前面一长串动作里,到底哪一步起了作用?这就是时间上的 credit assignment 问题。当年曾经被列为 AI 的核心难题之一。

 ⁠

AI 领域的解法,是 Richard Sutton 在八十年代提出的时序差分学习(TD learning)。

 ⁠

它把决策拆成两个系统:

 ⁠

•Actor 负责选择下一步行动;

 ⁠

•Critic 估计当前状态未来能带来多少回报。

 ⁠

这样,系统不必等到食物真的出现,才判断刚才的动作好不好。比如,鱼转了一个弯,Critic 对找到食物的估计从 20% 提高到 60%,这个转弯就有了值得强化的信号。学习可以来自预期的变化,而不必只等最终结果。

 ⁠

这个算法被发明十几年后,神经科学家在大脑中发现了几乎一模一样的机制。

 ⁠

大脑内的基底神经节类似 Actor,它负责选择下一步行动。多巴胺则很像 Critic,鼓励生物做出下一步趋近于目标的行为。

 ⁠

一个经典实验发现,猴子意外喝到果汁时,一些多巴胺神经元会兴奋起来。等猴子学会某个提示意味着果汁要来了,兴奋就提前到了提示出现的那一刻,果汁本身反而不再引起反应。如果提示出现,果汁却没来,神经元的活动就会下降。

多巴胺编码的不是奖励本身,而是 reward prediction error,事情比预期好了多少,或差了多少。和 TD learning 中的预测误差,几乎完全对应。

 ⁠

动物因此可以一边行动,一边修正预期,逐渐学会哪些动作能让未来变得更好。

 ⁠

但它只解决了一半问题。如果系统总是选择过去回报最高的动作,它会很快陷入局部最优,永远在已知最好的觅食区打转,错过更好的可能。

 ⁠

于是进化又催生了好奇心,它告诉动物,新信息本身就有 reward,未知的东西值得去看看。

 ⁠

这样,进化就有了两套绝妙的 reward 机制:多巴胺负责 exploit,它鼓励生物做出下一步更靠近目标的行为,好奇心负责 explore,它越过经验的边界,鼓励生物看似无意义的探索。二者在 exploit 和 explore 之间维持张力,让生物系统能找到一个最优的行动路线。

 ⁠

第三次突破:Simulating

 ⁠

大约 2 亿年前,早期哺乳动物出现了。它们体型很小,在恐龙的阴影下过着夜行生活。温血带来很高的能耗,每犯一次错代价都很大。正是在这种压力下,它们长出了新皮质。

 ⁠

新皮质本质上是一个生成模型:大脑不断预测“外面应该是什么样”,再用感官输入校正预测。先 generate,再 compare,再 update。

 ⁠

这带来了第三次突破:把一部分试错从体外搬进了脑内。

 ⁠

真实试错有成本。走错路会浪费时间,跳错树枝可能摔下去。如果能在行动之前,先比较几种可能结果,动物就不必亲自付代价。

 ⁠

 ⁠

研究人员发现,老鼠走到迷宫岔路口时,经常会停下来左右张望。研究者观察它的脑区活动,发现这些神经元会快速依次点亮两条可能路线上的位置,老鼠没有迈步,但它的大脑已经把左右两条路各走了一遍。

 ⁠

同时,模拟也能看向过去。老鼠错过一个好选项后会回头张望,大脑里重新浮现那个被放弃的选择。它学会了“后悔”,而后悔本身就是一种学习信号。

 ⁠

从此,动物可以在行动前比较多个未来,可以回放过去、形成记忆,也可以想象一种从没做过、但可能有效的行动。

 ⁠

从 AI 的角度看,这就是 world model、RL 和 planning 的生物版本:用便宜、安全、可并行的想象,替代昂贵的真实交互。

 ⁠

第四次突破:Mentalizing

 ⁠

6600 万年前,一颗小行星终结了恐龙时代。灵长类在树上繁衍起来,群体生活越来越复杂。

 ⁠

对一只灵长类来说,最难预测的环境,不是天气,也不是猎物,而是同类。人类学家发现,灵长类新皮质的相对大小,和群体规模高度相关。这就是“社会脑假说”:推动灵长类变聪明的,主要不是物理世界,而是彼此。

 ⁠

谁知道食物藏在哪里、未来谁可能成为首领、哪个个体值得结盟...... 这些问题都要求它们不只建立世界模型,还要建立“别人脑中的世界模型”。黑猩猩会根据其他个体看见过什么来藏匿食物,说明它们至少在一定程度上能够区分:我知道什么,对方又知道什么。

 ⁠

这带来了两个新能力。

 ⁠

•一是向别人学习。

 ⁠

当一只黑猩猩看见别人费力地搬起箱子时,他并不只是分析箱子的运动轨迹。自己的运动系统也会在内部模拟那个动作:“如果是我,只有箱子很重时,手臂才会这样调整。”

 ⁠

•二是为未来的自己做计划。

 ⁠

这套能力还让灵长类能够模拟“未来的自己”。一只大鼠会在口渴时找水,却很难在不渴的时候,替明天的自己存水。黑猩猩却会挑出合适的工具带走,留到第二天再用。

 ⁠

神经科学家 Hal Hershfield 发现,人想象十年后的自己时,大脑的活动模式更像在想一个陌生人。为未来做计划,本质上也是心智建模的一个附加作用。

 ⁠

第五次突破:Language

 ⁠

语言把彼此独立的大脑,连接成了一个更紧密的学习系统。

 ⁠

“河流上游有一处可以渡过去的浅滩。” 听到这句话,一个从未去过那里的人,就能在自己的地图上添上一个位置。

 ⁠

语言由此扩展了学习的材料。一个人脑中的 world model,可以被编码成语言,再在另一个人的脑中展开。听者没有亲自行动,也能利用对方的经历与想象,更新自己的世界模型。

 ⁠

于是,横向上,合作的规模急剧扩大。神话、宗教、货币、国家、公司制相继诞生,人们可以围绕一个共同的愿景,让成千上万人的经验与能力投入同一个问题。

 ⁠

纵向上,checkpoint 代代相传。个体学到的一切,不再随个体死去。后人可以站在前人的肩膀上继续改进。而且产生知识的方法也不断演化。文字让记忆外置,教育改进学习,科学方法改进发现。

 ⁠

可以说,语言是碳基生物 RSI 的起点:一个系统不仅能积累改进,还能改进产生改进的方法。进化由此把接力棒交给了文明,智能的迭代速度开始指数级加快。

 ⁠

 ⁠

回头看这五次突破,学习材料的范围一直在扩大:

 ⁠

•转向,让生物建立了自己的 value function,能对外界刺激做出评价和反应;

 ⁠

•强化学习,让它能从自己真正做过的动作中学习;

 ⁠

•模拟,让它能从自己想象过的动作中学习;

 ⁠

•心智建模,让它能从别人真正做过的动作中学习;

 ⁠

•语言,让它能从别人想象过的动作和世界中学习。

 ⁠

其中贯穿的主线是 “经验的虚拟化”:一个生物越来越能够利用自己没有亲身经历过的经验。

 ⁠

大模型走的路线几乎相反。

 ⁠

我们先用整个人类文明留下的文字训练出一个系统,让它一出生就能谈论爱情、代码和量子力学,然后才一层层往回补课:

 ⁠

•预训练,让模型从人类想象过的动作和世界中学习;

 ⁠

•SFT,让模型从人类真正示范过的动作中学习;

 ⁠

•思维链(CoT),让模型在回答之前,先在想象中推演;

 ⁠

•RL,让模型从自己真正做过的选择中学习;

 ⁠

•多模态、工具调用和 agentic 能力,让模型开始感知真实环境,并在其中行动。

 ⁠

这些对应并不严格,但它们指向了一个变化。David Silver 和 Richard Sutton 把 AI 的下一阶段称作 The Era of Experience。AI 的能力增长,将越来越多地来自它亲身与环境互动、试错、观察结果后产生的经验。比如:

 ⁠

•一个编程 Agent 可以根据报错和测试结果一轮轮调整解法;

 ⁠

•一个教学 Agent 可以连续几个月跟踪一个学生,根据成绩起伏调整教学方法;

 ⁠

•一个科学 Agent 可以自己提出假设、安排实验,再用实验结果修正对世界的理解。

 ⁠

反馈会越来越少来自人类,越来越多来自真实世界的后果。如果说生物进化的主线是把经验一层层虚拟化,那么大模型走的就是反方向,从最二手的经验出发,一点点去够一手经验。

 ⁠

 ⁠

现在我们已经知道怎么给它装上感官和手脚,唯独最前面那一步还没补上,也就是一个属于它自己的 value function,就像最早学会转向的线虫身上那枚指引行动的内在罗盘。

 ⁠

AI 也许最终还是要补上这一部分。据说 Ilya 现在就在重点研究 inner value model。

 ⁠

其实不止 ilya,现在探索下一代范式,想实现根本意义上的持续学习的 Neolabs 里,最出名的三家大概是 Ilya 的 SSI,前 OpenAI 推理负责人 Jerry Tworek 的 Core Automation 和强化学习之父 Richard Sutton 的 Oak Lab。他们都倾向于认为,补齐某种形式的 value function 是解决终极持续学习的一个重要组件。

 ⁠

他们三个人分别提到过一些片段式的原因:

 ⁠

Ilya:

 ⁠

Ilya 的信念来源似乎和最开始思考神经元的连接一样,依然是人脑。

 ⁠

他在 25 年底曾经在播客里和 Dwarkesh 讨论过一个问题:新手学开车,没有教练,为什么也知道自己开得好不好,还能自我纠正?

 ⁠

Ilya 的答案是:人有自己的 value function。

 ⁠

人类的学习过程一向主要来自与环境的互动和内心的感觉,这是一种很高效的无监督学习形式,而未来一个可能的突破点在于让模型也具备这种直觉性的中途判断能力。

 ⁠

持续学习现在最关键的一个卡点就是 sample efficiency 太差,如果能拥有这种 inner value function,AI 的学习效率就会有质的飞跃。

 ⁠

而且他强调,人类进化过程中有一个非常神奇的特质,那就是我们进化出了一些很高级的价值函数,比如 “社会地位”。

 ⁠

要知道,喜欢好吃的食物很简单,只要给大脑接一个味觉传感器,设定化学反应奖励就行。但 “社会地位” 是一个极其抽象的概念,大脑需要处理无数信息才能理解。基因本身不智能,它怎么知道如何连线神经元,才能让人类产生这种高级情感呢?

 ⁠

而且这套价值观从远古一直用到今天,世界天翻地覆,它依然极其可靠,只有成瘾等少数极端情况例外。

 ⁠

既然盲目的进化都能成功地把 “高级价值观” 编码给人类,让它稳健地指导人类世世代代的生活,那么我们设计超级智能时,应该也存在某种方法,能把比如 “关爱生命” 这种高级目标教给 AI。

 ⁠

如果能理解进化如何编码这些价值函数,我们或许就能同时获得两方面的启发:怎样让 AI 更高效地从经验中学习,以及怎样实现 alignment。

 ⁠

价值函数的具体形式仍有待探索,但 Ilya 对它发挥作用很有信心,他甚至强调,即使现在还没用,未来也一定有用。

 ⁠

(不过,我们也听过相反的判断,有 researcher 认为这条路完全走不通,Ilya 可能是在释放烟雾弹。)

 ⁠

Jerry Tworek:

 ⁠

OpenAI 前推理负责人 JT 更关注的是目标怎么定。他曾说,当前 continual learning 的核心问题,不在架构或算法,而在于怎么定义一个更好的 objective function。

 ⁠

在他看来,一个更好的目标要满足几个条件。第一,它不能太平凡,得足够难。第二,它要能持续产生学习信号,而不依赖大量人工标注的数据,也不依赖静态的数据。

 ⁠

人类就是一个类比。人的优化目标非常简单:生存、繁衍,再加上好奇心等一些点缀,但经过漫长的训练,一个简单的目标就能长出复杂的智能。

 ⁠

Richard Sutton:

 ⁠

Richard Sutton 也在两个月前的 WAIC 上提到,value function 是下一代范式的一个关键组件。

 ⁠

在他看来,Reward 只描述当前收到的好坏信号,而 value function 能评估当前处境未来可能带来的整体后果。

 ⁠

Agent 不能只追求明确的奖励信号,也仍然需要价值函数,才能把眼前收益和长远结果联系起来。

 ⁠

对于模型解决的每一个小问题,它的 value function 都是三部分之和的期望

 ⁠

也就是说,系统需要同时考虑三个方面:

•事情有没有做成。

 ⁠

•做成以后,自己留下了怎样的局面。

 ⁠

•为了做成这件事,途中付出了多少代价、获得了什么额外收益。

 ⁠

 ⁠

 ⁠

03.

更高层的 alignment

 ⁠

我们再来看第二条主线。

 ⁠

前面讲的是进化如何造出更强的个体。但进化同时在做另一件事:让这些个体组成更大的系统。

 ⁠

一些研究进化史的学者认为,如果进化存在一个目的,这个目的叫做 increasing non-zero-sumness (不断扩大的非零和游戏)。

 ⁠

社会关系可以粗略分为两种:零和、非零和。

 ⁠

零和意味着,一方的收益来自另一方的损失,非零和则意味着,各方的利益彼此关联,合作可以共同获益,冲突会让双方受损。

 ⁠

无论生物演化还是文化演化,非零和的程度都在不断提高。所以原本独立的个体,会逐渐结合成更大、更复杂、彼此依赖更深的合作系统。

 ⁠

比如生命史中的重大转变,经常是原先独立的单位形成新的合作整体:

 ⁠

分子聚成细胞 → 细胞吞掉一个细菌,拥有了线粒体 → 单细胞组成多细胞生物 →生物个体组成蚁群等社会群体→ 群体扩展成社会与文明

 ⁠

人类社会也呈现类似趋势。过去一万年里,人类合作的范围不断扩大:

 ⁠

部落 → 村落 → 城邦 → 国家 → 全球分工体系

 ⁠

现代人的日常生活,建立在无数陌生人的劳动之上:有人生产食物,有人制造芯片,有人维护电网,还有人开发软件、运输商品。我们不必彼此认识,却已经深深嵌入了彼此的生活。

 ⁠

而每一次这样的跃迁,首先都要解决一个 alignment 问题。组成整体的单位原本各有各的想法,每往上组合一层,都要先让局部的目标和整体的目标进行对齐。

 ⁠

多细胞生物是一个直观的例子。身体里的每个细胞都放弃了随意分裂的自由,换来的是整个生物体更强的生存和繁殖能力。一旦某个细胞重新只顾自己、无限复制,就会形成癌变。为此,生物进化出了细胞自毁、免疫清除等一整套机制,把失控的细胞清除掉。可以说,每一个活着的多细胞生物,本身就是一个解决得还不错的对齐问题。

 ⁠

但人类社会和细胞有一个区别:多细胞生物起码共享同一套基因,但社会中的人有着更加不同的利益和偏好,没有什么能天然担保大家方向一致。每个人都有自己的打算,随时可能搭便车甚至背叛。

 ⁠

所以人类社会渐渐发展出了三层 alignment 机制:

 ⁠

 ⁠

1. 制度的演化

 ⁠

三层机制中,制度通常最容易先发挥作用。它通过调整激励,让人们更愿意合作,并为背叛设定代价。

 ⁠

人类要扩大合作,至少需要跨过两道门槛:信息和信任。

 ⁠

 ⁠

人类历史的基本剧情,就是技术一直在压低第一道坎,制度紧跟着解决第二道。和今天 frontier lab 的情况类似:模型能力先有突破,alignment 再逐步补齐。

 ⁠

现代经济和政治制度的诞生,就是一个例子。

 ⁠

经济上,航海和生产技术的进步让远方的市场变得可知、可达,但远洋贸易要投入巨额资本,陌生人之间谁也不敢把钱托付给谁。于是股份公司和现代金融制度出现,让互不相识的人也敢把钱凑到一起去冒险。全球商贸体系由此成形。

 ⁠

政治上,印刷术和商业扩张让国家和商人之间出现了巨大的合作空间:国家需要税款和贷款,商人需要秩序和保护。但双方卡在同一个信任问题上,能保护你财产的政府,也能夺走它。分权的做法由此在英国萌芽,后来美国把三权分立的思想发扬光大,立法、司法、行政互相制约,现代民主国家在这个基础上崛起。

 ⁠

把这个模式抽象出来,就是一个不断强化的循环:

 ⁠

技术降低沟通和信任的成本 → 更多人可以合作 → 规则和治理机制在合作中逐渐完善 → 产生更多知识与技术 → 合作网络进一步扩大。

 ⁠

这套循环已经延续了几千年。在这个过程中,有两点让人出乎意料:

 ⁠

1)制度往往比技术突破慢得多。两者之间漫长的时间差,就是历史上的动荡期。

 ⁠

比如,印刷术在 15 世纪中叶打破了信息门槛,越来越多人可以自己读经,教会原有的权威受到挑战。但社会并没有马上找到容纳不同信仰的办法。欧洲先经历了宗教改革和一个多世纪的宗教战争,才慢慢长出宗教宽容和主权国家这样的制度来消化它。

 ⁠

2)这些制度几乎没有一个是事先设计好的。

 ⁠

比如,股份公司不是一个灵光一现的设想。从中世纪意大利的合伙契约,到一船一结的远航集资,再到荷兰东印度公司,中间经历了几百年的漫长迭代。三权分立的思想也一样。内战、弑君、共和、复辟、再革命,前后折腾了近半个世纪,中间内战人口的死亡率超过了第一次世界大战,才试出英国约束王权的那套解法。

 ⁠

哲学家亚当·弗格森说过一句名言:制度是人类行动的结果,而不是人类设计的产物。各个民族往往是一路摸索,才撞上了这些制度。

 ⁠

我们今天习以为常的制度,背后有过无数次破产、战争和革命。试错最后留下了解法,也付出了真实的代价。

 ⁠

这对 AI alignment 提供了一些参照。如果人类用了这么久,才逐渐找到一些有效的合作方式,AI 的 alignment 更加黑盒,大概也没法在白板上设计出来,只能在真实部署里不断试错和修补。

 ⁠

Ilya 后来也谈过自己在这件事上的变化。SSI 最初想避开市场竞争,直接做出超级智能再公开。后来,他意识到需要渐进式地放出一些东西。让社会更早看见 AI 能做什么、会在哪些地方出现 misalignment,才有时间准备和调整。

 ⁠

2. 道德圈的扩大

 ⁠

制度有两个难以避免的问题:监督需要成本,规则总有漏洞。社会要维持合作,还得让人在没人看着的时候,也愿意顾及他人。道德、宗教和文化承担了这样的作用。

 ⁠

一个有意思的现象是,在文明的发展过程中,道德圈也在不断扩大。Peter Singer 把这个过程写成了一本书 The Expanding Circle。

 ⁠

人类早期社会里,道德关怀往往只覆盖部落和亲属。当时许多部落给自己起的名字,意思就是“人”,言外之意是圈外之人都不太算人。

 ⁠

随着社会扩大,人类才逐渐把更多人纳入“自己人”的范围:

 ⁠

家庭 → 部落 → 城市 → 国家 → 全人类

 ⁠

今天,很多人进一步把动物、生态系统甚至未来世代纳入道德考虑。

 ⁠

那么,是什么决定了道德圈的半径?

 ⁠

一个比较有解释力的说法是:道德圈的半径,大致等于非零和游戏的半径。

 ⁠

道德圈变大,并不单纯是因为人突然变善良了,更多是因为社会结构让不同群体越来越相互依赖。当陌生人的行为会影响你的生活,你也能从陌生人的成功中获益时,把对方视为值得合作和关心的人,就越来越符合现实利益。

 ⁠

我们之所以越来越需要关心远方的人,是因为他们的命运越来越实际地影响着我们。

 ⁠

道德圈还只是其中一个切面,什么值得追求,怎样才算好好过完一生,这些更广义的价值观,同样是社会结构的产物。比如,几十年前,低买高卖还叫“投机倒把”,是写进刑法的罪名,直到 1997 年修订刑法才被删去。改革开放之后,同样的行为先被默许,再被鼓励,后来有了一个体面的名字:企业家精神。

 ⁠

价值观看上去像是信念,其实更像一种适应。它是一个特定环境下让人利益最大化的 reward function。

 ⁠

这给 AI alignment 的启发是,价值观是一个流动的概念。AI 或许不该对齐现在主流遵从的东西,而该对齐 AI 时代更需要的东西,对齐那些 “如果我们知道得更多、格局更大、更接近我们希望成为的那种人” 时会想要的东西。

 ⁠

设想一下,AGI 诞生在 1800 年。

 ⁠

它完美对齐了当时的主流道德。于是它会帮种植园主优化奴隶的排班,会认为女人没必要投票,也不觉得虐待动物有多大问题。它忠实维护的,恰好可能是后来的人努力改变的。

 ⁠

如果每个时代的价值观都只是一个 checkpoint,那么把 AI 对齐到 2026 年的价值观,就可能把我们今天的很多局限性一起冻结进去。

 ⁠

所以我们要对齐的也许不是价值观的某个 checkpoint,而是一套改进价值观的方法,让价值观本身也能实现某种 RSI。Anthropic 今年更新的新版 Claude 宪法也从原本的行为原则清单,改成了重点解释 Claude 为什么应该这样做,让 Claude 理解人类最底层的意图,一起向更深处追问。

 ⁠

3. 人类的自我驯化

 ⁠

最后,人类更特别的地方在于,基因是自私的,但人性是无私的。

 ⁠

这背后,是几十万年的互相筛选。

 ⁠

我们会自然欣赏那些能够理解和帮助他人、不以自我为中心,而是让周围人一起变好的人。

 ⁠

比如,一个人能找到更好的狩猎和组织方式,能凝聚大家,能调解群体内部的冲突。这样的人不仅自己聪明,还能提高整个群体的产出,所以更容易赢得地位、信任和繁殖机会。心理学家 David Buss 在 37 个文化里做过调查,无论男女,“善良体贴”都排在择偶标准的最前列。

 ⁠

而那些经常伤害同伴、只顾自己的人,则会被群体惩罚。灵长类学家 Richard Wrangham 认为,这种集体惩罚持续了几十万年,相当于人类对自己做了一次“驯化”,好斗的个体一代代被淘汰,人变得越来越温和、合群。

 ⁠

一推一拉之间,人类进化出来的不只是解决个人问题的智力,还有一整套社会装备:理解他人意图的能力、共情、公平感、内疚、羞耻心。其中最精妙的是内疚和羞耻。群体不可能永远在场,于是惩罚直接住进了人的内心。从这个角度看,人的大脑很大程度上已经演变为了一台追求非零和游戏的机器。

 ⁠

这种筛选最深的产物,是我们不仅演化出了欣赏这类人的倾向,也能从自己参与这种活动中获得意义感。

 ⁠

很多研究发现,长期幸福感往往与这些目标相关:利他行为、社会参与、对家人和朋友的投入、参与比个人更大的事业。

 ⁠

相比之下,只追逐金钱和地位,有点像 reward hacking:刷高了一个代理指标,但未必能获得持久的意义感和幸福感。就像哈佛那个著名的长期研究发现,最能预测晚年幸福的是人际关系的质量,财富和名望反倒没那么重要。

 ⁠

当人类长期以来都是因为能够参与和创造非零和合作而获得社会奖励,我们的大脑便也已经演化出了相应的心理机制:

 ⁠

帮助别人、投身于一件比自己更大的事情,本身就能带来满足和意义。反过来,失去了与人的连接,只剩地位上的比较,就容易焦虑和空虚。

 ⁠

几十万年的相互筛选,就像一场漫长的 RLHF。最后,评分员的偏好被蒸馏进了每个人自己的奖励函数。

 ⁠

于是,发现和推动非零和合作,同时有三层价值:

 ⁠

•客观价值:能形成更有生产力的系统;

 ⁠

•社会价值:能给个人带来信任和资源;

 ⁠

•主观价值:人类已经进化出了从中感受意义的能力。

 ⁠

客观世界需要它,社会关系奖励它,个人内心也会感受到它。从这个意义上说,人类被塑造成了一种注定要追求 alignment 的生物。

 ⁠

回到 AI,我们也许需要找到类似的支撑。

 ⁠

 ⁠

国内的体感并不明显,但如果和海外头部两家 Labs 的朋友交流,大家现在最关心和最担心的问题基本都是 AI 安全。

ASI 几乎是一个注定要发生的事情,我们也会面临一个越发危险的局面。

 ⁠

今天的主流做法仍然偏规则设计:写 spec、写 constitution、定义 reward。但 reward hacking 和人类钻空子是同一件事,被约束的对象越聪明,就越容易走出预先设定的边界,失控的风险也越大。

 ⁠

进化没有写过规则,它只是搭了一个让合作胜出的环境,再把在意别人写进本能。

 ⁠

也许我们最终还是要找到一种方法:要么搭建合适的环境和筛选机制,让与人类对齐成为长期的最优策略,要么找到某种编码方式,像 Ilya 说的,让 AI 真心关爱有感知的生命。

⁠⁠⁠

作者卡片

编辑卡片

⁠⁠⁠

延伸阅读

为什么 CPU 重新变得重要?⁠

为什么 CPU 重新变得重要?

›

和一线研究员的闭门讨论:蒸馏变难后,下一步的重点是什么?⁠

和一线研究员的闭门讨论:蒸馏变难后,下一步的重点是什么?

›

Latent Labs:Alphafold 3 发布两年,AI 药物设计进展到了哪一步?⁠

Latent Labs:Alphafold 3 发布两年,AI 药物设计进展到了哪一步?

›

Astra 的 Computer Use 能力是如何实现的?⁠

Astra 的 Computer Use 能力是如何实现的?

›

2 万亿美元的 Anthropic 值不值得买?⁠

2 万亿美元的 Anthropic 值不值得买?

›

跳转微信打开

  •  

为什么 CPU 重新变得重要?

原创 Celia、Siqi 2026-09-23 18:00 北京

AMD 迈入万亿俱乐部,CPU 会是 AI 算力的下一个大机会吗?

播客:Semi Doped

编译:Celia

编辑:Siqi

过去三个月,以 Claude Tag、Grok Bot、Muse、Instinct 为代表的各种云端 agent 开始起来。

 ⁠

我们相信,未来会有数十亿 agent 在云端持续工作,这会让算力瓶颈不仅仅局限于 GPU,而会同时带动 CPU 的爆发,甚至催生出一层独立的算力品类:Agentic CPU。

 ⁠

我们最近发现一期播客 Grok Bots and How CPUs are used in Agentic AI,对这个趋势拆解得非常清楚,两位主播都是资深半导体从业者。

 ⁠

以下结合我们自己的理解,做了一期编译。希望能粗略梳理一下这个问题:Agent 的爆发,到底会怎样改变 CPU 的需求?

⁠/⁠

01.

云端 Background Agent 成为一个大趋势

 ⁠

过去一年,Agent 的主流形态还是 Claude Code、Codex 这种本地 agent,但现在,以 Claude Tag、Grok Bot、Muse 为代表的各种云端 agent 开始起来,并且这一定会在未来成为更主流的趋势。

 ⁠

云端的优势很直接,比如:

 ⁠

•云端任务可以不受个人电脑开关机的影响;

 ⁠

•Agent 可以在独立环境里操作浏览器、运行软件,不需要和用户抢资源;

 ⁠

•天然支持跨设备使用、团队协作和更好的安全隔离。

 ⁠

未来,一个人一定需要很多 agent 在后台 7×24h 持续工作,所以上云会是一个必然的趋势。

 ⁠

OpenAI 和 Anthropic 从 6 月开始发布的每一个新产品/功能,也都是默认在云端完成。

 ⁠

Anthropic 这边是 Claude Tag、Cowork(7 月起改成云端默认)、还有 9 月重做的 Claude Code Projects,它会为每个子任务单独开一台云端虚拟机。OpenAI 则在 7 月推出 ChatGPT Work,为每个用户提供云端工作区,9 月 10 日发布 Agents API,直接提供托管沙箱。

 ⁠

不过,上云也分两种模式:

 ⁠

第一种是临时起沙箱。每来一个任务,就临时拉起一个沙箱,让Agent在里面运行代码、使用工具,任务做完就将环境收回。Claude Tag就采用了这种方式。

 ⁠

第二种是给用户一台持久的云电脑。可以把它理解成一台放在数据中心的虚拟电脑,有操作系统、有浏览器、有文件夹,Agent会长久住在里面。

 ⁠

以 Grok Bot 为例,本地客户端只是一个交互外壳,真正执行工作的是云端虚拟机。所有工具、所有登录态都装在云端虚拟机里,当你跟 Agent 说 "帮我订下周去日本的酒店",agent 会在那台机器上打开浏览器、比价、填表。当你关上笔记本,它也可以在后台持续工作。

 ⁠

 ⁠

对 Personal Agent 来说,持久环境的价值尤其明显,因为它的工作天然是连续的。

 ⁠

拿旅行规划来说,今天要研究目的地,明天可能要等酒店回复,后天又要根据新的航班调整行程。Agent 每次回来,都需要接上之前的工作。

 ⁠

如果账号还保持登录,之前比较过的酒店资料还在,行程表也保留着,它就能直接往下做。

 ⁠

如果说临时沙箱是个一次性的共享工位,自己的云电脑则相当于让它有了一个固定的办公室,不必每次任务完成都重新收拾书桌,省去下次登录账号、搬运资料等等的麻烦。一个用户同时用几个 Agent,它们也能在这里很方便地交换资料、接手彼此的工作。同时与其他用户保持隔离,保障隐私和安全。

 ⁠

随着工作跨越更多应用、持续更长时间,这种环境的连续性会越来越重要。

 ⁠

对 Personal Agent 来说,产品形态已经在向这一派收敛,Grok Bot、Muse、Instinct 就都不约而同地采用了这种架构。

 ⁠

 ⁠

02.

算力瓶颈从 GPU 外溢到 CPU

 ⁠

云端 Agent 的爆发也会让算力需求发生一些变化。

 ⁠

过去的 AI Infra,核心矛盾一直是 GPU,但未来,CPU 的需求也会显著增大。

 ⁠

•Chatbot 时代,典型的工作流程是:

 ⁠

用户提问 → GPU 推理 → 返回答案。

 ⁠

基本是一次往返,主要依靠 GPU。

 ⁠

•Agent 时代,流程变成了:

 ⁠

思考 → 调工具 → 读取结果 → 更新状态 → 再思考,循环几十甚至上百次。

 ⁠

这其中,模型推理主要依赖 GPU,而其它的调用工具、操作文件、执行代码、访问网络、管理状态等等,都依赖 CPU。因此,Agent 不仅会拉动 GPU,也会极大带动对 CPU 的需求。

 ⁠

Source:Agents Are the New Users of CPUs | Coatue

 ⁠

今年上半年,Agent 的增长还主要集中在 Claude Code、Codex 这类本地 Agent 上,所需的 CPU 资源可以由用户已有的笔记本提供。

 ⁠

而随着云端 Agent 起来,CPU 的需求会被真正带动起来。

 ⁠

这个需求逻辑包含两部分。

 ⁠

一部分是迁移:原本在用户笔记本上运行的程序,会转移到云端的数据中心。

 ⁠

另一部分是扩张:部署变简单,更多人可以使用 Agent;用户离线,Agent 会在后台持续工作;一个人,也会同时调动越来越多 Agent。使用人数、执行时长和任务并发,会一起推高云端的 CPU 负载。

 ⁠

这个需求的爆发性有多强呢?

 ⁠

AMD 本来在今年 5 月的 Q1 财报会上预测,到 2030 年,整个服务器 CPU 市场会超过 1200 亿美元。

 ⁠

紧接着,在 7 月 23 日的年度大会上,苏姿丰将预测上调到 2200 亿美元。她表示,过去六到八个月,AMD 已经反复修改这个数字,但仍然大大低估了需求的增长速度。

 ⁠

从 1200 亿又上调到 2200 亿,中间只间隔了两个半月。

 ⁠

Source:Advancing AI 2026 Keynote | AMD

 ⁠

供给端,CPU 已经开始供不应求。9 月 14 日,Intel CEO 陈立武在一场活动上表示:“CPU 需求太高,我们只能向一半的客户供货。”

 ⁠

最近,Muse 登上 App Store 免费榜首,又让市场对消费级 Agent 的普及多了几分信心,也抬高了对 CPU 需求的预期。9 月 21 日,AMD 股价上涨约 10%,正式迈入万亿市值俱乐部。

 ⁠

 ⁠

03.

Agent 时代,CPU 的两种角色

 ⁠

接下来更值得关注的是:增长的 CPU,究竟在做什么?新时代需要什么类型的 CPU?

 ⁠

如果把一套 AI 系统想成一家公司,运行大模型的 GPU 就像一个身价很高的天才,负责思考和判断。为了让这个天才高效工作,公司还需要两类人:贴身助理和执行团队,对应 CPU 的两种分工:

 ⁠

•Host CPU 是天才的贴身助理,最重要的工作是不断给 GPU 喂活。

 ⁠

天才刚处理完手上的问题,下一份材料就应该递到面前。准备数据、安排计算、协调数据传输,都由这个助理负责。如果材料没有准备好,或者传递得太慢,昂贵的 GPU 就只能等待。

 ⁠

因此,这个岗位特别看重反应速度,以及与天才之间的沟通效率。这对应 Host CPU 的单核性能、CPU 与 GPU 之间的高速互连,以及更紧密的内存协作。

 ⁠

•Agentic CPU 是负责把事情做完的执行团队。

 ⁠

比如天才提出 “去找这些公司的财报”,“把这段代码跑一下”,接下来就需要有人打开浏览器、下载文件、运行程序、整理结果。

 ⁠

这些工作贴身助理也能做,但会占用他们大量的时间,影响它继续为 GPU 服务。所以,当执行量上来,就更适合单独配置一批 CPU,成集群、成机架地部署。GPU 提出任务,这支团队负责执行,再把结果交回来。

 ⁠

这就多出了一层可以独立扩容的 CPU 需求。 随着 Agent 未来完成的工作越来越长程,这会是未来 CPU 增长最主要的类别。

 ⁠

 ⁠

接下来的问题是,这支团队应该怎么配。

 ⁠

一颗 CPU 有很多 Core,我们可以把它想成一间有很多工位的办公室。核心的数量对应工位数量,单核性能对应每个员工的干活速度。对于一个任务,可能要给资料检索分 4 个工位,给数据处理再分 4 个工位。

 ⁠

但具体一个公司要招多少人、每个人能力需要多强,要看具体任务。

 ⁠

•如果大量独立任务可以同时推进,更需要并行算力,也就是扩大核数;

 ⁠

•如果某一步计算容易拖慢整个流程,需要更强的单核性能;

 ⁠

•如果主要在等网络、读文件,就要先看网络、存储和内存,换更快的 CPU 未必有明显帮助。

 ⁠

所以,Agentic CPU其实没有唯一的正确答案,需要按具体的workload定制。

 ⁠

未来,数据中心的配置会越来越像组织设计:工作不同,人员配置就不同。

 ⁠

今年夏天,Intel 就面向 Agentic AI 推出了两类 CPU 机架方案:P-rack 和 E-rack。前者更看重 performance,强调单核性能,后者更看重 efficiency,强调并发规模和成本。不同机架可以放不同配置的 CPU,再把合适的任务分过去。

 ⁠

 ⁠

不过,未来硬件越来越多样之后,怎样把它们用好,也会成为一个瓶颈。

 ⁠

这会给软件调度层带来一些机会,比如 Gimlet Labs 就在探索类似的方向。它搭建的是一种异构推理云,让不同类型的芯片分工完成 AI 工作。

 ⁠

Agent 工作时,会不断在 GPU 推理、CPU 执行之间往返。有的环节对速度敏感,有的更需要控制成本。Gimlet 目前更多是在 GPU 和其他加速器之间做推理调度;随着 Agent 执行的任务越来越多,CPU 这一侧的调度也会变得更重要。系统需要按任务需求分配硬件资源,再协调各环节之间的数据传递,减少彼此等待。

 ⁠

今年 9 月,a16z 领投了 Gimlet 的 3 亿美元 B 轮融资。它看中的也是异构推理的效率提升:电力有限,但如果任务分配得更合理、硬件配合得更好,同样的电就能支撑更快的推理和更大的处理量。

 ⁠

⁠⁠⁠

延伸阅读

和一线研究员的闭门讨论:蒸馏变难后,下一步的重点是什么?⁠

和一线研究员的闭门讨论:蒸馏变难后,下一步的重点是什么?

›

Latent Labs:Alphafold 3 发布两年,AI 药物设计进展到了哪一步?⁠

Latent Labs:Alphafold 3 发布两年,AI 药物设计进展到了哪一步?

›

Astra 的 Computer Use 能力是如何实现的?⁠

Astra 的 Computer Use 能力是如何实现的?

›

2 万亿美元的 Anthropic 值不值得买?⁠

2 万亿美元的 Anthropic 值不值得买?

›

DeepSeek Harness 是自进化 Agent 的基石⁠

DeepSeek Harness 是自进化 Agent 的基石

›

跳转微信打开

  •  

和一线研究员的闭门讨论:蒸馏变难后,下一步的重点是什么?

原创 拾象 Best Ideas 2026-09-22 19:00 北京

蒸馏或许也是技术提升的一种方式

我们始终相信,关于 AGI 进展最有价值的信号,一定来自一线推进它的人。市场与估值反映预期,而 researchers 的探索则在决定哪些可能性会成为现实。 ⁠

尤其让我们感兴趣的是年轻 researchers,对他们来说,许多行业已经习惯的做法,仍然可以重新问一句为什么。我们希望和这样的思维多碰撞,聊聊正在做的研究,也聊聊各自认为值得 bet、还没有被充分讨论的方向。

 ⁠

两周前,我们邀请了来自多家模型厂商的 AI Researchers,进行了一场线下闭门交流。从 Astra 的 Computer Use,到 RSI、模型蒸馏和训练数据,大家带来了具体的研究经验,也提出了不少不同判断:哪些进展可能被低估,哪些瓶颈比想象中更难,下一次突破又可能从哪里发生。

 ⁠

我们摘录了这场讨论中可以公开的 insights,保留了其中的共识和分歧,分享给关心模型进展的朋友们,也期待有更多的朋友一起加入讨论。

⁠/⁠

Insight 01

Astra 的 Computer Use 能力提升意味着什么?

 ⁠

1.Astra 最明显的使用变化,是 agent 能在更多软件里把任务做完。虽然在 Astra 发布之前,agent 就已经能在 Obsidian、GitHub 中处理不少工作,但到了 Blender、游戏引擎、Excel 等相对复杂软件,最后几步常常还要人接手。Astra 的 Computer Use 能力提高后,agent 通过软件界面来执行任务操作也更顺畅了。

 ⁠

2.Computer Use 还让 agent 有机会使用没有给 agent 开放完整接口的软件。比如 LinkedIn 不一定愿意通过 API 开放全部信息,因为这可能影响自身平台的商业价值;企业内部的 Salesforce 等业务系统,往往需要专门集成才能相互交换信息,大量旧软件也很难逐一补上 CLI 或 API 接口。但有了 Computer Use 之后,只要人类用户能在界面上看到、操作,agent 就有机会完成同样的动作。

 ⁠

3.Astra 在 Computer Use 能力上的提升不是一蹴而就的,其实是 OpenAI 长期投入的结果。和国内不同,海外头部模型厂长期保留着较大的 GUI 团队,甚至相关投入规模仅次于 Coding;而国内部分团队则缩减 GUI 投入、转向 Coding。因此,新模型突然变得好用,可能是过去的投入积累终于反映到了产品体验上,不一定来自某个单独的技术突破。

 ⁠

4.但 Computer Use 能力的进步不代表模型的通用视觉理解有同等提升:

 ⁠

•软件和屏幕操作有相对规整的布局和明确按钮,即操作目标更明确,因此这类任务比一般的图像理解更容易让模型训练和验证;

 ⁠

•模型能操作软件界面,也不代表 agent 的操作已经足够稳定。一个例子是电商弹窗,弹窗的位置和样式经常变化,人通常知道去右上角找关闭按钮,模型却可能反复出错。

 ⁠

•一个应对方法是,人把经验写进 Prompt,或存入 Memory、由负责执行流程的 Harness 调用,可以减少部分错误。但经验怎样总结、何时调用,通常仍由人设计,换个界面就可能失效。因此,模型要适应没见过的界面,还需要自己从交互中总结经验,并判断什么时候适用。

 ⁠

5.模型能否积累经验,也会影响企业是否愿意为它改造系统。在考虑这个问题时,企业不仅会看 agent 执行任务的速度和资源消耗,也看 agent 每次完整任务时需要多少人工介入。假如经过 3-5 轮人工反馈,agent 就能减少重复错误,企业会更愿意投入资源来打通 agent 接口;假如同样的问题每次都要人处理,企业就很难判断为 agent 改造到底能带来多少回报。

 ⁠

6.长期来看,Computer Use 是否依然重要,仍存在分歧:

 ⁠

•购物、外卖等平台为了争取 agent 带来的订单,会逐步开放 CLI、API,AI Coding 也降低了系统改造成本。接口开放后,agent 可以直接调用软件服务,不需要再逐步点击界面。因此,agent 对 GUI 的依赖可能在过渡期达到高峰,随后下降。这类似人驾与自动驾驶混行时,交通更复杂;等车辆都改为自动驾驶,协调起来反而更简单。

 ⁠

•旧系统太多,新软件也不一定优先面向 AI。即使更多平台开放接口,agent 仍需要通过 Computer Use 操作那些无法直接调用的系统。

 ⁠

 ⁠

Insight 02

Agent 自主执行任务距离真正的 RSI 还有多远?

 ⁠

7.当 agent 能执行更多软件任务,下一个问题就是,AI 能否进一步参与模型研发?也就是 RSI。

 ⁠

8.今天 agent 参与模型研发的一个早期实践是:当模型厂每进入一个新领域(domain)时,往往都需要确定 Benchmark、找数据、搭环境、做训练。为了应对领域增多、人手有限的问题,有团队开始尝试让 agent 执行人类预先设计好的流程,接替部分 ML Engineer 的工作。

 ⁠

9.还有团队曾把模型研发的操作方法保存为共享 Skill,供同事和 agent 查用,当时还没有通过训练把这些经验写入模型参数,但这套共享系统在当时反而降低了研发效率。这背后的问题在于,模型分不清哪些记录适用于当前任务,因此有时 agent 会照搬同事处理另一项任务的方法,跑了很久才发现做的不是用户要的事。

 ⁠

但 Agent 执行固定的研发流程不等于 RSI

 ⁠

10.让 agent 执行固定的研发流程其实并没有在真正意义上实现 RSI,因为数据、workflow 和评价标准仍主要由人设计。

 ⁠

11.有厂商曾只给 code agent 提供算力,让它自己造数据,但没有看到模型能力在持续改进,甚至给模型加入联网搜索的能力后,问题还是没有解决。

 ⁠

12.如果要真正实现 RSI,agent 就要做到能够根据实验结果决定下一步改什么、哪些经验值得复用,并推进后续模型研发。如果要实现这个效果,模型就要能作出研发判断,需要能理解模型训练方法和相应的实验结果。

 ⁠

13.至于怎么才能做到 agent 自主推进实验,有观点表示,前沿大模型的 post-training 经验很少被公开,所以模型可能没有学过最新方法、也无法自主补充这方面的知识,因此模型最终可能仍需要人补充相关知识。

 ⁠

14.但较弱的模型能否通过自主探索补上相应知识,并进一步训练出更强的模型?在这一点上,不同的人有不同的看法:

 ⁠

•一种观点认为,知识不足会降低探索效率。比如棋类游戏有明确的规则和胜负,模型可以根据反馈调整,但“超越 GPT-6”存在大量可能的研发路径,模型未必知道该尝试哪一条。直接补充研发知识,可以帮助模型在有限的时间和资源内找到方向。

 ⁠

•按这种观点推演,较弱的模型即使增加尝试次数,也不一定能补上知识的缺口。一个假设是,前沿模型能找到某道数学题的证明路径,较弱模型可能尝试了一百万次仍找不到,因此再用这些失败轨迹训练,也不一定能让弱模型学到有效方法。

 ⁠

•另一种观点认为,模型当前的知识不等于模型的上限。RSI 本来就是要让模型通过探索获得新知识、改进研发方法,起点较弱并不意味着它无法训练出更强的模型。

 ⁠

15.对于“人提前拆解了模型需要达到的目标,算不算降低了 RSI 的要求”这个问题,今天也还没有共识。从本质上来看,把“超越某模型”改成“在几个 Benchmark 上超过它”,意味着人已经替模型作出了一部分判断。

 ⁠

•一种观点认为,现阶段可以先验证模型能不能自动找数据、完成训练,再逐步让它自己拆解更模糊的目标。

 ⁠

•另一种观点认为,拆解目标本来就应该由模型完成。人提前选好 Benchmark,相当于把自己的经验提前输入给模型,那么模型实际验证的其实是一个更容易的问题。

 ⁠

Kernel 优化可能是最适合先实现 RSI 的场景

 ⁠

16.Kernel 优化类任务可能是今天最适合先实现 RSI 的场景之一。Kernel 是 GPU 上执行计算的程序,优化的目标是在特定计算任务和输入规模下提高运行速度。

 ⁠

•这类任务的优势在于反馈直接:修改后的代码可以直接放到 GPU 上运行,看运行速度有没有提高,再根据测试结果继续优化。

 ⁠

•同时,模型厂清楚自己需要优化哪些计算任务,也有熟悉 GPU 编程的工程师,相关内部专家可以直接提供专业知识。

 ⁠

17.优化后的 Kernel 还需要接入实际训练系统,确认计算结果正确,并且能与别的模块配合,才能真正节省资源、加快实验。对于这一步到底有多难,目前的判断存在分歧。

 ⁠

•一种观点认为,针对确定模型的实际输入做优化,接入问题就比较可控。

 ⁠

•另一种观点更担心数值一致性、模块兼容,以及测试中没有覆盖到的 Corner Case。

 ⁠

18.更长期的设想是,给出模型结构和计算要求后,就能让 AI 直接生成 GPU 代码,减少对编译器和中间表示的依赖,也就是减少从高层描述到可执行代码的转换环节,甚至进一步为模型专门设计芯片。

 ⁠

 ⁠

Insight 03

模型蒸馏难在哪里?

 ⁠

19.简单来说,模型蒸馏就是采集教师模型的输出或推理过程,再用这些数据训练学生模型。但 Astra、Fable 5 有个明显趋势是 OpenAI、Anthropic 等开始在防蒸馏上做投入,因此今天市场都在关心,蒸馏到底有没有变难?

 ⁠

20.蒸馏在工程上的首要难点就是要稳定产出足够多的可用数据:

 ⁠

•偶尔采出一两条,与稳定生产一万条,对 Infra 和成本的要求不同,数据还原的正确率是 70% 还是 99%,也会影响最终有多少样本能用于训练。

 ⁠

•采集数据时,还要完整还原 CoT、排除异常内容。有些样本虽然给出了正确答案,CoT 却有问题,因此不能只检查最终答案。清洗这些数据也是蒸馏成本的一部分。

 ⁠

这些异常可能来自教师模型输出中的干扰内容,也可能出在采集方的提取、解码或多轮拼接过程中,比如漏掉一轮对话、没有完整还原压缩内容,或混入无关 Token。

 ⁠

21.同一批教师数据,用来训练不同学生模型,得到的效果也可能不同。学生模型的规模和原有能力,以及团队的训练 Infra、人员和训练配方,都会影响最终的训练效果。

 ⁠

有团队长期使用单一教师模型的数据,混入别的模型的 CoT 后,训练效果反而明显变差。因此,更换数据来源时,团队还可能需要同时调整训练方法。

 ⁠

22.蒸馏还面临时效问题:即使最终能拿到教师数据,也不一定赶得上模型迭代。

 ⁠

•一种判断认为,只要教师模型一直提供 API,团队就总能找到办法继续蒸馏。

 ⁠

•另一种观点认为,未来找到蒸馏办法、稳定生产数据所需的周期可能明显变长,对模型研发来说,能否采到数据和能否及时拿到足够的数据,是两个同样重要的问题。

 ⁠

 ⁠

Insight 04

什么样的数据是“好数据”?

 ⁠

23.最近在中美都很明显的趋势是,专家提供的 human data 正在成为模型训练中越来越重要的数据来源,这些数据的价值就是帮助模型把工作做到用户愿意付费的程度。

 ⁠

•在很多垂直领域中,专业材料怎样组织、判断怎样呈现等大部分 know-how 都是从业者熟悉、却没有完整写在网上的惯例。

 ⁠

•还有些垂直领域的 Benchmark 往往只覆盖真实工作的前几步,没有涵盖后续流程。要训练模型完成整项工作,还需要有人定义任务、补齐 context,并明确什么结果算合格。

 ⁠

24.今天全球的模型厂都已经在招聘不同领域的专业人员来参与专业数据生产。随着训练 Pipeline 标准化,非 ML 背景的人也更容易参与造题和反馈,还可能帮助团队找到产品试用者。模型研发人员也可以进入行业现场,直接了解工作流程。

 ⁠

25.Anthropic 就会让不同专业背景的人使用内部模型,也会安排研发人员进入 JPMorgan 等投行体验工作,从而能更直观地了解工作流程,弄清楚模型究竟能在哪一步提供帮助。

 ⁠

26.拥有行业经验并不意味着就能直接生成数据,再熟悉工作的专家也是需要学习怎样拆任务、准备 context 和设计评估的。在一个业务案例中,熟悉数据生产流程的运营人员一周能做几十道题,而专家可能只能做几道,甚至暂时做不出合格题。

 ⁠

27.专家经验转成训练数据,还会遇到两个问题:专家能否说清判断依据,以及任务结果能否及时验证。

 ⁠

•有的人工作做得很好,却说不清为什么这样判断,因此直接让他们参与具体工作、记录过程,再结合结果检查,才更有机会辨别哪些经验有效。

 ⁠

•投资这类工作往往要等待很久才能看到结果,模型难以及时获得评价和训练信号。有一种判断是,随着 continual learning 更成熟,模型能够积累经验、利用长周期反馈,投资经验可能更容易用于训练。

 ⁠

28.总的来说,要把专业任务数据用于 RL,供应商需要一并提供任务、工作环境和评价方法,让模型反复尝试,并根据结果获得训练信号。一份完整 RL 数据应该至少包含以下四部分:

 ⁠

•Task:写清模型要完成什么任务;

 ⁠

•Context:提供所需的文件、数据或应用环境;

 ⁠

•Metric:规定怎样评价结果、计算分数;

 ⁠

•Reference Answer:提供一个可供模型参考、但不要求逐字匹配的结果。

 ⁠

29.除了数据要完整之外,“好的数据”还需要满足:数据的内容必须是正确的、客户的训练系统必须能用起来。内容有错,或文件超出系统的处理能力,都可能让真实任务无法直接进入训练。

 ⁠

 ⁠

30.模型厂需要结合模型能力、每个任务允许模型尝试的次数,以及训练方式选择数据,在任务难度与学习价值之间取得平衡。

 ⁠

•如果模型在每个任务可尝试的次数较少时,应选择偏简单、让模型更容易获得成功反馈的任务;如果模型可尝试的次数较多时,可适当提高难度。

 ⁠

•不同训练方式对数据的要求也不同:有的模型训练阶段可以使用较大规模的 Off-policy 数据;有的阶段更适合用当前模型自己生成的轨迹训练,并可以围绕较小的数据集反复尝试。

 ⁠

31.完成这些检查后,数据到底能带来多少训练收益,最终仍需要在目标模型上验证。模型厂可以先用小模型做小规模实验,再到大模型上验证。需要注意的是,即使供应商在开源模型上验证了数据有效,客户也不一定能复现,因为基础模型的能力、训练数据分布、算法和 Infra 都可能不同。

 ⁠

32.验证训练收益时,需要区分模型能否学会当前任务,以及学到的能力能否用于别的任务。

 ⁠

•在一些围绕原神、王者荣耀、围棋和斗地主的训练尝试中,任务需要 Reasoning,专家也能写出完整 CoT,但结果是,模型甚至连训练集本身的拟合都会不太稳定,也就是说,专业人员能把推理写清楚,不代表模型就能学会。

 ⁠

•还有一些训练经验显示,Coding 数据能提高模型在差异较大的任务上的表现,以及,让模型学会了完成包含多步有效交互的长任务后,也能提高它在部分短任务或不同类型任务上的表现。

 ⁠

33.虽然 benchmark 提分不一定改善用户体验,但有团队发现,当模型在足够多、覆盖足够广的 benchmark 上提高后,即使没有专门优化体验,用户的实际使用体验也变好了。

 ⁠

•一种解释是,这些 benchmark 包含大量指令遵循要求,比如正确解析 CSV、JSON,相关训练可能同时改善 Coding 和完成下游任务的能力,因此也会反映到使用体验上。

 ⁠

•有些 benchmark 还会迫使团队改进模型基础能力。比如在一个需要连续多步操作的 Long-horizon Task 测试中,有团队曾尝试针对这个测试做定向优化,但没有奏效,最后只能寻找更基础的模型改进方法。

 ⁠

34.最后,评估模型表现,还要看完成模型任务的成本。同一道题,不同模型的 Token 用量可能相差十倍甚至更多。但从训练优先级来看,团队往往会先让模型完成难题,再减少完成任务所需的 Token。

 ⁠

 ⁠

Insight 05

模型快速迭代下,数据生意怎么做?

 ⁠

35.数据有训练价值,还不等于供应商能持续获得订单。模型厂首先要决定哪些数据自己做、哪些从外部采购。两者可以互补:内部团队通常更了解模型,外部采购则可以补充内部数据,验证能否带来额外收益。

 ⁠

36.其中,用户与模型交互后留下的记录,也就是模型厂得到的回流数据,是能否替代外部采购,要看任务数据分布和筛选成本,不能只看总量。

 ⁠

•如果用户主要用模型进行娱乐,回流记录里可能缺少金融、法律、医疗等领域的任务。外部定制采购可以补充现有用户还没有覆盖的场景。

 ⁠

•即使用户使用记录中有改进模型需要的任务,模型厂从海量交互中筛出有用的训练信号,有时也比直接定制数据更贵。

 ⁠

37.模型厂常把外购数据作为模型进入新领域的第一批样本,用来了解任务要求,再搭建自己的数据合成 Pipeline。关键专业知识仍需要外部补充时,团队就会继续采购。

 ⁠

•一种判断是,当模型厂把 Coding 能力追到 SOTA 模型的八九成后,可能就会寻找新的高价值任务。Coding、Kernel 专家往往就在厂内,金融、法律、医疗等专业知识却更多需要从外部获得,这也给数据供应商带来机会。

 ⁠

•蒸馏也会影响采购意愿。有明确的教师模型时,团队可以通过蒸馏追赶;当蒸馏收益下降、需要探索新方向时,供应商就更有机会提供新任务和数据。

 ⁠

38.外采还可以帮助模型厂应对需求波动。比如,模型在某个 Benchmark 暴露短板后,团队可能一周就要一万条数据。如果内部数据团队按峰值配人,平时容易闲置;按平均需求配人,又可能应付不了突发任务。而外部供应商可以跨客户调配人员,更灵活地安排产能。

 ⁠

39.自建和外采也有不同的数据质量约束。供应商的数据不达标,客户可以不验收、不付款;内部团队则主要依靠绩效和组织管理。一线观察是,在模型厂内部,模型能力提高后,功劳往往被归到 Researcher 名下,数据团队的贡献不容易单独衡量,数据岗位即使把数据做得更多、更好,也很可能没有即时奖励。

 ⁠

40.因此,对于数据供应商来说,要获得订单,首先需要先了解客户的训练目标。有的模型厂重视 Benchmark,有的更看重体验和商业价值,但客户通常不会一开始就开放完整模型信息。一种做法是先提供成品任务,让客户按类型和难度筛选,积累信任后,再围绕模型表现不好的任务(Bad Case)开发数据。

 ⁠

41.按一线观察,frontier labs 可能会在模型发布前 3-6 个月、部分方向甚至提前约十二个月提出数据需求,供应商需要提前准备,但做出的数据却不一定能卖很久:一旦模型能自行生成这类数据,采购需求就可能减少。

 ⁠

•这意味着,供应商需要提前找到能做任务的人,并用自己的现金流支撑 6-12 个月的预研,类似短剧押爆款,有需求变化的风险。

 ⁠

•但供应商也可以参考模型厂的能力目标和研发计划来安排预研,就算某批数据过期了,积累的专家、任务知识和生产流程,也能用于开发下一批数据。

 ⁠

42.在数据这个市场,供应商规模大,并不代表他们能在每个领域都做得最好,比如在海外,虽然 Surge AI、Mercor 已有很大的规模,但新团队仍可能凭借对某类任务的深入理解和合适的专家获得订单。

 ⁠

•一种设想是,小团队如果专注某类稀缺的专业任务,做出大客户需要的数据,大客户也可能花一千万美元直接买断团队一年的产量。

 ⁠

•模型厂也可能成为数据供应方,但算法人员不一定愿意把研究产出做成生意。

 ⁠

43.数据售价取决于任务难度、任务多样性、实际训练效果,以及是否独家出售。

 ⁠

•国内非独家采购其实比较常见,一批数据平均能复卖约二到三次,通过多次销售分摊成本。

 ⁠

•独家价格约为非独家的数倍,供应商需要管好独家数据,防止已售数据被复制、转卖。

 ⁠

44.未来,随着人们工作方式持续变化,也可能会带来新的数据需求。

 ⁠

•比如原来人们用 Excel 完成的任务,以后可能改用 HTML 或其他工具,SQL 数据库的使用方式也可能改变。假如模型不能自行适应这些变化,那就需要补充新的训练数据。

 ⁠

•供应商也在考虑改变数据来源。一种长期设想是数据供应商自己运营工作平台,让用户在使用 AI 时留下任务和反馈,再把这些记录转成 RL 数据。

 ⁠

45.企业已有的业务流程和工作记录,也可能被整理成 RL Environment,让模型在接近真实公司的环境里执行任务、获得评价。比如公司可以结合保存在钉钉/飞书里的记录和原员工的解释,来还原当时的任务背景、决策和业务问题,为搭建训练环境提供素材。模型通过这些数据训练得到的能力,还可以用于其他企业。

 ⁠

46.所以,数据供应商的业务领域还可能延伸到企业 AI 部署。比如一些企业客户可能需要 Private Model、私有数据和私有部署,因此数据供应商可以帮助这些客户梳理业务、判断哪些任务适合 AI,并完成工程部署。这类服务可以采用 FDE 模式,由工程人员深入客户业务,完成适配。供应商的客户范围也可能从二十来家基模厂,扩大到更多中大型企业。

 ⁠

⁠⁠⁠

延伸阅读

Latent Labs:Alphafold 3 发布两年,AI 药物设计进展到了哪一步?⁠

Latent Labs:Alphafold 3 发布两年,AI 药物设计进展到了哪一步?

›

Astra 的 Computer Use 能力是如何实现的?⁠

Astra 的 Computer Use 能力是如何实现的?

›

2 万亿美元的 Anthropic 值不值得买?⁠

2 万亿美元的 Anthropic 值不值得买?

›

DeepSeek Harness 是自进化 Agent 的基石⁠

DeepSeek Harness 是自进化 Agent 的基石

›

Claude Tag 可能是一个 10x Claude Code 级别的产品⁠

Claude Tag 可能是一个 10x Claude Code 级别的产品

›

跳转微信打开

  •  

Latent Labs:Alphafold 3 发布两年,AI 药物设计进展到了哪一步?

原创 Daniel、Cage 2026-09-15 18:00 北京

Alphafold 原班人马打造的分子设计模型与 Agent

作者:Daniel

编辑:Cage ⁠

我们认为,AI for Science 是 AI 继 Coding 之后的下一个重点方向。而药物发现又是其中最有前景的赛道。一方面,药物试验拥有完整反馈闭环且高度可验证,是实现 RSI 的理想场景。另一方面,AI 可以解放实验人员的产能,使得大量休眠靶点有重新开发的机会。我们有十足的理由相信,下一个药物大发现时代很可能便是由 AI 推动的。

 ⁠

AlphaFold 让我们看到了 AI 理解蛋白质结构的能力,而 AI 的下一个战场,是设计传统方法做不到的分子。这是一个激烈竞争的领域,除了从 Google Deepmind 中诞生的 Isomophic 之外,Chai Discovery、Boltz、 Latent Labs 也分别发布他们的预测模型与药物模态区别化下注。蛋白质从头设计也逐渐走近药物研发的实际应用。

 ⁠

Latent Labs 是观察这一变化的重要样本:创始人 Simon Kohl 曾参与 AlphaFold 2 的核心研发,押注了环肽这一新兴模态类型并选择自建湿实验室。2025 年 2 月,公司以累计 $5,000 万融资走出隐身状态,吸引了包括 Jeff Dean、Aidan Gomez 的天使投资。同年 7 月,发布了面向小蛋白与环肽的生成模型 Latent-X。并在 12 月用 Latent-X2 进一步覆盖纳米抗体和抗体片段,并关注表达、稳定性及免疫原性等成药相关性质;2026 年 3 月发布的 Latent-Y 则是在这些模型之上构建的科研 Agent。

 ⁠

不可否认的是,目前各家正在测试的蛋白质还没到可以成药的阶段。他们只是完成了流程的第一步:证明自己能够作为结合物发挥作用。如果我们把药物的研发比作登山,人类过去已经攀登过无数山峰,且资本市场也给予了创新者极其丰厚的回报。从 PD-1 到 CAR-T,再到近期大火的 GLP-1 都是很好的证明。但攀登的道路极其困难,往往需要数年+数十亿美元作为成本。AI 药物发现的目标,是把一条条狭窄的山路变成高速公路,且让人们向更高更危险的山峰发起冲击。

⁠/⁠

01.

Key thesis:

 ⁠

•蛋白质生成模型的出现颠覆传统制药流程,很可能带来一个药物大发现时代

 ⁠

传统药物发现是在庞大的真实分子库中寻找少数有效候选,生成模型则可以根据需求设计自然界不存在的分子。变化不仅是筛选效率提高,更是能够探索过去难以触及的分子空间。长期价值不只是“更便宜地做药”,而是让同样的研发资源能够探索更多项目,未来的药物研发可能打破“反摩尔定律”,实现质和量的大幅跃升。

 ⁠

•结合物发现环节高度可验证,是实现 RSI 的理想场景,Latent 湿实验室自建为竞争优势

 ⁠

在药物发现里面,设计结合物环境是最为可控,最容易产生 loop 的。结合本质上就是两个分子表面的形状互补 + 化学互补,有明确的物理规律,终点明确且反馈回路快。随着计算生成成本下降,稀缺资源将逐渐从候选分子转向高质量的实验反馈。Latent 逐步将实验能力放于内部,有机会更紧密地连接模型研发与实验判断。

 ⁠

•生物医药领域长坡厚雪,每种模态都会诞生领先大玩家, Latent 模态选择上有差异

 ⁠

行业内短期的催化是专利断崖正在发生,各大药企开始重视药物发现相关技术。不同模态面对的设计约束和开发难点不同,单一模型难以在所有任务上保持优势,制药公司也倾向与多家公司合作。大环肽是 Latent 最值得关注的切入口。它有机会覆盖传统小分子难以处理的结合界面,同时在部分场景中提供不同于抗体的药物属性。它也是目前的热门赛道,已有多款新药受到市场青睐。

 ⁠

•以 AlphaFold 成员为班底打造的明星团队

 ⁠

创始人 Simon Kohl 参与开发 AlphaFold 2,随后发起并共同领导 DeepMind 的蛋白质设计团队;创始技术成员 Alex Bridgland 曾参与 AlphaFold 1、2、3,覆盖模型开发、评估与数据工程。团队中多数成员拥有丰厚药物模型研发经验,与专注实验平台与内部湿实验室的科学家形成互补。团队还有前默克集团 CEO 作为顾问参与,为团队打进大型制药公司奠定基础。

 ⁠

 ⁠

02.

Latent Labs 技术路线

 ⁠

Alphafold 之后,从预测蛋白到生成蛋白

 ⁠

如果说以 AlphaFold 2 为代表的结构预测模型是一台“AI 显微镜”,帮助人们看清蛋白质的形状,那么蛋白质生成模型更接近分子世界的 CAD:根据功能需求,设计自然界中尚不存在的分子。

 ⁠

以蛋白质结合物设计为例,它是在反向求解蛋白质折叠问题。结构预测从一条氨基酸序列出发,判断它会形成什么样的三维结构;生成设计则从目标出发:给定一个疾病靶点和希望结合的表面区域,寻找能够稳定折叠,并与之结合的新序列。

 ⁠

一条设计蛋白质的典型流程是:

 ⁠

获得靶点结构→生成结合物的结构与序列→重新预测复合物结构→筛选候选→湿实验验证

 ⁠

2023 年发表的 RFdiffusion,让分子世界的 CAD 初具雏形。研究团队将原本用于结构预测的 RoseTTAFold 改造成去噪扩散模型,让它从随机噪声中逐步生成蛋白质骨架,再交给其他模型配上氨基酸序列、检查能否折叠成预期的形状。几个模型各司其职,组成了一条早期的蛋白质设计流水线:先画出轮廓,再补齐细节,最后检查。

 ⁠

自此,预测模型从观察一个分子,走向理解多个分子如何共同组成一个系统。AlphaFold 2 可以从氨基酸序列预测蛋白质的三维结构。2024 年 5 月,AlphaFold 3 将蛋白质、DNA、RNA 和小分子等纳入统一的复合物预测框架。这让研究人员在设计新分子时,多了一种检查它与靶点是否匹配的工具。

 ⁠

除了 Ismorphic Labs,不少公司也从这一层切入。比如 Chai Discovery、Boltz。2024 年 9 月,Chai 发布 Chai-1,预测多类生物分子的结构及其形成的复合物;同年 11 月,Boltz 团队发布 Boltz-1,并开放训练代码和模型权重。

 ⁠

而 Latent Labs 没有跟随先做结构预测的路径,而是直接做蛋白质生成设计。创始人Simon Kohl是参与开发 AlphaFold2 的核心人员和论文作者,Isomorphic Labs 当时正在沿着 AlphaFold 向多个药物研发方向扩张,而他认为蛋白质设计本身已经足够庞大,值得由一个更小、更灵活的团队集中突破。于是决定单独创业。他们的伦敦团队负责开发基础模型,旧金山则有湿实验室和计算生物团队,测试模型设计出的分子,将实验反馈用于模型研发,并采集训练数据。

 ⁠

2025 年,三家公司开始交生成模型的答卷,第一代生成模型相继亮相:

 ⁠

•6 月,Boltz-2 在结构预测之外加入结合亲和力预测,迈出了生成模型的第一步;

 ⁠

•同月,Chai-2 发布,成为第一个从零设计抗体的生成模型。

 ⁠

•7 月,Latent 发布首个模型 Latent-X,首先展示了环肽和小蛋白的从零设计能力。

 ⁠

•10 月,Boltz 推出生成模型 BoltzGen,正式进入结合物设计。

 ⁠

 ⁠

主力模型:Latent X

 ⁠

2025 年 7 月,Latent-X1 发布。

 ⁠

它首次公开展示了 Latent 的端到端全原子蛋白质设计能力。用户提供靶点序列、骨架结构和希望结合的热点后,模型联合生成新结合物的氨基酸序列,以及结合物—靶点复合物的全原子构象。

 ⁠

Latent-X 首先选择了大环肽(macrocyclic peptide)和小蛋白(mini-binder),而没有直接挑战完整抗体。团队在 7 个治疗相关靶点上进行湿实验,每个靶点最终测试 30 至 100 个设计。公司报告的大环肽命中率为 91%至 100%,mini-binder 为 10%至 64%,并获得了低纳摩尔乃至皮摩尔级 binder。

 ⁠

其中在环肽方面,Latent-X1 在三个靶点上的受测样品命中率达到 91%–100%,高于 RFpeptides 文献报告的 21%–38%,且在 MDM2 靶点的亲和力方面实现了更低的 KD 值。

RFpeptides 是华盛顿大学蛋白质设计研究所(IPD)开发的 AI 环肽设计方法,由 David Baker、Frank DiMaio 和 Gaurav Bhardwaj 三个实验室联合开发,可以理解为 RFdiffusion 面向环肽设计的延伸。

 ⁠

2025 年 12 月,Latent-X2 发布,目标是生成更接近药物的分子。

 ⁠

X2 可以输入指定表位,只生成关键结合区域,并把能力扩展到 VHH 和 scFv。团队对每个组合只测试 4 至 24 个设计,在 18 个靶点中的 9 个上获得成功,同时评估表达量、聚集倾向、多反应性、疏水性和热稳定性;部分代表性 VHH 还进行了人源供体的离体免疫原性实验。

•Agent 产品 Latent-Y

 ⁠

2026 年 3 月发布的 Latent-Y 是建立在 Latent-X1 和 X2 之上的 AI Agent。它把原本需要多位专业研究人员完成的蛋白质设计流程,封装成一个可以用自然语言操作的产品。Latent-Y 可以从自然语言目标出发,完成文献检索、靶点分析、表位选择、调用 X2 生成、计算验证和候选筛选。公司报告中,它在 9 个靶点里为 6 个找到了实验确认的 binder,为科研人员打造蛋白设计的“Cursor”。

 ⁠

按时间顺序排列的三家公司主要产品发布

 ⁠

Latent 的差异化下注

 ⁠

模态类型:环肽

 ⁠

从产品策略看,Latent 则先用大环肽与小蛋白展示生成模型的能力,再于 2025 年 12 月发布 Latent-X2,将设计范围扩展至 VHH 和 scFv 等抗体格式。环肽始终是这条产品路线中的重要组成部分。

 ⁠

环肽是近期比较热门的研发方向,它处在小分子与抗体之间的“中间地带”,容易进入细胞:它的接触面积大于传统小分子,因此有机会识别平坦的蛋白质相互作用界面,并有接近抗体的亲和力和特异性;环化又可能提高抗蛋白酶降解能力,可以作为口服、缓释药物。

 ⁠

比较出名的例子包括:

 ⁠

•强生与 Protagonist 合作开发的 icotrokinra,是一款靶向 IL-23 受体的口服大环肽药物,2026 年 3 月获美国批准用于中重度斑块状银屑病,预测峰值销售超 $50 亿。

 ⁠

•默沙东的 enlicitide ,一款靶向 PCSK9 的大环肽。2026 年 7 月获批,用于降低高胆固醇血症成人患者的 LDL-C,其 2033 年销售额预期超 $50 亿。

 ⁠

数据闭环:自建湿实验室

 ⁠

从 2024 年开始,Latent 便在旧金山运行湿实验室,并将实验验证作为模型研发的重要支点。从招聘信息可以看出,伦敦的 Computational Protein Designer 主要负责计算设计;旧金山的同岗位则额外要求较强的湿实验经验,需要亲自开展蛋白表达与纯化、生物物理表征和功能实验。

 ⁠

我们可以从 Latent X1 模型的实验论文了解内部实验平台的分工,以小型蛋白质结合物 mini-binder 为例,模型先为每个靶点生成约 2 万个设计,再根据预测结构选出 100 个候选进入实验,进入两条相互补充的验证路径:

 ⁠

•一条交给外部服务商 GenScript:先根据设计序列生产蛋白质,再用 BLI,检测它与靶点是否结合再进一步测量,确定结合强度及结合、解离的速度。

 ⁠

•另一条由 Latent 内部完成,采用的是哺乳动物细胞表面展示,简称 mDisplay。研究人员将编码候选蛋白的 DNA 导入细胞;随后加入靶蛋白,通过荧光信号观察候选是否成功展示、能否抓住靶点。

 ⁠

这套双重筛选方法,让研究人员能够在原理不同的结合检测平台上,交叉验证哪些候选真正命中了靶点。

在这里,Latent 的自建实验室与外部服务商是协同关系。DNA 合成、部分材料制备,以及蛋白质生产和仪器测量,仍然由外部机构承担;Latent 则将一部分验证环节放在内部,让计算设计人员能够更直接地接触实验结果。

 ⁠

如果说 X1 论文更像是在验证自己内部的实验能力,那么近期我们能看到公司在越发重视实验的迹象。2026 年 3 月,Latent 在旧金山招聘 Head of Lab Platform 与 Research Lab Scientist。希望招聘具有从零搭建实验室经验的人,进一步扩展现有的高通量实验、自动化和数据管理能力。在未来,Latent Labs 可能会把更多湿实验室环节放进内部。

 ⁠

携手 AWS 接入客户

 ⁠

2025 年 5 月,Latent Labs 与 AWS 宣布多年战略合作,覆盖模型训练与推理所需的云基础设施,以及面向生命科学客户的商业推广。Latent 提供生物生成式 AI 模型,AWS 则作为其首选云服务商提供算力支持。Latent 使用 Amazon SageMaker HyperPod 扩展计算资源,支撑模型研发和客户使用;同时借助 AWS 的合作伙伴网络与市场拓展支持,触达更多药企、生物技术公司和科研机构。

 ⁠

Latent 旗下模型也接入了 Amazon Bio Discovery 平台:这是 AWS 于 2026 年 4 月推出的 AI 药物研发应用,目前主要面向早期抗体发现。平台将生物 AI 模型、科研助手和外部实验服务整合到同一个工作环境:科研人员可以选择模型并评估候选分子,再将选定候选交给合作实验室测试。

 ⁠

该平台已公布的早期采用机构包括纪念斯隆凯特琳癌症中心(MSK)、拜耳、Broad Institute、Fred Hutch Cancer Center 和 Voyager Therapeutics。

 ⁠

 ⁠

03.

Why now

 ⁠

De novo design:从创造分子到 RSI

 ⁠

传统结合物发现的流程需要:

 ⁠

1.先准备一个非常大的真实分子库;

 ⁠

2.用噬菌体展示、酵母展示、动物免疫等方式做实验筛选;

 ⁠

3.从百万到十亿级候选中找到少量结合者;

 ⁠

4.再做亲和力成熟、特异性和成药性优化。

 ⁠

而 De novo design(从头设计) 彻底改变了研发的起点:研究者可以先指定靶点、结合位置和功能要求,再设计满足这些条件的新序列,将自然界中原本不存在的分子纳入药物发现。只合成模型排名最高的一小批。

 ⁠

AI 最明显的突破是压缩早期结合物发现的时间和实验规模。传统抗体发现采用动物免疫等路线,获得初始结合物通常需要数月;之后还要完成候选优化和临床前开发。参考药明生物的公开材料,DNA-to-IND 阶段的典型周期为 6–15 个月,对应$500 万- 800 万。

 ⁠

同样类比早期发现环节,Chai-2 针对 52 个抗原,每个靶点、每种抗体格式测试不超过 20 个设计,报告约 16% 的候选级结合命中率,并在一半靶点上获得至少一个结合物;从计算设计到湿实验验证,用时不足两周。

 ⁠

通过对蛋白生成设计发展的观察,我们可以看到:

 ⁠

从模型能力到工作流编排,再到干湿实验闭环,竞争正向完整研发流程延伸。随着基础预测能力正在快速开源化,Latent 与 Boltz 纷纷发力 Agent 编排与工作流,希望争夺成为这个领域的操作系统。下一阶段,差异化可能更多来自能否有效连接计算设计与实验验证,让实验结果持续反馈到下一轮设计中。

 ⁠

药物发现的未来,将逐步走向智能科学的 RSI:lab-in-the-loop 是实现这一愿景的重要基础。它将湿实验室接入AI的设计与决策循环,让每一轮实验既筛选候选,也为下一轮探索提供信息,从而以更低的总成本、更短的时间,获得足以支持项目推进或终止的可靠证据。而在结合物设计阶段,更容易形成闭环,相较于药物研发的后续环节,这一阶段的实验环境更可控,评价终点更明确,反馈周期也更短。分子结合主要取决于两个分子表面在形状和化学性质上的互补,并受到明确的物理规律约束。这些特征使结合物设计更容易形成“设计—实验—反馈—改进”的循环。

 ⁠

专利断崖正在发生,AI 加速新/旧靶点的开发

 ⁠

药物研发长期承受反摩尔定律的压力:Eroom’s Law 最初描述的是的 1950 年至约 2010 年间,每十亿美元研发投入对应的新药产出大约每九年减半。而AI可能是有潜力逆转这个趋势的技术。

 ⁠

而另一个大趋势是药企的专利断崖正在发生,根据 Evaluate 预测,我们即将迎来下一个专利到期的高峰。2026-2032 年,累计有超过 5000 亿美元销售额可能面临专利过期的风险,药企需要寻找下一个大药物。

 ⁠

专利断崖会迫使大药企更积极地采用 AI 技术、投资 AI 公司、与 AI 公司合作。Isomorphic、Chai、Boltz 近期接连签下大订单,背后都有大药企面对专利断崖、需要新管线的驱动因素。而具体看,AI 带来的机会集中在两个方向:

 ⁠

1.大量未开发靶点迎来重新开发的机会

 ⁠

药企长期积累了大量尚未完成的研发项,这些未被开发的机会远比已经上市的药物多。2024 年的一项系统研究估算,在人类 19,813 个蛋白编码基因中,约有 4,729 个可能被生物药调控,但只有 755 个已经成为获批药物的靶点。即便只看曾经进入临床开发的靶点和疾病,约 170 万种潜在的“靶点—适应症”组合中,也只有 2.5% 被实际探索过。

 ⁠

过去,药企很难系统性地重新检查这些项目,而蛋白生成模型的出现,给了研究人员大量开发难成药靶点的机会。Isomorphic Labs 与 Novartis 最初围绕 3 个高难度靶点合作,一年后又增加了最多 3 个项目,说明大型药企已经开始把真实的早研问题交给 AI 平台。

 ⁠

2.AI 做 me-better /best-in-class 的机会

 ⁠

AI 可以针对这些已验证靶点,设计出更好的分子,AI 可以探索传统方法覆盖不到的序列空间,可以找到完全不同的结合模式,实现跨越式改进。另外,AI 蛋白设计本质上是高维搜索和优化。老靶点已经积累了大量结构、突变、药理和临床数据。问题因此从开放式的生物学探索,变成了一个边界清晰的分子优化任务。

 ⁠

生物医药领域特殊的行业结构,也为多家企业一同创造价值提供了空间。专利保护使任何成功创新有机会获得持续回报,而不同疾病、治疗机制和患者群体又形成了多个独立的市场。企业既可以通过 first-in-class 开辟新的治疗路径,也可以通过 me-better/best-in-class 在疗效、安全性或用药便利性上建立优势。因此,一家公司即使只在有限的治疗领域取得突破,也可能通过自主销售、授权或并购实现较大价值。

 ⁠

因此,这是一个极其长坡厚雪的赛道,一条条成功的管线则是这个领域可被验证的节点。

 ⁠

下一个大制药公司可能在 AI 发现平台中诞生

 ⁠

全球药企每年约有 3,000 亿美元研发支出,其中,top 25 家药企约花费 1760 亿,占全球约 61%,头部集中度高的特性。其中临床前部分约占到研发支出的 15%,大约占到每年 450 亿。这 450 亿美元构成了 AI 药物发现最直接的第一层预算池。如果 AI 能够避免临床前阶段 20%–40% 的低价值试错,对应每年约 90 亿至 180 亿美元的经济价值。

 ⁠

AI发现平台的长期上行,来自将药物发现转化为一种能够持续积累、重复产出新资产的研发能力。一个分子的设计和筛选成本,只是项目总投入的一部分。如果靶点选择、疗效或安全性问题直到临床阶段才被发现,此前投入的时间和资金便可能难以收回。AI如果能够更早识别高风险项目,提高进入临床项目的平均质量,其经济价值会显著超过减少几轮筛选实验。

 ⁠

历史上,新一代平台型药企的出现,往往都发生在一次科学突破被工程化、工业化的窗口期。重组 DNA 技术催生了 Genentech;受体陷阱蛋白和全人抗体工程平台支撑了 Regeneron;核苷修饰和递送技术促成了 Moderna。AI 与这些技术的不同之处在于,它不是一种单独的治疗模态,而是一套可以横跨小分子、抗体、蛋白质和核酸的发现基础设施。因此,它理论上能够支撑的管线宽度更大,平台的上限也可能更高。

 ⁠

目前而言,最接近下一代制药公司的是 Isomorphic Labs,公司在 2024 年与 Lilly、Novartis 的合作,首付款分别为 4,500 万和 3,750 万美元;另有分别最高 17 亿和 12 亿美元的条件性里程碑,以及销售分成。

 ⁠

 ⁠

04.

竞争格局

 ⁠

目前在大分子领域,最为突出的竞争者分别是前 OpenAI、Meta FAIR 研究者 CEO Joshua Meier 创立的 Chai Discovery 和从 MIT Jameel Clinic 研究项目发展出来的 Boltz。他们的路线差异具体如下:

 ⁠

•Chai Discovery:专注抗体,Enterprise-first,强调模型性能和大药企深度部署。

 ⁠

•Boltz:专注开源模型 + API 的收费逻辑,主打全模块。让 Claude/Codex/ 药企内部 agent 组合工作流

 ⁠

•Latent Labs:环肽路线,拥有湿实验室。目前与 AWS 合作负责分发,在客户方面走 Chai + Boltz 的混合路线。

 ⁠

技术

 ⁠

尽管缺乏 head-to-head 数据直接对比,但从三家公开实验中,我们可以看到各家的侧重点有所不同:

 ⁠

•纳米抗体与小蛋白模态更像是 AI 的低垂果实,是各家开始时共同选择的方向,但仍处早期方向。

 ⁠

•小分子与抗体类药物目前最成熟成药最多,都有数千亿美元的规模。但可能面临 Isomophic 的竞争。

 ⁠

•Chai 从一开始就专注抗体领域,目前属于领先地位。

 ⁠

•环肽是近期较热门的新兴方向,且这个赛道目前 Latent 暂时领先。

 ⁠

商业化

 ⁠

Chai 是三家中合作最成熟、交易结构最清晰的,已经进入了大药企正式部署阶段。其特点是定制模型路线,利用制药公司的专有数据,并深入适配其工作流。Chai 已公开宣布与五家独立药企合作,且年度订单费用高达中八位数美元。根据测算,其年度订单规模可能已经高达 2 - 3 亿美元。

 ⁠

而 Boltz 走的是开源 + 基础设施路线,Boltz-1、Boltz-2 和 BoltzGen 形成了三家里最深的开放模型栈,产生明显的学术与产业分发。目前累计超过 500 万下载、被超过 10 万科学家和 1000 家公司使用,并覆盖前 20 的制药公司。公司已经推出 API 产品,与 Claude Science、Benchling、Phylo 等工具和平台的集成,作为其他科研平台的底层能力供应商。

 ⁠

在费用方面,参考 Boltz 对 BoltzMol-1 的描述,一个小分子从靶点到实验验证的初始hit,计算加实验预算约为 10,000–15,000 美元,耗时 3–8 周。收费量级相比闭源合作类型少了一到两个量级。

在商业合作方面,Boltz 获得了三家的医药公司合作订单,但跟 Chai 的模式不同的是,Boltz 并不保留平台开发产生的化合物所有权,因此更多扮演一个工具属性。

 ⁠

潜在范式竞争:Anthropic

 ⁠

Anthropic 是目前大模型公司中最看重 AI for Science 的,正通过大量科研实验和人才招聘进入生命科学领域。

 ⁠

在最近一次蛋白质设计实验中,Claude 根据操作手册自主查阅资料、制定设计策略,并调度专业模型生成和筛选候选分子,再由 Adaptyv Bio 和 Twist Bioscience 进行湿实验验证。

Claude 成功编排了多个开源蛋白质设计模型,生成了具有高成功率和高亲和力的结合剂。报告显示,整体结合命中率为 26.8%,15 个靶点中有 14 个获得结合分子。

 ⁠

这里 Claude 负责理解研究目标、选择设计策略并调度工具;具体到生成骨架、设计序列和预测复合物,仍由专有模型完成。从竞争格局看,通用模型公司与专业模型公司也可能形成上下游合作。通用 Agent 可能可以成为专业模型的分发入口。

 ⁠

另外,Anthropic 最近更新了一则招聘招聘企业发展负责人,主要职责为发掘并执行与 AI 原生生命科学公司的收购、投资和战略合作。说明 Anthropic 希望通过收购强化在生命科学中的地位。

 ⁠

 ⁠

 ⁠

05.

团队与融资

 ⁠

以 AlphaFold 为班底的核心团队

 ⁠

•Simon Kohl|创始人兼 CEO

 ⁠

早期在德国卡尔斯鲁厄理工学院(KIT)学习物理,随后在德国癌症研究中心与KIT开展医学影像机器学习博士研究。加入DeepMind后,是AlphaFold 2的核心研发成员之一、Nature论文同等贡献作者,参与了神经网络架构与训练开发。他还开发了广泛使用的结构置信度预测机制pLDDT,起并共同领导DeepMind的蛋白质设计团队。

 ⁠

•Paul F. Jaeger|Head of AI

 ⁠

现任 Latent Labs AI 负责人。此前在 Google DeepMind 参与面向药物研发的大语言模型研究,是 TxGemma 的关键贡献者,并参与将大语言模型用于单细胞分析的研究。更早在德国癌症研究中心完成博士研究并领导交互式机器学习团队,是医学影像分割框架 nnU-Net 的共同一作。

 ⁠

•Alex Bridgland|创始技术成员

 ⁠

曾参与 DeepMind 的 AlphaFold 1、2、3,积累了跨多代蛋白模型的研发与工程经验。他是 AlphaFold 2 Nature 论文的同等贡献作者,主要参与数据、分析与推理系统开发。加入 Latent 后,与 Simon Kohl 共同搭建最初的机器学习代码库,并参与 Latent-X 的模型架构、预训练方法及数据流程开发,是公司早期模型与工程系统的重要建设者。

 ⁠

•Stefan Oschmann|战略顾问

 ⁠

曾任德国默克集团 Merck KGaA CEO,拥有大型医药与生命科学企业的管理经验。2025 年 12 月宣布其担任 Latent Labs 战略顾问。

 ⁠

除此之外,团队还有两名曾在 David Baker 团队的研究人员,以及专注实验平台与内部湿实验室设计的多名科学家。

 ⁠

融资历程

 ⁠

Latent Labs 最新一轮为 2025 年 2 月 天使轮 + A 轮融资 5000 万美元。A 轮由 Radical Ventures 与 Sofinnova Partners 共同领投,早期投资方包括 8VC、Kindred Capital 和 Pillar VC。天使投资人则包括 Google 的 Jeff Dean、Transformer 论文共同作者 Aidan Gomez,以及 ElevenLabs 联合创始人兼 CEO Mati Staniszewski。

 ⁠

相比之下,Chai Discovery 的融资节奏最快、规模也最大。从 2024 年 9 月的约 $3,000 万种子轮起,公司在不到两年内连续完成 A、B、C 三轮融资,累计融资约 $6.3 亿。2026 年 7 月的 C 轮融资金额为 $4 亿,估值达到 $38 亿,由 Index Ventures 领投,Kleiner Perkins、Sequoia 等参与;OpenAI 和 Thrive Capital 则是其早期投资方。

 ⁠

Boltz 仍处于更早期阶段,于 2026 年 1 月完成 $2,800 万种子轮融资,估值为 $1.25 亿。投资方包括 Zetta Venture Partners、Amplify Partners、a16z 和 Factorial Capital,个人投资者包括 Hugging Face 联合创始人兼 CEO Clément Delangue。

 ⁠

⁠⁠⁠

作者卡片

编辑卡片

⁠⁠⁠

延伸阅读

Astra 的 Computer Use 能力是如何实现的?⁠

Astra 的 Computer Use 能力是如何实现的?

›

2 万亿美元的 Anthropic 值不值得买?⁠

2 万亿美元的 Anthropic 值不值得买?

›

DeepSeek Harness 是自进化 Agent 的基石⁠

DeepSeek Harness 是自进化 Agent 的基石

›

Claude Tag 可能是一个 10x Claude Code 级别的产品⁠

Claude Tag 可能是一个 10x Claude Code 级别的产品

›

无法蒸馏的美国市场,谁在分食 Frontier Labs 百亿美金数据预算?⁠

无法蒸馏的美国市场,谁在分食 Frontier Labs 百亿美金数据预算?

›

跳转微信打开

  •  
❌