铃阅时讯
❌

阅读视图

HARTS:面向长程 Agentic RL 的混合注意力前缀共享训练系统

蚂蚁技术AntTech 2026-11-17 13:12 浙江

长程 Agent 在执行任务时,需要反复读取此前的操作和环境反馈。训练样本也常包含这些累计历史:如果每个样本都独立计算完整输入,同一段前缀就会重复参与前向和反向计算。

HARTS 为混合注意力模型提供前缀共享训练,在微批次内合并相同前缀的计算,并在同一共享窗口内跨连续微批次复用前缀结果。各条轨迹仍分别计算自己的训练目标。在所测配置下,HARTS 的训练更新吞吐为逐轨迹非共享计算方案的 4.77–10.45 倍;这一指标不包含轨迹采样耗时。

1

同一段交互历史,为什么会重复计算

以代码修复为例,Agent 读取代码、修改实现、运行测试,再根据报错继续尝试。每次作出新决策时,模型都需要读取此前的操作和环境反馈,输入上下文也随之增长。这些交互记录构成训练轨迹。Agent 强化学习(Agentic RL)利用这些轨迹及其任务反馈更新模型参数。

图1|代码修复中的多轮交互、子任务协作和分支探索。

主 Agent 可以把定位、检索或验证委派给子 Agent,再根据返回结果继续决策。某条路径受阻时,也可以回到中间节点,尝试其他方案。无论沿同一路径继续,还是从中间节点探索不同分支,都可能产生包含相同历史的训练样本。

两种样本构造方式可以说明这种重复。Step-wise RL 按交互步骤构造样本,每个样本包含截至该步骤的累计上下文;Tree-Step RL 进一步从同一段历史探索不同分支,再沿各分支按步骤构造样本。因此,前后步骤之间、不同分支之间都可能存在相同前缀。

例如,两个样本分别包含“A→B”和“A→B→C”。独立训练这两个样本时,前缀“A→B”会计算两次。如果还能从“A→B”探索出另一条后续路径,这段前缀就会再次重复计算。共享历史越长、包含它的样本越多,重复计算就越多。

将具有相同 token 前缀的样本合并,就能把它们组织成一棵或多棵前缀树。这里的共享依据是完全相同的输入前缀。Agent 通过摘要或截断缩短上下文后,需要根据变化后的输入重新判断共享关系。

2

混合注意力模型共享前缀时,难在哪里

Ling-3.0 系列中的 Tiny 和 Flash 采用混合注意力 MoE 架构,在同一模型中交替使用线性注意力(KDA)和全注意力(MLA)。要共享前缀,这两类注意力需要的历史信息都必须正确传递。

全注意力读取历史 token 的 Key/Value(KV)。 KV 由该层输入投影得到,可以在调用注意力内核前准备好。支持前缀树的内核可以让各分支读取祖先路径上的 KV,并通过一次调用处理这些分支。

线性注意力依赖前序计算积累的递归状态。 本文采用的分块线性注意力内核要求,每条独立序列的起始状态必须在调用开始前准备好。如果某个分支需要的状态要在当前调用中才能算出,它就必须等这次调用结束,才能以独立序列启动。

图2|线性注意力的分支启动时间受起始状态约束。A→B 连续执行,C 作为独立序列启动;即使分叉位于允许恢复状态的块边界,C 仍须等待所需状态从调用中返回。下半部分展示分叉位于块内时的状态恢复要求。

一种直接的实现是沿树逐节点调用内核,等父节点计算结束后再启动子节点。但树节点的片段可能很短,每次调用能处理的工作较少,也难以把不同路径上的工作集中执行,因而限制 GPU 执行效率。

此外,分支状态需要保持原轨迹的分块计算方式;各条轨迹的梯度、标签和损失权重也必须正确保留。前缀复用还会改变各微批次的实际计算量,多卡负载因而需要重新安排。HARTS 将这些问题放在同一套训练流程中处理。

3

HARTS 如何组织共享训练

HARTS 在两个范围内复用前缀计算。

  • 微批次内共享。 一个微批次是一次训练更新中分批处理的一组样本。在微批次内,相同前缀只保留一份 token 表示,各分支继续计算自己的后续内容。这种去重后的 token 排列称为紧凑布局。

  • 跨微批次共享。 同一数据并行(DP)副本上的连续若干微批次组成一个共享窗口,进一步复用前缀结果。这里的共享限于同一次训练更新内。

HARTS 将窗口内的计算组织为两类微批次:producer 集中处理共享前缀,consumer 对应各个原始微批次,继续计算剩余部分。

设窗口内有 m 个 consumer,分别持有前缀树 T₁,…,Tₘ。系统先对这些树两两取交集,再将所有交集组织成 producer 的前缀树:

这里,交集表示两棵树从根开始完全相同的 token 路径,并集则将这些公共路径组织成一棵前缀树。producer 既包含所有 consumer 共有的前缀,也包含部分 consumer 之间更长的共享前缀。例如,三个 consumer 都共享 A,其中两个还共享 A→B,producer 就会计算 A→B:三个 consumer 都复用 A,其中两个进一步复用 B。

图3|上半部分展示微批次分组、共享窗口和数据并行副本的安排。各窗口以共享前缀 A 为例,同一副本上的连续微批次复用 A。下半部分展示微批次 MB0 中未缓存部分的执行过程。条带长度和调用轮次仅作示意。

整个流程分为四步:

  1. 分组与放置(L1/L2):决定哪些轨迹组成微批次、哪些连续微批次共享前缀,以及各微批次由哪个数据并行副本执行。

  2. 规划线性注意力调用:分别为共享前缀和各微批次的剩余部分制定计划,连接可以连续执行的片段,并打包起始状态已就绪的独立序列。

  3. 按紧凑布局执行:全注意力、线性注意力和 Dense/MoE 层沿同一份 token 排列计算,避免在层与层之间重新展开轨迹。

  4. 按原轨迹计算损失:从紧凑输出中取出各轨迹位置对应的目标 token 对数概率,结合各自的标签、损失权重和强化学习元数据计算损失与统计量。

前向时,不同路径复用共享前缀的结果;反向时,先汇总各路径对共享部分的梯度,再完成共享部分的反向计算。

4

两级规划:减少重复计算,安排多卡负载

把具有相同前缀的轨迹集中执行,通常能减少重复计算;但如果把过多工作分给同一个数据并行副本,其他副本就可能等待。微批次还必须满足容量限制。

缓存进一步改变了负载:即使两个微批次的原始输入长度相近,缓存命中较多的一个也可能只需计算少量新内容。因此,规划器需要同时考虑轨迹如何分组、微批次如何排序和放置,以及共享之后还剩多少工作。

图4|L1 通过分组减少微批次内的重复前缀计算;L2 调整放置,增加跨微批次复用。交换 MB1、MB2 的位置后,DP0 上的 MB0、MB2 可以复用 A,DP1 上的 MB1、MB3 可以复用 B。图中各微批次的轨迹成员保持不变,条带长度仅作示意。

L1:优先减少微批次内的重复计算

L1 根据实际输入的 token 序列构建前缀树,比较不同微批次数量和成员划分得到的方案。将轨迹按 token 字典序排列后,可以利用相邻轨迹的最长公共前缀(LCP)计算各分组去重后的 token 数。

如果把共享长前缀的一组轨迹拆到不同微批次中,这段前缀就需要分别计算。因此,分组数量和切分位置都需要考虑,不能只看微批次数。

为了衡量副本之间的工作量,系统把各副本按执行顺序编号后,对应的第 j 个微批次合称第 j 个 slot。L1 按优先级依次比较三个指标:

  1. 所有微批次去重后的 token 总数。

  2. 各 slot 内最重副本的工作量之和。

  3. 各副本累计工作量中的最大值。

后一个指标只在前面的指标相同时起作用。

L2:按复用后的工作量调整放置

L2 进一步调整微批次所属的副本、slot、执行顺序和共享窗口,也会在局部重新分配完整轨迹。

producer 从窗口内所有 consumer 共有的前缀出发,进一步纳入部分 consumer 之间更长的共享路径。这些路径组成 producer 的前缀树,其中不同分支可以供不同的 consumer 子集复用。

L2 分别估计各 slot 中 consumer 的前向、反向成本,以及各窗口中 producer 的前向、反向成本。对每一项成本,先取所有副本中的最大值,再将这些最大值相加,作为方案的瓶颈成本评分。

这样评估,是因为只比较各副本的累计工作量会漏掉局部瓶颈:某个 slot 仍可能受最慢副本限制,而且前向和反向的最慢副本可能不同。

成本估计同时考虑 token 数和全注意力中 Query 与可见 Key 的配对数量;可见 Key 包括祖先前缀缓存中的 KV。规划器在有限数量的候选方案中,优先降低瓶颈成本,再比较实际执行的 token 行数和副本负载差异。

在推理与训练共用 GPU 的部署中,CPU 上的 L1/L2 规划还可以与从推理切换到训练时的权重交换并行执行,从而减少可见的规划开销。

前缀成本与两级规划目标

去重后的 token 数

设微批次 M 中的轨迹按 token 字典序排列为 x₁,…,xₖ,|xᵢ| 表示轨迹长度。先计入第一条轨迹的全部 token,再依次计入后续轨迹相对于已有前缀新增的后缀,得到:

令 W(a,b) 表示第 a 至第 b 条轨迹合组后去重的 token 数。如果在第 t 条轨迹之前切成两组,新增的 token 计算量恰好等于 xₜ₋₁ 与 xₜ 的最长公共前缀长度:

L1 的目标与候选搜索

L1 依次比较所有微批次的去重 token 总数、各 slot 内副本最大工作量之和,以及各副本累计工作量中的最大值:

只有前一个指标相同时,才比较后一个指标。

对于小规模输入,L1 在给定的微批次数量范围内,利用动态规划寻找满足容量限制的最小总工作量划分;搜索限于 token 字典序中的连续区间。

令 F[k,e] 表示前 e 条轨迹分成 k 个连续分组时的最小总工作量。枚举最后一组的起点 s+1,可得到:

递推只考虑满足 0≤s<e、W(s+1,e) 不超过微批次容量,且前驱状态可行的切分位置。初始状态为 F[0,0]=0,不可行状态的代价设为正无穷。候选微批次总数须能被数据并行副本数整除,使各副本获得相同数量的非空微批次。

对于大规模输入,L1 通过合并和拆分生成候选方案。此外,基于前缀树的贪心方法还会生成非连续分组候选。

上述动态规划仅保证给定组数下、字典序连续划分的总工作量最小。合并拆分、非连续分组和放置使用启发式方法;各类候选最后统一按 L1 的三个指标比较。

L2 的瓶颈成本

公式用 C、P 分别表示 consumer 和 producer,用 F、B 分别表示前向和反向;w、j、d 分别是共享窗口、slot 和数据并行副本的索引。

各 slot 的 consumer 瓶颈成本为:

各窗口的 producer 瓶颈成本及总评分为:

每项成本由实际执行的 token 行数 n 和全注意力计算量共同估计:前向使用因果可见的 Q–K 配对数量 A,反向使用 Q–K 矩形面积 R:

A、R 根据各片段的 Query 长度及其可见的祖先和当前 KV 范围计算。在模型与后端固定时,成本估计使用固定系数。已由 producer 完成并缓存的注意力及 Dense/MoE 计算,只计入 producer 成本,不在 consumer 中重复计入。

规划器选择已考察的可行方案中评分最低的一个。该成本模型不直接预测通信、线性注意力重放以及流水线窗口交叠的影响。

5

线性注意力:恢复分支状态,减少串行调用

分组和共享范围确定后,系统还需要恢复各分支的起始状态,并安排线性注意力的调用顺序。

从正确的边界恢复状态

本文采用的线性注意力后端按固定大小的块(chunk)执行。若分叉位于块内,直接用父片段末尾的状态启动独立分支,会改变原轨迹的分块计算方式。

HARTS 从原路径上最近一个允许恢复状态的块边界启动,再重复执行边界至分叉之间的状态更新;这一过程称为重放。每条独立旁支的重放长度小于一个块,且只执行线性注意力核心的状态更新。投影和局部卷积结果直接复用。

将状态已就绪的分支放进同一轮

HARTS 将没有分叉的连续路径合并为一个片段。片段由树的分叉位置划分,与后端固定大小的 chunk 不是同一概念。

一次打包调用(packed call)可以处理多条长度不同的独立序列,每条序列都可以跨越多个 chunk。每个分叉最多选择一个子分支直接延续父片段,其余子分支必须作为独立序列启动。如果它们所需的状态在当前调用中才产生,就必须等调用结束后再启动。

以 chunk 大小为 64、主链上有两个分叉为例:

  • 第一个分叉位于第 63 个 token 之后。 旁支所需的恢复起点是调用前已有的零状态,因此可以重放前 63 个 token,与主链在同一轮启动。

  • 第二个分叉位于第 65 个 token 之后。 旁支需要第 64 个 token 之后的边界状态,而该状态在第一轮中才会产生。因此,它必须等到第二轮,重放第 65 个 token 后再继续。

在这个例子中,第一轮执行主链和第一个旁支,第二轮执行第二个旁支,两轮即可完成。

图5|第 63 个 token 后的分叉可以使用已有零状态,第 65 个 token 后的分叉需要等待新边界状态。分叉恰好位于第 64 个 token 之后时,虽然不需要重放,独立旁支仍须等该边界状态返回后才能启动。条带长度仅作示意。

每个分叉选择哪个子分支直接延续,会影响整棵树的串行调用轮数。直接延续 token 最多的分支,并不一定最优:较短的分支也可能包含更多需要等待新状态的分叉。

HARTS 根据状态在调用前是否就绪,为每棵子树计算最少调用轮数,再构造逐轮执行计划。计算轮数和构造计划的时间,都与片段及树边数量成正比。

最少调用的结论限定在本文采用的执行模型内:旁支从最近的合法边界恢复,每个非重放输出只计算一次,调用中新产生的状态只能在返回后供其他独立序列使用。在这些条件下,算法使每层线性注意力的串行调用次数达到全局最少,既定的重放总量保持不变。

即使去重后的 token 数相同,不同的调用粒度和调用轮数也会带来不同的执行效率。实际吞吐仍取决于模型、输入和并行配置,后文用消融实验衡量其收益。

最少调用轮数的递推、计划构造与完整案例

状态边界与两种入口条件

设共享前缀长度为 p、chunk 大小为 B,最近一个允许恢复状态的边界为:

片段 v 对应原轨迹区间 [sᵥ,eᵥ),其入口恢复边界记为 aᵥ=a(sᵥ)。算法为每个片段记录两个值:

  • Tpre(v):入口边界状态在当前调用前已就绪时,完成整棵子树所需的最少轮数。

  • Tin(v):v 直接延续父序列、入口边界状态在当前调用中才产生时,完成整棵子树所需的最少轮数。

两者都计入当前轮。叶子片段没有后续分叉,即使跨越多个 chunk,也只需要一轮调用。

轮数递推

在 Tin 情形下,选择子节点 o 直接延续父序列时,o 无需额外等待;其余子节点要到下一轮才能独立启动。因此:

式中的 o、u 均为片段 v 的子节点。内层 max 表示直接延续子树与全部旁支中较晚的完成时间;外层 min 选择使完成轮数最少的直接延续子节点。

当且仅当入口状态在调用前已就绪,且 eᵥ<aᵥ+B 时,旁支仍可使用已有的入口边界状态,在本轮启动。此时:

其他情况下,Tpre(v)=Tin(v)。这里必须使用严格小于号:当 eᵥ=aᵥ+B 时,旁支虽不需要重放,但所需的新边界状态仍在当前调用中产生。

从叶子向根递推这些值,即可得到整棵树的最少调用轮数。固定直接延续子节点后,整棵子树不可能早于直接延续部分和旁支中最晚完成的一侧结束。上述安排能够达到这个下界;再对直接延续子节点取最优选择,即可逐层证明递推最优。

根的零状态在第一轮前已存在。若一个微批次包含多棵独立树,各树同一轮的序列可以一起打包,因此总轮数等于各树所需轮数的最大值。

构造执行计划

以根节点的最少轮数作为初始轮数预算。若旁支可以在同一轮启动,记等待量 δ=0;若必须等待下一轮,则记 δ=1。当前子树的剩余预算为 k 时,旁支可使用的预算为 k−δ。

候选直接延续子节点 o 的完成轮数必须不超过 k:δ=0 时使用 Tpre(o),δ=1 时使用 Tin(o)。其他子节点的 Tpre 均须不超过 k−δ。按固定顺序选择第一个满足条件的子节点,即可在不增加全树轮数的前提下,使用非关键子树中剩余的轮数预算。

最终计划为每条独立序列记录起始轮次、初始状态来源和重放范围,并标记需要导出的边界状态。同一轮的序列合成一次变长打包调用。运行时,各层直接执行固定计划,无需重新规划。

保存子节点 Tpre 的最大值和次大值,可以避免反复扫描兄弟节点。递推时,每个子节点只访问常数次;构造计划时,每条树边也只访问常数次,因此两步的时间复杂度都是线性的。

重放总量

每个内部片段只有一个直接延续子节点,其余子节点都需要重放 eᵥ mod B 个祖先 token,因此总重放量为:

deg(v) 表示片段 v 的子节点数,求和只遍历内部片段。这里的 R 表示重放 token 总数,与两级规划成本公式中表示 Q–K 矩形面积的 R 含义不同。

选择哪个子节点直接延续不会改变重放总量。该规划不通过从更早边界重放多个 chunk,或重复计算片段输出来减少调用轮数。

案例:36 个片段如何组织成三轮调用

这个示例包含 36 个片段,chunk 大小为 64。颜色表示调用轮次,粗实线表示直接延续,虚线表示独立启动;r 表示需要重放的 token 数。

连接可以直接延续的片段后,36 个片段组成 19 条独立序列,再根据状态就绪时间分为三轮调用:

  • 第 1 轮:5 条独立序列,重放 26 个 token。

  • 第 2 轮:13 条独立序列,重放 340 个 token。

  • 第 3 轮:1 条独立序列,重放 7 个 token。

一轮可以同时执行多条独立序列,因此第二轮的 13 条序列只需要一次打包调用。三轮合计重放 373 个 token,用于恢复线性注意力状态,不产生额外训练输出。

在这份计划中,C12 直接延续 C10。旁支 C13 需要等待第二轮返回边界状态,才能在第三轮重放 7 个 token 并继续执行。因此,串行调用轮数由状态依赖决定,不能直接用片段数量代替。

6

紧凑执行:共享计算,

但是保留各轨迹的训练信号

HARTS 共享相同前缀的模型计算,同时按原轨迹保留标签、优势估计、动作掩码和损失权重。各条轨迹仍按自身的训练目标计算损失,并将梯度贡献汇总到对应的共享计算。

调用计划确定 token 在内存中的排列后,全注意力、线性注意力和 Dense/MoE 层都沿同一份紧凑布局执行,各算子的输出也写回对应位置。

全注意力的 Query 来自当前计算片段,KV 则包含其祖先路径和当前片段。各 Query 只能访问原轨迹中允许访问的历史位置,以保持因果关系。局部卷积所需的历史 token,也从对应的祖先路径中补齐。

跨微批次共享时,producer 缓存模型主体层的前缀结果及后续所需状态。各 consumer 读取缓存,计算主体层中尚未缓存的部分,再将两部分结果按本微批次的紧凑布局组合起来。随后,每个 consumer 分别执行模型输出层并计算自己的训练目标。

图6|producer 计算共享前缀树 A→{B,C}。MB0、MB1 复用 A/B,分别新算 X、Y;MB2、MB3 复用 A/C,分别新算 Z、W。四个 consumer 分别执行输出层,计算训练目标 ℓ₀、ℓ₁、ℓ₂、ℓ₃。对缓存结果的梯度按读取关系累加到相应共享接口,全部汇总后,共享部分只执行一次反向。

共享隐藏状态,也要保留不同的标签和权重

在分叉位置,同一个隐藏状态可能对应不同分支的下一个目标 token。例如,一个分支的目标是 A,另一个分支的目标是 B。两者可以使用同一份全词表预测分数(logits),但需要分别取出 A、B 对应的对数概率,再计算各自的损失。

HARTS 为每个紧凑 logits 向量计算一次归一化项,再根据各轨迹位置的目标 token,取出对应的对数概率。因此,全词表 logits 不必按原轨迹位置重复复制;反向时,各位置的梯度贡献累加到对应的紧凑 logits 行。

优势估计、动作掩码(action mask)、旧策略及参考策略的对数概率,以及损失权重,仍按各原轨迹位置分别保留。即使目标 token 相同,优势估计或权重不同,也会产生不同的梯度贡献。因此,不能把一份策略损失直接乘以复用次数。

按原轨迹位置计算对数概率

令 m(s) 表示原轨迹位置 s 映射到的紧凑 token 行,yₛ 表示该位置的目标 token,z 表示 logits。该位置的目标 token 对数概率等于目标 logit 减去整个词表的 log-sum-exp 归一化项:

同一紧凑行的归一化项只需计算一次。不同轨迹位置仍分别读取各自目标 token 的 logit,并结合各自的优势估计、动作掩码和损失权重计算损失。反向时,再将这些位置的梯度贡献累加到对应的紧凑行。

正确汇总状态梯度和 MoE 统计

线性注意力算子在分块递推过程中导出计划需要的边界状态。反向时,各分支对起始状态的梯度累加后,沿计算图回传到生成该状态的计算。跨微批次共享也遵循同一原则:相关 consumer 的梯度全部汇总后,共享前缀只执行一次反向。

MoE 路由损失和专家负载统计,还需计入每个紧凑 token 在原始样本中的出现次数。在确定性 top-k 路由、且不丢弃 token 的条件下,相同隐藏状态只需进行一次路由和专家计算,再按其出现次数恢复路由损失权重和专家负载统计。

全层激活重计算沿用固定执行计划,重建相同的状态依赖,以及共享窗口内的梯度累积关系。

7

流水线调度:减少共享窗口之间的等待

流水线需要同时调度 producer 和 consumer:producer 先计算共享前缀,consumer 再读取结果并继续执行;producer 的反向则必须等待相关 consumer 的梯度全部汇总。

1F1B 是流水线中交替安排前向和反向的调度方式。在这里,前向 F、反向 B 的计数单位都是 consumer。共享窗口还包含 producer 的前向 PF 和反向 PB。

在每个流水线阶段,PF 安排在本窗口第一个 consumer 的前向之前,PB 则合入本窗口最后一个 consumer 的反向。PF、PB 不单独占用 consumer 的调度计数,但仍有实际计算开销。

满足这些依赖后,相邻窗口可以交叠执行:下一窗口的 PF 可以在上一窗口的 PB 完成前启动。假设新 PF 已完成,新 consumer 的前向与旧窗口的反向都可以执行,此时有两种顺序:

  • 反向优先:新 PF → 旧 B+PB → 新 F。

  • HARTS:新 PF → 新 F → 旧 B+PB。

两种顺序都满足计算依赖。反向优先会使新 F 延后,下游阶段也要更晚才能收到新的前向结果。HARTS 保持既定的 consumer 1F1B 顺序,先完成计划中的新 F,再处理旧窗口反向。

图7|PF、PB 表示 producer 的前向和反向,F、B 表示 consumer 的前向和反向。图中的 PP0 先执行下一窗口的 PF_____B 和 F₃,再执行旧窗口的 B₂+PB;PF_____B 的下标 B 表示窗口名称。下方细条展示窗口资源的保留时间,本例中只有 PP0 同时保留两个窗口的资源。事件列只表示执行顺序,不表示实测耗时。

窗口交叠期间,尚未完成反向的共享接口及其梯度连接必须保留。规划器限制同时保留计算图的 producer 数量,各流水线阶段在完成对应 PB 后释放资源。

8

实验:吞吐提高多少,训练表现如何

实验在推理与训练共用 GPU 的模式下,测试 Ling-3.0 Tiny 和 Flash 两种混合注意力 MoE 模型,总参数量分别为 7.9B 和 124B,使用 8–64 张 H20-3e GPU。实验使用 BF16、全层激活重计算和 partial rollout;两种方案均关闭 dropout。

Baseline 按照非共享的方式计算完整输入;各组对比使用相同的模型、输入和并行配置。

本文的训练更新吞吐,是所有数据并行副本上的原始轨迹 token 总数,除以一次完整训练更新的耗时。同一前缀在多个样本中出现时,每次出现都分别计数。计时包含规划、数据准备、布局转换、前向、反向、通信和优化器更新,不包含轨迹采样(rollout)。排除预热阶段后,对其余所有训练步的逐步吞吐取算术平均。

完整系统:训练更新吞吐为 Baseline 的 4.77–10.45 倍

图8|五组配置下,Baseline 与 HARTS 的训练更新吞吐,单位为 tokens/s。

在 Tree-Step RL 下,三组配置的吞吐结果分别为:

  • Tiny、8 卡:从 43,745 提高到 208,492 tokens/s,为 Baseline 的 4.77 倍。

  • Flash、32 卡:从 31,414 提高到 262,560 tokens/s,为 Baseline 的 8.36 倍。

  • Flash、64 卡:从 59,612 提高到 496,616 tokens/s,为 Baseline 的 8.33 倍。

在 Step-wise RL 下,两组配置的吞吐结果分别为:

  • Flash、32 卡:从 30,993 提高到 318,893 tokens/s,为 Baseline 的 10.29 倍。

  • Flash、64 卡:从 59,922 提高到 625,990 tokens/s,为 Baseline 的 10.45 倍。

这些结果展示了完整系统在所测模型、GPU 规模及两种采样方式下的收益。下面分别考察规划、线性注意力执行和流水线调度的作用。

两级规划:减少重复计算,安排多卡负载

实验使用历史训练第 0–9 步的轨迹数据,离线展示两级规划的作用:L1 通过微批次内的前缀压缩减少重复计算,L2 进一步利用跨微批次共享,并安排共享后的多卡负载。评估指标包括规划后的 token 计算量和副本负载分布,不直接测量 GPU 吞吐。

十份输入共包含 16,170 条轨迹记录、435,034,818 个原始 token。规划使用 8 个数据并行副本,微批次容量为 65,536 个 token。

图9|压缩比为原始 token 总数除以共享后仍需计算的 token 总数。

L1 在微批次内合并重复前缀,取得 5.588× 的压缩比;按 token 数衡量的整体负载均衡指标为 98.62%。

L2 在此基础上复用跨微批次的共享前缀,并按复用后的工作量安排多卡执行。完成两级规划后,整体压缩比达到 7.543×,不计重放的 token 计算量在 L1 的基础上进一步减少 25.91%,整体负载均衡指标为 97.59%。

这里的均衡指标只按 token 数统计。L2 规划实际负载时,还考虑全注意力的 Q–K 配对计算量,优化的是共享后的瓶颈成本。

线性注意力执行:相同压缩比,也有不同吞吐

图10|Tiny、8 卡、Tree-Step 配置下,Baseline、逐树节点执行线性注意力、HARTS 的吞吐分别为 43,745、104,642 和 208,492 tokens/s。逐节点方案与 HARTS 的规划、跨微批次共享及其他组件相同,微批次内压缩比均为 3.91×。

逐节点方案本身已经共享前缀。仅将线性注意力从逐节点调用改为按轮打包,吞吐就达到逐节点方案的 1.99 倍。这说明,去重后的 token 数相同,执行效率仍可能有明显差异。

整体加速还受到跨微批次复用、算子执行效率和流水线调度的共同影响,因此不能用微批次内的压缩比直接限定整体吞吐加速比。

流水线调度:窗口交叠之外,执行顺序也有影响

流水线消融使用相同的微批次与共享窗口规划,仅改变任务执行顺序,分别衡量窗口交叠和 consumer 调度顺序的贡献。

图11|Tiny、8 卡、Tree-Step 配置下,仅改变流水线调度方式。窗口依次执行为 167.7k tokens/s;窗口交叠、前后向均可执行时优先反向为 190.4k;HARTS 保持 consumer 1F1B 顺序,为 208.5k。HARTS 相对前两者分别提高 24.3% 和 9.5%。

数值一致性与在线学习趋势

数值一致性(Tiny)。 在三种并行配置下,HARTS 与 Baseline 的逐 token 全词表 logits 平均余弦相似度均超过 0.9997,差异接近 Baseline 自身重复运行时的波动。

在线训练(Flash)。 在 SWE-bench 和 τ³-Bench banking 上,Baseline 与 HARTS 的 Flash 实验在观察的 150 步内均呈现稳定的 reward 学习趋势。

图12|Baseline 与 HARTS 均使用 Flash,展示训练至第 150 步的 reward。浅色曲线表示每步 reward,粗线表示 7 步中心滑动均值。

研究论文:HARTS: A Prefix-Sharing Training System for Agentic RL with Hybrid-Attention Models。

arXiv:https://arxiv.org/abs/2608.28158

END

跳转微信打开

  •  

期待和你们一起,用 AI 解决最值得的问题

蚂蚁技术AntTech 2026-11-13 17:22 安徽

这两周,我们在杭州、北京举行了两场学术 Open Day 活动,邀请来自北京大学、清华大学、浙江大学、北京邮电大学、上海交通大学、华中科技大学等高校的百余位优秀学生走进蚂蚁,与技术团队及学术界专家面对面交流,围绕 AGI 前沿探索、技术应用、人才成长等话题展开讨论。

参加本次活动的同学是蚂蚁集团“蚂蚁星”和“Plan A”两项人才计划的候选人。

——————

“蚂蚁星”是我们面向全球学子的 AI 顶尖高潜人才发展计划,支持同学们从具体的技术岗位起步,在实践中发挥所长,逐步拓展长期发展空间。“Plan A”则以解决人工智能领域的世界级难题为目标,围绕现阶段的六项研究课题,寻找研究和工程能力与课题相契合的青年人才,支持他们在各自擅长的领域持续深耕。

——————

当 AI 技术快速发展,什么样的问题值得长期投入?如何让最前沿的研究走进真实世界?

蚂蚁集团副总裁、首席技术官何征宇分享了蚂蚁在 AGI 方向上的布局与思考。他表示,蚂蚁持续投入基础模型、智能体、具身智能等前沿方向,希望让技术在真实场景中不断历练,探索智能的上限。

“真实世界中才会碰到真实的问题,才会碰到真正长尾和难的问题。”何征宇认为,技术突破与真实问题的牵引相辅相成。以医疗健康为例,未来的 AI 不仅要回答医疗问题,还要探索结合长期健康数据,更早识别和预测健康风险。

从蚂蚁阿福到灵光,从百灵大模型到具身智能,蚂蚁正在探索让更强的智能进入医疗健康、金融、生活服务等更多场景,让技术进步与真实需求相互推动。

如何让先进的模型能力真正被更多人使用?蚂蚁百灵大模型负责人周俊分享了团队对“智效比”的思考。

“做模型的使命不是为了刷新某个榜单,而是解决真实的问题。”周俊认为,大模型从实验室走向真实世界,不仅要追求更强的智能,还需要解决成本、可靠性和专业性等问题,让模型能力真正服务于更多人。

而这也是杭州、北京两场学术对话中,专家们共同关注的话题。

浙江大学求是讲席教授、蚂蚁技术研究院顾问沈春华认为,AI 自我改进仍是需要学术界和产业界共同探索的领域,技术变革是一个持续的过程,重要的是培养适应变化的能力。上海交通大学教授、上海交通大学—蚂蚁智能多媒体联合实验室主任宋利则指出,AI 越强,人越需要具备判断和验证的能力。

中国人民大学高瓴人工智能学院教授、副院长窦志成认为,未来人们更需要具备定义问题、验证结果和主动拥抱变化的能力,“你应该知道什么时候跟它说 NO。”北京大学数学科学学院助理教授、蚂蚁技术研究院顾问吴磊则强调,即使有了强大的 AI 工具,人也不能脱离实际问题和具体细节,需要保持独立思考与实践的能力。

技术在不断变化,如何找到真正有价值的问题,又如何培养能够解决这些问题的人才?

何征宇在现场谈到,Plan A 不只是一个招聘项目,更是一项面向未来的人才培养计划。“蚂蚁绝对不会因为花高价聘请了一两位顶尖程序员而成为一家科技公司,而是要看到底培养了多少顶尖人才。”

他认为,技术人才的成长需要更长的周期,也需要有挑战性的问题来牵引。蚂蚁希望让更多优秀人才在解决难题的过程中不断成长。


在已经加入蚂蚁的“蚂蚁星”和“Plan A”同学身上,我们也看到了他们各自的选择与成长。

今年从南京大学毕业的孙同学,曾在 LAMDA 实验室研究持续学习和多模态大模型,如今加入百灵多模态团队,从事 Coding Agent 相关研究。

谈起为什么选择蚂蚁,他提到了感兴趣的研究方向、对团队发展潜力的判断,以及面试交流中感受到的理念契合。

加入团队后,他也发现了学术研究与产业实践的不同:“在学校,研究问题和评测方式往往已经明确;而现在,除了考虑怎么解决问题,还需要思考技术能否真正满足用户需求。”

同样希望研究成果走进真实生活的,还有蚂蚁阿福团队的张同学。此前,他主要研究大语言模型、智能体及搜索场景下的强化学习。毕业时,他也获得了其他公司的工作机会,但最终选择了更贴近医疗健康应用的阿福团队。

“我更希望自己的工作或者作品能被更多人使用。” 如今,他参与医疗模型的相关训练,探索如何提升模型的专业能力。他期待未来 AI 能够成为人们的健康管家,帮助更多人了解和管理自己的健康。

欧阳同学的选择则源于此前在蚂蚁的研究经历。

他曾在腾讯、商汤、微软等多家科技公司实习,但最终选择了蚂蚁。“我觉得我自己做的最好的论文是在蚂蚁。” 在他看来,这里的团队氛围让他能够专注做自己真正感兴趣的研究。

加入蚂蚁的第一年,他在蚂蚁技术研究院探索交互式图像编辑、视频生成等前沿方向。第二年,团队将灵波世界模型这一更具挑战性的项目交给了刚毕业不久的他负责。从带着几名实习生做研究,到带领团队参与全球前沿技术竞争,他坦言,这个变化让自己既兴奋又有压力。

经过一两周的调研和考虑,他最终接受了挑战,并与团队一起推动灵波世界模型的发布和持续迭代。

回顾这段经历,他也想对研究者们说:“不要怕做选择。 在快速变化的 AI 时代,比起不断追逐新的热点,更重要的是找到自己真正想做的事情,并努力把它做好。”

有人希望探索新的技术方向,有人期待研究成果真正帮助用户,也有人在这里获得了独立承担重要项目的机会。这些不同的选择,也让我们看到了人才成长的更多可能。


除了技术挑战,大家同样关心,自己将在怎样的环境中研究、工作和成长。

“前面讲了很多技术、模型、AI,让我们先回到人。”蚂蚁集团副 CPO 张爱娟在北京站分享了蚂蚁的组织文化和人才观。她介绍,蚂蚁一直强调开放透明、简单互信、求真务实,希望创造一个让大家充分交流、相互信任、专注做事的环境。

面对 AI 带来的变化,张爱娟说,过去的人才观中“聪明”排在前面,而现在,“我们自己觉得第一位是乐观”。 她认为,乐观、自省、聪明和皮实依然重要,同时也更加需要成事的决心、开放的心态和持续学习的能力。

在她看来,“创新不是最底层的核心,背后真正的驱动力是大众用户的需求”。 从支付到医疗健康,蚂蚁持续投入技术创新,希望解决的始终是普通人日常生活中的真实问题。

活动临近结束时,张爱娟和何征宇为现场同学送上了一份特别的礼物——蚂蚁森林的种子,寄托着对大家成长的期待。

普通人的日常,值得世界级的研究。我们希望和更多志同道合的伙伴一起,在真实世界中发现问题、研究问题、解决问题,让前沿技术的每一次进步,都能为普通人的日常带来更多改变。

跳转微信打开

  •  

论文秀Live #49 | CCS 2026 论文解读:从全同态加密的函数自举,到 Web 应用的隐藏攻击面

蚂蚁技术AntTech 2026-11-11 12:04 浙江

同态加密与 Web 安全,看似两条不同的技术赛道,却在 CCS 2026 上共同指向一个问题——如何在计算与防护之间找到更高的效率。本期论文秀带来两项研究:解耦 TFHE 函数自举:将密文转换与查找表(LUT)求值分离,让同一输入密文复用于多个目标函数,在拓展自举功能的同时显著提升计算效率;SemScanner 语义感知黑盒扫描:借助大语言模型理解页面功能、推理用户交互,在 20 个真实 Web 应用中发现 59 个此前未知的零日漏洞,两场分享带你直击数据加密与漏洞挖掘的最新边界。

论文一

Decoupled TFHE-type Functional Bootstrapping

解耦的TFHE函数自举

函数自举(Functional Bootstrapping,FBS)能够在刷新密文的同时完成查找表(LUT)求值,是全同态加密中的重要技术。在现有 TFHE 构造中,目标 LUT 被嵌入累加器的初始状态,随后通过盲旋转实现函数求值。这种耦合限制了部分自举变体的计算效率与功能扩展。本文提出一种高效的 TFHE 型解耦函数自举方法(DFBS),将函数自举分为密文转换与外积计算两个独立阶段。密文转换仅需一次盲旋转,即可将 LWE 转换为 RGSW;随后通过外积实现降噪与函数求值。利用密文转换与 LUT 求值之间的独立性,本文进一步改进多种 TFHE 自举变体。对于全域函数自举,提出仅需一次盲旋转的构造,并进一步支持多值自举与加密 LUT。对于多输入函数自举,提出两种基于树结构的方法,其中外积树将盲旋转树所需的盲旋转次数由指数增长降为线性增长,并可进一步改造为 CMux 树,以高效处理输入规模更大的函数。对于高精度自举,通过整合同态数位分解与多输入自举,消除多输入自举中的冗余盲旋转,从而降低计算开销。

论文二 

Uncovering Hidden Attack Surfaces in Web Applications via Semantic-Aware Black-Box Scanning

SemScanner:通过语义感知的黑盒扫描发现 Web 应用隐藏攻击面

黑盒扫描器是发现 Web 应用漏洞的重要工具。然而,现代 Web 应用广泛采用动态客户端渲染,许多请求只有在特定的用户交互后才会触发。这些请求及其潜在漏洞构成了隐藏攻击面,而传统扫描器缺乏对应用语义的理解,难以探索和测试这部分功能。

为此,我们提出语义感知的黑盒扫描系统 SemScanner。其利用大语言模型理解页面功能、推理用户交互任务,并通过智能体执行任务,发现隐藏请求。在此过程中,SemScanner 构建 Web 应用语义图,将页面功能、交互任务与请求及其上下文关联起来,并据此指导漏洞检测智能体开展有针对性的测试。在 20 个真实 Web 应用上的评估中,SemScanner 发现了 59 个此前未知的零日漏洞,数量接近最强基线的三倍。所有漏洞均已通过负责任的方式披露,并获分配 CVE 编号。

论文亮点聚焦

1

密文转换与函数求值解耦:使同一输入密文的转换结果可复用于多值自举、全域自举、电路自举及摊销自举等变体,在拓展自举功能的同时提升计算效率。

2

以应用语义理解驱动黑盒扫描,发现隐藏请求及其潜在漏洞

本期论文秀Live特邀两位论文作者,分享各项工作的设计思路、验证过程与落地经验。

李智豪——蚂蚁技术研究院助理研究员

梅付坤——清华大学博士研究生

直播观看指南

直播速约,锁定前沿!

⏰ 观看时间:2026年11月12日 18:00-19:00

👀 观看平台:微信视频号【蚂蚁技术研究院】、【蚂蚁技术AntTech】、B站【蚂蚁技术研究院】同步直播,敬请预约关注!

跳转微信打开

  •  

LingBot-Touch 触觉基础模型正式开源,为通用大脑接入“手感”

蚂蚁技术AntTech 2026-11-10 14:16 重庆

今天,蚂蚁灵波正式开源面向灵巧操作的触觉基础模型 LingBot-Touch,为机器人的通用大脑补齐关键的触觉感知能力。

基于近 5000 小时真实触觉数据预训练,LingBot-Touch 覆盖磁触觉、视触觉和压阻式三类主流传感原理,可将不同信号转化为同一套触觉表征,让积累的“手感”能够跨传感器、跨灵巧手、跨模型和跨任务复用。在 26 项真机测试中,接入这一表征后,四种动作模型的平均任务成功率较无触觉时提高约 14 至 26 个百分点。

此前,蚂蚁灵波 LingBot 系列模型已构建起覆盖高精度空间感知、高动态环境交互与可泛化灵巧操作的全栈技术体系,让机器人看得更清楚、想得更明白、干得更利索。此次 LingBot-Touch 将通用大脑的感知能力延伸到“指尖”,让机器人“摸得更灵敏”,具身原生通用大脑能力再提升。

看清之后,

为什么还需要“摸得灵敏”?

在真实物理世界中,机器人每执行一步动作,都需要感知物体和环境的变化,再修正下一步动作。许多精细操作里,看清物体的位置、把手伸到正确的地方,并不意味着任务就能顺利完成。接触之后受力是否合适、物体是否滑移,仅靠视觉往往难以判断。

以拧瓶盖为例,深度信息可以帮助手指对准瓶盖。但开始转动后,瓶盖可能已经松动,也可能是指腹沿着盖壁打滑。这两种情况在画面中相似,却需要不同的动作调整。指尖的接触位置、受力大小及其变化,成为动作模型的重要判断依据,而这些信息往往被手指和物体遮挡,视觉难以获得。

为了验证触觉表征对真实操作的帮助,蚂蚁灵波在 Sharpa Wave 和 XHand 两款灵巧手上进行了 26 项真机测试,涵盖翻书页、拧瓶盖、辨识麻将牌等精细操作。接入 LingBot-Touch 后,LingBot-VLA、π0.5、Diffusion Policy 和 T-Rex 四种动作模型的平均任务成功率,较无触觉时提高约 14 至 26 个百分点。

其中,在 T-Rex 控制 Sharpa Wave 拧瓶盖的任务中,不使用触觉时的成功率为 56.25%,直接输入传感器原始信号时为 62.5%,接入 LingBot-Touch 的触觉表征后,成功率达到 90%。

这一系列真机实验表明,高质量触觉信息输入可以为机器人动作成功率带来显著提升。

统一触觉表征,

跨灵巧手、跨模型复用

给机器人装上触觉传感器,并不等于它就能用好触觉。商用触觉传感器整体仍处于较早的发展阶段,视触觉、磁触觉、压阻式等路线各有优势和局限。面向不同成本和使用场景,多种路线可能长期并存。

更棘手的是,同样一次接触,在不同传感原理和触点布局下,会形成不同的原始信号。如果模型只学会解读其中一种,更换传感器或灵巧手后,已有的数据和触觉经验就可能难以复用,需要重新采集、训练和适配。

蚂蚁灵波的思路是,让触觉理解摆脱对特定传感器物理信号的依赖,使不同来源的数据能够共同用于训练,让积累的触觉能力跨灵巧手和跨动作模型复用。

为此,LingBot-Touch 按传感原理分别设置编码入口,先处理不同的原始信号,再将不同布局的触点映射到统一的指尖坐标空间。共享模型学习接触位置、受力及其随时间的变化,输出统一的触觉 Token——供不同动作模型使用的触觉表征。

在这一架构下,人戴触觉手套和遥操作灵巧手采集的数据可以共同用于训练,不同动作模型也可以利用训练好的模型提取接触特征。这一架构还为未来接入新类型的触觉传感器留出了扩展空间。

在 XHand 上,蚂蚁灵波进一步验证了触觉能力的跨硬件复用。XHand 采用的磁触觉传感器型号并不在预训练数据中,模型学到的磁触觉经验全部来自人戴手套采集的数据。换到这只灵巧手后,蚂蚁灵波保持 LingBot-Touch 参数不变,只用 XHand 的操作示范训练动作模型。

LingBot-Touch 提供的是位于触觉传感器和动作模型之间的通用感知能力,而不是某一硬件或某一策略的专用模块。本次测试接入了四种不同动作模型,不绑定蚂蚁灵波自研的 LingBot-VLA 模型。传感器和灵巧手厂商可以根据成本与任务需求选择硬件,整机团队可以保留自己的动作策略,减少更换硬件与算法组合时重新开发触觉能力的重复投入。

为兼顾感知能力与端侧算力,蚂蚁灵波提供了两种容量的模型。此次 26 项真机测试全部使用约 530 万参数的轻量版 LingBot-Touch-Tiny 完成。接入 LingBot-VLA、π0.5 和 T-Rex 后,模型参数量仅增加约 0.13% 至 0.16%。

容量较大的版本 LingBot-Touch-Small 在感知测试中表现出进一步提升的潜力:当预训练数据增至近 5000 小时时,模型仍能从新增数据中获益,说明触觉预训练还有持续扩展提升的空间。

坚持具身原生,

持续探索物理操作泛化性

GPT-6 Astra、Claude Fable 5.2 为代表的数字世界大模型的进展,赋予了机器人更强的复杂任务推理能力。但要真正跑通物理操作闭环,物理操作泛化性仍然绕不开,需要具身基础模型的不断突破。

在通用大模型加速演进的时点,LingBot-Touch 的发布正是蚂蚁灵波对“具身原生”路线的持续投入和笃定 —— 不同于面向数字信息的多模态范式,机器人身处真实物理世界,信息从传感器来,作用到环境中去,既需要理解深度这类空间感知信息,也需要处理触觉、力觉、温度等接触感知模态。模态输入的质量,很大程度上决定了动作输出的质量。

未来,蚂蚁灵波将继续坚持“具身原生”的技术主张,从真实物理世界的需求出发,探索物理操作泛化性的新上限,打造跨构型的机器人行业通用大脑,推动视觉、深度、触觉等更多物理模态在统一模型中对齐,并在推进商业化的同时持续向社区开源开放。

跳转微信打开

  •  

4B跑赢Jev:LemonDecider模型权重与训练数据全开源

蚂蚁技术AntTech 2026-11-09 09:19 浙江

LemonDecider:当问题和候选项已经明确时,能够直接给出程序能够执行的结论。

在开发Agent、搜索或者客服系统时,我们常常需要先解决一个比“生成回答”更具体的问题:用户这句话是什么意图?现有信息够不够?下一步该调用哪个工具?

这类问题,下游系统通常不需要一篇长分析,它需要一个明确、能直接交给程序使用的判断结果。

围绕这个需求,蚂蚁AI安全实验室发布并开源了LemonDecider 4B。它基于 Qwen3.5-4B,专门面向决策判断任务。

在Decision Index 0.4.1的Public评测中,这个4B的模型拿了61.67分,比Jev 1.14的60.7分还高一点。同时,LemonDecider推理耗时极低,在完整的约14万条评测数据上,其中位数推理耗时只有50.7ms。

评测分数是一个参考,但我们更想说的是开源:这次我们把决策训练样本、模型权重,以及训练和评测代码都开放了。据我们查阅的公开资料,在该榜单上超过Jev 1.14的模型中,LemonDecider是第一个公开全部决策训练样本的模型。

不写长答案,直接给结论

拿售后场景举个例子。用户发来消息:“商品收到后损坏,希望尽快处理。”这时候系统可能要判断三件事:这是什么类型的工单?信息够不够处理?该调用哪个工具?

用传统的生成式模型,你得让它先写一段分析,再从中提取答案。但LemonDecider的思路不一样——既然下游要的就是这几个判断结果,何必绕弯子呢?所以我们把接口设计得更直接:给它背景信息、列出你想问的问题,它按问题返回选择、概率或评分。如果同一段背景下有好几个问题,只要长度允许,也可以一起扔进去,一次计算就能拿到对应的结果,不用每道题都单独生成一遍。

LemonDecider目前支持三种输出形式:

你想让模型做什么

问题类型

示例

从候选项中选择

choice

这条请求应交给哪个工具?

做一个是或否的判断

noul

当前资料是否足以回答问题?

按给定档位评分

score

这段检索内容与问题有多相关?

表1:仅为接口用途的示例,具体效果需结合自己的任务测试验证

对开发者来说,这样的好处是接口清晰:问题、候选项、结果都一一对应,程序直接读结果就行,不必再从一段开放式回答里猜测模型到底选了什么。

120 万条数据,练的是什么?

要让模型做好判断,光练一种选择题肯定是不够的。它得见过不同的背景、问题和判断标准才行。

LemonDecider的模型规模一直保持在 4B。这次从v2到v3,我们把训练数据从约62.6万条扩展到了1199692条独立样本。这些样本来自287个上游数据集,覆盖864个任务标签:有常识推理、自然语言推断这样的基础任务,也包括用户意图、核实证据、识别内容风险等更贴近实际应用的场景。

任务

示例

理解请求

识别用户意图,判断该交给哪个工具或服务

检查信息

判断证据能否支持结论,回答中是否存在缺乏依据的内容

筛选内容

评估检索相关性,识别情感倾向、安全风险或有害内容

处理细节

判断一条评论对不同方面的态度,或者从候选步骤中选出下一步

表2:贴近实际应用的判断场景示例

这些数据原本散落在不同地方,格式也不一样。我们把它们整理成统一的结构:背景信息、一个问题、候选项或评分标准,再加上训练目标。这样一来,开发者不用为每个数据源单独写适配逻辑,就能从自己关心的任务入手开展训练。

关于数据构建,我们有两个坚持

一是尽量保留原始监督信号,而不是让另一个大模型重新生成答案。在这约120万条样本中,有61057条保留了软标签,占比约5%。如果原始标注里就有分歧,比如七成标注者选A、三成选B,我们就保留这个分布,而不是强行压成一个“标准答案”。

二是控制不同来源的数据配比。我们为不同数据来源设置了数量上限,避免少数大数据源占掉大部分训练份额,同时还进行了跨来源去重、评测样本指纹排查、答案泄漏检查和输入长度检查。

统一数据格式,但保留使用边界

公开数据中,每一行只对应一个问题(包含 id、state、question、target 和 label 五个字段),原始的多问题分组信息没有保留。如果你想训练“同一背景下连续判断多个问题”,得自己设计分组方式。

另外,这是一份混合来源的数据集,不是所有数据都能无条件商用。随附的row_licenses.jsonl按行标注了来源和许可:约66.2%可商用,31%的商用许可尚不明确,2.8%限非商用。实际使用前,记得核对对应的上游条款。

不只开源模型,也开放训练和评测方法

说实话,我们在做LemonDecider的时候也踩过坑:想借鉴别人的模型,却很难找到完整的训练数据;知道模型分数很高,但不知道它到底学了什么,更不用说从头复现。

所以这次,我们不只放出模型权重,也把训练数据、训练和评测代码一起开放。希望大家不仅能试用模型,也能从数据和训练流程入手,根据自己的场景调整。比如,你可能更关心工具选择而不是情感判断,或者想补充某个垂直领域的数据,可以在现有数据和代码的基础上开始继续尝试。

需求

操作说明

模型权重与建模代码

查看实现,运行本地推理或部署服务

训练数据与训练代码

从基座模型开始训练,尝试自己的数据组合

评测脚本与结果记录

检查模型表现,对照不同版本的变化

配套配置与运行说明

了解各版本使用的数据、训练方式和推理入口

表3:本次开源内容说明

v3版本除了数据量变多,我们还引入了多问题联合训练,以及多个检查点的权重平均和温度校准。所以这一轮提升不单纯是“堆数据”的效果。

怎么上手?

如果你想快速体验的话,可以下载 v3 发布仓库,按说明准备好环境,再使用仓库中的示例请求运行本地推理:

CUDA_VISIBLE_DEVICES=0  python code/infer.py --input examples/request.json

如果想通过 HTTP 接入,可以先启动服务:

CUDA_VISIBLE_DEVICES=0 bash code/serve.sh

然后在另一终端运行基础检查:

python code/smoke_test.py

模型使用的是自定义代码,运行前记得看仓库说明。重新训练和完整评测也需要相应的环境和计算资源,不是下载后就能直接跑完。

目前,服务只支持文本输入,每块上限为8192个位置(包含模板)。如果多个问题合在一起超长,服务会自动拆分,每块保留完整背景和选项,最后合并结果。如果连“完整背景+一个问题”都放不下,它会直接报错拒绝,不会悄悄截断。 需要注意的是,拆分意味着多次计算,并不是所有请求都能一次前向搞定。

如果暂时不打算部署模型,也可以先从数据入手:挑你关心的任务,看看样本质量和许可信息,再决定怎么加入自己的训练流程。

欢迎带着具体问题来试用

LemonDecider并不是一个什么都能聊的通用助手,我们希望它做好一件更具体的事:当问题和候选项都很明确的时候,给出程序能直接使用的判断结果。

接下来,我们会继续补短板、改数据质量,更新模型和复现说明。也欢迎大家带着真实任务来试——哪些判断它能做好,哪些场景还不行,喂了自己的数据之后又会有什么变化。这次把模型、数据和代码一起开放,也是希望这些问题能更方便地被验证、讨论和改进。

END

跳转微信打开

  •  

SEE Conf 2026|创造力复兴,从你我开始

蚂蚁技术AntTech 2026-11-05 11:25 重庆

AI 正在缩短“想到”与“做到”之间的距离:把生活中的小需求做成应用,把专业经验变成更多人可用的服务,把想象中的场景变成可以走入、互动的世界。曾经受限于技能、成本与协作条件的构想,开始有了实现的机会,一个人的创造,也可以成为另一个人的新体验。

文艺复兴以人文主义重新强调人的价值、潜能与创造力。SEE Conf 希望借鉴这种“回到人”的思想,把目光投向每一个具体的人:你希望表达什么、解决什么问题、做出怎样的作品?当 AI 拓展了我们的能力,生活与工作又能因此发生怎样的变化?

这正是 SEE Conf 2026 的主题——创造力复兴。

大量生成不等于创造繁荣,技术突破也不会自动成为好体验。体验科技的价值主张:以人为出发点,以科技拓展创造的边界,把创造的增量转化为你我能够感受到的体验价值。

“你和我”既是创造者,也是体验者。创造的增量,为体验科技打开了更大的空间:我们可以改善已有的体验,也有机会创造过去没有的体验。

今年,我们把模型前沿、产品创新、工程实践与开源协作放在一起,回答一个问题:如何让更多人把构想做出来,并被他人真实地使用。

主论坛:创造力复兴

主论坛从“创造力如何涌现”出发,连接模型能力、产品判断、终端体验与开源协作,讨论 AI 如何帮助更多人跨越专业、成本与协作的门槛,把构想变成产品、内容与服务。

创造更容易之后,真实需求的判断、作品的价值和使用者的感受,成为更值得追问的问题。我们希望通过主题分享、关键发布与圆桌对话,把能力的进步与人的需要连接起来:更多人能够做产品之后,怎样让更多人从中受益?

「AI 创新体验」专题

专业设计经验可以成为更多人可调用的创作能力,AI 可以从回答问题走向帮助用户完成交易,人与智能体的交流也可以更自然地融入日常。这些探索,让“你和我”在创造者与体验者之间形成新的连接。

从灵光、智能体支付到 QMuse、TaoDesign,本专题将结合一线产品与工程实践,讨论如何拓展个人与团队的能力,把新的构想变成值得使用的作品与服务。

「卓越 AI 工程实践」专题

一个原型走向日常使用,需要持续面对效果、质量、效率、时延与成本的考验。让 AI 参与更多研发工作,也需要让执行过程可理解、结果可验证,让人在目标、风险与关键决策上保持掌控。

本专题围绕 Coding Agent、上下文工程、Harness、评测与持续演进,结合 Personal Agent、线上 Badcase 治理、工具链与客户端工程的实践,探讨如何把个人能力的拓展转化为团队的可靠交付。工程能力的进步,将让更多想法有机会成为可持续使用的产品,也让创造者能够继续改进自己的作品。

「AI 新交互与多端」专题

用自然语言搭建一个可游玩的世界,通过对话理解数据,让 AI 跨页面、跨设备完成任务,或在同屏与语音交流中获得服务——新的交互方式正在拓展人们创造和使用软件的可能。

本专题从图形创作、数据分析、浏览器、小程序到研发工作台与实时多模态交互,探索人与 Agent 共同参与时,工具与界面应当如何演进。我们关注意图能否被准确理解、任务能否顺畅推进,以及人在需要时能否查看、调整和接管,让跨端与多模态能力转化为自然、可用的体验。

「SEE Next」专题

一个普通人从生活中的小需求出发,做出产品并获得第一个用户的好评;非技术同学把灵感变成可上线的应用;Agent 开始在团队中理解背景、主动跟进。这些具体的尝试,让“创造力复兴”有了可以看见的人与作品。

我们仍处于这一轮 AI 变革的早期,许多产品形态与协作方式尚待探索。SEE Next 将从个人创造、应用创作到组织协同,分享真实的实践与不同的视角,给新的创造一次被看见、被使用、被共同改进的机会。

特邀嘉宾

好玩有趣:互动展台与乐队演出

参与展台互动、打卡,赢大会专属礼品!

996 x 万塘路 18 号 x 无共识 x RichBand x 草台班子 乐队大联欢,为大会带来松弛而热烈的音乐现场。

会议基本信息

让我们一起相约 SEE Conf 2026,创造力复兴,从你我开始。

早鸟票福利持续发放中,点击下方小程序或阅读原文即可抢票!

阅读原文

跳转微信打开

  •  

软件形式化验证,正在迎来规模化的可能

蚂蚁技术AntTech 2026-10-30 14:10 浙江

30 秒看懂本文

在近期结束的软件工程顶会 ISSTA'26 和 ASE'26 上,蚂蚁技术研究院发表了大模型辅助 Rust 形式化验证的论文,KaPilot 和 KVerus,其中 KaPilot 荣获 ISSTA'26 Distinguished Artifact Award。两款工具都已开源,并应用在星绽(Asterinas)OS 内核验证和 Rust 标准库验证上。

10月20日, PHP 爆出两个远程代码执行漏洞。同一天 Node.js 也发布安全更新,一口气修了 10 余个漏洞。近期还有 GitLab、LiteLLM、eMudhra HTTPS证书、Nginx 爆出安全漏洞。AI 让漏洞挖掘变得更容易,加速了漏洞利用武器化。漏洞层出不穷,网络安全工程师们疲于应对。我们需要更强的手段,确保代码没有漏洞,软件形式化验证可以提供这种保证。

与此同时,AI 在数学自动定理证明方面的能力正在快速进步。10月初,OpenAI 一口气发布了 700 多篇数学手稿,归为 372 个成果类别,其中一部分成果配有 Lean 形式化证明。这表明 AI 已经有进行大规模数学研究和数学形式化验证的能力。而软件形式化验证,与数学形式化验证紧密相关。

正如过去能够进行数学研究的人凤毛麟角,懂得软件形式化验证的人也寥寥无几。技术门槛高,验证周期长,使软件形式化验证一直被困在学术圈中,只有在真正安全攸关的应用,如航空航天的系统软件中得到应用。现在随着 AI 在自动定理证明方面能力达到大规模自动化的水平,软件形式化验证,可能即将进入大展身手的时代。

回顾 PHP 和 Node.js 近期公开的漏洞,其中有些漏洞属于内存安全漏洞,比如涉及 PHP Runtime 的 Use-After-Free 漏洞,和 Node.js 的 Brotli 解码器的 Out-of-Bounds Write 漏洞。如果用 Rust 这类内存安全语言实现,能大大缓解安全问题。Rust 在当下 AI 辅助 Coding 的热潮中,越来越受到青睐。但如果代码使用了 Unsafe Rust(编译器无法保证内存安全),或者代码存在其他逻辑错误,则不能仅依赖语言的安全特性,还需要使用形式化方法做进一步的验证。

因此,蚂蚁技术研究院着重研究如何利用大语言模型,使 Rust 形式化验证实现规模化。

01

KaPilot-验证Unsafe Rust代码的内存安全性

Rust 通过严格的所有权与借用检查机制,在编译期解决了许多内存安全问题。但是,在需要访问底层硬件、优化性能或与 C 语言交互(FFI)时,开发者往往仍需使用 Unsafe Rust。因此,需要对 Unsafe Rust 代码进行形式化验证,确保其没有内存安全漏洞。

KaPilot 是一个基于 Kani 的智能体工作流。Kani 是一种主要基于模型检验(Model Checking)技术的 Rust 代码形式化验证工具。模型检验是形式化验证领域最成熟的技术之一,其三位奠基者因该技术在芯片、软件及安全关键系统验证中的重要贡献,获得了 2007 年图灵奖。Kani 尤其适合验证 Unsafe Rust 代码的内存安全性。随着工具的不断演进,Kani 也逐步引入函数契约、循环不变式等演绎验证机制,增强了对程序功能正确性的验证能力。

KaPilot 由五个 Agent 分工,完成安全需求提取、验证用例构建、规约生成、语义预检和形式化验证:

  • 从文档中提取安全要求:SafetyReq Agent 主要依据代码文档的内容,整理出结构化的安全需求,以文档需求为准,避免依据错误的代码生成错误的规约。

  • 生成验证用例:HarnGen Agent 通过对代码进行静态分析,生成 Kani 所需的验证用例(Proof Harness)。

  • 对规约进行预检:SpecPrecheck Agent 检查规约是否覆盖了安全需求,以及约束是否足够。

  • 验证和修复:SpecVerify Agent 调用 Kani 进行验证。如果验证不通过,系统会把错误信息反馈给 SpecGenerate Agent,继续修改规约。

  • 从多个候选中组合出更好的规约:收集到多个验证成功的候选之后,KaPilot 使用 Shuffle-and-Implication 策略,筛选、组合其中的规约,再次验证,尝试得到更优的规约。

KaPilot 论文已在 ISSTA 2026 发表,并荣获 Distinguished Artifact Award。对 KaPilot 的技术细节感兴趣的读者,可以阅读论文。KaPilot 的 skills 版本(https://github.com/ant-research/KaPilot-skills),也已开源。

KaPilot 目前能在 1 周以内完成一个 Rust 标准库的完整验证。我们用 KaPilot 对亚马逊发起的标准库验证挑战(https://github.com/model-checking/verify-rust-std)中的 29 个“悬赏 Challenges"进行验证,已完成全部的 29 个验证挑战,其中 16 个提交了PR。

内存安全只是 Rust 安全验证的一块拼图——当代码逻辑本身有误、或需要证明功能正确性时,还需要另一类工具。

02

KVerus - 验证 Rust 代码的功能正确性

Verus 是一种基于演绎证明(Deductive Verification)技术的 Rust 代码形式化验证工具。它允许开发者使用 Rust 风格的语法编写形式化规约和辅助证明,无需学习一门完全不同的证明语言,对 Rust 开发者较为友好。Verus 的另一个重要特点是复用 Rust 编译器的静态检查能力,简化了形式化验证过程,并借助 SMT 求解器自动验证证明条件。与 Kani 主要采用的模型检验方法不同,Verus 便于通过数学归纳等证明方法,验证包含循环、递归的程序的功能正确性。

我们用 Verus 验证星绽 OS(Asterinas),这是一个开源的、使用 Rust 语言从零开发的操作系统内核项目。其创新的 Framekernel 架构将 Unsafe Rust 代码集中在一个较小的底层框架(ostd)中,内核的其余部分使用 Safe Rust 实现,从架构层面降低内存安全风险。ostd 中包含一些关键的模块,如内存管理。要证明内存管理模块是内存安全的,这本质上是要证明内存管理模块的功能是正确的。

ostd 有约 15,000 行代码,验证 ostd(即 VOSTD 项目)是一个巨大的工程。为此,我们设计了 KVerus,通过构建动态知识库,将代码仓库结构、引理知识和 Verus 验证反馈相结合,实现跨文件、跨模块的自动化证明生成。

KVerus 的核心流程包括四个阶段:

  • 构建代码上下文:Preprocess 阶段分析目标函数的跨文件依赖,提取验证所需的类型、规约和引理。

  • 构建证明知识:Comprehend 阶段理解项目引理的语义,并整理与当前 Verus 版本相适配的验证知识。

  • 自动生成证明:Prove 阶段检索相关代码和引理知识,利用 LLM 生成候选 Proof,并调用 Verus 验证。

  • 修复证明:Refine 阶段分析验证错误,结合已有证明知识迭代修改证明,直到验证通过或达到预设的尝试限制。

以上这部分研究工作发表在 ASE'26 的论文中。

在星绽 OS 的实际验证过程中,我们发现,通过 Verus 验证并不意味着验证工程已经完成。一方面,人工编写的规约可能遗漏关键的约束;另一方面,自动生成的证明可能存在大量冗余代码,增加后续维护成本。针对这些问题,我们进一步将 KVerus 改造为可组合的智能体 Skills,从最初的证明生成,逐步覆盖代码迁移、规约生成、质量审查和证明精简等环节。KVerus Skills(https://github.com/asterinas/KVerus)已在星绽项目开源。

随着 KVerus 在 VOSTD 项目中的持续使用,其贡献度在不断扩大:

  • 验证规模持续扩大:目前,在 KVerus 的帮助下,ostd 整体验证进度已超过 30%,已完成 274 个 API 入口点的完整验证。

  • AI 辅助开发占比不断提高:最近一个月,KVerus 辅助生成的 PR 已占同期全部合并 PR 的接近 60%。新增的几乎全部证明代码,和约 70% 的规约代码均由 KVerus 辅助生成。

  • 验证代码开销进一步降低:通过自动化证明精简,被验证代码 vs 证明代码的膨胀比例已从 1:7.9 降至 1:6.1,降低了后续维护成本。

VOSTD 验证项目仍在持续推进。由 KVerus 辅助生成的 PR 记录,可以在 VOSTD 仓库的 AI-assist 标签(https://github.com/asterinas/vostd/pulls?q=is%3Apr+is%3Amerged+label%3AAI-assist)下查看。

03

规模化,为什么可能是现在

除了 Kani 和 Verus,还有以交互式定理证明器(Lean、Rocq)为后端的 Aeneas 等其他方法。交互式定理证明的表达能力更强,AI 在自动定理证明方面的能力也已经相当出色,基于 Lean/Rocq 的技术路线正在快速崛起。

事实上,算力充沛的前沿大模型公司已经开始进行大规模的软件形式化验证。10月22日,Anthropic 发布了技术文章“LLMs are making formal software verification feasible at a much larger scale”,Anthropic 与 Theorem 合作,用 Claude 在汇编层(RISC-V)对 123 个开源库做形式化验证,覆盖了 239 个测试入口点,生成了约 1.8 亿行 Rocq 代码的证明,发现了数百个多年未被发现的 bug。

形式化验证并非“银弹”,即便完成验证,也只能证明“规约是成立的”,无法覆盖所有的可能性。但是形式化验证能确保在给定的安全假设下,程序是可靠的、安全的,能够厘清安全模型的边界。

当漏洞挖掘因为 AI 变得更容易,而形式化验证的能力也因为 AI 第一次变得足够便宜、足够快——那么,"现在"确实可能是形式化验证大展身手的最佳时机。

04

关于我们

本文来自蚂蚁技术研究院-计算系统实验室-形式化方法小组。我们长期专注于为安全攸关的软件模块,提供"数学证明级"的安全,使形式化验证更"轻量化"和"规模化",使形式化验证真正从理论研究走进工业应用。欢迎关注我们的后续工作,也欢迎对 Rust 形式化验证感兴趣的开发者试用我们开源的 skills,通过 Issue 和 PR 与我们共建。

05

延伸阅读

  1. HarnessLLM: Rust Verification Harness Generation with Large Language Models,https://doi.org/10.1145/3744916.3773122

  2. KaPilot: LLM-Assisted Generation of Kani Specifications for Unsafe Rust Verification,https://doi.org/10.1145/3832239

  3. KVerus: Scalable and Resilient Formal Verification Proof Generation for Rust Code,https://doi.org/10.1145/3832783.3834503

  4. StarVerus: LLM-Powered Multi-Agent Collaboration for Industrial Rust Code Verification Automation,https://doi.org/10.1145/3770855.3818485

  5. Beyond Benchmarks: A Case Study of LLM-Generated Verus Specification Failures on Asterinas Vostd,https://doi.org/10.1145/3832783.3834504

  6. 张卓若, 常瑞, 杨申毅, 等. 面向 Rust 语言的形式化验证方法研究综述. 软件学报, 2024, 36(8): 3604-3636.

  7. https://arewesafetycriticalyet.org/tooling/tools-list

  8. https://github.com/model-checking/verify-rust-std

  9. https://github.com/model-checking/kani

  10. https://github.com/verus-lang/verus

  11. https://github.com/AeneasVerif/aeneas

END

跳转微信打开

  •  

FinStyle:金融推介内容智能创作平台,荣获2026CCF企业数字化发展案例

蚂蚁技术AntTech 2026-10-29 12:13 浙江

FinStyle入选2026 CCF企业数字化发展案例征集活动入围案例

10月22日,第二十三届中国计算机大会(CNCC2026)在四川省成都市西部国际博览城正式开幕,大会由中国计算机学会(CCF)主办,以"数聚驱动,智算未来"为主题,大会设置17场特邀报告、3场大会论坛、167场专题论坛和Tutorial,近40场专题活动同期举办第二届CCF计算机展览会,展览面积超过1.5万平方米。

大会期间,来自学术界和产业界的嘉宾通过特邀报告、大会论坛、专题论坛等活动,交流前沿成果,探讨技术发展与人才培养中的重要议题。围绕AI基础模型、智能体、AI安全与治理、AI4Science等十大主题板块,一场贯通学术前沿与产业未来的思想盛宴在此上演。

AFAC走进CNCC:

见证学术与产业的前沿对话

中国计算机学会(CCF)是AFAC金融智能创新大赛的支持单位,CCF会士、CCF副理事长、华中科技大学教授金海同时担任AFAC大赛组委会主席。作为国内计算机领域最具影响力的学术共同体,CCF始终秉持开放、创新、合作的理念,与AFAC大赛共同推动跨学科交叉研究,加强产学研协同创新,构建开放共享的技术生态。

CNCC大会期间,蚂蚁集团财富事业群生态开放技术负责人刘继洋受邀出席「金融智能体的下一站:谁来决策,谁来执行,谁来担责?」分论坛,并作出题为《FinStyle:高信息密度内容创作智能体在金融场景的可控交付》的主旨分享。

蚂蚁集团财富事业群生态开放技术负责人刘继洋分享现场

该论坛由CCF数字金融分会副主任、复旦大学计算机科学技术学院教授、金融科技研究院副院长吕智慧担任论坛主席,中国科学院计算技术研究所研究员敖翔担任联合主席并主持论坛。论坛聚焦一个尖锐而现实的问题:当AI真正开始参与金融决策并执行金融任务,我们究竟应该把多大的权力交给智能体?又如何让它做到可控、可信、可追责?

CCF数字金融分会副主任、复旦大学计算机科学技术学院教授、金融科技研究院副院长吕智慧

围绕这一议题,刘继洋与山东大学计算机科学与技术学院院长成秀珍,同济大学研究生院副院长、计算机系副主任程大伟,北京航空航天大学计算机学院教授、研究生院常务副院长李建欣,新加坡国立大学NExT++研究中心博士后研究员朱凤彬,西南财经大学计算机与人工智能学院副院长、教授杨新等嘉宾分别从区块链架构、大模型智能体评测、大数据关联结构计算、金融深度研究智能体、金融内容创作智能体等方向展开分享。

同济大学研究生院副院长、计算机系副主任程大伟分享现场

论坛嘉宾思辨交流探讨现场

刘继洋在分享中介绍了FinStyle的技术实践。FinStyle由蚂蚁财富生态开放技术团队研发,是面向持牌金融机构的内容创作技术平台,以创编Agent驱动推介内容生成,连接机构运营、内容策划、审核与投放角色,将文稿策划、页面生成、生成后编辑与合规审核串联为一体化流程,支持基金、证券、保险、理财与投教等场景。

金融领域推介材料和广告具备信息密度高、内容合规要求高的特点,高信息密度内容的智能创作任务往往不能靠通用大模型来实现交付,素材在生成环节的非可控幻觉给后续内容编辑和合规控制带来较大成本。FinStyle通过多智能体协作生产、码图混合生成、编辑审核可控等技术路径,实现了页面结构与视觉素材协同生成,标题、正文、图表和风险提示保持清晰可编辑,投放前可复核。

FinStyle金融推介智能创编平台

刘继洋强调,金融 AI 内容不是“写得像人”,而是“可溯源、可编辑、可交付”。在研报解读、市场速评、机构 IP 短视频等场景里,FinStyle 把人力从剪辑与合规来回里解放出来,让金融机构用自有资产生产自有表达。目前已经在金融行业90%以上的基金公司等金融机构推开使用。

同时,在10月23日举办的「2026 CCF企业数字化发展专题论坛」上,“FinStyle:金融推介内容智能创作平台”入选2026 CCF企业数字化发展案例征集活动入围案例。这一认可,既是对蚂蚁财富在金融AI内容领域技术实践的肯定,也为金融智能体从Demo走向工业规模落地提供了可参考的样本。

FinStyle入选2026 CCF企业数字化发展案例征集活动入围案例

顶会观察:

智能体走向产业核心的前沿信号

CNCC大会围绕AI基础模型、机器学习理论与机理、强化学习与推理、视觉多模态与模型、数据科学与数据空间、机器人与具身智能、智能体、新型计算与网络架构等十大主题板块,设计基础、前沿、未来三级进阶的内容体系。从特邀报告到专题论坛,从大会论坛到展览展示,多条线索指向同一个判断:智能体正在从技术概念走向产业核心场景,而安全与可控,成为这一进程中无法回避的核心命题。

英国萨里大学杰Josef Kittler在特邀报告中,将基础模型暴露于简单刺激并观察其输出,发现深度表征向量存在严重的各向异性,并提出通过去除表征空间全局均值并校正协方差矩阵的标准化方法,在CIFAR-100等基准数据集上将线性探测准确率提升至93.5%。中科曙光高级副总裁李斌则从算力基础设施视角指出,智能体蓬勃发展激发更大推理算力需求,超节点将成为算力集群标配,“训推一体”可能成为超大规模算力系统的方向。阿里巴巴ATH副总裁蒋冠军以千问Personal Agent为例,分享了从“能聊天”到“会办事”的产品演进路径,指出代理或助理类需求已占对话类需求的三比一。

当天的大会论坛以“智能体的安全挑战”为主题,来自清华大学、上海人工智能实验室、蚂蚁集团、华为等机构的嘉宾围绕智能体身份认证与责任界定、网络体系结构支撑、安全评测、安全体系重构等议题展开讨论。圆桌分享嘉宾指出“今年5月国家已出台《人工智能-智能体互联》指导标准,核心是授予智能体唯一身份标识并统一管理。AI爆发给攻击者以神兵利器,现有安全体系势必要重构,智能体具有强自主规划能力,但也很幼稚、易被误导,知识库、数据库、工具都可能为攻击者所用。”

CNCC开幕式现场

在展览现场,展期三天共吸引202家单位参展,覆盖算力基础设施、国产芯片、人工智能、学术出版、高校科研等多个板块。阿里巴巴、蚂蚁集团、小米、OPPO、美团、微软、中国电信、滴滴等企业悉数到场;飞腾、龙芯中科、沐曦、曙光等国产算力企业集中展示国产芯片、智算中心与AI算力调度方案,为现场上万名参会者献上一道可看、可摸、可上手的科技大餐。

产学研同频:

学术顶会中的赛事坐标

CNCC创办于2003年,二十余年间已成为汇聚学术界、产业界、教育界上万名专业人士的年度盛会。CCF作为AFAC大赛的指导单位,与赛事之间有着天然的渊源,学术共同体提供平台视野与评审标准,产业界提供真实场景与落地土壤,二者的结合,正是AFAC大赛持续推动AI和大模型技术在金融领域落地应用的底层逻辑。

AFAC大赛从真实的业务场景经验和当前技术变革的趋势出发,设置挑战组、初创组两个组别,设立百万奖金池,鼓励业内外创新者积极参与,将赛事成果应用到实际产业中。大赛的评委阵容中,既有高校学者,也有产业专家,他们既是学术前沿的追踪者,也是产业实践的参与者。

走进顶会现场,与学术界、产业界的同行面对面交流,观察前沿技术从论文到产品的演进路径,这些观察,最终都会回到一个问题:技术如何真正解决产业的真实痛点,而产业又如何为技术创新提供源源不断的场景与反馈,这正是AFAC大赛作为产学研桥梁的价值所在。

在CNCC这样的顶级学术舞台上,我们看到的不仅是最新的技术进展,更是技术与人、技术与产业、技术与社会之间正在形成的新关系。从金融智能体的可控交付,到智能体安全的体系重构,从算力基础设施的持续演进,到产学研协同的深度探索,每一份学术成果,每一次产业实践,都在成为点亮行业的光芒。

END

跳转微信打开

  •  

灵光 2.0 背后,百灵的 Personal Agent 进化

百灵大模型 2026-10-28 13:20 浙江

以下文章来源于:百灵大模型

百灵大模型

分享蚂蚁百灵大模型研发进展

10 月 27 日,灵光 2.0 发布,升级为「能管事的个人AI助理」,能够更主动地跟进任务、持续管理生活中的复杂事务。

这些事务很具体:比如规划一趟旅行,不只要制定行程,还要能延伸到出发前的天气查询、预约提醒;或是双十一购物比价,需要按照用户要求筛选推荐必买商品,并持续监控目标商品价格,一旦出现更低价格还要及时推送提醒。

在用户授权范围内,灵光理解个人事务、安排后续跟进,并在需要关注的节点主动提醒。依托跨会话记忆、长程任务调度与独立云主机,即使用户退出对话,任务也能继续运行。

从一次问答到持续办事,这也是 Personal Agent 走近日常生活的意义。这背后,既需要产品具备记忆、调度和执行能力,也对底层模型提出了更高要求。面向 Personal Agent 场景,蚂蚁百灵持续探索的,正是如何提升模型处理长程任务的能力,让 AI 不只会回答问题,也能更好地完成真实任务。

与灵光 2.0 的发布相呼应,我们开源了面向 Personal Agent 场景进一步训练优化的 Ling-3.1-flash-1019,在 Artificial Analysis Intelligence Index v4.3.2 中取得 44 分。与此同时,我们也同步开源了其基础模型 Ling-3.1-flash-base,为长程任务所需的知识、推理和计算效率打好基础。

01

从 Base model 开始

为 Personal Agent 打好基础

从 Ling-3.1-flash-base 的设计初期,我们就将这些需求纳入考虑:模型怎样具备足够完整的知识与推理基础,怎样处理更长的资料和任务历史,以及怎样为多步骤执行保留合理的计算开销。

Ling-3.1-flash-base 采用混合线性 MoE 架构,拥有约 560B 总参数,每 Token 激活约 25B 参数。模型在容量、长序列处理与单步计算之间进行设计,为进一步训练面向真实任务的模型提供基础。

基础评测从不同侧面展示了这一起点。在测评的 8 个领域、47 项 benchmark 中,Ling-3.1-flash-base 有 32 项取得同表三款模型中的最高分。其中,知识理解、逻辑推理、代码、数学与长上下文评测,对应着个人助理处理复杂事务所需的多项基础能力。

以上为模型卡中的基础模型评测,采用各项列明的 shot 配置。“32 项最高分”仅针对表中三款模型。

基础评测展示知识、推理等能力基础,完整 Agent 任务还需在后续训练与执行环境中检验。

今天,Ling-3.1-flash-base,以 BF16 基础权重、MIT 许可证向开发者开放。 开发者可以围绕自己的知识、流程和工具开展继续预训练、领域适配及后训练,研究者也能进一步探索蒸馏、长上下文与 MoE 系统,让基础能力进入更多应用。

02

从 3.1 Flash 到 3.1 Flash 1019

通过后训练强化真实任务执行

基础能力形成之后,还需要让模型学会围绕用户目标组织和运用这些能力。Ling-3.1-flash 通过后训练,面向通用智能体、搜索、办公和软件研发等任务,持续强化推理、工具使用与多步骤执行。

在这一阶段,我们关注模型能否理解需求、规划步骤、读取工具反馈,并在任务推进中继续修正。GDPVal-AA V2.1、FrontierSWE、Terminal-Bench 4.0 等评测,分别从工作任务、软件工程和终端操作等角度,检验模型进入实际工作流之后的表现。

上周 10 月 22 日发布的 Ling-3.1-flash-1019,在 Ling-3.1-flash 基础上进一步进行后训练优化,提升推理与真实场景中的 Agent 能力。

与此前的 Ling-3.1-flash 相比,1019 的综合智能指数提升 3 分至44分;AA-Briefcase 从约 1400 Elo 提升至 1524 Elo,AutomationBench-AA 从 62% 提升至 68%。科学推理与科学编程相关评测也取得进展。

采用模型卡公布数据;前三项与百灵 10 月 22 日发布口径一致,Elo 会随榜单更新。

此表比较 Ling-3.1-flash 与 Ling-3.1-flash-1019 的表现。

从 Base 到后训练模型,研发重点逐步延伸到如何遵循目标、使用工具和推进任务;从 Ling-3.1-flash 到 Ling-3.1-flash-1019,工作任务与自动化评测的提升,则提供了进一步迭代的量化证据。对 Personal Agent 而言,这些能力最终需要落实到每一次信息更新之后的判断,以及连续执行中的实际结果。

03

基于 3.1 Flash 走向视觉

把新信息接入正在推进的事

个人事务中的信息,也存在于照片、截图和软件界面中。围绕这些需求,我们基于 Ling-3.1-flash 训练了视觉语言模型 Ling-3.1-flash-VL,在既有推理、规划和工具使用能力基础上增加视觉理解。该模型已先行应用于灵光业务,后续将对外发布。

在百灵支撑的灵光业务案例中,家长上传一张作业照片,助理可以核对题目和解题过程,梳理对应的知识点。用户接着提出“用两周时间巩固”,任务就从一次作业处理,延伸为分阶段练习安排、每日提醒和学习记录。案例中已经形成了两周计划、学习任务页与记录页面,把后续练习接到了同一个目标上。

这类场景需要视觉与持续执行共同参与:先理解照片中的题目,再结合用户的学习目标组织后续行动;之后收到新的作业或反馈,继续围绕已有计划推进。视觉理解让个人助理能够接收更多真实信息,原有的推理与工具能力则帮助它把这些信息转化为下一步工作。

欢迎大家打开灵光 2.0,从一份旅行计划、一张作业照片,或一件需要持续跟进的小事开始,体验百灵模型支持下的 Personal Agent 能力。我们也期待大家的使用反馈,让模型在更多真实需求中持续改进。

04

从真实任务中来,到真实应用中去

Personal Agent 能力的提升,需要模型训练与真实应用共同推动。Ling-3.1-flash 已基于灵光、阿福医生版等场景的需求与反馈开展对齐训练,提升专业表达与沟通能力。

从 Ling-3.1-flash-base 的基础设计,到 Ling-3.1-flash 和 Ling-3.1-flash-1019 的后训练迭代,再到即将发布的 Ling-3.1-flash-VL,百灵正逐步完善 Personal Agent 所需的能力。同时通过模型开源,与开发者共同探索 Personal Agent 的更多可能。

从真实任务中来,到真实应用中去。 百灵希望在模型研发与应用实践的持续循环中,提升模型理解目标、保持状态和应对变化的能力,让 AI 更可靠地参与日常事务,成为每个人得心应手的助理。

05

下载模型,构建你的应用

开发者可以下载 Ling-3.1-flash-1019,在自己的环境中部署和评估推理与 Agent 能力;也可以基于 Ling-3.1-flash-base 开展继续预训练、领域适配与后训练,构建适合自身需求的 Personal Agent 和 AI 应用。

Ling-3.1-flash-1019

Ling-3.1-flash-base

06

更多榜单信息

跳转微信打开

  •  

论文秀Live #48 | EMNLP 2026论文解读:强化学习如何重塑大模型后训练?

蚂蚁技术AntTech 2026-10-27 18:09 浙江

大模型已经会用强化学习"刷题"了,但新问题接踵而至:奖励太粗,模型学不会察言观色;规划与调用混作一团,多步任务容易一步错步步错;确定性奖励又让模型养成了"不懂装懂"的坏习惯。本期论文秀Live带来 EMNLP 2026 三篇蚂蚁集团论文——EBM-RL 用奖励分解让视频角色扮演"入戏"、DUPO 用双模式策略让智能体"会分工"、Reliable-V-RL 用可靠性奖励让多模态模型"知进退"。

论文一 

DUPO: Dual-Mode Unified Policy Optimization for Tool-Using Agents

DUPO:工具调用的双模式策略优化

Oral Paper

LLM 现都已具备工具调用能力,但完成多步任务时,仍需协调规划意图与具体调用。现有方法通常将二者视为同一生成序列,难以区分规划错误与调用错误。本文提出双模式统一策略优化框架 DUPO,将每一步显式划分为描述当前子目标的 PLAN 与执行工具调用的 TOOL,在统一策略中分别优化两类输出,并结合规划语义与调用合法性构建步骤级奖励。此外,引入链感知上游优势机制,为可能影响后续操作的上游决策赋予更高权重。为支持训练,本文构建人工标注数据集 PlanArena,涵盖 7,941 个场景、20,646 条轨迹,提供显式的规划与调用监督。在 BFCL、API-Bank 和 Tau2 上的实验表明,DUPO 能够改善工具使用表现,优势主要体现在多步与多轮任务中。

论文二 

Reward-Decomposed Reinforcement Learning for Immersive Video Role-Playing

面向沉浸式视频角色扮演的奖励分解强化学习

Oral Paper

基于文本的角色扮演模型虽然能够模仿角色的语言风格,但往往难以准确感知场景氛围及其动态变化的紧张程度,而这些因素对于虚拟现实游戏和交互式叙事等沉浸式应用至关重要。本文研究视频驱动的角色扮演对话任务,并提出 EBM-RL(Eye–Brain–Mouth Reinforcement Learning),一种基于群组相对策略优化(GRPO)的解耦强化学习框架,将角色扮演过程划分为视觉感知(Perception)、推理(Think)和回答生成(Answer)三个阶段。该框架模拟人类“观察—思考—表达”的认知过程,使模型能够在推理和生成回答之前充分利用视觉信息,实现基于视频场景的角色对话。为优化这一过程,EBM-RL 引入场景—文本对齐、感知—认知效用、回答忠实度及格式一致性等互补奖励机制,对不同阶段进行针对性优化。大量实验表明,EBM-RL 在沉浸式角色扮演基准测试中显著优于纯文本角色扮演基线及更大规模的视觉语言模型,有效提升了生成对话与视觉场景氛围的一致性及角色表现的真实性。此外,该方法无需额外微调,即可在域外视频问答(VideoQA)基准测试中展现出良好的零样本迁移能力。本文还开源了一个面向视频驱动角色扮演对话的数据集,为沉浸式交互智能体的研究提供支持。

论文三 

To Answer or Not to Answer? Reliability-Oriented Reinforcement Learning for Visual Language Models

答还是不答?面向可靠性的视觉语言模型强化学习

Main Poster

基于可验证奖励的强化学习(RLVR)近年来显著提升了视觉语言模型(VLM)的推理能力。然而,现有方法依赖确定性奖励,隐含地惩罚不确定性表达和拒答,使模型更倾向于给出推测性答案,降低了可靠性。我们的定量分析发现,常规 RLVR 虽能提高推理准确率,却会显著削弱模型对不可回答问题恰当拒答的能力。为系统评估这一问题,我们提出 Reliable-V-Bench,用于测试模型面对具有挑战性且贴近现实的不可回答视觉问题时的拒答能力。我们进一步提出 Reliable-V-RL:该框架将不可回答和有歧义的视觉问题纳入训练,并采用细粒度、基于评分准则的奖励机制,引导模型同时提升推理准确率和判断可靠性。实验表明,Reliable-V-RL 显著增强了模型的可靠性与拒答能力,同时保持了其在标准多模态基准上的表现。

论文亮点聚焦

1

解耦决策规划与工具调用,提升智能体多步任务执行能力。

2

以感知—推理—回答分解大模型强化学习后训练中的奖励,提升视频角色扮演的沉浸感与情境适应能力。

3

揭示常规强化学习削弱多模态大模型对不可答问题的拒答能力,提出可靠性基准与奖励机制。

本期论文秀Live特邀三位论文作者,分享各项工作的设计思路、验证过程与落地经验。

Zexin Hu——蚂蚁集团算法工程师、悉尼大学计算机科学博士生

王淼——南京大学硕士研究生,蚂蚁国际研究型实习生

李佳宁——蚂蚁集团算法工程师

直播观看指南

直播速约,锁定前沿!

⏰ 观看时间:2026年10月29日 18:00-19:30

👀 观看平台:微信视频号【蚂蚁技术研究院】、【蚂蚁技术AntTech】、B站【蚂蚁技术研究院】同步直播,敬请预约关注!

跳转微信打开

  •  
❌