腾讯悄悄公开了内部生产级AI技术
PaperAgent 2026-11-17 10:59 湖北
大家好,我是PaperAgent,不是Agent!
过去,AI圈子的主旋律就一个字,想。Claude想,GPT想,DeepSeek恨不得把思考过程写成一部中篇小说再给你答案。我们好像默认了一件事,想得越多,就越聪明。
但腾讯团队,悄悄发了篇论文,问了一个特别朴素的问题。
已被CIKM 2026 录用
在采用CoT的生成式推荐方案里,每次给用户推荐,模型都要先写几十上百个token的推理小作文,这笔额外开销,能省吗?
腾讯给出的答案是,能。推理这件事,可以不在推理的时候发生。
更关键的是,这套技术已经被装进腾讯真实生产系统 TGR-Reason:冷启动用户的离线 Hit@1 相对提升477.8%,线上新用户曝光转化率相对提升13.09%。
TGR架构栈的总体架构,多篇相关科研成果论文发表于AAAI、ACL、CIKM、Neurips等国际会议
说实话,看到这个结果我有点惊讶的。
我先说说背景,不然这事儿没法继续聊。
01 大模型推荐的思考税
现在用LLM做推荐,一种玩法叫SID生成式推荐。简单说,就是把每个商品用RQ-VAE编码成一串层级化的Semantic ID,比如一个杯子可能是「12-45-7-233」这样的四层码,然后让LLM像生成文字一样,把这串ID生成出来。
有论文把这个路子跑通了,后来大家觉得光生成不够,得让模型「想一想」。于是CoT蒸馏就来了,用GPT-4给每个用户历史写一段推理轨迹,「这个用户买了露营帐篷和睡袋,说明他喜欢户外,那他可能还需要一个便携炉具」,然后把这段推理和小模型对齐。推理的时候,模型先输出这段思考文本,再输出SID。
效果确实好。但问题也在这儿。
采用这种方式,每次推荐都要先让模型写一段几十到几百个token的推理。可在线上推荐场景里,用户不会等模型慢慢写小作文,延迟和计算成本直接就上去了。
02 LatentRec的三板斧
所以腾讯这篇论文的核心问题就是,推理时产生的这些思考产物,不管是文字的,还是潜在的,能不能用训练时的监督来代替?换句话说,我训练的时候让模型好好想,推理的时候直接出答案,行不行?
他们提出的框架叫LatentRec。三个组件,我一个个聊。
第一个,连续思考模块 CTM。这套潜在模块新增参数只有2.5M,不到1.7B LLM的0.2%。训练的时候,它会在LLM的隐状态上迭代K步潜在推理,每一步都通过后面的STS,把当前状态转成输入,再送回同一个LLM。你可以理解成给LLM装了个小脑,训练时帮它多想几步。
第二个,软 token 选择 STS。这个是整篇论文里我觉得最妙的设计,因为它解决了一个特别物理的问题。
在Qwen3-1.7B这个backbone上,隐状态和输入embedding的尺度差了约14倍。直接把隐状态喂回去,有点像电压没匹配就接上了电器。作者试过把原始隐状态直接反馈,再给每一步加上预测监督,结果第一个epoch就训练发散,触发了自动停止保护。
STS就像一个“电源适配器”。它准备了64个可学习的软token,初始值来自模型自己的词表嵌入。每一步,模型根据当前隐状态给它们分配权重,再加权组合成新的输入。不是简单把向量缩小,而是用模型熟悉的向量重新表达当前状态,让后面的“思考”接得上、跑得稳。
这就引出了第三个组件,逐步推理损失 PRL。PRL干的事特别简单,就是训练时,每一步的隐状态都过一遍LLM的共享预测头,跟目标SID的第一个token算交叉熵。默认训练两步,第一步温度3.5,第二步降到1,让第一步的预测宽松一些,第二步再收紧。
为啥只监督第一个SID token?因为SID是层级化的,第一个token是最粗的路由信号,后面的层级交给标准CE。你要是监督深层,就得teacher forcing目标SID的前缀,会把潜在rollout的轨迹锁死,跟推理时的自回归解码冲突。
那问题来了:训练时加了模块,部署时又拿掉,效果怎么还能留下?关键在于,逐步监督也会更新LLM的LoRA参数。模块帮助模型练,训练收益则留在了模型参数里。所以部署时设为K=0,跳过额外的潜在步骤,仍然能用训练后的模型直接生成推荐结果。
好,方法说完了。现在到了最精彩的部分,实验结果。
03 效果:又快又准
论文在 Beauty、Toys、Sports 三个 Amazon 推荐数据集上做了验证。主要比较对象是同骨干的思维链微调模型。
在不展开额外潜在步骤的 K=0 配置下,对比LLM-CoT SFT,LatentRec 在三个数据集的 HR@10 上都有提升:
Beauty:0.0625 到 0.0656,约 5.0%
Toys:0.0639 到 0.0668,约 4.5%
Sports:0.0297 到 0.0309,约 4.0%
延迟收益更直观。Beauty 数据集、单张 H20、batch size=1 的测试中,生成 128 个推理 token 的 CoT SFT 单样本耗时 10.80 秒,LatentRec K=0 降到 0.59 秒,约 18.3 倍加速,同时 HR@10 还从 0.0625 提高到 0.0656。
消融实验也很有意思。从同一个 CoT SFT 起点出发,仅继续 LoRA 训练,HR@10 从 0.0625 到 0.0629;加入不含 PRL 的潜在模块,到 0.0633;再加入 PRL,到 0.0656。最后一步带来约 3.63% 的相对提升,明显高于前两步各约 0.64% 的增益。逐步监督是这组消融里贡献最大的部分。
不过论文也没有把潜在推理吹成万能。推理时额外展开一步,Beauty 约提升 0.6%,Toys 和 Sports 都约下降 0.6%,没有形成一致改善。训练深度也需要选:K=0 时,训练两步优于训练十六步。论文的结论很明确:多步潜在计算的价值主要在训练阶段,而不是推理阶段。
更值得期待的是落地。
04 落地:TGR-Reason怎么用
这套逻辑,腾讯已经在线上推荐系统 TGR-Reason 里真刀真枪跑通了。LatentRec 其实是 TGR 家族的一员,TGR 这套生成式推荐方案已经集成进 TRS 推荐引擎平台(https://trs.tencent.com),腾讯新闻、视频、网络小说等 10 多个场景都在用,助力业务显著提升观看时长,新客转化等核心指标。
腾讯工业级推荐系统TGR-Reason技术报告
TGR-Reason 算是它在线上推荐里跑出来的工业版本。这里面的工程巧思,我觉得比模型本身还要有意思。
既然 K=0 就能出效果,那就干脆把提前想好做到极致。Think模型在离线阶段,提前给每个用户算好一堆候选物品的 SID,当成reason tokens全存进数据库里。这就好比老师提前把重点划好写在黑板上。
线上用户请求一打过来,系统根本不需要去等那个庞大的模型现场推理。直接去数据库里,把最近存的 tokens 读出来,当成辅助线索注入给生成器。后台异步更新,线上只管读取,跨请求复用把成本摊得极薄。要是没命中或者记录过期了,直接静默退回原路径,极其丝滑。
基于LatentRec训练Think模型的TGR-Reason工业效果,均为相对现有生产基线TGR-GenRec的提升。
在主推荐场景下,历史行为稀疏的冷启动用户,离线 Hit@1 直接从4.51%干到了26.06%,相对提升477.8%。线上的 A/B 测试也看到了收益:相对原有生产系统,有效消费率提升1.75%,新用户曝光转化率提升13.09%,这两项线上指标的提升都具有统计显著性。在大规模推荐业务里,这些提升都意味着实实在在的业务价值。
05 一些感受
回到最开始的问题,推荐系统,一定需要用文字来思考吗?
LatentRec 给出的答案是:不一定。
它把最费劲的推理,按在了训练阶段。用短程潜在计算和逐步监督,把模型直接出结果的直觉给逼了出来。等到真正部署的时候,直接跳过额外的推理展开,训练带来的推荐收益仍能保留下来,速度也跟着起飞。
这其实给推荐系统的推理,指明了一个绝佳的方向。
练的时候多想,干的时候少想。
这道理,放人身上,或者AI身上,都一样。
LatentRec:https://arxiv.org/abs/2611.07866v1
TGR:https://arxiv.org/abs/2609.00986