铃阅时讯
❌

阅读视图

人生周报v094: X

原创 李继刚 2026-10-11 22:36 北京

历史会押韵

《剑来》里,陈平安遇到眼前一亮的句子,会一笔一画刻在竹简上,时不时拿出来晒晒太阳,翻拣重读。

以陈平安为师,我想记录一下每周在这世上遇到的好句子。

每周读到的好句子,收下来晾一晾 —— 是以有「读」。

心里总有话忍不住想对这个世界讲 —— 是以有「说」。


读

Don’t optimize your life for productivity.

Optimize it for creative energy.

X @MoZarrinsadaf

看到一段话,觉得很有道理,而且我认为这就是“审美”:

一个人的成长上限,很大程度不取决于主观用力程度,而取决于他曾经接触过的最高标准。

长期处在低标准环境里,人会把含糊当正常、把完成当结果、把不复盘当结束;而一旦见过更清晰的表达、更严谨的流程、更稳定的协作方式,认知的参照系就会被重新校准。标准并不是通过说服建立的,而是通过真实样本被替换的。

一旦看见过更高版本,就很难再对低版本保持默认接受。

即刻 @王紫君 Zima

话说快递员就是当代圣诞老人啊。雪橇是电瓶车,驯鹿是导航,烟囱是快递柜。差别在:圣诞老人一年一回,他们可能一天一回。

即刻 @关于莉莉鱼的一切

最近参观了一些 AI 用得很成熟的团队,也研究过一些很优秀的 agent 和工作台。发现照搬过来完全行不通。

原因是违反了 Gall 定律了。

【Gall 定律:一个能正常运行的复杂系统,一定是从一个能正常运行的简单系统演化而来的。从零设计的复杂系统永远无法运行,也无法修补成可运行的状态。】

这很好地解释了为什么“抄最佳实践”经常失效。

我们看到的是别人已经长成的系统,却看不到它是怎么一步步长出来的。

那些流程、规则、Skill、Agent,很多都不是一开始规划好的,而是在业务里先跑一个简单版本,再根据一个个真实问题慢慢加出来的。

所以现在我研究优秀的 AI 团队,不关注他的大而全的工作台。而是:“他最开始解决的那个小问题是什么?下一步为什么会多出这个东西?”

成熟系统可以用来理解方向,但自己的 AI 系统,还是得从一个真正能跑的小系统开始。

复杂是长出来的,不是规划/抄出来的

即刻 @老黄

长大了之后就是不断挣钱然后给成年的自己报兴趣班。

即刻 @西蓝发

把向内的攻击性转化成自省

把向外的攻击性转化为建设

前者确认自己的精神领土

后者延伸它

即刻 @方六

你真的很想要自由,

但你又很容易把自由重新变成一项 KPI.

即刻 @丸籽本丸

人应该害怕捷径。 因为捷径存在, 就要投入精力和心力去寻找、探索捷径。

就不能再安心、平静地走路。

即刻 @puuoo

说

回看 Agent 的发展,基本是一路补短板:

  • 缺少当前事实,就加检索和数据接口

  • 长任务容易丢信息,就加状态保存和上下文管理

  • 工具调用会失败,就加重试、检查和恢复

  • 行动可能越权,就加权限隔离和审批

  • 结果看着对但不达标,就加测试和验收

这些「支撑技术」决定了模型的原始能力能不能真正落进现实场景。

但它们也带来自己的代价:延迟、维护成本、错误传播、协调开销。

于是形成两股力量:

外围不断加支撑系统来兜底,让结构不断深化、复杂;

模型进步又把其中一部分能力吸收进去,让结构重新变简单。

新技术不要求每个组件都新,「新的组织方式」本身就能带来新能力。

现在听人说话,大脑会自动过滤掉「形容词」和「副词」,只抓「名词」和「动词」。

于是经常发现,一个人讲了半天,观点是「null」。

在家里:一张白纸 + 一支笔 在外面:一个 iPad + 一支 Apple Pencil 在公司:一个白板 + 一支白板笔

它们都是我的思考画布。笔一落下,思路就开始展开;写着画着,新的想法就一个个冒出来。

Agent = Harness(LLM)

Result = Agent(Context)

解释力:压缩过去已见

预测力:泛化将来未见

「增一减二」:每增加一个 x,就同步强制减少两个同类的 x。

x 可以是你的微信好友,可以一个关注账号,可以是一本书,可以是家里添加的新物件,任何事情。

这个原则,可以不断逼近我们内心真实“价值函数”,到底最重要的是什么。

书

本周推荐《集装箱改变世界》。

这是一本「老书」。但在今天的 AI 时代背景下重读,别有一番收获。

金属箱子早就出现了,为什么等了半个多世界才真正改变世界?

类似的问题,电的发明和点亮全世界为什么也隔了那么久?

回到今天,AI 已经这么聪明了,为什么我们的 GDP 报表上还没看到它的比例提升?

过去在等「x」的出现,今天的「x」是什么呢?

跳转微信打开

  •  

AI Trading —— 决策便宜,行动很贵|42章经

原创 曲凯 2026-10-11 21:00 北京

数据多,真的不等于有 alpha。

浩哲是港大在读博士、HKUDS 成员,本科毕业于武汉大学数学系。这几年他一直在探索 AI for Finance 相关的事情,前段时间做了一个很火的项目 Vibe-Trading,开源不到半年就已有超 3w star。

本期播客原文约 13500 字,编辑整理后约 4600 字。

编辑整理:陈皮

曲凯:能不能先给大家简单介绍一下 Vibe-Trading 这个项目?

浩哲:它是一个覆盖二级市场的交易台,体验有点像是让你拥有一支跨工作台的研究团队。你用自然语言提出一个投资想法,它就能调动宏观、公司基本面、量化和风险复核等方面的研究能力,帮你看清公司的现金流怎么样、催化剂是什么、风险在哪,最后由你自己决定要不要投资。

但其实我们去年年底启动这个项目时,原本做的是一个给量化研究员用的专业工具。之所以会有调整,一方面是因为发现原来的方向和用户需求有点相悖,另一方面是我也越来越重视一个问题,就是研究结果能不能让人检查和理解。

金融需要可解释性,而且我有一个观念:

金融里的决策很便宜,行动很贵。

在其他行业,大家常说 AI 让「做」变得很便宜,难的是决定做什么。拿软件开发举例,AI 可以写代码、补测试、排查错误,但用户依然需要判断自己要什么、某个功能值不值得做。

金融则是反过来的。

决策便宜,是因为市场每秒都在报价,每个价格背后都有人做了决定;社交媒体上每天都有大量观点;一个研究 agent 也能给几千只股票各提一堆判断。行动很贵,是因为每笔交易都要付手续费,亏损需要自己承担,成交后也没办法撤回。那么一个人要真正做出投资决策,就必须能向自己解释这个行动。

而在我们一开始做的量化方向里,因子信号等概念对普通人来说都像是天书,大家看完也说不清「我为什么要买这只股票」,就不会掏钱和担责。

所以我们转向了辅助主观投资,把 AI 的研究变成大家能看懂的投资理由。

曲凯:主观投资、量化,包括 forecasting 都算 AI Trading 吗?能不能请你帮忙定义下 AI Trading,以及它最适用的一些场景?

浩哲:大家听到 AI Trading,往往会想到两幅画面,一个是 AI 对涨跌的预测很准,如同神谕(笑),另一个是 AI 可以自动下单,人能躺着赚钱。

但这些理解都很片面。

我对 AI Trading 的定义是:在几乎免费的决策和代价昂贵的行动之间,建立一条可验证、可审计的通道。

展开来讲,AI Trading 系统有四大部分,包括模型、数据对齐、Harness,以及人。

模型负责产生决策,帮你读材料、提假设、写代码、给判断。

数据对齐负责检查判断所依据的数据是否可靠、口径是否一致,比如价格单位到底是美元还是千美元,时间粒度到底是月还是分钟,回测用的到底是不是当时就能拿到的数据等。这是整个系统中最核心的部分,一旦出错,结果会相差好几个数量级。

Harness 负责判断哪些决策有资格变成行动,以及出错时能不能被及时阻止。

人则负责划定边界,决定什么能做、什么不能做,制定 Harness 的规则,确定规则之外的事情由谁拍板。

这里面,模型的智商决定系统能想到什么,独家数据决定它想到的东西别人有没有想到。这两者提升的是决策质量,但我觉得它们的边际价值正在下降,反倒是数据对齐和 Harness 的价值在上升。

举个具体的 AI Trading 的例子吧。

你想知道一家公司的现金流变好了,究竟是经营改善带来的结果,还是一次偶然变化。借助 AI Trading,大概会是这样一个流程:

模型可以帮你先整理各种材料,再列出可能的解释。这里最重要的就是分清哪些是材料里的事实,哪些是 agent 根据材料提出的假设。

接下来要检验这些假设,比如去看现金流改善的来源是什么,有没有和原判断相反的证据。

如果要进一步把这个想法变成交易策略,还要看能不能拿到实时信息、回测有没有偷看未来数据、扣掉成本后结论是否成立等等。

最后你拿到的应该是一个有依据、有适用条件的判断。如果证据不足,agent 必须说明「无法判断」,不能给出一个模棱两可的结果。至于最后要不要买卖、下单,还是你来决定。

讲到这里,AI Trading 和传统量化之间的区别也就出来了。在传统量化里,人在开发策略时就会把换手率、策略容量和责任边界等定下来,之后让机器以很低的成本大量执行。

而在 AI Trading 里,你没法这样一次性地定好一个决策策略,需要一道闸门持续把关,最终的决策也还是要交给人。AI Trading 实际上要不断完成从材料到假设、从假设到验证,再到有边界的执行和复盘。

曲凯:听起来涉及很多交叉验证?比如看完 A 这只股票,还要看整个行业、看 B、看 C,这些涉及很多人的 know-how 吧?这里面哪些能由 AI 自主判断,哪些需要人加进去?

浩哲:武断一点说,所有的行业 know-how 都可以由 AI 来判断,因为这些知识在模型迭代中已经被蒸馏进去了。更需要人判断的是风险,因为每个人的风险承受能力不一样,AI 并不知道你能承受多少。

曲凯:但如果这些行业知识已经被蒸馏进模型了,那直接用模型产品分析,和用一个第三方工具的区别是什么?

浩哲:区别在于能不能得到一套可审计、可验证、可以 re-run 的流程。

像 Codex、Claude Code 这种产品,在做投资分析时都偏黑箱,很多时候你没办法重新跑一遍去验证某个数字,大模型也有幻觉,每次 re-run 也未必得到确定的答案。

曲凯:明白。你前面说独家数据的价值可能没有大家想象中那么高,但很多机构都会努力搞一些内部消息之类的,这些不会对结果造成很大影响吗?

浩哲:数据多,真的不等于有 alpha。

在大家都能拿到的数据上,能找到的规律已经被价格消化了,不太会因为谁采买到更多数据就更容易找到 alpha。

买数据真正的作用,是验证你的想法。很多时候你以为一个想法不行,可能只是数据不够、口径没对齐。

曲凯:那怎么评判 AI Trading 系统的好坏?

浩哲:我认为好的 AI Trading 系统,要能产出尽可能多且便宜的决策,但尽量少行动,确保每个行动都有来由、有边界、有人负责。收益率、胜率是结果。先把系统搭建得完备,才可能结出好的结果。

而坏的系统有两种。一种是把每个便宜的决策都变成行动,就是过度交易。最近有很多人用 Jev 做 trading,就有点像这种情况。另一种是过于谨慎,一个行动都不敢做,但系统也说不清到底为什么。

曲凯:正好聊到 Jev,你怎么看它对 AI Trading 的影响?

浩哲:我可能会泼一盆冷水。我觉得 Jev 对交易的帮助约等于零。

首先,就像前面讲的,金融缺的不是便宜的决策,而是一套能让人信服的、将决策转化为行动的流程。可是 Jev 优化的是本来就很便宜的那一侧,相当于把不太值钱的东西变得更不值钱了。

而且,金融里最核心的材料,恰好是 Jev 不擅长处理的。它刚出来时我看过官方文档,里面有提到它在数学计算、日期比较等方面的弱点。可数字、日期、噪音、误导消息,不正是金融世界本来的样子吗?

还有一点就是 Jev 给概率,不给理由。你真的会长期相信这样的模型,并且愿意把钱交给它吗?

当然,Jev 在金融里还是有用处的,比如可以做信息初筛,告诉你这条新闻是不是关于这家公司、这份公告是原始发布还是转载、这个材料和研究问题有没有关系。这些任务量很大,每天可能要做几十万次,做错一次,或者只是少看了几份有价值的公告,对最终判断的影响相对有限。

所以,形象一点说,Jev 更适合当门口的分拣员,不适合做那个把整条链路送到你手里的快递员。

曲凯:那在 forecasting 领域呢?本来大家就是在处理概率,那 Jev 是不是会有帮助?

浩哲:Jev 在预测领域可能会遇到更严重的问题。

因为交易本质上是对概率下注,不是对答案下注。股价可以理解为未来各种可能性的加权平均。你赚钱的逻辑,是自己的概率判断和市场隐含概率之间的差,再扣掉成本。概率决定的是你的一个决策能够对应多大的行动,比如如果你有 60% 的把握,那就配小仓位,更大的把握配更大仓位,可能到了百分之百,你就 all in 了。

但一个比较重要的问题是,怎么判断 AI 给出的把握到底靠不靠谱?

举个例子。模型说「下季度营收超预期」和「超预期会带来股价上涨」这两件事都有 90% 的把握,很多人会算 0.9 × 0.9,认为自己整体有 81% 的把握。

但这其实悄悄假设了两件事相互独立。事实上,你没法判断真实的联合概率。金融里,很多判断用的是同一条新闻,一旦新闻是错的,所有假设都可能是错的。

曲凯:明白。你自己也用 Vibe-Trading 吗?最后有多大程度遵循 AI 的建议?

浩哲:我自己也用,而且差不多 80%—90% 都会遵循 AI 的建议。

举个例子吧。今年 7 月,存储行情很热,也经历了差不多半个月的整体下跌。当时大家都在讨论中国厂商扩产会不会压低存储价格。

我的 agent 就提了一个问题:内存、闪存、机械硬盘都叫存储,那它们受到的冲击一样吗?

然后它就围绕这个问题做验证和实验。最终得到的答案很明确:不一样。但市场会根据同一条新闻给整个行业定价,这就可能出现定价不充分的地方。随后我们选了一家主要做机械硬盘的公司,并比较了它历史上财报后的上涨表现。当时 AI 给的最终结论偏谨慎,但我最终决定在财报前买入。

在这个例子里,80%—90% 的研究都是 AI 在做,我更多是去验证推理链条是否合理,以及决定是否行动。

曲凯:现在用 AI 辅助交易的个人和机构越来越多,会给市场带来什么变化吗?比如共识会不会形成得越来越快,市场变动也更快?

浩哲:这个问题非常好,也是我觉得当今大家都应该关注的一个问题。我觉得市场会有三个变化。

首先,信息被价格消化的速度会越来越快。

2000 年之前,学术上有个很有名的现象,叫「财报后漂移」,意思是好财报发出来之后,股价不会一天涨到位,而是在后续几天、几周甚至几个月慢慢上涨,因为需要人去读财报、开会、下单。

但我记得几年前,有篇论文叫《安息吧,财报后漂移》,里面就说在美国,这种漂移好像从 06 年起就不存在了,因为财报里的信息在发布当天就能被消化完。

那随着 AI Trading 普及,各种信息被价格消化的时间甚至会缩短到只有几秒钟。这件事也会给投资者的行为带来变化,就是「读」会越来越不值钱,因为这件事已经没有门槛了。

第二,超额收益可能从单个信号转移到组合条件上。

当人人都有一个很会读研报、能一键跑因子的 agent 时,单个因子的 alpha 会很快消失,那机会就在于能不能跨 desk 同时拿到不同数据,做好对齐,再拼接到一起。

第三,信息处理快了,错误也会传播得更快,可能会出现一些专门用来误导 AI 的假消息,引发一些意料之外的市场波动,出现问题后也很难确定责任归属。这是现在很多监管部门关注的问题。

曲凯:那对于感兴趣、但还没开始用 AI Trading 的人,有什么从 0 到 1 的建议?

浩哲:当然最好来用用 Vibe-Trading 哈哈。

但第一件事还是想清楚自己的风险偏好,然后隔离风险,比如给 agent 一个单独的账户。坦白说,不要把 AI Trading 当致富密码,因为用的人多了,就一定会有反制手段出现。

此外,也可以让 AI 帮你尝试从来没接触过的市场或领域。很多散户可能只是没找到适合自己的市场,但每个人的性格、天赋都不同,有的人擅长大宗商品的逻辑推理,有的人适合在四五千只股票里研究基本面,也有人就是适合看技术图形,那其实都可以借助 AI 去试试,找到最适合自己的市场或领域。

曲凯:明白。最后,我好奇 AI Trading 对投资者的影响到底是怎样的?

浩哲:一定会有增强,但对不同人的增强方式不一样。

原本投资能力在二三十分的人,可以用 AI 更好地控制风险、做研究,不必再听信那些荐股信息。

五六十分的人已经有判断基础,但之前可能受限于研究能力,那就可以借助 AI,尝试更专业的研究。

八九十分的人,更重要的是让自己的想法在不同维度上得到验证。比如,以前一个做宏观的人可能不会写代码,没办法亲自通过回测验证判断,而一个做量化的人可能不了解价格背后的经济学原理,那么 AI 就能帮助他们从多个方向验证观点,也让他们更自信。

还有个题外话,就是大家现在总在讨论 AI 能不能替代人,但我最近在想:会不会不是 AI 需要人帮它做判断,而是人需要 AI 来体现自身的价值?

今天 AI 还需要通过替人做事来证明自己的价值,比如能省多少工时、替代多少员工、值多少工资。但如果未来模型足够强,问题可能就变成了人还能做什么?这个世界还有什么事情需要人?因为工作除了带来工资,还能让人觉得被需要、能对别人的生活产生影响。

所以我觉得哪怕 RSI 来了,最后仍然会是 human in the loop,因为人需要通过参与进各种流程,来保持生活的方向感和意义感。

再往深处想,这其实是一个带有哲学甚至神学意味的问题:一个人值得被尊重、拥有较高的社会地位,是因为 Ta 能创造更多价值,还是因为 Ta 本身就是一个人?

这个问题可能还没有答案。

但人的决定权不应该随着机器能力的提升而消失。我们需要通过创造、决定、承诺和承担责任,感受到自己的生命是有分量的。我觉得 AI for Trading 也会朝这个方向发展。

42章经

思考事物本质

跳转微信打开

  •  

AI时代 “雕花”的艺术

原创 渣B 2026-10-11 20:04 浙江

“屎上雕花”还是“精雕细琢” ?

TL;DR

前几日发生过几个技术讨论, 讨论到该不该做的时候, 都谈到这事算不算“屎上雕花”:

  • 同事A: 我们在讨论一些可靠传输和ScaleUP的事情, 具体的内容涉密就不多说了, 大致就是省这么点收益也不大到底做不做?

  • 朋友B: 讨论 BPO 和 Score centering 的时候, 是不是抄了一下 SC 就好了, 我认为可能需要更细致的讨论在 Sparse Attn / MoE 的情况下, 以及超长程的 Agent Trajectory 在 Off-policy 下可能会经历多段不同的 Rollout Model 产生的  Logits, 以及 token level 和 chunk level 的 credit 如何处理等细节问题.

  • 朋友C: 在讨论一些 Attention 相关的 KV 设计, 起因是 Seed 一篇讨论 DeepSeek 的 CSA 一类的 Chunkwise Compression 的处理, 是否要引入 Context Aware Chunking.

  • 朋友D: 新的一些 GPU 架构的讨论, 关于数据依赖如何处理的问题, 也涉密不能多说.

到了 AI 时代需要考虑的东西更多, 底层的技术原理本身大家差异都不大, 而各种细节的 tradeoff 堆叠在一起便会产生巨大的差异. 因此技术决策上有了很多工程细节的东西需要处理, 是“屎上雕花”还是“精雕细琢”很多技术管理层的领导无法在第一时间分辨, 用于决策的汇报材料中的技术细节也因为层层汇报信息逐渐压缩, 变成了简单的“功能”有无, 或者局部的 benchmark 优劣. 最终技术领导的认知能力和细节的把控能力成为成败的关键.

因此想拿几个小事为引子, 来谈谈“雕花”的艺术.

1. 谈谈芯片架构

最近看到CUDA 13.4 增加一个 Locality Domains[1] 的功能.  实质上就是一些 NUMA aware 的内存分配.  其实当 L2 Cache 被划分为两个Partition 的时候已经有很明显的内存访问延迟差距了. 当然我能理解 NV 为了维持统一的内存访问这个简单的编程接口和生态的初衷, 在 Blackwell 这一代上也勉强能够维持住, 但在 Rubin 上随着 HBM 的带宽加的更大以及 cross die 的 NV-HBI 带宽以及延迟的约束, 走向 NUMA Aware 的路径已经是必然趋势了.

按照传统的决策路径来看, 例如在早先的一些 AMD 卡上, 考虑到 L2 的架构写代码确实很烦, 如果能够继续维持 UMA 不感知 L2 Partition 确实是一个更优的选择. 对于 NV 的 Blackwell 是不是要做 NUMA Aware, 当然也有一些办法可以弄, 例如根据内存地址逆向出一个Hash函数来做一些 Location aware 的 malloc 或者 Swizzle的处理, 但是整体来看收益并没有多大. 那么即便做了或许也是属于“屎上雕花”.

但是在 Rubin 这一类的卡上, 这个能力就要暴露出来了, 虽然你还可以和以前一样使用 UMA 的编程方式, 但是为了极致的性能收益在算子中引入这些能力便成了“精雕细琢”.

进一步展开这个问题, 如果你要设计一颗新的 GPU, 那么你是否还需要维持 UMA 或者所谓的 CUDA 生态兼容? VLIW 是否值得再去看看? 历史上 VLIW 的失败案例数不胜数, 并且如果从传统的芯片设计工程师的角度来看可能还会继续维持 SIMT 这类的编程接口, 但是这些决策在 AI 时代或许应该有些改变了. 当然很多涉密的内容就不展开了.

这件事想说的是“屎上雕花”还是“精雕细琢" 可能还需要在更长的时间维度上去看, 并结合整体系统的变化和约束, 并且不要被过往的经验人为的封锁住一些探索的空间.

2. 谈谈互联

其实对于任何一个搞互联的人, 通常最简化的模型就是: 带宽多大/延迟多大/每秒消息数能做到多少. 很多产品设计的指标和决策都陷入到这种 micro-benchmark 中. 但是实际上业务要什么? 前段时间我们某个模型线上推理把 PD 分离从 TCP 换成 eRDMA, 其它什么都没有改, 线上的实际 TTFT 降低了40%. 而同等的另外某知名的网卡延迟更低/每秒消息数更高, 但实际的收益只有 10%. 延迟降低40% 也就等同于 tpm 性能提升了接近 1.6 倍, 这个收益是非常巨大的.

原因很简单, 在线业务中 TCP 和 RDMA 混跑时的拥塞控制和长尾延迟抑制上. 传统的 RDMA 为了片面的追求高消息速率和超低延迟, 在可靠传输和拥塞控制上都有大量的简化. 而当你把这些细节日积月累的打磨干净后, 出现了显著的性能提升. 但是你如果单看任何一个细节, 仿佛都是在“屎上雕花”, 至少从 microbenchmark 的角度, 或者一些单从网络指标的角度看都是些很微乎其微的收益.

另一个涉及 KVCache 服务的业务, 由于资源调度的限制需要跨 AZ, 某家跨 AZ 还专门搞了一个名词 Scale-Across, 但基本上处于不可用的状态, 被迫回退到 TCP 上处理. 前几天也是一个非常简单的修改, 跨AZ场景下, eRDMA整体在 KVCache 业务上的延迟比 TCP 下降了 50%.

其实很多时候, 我们在做一些设计时很容易陷入到 microbenchmark driven 的工作模式中, 不光是互联的芯片, 在 GPU/XPU 上也是这样, 因为领导开发布会的时候基本只谈 算力FLOPS/ HBM带宽/互联规模等 microbenchmark, 这也是国内这些年很多加速器架构和编程生态非常割裂的原因. 以前也写过一篇文章《谈谈芯片设计的一些取舍》 就不多展开了.

这件事想说的是“屎上雕花”还是“精雕细琢" 不要以 microbenchmark 来评估, 更多的是站在整个系统 E2E 的视角进行分析.

3. 谈谈算法

做量化交易也快15年了, 大概10多年前做自己的量化交易系统的时候, 由于国内几个交易所的网络都是我设计的, 并且很多券商的高频交易相关的设备也是... 但是如果我自己去搞高频, 大概率会被入刑. 因此整个量化算法设计初衷就变成了一个中低频的策略. 算法本身是很简单的一个原则: 多因子模型涉及大量的拟合回归以及频繁的策略调整和模型迭代. 这个时候也有大量的“屎上雕花”还是“精雕细琢”的决策. 最后其实还是要回归到一个很简单的逻辑上来, 首先衡量整个市场的结构, 赚稳定的钱并且把策略容量作为更重要的算法设计需求. 当然具体的策略我不会多说, 我只想说整个算法本身 10 多年了完全没改至今还能有稳定的收益.

这一部分我想说的是, 无论是当年的量化交易算法, 还是如今的一些 Transformer 相关的模型结构. 更多的要从底层的逻辑考虑, 老老实实的把数据质量提高, 然后整体模型结构上尽量维持第一性原理去设计, 例如在讨论 Looped Transformer 和 Recursive Transformer时, 去抓住最核心的对一个 Attn block 本身的 Q/K/V 的处理上来看. 而不是这里加个 bias 那里加个 conv. 对于 Linear 和 Sparse Attn 的处理也应该如此, 首先从最底层的原理上分析  的State是否真的可行. 以及从数学上推导如果不做 Context aware 的压缩, KV容量的下界是什么? 另外 Chunkwise Compression vs Context aware Compression 该如何取舍.

是“屎上雕花”还是“精雕细琢”或许是从你搭建整个架构的最开始的地方开始就有了定论.

4. 谈谈 RL

过去的很多追求训推一致以及一些 cliff 的处理和 KL 的处理, 每一个在过去的一段时间内都会显得挺有效的, 至少模型训出来了, 效果也还不错. 但是这些处理的技巧是“屎上雕花”还是“精雕细琢”?

一直欠读者一份详细的关于 BPO 和 Score Centering 的详细分析报告, 这两个工作本身是非常简单有效的, 但是对于整个 RL 后训练的处理上, 其实也要回归到一个最底层的逻辑. 为了训练能够更好的 Scale, 特别是大量 rollout 的时间成本和算力成本压力下, Off-policy 更好的利用数据是一个必然的选择, 另一方面面对相对稀疏的 reward, token-level credits 如何处理? 当我接受 Async 的训练时, 例如一个耗时数百个小时的 Agent Trajectory 很有可能在整个 RL 的过程中 Rollout 的模型被 update 了多次, 这些问题处理不处理? 还是一个简单的 IS 就够了?

值得注意的是, 当前 Pre-Train 和 Post-Train 实际上还是有很多割裂的地方, model-arch 上针对后训练场景的一些 specific design 是“屎上雕花”还是“精雕细琢” 也是一个开放性的问题.

其实当前后训练不停的在处理很多训练稳定性相关的问题, 把整个算法越加越重, 是否在模型结构上对 token-level credits 做一些设计就能更好的解决问题? 这是我最近在思考的, 但似乎并没有很好的答案. 或者一些答案本身也是“屎上雕花”.

一些所谓的“大道至简”的东西或许只能靠运气... 这也让我想到 RDMA 这些年工业界对多路径和拥塞控制的处理上, 反反复复尝试了好几年都还没彻底解决... 多路径的算法上, 依赖交换机 packet-spray 把交换机的功能越加越多, 并且在一些链路失效的时候还有整体的集群稳定性风险, 拥塞控制上, 先认为丢包是一个小概率事件做 Lossless 就认为好像是大道至简了, 但如今在 大规模 ScaleOut稳定性上和Scale-Across 的拥塞处理上都遇到了大量的问题, 然后进一步又用特殊的网络拓扑解决. 网卡上 DPA 加完了再加 PSA, 然后还要加一些 Ethernet Switch 的IP 越加越重, SACK也加回来了, 然后 Window based CC 也有人开始加了, 最后发现和 TCP 就差一个端口号了. 但是当你用 TCP 的时候又陷入了 ToE 的邪路, 各种无法 Scale, SACK 这些长尾延迟无法控制等一系列问题又逐渐出来了... 摊手...

这一段想谈论的是, 对于“屎上雕花”还是“精雕细琢”, 或许你需要更广的知识面去探索更多的可能性后才能判断, 最后有可能运气好的到一个“大道至简”的答案. 其中的差别是“精雕细琢”是在某个领域或者周围的相关领域进行更广泛更深度的覆盖后作出的选择. 而“屎上雕花”则是一知半解的去堆砌了一些看上去能用的东西, 过段时间又拉一坨...

5. 结语

前段时间看到 OpenAI 放出一大堆数学证明, 有一些还在数学界工作的朋友开始哀嚎了.... 接下来的十几年, 或许要改变人的学习方式了……更广泛的视野和更好的提问将进一步拉开人与人的差距. 就像数学, 证明本身已经不是太大的瓶颈了, 更多的是去开荒, 找到荒地才是数学家更该做的事情……  对于其它行业来说, 或许也是如此, 例如 AI Infra 这一侧冲击其实更大, 很多体力活基本上都不用干了. 验证一个想法的成本变得非常低廉...

欢迎大家进入一个新的蛮荒时代...如何区分“屎上雕花”还是“精雕细琢"的一些技术上的 taste 变得更加重要.

参考资料

[1] 

Locality Domain: https://docs.nvidia.com/cuda/cuda-programming-guide/04-special-topics/locality-domains.html

跳转微信打开

  •  
❌