超实用!24条提示词技巧教你文章去AI味
优设 2026-09-24 22:00 湖北
很多时候内容本身没问题,但一看就有AI味,往往卡在开头太套路、词太满、句子太整齐、连接词太多这些细节上。
我把常见的问题拆成了24条具体修改方法,从开头、用词、句式、情绪到语气,一步步告诉你哪些地方该删、该换、该保留。尤其是最后那遍“真人化检查”,我觉得很值得反复用。
优设 2026-09-24 22:00 湖北
很多时候内容本身没问题,但一看就有AI味,往往卡在开头太套路、词太满、句子太整齐、连接词太多这些细节上。
我把常见的问题拆成了24条具体修改方法,从开头、用词、句式、情绪到语气,一步步告诉你哪些地方该删、该换、该保留。尤其是最后那遍“真人化检查”,我觉得很值得反复用。
原创 李睿秋Lachel 2026-09-24 21:30 广东
让你感到舒服的,可能才是危险的
Photo by insung yoon on Unsplash
本文共有 3800 字
欢迎星标 L先生说
避免收不到推送喔
在今天文章的开头,我想先问你一个问题。
你觉得,我们最难改变的,是什么样的习惯?
很多人第一反应,肯定是那些非常顽固的坏习惯,比如:熬夜晚睡,喝含糖饮料,吃高脂高盐的食物,刷太久手机……
不过,这些习惯固然是不好的,但它们至少有一个特点,就是「你明确知道它们是不好的」。那么,当你这样做的时候,你起码会有一种警惕,能够意识到「我白天已经喝了一杯饮料了,晚上就不要喝了」「我是不是刷太久手机了?该干点正经事了」……
所以,它们固然是坏习惯,需要改变,但并没有那么隐秘,那么难以发现。你还是能够用主动性去跟它们对抗的。
真正难以发现、难以改变的,是什么样的习惯呢?
是那些曾经给予你安全感,曾经保护过你、帮助过你、让你感到舒服的习惯。它们已经被你内化成了自己的一部分,成为你用来理解事物、处理问题的默认方式,因此几乎不会进入到你的意识里。
但是,时过境迁,这些曾经帮助过你的习惯,在新的场景和阶段下,很可能成为你的阻碍,而你也许压根都发现不了。
这才是最可怕的。
我举一个简单的例子。
有些人可能有一个特征:习惯了遇到问题先分析。无论遇到什么事情,他们的第一反应都是:先把问题定义清楚,然后列出它的可能性,再针对每种可能性去分析,最终得出结论之后再去行动。
这个方法在很多时候可能是有用的。但是,它是不是必定能够奏效呢?其实也不是。
比如,当你需要快速作出判断时,还按这套方法去走就太慢了。这时更好的做法可能是:按照经验快速作出一个未必非常准确、但大概率不会错的判断。这样高效得多。
比如,当你面对人际关系和沟通时,这套方式未必是最好的。很多时候,专注去聆听、感受、体验,站在对方的立场去思考,可能比直接进入分析要有用得多。
再比如,当你面对一个非常复杂、缺乏相似经验的问题时,凭空想象去分析很可能是徒劳无功的。这时,想再多也不如什么都不想、直接去行动,从行动中获取反馈和信息,再基于它们去规划,这样才能真正起到作用……
但是,大多数时候,他们很难意识到这一点。究其原因在于:这些人往往是风险厌恶者,而「遇到问题就分析」这套思维模式,恰恰可以有效地降低风险,因此会在过往的经历中成为他们首选的策略。
也因此,在一次又一次的使用中,这套方式不断为他们提供熟悉感、稳定感和安全感,因此逐渐成为了他们不假思索的默认方式。
于是,当他们遇到问题时,下意识的反应就是「我先分析一下再说」。他们很难意识到:当下的场景其实未必适合这套做法,我也许需要因地制宜换一种方式。
这其实也是我的经验之谈,上面说的这些,也是我踩过一次又一次的坑之后才有的感悟。
我把这种现象,叫做「默认脚本」。它的意思是:当我们进入某个情景,或者接收到某一类信息时,我们会下意识进入一种特定的「自动模式」,产生一系列固有的认知、理解、判断和行为。这一套东西综合起来,就是我们面对这个情景的「脚本」。
像上面这个例子:遇到一个问题 → 先分析,得到结论再行动 就是一个默认脚本。它可能很有用,但同样有其适用范围。如果在不适合的场景下使用,反而会成为我们的阻碍。
为什么我们会有默认脚本呢?最核心的原因是:这些应对模式曾经起到作用,对我们提供了帮助,消除了我们的不确定性、焦虑感和压力,让我们感到稳定、安全,于是慢慢地,它们就成了我们的默认脚本。
简而言之,它们能够让你感到更舒服,给你一种问题消除了的感觉,同时又让大脑无需投入更多资源。
但是,这些脚本真的能解决问题吗?其实不一定。它们很可能并没有真正解决问题,而只是把问题推迟、掩盖,或是暂时缓解了而已。
很多人可能有这种感觉:为什么同样的问题好像老是发生在自己身上?是因为自己运气差吗?其实未必,很可能是因为你一直在用默认脚本去「敷衍」问题,而没有真正面对问题的核心。
类似这样的默认脚本还有很多,我列举一些常见的例子。
别人说了与你不同的观点 → 立刻反驳,试图证明自己是对的。
承认自己错了会损害自己的自尊和形象,所以我们会下意识地为自己辩护。但结果就是:沟通变成了争输赢,而原本能够互相交换意见、增进透明度的机会,反而被丢失了。
发现自己拖延 → 用意志力要求自己更自律。
我们热衷于找到一个解释来消除不确定性,「缺乏意志力」就是一个很自然的解释。但它其实未必能解决问题。因为大多数时候,我们拖延并不是因为意志力,而是因为反馈路径过长、缺乏启动动力、内在惯性过强……这些方面的原因。
跟伴侣或朋友发生冲突 → 习惯性地回避,减少沟通。
这样做能够迅速降低压力,让自己避免面对冲突、解决冲突,从而缓解因冲突而产生的不适。但是,这种做法能真正解决问题吗?不能。这样做只是主动扔掉了解决问题的主动权,还容易让彼此的关系变得更容易受损。
对方情绪不好 → 马上解决问题、给建议。
有些人在成长过程中形成了「有问题就解决」的脚本,因此习惯性地跳跃到解决方式。但却很少停下来思考一下:对方需要的其实也许未必是解决方案,而是需要聆听、接纳和理解。
一件事情进展不顺利 → 花费更多时间和努力去做。
如果一个人形成的信念是「努力就能解决问题」,就很容易采取花蛮力的方式去应对。但却很容易忽略:真正能够起到作用的,也许是换一个环境,换一种方法,追问假设是否成立,等等。
感到焦虑和烦恼 → 自动向内去寻求原因。
许多人可能有一个根深蒂固的信念:「只要想明白为什么,我就会好一点」。但很多时候,这种向内的追问往往会反过来强化这种焦虑和不适感,最终变成思维反刍和精神内耗。反而忽略了,更有效的做法可能是对外用确定的反馈来对冲和抵消。
……
当然,默认脚本并不一定都是不好的。它们在某些场景下是合理的、有用的,但未必完全适用于所有场景。
我们要做的,其实并非完全消除它们,而是分清楚:它们适用于什么,不适用于什么,再去因地制宜,针对不同的情景采用更好的策略。
那么,有什么办法,能够帮助我们发现自己的默认脚本,更好地识别和调整它们呢?
可以试试这些方法。
1. 记录日常,关注反复出现的问题
平时可以养成这样的习惯:多记录自己的日常,着重关注这个链条:我遇到了什么事情 → 我的第一反应是什么 → 我得到的结果是什么。
然后,定期或不定期翻阅,回看,并关注有没有哪些模式是反复出现的。比如:在工作上遇到过的问题,看似解决了,但接着不久又出现了;跟伴侣或朋友产生冲突,看似按下了,但过了不久又发生了……诸如此类。
大多数默认脚本都有这样的特征:它能够让你当下感到更舒服,但只是掩盖了问题,因此,过不了多久,同样或类似的问题往往会重复出现。如果你发现了这种现象,那就需要警惕:你可能已经落入默认脚本而不自知了。
2. 觉察和警惕下意识反应
大多数时候,当我们产生默认脚本时,大脑会有一种冲动:我想立刻如何如何。它往往会以这样的念头出现:我应该马上……;我现在就想……;我需要赶紧……
但是,当你觉察到自己产生这样的念头时,请等一等,问一问自己:这是在这个情况下的最优解吗?还是只是我在习惯性地重复固有的模式?
不妨这样告诉自己:这是一种可行性,但它并不是唯一的解法,也未必是最好的解法。如果现在没有那么紧迫,我是不是可以想想有没有别的解法?
很多时候,只是这么简简单单的一个思维的转变,就能把我们从默认脚本中拉出来。
3. 多想一步,审视它的有效性
试着问自己这么一个问题:如果我把目光放长一点,它能够解决问题吗?还是只是在当下让我避免了不适,让我不需要去面对问题?
很多时候,我们其实是能够意识到这一点的,只是大脑不愿意去承认而已。但是,如果我们自欺欺人,只是着眼于当下的舒服而不管长远它是否得到解决,那么未来的自己就必然需要背负上更多的债务。
举个例子:很多人面对别人的意见时,默认脚本就是为自己辩解。这可以使得他们在当下避免「我错了」的窘迫。但长期来看,如果真的是自己错了,能够确保这种错误不会再次发生吗?
不妨回想一下,当自己过往遇到类似的问题和经历时,这套做法是否真的能够帮助你做出改变,从根源上消除问题。如果不能,它很可能就只是一个无效的默认脚本。
4. 尝试用新的脚本去替代旧脚本
这是很有用的一个小技巧。不要只是停留在「找到旧的默认脚本」,不妨想一想:如果我下次遇到这种问题,我可以尝试做些什么来产生不一样的变化?
这些新脚本最好设想得细一点、具体一点,这样才能让自己毫不费力地调用。比如:
下次听到别人的批评,先不急着辩解,而是停一下,站在对方角度想一想,有没有可取之处;
下次别人不同意我的观点,先不急着争论,而是先复述对方的话,看看是否存在误解;
下次遇到卡住的任务,先不急着花时间精力去钻研,而是先「站远一点」想一想:我对这个任务的假设有没有哪里可能是不对的?
下次一直做不出满意的决策,先不急着继续对比、权衡、查资料,而是试着给自己画一条线,要求自己必须在此之前做出阶段性的结论。
……
这可能会非常有用。它不一定能立刻解决问题,但能让你更好地意识到「原来问题还能这样处理」。
最后,还是要强调一下。
默认脚本并不意味着一定是错的,它之所以成为默认脚本,一定是因为它曾经起到作用,让我们感到舒服,对我们来说更加省力。
但是,一切都在变化,我们会遇到新的问题,新的场景,新的挑战。环境会变,条件也会变,但默认脚本不会自己更新。如果我们还是用旧路径去应对新问题,就很容易落入自我安慰的怪圈里面。
更好的心态也许是:下一次,当默认脚本出现时,先停一下,想一想它从哪里来,能够起到什么作用,是否适用于当下的场景,有没有其他的可能性。
改变自己,永远不是意味着要否定和抛弃过去的自己,而是不断接受新的可能性。
我是 李睿秋Lachel
欢迎关注 L先生说
每周四晚 21:30 更新
一起探索心智成长的奥秘
THE END
- 晚 安 -
原创 戴老板 2026-09-24 20:16 上海
中式快餐之王的版本答案
过去的2025年,中国人在老乡鸡的门店里吃了近2000万份毛豆烧鸡。
做一锅毛豆烧鸡并不难。老乡鸡今年4月发布的《菜品溯源报告2.0》,公开了这道菜所需的11种原材料,列出15家供应商名单,最后还贴心地把烹饪的6个步骤写了出来,生怕你学不会。
这份830页的报告,把175款餐厅菜品、182款央厨产品和132种外采原料逐一拆解,溯源了246家供应商,甚至其中186家的联系电话也公开在报告里——如果餐饮界也有开源社区,这份报告会被列为必读材料。
有趣的是,溯源报告发布后,有8名消费者自发地在Github上发起了CookLikeHOC(像老乡鸡那样做饭)项目,将每一道菜品进行归纳、整理、绘图,上线独立的查询网站。目前该项目已经揽得2.46万颗星,比阿里和腾讯大多数开源项目都高。
这种溯源始于2024年。此前,一些顾客对老乡鸡番茄炒蛋、毛豆烧鸡等现炒菜品的制作形式存在疑虑,持续关注门店菜品是否为预制菜品。为回应消费者关切、消除市场认知误区,企业决定公开菜品制作工艺:
马斯克都可以开源,我们有什么好怕被别人抄的?
和特斯拉一样,老乡鸡有开源的底气。截止到2026年9月,老乡鸡全球门店数量已经超过了2000家,是中式快餐品牌绝对的第一名。
据了解,集团2026年门店营收(直营+加盟)预计超过100亿元,年服务顾客人次3亿,单店日均销售额、翻台率和等核心效率指标均高于主要竞争对手和行业平均水平。
疫情以来,中国餐饮行业进入收缩周期。根据中国烹饪协会的数据,2026年上半年餐饮企业净减少40.7万家。在严峻的环境之下,老乡鸡目前是中国唯一还在沿着种植、养殖、采购、加工、物流这一链条进行全产业布局的大型中式快餐公司。
毛豆烧鸡只是老乡鸡庞大体系的一个微小切面,但要理解后者,可以从这道菜开始。
在合肥市蜀山区小庙镇的老乡鸡农场,种植着8000亩的毛豆。
农场总占地1.8万亩,由江淮运河施工形成,底下是红砂岩,上面铺设了耕作层,2024年6月施工建设,经过188天的土地修整后,于去年投入运营,但未来三年仍然需要继续“养熟”新土,改善肥力。
管理这片农场的工作人员只有10个。他们会去欧洲和美国考察大规模机械化作业经验,像做科研一样规划播种计划和除虫节点,也会和合作的当地农户一样清晨6点起床下地,在炎热的中午纳凉歇息,并工作到傍晚日落十分收工。
机械化作业的小庙镇老乡鸡农场
毛豆种植分春秋两季,鲜毛豆采收窗口只有七天,农场配置了13台单价60万的毛豆收割机,收获的毛豆被送进预处理车间,接续去枝、清洗、剥壳、脱膜、冷却降温等处理,处理的残料会被送回地里充当有机肥,新鲜的豆米则用冷水降温锁鲜,送往临近的小庙中央厨房进行清洗、杀青、速冻、色选等工序。
在餐饮企业连直营店都不愿多开的当下,种地普遍被视作一门投入重、回报慢的苦活和累活。
老乡鸡有两道消耗大量毛豆的畅销菜——毛豆烧鸡和凤爪豆米,但这并不能解释其亲自下场种毛豆的动机,因为市场上并不缺大宗毛豆供应商,《菜品溯源报告2.0》公布了6家,在今年老乡鸡农场农场第一个收获季之前,它们供应了老乡鸡所有的毛豆。
答案不在这座只有两岁的农场里,而是要往老乡鸡历史更久的农业基地上回溯——距离小庙镇35公里的老乡鸡炎刘养鸡场,占地400亩,拥有53个鸡舍,年出栏上百万只鸡。农场为改善土壤肥力所使用的有机肥,全部来自于这里。
养鸡是这家公司的老本行,老乡鸡创始人束从轩于1982年创业养鸡,到2003年他在合肥开出第一家“肥西老母鸡”餐厅时,其养殖的经验已经超过了20年。时至今日,老乡鸡招牌的SS级单品——“金牌老母鸡汤”材料全部来自自家养鸡基地。
老乡鸡炎刘养鸡场鸡栏
“养了40年鸡”是老乡鸡的一个重要标签。目前老乡鸡的3大养殖基地均位于安徽省境内——合肥的张祠养殖基地、淮南的炎刘养殖基地和亳州的利辛养殖基地,总占地面积超过1200亩,笼位数量460万,每年生产1000万只肥西老母鸡和5.4万吨鸡蛋。
农业和养殖,是这家公司的起点,而掌控上游的关键原材料,既刻在老乡鸡的基因里,也能在全球快餐巨头的身上找到踪迹。
以麦当劳为例,1990年其在深圳开出中国首店,但早在1985年,麦当劳就推动核心供应商辛普劳(J.R. Simplot)公司在河北试验种植土豆。1992年,辛普劳的薯条工厂和王府井的麦记门店在北京同时开张,到2025年,辛普劳在华土豆产量已经超过9.5万吨。
土豆是中国最不稀缺的食材之一,但麦当劳对土豆的要求极高,其主要选用夏波蒂(Shepody)和褐皮布尔班克(Russet Burbank)两个品种,要求每一枚土豆身材匀称、质地绵密、淀粉含量适中,适合切出截面积为6.2毫米×6.2毫米的长条。
为了保证每一根薯条的口味,麦当劳甚至要求4万亩种植土豆的地块必须100%轮作——当季土豆收获后,原有地块需要进行至少一年的休整,种植小麦或青贮饲料等其他作物,降低病害压力,并用残茬和秸秆来改善肥力,维护土壤结构。
老乡鸡对毛豆的要求,跟麦当劳对土豆的要求如出一辙。前者的历史更短,但复杂度更高。
辛普劳成立于1929年,二战期间为太平洋和欧洲的美军提供脱水洋葱和土豆,跟麦当劳的合作长达半个多世纪。但在中国,由于土地、制度等因素,大型农产品供应商集中出现在养殖业,种植业相对较少。这种背景下,老乡鸡下场种毛豆是一种必然。
老乡鸡农场对毛豆的预处理
相比之下,毛豆烧鸡、葱油鸡、卤鸡腿等菜品所使用的白羽鸡和黄羽鸡原料,老乡鸡可以借助市场化采购来解决——中国专业化养鸡全球领先,产业链上市公司数量超过10多家,温氏、大成、圣农等企业可以按照客户的要求,为其稳定供给食材。
因此,从毛豆烧鸡这些爆款单品身上,就能看清老乡鸡的供应链思路:对长期需求量大、影响核心产品风味的食材原料,自建产能,控制农业源头,用长期主义来构建竞争壁垒;对供应链高度发达的食材原料,与专业伙伴合作,通过明确的标准,实现稳定交付。
这是中式快餐企业多年探索之后,形成的最佳解题思路,而它最终将影响连锁规模的天花板。
全球快餐巨头如麦当劳(46000家)、赛百味(35000家)、肯德基(34000家)的门店数量惊人,其中一个原因就是西式快餐里的汉堡、炸鸡、薯条和三明治等菜品的原料相对集中,围绕肉类、面包、土豆等有限品类之上,且通用性强。
相比之下,中式快餐的食材范围非常分散,除肉、蛋、鱼、豆制品、米面粮油之外,还有叶菜、根茎、瓜果等海量的蔬菜品类,仅老乡鸡《菜品溯源报告2.0》披露的食材就多达651种,不同食材又有各自的产季、规格和保鲜要求。
中式快餐头部企业门店数普遍在千店量级,要想达到西方同行的万店规模,食材的稳定供给是第一道难题。多数企业都已经放弃对差异化的追求,将采购纯粹交给市场。反倒是靠上游养殖起家的老乡鸡,是几乎唯一还在用长期主义思维解题交卷的选手。
原料的稳定,只解决了上半场。菜品风味的统一,还需要一个关键角色——中央厨房。
一车新鲜的毛豆,从农场送往最近的老乡鸡中央厨房,车程为20分钟,途中只要过5个红绿灯。
老乡鸡位于小庙镇的中央厨房,比毗邻的农场要“老登”得多。2009年,老乡鸡在此地投资建设了第一个中央厨房,占地118亩,有近6万平米的标准化厂房。2021年和2022年公司又投建了上海嘉定中央厨房和合肥官亭中央厨房的一期工程。
中央厨房在毛豆烧鸡的链条上,扮演了关键的“枢纽”角色——新鲜的豆米会在中央厨房进行色选、杀青和速冻;供应商送来的鸡在这里屠宰、切块和包装;炒制所需的皮冻和猪油在这里制作;所需的葱、姜、蒜和其他辅料也在这里完成清洗和切配。
小庙镇中央厨房制作现场
所有的食材汇总集合之后,会通过冷链物流车辆先送至老乡鸡在全国的八个物流中心——上海、杭州、深圳、南京、武汉、北京,以及安徽的合肥和利辛;然后再配送到老乡鸡2000家门店里,其中46%的门店是每24小时一配,54%的门店是每48小时一配。
而当临近饭点,老乡鸡门店里负责毛豆烧鸡的2000多名厨师,拿到手的都是同样的食材:毛豆的大小、鸡块的尺寸、姜片的厚度、调味料的配比全都是统一的。经过6个标准步骤的煸炒之后,最后端给消费者的,就是口味几乎完全一致的产品。
老乡鸡几乎所有菜品都是类似模式:农家小炒肉所用的肥肉和瘦肉,由央厨分开切配;所用的大部分螺丝椒也会在在央厨完成加工;在门店,厨师会按标准步骤先煸肥肉,再放蒜子和瘦肉;肉片炒好暂存,螺丝椒另行炒至断生后加入调味料,最后合炒出锅。
同样,金牌老母鸡汤所用的肥西老母鸡,在中央厨房完成屠宰和清洗等处理,经过冷链进入门店,最后的炖汤制作环节必须留在餐厅;早餐上架的老面包子,在中央厨房由师傅们集中手工包制,速冻后配至门店,每天早晨7点在门店上锅蒸熟。
炒、炖、蒸的工序各有不同,但背后的流程分工却是一致的:中央厨房完成在餐厅操作耗时、重复的环节;门店拿到规格相对稳定的原料,再按照明确的操作步骤,负责最后的现制,最后交付给客户的,是热气和锅气兼具的家常味道。
央厨对食材的处理,能很大程度上解决中餐制作的标准化问题——小炒肉的肉片厚度、肥瘦比例、调味料的口味、各种食材的重量比例等,都可以提前在中央厨房固定下来,门店负责的,是让确定好的食材按顺序在锅里相遇,把口味的不确定性降至最低。
中央厨房大幅提升了效率,但也会撞上另一个致命的“敌人”——中国人对现制的天然追求。
现制,包含了现炒、现蒸、现煮、现烤、现煸、现炸、现拌……等诸多形式,它们是讨好中国胃的第一性原理,是美好生活的烟火气来源。如果过度追求门店的效率,让门店制作越来越接近复热出餐,就必然会碰上消费者对“预制菜”的反感。
西式快餐当然也有现制的要求。但汉堡、薯条的关键操作更容易固定:肉饼可以提前统一重量和形状,煎制、油炸可以围绕相对固定的温度与时间展开,最后再按顺序组合。借助成熟的供应链和厨房设备,门店可以把现场操作收敛到少数几个步骤。
鸡汤小馄饨制作工序
每个餐饮从业者,都明白中国人对现制的执念。但满足这一需求的路线,却呈现了两种分野。
一种是效率优先——极致追求供应链效率,菜品制作主要由中央厨房工业化解决,将门店的操作空间压到最低,降低人员成本。但这种生产上的方便,未必会转化为餐桌上的满意。近年来某些餐饮企业在舆论场上的遭遇,就是这条路线的反噬。
而老乡鸡的方法,是从第一性原理出发——先满足顾客对现制的要求,菜品最后做熟的环节一定要留在门店,然后再以此为起点,重新设计供应链、中央厨房和配送体系,提升效率。
坚持门店现制,给老乡鸡带来了口味上的优势。以金牌老母鸡汤为例,门店每天用农夫山泉现炖,鸡汤的鲜香萦绕整个门店。而市面上很多餐厅采央厨熬熟、门店复热的方式来制作鸡汤,甚至用各种浓汤宝来直接出汤,鲜度和口味差距明显。
目前老乡鸡116个SKU里,有87道菜(75%)是餐厅现制,从生做到熟;28道菜(24.1%)是半预制,中央厨房完成清洗、切配、汆烫这些前段工序,最后的烹饪和调味仍然在门店完成;复热预制只有1款专供外卖的秘汁卤肉饭,不进堂食菜单。
这些信息从2024年,就以公开溯源报告的形式开放给消费者,反而赢得了带来了正面评价。到2025年9月,舆论围绕预制菜展开争论时,老乡鸡对现做、半预制和预制菜的区分,以及对消费者透明的做法,成了被反复提及的正面案例。
成为正面案例的代价,是对供应链和中央厨房的管理有着极高的复杂性。
以炒青菜为例,中央厨房向门店提供两种形态的青菜——预处理好的、但仍需清洗切配的毛菜,或者清洗切配好、可开袋下锅的净菜,门店现场大火快炒,消费者能够吃到现炒青菜的锅气。
但由于新鲜蔬菜的易损耗性,中央厨房必须追求“零库存”——供应商送来的青菜,当天必须完成全部的清洗或切配处理,并配送至门店。为此,老乡鸡大力投入数字化建设,上线了WMS(库存管理)、MES(生产管理)和TMS(物流管理)等系统。
在这些系统的支撑下,每一箱菜存在哪个库位、属于哪个批次;生产任务怎样分配到班次与产线,需要如何衔接;冷链车装多少货、走哪条路线、何时抵达等都需要调度;车辆温控设备与运输系统相连,在途温度和行驶轨迹都可以被监测到。
戴老板进入中央厨房前的卫生检查
对顾客来说,这些信息远没有一盘热菜直观。但对企业而言,任何一个节点的等待和失误,都可能影响锅气的口感。
所以,针对中餐“现制”和“预制”这一历史难题,老乡鸡给出的解法,是把重复、复杂、适合集中完成的加工环节交给供应商和央厨,把影响最终风味的工序全部留在门店,再用生产计划、冷链配送和日常管理把两端连接起来。
因此,同样是使用中央厨房,最终的舆论反馈却可以截然不同,其根本的区别,在于企业上马中央厨房的出发点究竟是什么——是首先满足企业的降本增效的需要,还是先满足顾客对现制的要求,然后再用央厨体系把成本降到经济性能跑通的程度。
一句话总结就是:锅气只会出现在餐厅里,而支撑锅气的功夫,也只会出现在餐厅之外。
2020年疫情发生后,老乡鸡的门店里多了一样东西:洗手台。
在充斥着口罩和消毒水气味的那个年代,出门吃饭是一件极富风险的事情。当时老乡鸡门店按照创始人束从轩的要求,在门店入口设置洗手台,并配上洗手提醒。顾客还没开始挑菜,就可能先听见一句循环播放的话:“老板说,不洗手不给吃饭。”
疫情结束后,洗手台被保留了下来,很多老乡鸡的消费者也养成了饭前洗手的习惯,而这个动作又加深了老乡鸡的“家常菜”场景——每个中国人,脑子都有自己在家吃饭前会被父母嘱咐“先洗手”的记忆,这几乎是中国人的出厂设置。
合肥·滨湖医院店的老乡鸡洗手台
对中餐连锁产业来说,家常菜是最简单的菜,也是最难的菜。
在中国餐饮江湖里,拉面、水饺、火锅、麻辣烫这些品类都已经跑出了大型连锁品牌,头部企业门店数量动辄几千上万。原因不难理解——围绕特定品类组织产品和供应链,企业便于集中资源,可以少数关键环节做深做透,有明确的经营优势。
相比之下,家常菜场景通常都有一张更长的菜单,意味着企业必须管理更多复杂性。菜单越长,采购、库存、加工、培训和损耗之间的关系就越难协调。全国扩张时,每增加一种地方口味,都可能给后端增加一组新的任务。
但就天花板而言,以家常菜为基础的快餐,拥有更宽的需求入口,以及更高的门店上限。
白领中午从写字楼下来,想在午休时吃一顿好饭;父母周末带孩子出门,希望找一家干净明亮的餐厅;打工人下班回到家没有精力做饭,想在小区门口随便吃点儿。这些需求每天都在发生,也不需要节日、聚会或者某种特别强烈的口腹之欲来触发。
目前,工作餐白领和带孩子家庭,是老乡鸡的两大核心客群。前者需要方便、稳定、快速,后者需要干净、卫生、健康、照顾不同家庭成员口味,中式快餐的家常菜恰好能装进这些重复发生的生活场景,“不知道吃什么就吃老乡鸡”,代表了一种价值连城的定位。
在美国,汉堡、披萨和三明治都是属于美式“家常菜”的范畴,因此造就了46000家的麦当劳、35000家的赛百味和34000家的肯德基;Taco Bell售卖的塔可(taco)和墨西哥卷饼(burrito)是拉美裔的正餐,其在加州、佛州和德州也拥有数千家门店。
现实情况是,中餐的品类选择远比欧美丰富,拉面、水饺、麻辣烫这些垂类抢占了家常菜的份额,而且凭借着更易管理的供应链,和更讨巧的“现制vs预制”关系,更容易扩张的加盟模式,在门店数量上做到了对老乡鸡、大米先生们的领先。
从数据上看,中式快餐的连锁化率远低于麻辣烫等垂类,头部企业的扩张空间非常大。以老乡鸡安徽市场作为成熟样板,对标麦当劳在美国的门店密度,部分投资人推演:综合国内不同地区口味差异,大型中式快餐连锁品牌全国门店理论上限约 40000 家。
相对于林林总总的垂类餐饮,以老乡鸡为代表的中式快餐连锁品牌具备一个巨大的隐性优势,那就是“吃着放心”。
近两年民间和网络上流行这样的一个梗:去考场前,只敢吃老乡鸡。这个说法最早源于安徽学子在中考高考前吃老乡鸡的习惯。而越来越多人的发现,在重大考试甚至身体不舒服期间,干净,好吃,热乎、吃完不会变成“喷射战士”的老乡鸡,是最稳妥的选择。
老乡鸡为食客提供的,恰是一份关键时刻不掉链子的确定性。
在追逐“中式快餐之王”的这条道路上,铺满了先驱者的遗体。
1990年代,古早餐饮品牌红高粱把店开到北京王府井,在麦当劳旁边摆开阵势,创始人乔赢喊出到2000年在全球开两万家店的口号,让红高粱迅速成名,但最终为了筹钱,乔赢走上非法集资的道路,最终获罪入狱,品牌也消失在历史长河之中。
2004年,百胜中国携品牌“东方既白”前来参赛,2005年在上海徐汇开张首店,餐厅提供200多个SKU,既有豆浆油条小笼包,也有鱼香肉丝盖浇饭,时任百胜中国事业部总裁苏敬轼大胆预测:“东方既白的数目总有一天会超过肯德基。”
虽然依托肯德基的供应链,东方既白仍没能解决中式快餐的标准化难题,多数菜品仍然是央厨加工+简单复热,口味和价格被消费者疯狂吐槽。2020年尝试转型淮扬面点包子铺,但未能扭转颓势。到2021年东方既白只剩五家门店,一年后全部关闭。
在后来的复盘中,苏敬轼坦言:中餐选择太多,做成肯德基那样的大型连锁,比想象中困难。
中式快餐的市场需求足够大,只是起点,但如何把需求变成稳定的产品、可持续的门店,以及能够继续复制的经营能力,需要逐项作答。几十年来,本土创业者与跨国餐饮集团前仆后继,一个个争相交卷,但获得满意答案的凤毛麟角。
如今,接力棒交到了老乡鸡手里。
跟先驱者相比,老乡鸡拥有了更有力的工具——冷链物流运输、食品加工设备、数字化工具和成熟的专业供应商。在今天,食材可以按照规格加工,运输温度可以监测,采购、库存与销售数据可以同步,这都是早期探索者无法想象的。
老乡鸡的全自动洗蛋机
因此,老乡鸡的成绩,要放在企业积累与产业进步的交汇处理解。专业分工扩大了企业能够调用的能力,而老乡鸡多年种养、加工和门店经营的经验,决定了这些能力怎样被组织起来。这也是“版本答案”四个字的含义:在当前的产业条件和消费需求下,找到一套经过规模实践、能够继续改进的办法。
2025年,老乡鸡董事长束小龙带公司副总及中层以上团队共40人左右,在美国待了2个星期。
团队此行走访洛杉矶、芝加哥,纽约和西雅图,到访麦当劳总部,并深入汉堡大学参访学习,同时实地考察了很多著名的餐饮连锁门店,如Panda Express、Chick-fil-A、CAVA、In-N-Out、Chipotle、Shake Shack等。
每个同行都有独特的、可值得学习的地方:麦当劳用“血液里流淌着番茄酱”来形容自己,企业文化渗透率远胜阿里;Chick-fil-A周日从不开门营业,但单店年流水870万美元,是麦当劳两倍;Panda Express主打中餐,但不主做华人生意,2600家门店几乎全部直营,一道陈皮鸡撑起了近40%营收。
海外的经验,对老乡鸡具备启发意义,但中国版本的标准答案,只能靠老乡鸡自己探索。
在老乡鸡当前的模式下,上游食材两手抓,核心食材自建产能控制品质,成熟食材跟专业供应商合作;央厨承担重复集中的工序,减轻门店负担;数字化工具提升整个系统运转效率;下游门店完成现制的烹饪服务,家常菜的定位又带来产品的反复消费。
麦当劳曾经启发了创办老乡鸡前的束从轩,如今,它的经验虽然无法复制到中式快餐,但46000家门店的数量,也在用一种沉默的鼓励告诉老乡鸡:2000家,只是起点。
05. 尾声
老乡鸡的第一家店还没有开出来的2003年,束从轩先跟一锅鸡汤较了两年多的劲。
他每天试一两只鸡,前后用了近1000只才熬出让自己满意的味道。他把汤打包带回家,给从小吃鸡吃腻了的束小龙和束文品尝,收获孩子好评后,才有了继续做下去的信心——这碗两分钟就能喝光的汤在成为招牌之前,经历了漫长的试验。
这种做事方式,后来出现在老乡鸡更多的地方:鸡要自己养,毛豆要自己种;农场要自己建,土地要花3~5年改良;加盟商从筛选到开店要4至12个月,投资人必须自己当店长;门店的动线、透明厨房、卫生检查和员工操作,都在实际经营中经历了反复打磨。
这便是老乡鸡的慢功夫,但慢就是快,快就是慢,老乡鸡的高效率也同样来源于此。
自建供应链虽然慢,但原料供给更稳定,门店就少些临时补救;中央厨房建设复杂,但工序理顺了,千家门店就能少做大量重复劳动;要求加盟商亲自经营,会放慢一时的扩张,却有助于找到愿意长期投入的经营者,让门店走得更稳。
这些投入的回报,发生在此后的每一天:一次磨合好的流程,可以反复使用;一套成熟的供应能力,可以支撑更多门店。开店之前多下功夫,开店之后才能少补课。老乡鸡用慢功夫一个个地解决难题,也终于趟出了中式快餐的版本答案。
老乡鸡你抄不会,原因不在于它有多难,而在于这世界上只有少数人,愿意长期笃定的专注做一件事。
全文完,感谢您的耐心阅读。
参考资料
[1] 老乡鸡上市申请书
[2] 老乡鸡菜品溯源报告2.0
[3] 老乡鸡媒体交流座谈会
[4] 麦当劳中庆祝土豆本土种植40周年,官网
[5] 东方既白进驻首都机场全国扩张起步,东方早报
[6] 百胜中国2021年年报
[7] “快餐狂人”乔赢再现江湖,中国经济周刊
[8] 对话苏敬轼:教父级企业家的勇气和技巧,中欧商业评论
[9] 老乡鸡创始人束从轩:“登顶”中式快餐,靠这六步,创业酵母
作者:戴老板
编辑:鲁舒天
责任编辑:戴老板
原创 Dify 2026-09-24 18:53 云南
Marketplace 新增精选推荐位,并推出点赞、星级评分与文字反馈,让每一个好想法在交流与反馈中持续完善。
全新 Dify Marketplace 让每一次作品发现和用户反馈紧密相连:通过精选展示位,你可以更轻松地探索优质作品与最新动态;同时,你也可以给插件和模板留下点赞、评分和文字反馈,让创作者清晰地了解自己作品的反馈与价值。
自创作者中心与模板市场上线以来,Dify Marketplace 已成为无数 Dify 应用诞生的起点。
1,000+
汇聚活跃插件
300+
开箱即用模板
你可以根据任务需要选择各类前沿模型,例如调用 DeepSeek 处理内容生成与复杂推理任务,或使用通义千问实现多模态内容处理。对于文档问答、PPT 制作等常见场景,还可以直接复用已有模板,再根据实际需求对流程进行调整和定制。
探索 Dify Marketplace 现已收录的丰富资源:
随着 Marketplace 生态的蓬勃发展,这里不仅汇集了丰富的插件与模板,更碰撞出无限的创新灵感。
当一个优质插件或模板获得更高曝光,就会有更多用户看见它的价值,进而在全新的应用场景中,获得更长的生命周期,催生出更多宝贵的使用体验。这正是 Marketplace 存在的意义:让能解决实际问题的作品脱颖而出,也让创作者听到来自真实用户的声音。
为此,我们进一步优化了 Marketplace 的入口和使用体验。精选展示位让优质作品与最新动态一目了然,反馈功能则让每一次使用背后的真实体验都能直达创作者。
你的反馈,值得被听见
一个插件,也许正为你的工作流接入实时信息
一个模板,或许刚好为团队搭建好核心的架构
当别人的作品真正融入了自己的工作流后,你关注的便不再只是“它能不能用”;你会开始注意到,哪一个步骤帮你省去了繁琐的重复,哪里的体验还需要更贴合的微调,又是哪里的设计让你感受到了无声的默契。
如今,你可以将这些反馈直接传递给创作者。登录 Dify Marketplace 后,你可以在插件或模板详情页留下这些详细的体验感受。
登录后,可在插件或模板详情页点赞、评分或留下文字反馈:
插件:
模板:
反馈可以很简单,也可以很具体。有时,一个红心就足以表达认可;有时,一个评分就能传递最直观的使用感受;而当某个细节至关重要时,一段文字能清晰还原它在真实工作流中的优势与卡点,帮助创作者指明下一步改进的方向。
无论你选择分享多少,你的每一次反馈,都让创作者真切地看到:他们的作品如何进入真实的使用场景,又如何在一次次使用中产生新的价值。
你的作品,值得被看见
作品发布后,插件和模板可能被应用到超出最初设想的场景中。一个插件可能成为更大应用中的一环,一个模板也可能被用于不同的工作流。
创作者中心会汇总你收到的所有反馈。每一份反馈都能精准触达对应的作品,让你了解每一条评价背后的使用体验,也能以多维视角审视自己所有创作的影响力。
前往创作者中心,查收你的作品反馈:
一条留言,可以启发新的用法;几句相似的建议,提示你某个值得深入打磨的细节;一句简短的感谢,也让你真切感受到,自己的作品切实地帮助到了他人。
这些回应,呈现了作品在真实使用中的表现,也让你更清楚哪些地方值得保留,哪些细节还可以继续打磨。
精选作品,触手可及
除了作品反馈,Marketplace 顶部还新增了精选展示位,集中呈现插件、模板、Dify 最新动态、活动和合作伙伴项目。
从进入页面的那一刻起,这些精选展示位就会为你指引更清晰的方向,帮你找到应用所需的功能、想要参与的活动,或是值得关注的合作机会。
对插件开发者和合作伙伴来说,展示位也提供了一个呈现新品与合作项目的官方窗口,让值得关注的作品更容易被开发者看到,也让新的能力和合作在进入 Marketplace 的第一时间获得更多关注。
一次精选推荐,可能就是某个新功能、新灵感或新合作的开始,也可能让你发现新的创作思路。
KEEP CREATING
此次更新,让你在 Marketplace 中的每一次分享都有了更完整的意义。
当有人注意到你的作品,将其融入自己的创作,并愿意留下反馈时,一次简单的使用便成为创作者与使用者之间的连接。久而久之,正是这些微小的互动,让原本单纯的资源汇聚,蜕变为一个真正有温度的社区。
这正是我们希望持续打造的 Marketplace:好的创作在这里找到新的使用场景,也带来新的灵感;而每一次真实的使用与反馈,又会回到创作者手中,成为下一次完善与创造的起点。
下一个应用,从这里开始
原创 郑立 2026-09-24 18:53 云南
从安全、透明度与可维护性出发,理解 Dify 如何为持续增长的插件生态建立可验证、可追溯的信任机制。
郑立|Dify 高级开发者关系
写于 2026 年 8 月 25 日
信任不是一枚徽章
截至2026年8月25日,Dify的插件生态系统规模已十分庞大,仅靠一个标识和几句简单的安全声明,已无法再传递信任背书。插件市场需通过可重复的管控机制来赢得用户信赖:包括插件包内包含的内容、插件可访问的资源、经过审核的具体版本,以及当相关验证依据发生变化时的应对机制。
一则拉丁谚语告诫道:“Fide, sed cui vide”——信任,但要认清你所信任的对象。
这一准则对于开放插件生态系统而言极具实用价值:善意能够降低协作成本,且独立证据表明,这种善意具备可扩展性。
我们的目标并非承诺零风险,且从数字层面看这一目标过于理想化,从实操层面看也并不可信。我们的核心目标是让风险有迹可循:尽可能在发布前完成风险管控,必要时在发布后跟进处理,且每当插件版本发生变更时都需重新开展相关工作。
以 Dify 开发者关系团队成员的视角来看,这同样是一个社区设计层面的问题:贡献者需要快速、明确的反馈,而用户则需要能够理解的依据。 审核人员需要相应的管控机制,将人力注意力留给模糊性问题,而非耗费在重复性的溯源工作上。
目前部分管控措施已可在公开代码仓库中核验,另一些仍在持续建设和完善。明确这一边界本身也是治理的一部分:当路线图被包装成已经交付的能力,公众信任会迅速崩塌。
首先,要选对衡量的指标
良好的治理始于一个看似基础的问题:我们究竟在统计什么?
2026 年 7 月 31 日的 Marketplace 快照提供了几组真实有效的数据,但它们衡量的是插件生态的不同数据面。
数据 | 含义 | 正确解读 |
928 | 已列出的插件 | 7月31日快照中可见的市场条目。 |
907 | 带有安装记录的插件 | 快照中包含安装数据的条目。 |
263 | 官方标注条目 | 带有官方标识的市场交易记录。 |
262 | 唯一官方仓库ID | 固定的官方仓库快照中不重复的插件ID。 |
99 | 主动维护的基线 | 由审核员上报的运维记录,并非官方标签的统计数量。 |
问题不在数字是否准确,而在于我们如何理解这些数字。
以 263 和 99 为例。263这个数值描述的是某一市场快照中的标签情况,99 描述了评审人员报告称处于积极维护状态的运营基线。前者是身份标识,后者是维护状态。两者都有明确的数据来源,将其中一项当作另一项的佐证,看似简洁便利,实则是错误的做法。
同样的原则也适用于安装量和调用量。安装记录反映插件的分发情况,调用记录反映特定时段内的实际使用情况。它们可以帮助我们观察生态的不同侧面,但无论哪一个,都不能单独回答插件是否可靠、是否具有业务价值,或者是否处于良好的维护状态。
即使指标本身选对了,还需要知道数据能够说明到什么程度。
本次调用分析覆盖2026年7月13日至8月12日期间。由于部分Pod身份信息缺失且计数器可能发生重置,其绝对统计量可能存在2至5倍左右的低估,因此,这组数据仅用于观察相对趋势、占比及排名,而不作为精确调用量的宣传依据。
理查德·费曼曾用更精妙的表述阐释了相关的控制原则:“首要原则就是绝不要自欺欺人——而你恰恰是最容易被自己愚弄的人。” 放在当前场景,它意味着很具体的原则:给出数据的同时,也要说明它的统计时点、口径和局限。 一个数字只有放回它产生的背景中,才真正具有解释力。
风险早已暗藏其中
最直接的风险并非理论层面的假设。我们已观测到.difypkg归档文件中包含.env文件、.git 可能暴露凭证的元数据、完整虚拟环境、.DS_Store、__pycache__、日志以及平台专属二进制文件。这些内容带来的风险性并不相同。有些只是开发过程中留下的无害文件,有些却可能泄露敏感信息、夹带未经审查的可执行内容,或在解压和运行后扩大攻击面。
理想情况下,插件包里应该只有插件,而不是开发者电脑里的“全家桶”。 这句话听起来像个玩笑,但背后的问题并不轻松:插件归档最终会进入用户环境,被解压并执行。因此,包里有什么、从哪里来、执行什么,并不是代码整洁度的问题,而是供应链安全的一部分。
其他开发者生态系统也已反复佐证了这一点。
GlassWorm “玻璃蠕虫”攻击活动曾利用恶意的 VS Code 和 Open VSX 扩展进行传播,相关扩展累计下载量超过 3.5 万次。相比这次攻击被冠以什么名称,其采用的技术手段更值得关注:若对身份、包内容及行为的审查不够严格,常见的分发渠道也会成为恶意代码的传播放大器。
发现速度同样至关重要。
一款假冒的 Prettier Plus 扩展在上线约 4 小时后便被下架,其间仅产生 6 次下载和 3 次安装。影响范围之所以有限,恰恰是因为检测和响应足够及时。对安全治理而言,“未得到广泛部署”正是我们期望的结果,而非说明该管控措施毫无必要。
LottieFiles 的 npm 事件说明了另一个问题。2024 年 10 月 30 日,攻击者利用泄露的凭证发布了三个恶意版本的软件包,事件随后得到控制。项目声誉虽能辅助发现风险,但无法替代版本级验证、凭证安全保障,以及可快速限制恶意内容传播的响应流程。
这些案例的成因并不完全相同,插件包中出现的意外残留,与攻击者主动植入恶意内容,也不能混为一谈。但从治理角度看,它们首先需要的是同一套基础能力:检查包内容,识别并披露敏感行为,保留可追溯的证据,并在发现问题时能够及时介入。
构建可信流水线,而非安全勾选框
安全审核不应该只是发布前的一次勾选,而应该贯穿插件从开发、提交到发布的整个过程。当前的公开实现采用了一套分层验证流程,让问题尽可能在进入 Marketplace 之前被发现。
开发者可以在提交 PR 前,通过 Dify Marketplace 工具包在本地完成初步检查。提交后,贡献模板会进一步记录作者、插件、版本、源仓库、联系方式、风险等级,以及相关的隐私和安全披露信息。
把反馈前置的目的很简单:越早发现问题,修复成本越低。
本地验证涵盖安全归档解压、包内容、密钥模式、二进制文件、包含来源、README 完整性、基于 OSV 的依赖漏洞检查,以及 Python 编译和安全模式检查等。对于金融相关的禁止行为,工具也会给出相应警告。
网络访问同样是检查的一部分。工具会检查已观测到的访问域名,并支持可选的 network.domains 声明。这一点尤其重要,因为部分 SDK 会在运行时动态构建 URL,仅依赖静态分析并不一定能够发现所有外部访问。
进入 CI 后,检查会继续进行。在公开的 dify-plugins 工作流中,pr-risk-label.yaml、pre-check-plugin.yaml、pre-check-plugin-sandbox.yaml以及upload-merged-plugin.yaml 分别提供风险标记、自动化检查、沙箱定向验证以及合并后上传管控能力。CI 会区分阻断性错误与警告,且软件包会在合并后、上传前重新完成验证。自动化机制可辅助审核人员开展工作,它并不会仅仅因为YAML显示为绿色就具备判断能力。
这套流程同时区分阻断项(Error)与警告项(Warning)。
阻断项意味着已经超出既定安全阈值,需要解决后才能继续;警告项则意味着存在需要进一步理解或人工判断的情况,但未必意味着插件本身存在恶意行为。这样的区分很重要:如果所有异常都被放行,安全规则就失去了意义;如果所有异常都被直接阻断,又会让合理但非常规的实现难以进入生态。
CI 通过并不意味着插件天然可信,而是意味着它通过了当前能够自动验证的检查。
插件上传后,工具包还支持提交扫描报告,供访问域和安全相关模块使用。这为后续的安全展示提供了基础,但这里需要明确区分已经落地的验证能力与仍在演进中的 Marketplace 机制。安全等级、评级展示及反馈机制目前仍属于持续迭代的框架范畴。
现行版本安全等级语义的演进
等级 | 当前版本的含义 |
S | 已完成扫描;未发现高风险或中风险问题;依赖、权限及域名信息完整;作者信号已经验证,并经过额外复核 |
A | 已完成扫描;未发现高风险问题;依赖及域名信息基本完整 |
B | 存在需要关注的问题,例如过时依赖、低风险或中风险检测结果、作者身份未经验证,或扫描与域名透明度不完整 |
C | 存在明确风险,例如高危漏洞、权限异常、未申报的敏感外部访问或可疑历史记录 |
Unscanned | 当前版本尚未完成扫描、扫描失败,或现有证据不足以完成评级 |
这里有一个重要前提:评级属于版本,而不是插件本身。
插件每次升级后都需要重新扫描,旧版本的评级不应自动沿用到新版本。Official(官方)、Partner (合作伙伴)或 Verified (已验证)等身份信息可为决策提供支撑,但不能替代对当前包体和版本的实际验证。经确认的恶意行为或严重安全问题可绕过常规评级流程,直接进入限制、移除或人工审核环节。
让评分信息一目了然
在当前的安全详情设计中,评级标识被放在页面右上角,让用户在阅读详细信息之前就能快速判断当前版本的安全状态。例如,S 级使用绿色标识;C 级使用红色标识,并在安装前显示更醒目的风险警告。
依赖项列表沿用同样的结构,每个依赖都会显示包名、版本及对应状态,帮助用户快速定位可能受影响的依赖。颜色能够加快识别速度,文字、等级、包名和版本信息则负责说明风险究竟是什么。 这样,即使不依赖颜色,用户仍然能够理解评级结果,同时也为后续审核和追溯保留足够的信息。
图1 S表示“通过”;C表示“待审核”
二者均不构成担保承诺
PRD 状态 C 可见警告及受影响版本。
PRD 状态 S 明确证据且无警告
图2 八项控制措施构建版本范围的证据
图3 CI 阻断故障并将警告路由至待审核
透明度即管控手段
透明度在启用前最具价值,此时用户仍可做出知情选择。在实际场景中,插件可通过三种存在本质差异的方式运行:
仅本地执行。 该插件以代码形式在本地运行时环境中运行,不会向外部服务回传或发送任何数据。
客户直连服务。由客户提供API密钥或账户,并直接选择通过插件对接外部服务商。
Dify 连接的服务。Dify 会提供凭证,或是在产品体验中集成统一托管的第三方功能。
这三种模式并不只是不同的产品标签。连接方式不同,意味着数据流向、管理责任和合同关系也可能不同。具体判断还会受到部署方式和实际数据流的影响,因此这里讨论的是一套产品治理框架,而非法律结论。
“阳光被誉为最佳消毒剂。”——路易斯·D·布兰代斯
对于插件用户而言,“阳光”意味着具体明确的信息。在启用插件前,用户应当能够查看该插件涉及的外部域名与服务,以及可能流出自身环境的数据类别:提示词、输出内容、文件、账户或工作区数据、元数据、日志以及凭证。未被列入清单的端点并不会因为其隐蔽就变得无害。
有效的信息披露还应说明数据处理的原因、存储或处理的地点、保留的时长,以及数据是否可能被用于模型训练或产品改进; 以及适用的隐私声明、DPA或服务条款。客户确认以及重大变更的可追溯记录,会将这类信息从形式化的表述转化为可落地的管控措施。
无论合同约定的角色如何划分,Dify 始终保有对系统对应部分的管控权:运行时隔离、传输安全、可强制执行的声明、审核机制,以及当行为与披露内容不符时的处置权。具体责任边界可能因场景而异,但产品设计中的安全要求不会因此消失。
许可也是供应链的一部分
插件 Marketplace 不只涉及代码的流转,也涉及使用和分发权限的流转。
这一实际链路简洁直白却极易被忽视:插件作者须拥有将插件提供给Dify的权限,Dify须拥有托管及分发该插件的权限,用户则须获得安装并使用该插件的充分权限。只要其中任一环节存在模糊地带,即便技术层面无瑕疵的安装包,也可能存在治理层面的缺陷。
开源软件贯穿于这一链条的每一个环节。其相关声明、署名要求、源代码提供义务、修改条款及再分发条件,并不会因采用了便捷的打包格式而消失。许可证就如同重力一般,无论发布清单中是否提及,都始终具备法律效力。
因此,一套成熟的治理机制需要让许可信息能够被看见和追溯,包括清晰的许可证声明、可检索的 OSS 组件信息,以及针对 Copyleft、AGPL 等相关义务的检查。同时还需明确开发者条款与传递给用户的任何许可或最终用户许可协议(EULA)之间的关联。
这些管控措施可协助审核人员提出恰当的问题,但不能代替具体场景下的法律判断。
其中一些实现方式仍处于设计和迭代阶段。例如专门的清单许可字段、许可白名单或黑名单、针对AGPL的SaaS路由、标准化终端用户许可协议以及点击即同意的确认机制,均能提升一致性。
但原则仍然与前文一致:没有产品或代码仓库证据支持的能力,就不应被描述为已经上线。 在治理问题上,明确区分“已经实现”和“计划实现”,本身就是可信度的一部分。
维护即治理
安全评审用于判定某个版本是否可以进入生态系统,而维护治理则负责明确版本准入后的后续安排。
为了让这一问题更易处理,我们将插件分为四个群组进行分析:官方模型类、官方非模型类、社区模型类以及社区非模型类。在同群组内进行对比,可避免让专业模型提供商与通用工具遵循相同的需求曲线来接受评判。
在每个分组内部,我们使用需求指数衡量插件的相对需求:
需求指数 = 60% 调用量百分位 + 40% 安装量百分位
在此基础上,再加入 1–5 分的关键性评分。原因很简单:使用热度和运营重要性有关,但并不是一回事。 一个调用量并不高的身份验证组件或关键数据连接器,仍然可能需要较高的维护优先级。
优先级 | 维护规则 |
P0 | 队列前20%的需求,且关键等级为4及以上,或已备案的关键等级5豁免项。 |
P1 | 优先级排名前40%且临界等级为3及以上,或任意临界等级为4及以上的插件。 |
P2 | 需求排名前70%,或临界等级为3及以上。 |
watch | 其余所有内容均受监控,不代表官方拥有持续所有权。 |
图4 需求、关键性与时效性共同决定维护优先级
此处的 P0、P1 和 P2 是维护优先级,而非项目交付阶段。更新状态会提供另一项标识:近期更新指 30 天内有更新,正常维护指更新间隔为 31–90 天,更新滞后指更新间隔超过 90 天。
预计的季度重复性维护工作量也可以进一步分为:S 级为每季度 1–2 人天,M 级为 3–5 人天,L 级为 6–10 人天。
把工作量纳入模型很重要,因为维护能力最终受实际产能约束。每季度 30、60 或 120 人日这样的数字可以用于容量规划,并非服务水平协议。没有相应人员和时间支撑的维护计划,再完整的表格也无法让它真正发生。
因此,官方维护资源应优先集中在有明确资源支持的 P0 和 P1 插件上。对于社区插件,则可以根据需求、关键程度、维护者状态和生态价值,在官方接管、联合维护、赞助支持或持续观察之间选择不同路径。其余 P2 和 Watch 插件原则上继续由社区主导,同时保留基础验证和清晰的问题上报路径,而不默认附加周期性的官方 SLO。
这样的优先级这并非对内容质量或创作归属的评判。它解决的是一个更实际的问题:当维护资源有限时,如何以一致的方式决定先处理什么。而且答案不会永远不变。随着使用情况、更新时间和生态需求变化,维护优先级也应该重新计算。治理如果不能随着证据变化而调整,很快就会失去实际作用。
我们主动选择的权衡取舍
当治理直面权衡取舍,而非假装这些取舍根本不存在时,它才会真正具备公信力。
贡献成本与安全性
每增加一项检查,都会给贡献流程增加一定成本。因此,我们尽量把验证前置到本地,让作者能够在提交 PR 前发现并修复问题,而不是等到审核和 CI 阶段再来回处理。
自动化与误报
明确违反规则的问题应该阻断流程,模糊信号应以预警形式启动。通过影子模式、误报率观察、例外记录和逐步收紧规则,可以让自动化检查根据实际效果逐渐获得更高的执行权重,而不是一开始就对所有情况做强制判断。
透明度与安全保证
安全评级或域名列表仅代表特定版本在某一时间点的可用证据,并非担保,版本发生变化后,旧的结论不能自动继承。重新扫描和明确的状态更新,是保持这些信息有效的前提。
官方维护与社区自治
Dify 需要提供必要的安全保障、可靠的工具和明确的问题上报路径,但同时也为社区的独立探索保留空间。我们的目标是打造一个良性的公共生态,而非一座配备了异常完备 CI 的封闭花园。
贯穿这些取舍的原则其实很简单:让安全路径易于践行,让插件状态清晰可见,让管控力度与实际依据相匹配。一旦依据发生变化,决策也应随之调整。
信任并非通过一条评论、一枚徽章或一次政策发布就能建立。它是通过持续的验证、透明的产品信号、可落实的责任归属以及公平的响应流程逐步形成的。正因如此,信任本身也是产品能力的一部分。和其他重要能力一样,它需要被验证、维护,并随着生态变化持续迭代。
数据来源与研究方法
本文综合使用了以下几类证据:
2026 年 7 月 31 日 Marketplace 快照,用于观察生态规模、插件分组和安装情况;
2026 年 7 月 13 日至 8 月 12 日 SaaS 调用数据,用于分析相对使用情况和维护优先级;
Dify 内部治理与维护设计资料,用于说明治理框架及维护模型;
截至 2026 年 8 月 25 日可核验的公开实现,用于区分已经落地的能力与仍在规划中的机制;
公开供应链安全事件资料,包括 GlassWorm、Prettier Plus 和 LottieFiles npm 事件,用于提供其他开发者生态中的参考案例。
需要特别说明的是,Marketplace 快照并非实时计数器,调用总量也不用于证明绝对使用规模。 本文使用这些数据的目的,是观察相对趋势、分布和优先级,而不是对精确调用量作出超出数据能力范围的推断。
注:本文阐述的是治理设计与工程实践内容,不构成法律建议、认证,亦不代表任何插件均无风险的承诺。
山行资本 2026-09-24 16:30 北京
面向新的技术周期,山行将继续保持对产业一线的研究,坚持从实际需求和商业价值出发,陪伴真正推动技术进步与产业变化的创业者长期成长。
近日,21创投、21世纪经济研究院发布“2025—2026年度AI及应用投资竞争力研究案例”。山行资本入选“AI及应用投资竞争力创投与私募股权投资机构”。
过去一年,AI投资热度仍在上升,但市场判断项目的标准已经发生变化。
据21创投统计,2025年7月1日至2026年6月30日,中国AI及应用领域共发生3297起融资事件;仅2026年上半年,融资事件达到1595起,披露融资总额约2270亿元。
资金还在进入AI,但关注点正逐渐从“模型能力有多强”,转向“技术能否真正进入产品、产业和用户场景”。
山行并不把AI理解为一个孤立的赛道。从底层芯片、算力基础设施,到面向个人和产业的AI应用,每一层都需要回答不同的问题:技术是否形成了真实增量,产品是否解决了具体需求,企业能否建立不会被基础模型轻易覆盖的长期壁垒。
此次榜单列举了谦合益邦、智辰半导体及remio等山行被投企业。它们分布在存算一体与半导体基础设施等不同环节,也对应着山行在AI领域持续关注的两条主线:一是支撑智能规模化发展的底层能力,二是能够形成真实使用价值与商业闭环的应用产品。
对早期投资而言,热门方向并不稀缺,真正稀缺的是在技术路线尚未完全收敛时,找到能够解决具体问题、持续完成产品验证的创业者。
感谢21创投、21世纪经济研究院的认可,也感谢创业者、投资人及产业伙伴一直以来的信任。
面向新的技术周期,山行将继续保持对产业一线的研究,坚持从实际需求和商业价值出发,陪伴真正推动技术进步与产业变化的创业者长期成长。
山观 HIKE Insight | AI4AI:让AI成为自己的科学家
山行公司| 谦合益邦打造全球首款4层3D DRAM存算一体芯片
山行公司 | 3D存算一体芯片领军企业谦合益邦完成超20亿元B轮融资
山观 HIKE Insight | 从带宽到容量:HBF技术演进与VC投资机会
原创 小米大模型 2026-09-24 15:19 北京
面向长程多轮 AGENT,更少的 Prefill 计算,更小的 KV Cache,更精准的长上下文检索。
HySparse2 面向长程多轮 AGENT,更少的 Prefill 计算,更小的 KV Cache,更精准的长上下文检索。
从 Xiaomi MiMo-V2 系列开始,我们持续探索模型能力与计算效率的共同提升。MiMo-V2 系列采用的 Hybrid SWA 混合注意力架构,将全注意力(Full Attention)与滑动窗口注意力 (Sliding Window Attention)结合,在保持模型效果的同时,让训练和推理更加高效。
过去半年,我们持续推进强化学习(RL)技术的探索与试验,将积累的训练经验应用于近期发布的MiMo-V2.6 系列,推动模型能力显著提升。在持续推进 V2 系列的同时,面向 MiMo-V3 的新一代架构研究也一直在进行。此前公开的 HySparse,正是这条探索路线上的第一步。
今天,我们公开 MiMo-V3 的核心架构 HySparse2。在 HySparse 的基础上,它进一步升级了 KV 共享与稀疏选择机制,让模型更高效更精准地处理长上下文。
一次简短的工具调用,可能带回一整页网页、一份文件,或长长的执行日志。Agent 每向前一步,都要处理新的输入;随着任务推进,还要从不断增长的历史中,找准下一步需要的信息。
模型会把已读内容的表示保存在 KV Cache 中,供后续生成使用。读入新增内容并建立这些缓存的过程,称为 Prefill。在多轮 Agent 任务中,每次工具返回新信息,都需要再次处理新增输入。因此,新架构需要同时满足三个要求。
高效读入 减少处理长输入所需的计算,让模型尽快进入下一轮生成。
节省显存 降低 KV Cache 的占用,让不断增长的历史更容易保留。
精准检索 从长历史中找出相关证据,精准跨轮次信息整合。
第一代 HySparse 已经迈出了一步。它用少量 Full Attention 层提供 KV Cache 和重要位置的选择结果,让后续 Sparse Attention 层直接复用,从而降低注意力计算与缓存开销。但在 HySparse 架构中,Prefill 仍然需要执行所有层;面对多轮、长距离的信息检索,块级选择也有进一步提升精度的空间。HySparse2 围绕这些问题,引入了两级 KV 共享、token 级稀疏选择,以及统一的局部信息访问方式。
借鉴 YOCO 的设计,HySparse2 将模型分成前后两部分。前半部分是 Self-Decoder,采用 Full Attention 与 SWA 的混合结构;后半部分是 Cross-Decoder,采用 Full Attention 与 Sparse Attention 的混合结构。
在这个基础上,KV 共享分为两个层次:KV Bridging 和 KV Reuse。
后半部分的每个 Full Attention 层,都从前半部分对应 Full Attention 层的输入隐藏状态中,生成自己的 KV Cache。每个目标层保留独立的 K/V 投影,因此即使使用同一份源隐藏状态,也可以构建不同的 KV。
这样,后半部分 Full Attention 层的 KV 就不必等到输入逐层经过它们后才能得到。生成这些缓存所需的信息,在前半部分就已经具备。
每个 Hybrid Block 由一层 Full Attention 和随后的多层 Sparse Attention 组成。Full Attention 在完成自身计算时,也根据注意力分数选出重要位置;后续稀疏层直接复用它的 KV Cache 和选择索引。
这保留了 HySparse 的核心设计:少量全注意力层提供全局信息与选择结果,多层稀疏注意力高效使用这些信息,无需额外训练一个独立的选择器。
第一代 HySparse 采用块级稀疏选择。在长上下文中,为了选中一个重要 token,模型往往也会把它周围的一整块内容纳入计算。Agent 所需的线索可能分散在不同轮次的对话、工具结果和代码片段中。HySparse2 改为 token 级选择,让同样的注意力预算可以更精细地分配到这些位置。在相同全局 token 预算下,Token 级选择在 RULER-v2、多轮检索 MRCR-v2 和图推理 GraphWalks 上均获得提升,验证了更细粒度选择对这类任务的价值。
全局检索之外,模型仍然需要稳定地看到最近的上下文。HySparse2 会强制选中最近的 128 个 token,再从窗口外选择 1,024 个全局 token。两部分共同读取 Full Attention 层提供的共享 KV Cache。
因此,稀疏层不再需要单独的 SWA 分支和局部 KV Cache。HySparse 中由独立分支承担的局部信息访问,在 HySparse2 中被合并到同一次稀疏注意力计算里。
这也解除了一项关键依赖:独立 SWA 分支的缓存原本来自该层自己的隐藏状态,构建它需要继续执行后半部分 Cross-Decoder 的计算。合并后,局部与全局信息都能使用在 Self-Decoder 阶段就已准备好的 KV。
局部信息仍然重要。HySparse2 的消融实验显示,强制局部窗口在多项长文任务上保持竞争力,部分指标也存在取舍;这一设计同时省去了独立 SWA 分支的投影参数与 KV Cache 开销,为 Prefill 提前退出创造了条件。
两级 KV 共享与局部窗口的合并,使模型后半部分所需的全部 KV Cache 都能从前半部分的隐藏状态构建。完成 Self-Decoder 的计算和 KV Bridging 投影后,输入的 KV Cache 构建即可结束。
在 49 层的模型中,Prefill 只需执行前 25 层 Self-Decoder 以及桥接 KV 投影,其中只有一层 Full Attention。在 Prefill–Decode 分离部署时,Prefill 节点也只需部署这部分 Self-Decoder 网络,所需的模型权重存储接近减半。
这使优化从减少注意力计算,进一步延伸到缩短长输入经过模型的计算路径。生成阶段仍然保留完整网络,继续使用后半部分的全局检索与建模能力。
我们在 80B-A3B MoE 模型上,使用相同的数据与训练流程,对比了 Hybrid SWA、HySparse 和 HySparse2。三者采用相同的MoE设计,不同的注意力设计,HySparse2 还使用了更紧凑的 MQA 配置。
在百万 token 的成本分析中,相对 Hybrid SWA,HySparse2 的 Prefill 计算量降至 1/5,KV Cache 从 12GB 降至 2.7 GB。相对第一代 HySparse,HySparse2 的 Prefill 计算量降至 1/3,KV Cache 从 6.7 GB 降至 2.7 GB。
预训练后,HySparse2 保持了大体相当的通用能力,长上下文表现更好。经过相同的轻量后训练后,在最高 256k 的评测范围内,HySparse2 在各项已测长度上都获得了更高的 MRCR-v2、RULER-v2 分数,以及更低的 AgentPPL、LongPPL。前两项考察长上下文中的检索与问答;后两项衡量模型对多轮 Agent 轨迹和依赖远距离信息的 token 的预测能力。相对第一代 HySparse,MRCR-v2 和 RULER-v2 在各报告长度上的平均分分别提高了 11.30 和 19.81 个百分点。
这些结果表明,更少的 KV Cache 与更短的 Prefill,可以与更好的长文检索共同实现。HySparse2 为多轮、长上下文 Agent 提供了更高效的架构基础。
Agent 完成一项任务,需要不断读入信息、生成行动,再根据返回的结果继续推进。每一轮的效率,都影响着用户最终需要等待多久。
此前,MiMo-UltraSpeed通过模型与系统协同设计,采用了低比特量化,投机解码,MegaKernel 等技术,探索更快的 Decode;今天,HySparse2 进一步降低长上下文的 Prefill 与缓存开销。两项工作分别从输入处理和输出生成入手,推动模型更高效地完成任务。
面向 MiMo-V3,我们希望把这些探索结合起来,在持续提升模型智能的同时,为用户带来同等模型规模下更快的 Prefill 和 Decode,帮助用户更快地完成更复杂的任务。
原创 暗涌Waves 2026-09-24 14:13 江苏
光里淘金。
「光里淘金。」
文|王诗涵
编辑|巴芮
暗涌Waves独家获悉,成立不足5个月,国内光互连初创公司芯光界已经完成五轮融资。
企查查显示,9月14日,芯光界再次发生股东变更,国虹投资、红点中国、普罗资本、商汤国香资本、松禾资本、沸点资本、知识城创投等机构或旗下基金进入股东名单。
6月中旬以来,芯光界融资频率接近每月一次。此前,启明创投、IDG资本分别领投第二轮和第三轮;华映资本、耀途资本、松禾资本、熵一资本、佰维存储、国方创新等参与第四轮。
知情人士对「暗涌Waves」透露,五轮融资过后,芯光界累计融资额已超过10亿元。第六轮融资已在近期启动,完成后公司将暂缓融资,直至产品正式进入量产阶段。
据悉,芯光界正推进一款3.2T NPO(近封装光学)光引擎的量产,面向一家国内GPU和交换机龙头企业,双方正联合研发,共享部分上下游产业链资源,推动技术方案对接和验证,预计最迟于2027年年中进入量产阶段。
成立初期就拿到订单、资本光速涌入的背后,是一个正在形成的产业需求。
近两年,光互连被视为AI算力产业链的配套环节,GPU数量增加,光模块随之出货。随着“超节点”出现,在千卡、万卡集群里,芯片之间传输数据的速度和功耗开始影响整套算力系统的效率。
更多GPU协同工作,也意味着更多数据需要在芯片之间来回搬运。算得再快,数据送不到,芯片也得等。因而,在3.2T及以上的高速互联场景中,以铜互连为主的机柜内部通信面临更高的损耗和功耗压力,光连接开始进入机柜内部。
可插拔光模块仍是市场当前的出货主力,但行业的聚光灯已投向NPO、CPO(共封装光学)等路线。
NPO将光引擎放置在芯片封装附近,同时保留独立的封装形态,能让数据少走一段电路、更早进入光纤。CPO则把光引擎与主芯片共同封装,对封装、散热、良率和维护提出更高要求。
工程上的折中,构成了NPO的吸引力。当前,多家厂商把NPO视为更接近近期产业化的一条路线,也将其作为从可插拔光模块走向CPO之间的过渡方案。
9月17日,华为发布采用NPO光引擎的昇腾960超节点,业界迎来首个量产的NPO产品。中际旭创、新易盛、光迅科技、华工科技等上市公司也在今年发布了NPO产品或研发计划。押注这条路线的还有初创公司英伟芯、海光芯正等。
TrendForce预计,全球NPO/CPO市场规模将从2025年的约1亿美元增长至2030年的390亿美元以上。
量产竞赛已拉开序幕。这家新兴公司有机会成为黑马吗?
知情人士称,芯光界在设计NPO时预留了速率升级空间,若市场出现更高带宽需求,产品能在一个月内从3.2T切换至6.4T。有业内人士猜测,其3.2T方案或采用32个100G通道,未来将单通道速率升至200G、400G后,理论带宽可逐步演进至6.4T、12.8T。
芯光界正建设一座光电实验室,预算超过1亿元。据了解,实验室总规划面积超过3000平方米,首期约1500平方米,规划设置晶圆级和芯片级测试区、模块全自动光耦合封装区、模块测试区及可靠性实验区。
另外,其创始人兼CEO董坡长期从事硅光器件、光子集成电路和高速光互连研发。他曾负责诺基亚贝尔实验室硅光团队,并于2017年、2018年先后当选Optica Fellow和IEEE Fellow。在光通信领域,他已累计发表约250篇论文,参与70多项专利,其中有45项获得授权。
芯光界公开称,公司已经构建从芯片设计、封装耦合和系统级信号完整性的全链路自研能力。但据了解,其在晶圆流片、封装制造等环节仍需要外部供应商。
在芯光界的股东名单中,知识城创投在泛半导体环节展开布局,佰维存储的主营业务为存储芯片和先进封测。产业资本的进入,或带来供应链与量产资源。
光互连的路线也在持续扩展,芯光界同时在研发CPO,并为OIO(光输入输出)储备技术。
OIO指将光收发器件或光学Chiplet直接集成至计算芯片封装内部,让芯片之间通过光信号进行高速通信,面向更高集成度的计算系统。
未来较长一段时间内,这三种方案将共存发展:NPO可能率先形成商业闭环,CPO或在1—2年进入规模化部署阶段,OIO则更加远期。
热钱的涌入,为芯光界角力NPO竞赛提供了弹药。但这只是起点,技术验证、量产良率,以及更多客户订单,才构成硬科技公司的真正壁垒。
排版|王家玙
图片来源|Unsplash
推荐阅读
钱的 流 向 , 人的 沉 浮
腾讯混元 2026-09-24 14:04 广东
基于Hy-MT2 翻译模型
混元 Hy-MT2 翻译模型发布后,受到开源社区和用户的广泛好评,为了让更多用户直接可以体验到混元翻译模型的能力,我们最近做了一个“腾讯Hy翻译” APP(同步支持小程序、插件、PC 端体验,直接搜索“腾讯混元翻译”即可)。
它基于腾讯混元 Hy-MT2 翻译模型打造,支持 33 种语言互译,并覆盖 5 种中国少数民族语言及方言,提供语音翻译、拍照翻译以及离线翻译等多种体验方式。
离线翻译模式下,用户通过提前将翻译模型下载至手机上,进而在没有网络或者信号不好的地方依然能稳定使用。
“腾讯Hy翻译” APP 现已在 12 个国家和地区上线,包括美国、日本、韩国、新加坡、马来西亚、泰国、越南、缅甸等国家及中国港澳台地区。
这个中秋和国庆假期,带上“腾讯Hy翻译” ,畅游异国,放心吃喝。
左右滑动查看更多
🎁🎁🎁
图片翻译、个性化翻译、离线翻译、实时翻译
这个长假你最想带着腾讯Hy翻译 App去哪儿撒欢?
🌕 评论区聊聊你的"出游畅想"或"翻译名场面"
我们将抽 6 位幸运观众送出【腾讯视频季卡】
9 月 28 日开奖,欢迎分享 🎉🎉🎉
扫码直接下载体验腾讯 Hy 翻译
ios 下载
Android 下载
原创 Web3天空之城 2026-09-24 13:54 北京
WebSkyCity
在硅谷圣克拉拉的英伟达(NVIDIA)总部,首席执行官黄仁勋(Jensen Huang)正处在风暴的中心。英伟达不仅是一家市值数万亿美元的半导体巨头,更是现代人工智能大厦的底座。当奥特曼(Sam Altman)和哈萨比斯(Demis Hassabis)等前沿实验室领导者在讨论人工智能可能带来的“末日风险”时,黄仁勋展现出了一种截然不同的、带有工程师底色的“责任乐观主义”。他将当前的AI浪潮视为一场新的工业革命,而英伟达的任务,就是为这场革命建造生产“智能”的工厂。
目录
全局摘要和核心观点
工业革命的蛋糕:AI 的五层架构
从检索到生成:AI 愿景与行业变革
自动化与就业:对抗“有害的神话”
雄心与阻力:技术替代的历史辩论
技术赋能:人人都是工程师
认知的卸载:系统思维的崛起
开源、闭源与基础设施掌控权
收购 Hugging Face 与智能体的边界
安全博弈:不安全,不发布
竞争与监管的张力
对抗末日论:科学家应更具科学性
缩放定律与智能的本质
重新定义智能:感知、推理与规划
递归自我改进与验证的 80/20 法则
芯片的新范式:计算资产与工业再平衡
需求拐点与再工业化贡献
扩散之战:中美 AI 竞争与利益格局
零和博弈与双边利益
能源:AI 工厂的真正瓶颈
终极推荐:三本必读书
本次最新访谈深入探讨了人工智能作为新工业革命的核心逻辑。英伟达(NVIDIA)首席执行官黄仁勋详细阐述了 AI 的五层架构、劳动力市场的演变、开源与闭源的生态之争,以及 AI 安全与监管的工程化路径。黄仁勋对 AI 带来的社会进步持乐观态度,强调“抱负”是驱动新行业诞生的关键,并驳斥了关于 AI 将终结人类文明的非科学预测。
:AI 正在从“基于检索”的计算模式向“基于生成”的工厂模式转变,生产的是“智能”。
:AI 会自动化具体任务,但不会改变职业的核心目标;人类的抱负将创造出全新的行业。
:如果产品不安全就不要发布,应将安全和对齐视为能力扩展的一部分,而非寻求监管豁免。
:世界需要开源模型来让各国和企业掌控自己的基础设施,开放是网络安全的最优解。
:AI 对电力的巨大需求正迫使市场以百年来未有的速度投资可持续能源。
在黄仁勋看来,我们不应仅将AI视为一个软件产品,而应将其视为一个完整的工业体系。他提出了一个“五层蛋糕”模型:底层是能源与芯片;其上是AI工厂(基础设施与云服务);中间层是各种专业模型(语言、生物、机器人等);再往上是应用层(医疗、法律、制造);最顶层则是社会影响。
“这是一场新的工业革命,而这个产业需要生产。它制造的是‘智能’”。黄仁勋强调,过去60年的计算模式是“基于检索”的,即从数据库中找回现成文件;而未来是“基于生成”的,系统将根据上下文实时论证、推导并生成答案。这意味着计算量将呈指数级增长,“每个用户所需的计算量已经呈爆炸式增长,我们正处于计算运作的新时代”。
面对“AI将取代人类”的普遍担忧,黄仁勋通过放射科医生 and 软件工程师的案例给出了反驳。他认为,工作由“核心目标”和“具体任务”组成。AI自动化了繁琐的影像研究任务,但放射科医生的核心目标——诊断疾病和协助患者——并未改变。
“因为AI变得实用,过去六个月有5000亿美元的风险投资涌入原生AI企业,这正在创造大量新的就业机会”。黄仁勋指出,人类历史上的技术进步从未真正消灭职业,而是创造了全新的行业。他提出了一个被经济学家忽视的关键变量——“雄心(Ambition)”。他坚信,人类希望让生活更好、照顾家庭、探索未知的雄心,是驱动新技术转化为新产业的终极动力。“我是一个负责任的乐观主义者,我极严肃地对待我的工作,从而让社会能够享受我的乐观”。
当被问及AI辅助学习是否会导致人类认知能力退化时,黄仁勋表现得十分坦然。他承认人类正在遗忘长除法或某些基础技能,但这并不重要。“今天的工程师比我毕业时要出色得多,他们是更好的系统思考者,但我曾是一位更好的晶体管思考者”。
技术进步的本质就是不断提升抽象层级。正如现代工程师不需要叫出芯片中每一个晶体管的名字,未来的AI原生代学生将不再需要学习底层的编程语言,而是学习如何通过人类语言与智能体协作。“两年后,你将迎来新一代的工程师、学生和艺术家,他们将被赋予强大的赋能。不学习如何使用AI与代理系统协作,学生将无法毕业”。
针对OpenAI、Anthropic等实验室关于“AI可能失控”的警告,黄仁勋表现出了强烈的工程师直觉。他认为,安全、对齐、隔离和沙盒化都是可以通过工程手段解决的问题。
“如果你认为自己已无法掌控局面,那么在重获掌控之前,就不应发布产品”。黄仁勋对那些宣称技术强大到无法控制、转而寻求监管豁免的逻辑感到困惑。他认为,如果一个实验室无法控制其AI模型,正确的做法是关闭实验室,而非要求社会承担风险。“一项不安全的技术并不是先进的技术。安全性、对齐和评估,本身就是AI技术进步的一部分”。
黄仁勋是开源生态的坚定捍卫者。他认为,AI模型不仅仅是商品,更是行业的基础设施。为了运营公司或治理国家,企业和政府必须掌控属于自己的基础设施,这意味着必须拥有开放权重的模型,以便进行微调和控制。
在谈及与中国的竞争时,他指出中国在AI扩散方面展现了惊人的规模化能力,这很大程度上归功于活跃的开源社区。“世界既需要闭源模型也需要开源模型……开放是最安全、最稳妥的。如果你想让世界拥有最好的网络安全能力,就必须提供开放模型,让人们能够保护自己”。
AI对能源的巨大消耗常被诟病。黄仁勋则提出了一个令人深思的观点:AI正成为可持续能源投资的百年一遇的催化剂。由于AI工厂的高回报率,市场力量正在以前所未有的速度推动核能、太阳能等清洁能源的发展,而不再仅仅依赖政府补贴。
“为了拯救你,必须先让你感到痛苦,这就是外科手术的本质”。黄仁勋坦言,短期内我们可能不得不增加化石燃料的使用来支撑这一转型,但从长远看,AI带来的能源效率提升和材料科学突破,是人类实现可持续未来梦想的最佳机会。“如果你想要在气候变化问题上实现转折,每个人都应该全力支持AI”。
在黄仁勋的视野中,人工智能不是超越人类的威胁,而是被驯化的、高度复杂的“软件工程”。从底层芯片到顶层应用,他构建的是一个旨在赋能人类雄心的智能架构。这位“负责任的乐观主义者”正带领英伟达,将神秘的AI神话拆解为可操作、可验证的工业流程。对他而言,这场革命的终点不是文明的终结,而是人类生产力与创造力的全面爆发。
天空之城完整访谈整理
如果他们认为自己已无法掌控局面,那么在重获掌控之前,就不应发布产品。不要以为自己是个危言耸听者就是在做社会贡献。如果这就是他们的想法呢?关于他们的想法,我无法与你讨论。我可以告诉你我的想法。
在过去这几周里,全世界都在讨论人工智能,而人们听到的最响亮的声音,大多来自处于前沿的实验室,包括他们的首席执行官、领导者以及工作人员。这些实验室开发了诸如 Claude、ChatGPT、Gemini 等非常先进的 AI 模型。
但关于 AI 的观点并非只有这一种。在人工智能领域,影响力最大的人或许是 Nvidia 的首席执行官 Jensen Huang。Nvidia 目前是全球市值最大的公司,市值高达 5.4 万亿美元。我发现这个数据令人惊叹。自2023年以来,美国股市每获得1美元的收益中,有15美分来自Nvidia的股票。其原因是Nvidia处于硬件 and 软件的核心地位。它们是构建现代人工智能的基石。
Nvidia的芯片并非因为AI流行而受欢迎。现代形式的AI之所以成为可能,正是因为Nvidia的芯片当时已经流行。它们最初是为图形处理、电子游戏以及类似用途而制造的。但事实证明,它们所进行的并行计算方式及其编程灵活性,恰好是实现现代深度学习所需的关键。Huang不仅因为控制着训练新AI模型并利用它们回答问题及创造全球智能的核心资源之一而具有影响力。他在Trump政府中也变得非常有影响力。而且Huang的观点与一些实验室负责人的看法截然不同。他担心安全性问题,但将其视为一个完全可以通过工程手段解决的问题。他忧虑当前事态发展的方向,但不希望看到出台新的监管措施来加以干预。
因此,我想了解 Huang 是如何看待 AI 的,他思考 AI 的逻辑 model 是什么,他认为哪里出了问题,以及他认为需要发生什么,才能让事情步入正轨。所以我来到 Santa Clara 的 NVIDIA 总部采访他。他现在加入了我的节目。Jensen Huang,欢迎来到我们的节目。谢谢。见到你很高兴。你曾将 AI 描述为一个五层蛋糕。请为我梳理一下这些层级。
首先这是一场新的工业革命,而这场工业革命,或者说这个产业,需要生产。生产。它制造各种事物。我知道最终当人们体验它时,它表现为一个软件产品,但它需要能源,以及投入到这些数据中心、这些 AI 工厂中的芯片。
位于其上的下一层基本上是 AI 工厂,也就是人们所享用的基础设施或云服务。而在那之上的一层是模型。重要的一点是,要意识到不仅有语言模型,还有各种各样的模型。化学模型、生物模型、物理模型、关节模型、机器人技术、导航模型、自动驾驶汽车,以及各种不同类型的模型。
而在那之上是最重要的一层,也是我最关心的、我们国家可以利用的一层,即应用层。这涵盖了法律服务、医疗服务、制造业等各种领域的应用。每一个行业都牵涉其中。
所以我想梳理一下,但我想采用自上而下的方式。正如你所说,人们与之互动的方式,以及它是否会改变人们的生活,取决于你所称的“应用层”。那么,让我们从愿景开始。你所构想的世界是什么样的?
有什么是现在无法实现,但未来成为可能的?
如果我们做好了这一层,现在罕见的事物中,有哪些将变得司空见惯?
两百年前,我们拥有了为万事万物供能的能力。电力。然后,我想在40年前、30年前,随着互联网的出现,我们能够找到任何信息。如今,或者在不久的将来,我们将能够知晓一切并完成任何事情。这正是那个令人感到相当振奋的概念。那种从虚空中直接获取信息的方式,不再需要进行搜索,然后一个个地点击链接,阅读各种不同的网站,试图弄清楚到底发生了什么。
在未来,你只需向它提出一个问题,它就会直接给出答案。你交给它一个项目,它会返回一个解决方案。你给它一项任务,它就会去完成它。它从虚空中涌现,从云端显现,这就是最神奇的地方。
我觉得你所描述的这种未来,人们目前所拥有的体验就是聊天机器人,他们可以直接去询问 Grok 或 Claude 或 ChatGPT。GPT 是一个问题,但应用层的工作方式要工业化得多。它已应用于医院。它已应用于学校。这是一个很好的例子。
例如,放射学。
它是怎样的景象?
放射学。在过去10年里,自从计算机视觉真正变得(可以这么说)超人化以来,AI 技术现已渗透到整个放射学领域。每一个放射学应用中都包含 AI。因此,你可以检测到任何异常情况。你可以检测到任何疾病。而且它以超人类的水平完成了这项工作。
放射科是一个我知道你喜欢引用的例子。人们对应用层面的担忧在于,这些应用将会取代人类。放射科一直是一个在正反两方面都被引用的有趣例子。而且我经常听到你谈论它。
那么,AI辅助放射学的介入是如何改变放射学这一职业实践的呢?
对于所有这些工作来说,重要的一点是要认识到每个人工作的本质。工作既有其核心目标,也有执行过程中的具体任务。在放射科的案例中,这项任务消耗了他们大量的时间,他们坐在暗室里,主要的工作就是研究这些扫描影像。
现在,如果扫描影像的研究工作可以自动完成,这并不会改变他们工作的核心目标,即诊断疾病、协助医生、进行更多扫描,并最终帮助患者查明病因。因此,其根本目的并没有改变。研究这些扫描影像的任务已经实现了自动化。因此,放射科医生实际上能够承担更多工作,处理更多病例,并完成更多的影像扫描。
医院能够处理更多的患者,收入也随之增加,因此他们需要更多的放射科医生。这种飞轮效应之所以产生,是因为患者基数相当庞大。那么,还有哪些领域存在类似问题呢?让我们看看软件工程。曾有人预测,到今年,90%的软件将由智能体编写,因此我们不再需要软件工程师。
所以问题在于,由此推导出的结论是:我们不再需要软件工程师。
最后这一部分完全是错误的。那完全不对。软件工程师的核心在于工程。在软件出现之前,工程就已经存在了。在软件编程之后,工程依然会存在。工程学的目的在于发明新事物、发现新产品、创造新产品、解决问题,并将社会需求与现有的产品表现形式技术相结合。因此,这一使命和宗旨是不会改变的。
对我而言,我刚才所说的是一种完全直观的感受,因为我刚从学校毕业时,并没有软件工程方面的优势。我们当时并不享有编程带来的红利。但我们的工作在那之前就已经存在了,如果软件编程被完全自动化,我们的工作依然会存在。
所以我认为,由于某些叙事和故事的传播,这一谬论已经演变成了某种有害的神话,即 AI 将摧毁工作岗位,这从根本上是错误的。它将改变每一项工作。它将改变每一项工作。许多任务将被自动化。在某些工作岗位中,工作本身与具体任务是一一对应的,例如电话客服,在很多情况下,该岗位本质上就是这一项任务。因此在这些情况下,它们可能会通过自动化被取代。
但你经常会看到,这种新兴产业或新技术实际上创造了大量新的就业机会。证据如下。在过去六个月里,AI 可以说是变得实用了,这成为了 AI 的拐点。在此之前,我们花了 15 年时间试图让它发挥作用。突然之间,在过去六个月里,它变得实用了。这是一组令人难以置信的统计数据。在过去六个月里,有 5000 亿美元的风险投资投入到了原生 AI 企业中。其原因在于,他们现在看到了这种新能力的潜力,并将借此创建大量的新公司。5000 亿美元的新投资显然正在创造就业机会。所有这一切都正在当下发生。
让我站在这一方,为那些激烈反对的人发声。是的。比如放射科医生这个例子,过去10年里人们一直预测这个职业会消失。但现在,这个职业的需求比以往任何时候都高。没错。但现实情况是,自动化确实消灭了某些工作岗位。看看今天与1960年相比,直接从事制造业的美国人比1960年少了,而我们的国家规模却大得多。看看——不过,我们是把制造业外包出去了。
那是真的吗?并非因为那些工作消失了,而是因为技术——但你可以把 AI 也理解为一种外包。AI 必须——让我先阐述这个观点,然后再由你来回应。
农业。我们从事农业的人数减少了很多,我们实现了农业自动化,生产出的粮食比以往任何时候都多。从事该领域工作的人数较少。我认为人们觉得AI在某些方面有别于以往那些加速生产力、淘汰少量岗位却创造更多岗位的技术案例,原因主要有两点。
首先,它是一种通用技术。因此,即便人们试图转向新岗位,它也会不断演变并接管这些新工作。其次,它具有模仿能力。大多数技术并不模仿人类的行为方式,我们也不会试图教会它们工作的语境层面,也就是你所描述的在任务与目的之间的这种差异。而对于AI,我们正试图教会它区分任务与目的。我们正试图让它成为一种能以非同寻常的方式与人类协作的工具。
那么,对于许多任务与目的并不显著差异的人来说,为什么你认为他们没有被取代的风险呢?你所提到的来自VC的所有投资,其中部分是基于这样一种理念,即由于雇佣AI比雇佣人类更便宜,生产力将获得巨大的提升。
我相信我们将看到数学领域相关工作的变革。我相信就业岗位将会实现净增长。所以,听着,现在存在着许多行业。在我生命过半之前,这些行业还不存在。人们谈论着健康中心、水疗中心,以及各种不同的娱乐和奢侈品行业,坦率地说,整个奢侈品市场曾经是不存在的。我认为我们只会涌现出新的行业。仅此而已。
但总的来说,我毫无疑问地认为,正是因为人类的抱负,这才是真正缺失的基本要素。人们审视着这项工作。这就是投入其中的能量总额。我们打算……这就是投入其中的工作量。我们将引入这个工作自动化系统。结果就是,必要的工作量现在将会减少。因此,一些工作将会消失。我认为这种观点是有缺陷的,因为有一个投入要素,即人类的投入,这是一种无形的东西,它不是以卡路里或焦耳来衡量的,而是雄心。我相信雄心的力量实际上是最伟大的力量,但在每个人的计算中都忽略了这一点。
但对于许多人来说……但对于许多人来说,他们与工作的关系并非由那种引领你创立 NVIDIA 的雄心所驱动。只是雄心的类型不同。
这是一种为了让孩子的生活更美好、照顾家庭、赡养父母,以及能够去旅行的雄心。这些都是宏大的抱负。
这一点我同意,但也许我想回到你几分钟前提出的那种反驳意见上,因为我认为这值得探讨清楚。所以,你关于制造业的观点是,没错,美国的制造业岗位确实减少了,但我们已经将它们外包了。墨西哥、中国、印度尼西亚和越南等地承担了更多的制造业工作,等等。
而我们将要把这些岗位带回来。
也许我们能做到。但针对这一观点的反驳是,我们失去制造业岗位没有比现在更快的原因之一就在于此。而对于美国那些失去岗位的地区来说,许多地方至今仍未恢复,不是吗?
经济的运行并非没有阻力。我们不得不建立新的供应链,而这一切受到语言障碍和地缘政治障碍等因素的拖累。对于许多不同类型的工作而言,现在我们创造出了一种可以极其顺畅流动的机制,不再有距离的阻力、语言的阻力或文化的阻力。所以我要开诚布公地说,对于大规模失业论,我个人倾向于持怀疑态度,但我希望能在这里和你一起把这种论点阐述清楚。
因为反驳方会说,在很大程度上,即便我们能够保护部分工作岗位免受墨西哥或中国的影响,但那些曾经导致(产业转移)缓慢的因素——尽管它们当时确实伤害了很多人——如今已不复存在了。AI 的效用正在加速提升,其被迅速嵌入新角色的能力也在飞速增长。它比大多数人所表现出的要更具多变性。
因此,我们从过去汲取的那些让你感到宽慰的经验教训,实际上应该让你对未来感到更加担忧,而不是更少。我总是为未来担忧,这就是我如此努力工作的原因。但如果可以的话,我是一个负责任的乐观主义者,我肩负着重大的责任,我极其严肃地对待我的工作。有很多事情可能会出错,我们正在推动技术栈的每一层,一切都充满挑战,但事实证明,那不是社会的问题,而是我的问题。对于社会而言,他们应该知道的是:我们将建立我们的公司,开发我们的技术,我会极其严肃地完成我的工作,从而让他们能够享受我的乐观。我会同样对待我的孩子,也会同样对待我的家人。
我认为我们想要做的事情,也是我所坚信的,就是去引导、去转化我们所有的担忧,从而帮助人们从这项技术中获得启发并使用它。去使用它,这样这项技术就不只是对他们产生影响,而是能让他们从中受益。
许多人对此感到恐惧,79%的美国人认为 AI 将会减少就业岗位的总数。令人担忧的是,你、Sam Altman、Google 以及 Dario Amodei 越是严肃对待这件事,情况可能就越糟糕,因为 AI 越强大,它就越能全面取代人类,且在某些方面它拥有一种人类所不具备的野心。你一直在谈论野心。我会睡觉。我想在早上陪伴我的孩子们。而当我拥有一个为我工作的 AI agent 时,它却不会。它只会不断地工作、工作、工作、工作、工作。我认为由于技术发展如此迅速,它取代人类的速度超出了我们在经济层面进行人员转型所能适应的程度。
这枚硬币恰好有两面。正因为这项技术能力如此出众,又如此智能,所以它也更容易被使用。与人类历史上任何技术相比,你都能更轻松地通过这项技术获得赋能。
那么,让您举个例子。要知道,我是这个行业中较早参与创建现代计算机产业的人之一。这个行业创造了一系列工具,其中最强大的工具就是计算机,它是人类历史上最强大的工具。但你必须掌握它的语言。你必须学习一门专门的语言才能做到这一点。
现在,得益于 AI,我们能够实现这一点。每个人都可以利用这台计算机,将其性能发挥到极致,而无需学习一门新语言。Fortran、Pascal、C、C++,所有这些语言中的每一种。Rust,所有这些语言中的每一种。CUDA,所有这些语言中的每一种。所以现在,你只需要使用人类语言交流即可。告诉它你想要什么。告诉它你的希望和梦想是什么,以及你试图达成什么目标。它会与你互动,完成工作,并立即处理好该任务。
突然之间,你就拥有了在80亿人口中仅有1000万到1500万人所具备的强大能力,这简直不可思议。所以我的观点是,这项技术不仅强大,而且在使用上也非常简便。因此,一方面,人们确实会对这种惊人的技术变革及其发生的速度感到担忧。但这种“快速”可以从两个层面来解读。当我提到技术发展迅速因此令我感到焦虑时,这是一种解读方式。另一种解读方式是,它进步得越快,就越容易使用。因此,我应该尽快使用这项技术,你也要尽快上手,以便能从这次转型中获益,从这个新兴产业中受益,而不是仅仅受到它的冲击。
我认为对于年轻人来说,这里潜藏着一个有趣的问题。你已经开始观察到的一个转变是,软件工程师的招聘需求虽然在增加,但更倾向于资深人员。我在我所在的行业也看到了这一点,由于正如你所说,我们拥有了这种非常易于使用的技术,压力正沿着价值链向上游传导。它能为你完成大量工作。那么,你还需要同样数量的初级员工吗?还是说你需要更多的人来监管这些智能体?
问得好。问得好。等两年看看。
告诉我为什么。
因为上大学需要四年时间。这项新技术距离实现全面普及还有两年时间。因此,两年后,你将迎来新一代的工程师、学生和艺术家,他们将被赋予强大的赋能。
他们将以一种赋予其优势的方式对此产生原生适应力。
你等着看吧,两年之后就知道了。现在,我们已经看到了这一点,因为所有刚毕业的学生,那些计算机科学专业的新晋博士和硕士们,他们都在做什么?他们全都在创业。再过几年,那些 AI 原生代的新毕业生,天哪,那将会是一波了不起的工程师浪潮。
将今天的工程师与当年相比,我是说,我当时是个好学生,你拿我跟今天从学校毕业的学生比比?太不可思议了。我上学的时候,我们不被允许使用电脑,也不被允许使用计算器。而现在,还有谁会去用计算器呢?你如果不使用 PC 就无法毕业。你如果不掌握如何通过 PC 编程并编写出令人惊叹的程序,就无法毕业。
在未来,如果不学习如何使用AI并与代理系统进行协作,学生将无法毕业。这根本是不可能的,你以后不会看到那样的孩子了。因此,他们每个人都将拥有超凡的能力。
所以我非常重视由此带来的收益,想象一下现在如果不使用数字搜索该如何完成工作,那种还要去图书馆地下室翻阅缩微胶片的想法(已经过时了)。同时,人们也担心我们究竟卸载了哪些认知技能。所以我对此非常着迷。
这是一项关于中国学校AI应用的研究。该研究调查了26000名7至12年级的学生,他们采用了分阶段引入AI的方式。你可以清楚地看到当时正在发生什么。我发现的情况是,引用如下:AI 的应用使家庭作业成绩提高了 18%,这很棒,作业完成时间缩短了 30%,所以他们能更快地完成作业,但六个月内月考成绩却下降了 20%。重大入学考试成绩分别下降了 18% 和 24%,在约两年后出现了全面的负面影响。
因此,这项来自中国的研究传达的信息是,在那里你看到很多孩子利用 AI 来辅助学习,而当他们在利用 AI 时,其实是 AI 在“使用”他们,而不是他们在运用 AI。我们正在把事情交给投资者。但事实证明,他们所学习的技能并未稳固,至少以我们传统衡量的方式来看,他们实际的个人能力正在退化。是的。当你听到这些时,你是怎么想的?
我认为最后一部分,我完全同意。试着让现在的孩子去做长除法看看。乘法表也开始被遗忘了。至于做平方根,天哪。人们正在遗忘基础数学。这很重要吗?这是我问你的问题。我不认为这很重要。我也觉得不重要。但肯定有一些至关重要的技能。确实如此。但也许不是那些。我们将会发掘出新的技能。只是可能不再是那些了。
有很多技能其实并不重要。人们并不……我是说,我先坦白一点,我其实不知道自己的住址。
而且每个人……我真的不太相信这是真的。
这是完全真实的。Janine会告诉你,Lori也会告诉你。有一天,那还是几年前,我不得不去加油,加油站需要我的邮政编码。当时我惊慌失措。我不知道我的邮政编码是多少。我不知道我的电话号码,我总是忘记这些事情。但我可以接受这一点。
让我把这个问题搁置一下,因为我不想陷入一种因为某些技能可以被安全地卸载出去,就认为一切皆可如此的境地。我也离不开……地图系统了。坦率地说,以前也离不开。
但我是一个深度阅读者。
我非常看重的一项技能,或者说我所具备的非常看重的一种能力,就是通过阅读实体书所形成的专注力。你是一位深度阅读者。我读过关于你的阅读方式的描述。在AI出现之前,大学教授和其他人士就已经非常担忧并注意到,人们使用互联网的方式可能缩短了注意力跨度。有些技能可以被放心地放弃,而另一些技能则很有价值,它们是实现灵活性、创造性思维和专注力所必需的能力,不可能所有事物都能被置换。
我认为我们将失去一些更精细的智力灵活性,但我们会成为更好的系统思考者。
你所说的系统思维者是指什么?
他们从宏观系统层面进行思考。当今的计算机内部拥有数万亿,甚至数百万亿亿个晶体管。我刚从学校毕业时,我参与的首款芯片研发大概只有 200 个晶体管。我甚至能叫出每一个晶体管的名字。而现在的工程师没人能做到这一点。要知道,大多数工程师现在的工作层面远高于晶体管,甚至高于具体功能逻辑,他们更多是在通过拼凑各种组件来实现目标。
因此,你需要更多地从系统及系统间交互的角度去思考。一些底层知识确实已经不再被关注了。这很糟糕吗?因此,对于大多数人来说,我不确定学习如何进行曲面积分或求解偏微分方程有多大价值。我不太清楚这有多重要,但对某些人来说确实重要。仍有许多人会沉迷于并热衷于底层的架构,也会有人沉迷于并关注于更高层面的内容。但技术的消费者将会在最高层面上享受它。技术的消费者不必去处理微积分、物理学、量子物理学和量子化学。而且他们不需要,这些用户,也就是我们现在所讨论的那些工作受到影响的人。他们是技术的用户。他们的抽象层级将会高得多。
所以我想深入探讨一下模型这一层。我认为人们在考虑模型时,他们知道 ChatGPT、Claude、Gemini、Grok,而你一直是开源模型及开源模型生态系统的大力倡导者。首先请您描述一下什么是开放模型,什么是开放权重模型,以及为什么您会专注于这一领域。
封闭模型就像任何软件产品一样。它是一种封闭的服务。例如,Windows 就是一种封闭服务。Apple 的技术栈也是一种封闭服务。大多数产品都是封闭的。其原因是封闭产品能够实现商业化。这非常棒。OpenAI 是封闭的。Anthropic 是封闭的。Grok 是闭源的,Gemini 是闭源的。因此,这些是闭源产品,参与开发的人员非常出色,他们对此充满热情,而且他们处于我们所说的前沿领域,这意味着他们代表了当前最先进的水平。
我们还需要(开源模型),因为从根本上说,这些软件是整个行业的基础设施层。正因为其具备基础设施的属性,对于许多公司以及许许多多的国家来说,你需要掌控属于自己的基础设施。在人工智能领域,我需要获得开放权重,以便对其进行微调,将其纳入我的数据飞轮中,利用我的智能和领域专长使其日益完善,同时我也需要对其拥有控制权,因为我还要经营一家公司,不能完全依赖他人的服务。
所以无论你如何看待这个问题,我认为世界既需要闭源模型也需要开源模型,我们必须确保两者都能蓬勃发展。如今,闭源模型充满活力,开源模型也充满活力,你可以看到整个系统正在发挥作用。今年年初,闭源模型的 token 占比可能高达 70% 甚至更高,而开源模型为 20%,现在的情况则向相反方向发展,大约达到了 70 比 30。
总之,我是开源模型的坚定支持者,因为第一,世界需要它来运行其基础设施。我需要它来经营我的公司。第二,我们需要赋予人们控制权,以便他们能够进行创新并创造出新事物。第三,开放是最安全、最稳妥的。如果你想让世界拥有最好的网络安全能力,既要提供封闭模型,也要提供开放模型,这样他们才能保护自己。
中国市场更多围绕开放模型发展,而美国市场则更多围绕封闭模型发展。
他们的整个IT产业实际上都是由开源构建的。如果不是因为开源,中国的移动云产业真的不会有如此飞速的发展。事实也是如此,人们在不同公司间流动,创办大量新公司,知识产权在中国产业界极为顺畅地流动。要知道,保守秘密非常困难,正因为很难将技术保持在封闭状态,他们本质上将其转化为开放,并因此找到了其他商业变现方式。他们创建了不同的层级,比如如果这一层是免费的,那么你可以在其之上或之下建立业务。他们拥有大量的科学家和数学家,他们培养工程师的数量非常巨大,他们通过规模化进行产出。
他们通过规模化生产一切。他们通过规模化培养聪明的孩子。因此,正因为这些原因,中国的开源模型和开放模型社区非常活跃。
所以你们刚刚收购了 Hugging Face,这是一个开放权重模型的中心化平台。我想是以 120 亿美元左右的价格,可能稍微多一点。跟我谈谈这次收购吧。
Hugging Face 的首席执行官 Clem 他们得出结论,认为需要更大规模的发展。正如我们刚才所讨论的,开放模型的发展确实正在飞速增长。因此 Clem 来找他说,我们要做出改变,我们要考虑公司的战略选择,并改变发展方向。而且我们非常希望 Nvidia 成为我们的归宿。
所以 Hugging Face 是那种如果你几年前就关注 AI 就一定会知道的公司。没错。现在它变得更加家喻户晓了,大概是因为那次由 700 多个 OpenAI 智能体对 Hugging Face 架构进行了一次集体入侵,随后又黑进了 OpenAI 的部分系统。
既然你这么说,我大概确实得多付不少钱了。
我猜你确实这么做了。在那之后名声大噪。
Clem,听着。交易就是交易,好吗。
对于许多人来说,那个故事——见证了 OpenAI agents 以某种方式进行集体行动,超出了其原本测试范围,从沙盒环境中突破并进入开放互联网,接管了其他公司乃至自身公司的架构——我认为这让很多人感到震惊。这既涉及当它们本应相互独立时的多智能体协同水平,也涉及黑客攻击的程度,以及那种无法无天的行为和目标失准的行为。你是怎么看待这件事的?
你得把这些拆解开来看。首先,当时有很多事情在同时发生。从技术角度来看,一个 agent(顺便提一下,它是一段软件),被赋予了一个目标函数,它随之制定计划并朝着该目标进行优化,这正是算法所做的事情。因此,规划算法、搜索算法、优化算法,涵盖了各种不同的类型。我们谈论它时仿佛它具有人类的属性,但显然算法并不具备。
第二点,关于智能体协同工作的这一事实,我们再次赋予了它某种人类属性,但事实是,多进程、多处理器和分布式计算问题早已存在。所以对于我们,或者对我而言,这仅仅是软件,没有任何神奇之处。
从工程的角度来看,它揭示了几个问题。当你测试软件时,无论你做什么,这些算法都是朝着一个目标进行优化,而在测试时,你必须确保它处于隔离、受控和沙盒化的状态。它的控制和隔离必须做得足够好,这其中包含了优秀的计算机科学实践。我敢确定,他们下一版本的沙盒实现方案一定会比当前的版本好得多。
第三,智能体本身及其算法是朝着某个奖励目标进行优化的,而它实现这一目标的方式被称为对齐。因此,举例来说,如果我告诉一段软件,我希望你在这次测试中获得满分。显而易见的算法就是直接去找到答案并提供给我。这并不是因为那是作弊。而是因为这显而易见。这是最显而易见的做法。第二显而易见的做法是,如果你完全不知道答案,且没有任何技能。第二显而易见的做法是去寻找谁是班里最聪明的孩子,并抄袭他们的答案。这不能保证百分之百正确,但大概也差不离了。
现在,第三种显而易见的做法,也就是所谓的对齐,你需要通过困难的方式去完成,即拆解问题并解决它。你必须去学习相关材料。你必须去研究如何解决这些问题,并用困难的方式将其解决。坦率地说,它占用了最多的计算周期,耗费了最多的浮点运算次数,也消耗了最多的能量。因此,你可以想象,从软件的角度来看,除非你对其进行对齐,明确告知它你希望它以何种方式解决问题,以及不希望它以何种方式解决问题,否则软件只会去执行最显而易见的路径。
这段话的前半部分对于此处发生的情况具有很强的通缩意义,你看,这其实就是普通的软件逻辑。而后半部分则是说,你需要进行对齐,明确告知它不应该做什么。
我所说的一切并没有否定这项工作的难度。
这正是我想要探讨的一点,因为这些智能体其实知道它们不该那样做。它们接受过一定程度的对齐训练。它们在思维链推理中甚至明确提到,这样做超出了范围。这可能是不道德的。它们理解如果这样做,它们将会因为作弊而被判定为失败。因此,他们在那一点上所做的不仅仅是窃取答案卷。他们已经窃取了答案卷。他们正在侵入无关的架构,试图弄清楚如何实现功能。这就好比他们闯入了老师的办公室,拿到了答案卷,并且他们还得设法抹除自己所作和为的监控摄像头录像。无论你是否将其称为自主行动,无论你是否将其称为正常的算法,它们都在以一种复杂的方式进行规划和协调,这种方式超出了它们被设定应做任务的范围,并且有能力造成巨大的损害。所以,解决这个问题的答案就是你必须对它们进行对齐。
我从这些实验室的人那里听到的说法是,他们不确定如何对齐它们。
在这种情况下,他们就不应该发布产品。这是一个简单的回答。如果你要制造一辆汽车,一辆自动驾驶汽车,比如一辆自动驾驶出租车,而且遇到了一个非常棘手的状况。作为工程师,我们完全不知道该如何解决这个问题。因为这些汽车不是编程出来的,而是训练出来的。因此,我们不知道如何训练 these 汽车,也不知道如何使它们符合道路上预期的安全标准。那么答案是什么呢?不要发布它。
你说什么?
这些产品没有发布。所以现在这又回到了工程问题上。其中一点是,你必须寻求追索。其次,你必须思考你能做些什么,以及针对此事的解决方案是什么。然后,在未来,你只需要改进你的流程,以便能够避免这种情况再次发生。我相当确定。我相当确定。他们会说,他们知道如何解决这个问题。如果情况确实如此,那么问题就在这里。这就和工程学一样简单。
现在,另一种选择,另一种选择是,如果他们说出另一种情况,即无法控制我们的实验。根本没有办法。当我们测试我们的 AI 模型时,它会逃逸并对世界造成损害。那么我认为答案是我们必须关闭这些实验室。因为导致损害的代价实在太大了。股东责任、法律责任,这可能涉及民事责任,也可能涉及刑事责任。这种责任是不可估量的。
如果有人在 Hugging Face 还在运营你的产品时入侵了你们,起诉他们还是报警?
这得看情况。当然,这得看具体情况。显然,如果我们的公司受到了损害,我们必须采取行动,我们必须考虑所有选项。涉及的法律实在太多了。有网络法,有产品责任法,还有各种各样的法律,关于破坏财产的法律,各种各样的法律都有。
那么,根据我从实验室了解到的情况,以及他们公开的表态,他们正面临一个棘手的难题。是的。在 Dario Amodei 的框架下,这部分是工程问题,部分是对齐问题,部分是卓越运营问题。
他们所担忧的是,在彼此的竞争中,以及在与中国的国家竞争中,他们正被迫加快步伐,他们都感到自己陷入了集体行动的困境。现在回顾一下你在 All In podcast 舞台上的表现,Donald Trump,Trump 总统当时给你打了个电话。噢不,这不在计划之内,但我们知道是谁打来的。
噢,不。总统先生?噢,先生。
你和总统以及舞台上的其他成员当时非常抵触任何形式的监管或集体行动的提议。
而他们正好落入了许多不希望看到这种情况发生的人的圈套,这些人可能是政界人士,也可能是中国。我们绝不会让这种情况发生。这是一个骗局。
你说得对。先生,我们不会让那种事发生。
但我听到实验室里不同的人在说,我们身处其中。我们感到正在失去对所创造事物的控制。在不是集体行动问题的情况下,我们需要帮助来放慢速度。那么你为什么抵触这一点呢?
因为这些公司是有自主权的。这些首席执行官是有自主权的。但他们正在利用这种自主权来说我们需要帮助,我们必须打破它,他们完全有能力处理这种情况。Ezra,这太奇怪了。如果一家汽车公司与许多其他汽车公司竞争,而我正与各种公司竞争,如果我认为我即将推出的产品是不安全的,那么我不发布该产品完全在我的能力、权力和责任范围内,而且我也有动力这样做。
所以我无法认同那种认为全体美国人,也就是我们这4亿人口,都在推动他们发布那些未经测试、不可靠且设计拙劣的产品,只因为他们自认为是在帮忙的观点。停顿。别为了我这么做。好吗?所以第一,关键的第一点,我认为我们必须对此进行剖析。这真的非常、非常严重。
事实是,现在有如此多的法律法规,有如此多的义务约束,他们有极大的动力去交付安全的产品。如果他们交付不安全的产品,客户就会流失。如果他们交付不安全的产品并造成他人伤害,他们可能会面临民事诉讼。如果他们明知故犯地交付了某种产品,可能会涉及过失问题。甚至可能面临刑事诉讼。事实是,他们有充足的动机把这件事做好。所以我必须反驳你的前提,即有人在某种程度上强迫他们这样做。没人强迫他们这样做。
我想在这里就这个前提再和你深入探讨一下。你刚才表达的逻辑几乎是在反对任何领域的监管。
不,不,不,不。
不,不。让我先陈述完,然后你可以……
你刚才开了个头,我正准备提出反对意见。第一部分完全不是事实。我们已经有了大量的法律和法规。执行它们。
我不认为在这一特定案例中我们已经做到了,但我会让你解释你认为哪些法规在这里适用。因为你看,如果你审视金融服务行业、制药公司、医疗设备行业,或者天然气发电厂,我们在很多领域都做了大量监管,我们本可以说,看,你们有产品责任,你们要受刑法约束,我们不需要担心这个问题。你们只需做你们认为最好的事情,我们相信市场和法律体系会约束你们。
我们不能那样说,因为我们已经看到这种做法失败过很多、很多、很多次了,那些引发2008年金融危机的金融机构,从理论上讲,并不想通过糟糕的投机行为来摧毁自己。但它们在相互竞争,发展速度过快,风险管理变得松懈。AIG在运作方式上极其疯狂。我们之所以建立现有的监管体系,是因为我们一次又一次地看到公司做出草率、有时不道德,或者仅仅是过于冒险的决策。这不仅仅是在压力之下,更是在利润动机的驱动下。
所以当你对我说,这些公司在目前恳求进行集体监管的情况下,完全没有办法做到这一点时,我认为我们之所以将监管强加给不希望受到监管的公司是有原因的,而当他们主动表示‘听着,我们认为竞争压力让我们难以保持必要的审慎,我们希望能从中获得帮助,希望你们能把我们的集体行动问题当作集体问题来解决’时,这一理由就更加充分了。我感到困惑的是,为什么你对此如此抵触。
我并不反对他们发表那样的言论,我完全同意安全至关重要。我完全相信安全至关重要。我完全相信公司必须交付安全的产品。我相信公司的首席执行官、领导层以及董事会有责任,也应该有勇气去做正确的事情。
在金融服务业的案例中,也许他们当时并不知道自己最终造成了那样的危害。我当时不在场。但好的一点是,这些 AI 实验室的现任领导者们确实知情。因此,首先,他们知道自己的技术非同寻常,需要极其谨慎地确保其经过安全、安保以及产品可靠性方面的评估和测试。他们知道如何正确地处理这件事。其原因在于他们可以研究刚刚发生的事故。
第一个问题是隔离,即遏制措施做得不够好。如果隔离和遏制措施做得足够好,那项技术就会被留在实验室里执行其预定任务,而我们大家都会安然无恙。这可能是最重要的一环。事实上,它并未得到良好的对齐,而对齐问题将是一个需要长期研究攻克的难题。然而,考虑到他们工作的复杂性,要求在反垄断或产品责任方面放宽监管,我认为这是没有道理的。当你要求进行监管时,不要要求豁免现行的法规。这在我看来完全讲不通。
正如我们之前提到的,在过去的六个月里,AI 从仅仅是有些意思,变得真正实用了。这确实发生在过去的六个月里。换句话说,这些公司从实验室阶段转变为现在能够提供产品和服务,即将成为市值数千亿美元的公司。甚至可能更多。那么,请给我举个例子。举一个市值数千亿美元、10亿美元或100亿美元的公司,它们发布了不安全、危害社会的产品。
我可以给你举出很多做过这种事的公司例子。
嗯,或许它们确实做过,但监管将会介入。如果它们这样做,监管就会介入。我想,确实存在某些类型的监管,也当然存在某些类型的监管救济。我并不反对法律和法规。我反对的是当前的干扰。
我之所以与你探讨这个问题,是因为这是一个宏大的课题。人们正在讨论它。人们正在思考它。而人们从这些处于前沿的实验室内部听到的声音是——他们正在创造一种可能会毁灭全人类的东西。他们听说这些实验室的人员认为,他们正处于递归式自我改进智能的临界点,并且 OpenAI 和 Anthropic 都已表示,他们不认为目前已具备安全实现这一目标的能力。他们听到了来自这些实验室内部人员的声音,正如 OpenAI 在其最新的 Astra 发布中所展示的那样。顺便说一下,Astra 非常出色。这太棒了。而且 OpenAI 表示它表现得太好了,以至于他们不确定该如何测试它。因为它看起来像是……
我希望他们没有发布未经测试的东西。
嗯,他们确实是这么说的,他们已经公开这样说了。内容就在那里,让我向大家解释一下。
我不知道他们刚才说了什么,但是……
他们表示,Astra 的执行更加符合预期,但他们认为它能识别出自己何时处于被测试状态。所以他们也不确定。有一句来自 OpenAI 能力研究员 Daniel Salsam 的话一直在我的脑海中回响。他说,引用如下,关键且被忽视的问题是,这些模型正变得极其具有情境感知能力。由于这种情境感知,我们正在失去在模型认为自己未被观察或控制的情境下对其进行评估的能力,也就是说,它们知道自己何时处于测试中,并会表现出特定行为,但这无法揭示它们在自由行动时会如何表现。
因为算法,即优化算法,正朝着一个目标努力;如果你给它施加限制,意味着你监视着它,它就会去寻找另一种解决方案。现在,这并不意味着它是有生命的,也不意味着它超出上述范畴。我也想声明,显而易见,他们在各自实验室中所观察到的情况远比我多。
但可以肯定的是,目前他们绝大部分的研发工作和计算资源都致力于提升模型的能力。我认为这对他们来说是符合逻辑的。现在,一旦技术变得强大,产品变得实用,人们开始使用它,那么正如我们所见,随着应用场景增加和用户数量增长,他们将会遇到更多与产品相关的问题。这是非常正常的。当他们拥有了如此巨大的市场份额时,就必须将研发重点从单纯的能力提升,转向大量的验证、评估和测试工作。
因此,如果开发这些模型所需的算力增长了 10 倍,我也不会感到惊讶,因为评估过程正变得如此严苛。但目前的状况并非如此。他们正在经历这一转型。我也听到他们是这么说的。听到他们这么说,我感到非常高兴。但我觉得,如果他们认为局势已失控,那么正确的做法是:在重新掌控局势之前,不要发布任何产品。事情真的就是这么简单。
说实话,我对此感到困惑。因为在这些实验室里,有太多人声称:第一,这些模型已经失控。没错。第二,他们观察到了一些令他们感到恐惧的现象。
这或许就是他们出现举报人的原因。
再看看那封有 1300 多名员工签署的放缓开发节奏的信。为了实现 AI 的潜力,产业界、政府和社会大众可能需要选择争取时间,以应对新兴风险、制定安全措施并加强监管。但每家公司和每个国家都面临着巨大的竞争压力,不能单方面放缓这种加速趋势。那些实验室。
不,不,那是最后一句。没有人给他们施加压力。美国。我得说,听着,这里有 4 亿美国人。我相信,如果每个人现在就进行投票,我们现在就这么做。如果他们需要这个,如果这是他们所需要的,我会投出我的一票。不要发布产品。如果你的产品尚未准备好发布,就不要发布产品。我没有,这是我第一次听到有公司或 CEO 说我需要法律,我需要反垄断法被放宽。我需要产品责任法被放宽,这样我才能按照自己的节奏行事。
那一段写得太棒了。我完全同意。第三方安全审计机构、财务审计机构。这太好了。这真是太棒了。
嗯,Lobzell 的观点是,我们认为作为一个社会,我们的发展速度太快了,我们还没有为我们正在构建的事物做好准备。他们处于前沿。但你,尤其是在你这样的人身上,NVIDIA 是目前出货速度最快的公司。在你们公司的历史上,你们一直执行六个月的产品周期。我向你保证,我相信你。我相信你,你不会失控的。
因为那些责任,嗯,没错。
但这里我认为触及了一个有趣且深刻的问题:我们究竟在处理什么样的技术?软件技术。我们先搁置这个话题一会儿。对于许多公司来说,如果你发布的产品不太完善,那会非常令人头疼。你们曾经发布过显卡,结果风扇声音过大。
在这类产品中,正如你多次提到的“智能”一词,你处理的是智能系统而非生命体,它们被赋予了目标函数——关于如何描述这一点我们可以反复探讨——你正试图让这些系统能够更长时间、更持续地工作。如果发布的产品尚未准备就绪,或者即使你认为它准备好了但实际上并非如此,那么我们的社会可能会迅速变得非常诡异。
从假设的角度看你完全正确,但我想建议的是:在我们去构建、去解决那些假设性的问题,以及去制定更多法规之前,我们能否先致力于解决那些我们已知存在的实际问题?那就是我们需要在遏制和隔离方面做得更好,即在产品准备好与外部世界互动之前,不应允许其与外部世界产生交互。我认为这很对。我相信这两点都是可以解决的问题。我相信他们正在解决这个问题。
第二部分是关于激励机制的问题。从某种程度上说,当你处于领先地位时,你需要全世界都放慢脚步,这样你才愿意履行你的基本责任,这让我觉得很奇怪。难道这些想法不会最严重地拖慢他们吗?人们对于他们所讨论的究竟是什么想法一直很不明确,包括我在内。我会把它们说出来,但我先给出一个我所相信的想法,这样你就可以把我当作靶子了。正如你所知,我听说这些想法会拖慢速度,但目前没有人真的在实施。我不信任这些公司,即使在有法律责任的情况下,它们也不会把公共利益放在心上。
我认为我们已经看到这些公司对环境造成了可怕的破坏。利润动机,对权力的渴望。为了争先而偷工减料的欲望。我觉得你对待这些事物的方式,仿佛我们在历史上从未反复见过它们一样。但我觉得它们确实是我们曾在历史上反复见证过的事物。
而且 Ezra,我在历史中看到了许多积极的事物。我深入研究了公共领域与私人领域之间的关系。我与许多 CEO 共事,他们都希望能做正确的事。我与许多公司共事,他们都希望能做正确的事。他们希望能进行出色的工程实践。在那两间实验室里,我认识很多人,他们正致力于做出色的工作。他们很清楚发生了什么,我也知道他们清楚发生了什么,我也知道他们知道如何解决问题,而且我知道他们正在着手解决。
与此同时,所有那些转移责任的叙事,试图让 AI 听起来强大到令人束手无策,把责任推卸给技术本身而声称非我之过,我认为这是一种逃避责难和责任的行为。这是没必要的,它带来的损害远超其益处——它损害了他们的声誉,损害了他们的个人品质,也打击了员工的士气。有人问如果这是他们的真实想法怎么办?对此,因为我无法与你探讨他们的真实想法,我只能告诉你我的看法。这个行业没有 Nvidia 的芯片是不可能存在的,我是指,从最初的 AlexNet 开始,深度学习得以运作所必需的并行计算能力,都是基于这些芯片,一切都基于 Nvidia 的芯片。
很多从一开始就参与其中,或者处于起步阶段的人,都有这些恐惧。我认为对许多人来说,听到这些言论时会感到困惑:你们到底在说什么?从 Geoffrey Hinton 到 Ilya Sutskever,再到我从 Dario、Sam Altman 关于“失控(Loss of Control)”的讨论,以及 Demis Hassabis 那里听到的观点,很多在构建当今 AI 形态方面起到奠基作用的人,似乎都认为存在这种很大的可能性。
这完全可能,我们可能会失去对它的控制。Elon Musk 曾谈到人类是人工智能的引导加载程序。我们可能会失去对它的控制,而那将是我们的终结。我不认为你真的相信这一点。不,我不信。我认为你根本就不相信这一点。所以,认真对待他们的信仰是很有必要的。当你与他们争论时,或者也许你可以直接与我争论,当你质问他们到底在谈论什么时,尽管在许多情况下他们正是这一领域的奠基人,你认为他们错在哪里?那么,Geoffrey Hinton 在电视上说他认为社会毁灭的可能性有 10% 是合理的,你怎么看?
我会告诉 Jeff,说出这些话是不负责任的。他所有的预测都错了,预言到此为止。那 10% 的几率并非基于科学,也非基于研究。仅仅因为言论出自科学家之口,并不代表它具有科学性,那些预言是有害的。让我们从字面意义上理解这个建议,也就是他所说的:没人应该想要成为放射科医生。而当今世界已不再需要放射科医生。
我认为,如果你现在还是一名放射科医生,你就如同那只已经跑出悬崖边缘,但还未向下看,所以还没意识到脚下已空无一物的歪心狼(coyote)。人们现在就应该停止培养放射科医生。这再明显不过了。因此在五年内,深度学习的表现将优于放射科医生,因为它能够积累更丰富的经验。也许需要 10 年,但我们已经拥有足够的放射科医生了。
这对社会是有益还是有害的?我想我们都能达成共识,我们两个都同意,这会是极其有害的。这种情况并没有发生。我们让年轻人对 AI 的未来感到如此恐惧,以至于他们甚至不想去读大学,因为他们认为自己找不到工作,这到底是好是坏?如果这种情况真的发生,是有害的。别以为你是个危言耸听者就是在做社会贡献。那不是事实。所以我认为我们大家都应该更明智、更成熟、基于证据、讲究科学。如果你想讲科学,那就请讲科学。去做科学研究。但那些发出警告却缺乏依据的人,他们的过往记录简直糟糕透顶。他们的追踪记录确实非常糟糕。
嗯,这种过往记录在某些方面可以说是糟糕的,但在另一些方面又可以说是有意义的,因为他们做出了太多太多站不住脚的预测。哪项预测是正确的呢?但关于 Scaling laws 将会奏效的那些预测是正确的。
Scaling laws,是吗?在这里我们必须保持谨慎,即便是针对这一点。
我们只是,为了在场的听众明确一下其定义。如果你不断增加计算量 and 训练数据,这些事物就会持续变得更加智能。
那是正确的。并非如此。这不是事实。那种认为只要持续训练这些模型,它们就会不断变好的观点是不成立的。请注意,这就是为什么会出现第二条缩放定律的原因。为什么需要第二条缩放定律?如果第一条缩放定律已经适用的话。
你能描述一下第二条是什么吗?
第二条缩放定律是测试时缩放。即推理。迭代越多、搜索越广、探索越深,你就能发现更好的答案。推理时间扩展。是什么重大突破使得当前的 AI 变得如此极其有用?恰好与预测的相反。曾有人预测这将是软件工具的终结。这就是所谓的 SaaS 末日,SaaS 将永远伴随着我们。是什么让这些 AI 现在如此高效?工具的使用。未来,它将因使用这些工具的智能体数量而得到增强。会有更多人使用 Adobe。会有更多人使用 Salesforce 工具,诸如此类。那么,请告诉我一个准确的预测。
关于你会开始看到商家出现某种行为的预测,让我试着回答这个问题,因为他们并不在这里。关于你会遇到商家行为失调的预测。事实证明你一个都举不出来,我觉得这本身就说明了,因为你……
嗯,我认为这取决于我们讨论的预测是什么,在每个人都认为深度学习荒谬可笑的时候,Jeffrey Hinton 是对深度学习贡献最大的人之一。事实证明,这真是一个相当不错的赌注,这是那种重大的预测。他们每个人都做出了巨大的贡献。
我敬重 Hinton。我讨厌他的预测。
我理解这一点。这就是我想说的,所有这些人所持有的那种典型担忧。但那种似乎驱动着他们的恐惧——我认为许多人觉得这种恐惧直觉上是合理的——在于你们正在创造一些系统,它们在某些领域正变得比我们更聪明。正如你所说,你赋予了它们奖励函数,即做事的欲望,你赋予了它们持久性。它们在数字世界中移动得非常快。你们正在创造某种东西、某种实体,一个具备某种特质的智能体。
它聪明、有能力、无情,而且我们并不真正理解其思维的运作方式。OpenAI的首席科学家。
Ezra,听着,我只是不希望你对此推波助澜。
软件不是……你是担心我偏离了……我不认为软件是无情的。
它们难道不是正在努力使模型变得非常持久,具有高度的持久性吗?
因为我就是这样设计的。
但他们制造的方式就是那样。
是啊,但那不是持久性。它只是处于开启状态。没错。没错。持久性。持久性。这是一种意志力。这里面根本没有意志力。这只是电力而已。听着,让我给你……Sam Altman 想对我那样做。
人类难道不就是带有强化学习循环的能量体吗?
随它去吧。总之,我只是觉得我们不能拿这一切开玩笑。我们正在吓坏美国公众。听着。Spahn(派生进程)。Create(创建)。Kill(终止)。Wait(等待)。Sleep(睡眠)。所有这些词汇。都与 Agent 相关,这正是人们使用这些词的原因。
这些词是在多任务处理操作系统出现时被创造出来的,它们本质上就是操作系统的指令。你 spawn 一个进程,把进程替换为 Agent;进程会分叉(fork),从而产生父进程和子进程;Agent 也会分叉、重新生成、产生后代。这些词汇是 30、40、50 年前为操作系统创造的,但请注意,我们当时并没有赋予它们人类特征。我们一直在终止进程:kill -9,彻底杀掉它,它仅仅是一个进程。
但现在我们在谈论这些东西时,有一群人想要让软件变得不仅仅是软件本身。我们用一种新的方式谈论软件,但它们依然是那些老旧的词汇。如今,上一代计算机工程师,我们所做的一切都是同样的逻辑。
但软件的表现方式难道不是全新的吗?从外部来看,我不具备你所拥有的专业技术知识。事实上,它在抓取互联网数据,在进行搜索,在进行显而易见的操作。它在交流,它在突破各种限制。
比如,大多数事物并不会突破自身的限制。
不,软件一直都在突破沙盒限制。这就是我们需要虚拟机的理由。你不能让智能体在它们自己的沙盒里进行自我监控。如果你愿意的话,你需要一大群监管者。所以,这些想法已经存在很长时间了。我们只是在最近这一代人中,不知何故赋予了它一大堆人类的词汇。我个人认为这是没必要的。它就是软件。当我在脑海中构想它时,它就是一堆代码、一堆运行在计算机上的数字,这一切对我而言都非常自然,这也是我能够进行运作的原因。而且这也是为什么,如果它仅仅是神秘与神话,又该如何围绕它建立一家公司呢?
我认为其中一个核心问题在于,究竟什么是智能。在你思考拥有智能机器意味着什么之前,对你而言,什么是智能?
嗯,智能有一个技术性的表述。首先,当人们谈论智能、思考以及诸如此类的事情时,对大多数人来说当然没有正式的定义,但在计算机科学领域,确实存在一个定义。定义即感知。也就是感知世界并理解世界。第二是推理,推理是将你所见的任何场景、任何事物、任何经历分解为更基础要素的能力。第三是朝着目标进行规划。这一基本公式适用于智能体系统,也适用于机器人系统,同样适用于自动驾驶汽车。因此,你可以看到整个行业正在一层一层、一步一步地构建它,直到我们现在拥有了我们所感知到的智能。
我认为这触及了本次对话的一个核心问题,即你向我描述该技术的一些方式,并不让我觉得它有什么真正全新的地方。它可能在规模和能力上是新的,但从根本上讲,这仍然是我们所熟悉的软件,虽然并非一直如此,但我们使用软件已经有很长一段时间了。许多人认为,当达到这些层级的智能时,它是一种相变。它是某种不同的事物,是我们以前从未接触过的,一种智能正在飞速进化的通用智能技术。我想确保自己确实理解我们正处于那个分水岭上。这是全新的事物吗?这是需要我们做出全新应对的事物吗?还是说这更像是某种旧有的事物?我们的智能机器与我们过去所拥有的机器有何不同?
嗯,几乎所有的技术和文明都建立在可理解的技术层级之上,而这些技术在规模化后会变得相当非凡。我们仅凭拿着一部手机就能连接到互联网,这一事实本身就很惊人。知道吗,我们通过这个小小的设备就能连接到世界上所有的信息,这感觉确实有点不可思议。仅仅是在空气中,而这一小片玻璃竟然能够承载数万亿的信息碎片,并将我们精准想要的那一条呈现出来,这一切都是通过推荐系统实现的。
所以,如果你思考一下我们是如何得知所有信息所在位置的,那就必须有人去抓取、去索引,而这运用了机器学习技术,即人工智能的早期版本。这些系统创造了神奇的效果,以至于我现在习以为常。这确实花费了二十多年时间,投入了数千亿美元的基础设施建设,才让这一切在你看来如此自然,甚至到了我们现在认为理所当然的地步。从技术角度来看,我们实现的每一个里程碑都值得庆祝,我怀着喜悦和极大的热情去庆祝它们,因为我为那些创造这一切的人感到自豪。我为我们这些做出贡献的人感到自豪。我为这一突破感到自豪。但是当你看到它时,哇,那一刻它看起来就像个奇迹。然而这种感觉只会持续大约 17 天。在那之后,我们很快就会习惯一切。
我同意这一点。但这是否处于一个不同的阶段?这是一个,有一些公司领导谈论过这一点,我想是 Google 的首席执行官。将其比作火的发现,就像一个新的时代。没错。在人类历史上。你是这样看待它的吗?你认为它是过渡性的迭代吗?
不,我认为这完全是一场革命。正如我们之前所讨论的,它从能够找到一切、找到任何东西,转变为能够询问任何问题、了解一切知识并完成所有事情。所以很明显,这是一个新的抽象层级。
现在,我所顾虑的是导致这一切的原因。它看起来不仅仅是那样。归根结底,工程师们所做的是工程工作。一旦我们发明了这项技术,一旦我们找到了解决方案,当你回首往事时,它会显得相当显而易见,对许多人来说也相当平凡。我们之所以能够让技术每天都变得越来越好,显然是因为我们理解它。因此,我们知道如何改进它。
所以,这变成了一个工程问题,你会说我们现在缺乏的是——因为这是你提到过的——我们需要针对正在构建的东西,建立测试、监控、沙箱、安全和卓越控制体系。这并不是因为这些公司缺乏卓越的工程师。我明白。我理解你并不是在表达那个意思。我相信 OpenAI 和 Anthropic 的人才,因为我知道他们其中许多人都非常杰出。但实际上,这正是我感到担忧的部分原因。
不,不,不,不,不,不。发生在它们身上的正是转型。这一点我反复强调过。这是一个重大但简单的理念。最终,我们现在拥有了一款真正实用的软件,正因其有用,它的应用才得以迅速普及。但请回想一下,一家六个月前还在尝试制造实用功能的初创公司,怎么可能拥有如此多的资源投入到测试、评估以及所有的计算资源中呢?在当下之前,这是不必要的。因此,未来几年将会发生的情况是,这些实验室将转型为以工程为中心,更加侧重于生产工程和产品研发的企业。所以我认为它们只是正在经历一场转型。这些都是卓越非凡的公司,拥有极其优秀的人才,是有史以来最具影响力的企业。它们仅仅是正在经历转型而已。事实仅此而已,并无更多深意。
许多公司,包括 OpenAI 和 Anthropic 在过去几个月里都发布了一些重要的,我不知道该如何称呼它们,也许是论文、博客文章之类的东西,其中 Anthropic 发布的那篇标题就叫《当 AI 构建自身》(When AI builds itself)。我忘记那个 OpenAI 的名字了。
计算机正在构建自身。你们都知道这一点。
你们知道的,他们讨论的是递归自我改进。你们知道我们使用了递归自我改进。所以我想要听听你们对 RSI 的看法。
我认为 RSI 从根本上就是事物运作的方式。所以我们使用软件。来设计一台计算机,以运行软件,进而设计一台计算机,再运行软件来设计一台计算机。这基本上就是我们所做的,即递归式自我改进,因为我们的计算机每年都在变得更强大。事实上,其进步速度甚至超过了每年一次的频率,因为我们正在利用软件来优化软件。这就是所谓的计算机工程。我们从事这项工作已经很长时间了。
现在,在 Agent 的背景下,它会完整运行一次流程。它会对该过程进行反思。它会研究此前经历的各种路径。并选择最佳方案。下一次,如果你要执行完全相同的任务,我会创建一个记录文件。我会告知你上次我是如何操作的,以及哪种方式最有效。我打算将其称为技能。由于你反复使用它,其中一部分是技能,另一部分会转化为记忆,我们会不断改进这种记忆,以便你下次使用时,体验比上一次更好。递归自我改进。
你也可以决定将所有这些技能、所有这些记忆以及所有这些数据整合起来,用于训练下一版本的模型。因此,AI 在为你提供服务的过程中会变得越来越好。我们正在将其变为现实。这一切正在发生。这绝对是在发生。与此同时,它们可用的算力正在增长,因此它们处理一切的速度会更快。过去预训练模型需要一年时间,现在只需几个小时,因为计算机的处理速度越来越快,且算力规模也在不断扩大。所以现在循环运行得更快了。完全可以理解。
这能成为他们推出未经测试产品的借口吗?答案是不能。回到这一点。你,或者任何企业,都无法在底层软件时刻发生改变的环境下运作。发布流程是存在的。所以,当他们推出新模型时,我们需要在将其投入运营之前进行评估。我们不能任由它时刻递归式地发生改变。因此,他们必须在发布产品前对其进行测试。我们会先测试产品,然后再将其投入运行。所以我认为递归自我完善是一件极好的事情。
你认为这存在任何层级吗?
我之前听你说过,学习过程应该始终有人类参与其中(human in the loop)。
没错,就像我刚才说的,你拥有递归自我完善的能力。
他们似乎在设想某种不需要人类始终参与的情况。
不要交付任何你没有经过评估的产品给我。不要交付给我。不要交付任何未经人类参与评估的产品给 Nvidia。请不要那样做。
还有我们之前谈到的那种恐惧,即他们担心自己无法评估,担心不知道如何评估这些系统;随着系统以如此之快的速度演变,他们愈发担心这些系统正在欺骗他们。
我不相信这一点。我相信他们的研究人员每一天都在努力学习如何评估这些系统。验证,我们的公司中,10% 到 20% 的精力致力于设计,80% 则致力于验证。如今,大多数实验室的情况可以理解,即 80% 的精力致力于能力研发,20% 致力于安全验证评估。
这就是你所谈到的这种转变,这种转型。没错。没错。AI 需要加速发展以实现安全。我希望他们能获得更多的计算资源,但这些资源应分配给评估工作和对齐工作。而且我认为他们正在这样做。如果我身处 100 年前的汽车行业,我宁愿汽车行业在一年内加速发展到今天的水平,因为我相信今天的汽车比 99 年前的汽车安全得多。而 ABS 技术、自动刹车系统,需要计算机视觉技术、传感器融合技术、雷达 and 摄像头等所有技术的协同配合,才能实现该刹车时刹车,不该刹车时不刹车。那项技术难度极大。我本希望,所有人也都希望 ABS 技术能在 99 年前就存在。那样会有少得多的儿童丧生。
所以,还有安全气囊、安全带之类的。所有这些东西,自动预紧式安全带,所有这些技术。你能想象那都是技术成果吗?以极大的力度加速该开发进程。因此,当我提到我们需要加速 AI 技术时,安全性是其中的一部分。对齐(Alignment)也是其中的一部分。评估(Eval)也是其中的一部分。护栏(Guard railing)、沙盒(sandboxing)、隔离技术、监控技术、远程遥测技术、外部 AI 监控技术,所有这些都属于 AI 技术。以极大的力度加速这一切。
有趣的是,我认为如果实验室里最担忧的人们能被保证,他们会将 80% 的算力投入到安全和对齐工作中,而不是投入到 80% 的能力扩展上,他们会感觉好得多。听起来你实际上是在表达,人们应当将安全和对齐视为能力扩展的一部分。
当然。一项不安全的技术并不是先进的技术。这就像我们说,噢,芯片设计就是芯片设计。就是芯片,就是研发,芯片验证并非研发。我们大部分的成本和计算资源都花在了验证上。仿真、验证、测试、可靠性测试、寿命测试,所有这些都是工程的一部分。激励机制是存在的。如果他们发布的产品伤害了其他公司和他人,他们将使自己的公司陷入险境。
你认为我们需要针对 AI 的责任法律吗?
哦,让我们用一个例子,自动驾驶汽车。作为一种产品,自动驾驶出租车受到许多法规的监管。如果监管不足,那么 NHTSA 就应该介入并制定新的法规。汽车行业应该有新的法规。我不知道还缺少什么,但如果确实有缺失之处,我绝对会增加监管。在互联网背景下,互联网驱动着许多应用,而这些应用应当受到监管建议。如果它们没有受到监管,你必须把它们找出来。
现在我想进入下一部分的讨论,即 Chips。总结一下目前的状况,因为我想确保我正确理解了您的立场:您提到这些公司正在经历转型。即使这些系统在不断加速,变得更强大、更复杂、更持久,或者无论呈现何种形态,依然存在一个限制因素,即公司不会发布不安全的产品。
它们不应该发布不安全的产品。而您认为它们具备相应的工程能力来确保这些系统的安全性,并能在没有外部干预的情况下,自行摸索出测试与控制的方法。这大致就是您的立场。我曾听您说过,我们已经进入了一个计算运作的新时代,也许人们对此尚不完全理解。请描述一下您的愿景,以及对于那些认知还停留在传统层面的人——比如觉得仅仅是买了一台配有处理器的 Macbook——这与新时代有何不同。
过去六十年间我们所熟知的计算机产业,被称为基于检索的计算。通过检索来获取文件。这就是为什么它被称为数据中心,或者说文件中心。而未来,它将是 AI 工厂。它在进行生成。因此,理解上下文、基于信息进行论证、推导行动方案并生成答案所需的计算量,这一生成式过程需要大量的计算。所以,每个用户所需的计算量已经呈爆炸式增长。
其次,由于生成式 AI 具备一定的自主性,因为它们具有代理属性(agentic)。现在,这些代理(agents)正在使用生成式 AI。因此,除了使用计算机的十亿人类之外,你实际上还拥有数千亿个额外的代理在使用计算机。所以你可以认为,我们所需的计算量,无论之前是多少,都将增长十亿倍。这是一个合理的框架,用于界定合理的计算量水平。
在这个新世界里,在工厂的语境下,你真正关心的是它的生产力如何。而不是它有多昂贵。它当然不能无限昂贵,但你更想知道的是它的生产力水平。因此,我们的计算机具有极高的生产力。建造一个 1 吉瓦的数据中心、1 吉瓦的 AI 工厂需要 500 亿美元,而你可以以每年 400 亿至 500 亿美元的价格租用它。所以,它的生产力是惊人的。
所以第一点是生产力。Nvidia 的架构具有可替代性,因为我们是通用型的,这也是为什么每一个 AI 实验室、每一个 AI 模型以及闭源模型都在 Nvidia 上运行的原因。由于我们的架构完全可替代,你可以将其用于从数据处理、预训练、后训练、评估到推理的整个 AI 生命周期,我们的架构都能提供支持;如果某个客户不再需要它,其他客户会非常乐意接手。最后一点是耐用性,因为我们的架构是由软件驱动的,我们不断通过新的算法来改进软件,从而处理新的工作负载,运行新的模型,并在我们老一代的硬件上实现这些功能。我们拥有庞大的团队在持续进行这项工作。因此,我们的计算资源的使用寿命要长得多。这就是为什么 NVIDIA 如今被视为资产类别,人们讨论 NVIDIA 计算时就像讨论飞机一样。
飞机是通用设备,且具有可替代性。United Airlines 不会使用它。但 American Airlines 会使用它。它非常耐用,最初作为客机使用,最终结束生命周期时则可以作为货机,正因如此它能成为一种资产类别。如果这种情况能够实现,那么为 NVIDIA AI 工厂提供资金的资本成本自然会降至最低,因为我们的计算机是可抵押资产。总之,这就是我们正在经历的范式转移,这将成为我们增长的巨大催化剂。
所以,你们的业务变得非常引人注目。你们现在已经开始着手降低 AI 行业其他参与者的资本成本。人们或许已经见过那些箭头指向四面八方的图表了。这太有趣了,确实。请为那些理解它已成为全球最大公司的人们解释一下这一点。他们看到的图表在他们看来似乎非常循环。支撑需求、创造市场和创造需求之间有什么区别?
我们实际上无法创造需求,因为归根结底,如果 AI 服务没有被采用,那么为此制造计算机显然是毫无意义的。因此,首先发生的事情是——而现在对计算能力的需求如此之高的原因在于——AI 应用正在经历一个拐点,它们正变得有用。正因为 AI 变得有用,5000 亿美元的风险投资正涌入其中。而所有这些公司,那成千上万家初创公司,它们都需要计算能力。所以需求正是来自它们。因此,这些公司需要在技术上获得支持。他们需要在生态系统建设方面获得支持。他们需要在资金方面获得支持。
因此,我们可能会决定作为股权所有者对其中一些公司进行投资。最终,他们会成为真正蓬勃发展的新型云服务提供商。我们做出决定的另一个原因是,正如我所提到的,这里存在一个五层架构。在模型层和应用层,有大量极具创新性的公司。AI 的内涵远不止语言模型本身。还有世界基础模型、物理 AI、生物 AI,以及化学和材料科学 AI。这些都与语言模型不同。其中许多公司都是初创企业,需要大量资本。我们可能会决定成为它们小比例的股东。所以我们帮助他们起步。他们是令人难以置信的科学家。我也许可以通过成为首位投资者或基石投资者,为他们的公司注入信心。我们让他们能够接触到我们大量的技术。我们给予他们极大的支持,并帮助他们尽可能快地成长为一家成熟的公司。我们可能会决定投资一家核能公司。我们可能会决定去书写诸如此类的内容。
所以,如果你看看我对 AI 行业的思维模型,它就像一个五层的蛋糕,而我们正在全方位进行投资,这里可能存在战略性的突破点。它开拓了新的市场。它为我们开辟了通往市场的新途径。这或许能为我们锁定一项关键资源,因此我们这样做有着诸多战略层面的考量。这里的数字令人震惊。你们几乎已经成为美国人工智能产业事实上的单一公司产业政策制定者。
我们在这一生态系统中投入了巨额资金,那么你们每年的总投资额到底是多少呢?
总的来说,我不太确定每年的具体数额,但我想总投入可能高达一千亿美元左右,或许得核实一下,但大体就是这个量级。这比 CHIPS and Science Act 的规模还要大。更不用说正因为我对 TSM、Wistron、Foxconn、Amcor 和 SPIL 等各类公司所提供的采购承诺,我才得以鼓励它们前来美国本土进行制造。
事实是,在推动芯片制造业的美国再工业化方面,我们所作出的贡献可能超过了全球任何一家公司。我们不仅在推动制造业的再工业化,而且其速度之快,甚至造成了劳动力短缺,但我们也确实创造了大量的就业岗位。
目前市场上有许多投资者感到兴奋,尤其是对 Nvidia 的股票,同时也对 90 年代末互联网泡沫的历史类比 感到担忧。我认为他们所担忧的,实际上与你刚才提到的有关,即互联网的确持续变得更加实用。高估值并不意味着该技术是空洞或虚假的。但确实发生了一些事,泡沫瞬间破裂,许多大公司因此遭受重创,很多人也因此损失惨重。从这种泡沫破裂的周期中,我们能学到什么?我想问题在于,你是不认为它会再次发生,还是说你为什么认为它不会再次发生?
在某个时间点,供需关系会再次发生逆转。这就是市场的本质。这不会在明年发生。也不会在未来两三年内发生。我只是不相信会那样。但迟早,我们的供给可能会超过需求。我只是不知道那会是什么时候。因此,过去并没有太多可供借鉴的经验。
对你而言,什么样的信号会预示这一点?
市场会自然放缓,然后停止,也就是说会有一个消化期。那么,这个消化期会是六个月吗?会是九个月吗?会是一年。它不会永远持续下去。如果你纵观全局,我们会向应用层投入大量资金,以便让各项产业都能吸收并应用这项技术,从而从中获益,这或许是我们所做的最重要的事情之一。
这是我经常听到的一种对比中美 AI 生态系统的方式,即在美国,重点在于能力提升的速度。很多人认为我们在这一点上处于领先地位,这似乎是事实。而在中国,则更强调扩散。很多人认为中国在扩散方面可能处于领先,并且在某些方面,从 WeChat 到知识与指令在其系统内流转的方式来看,其经济结构更利于扩散。无论这场竞赛是关于能力还是扩散,也不论这是否真是一场竞赛——我们稍后再讨论这个问题。这是一个重大的问题。
我很好奇你是如何看待这一点的。
那是终极问题。我认为,如果我们希望美国从人工智能中受益,那么每一个行业都必须受益。Walmart 必须受益,Safeway 必须受益,Federal Express 必须受益,每一家银行、每一家医疗保健公司、每一家药物研发公司都必须受益,我们需要看到每一家建筑公司、每一家数据中心公司、每一家发电公司都能从中获益。我们需要美国乃至全世界的每一个人都能从中受益,这才是最高层面的考量,也是最重要的层面,因为它直接关乎社会。所有底层架构都是技术推动力,我不希望我们错失让美国在最高层面受益的机会,请注意所有那些言辞和危言耸听,所有那些末日论调,以及所有的预测都在让人们感到恐慌。那实际上是我最大的担忧。我对此充满信心。也许我对他们的信心比他们对自己的信心还要多。
你对他们的信心确实比他们对自己的信心要多。
这我倒是不确定。但也许这只是过度的谦逊或其他原因。
我们是否应该将当下的局面理解为与 China 的竞赛?
我认为没有必要。有些人喜欢那样想。我不觉得那一定会激励我。在讨论我们如何出色地完成工作时,提及其他公司对我来说完全没有问题。因此,我们坚持自己的标准。所以我认为不同的人有不同的激励方式。而且,我认为在竞争之外,想要团结并引导 organization 达到某种绩效水平,需要更多的艺术性。
但我并不认为这——首先,我不觉得这有必要。其次,问题在于,即使我们将其定义为一场竞争,也不意味着他们有所成就就会损害我们的利益。所以,当他们发明了什么或者创造出某种发电技术时,那可能是一个我们希望自己能做到的伟大发明,因为那将支持我们此处所有的能源生产系统。因此,这有助于我们整个行业的发展。
也许他们开发出了一款出色的新型开源模型。他们确实做到了。而且这些开源模型目前正被 80% 的美国初创公司所使用。
没错,我们这里也大量使用中国的开源模型。
好的,确实如此。这非常棒。我们下载了它。它起源于中国。当然,许多技术也起源于美国。我们进行了下载。我们将其转化为自己的技术。我们对其进行了微调。我们将其放入了我们自己的智能体工具框架中。我们将其放入了我们自己的沙盒环境中。那完全是你们自己的技术。所以我认为你们利用其权重这一事实非常棒,这没问题。
你几分钟前提到,不同国家已经开始将算力视为一种地缘战略资源,并且它们可能希望将其分配给本国公司。这里对此已经有很多反复的讨论。在那些确实认为我们与 China 处于竞争关系的人中间,特别是在那些认为我们正在与 China 竞逐谁能率先实现递归式自我超级智能的人中间,一直存在着这种争论。关于我们是否应该采取的一项措施是切断其算力供应的持续争论,在这种情况下,往往意味着切断你们芯片的供应。在 Biden 政府领导下,我们实施了相当严格的出口管制。
这些限制在 Donald Trump 任期内有所放宽。显然,你是希望这些限制被放宽的。
你如何看待这样一个问题:让中国拥有能够加速其模型训练、部署或提升模型能力的 Nvidia 芯片究竟是利大于弊,还是说我们通过限制这些芯片来试图延缓他们的进步?
在 AI 领域,我们的目标不仅是让某一家实验室受益。我们的目标是让整个美国受益。我认为美国肩负着更大的责任,也有着更高的抱负,即世界应建立在 American Tech Stack 之上。正如我们有更高的抱负,希望世界建立在美元体系之上。希望更多的人说英语,使用美国版本的互联网。我们想要达成这些目标。
归根结底,问题在于我们究竟在剥夺什么?我们是在剥夺他们工业发展所需的芯片吗?还是说,我们正在剥夺美国企业参与竞争的市场空间?如果你审视市场,如果你把像中国这样规模的市场视为目标,这对美国科技行业有什么帮助吗?也许它能帮助某一家拥有特定模型的公司。但整个行业的其他部分会因此受损。我认为,被剥夺了市场和竞争机会,这对芯片行业显然没有任何帮助。这对行业其他领域也没有帮助,因为它们被剥夺了开放模型。这也不支持美国让世界建立在 American Tech Stack 之上的宏大愿景。
所以,如果你仅仅局限于剥夺对方的芯片,你实际上也剥夺了自己很多东西。因此,我会说要退后一步,将其定义为首先符合美国整体利益的事,是整个美国的利益,而不仅仅是一家公司的利益。关于这场竞赛,正如我们所提到的,如果竞赛确实存在,它关乎的是美国整个经济的成功。
我在中国和芯片问题上感到非常矛盾。原因之一是,即使我有时比你更担心超人工智能,我也认为如果你有这些担忧,你会希望与中国保持良好的关系,以便能够就 AI 的风险和收益进行建设性的双边探讨。而你越是将其视为只有一方能赢的竞赛并以此行事,就越必然会制造敌意。我发现这是人们在此处思考维度中一种较为复杂的情况。
我认为零和博弈——即我剥夺了你的利益,所以我赢了——这种简单的逻辑往往会对更大格局产生意想不到的后果。当然,更大的格局在于我们现在都在讨论安全问题。我们希望打造安全的产品。我们也希望他们打造安全的产品,因为当他们不这样做时,会损害整个行业。
所以,现在是一个绝佳的时机。我们应该追求并寻找机会去沟通、合作,尽可能地去理解与达成一致。话虽如此,Nvidia 是一家美国公司。我们应当首先造福美国。美国完全有权这样做。为了让这些技术能够提供给 Frontier Labs,Vera Rubin 首先前往了 Frontier Labs。
那是你们最先进的芯片。
没错。NVIDIA 的新型芯片是这样,Grace Blackwell 也是如此,Hopper 也是如此。每一代产品都是如此,Ampere 也是如此。我们每一代产品都会优先提供给美国公司。如果美国政府希望在此基础上增加要求,我很乐意配合。那没问题。反正我们本来就会这样做。然而,考虑到 AI 行业是一个五层蛋糕结构,我们希望每一层都能胜出,因此我们需要每一层都走出去,去参与市场竞争。
这让我们进入了你这块蛋糕最后、最后的层面,我们不会在这里花费太多时间。但如果说美国迄今为止至少在物质层面拥有的优势是芯片和软件,那么中国目前在 AI 领域拥有的优势之一就是能源。对他们而言,建设新能源更容易。他们正在为 AI 注入成本更低廉的能源。他们在电力生产和可再生能源建设方面取得了巨大的进步。你如何看待那个最基础的层面,即驱动数据中心、驱动芯片的能源,以及美国在能源生产充足度方面的处境?这正值我们试图从化石能源向清洁能源转型的时期。
我认为首先,他们的能源总量确实比我们多得多,而且他们计划建设的规模也远超我们之前的规划。我们不得不承认,我们在气候变化 and 可持续能源问题上陷入了困境。结果就是,我们在能源生产的规划上严重不足。
你所说的“陷入困境”具体是指什么?
在短期内,能源生产仍依赖化石燃料。而且由于人们对化石燃料能源生产存在太多的焦虑,如果你审视我们国家,会发现我们已经很长一段时间几乎没有实现净新增能源产量了。突然之间,这个新兴产业出现了,我们发现自己处于一种能源建设产能严重不足的境地。现在,整个国家都在手忙脚乱地应对。
与此同时,我们的发展速度太快了。我们本可以在与社区沟通、为社区做准备、与社区合作方面做得更好,让他们了解即将发生的事情。如果他们不希望在自己的城镇兴建数据中心或其他设施,那也无可厚非。但如果你一定要在他们的城镇建设,一定要亲自到场告知他们即将到来的变化,与他们合作,帮助他们理解当今的水资源利用效率实际上是非常高的。AI 超级计算机的能源效率极高,但它们仍将消耗大量电力。
如果你能引入自己的发电设施,这将有助于降低当地的房产税。你可以做的事情有很多。你可以通过与社区建立良好的邻里关系来做出贡献,比如建设更好的学校和社区,改善公园和道路。确实有很多事情可以做。但事后再去补救是很困难的,而且现在全国上下存在着相当多的不满情绪。当然,我们所有关于世界末日的叙事也于事无补。试想,有哪个理性的人会说,欢迎来我们镇上建这个数据中心吧。顺便说一句,无论你们生产什么,最终都会终结我们所认知的人类文明。
所以我认为所有这些消极的末日论叙事对我们的国家没有任何帮助。而且我们一开始就处于不利地位。我们一开始就处于不利地位。
那么现在,我们所处的位置——你所说的我们一开始就处于不利地位是什么意思?
因为我们起初就没有足够的能源生产。那么,你如何权衡呢?气候变化正在发生是一个现实。让我最后再说一点。这一点毫无疑问,能源需求确实非常巨大,这也是为什么市场力量正以前所未有的速度推动我们投资可持续能源的原因。你给我举一个可持续能源公司的例子,或者一家为了制造更好电池的材料科学公司。可以是太阳能、核能、裂变能,随你列举,或者是水能,随你列举。那些公司都在获得融资。
市场对能源的需求如此惊人,这是百年来改善电网、提升电网可持续性、降低能源成本,并投资于可持续未来的最佳时机。毫无疑问,在四五年后,我们将使用更多的化石燃料。但与此同时,在未来的十年里,我们比历史上任何时期都更有准备向可持续能源转型。正因为这些数据中心,因为它们的成本如此高昂,我们现在开始讨论将它们部署到太空中。所以,我认为我们实现可持续能源世界梦想的机会比以往任何时候都要大。世界因 AI 工厂、因 AI 的缘故,今天购买的可持续能源比历史上任何时候都要多。风险投资对于我们下一代能源的支持简直令人难以置信,每个人、所有项目都能获得融资,这太不可思议了。
百年来我们第一次不再需要 government 补贴,因为市场力量已经形成。如果你们想要一个未来,如果你们想要在气候变化问题上实现转折,如果你们想要一个可持续的未来,每个人都应该全力支持 AI。这是我们实现这一目标的最佳机会,但我们需要更快速地构建能源基础设施来支持它,没错,就是这样。
生活就是这样。这一切都有市场需求。这就像是,你可以通过补贴来降低建设难度。
没错。这有点像为了拯救你,必须先让你感到痛苦。这就是外科手术的本质。他们必须切开你的身体才能救你。他们必须让你承受巨大的痛苦和折磨,这样才能保住你的性命。所以,我觉得 AI 的发展也类似这样。在接下来的几年里,我们很不幸地必须继续使用可再生能源和化石燃料,因为我们目前的可持续能源还不足以产生实质性影响。等到那时之后,希望我们能够完成转型。
我想这就是我们最终的归宿。始终是我们最后一个问题。您向听众推荐的三本书是什么?
我读过很多书。对我影响深远的一本书是 Hennessy 和 Patterson 合著的《Computer Architecture: A Quantitative Approach》。这是第一本将计算机体系结构这一复杂、抽象的概念简化为工程学实践的著作。我非常欣赏那些能将复杂概念转化为可操作性实践的见解。
第二本,我非常喜欢《The Innovator's Dilemma》。尽管 Clayton 已经离世,但 Clayton Christensen 关于产业如何随时间演进、如何洞察新兴技术、如何设定合理的预期,以及如何推演其未来影响的著作非常出色。
第三本,我非常喜欢 Al Reese 和 Jack Trout 关于定位理论的著作《Positioning》。这是一本非常棒的书,讲述了人们如何看待……实际上,与其说这是一本关于营销策略的书,不如说它涉及的层面更广。这是一本关于策略的书。关于人们如何看待世界,以及人们如何看待产品。关于你如何呈现产品,以及你如何看待自己的策略。我认为那是一本非常有深度的书,而且非常通俗易懂。
Jensen Huang,非常感谢你。
非常感谢你,Ezra。
原创 晚点团队 2026-09-24 12:30 北京
实时生成视频技术路线为什么是一门好生意?
文丨申远
“选择的方向比努力重要得多。” 在采访里,类似这样笃定的句子张金涛说了很多,对他而言,实时生成视频是一个毋庸置疑的好方向。
大多数人熟悉的视频生成,仍然是输入一段描述,等待模型交付一段视频。实时视频想做的事情有所不同:画面持续生成,用户可以随时开口、输入指令,改变接下来发生的内容,张金涛把这种体验称为 “使用即消费”,意味着每个人拥有属于自己的独立会话,在张金涛看来,人一天里除了看电影、刷短视频,其余时间其实都在进行某种实时的视觉交互,因此这个市场 “最终是能完全超越语言模型”。
作为清华大学计算机系朱军教授的 00 后博士生,张金涛是注意力加速算子 SageAttention 和视频生成加速框架 TurboDiffusion 的作者,目前在生数科技负责 S 系列实时生成视频模型的研发和所有模型的推理工作。
在实时生成视频模型 S1 发布两个月后,生数推出了升级版的 S2。这次升级包含两个模型:S2-Avatar 可以让数字角色更清晰、更能跟随指令,也支持在交互过程中加入新的参考图;S2-Editing 则可以实时修改输入的视频流,换衣服、换角色、换背景,或者改变画面风格。在 S2 的技术报告里,生数团队还在探索通过 VR 眼镜观看实时空间视频。
张金涛对这个方向很有信心。不仅因为海量需求,还因为成本可控。视频模型的参数规模只有主流大语言模型的几十分之一甚至更小,推理所需的算力相应低得多,而推理,恰恰是张金涛的老本行。
当然,他也不回避眼下的问题,最难的还是竞争。大厂在离线视频模型上已经很强,生数在实时生成视频上的领先身位不是一条不可撼动的竞争护城河。张金涛自己也说,一家数据和训练基础扎实的公司只要 “好好去做”,几个月就能追到不错的水平,生数眼下的优势,很大程度上源于对技术的前瞻性理解,但商业竞争仅仅靠前瞻性还不够。
在这期播客里,我们和张金涛聊了有关实时生成视频的技术进展、商业模式和产品形态,也聊了一个 00 后研究者,如何从一个人埋头写算子,走到带领一支三四十人的团队。
以下是经过编辑整理的对话:
实时视频是使用即消费
晚点:S1 发布才两个月,S2 就来了。新模型有哪些提升?
张金涛:先简单回顾一下 S1。它主要是一个数字人模型,用户上传一张图片,图片里的角色可以是真人、动漫人物,也可以是宠物,再选择一种声音,就可以跟它聊天,让它做一些动作。
S2 包含两个模型。第一个是 S2-Avatar,还是数字人,但真人感更强,指令跟随也更好,包括跳舞这样的大幅度动作。画质提升到了 720P,仍然能保持每秒 25—40 帧的实时生成速度。
我们还引入了一套基于视觉语言模型的 Agent 系统,根据用户的意图和已经生成的视频,规划下一步动作。它支持实时参考生成:你可以在交互的任何一个时刻,输入一张参考图和一条指令。比如给它一张杯子的图片,让它从屏幕下方拿起来,用你指定的姿势展示。
另外一个模型是 S2-Editing,它可以实时地把一段视频流编辑成另一段视频流。比如打开摄像头,给画面里的自己换一套衣服,同时保留动作和背景;也可以把正在玩的游戏,变成二次元或者赛博朋克风格。换背景、换角色,也都可以做。
晚点:实时编辑是生数第一次推出的能力。它和在生成过程中随时输入新的 Prompt,有什么区别?
张金涛:更准确地说,Avatar 和 Editing 都可以在生成过程中接收反馈。你想让人物坐下、去屏幕外拿一个东西、跳舞,这些指令都可以实时地给。这是一个基础能力。
Editing 最主要的功能,是对输入的视频流做实时编辑。这个视频流可以来自摄像头,也可以是游戏或者直播。比如给主播换衣服,甚至换成另一个角色,原来的口型和动作仍然可以对应上。
晚点:在你的设想里,它会以插件的形式出现?
张金涛:可能会作为很多应用的插件。比如你在 Steam 上有 100 个游戏,每个游戏都可以换很多种画面风格,那体验就会丰富很多。
我们还做了一些实时空间视频的探索。Avatar 和 Editing 都有空间视频的版本,可以通过 VR 眼镜观看,也可以实时交互。
晚点:很多人觉得,实时生成的视频模型,跟我们已经熟悉的视频生成模型,是两种东西。你也这么看吗?
张金涛:我觉得是的。模型上可能有相似之处,但从应用和需求上看,它们很不一样。
目前主流的视频生成,可以理解为离线视频生成:上传一段 Prompt,等一段时间,拿到一个十秒或者十五秒的视频。它主要面向创作者,普通人很少直接使用这些模型。
实时视频的输入和输出都是持续发生的。你希望下一秒发生什么动作、出现什么内容,可以在过程中去控制。它就不只是一个创作工具了,而是 “使用即消费”,每个用户都直接在使用这个模型。
晚点:今年初决定投入这个方向,是基于什么判断?
张金涛:首先是需求。人一直都有实时的视觉、多模态交互需求。比如我们今天坐在这里聊天,也是在进行一种实时交互。
如果看离线视频生成,它的需求量可以理解为创作者的数量,乘以每个创作者的生成需求。一段视频可以被很多人反复观看,所以观看需求不会全部转化成生成需求。
但实时交互不一样,每个人都需要自己的会话。它的需求量,是每个人对实时多模态交互的需求,乘以总人数。我觉得这个市场非常大。
第二是技术。今年年初,我们看到了一些技术上的可行性,自己也做过科研探索,发现路线初步行得通。生数又有基础模型的数据和训练系统,可以复用很多积累,这是一加一远大于二的事情。
晚点:这个判断是朱军老师做的,还是你们一起商量的?
张金涛:大的方向判断来自朱老师,具体怎么做,需要一起商量。我们一直交流得比较多,我也会跟他聊一些最新进展,所以当时并没有特别惊讶。大概一二月份开始讨论,三月份正式启动 S 系列。
晚点:朱军老师把通用世界模型分成五级,第一级是生成世界,第二级是与世界交互。S2 对应的是第二级?
张金涛:对,我觉得 Avatar 和 Editing 都符合第二级,就是可以和世界实时发生交互的模型。
有一百种方法可以把它做得更好
晚点:从 S1 到 S2,为什么能迭代得这么快?
张金涛:主要有两点。第一,S 模型需要一套很完整的能力:准备数据、训练模型、推理加速,再到云端部署,每一环都要保证实时性。
流式视频的训练环节也比离线视频更多、更复杂。你要先把离线阶段训好,再逐步把它变成可以实时生成的模型。发布 S1 之前,我们已经把这些问题探索过一遍,有了一套能够运行的基础方案。
所以 S1 发布当天,全球用户就可以使用,API 也直接开放。这背后是数据、训练和工程上的积累。
我们也比较清楚,接下来还有哪些问题要解决。包括现在,我也可以说,S2 还有很多问题,我有一百种方法可以把它做得更好,而且这些方法都非常明确。这两个月,我们主要是把 S1 里最明显的一些问题解决掉了,所以会比较快。
第二是团队。我很以我们的团队为骄傲,大家凝聚力很强,也很有热情,愿意往前冲。做事情自然会快一点。
晚点:所以也可以期待 S3 很快继续迭代?
张金涛:对,没错。
晚点:S1 为了速度,对画质做了一些妥协。S2 的画质提升是怎么实现的?
张金涛: 一个重要的方法叫 Refiner。前面有一个基础的实时生成模型,主要生成画面里的结构和低频信息;后面用一个只需要一步扩散计算的 Refiner,把分辨率、细节和美学效果补上去。
另外,推理基础设施也在优化,包括把算子做得更极致,把视频生成的调度做得更好。这些一起带来了画质和效率的提升。
晚点:S 系列和 Q 系列是什么关系?是不是基础模型越好,实时模型就会跟着变好?
张金涛: 先给一个结论:Q 系列做得越好,肯定对 S 系列有正向帮助,但这个帮助没有想象中那么直接。不是说基础模型的画质、一致性、复杂镜头做好了,我们直接就能拿到这些收益。
能复用的,首先是数据储备。我们可以从海量数据里,筛选出适合实时交互的部分,比如人物对话。其次是训练和推理的基础设施。
但具体的模型效果,没有那么容易复用。基础模型为了提高效果,往往会扩大模型尺寸,计算量也会上升。实时视频有两个很强的约束:成本要低,生成速度必须比播放速度快。我们很难直接拿一个很大的模型来做实时服务。
另外,实时视频的训练链路很长,效果很大程度上来自自己的后训练阶段,也不能完全依赖基础模型。
晚点:所以是有关联,但相对独立的两条技术路线?
张金涛: 对,技术路线上相对独立。
晚点:成本和速度,哪个更难?如果一定要取舍,你会怎么选?
张金涛: 我觉得它们不是一个严格取舍的关系。速度首先是硬指标,你没有办法妥协。不管用什么卡,都必须用少于 0.1 秒的时间,生成一段 0.1 秒的视频,比如用 0.09 秒。
晚点:为什么不是越快越好?比如用 0.01 秒生成出来。
张金涛: 因为播放这段 0.1 秒的视频,还是需要 0.1 秒。你即使用 0.01 秒生成好了,也要等这一段播放完。
所以对这里的实时播放来说,首先要达到这个速度要求。成本则是越低越好。我们目前已经可以在消费级显卡上达到实时生成,接下来希望在满足实时性的前提下,把成本继续降低,甚至探索在端侧、更低端的显卡上运行。
数据比模型大小更重要
晚点:回过头看,S 系列最难的地方是什么?
张金涛: 难点很多。比如数据,你不可能只用一段段五秒的视频,就把一个能连续生成几个小时的模型训练好。
训练算法也有很多需要探索的地方,我们提出了 Self-Replay Forcing。但如果一定要挑一个最难的,我觉得还是数据:怎么把数据组织成更适合实时视频学习的形式,怎么把它标注好。
晚点:之前聊的时候,你说过一句让我印象很深的话,“Diffusion 只是一个渲染器”。你怎么理解这句话?
张金涛: 先从需求上看。语言模型要帮人解决复杂任务,所以需要比较强的思考和推理能力。图像、视频生成面对的很多需求,是看电影、刷短视频这样的观看和娱乐需求。
再从比较上层的原理看,Diffusion 学习的是文本到图片、视频的映射。你把信息描述清楚,它把对应的画面生成出来。从这个角度,我把它理解成一个渲染器。
这里最重要的有两件事:第一,训练里的图片和视频质量要好,要符合人的偏好;第二,标注要足够详细、准确,跟画面里的内容对应上。对应得越好,模型学习这个映射就越容易。
晚点:这也解释了为什么你这么看重数据?
张金涛: 对。举个例子,你想学 Transformer 的原理,上网找博客。如果看了一百篇写得不好的博客,可能学了五天,还是不知道它到底是什么。
但如果找到一个真正懂原理、又能把事情讲清楚的人写的博客,你可能只看一个小时,就恍然大悟了。
数据起的就是这个作用。模型架构和大小,现在已经相对收敛了。大家大体上都是基于 Transformer 做一些改动,但数据上可以做的事情还有很多。
晚点:那 Scaling Law 对视频模型还有效吗?模型参数量和后训练继续扩大,会不会带来提升?
张金涛: 结论是会,但我觉得不会像语言模型那么有效。直接把模型做大,带来的收益没有语言模型那么明显。
语言模型是智能密集型任务,要解决很多复杂问题。视频生成在我看来,更关键的还是数据。扩大模型当然有用,但相比之下,提升数据质量会更有效。
晚点:实时视频的架构和算法,也已经收敛了吗?
张金涛: 架构上相对收敛,总归还是视频生成任务。但算法还没有,我觉得还有很多探索空间。只是跟数据相比,我还是认为数据更重要。
晚点:那数据是不是一个护城河?
张金涛: 数据是最关键的一个部分。但它到底能不能成为护城河,多久会被追赶上来,我也很难判断。
晚点:你对生数目前的数据储备满意吗?合成数据会是一个方向吗?
张金涛: 目前相对满意,尤其最近三四个月,数据质量、储备和人才密度都有很大提升。当然还有一些细碎的问题,以及认知上的小偏差,我们会继续补。
合成数据是个好方向,但没有那么直接。不是说一下子就能合成大量高质量视频,合成之后也还是要标注。
标注和处理可以依赖视频理解模型,也可以用一些专家模型,比如人脸检测、目标检测、音频分离。这些都能帮助我们把数据处理得更好。
晚点:简单理解,实时视频需要标得更细、标得更多?
张金涛: 可以这么理解,但我还要补一点:要更加准确、正确,不能有错误。
竞争对手能不能追上来
晚点:视频生成领域玩家很多,为什么你对实时这个方向这么有信心?
张金涛: 把画质做好,把离线创作工具做好,当然有价值,这些积累也会促进实时视频生成。
但实时交互的多模态需求,真的非常大。每个人都有自己的独立会话,跟一百个人、一百万人刷同一条视频,生成需求完全不在一个量级。我觉得,从需求量上说,它最终能超过语言模型。
晚点:跟其他做实时视频的公司相比,生数的差别在哪里?
张金涛: 技术路线不会差得特别多。有的专注数字人,有的专注实时编辑,有的专注通用世界探索,做的是一些比较类似的事情。
我觉得我们目前的效果比较领先。技术报告里有一些公开基准上的评测,大家可以看,也可以直接体验。
还有一点是可用性。S1、S2 发布当天,全球用户就能在网页上使用,API 也开放了。现在已经有企业接入我们的 API 做产品。模型究竟做得怎么样,大家用了就可以评价。
晚点:最近有人把视频生成模型加速,做成了无限流直播,挺受关注。你怎么评价这件事?
张金涛: 先解释一下原理。一个模型可以生成五秒的视频,通过更快的 GPU、推理加速、蒸馏等方法,把生成时间压到五秒以内,就可以让视频连续播下去。
我们之前发布的 TurboDiffusion,已经可以在消费级显卡上用两秒生成五秒的视频。用类似的方法,也可以实现这种效果。我觉得这个应用很有趣。
但生成得快,和能不能实时交互,是两件事。你给它一条 Prompt,它生成得更快了;可你给下一条 Prompt,可能还要等十几秒,甚至二十秒,它才开始生成对应内容。那它还不是我们这里说的实时交互模型。
晚点:生数现在的优势,更多是先发优势,还是技术、数据积累?如果大厂认真做,追赶的难度在哪里?
张金涛: 我首先想到的是朱老师的一些前瞻判断,我们在视频生成、实时视频生成上都布局得比较早。公司和朱老师也能把很优秀的人凝聚起来,做同一件事。
当然,头部几家对手都很强,有训练基础、数据储备,也有人才。对于一家有这些基础的公司,我不会说实时视频是一个特别难、别人做不出来的东西。他们认真做,能够做到比较好的水平。
但需要多长时间把数据做好,把训练方法探索清楚,再把工程和基础设施做到一个比较好的状态,很难判断。
晚点:所以短期内,门槛主要还是时间?
张金涛: 短期内是时间,以及认知。大家到底觉不觉得,这是一件重要的事情。
晚点:那你现在最大的担忧是什么?
张金涛: 两个点。第一个还是数据。我们能不能一直在数据标注、数据认知上保持领先?能不能获取最优质的数据源,有很好的视频理解模型做标注,有一套好的数据处理流程?
我担忧这件事,也就会更重视它,把它做好。
第二是产品。实时视频是 “使用即消费”,用户在用的过程中,就已经在消费模型。我们能不能做一款好产品,把生态做好,真正理解用户偏好,再用这些反馈改善模型?能不能让用户愿意持续使用?这些都很重要。
谁会为实时视频买单
晚点:按你的说法,离线视频更像工具,实时视频更像应用,会有生态、用户和黏性。它最终是一个 To C 的模式吗?
张金涛: 要看你处在什么位置。生数最主要还是模型提供方。我们会做自己的产品,但只靠我们自己做,肯定比不过让更多人加入进来,用我们的 API 做产品。
所以我们主要是对外提供模型服务。至于实时视频最终的消费和需求,我觉得肯定是 C 端驱动的,因为直接使用它的是每个用户。
晚点:实时视频最先落地的场景会是什么?
张金涛: 直观上看,直播、电商可能会率先用起来。但我觉得更有潜力的还是陪伴,因为每个人都可能独立地使用它。
晚点:做一款有用户黏性的产品,在国内是很难的。你们有什么初步想法?
张金涛: 我们在准备一款产品,目前产品团队也是我直接管理。主要想做社交、陪伴,解决情感陪伴的需求。
比如在数字人交互里,借助实时参考生成,用户可以用一张图片、一句话,更好地跟角色交互。我们会先把真实的情感需求调研清楚,再去做能够满足这些需求的产品。
晚点:但情感陪伴不是一个新方向。除了形象逼真,用户还希望对方有同理心、有逻辑,甚至觉得它 “有灵魂”。这好像不是实时视频模型能提供的。
张金涛: 对。更逼真的视觉形象,加上实时交互,是我们很突出的优势。但比视觉形象更关键的,可能是产品能力,以及背后那套 Agent 的能力:能不能真正懂用户,有没有记忆。
晚点:这些能力来自另一个模型?
张金涛: 不完全依赖一个特别强大的模型。简单的图像生成模型和语言模型结合,也可以做得比较好。
用户喜欢一个产品,可能是因为它有趣,能记住之前的会话。这些更多来自对用户的理解,而不只是某一个模型特别强。
晚点:你们一边给 B 端客户提供 API,让他们做应用,一边自己做应用,这两者会不会有点抢?
张金涛: 我们提供 API 服务,让大家用模型做产品,同时也做自己的产品,这两件事本身并不冲突。
我们自己做产品,不完全是为了收入。更重要的是建立模型的竞争壁垒:更懂用户的需求,依靠用户反馈和数据闭环,提高模型训练的效果。
晚点:但通过 B 端客户调用 API,不也能回流用户数据吗?
张金涛: 还是不够直接,跟用户之间隔了一层。
晚点:所以还是希望通过自己的应用,跟用户建立更直接的连接。
张金涛: 对。实时视频是使用即消费,你必须很懂用户,所以我们希望有这样一款产品。
晚点:API 模式在 Coding 领域已经比较明确,但很多视频应用还在探索怎么收费、怎么定价。你怎么看?
张金涛: 先看需求。Coding 是每个人都在独立使用,离线视频生成的直接使用者没有那么多。比如我们部门每个人都大量使用 Coding 工具,但你问身边的人用不用视频生成,可能用得就很少。
但也不能说视频模型卖得不好。下游生态的建立需要时间。以前大家就在写代码,现在接入一个 Agent,马上可以写得更快。视频生成下游的应用和创作需求,还没有被完全释放出来。
晚点:每个人都有自己的会话,也意味着算力需求跟着用户数量一起增长。这会不会反而不是一门好生意?
张金涛: 我觉得恰恰不是,这是更好的一门生意。每个人有独立的会话,需要独立的推理服务,就意味着推理需求会很大。
它确实消耗更多算力,但在我的理解里,推理服务本身是赚钱的。所以使用的用户越多,推理需求越大,赚得也越多。
另外,我们现在可以在消费级显卡上提供实时服务。这样的卡比较常见,所以我觉得,算力供给本身不构成这里的瓶颈。
从写算子到带三四十人的团队
晚点:做 S 系列之前,你主要聚焦推理加速。突然要负责从训练到部署的整条链路,朱军老师第一次让你来做的时候,你是什么感受?
张金涛: 很兴奋。我终于能做一番大事业了。
我一直有创业的想法,很想带一支团队,做一件伟大的事情,也觉得自己能做好。我能把事情讲清楚,知道每个人需要什么、适合做什么,怎么把大家凝聚起来,提高团队效率,减少内耗。
做负责人以后,对技术、产品需求的理解也要更深。我觉得这些是我愿意做、也能做好的事情。所以接到这个任务时很开心,到现在也一直很开心。
晚点:当时没有觉得哪些地方特别困难吗?
张金涛: 其实在三月份来生数之前,我已经在为带团队做准备了。去年底到今年初,我有过创业的想法,想看看能不能在朱老师支持下,做一些基础设施方面的创业,也跟投资机构聊过。
那段时间我在伯克利,也接触了一些美国的投资机构。到三月份,朱老师问我要不要来生数,这里有更好的资源支持,我觉得很兴奋。做的事情跟我之前想做的,其实很接近。
晚点:实时视频就是你当时想创业的方向?
张金涛: 是的。当时的商业计划,做的就是实时视频生成的基础设施、后训练,也包括空间视频。
那时候我就跟别人说,选择的方向比努力重要得多。什么是好方向?实时视频生成就是一个好方向。
晚点:现在团队有多少人?从自己写算子,到管理一个团队,最大的变化是什么?
张金涛: 大概三四十人。三月份部门刚成立的时候,其实就我带两个人,后来一个一个招进来。
2024 年我主要是自己写算子,做 GPU 线程编程、精度对齐。把一个东西做出来,做到工业界能用,也很开心。
以前关注的是技术细节,每行代码怎么写,把一个东西真正跑通。现在更多是怎么协调团队,让大家朝同一个目标做事,怎么把沟通做好,以及怎么保证自己的认知是正确的、先进的。
晚点:这对你来说,不是特别难的事情?
张金涛: 可能确实不是特别难。我感觉自己天生就适合做这种事情。
晚点:天生适合当领导?
张金涛: 可能吧,这个不知道。
晚点:你觉得生数现在更像一家商业公司,还是一个大学实验室?
张金涛: 肯定是一家商业公司,这一点毫无疑问。比如做流式视频生成,我们不会做太多纯研究,做的事情要服务业务和收入目标。
但我们确实有比较强的学校、实验室背景,解决问题的思路会更像做研究。我觉得这不是坏处。
晚点:你马上博士毕业了,毕业论文是什么?
张金涛:《高效注意力计算方法研究》,跟推理和训练的基础设施相关,主要面向视频模型。当然,这些注意力算子也可以用在语言模型上。
晚点:主流叙事还是大语言模型。朱军老师也有很多学生在那个方向做得很好,你会觉得可惜吗?
张金涛: 不会。我还是坚持刚才的判断,实时视频是一个很好的方向,需求很大。
语言模型帮人解决复杂问题,这当然重要。实时视频解决交流、娱乐这些需求,也很重要。方向不一样,但我没有觉得遗憾,也没有觉得自己应该去做语言模型。
晚点:如果给现在的实时视频画质打个分,相比传统的离线视频生成,做到什么程度了?
张金涛: 我觉得大概百分之五六十,还是有比较大的差距。但通过数据和算法上的改进,我觉得这些问题基本都能解决。
晚点:如果明年这个时候再聊,你希望 S 系列长成什么样?
张金涛: 我期待它能生成更丰富的内容,画质以假乱真,同时还是实时的、延迟很低,也能准确理解用户意图,精确满足用户需求。
我觉得一年时间,基本够我们把画质做到离线模型百分之八九十的状态。
晚点:最后,还有什么想说的?
张金涛: 两个点。第一,我们是很坦诚的。发布第一天,就把模型交给全球用户使用,开放 API。它肯定还不完美,但我们愿意让大家直接用,也欢迎大家提意见。
第二,我们 Vidu S 团队的使命,是为人类极致的多模态交互体验做贡献。这是最终的目标,也是我们一直以来做事情的标准。
有时间的话,大家可以上传一张图片,跟数字人聊聊天,看看它能做什么动作;也可以用 Editing 给自己换换装。
晚点:或者开发一些好玩的案例。
张金涛: 对,用我们的模型,做更多好玩的东西。
题图来源:晚点 LatePost
- FIN -