铃阅
❌

阅读视图

英伟达显卡被破解,AI 算力直接翻倍!

原创 小 G 2026-11-16 17:05 广东

上周 AI 圈子里最热门的事件,莫过于黄仁勋辞去了英伟达 CEO 职位,由 CFO 克雷斯临时暂替。

不过今天咱们先不聊老黄,而是谈谈之前显卡玩家们没少吐槽的,英伟达「刀法」。

同一款芯片,做成游戏卡卖给玩家是一个价,做成专业卡卖给企业又是另一个价,能用的功能也不一样。

还有个地方,平时玩游戏的时候感觉不到,换成拿游戏卡跑 AI,有一部分计算就只能跑到一半的速度。

最近偶然发现,不久前开源的 gpu-unlock 能突破去掉这个限制,已狂揽了 20000+ Star。

image-20261116111621571

先来看下这个限制具体卡在哪里?

简单来说,卡在显卡里的张量核心上,平时用 AI 出图、训练模型,里面的矩阵运算就会用到它来加速。

而在 AI 最常用的那几种计算精度下,RTX 20、30、40 系的游戏卡,张量核心就只能按一半的速度跑。

同样的芯片,换成 RTX A 系列这类专业卡之后,这个限制就没了,张量核心能跑全速。

image-20261116111554031

作者也在 FAQ 里说得相当直接,英伟达就是想让企业多花钱去买专业卡,专业卡没有这个限制。

gpu-unlock 赶在英伟达的官方驱动之前运行,开机的时候先把限速去掉,再让官方驱动接管显卡。

显卡不用刷固件,也不用装改过的驱动,用的还是英伟达官方的驱动,以后更新驱动也不用再弄一遍。

解锁前后算出来的结果也是逐位一致的,只是计算的时候更快了。

这里有一张表能看出解锁后到底有多快,数据来自网友们提交的兼容报告,可以参考看看。

一张 RTX 3060 12GB,原来的 BF16 矩阵算力是 27 TFLOPS,解锁之后就跑到了 51 TFLOPS。

还有 RTX 3090,原来是 75 TFLOPS,解锁之后能跑到 125 TFLOPS,前后差得也不少。

RTX 4090 的数字就更高了,峰值从 165 TFLOPS 跑到了 329 TFLOPS,看着差不多就翻倍了。

image-20261116111710509

比起跑分,我更关心平时实际出图能快多少,看了下换到实际运行任务上,也能快不少。

在 ComfyUI 里用 SDXL、SD 1.5 这些模型出图,速度能快 30% 到 55%。

在本地用 LoRA 微调模型,也能快 25% 到 50%,平时经常做这两件事的话,这个提速还是挺有吸引力的。

跑大模型的话,快的是前面「读题」的那一段,比如丢一份长文档过去,模型得先把这些输入处理一遍,才开始往外吐字。

这一段比较吃算力,解锁后能快 25% 到 55%,我们等它吐出第一个字的时间,也能比原来少 25% 到 30%。

image-20261116111753392

在 issue 里,有位网友拿自己那张没改装过的 RTX 3090,用 vLLM 跑了一个 27B 的模型,做了解锁前后的对比。

他这张 RTX 3090,读题速度比原来快了 33%,等第一个字出来的时间,也比原来少了 24%。

当天他还连着跑了 8 个多小时,既有出图和生成视频,也有一直开着的大模型服务,一次问题都没出过。

image-20261116114702093

至于兼容性,RTX 20、30、40 系都在支持名单里,其中 30 系最成熟。

截止目前已经有 100 多份网友提交的兼容报告,20 系和 40 系目前是实验性支持。

image-20261116135910772

想要使用的朋友,上手也并不是很难,先把项目拉下来,再跑一下安装命令即可。

    git clone https://github.com/Zagitta/gpu-unlock
    cd gpu-unlock
    make install

    它会自己识别我们电脑是什么系统,然后把需要的依赖装好,中途会让我们输入管理员密码。

    如果不懂的话,直接把项目链接丢给 Claude Code 或 Codex,让它帮我们安装也行。

    装完之后,还需要在开机参数里加上一句 gpu_unlock.targets=all,手动打开开关。

    接着重启下,再跑下面这条命令查看日志,看到 gpu_unlock: unlocked 这一行,就说明解锁成功了。

      journalctl -k -b | grep gpu_unlock

      如果哪天不想解锁了,就把那句开机参数删掉,更新启动配置之后再重启,就不会再解锁了。

      写在最后

      很多人觉得显卡跑 AI 不够快,第一反应就是想着存钱换一张更贵更高性能的显卡。

      但其实自己手上的卡,还有一半的算力被锁住没有被榨干出来,借助 gpu-unlock 把限制去掉。

      让自己手上的显卡性能充分发挥出来,届时若还不满足自己需求,再考虑升级换卡也不迟。

      不管英伟达接下来由谁来管,被锁住的这一半算力,现在我们自己就能用上了。

      手上有 20 到 40 系显卡,平时又要在本地出图、微调或跑大模型的朋友,可以试试看。

      GitHub 项目地址:https://github.com/Zagitta/gpu-unlock

      今天的分享到此结束,感谢大家抽空阅读,我们下期再见,Respect!

      跳转微信打开

      •  

      DeepSeek,大手笔啊!

      原创 小 G 2026-11-14 17:05 广东

      昨天晚上,DeepSeek 又放大招了,这次不是发新模型,而是宣布开放「全家桶应用 API」。

      平时我们在 DeepSeek App 里用到的联网搜索、深度思考搜索、上传文件、读链接、语音对话。

      现在开发者都能通过 API 直接用上,甚至可以利用它们 1:1 复刻出完整的 DeepSeek App。

      DeepSeek 团队还照着 App 做了一个网页版的聊天客户端 chat-demo,并开源给我们学习。

      image-20261114153917454

      一家公司主动教大家复刻自家的 App,到底图什么,对我们这些普通人又有什么用呢?

      先来看看这次都开放了哪些东西。

      以前开发者想在自己的应用里做出类似 App 的体验,光接入 DeepSeek 的模型还不够。

      搜索、文件解析、语音这些都得另外找服务对接,再自己写代码把它们串起来。

      现在这些活都交给了 DeepSeek 的服务端,开个参数,什么时候该去搜索、搜到的内容怎么交给模型,它都会自己处理好。

      搜索、网页抓取、文字识别、语音识别、语音合成也拆成了单独的接口,可以只拿其中一个来用,也能几个组合在一起用。

      目前支持这些能力的是 deepseek-flash,也就是 V4.1-Flash 模型。

      价格方面,除了模型本身的 Token 费,调用这些工具还会另外收费,官方公布的价格如下:

      image-20261114153952729

      搜索和网页抓取都是 5 元一千次,语音识别一小时 0.39 元,它和语音合成目前都还在限时五折。

      那 DeepSeek 为什么要这么做呢?

      可以从崔添翼当晚发的两条帖子里找找答案,他在 DeepSeek 产品团队,平时主要做的就是 DeepSeek Harness。

      第一条说,DeepSeek 产品背后的各项核心能力都已经通过 API 开放了,希望门槛降低之后,社区里能长出更多样、更有想象力的产品。

      第二条就说得更直白了:「下一个超级 App 不必是面向所有人的一个超级 App。现在,每个人都有能力创造一个超级 App。」

      image-20261114154038915

      这么看来,DeepSeek 并不打算把自家的 App 做得越来越大、越来越全,反倒是把它拆成一个个零件交了出去,让大家按自己的需要去拼。

      而且就在同一天,DeepSeek Harness 的新版也加了一个实验性的「DeepSeek 会话导入」插件,App 或网页版里的历史对话,可以搬进 DSH 里接着聊。

      时间上正好凑在了一起,我们在 App 里聊过的那些记录,以后也不用只留在 App 里了。

      image-20261114162458658

      最先感受到变化的,肯定是开发者。

      以前做一个能联网搜索、能看文件、能听会说的应用,得对接好几家服务,现在用一个 DeepSeek 的 API Key 就够了。

      日子不太好过的,可能是那些给 DeepSeek 套个界面的第三方客户端,官方自己开源的这个 Demo,就已经有了 App 里大部分的功能。

      网上也已经有网友在讨论,这波对做 DeepSeek 客户端的人来说,到底是利好还是抢活。

      至于普通人,日常聊天继续用免费的 App 其实就够了,API 更适合想要点不一样东西的朋友。

      想先尝尝鲜的话,可以直接打开官方的 Demo 体验页,在设置里填上自己的 API Key 就能用,Key 和聊天记录都只存在自己的浏览器里。

      image-20261114154105758

      费用是按用量来算的,模型的 Token 费在工作日高峰时段以外都是半价,周末和节假日全天也按半价算,平时偶尔用用花不了几个钱。

      写在最后

      再往前想一下,崔添翼说的「每个人都有能力创造一个超级 App」,放到不会写代码的人身上,DSH 的创造模式就是一个现成的入口。

      在创造模式里把需求描述清楚,它就能做出一个插件,装好之后直接就能用。

      现在搜索、语音识别、语音合成、文字识别都有了官方接口,做插件的时候可以让它把这些能力接进去,能做的事情也就多了不少。

      比如开会时录一段音,插件自动转成文字,再整理出一份会议纪要,或者拍一张发票,让它把金额和日期识别出来填进表格。

      又或者每天早上让它搜一遍自己关注的话题,整理成一段新闻读出来,通勤路上戴着耳机就能听完。

      这些插件不用管别人用不用得惯,按自己的习惯来做,自己用着顺手就行。

      另外,如果做好的应用想开放给别人用,官方要求开启安全校验,内容审核、大模型登记、AI 标识这些义务也得自己承担起来。

      GitHub 项目地址:https://github.com/deepseek-ai/chat-demo

      今天的分享到此结束,感谢大家抽空阅读,我们下期再见,Respect!

      跳转微信打开

      •  

      两周暴涨 3 万 Star,又一个 AI 逆向神器火了!

      原创 小 G 2026-11-13 17:05 广东

      还记得上个月介绍过的工具 PhotoCraft 吗?就是用 Rust 把 Photoshop 从头做了一遍那个。

      它背后的 ArtCraft 团队最近又开源了一个新工具:Craft Anything,两周涨了近 3 万 Star。

      利用这个工具,我们可以把自己喜欢的网站、应用或游戏,让 AI 直接照着复刻一个版本出来。

      image-20261112202628269

      平时把一张网页截图发给 AI 让它复刻,做出来的效果,往往一对比就会发现不少地方对不上。

      比如字号和间距,菜单点开后是什么样,窗口拉窄了又该怎么排,单看最初那张截图还真不容易说清楚。

      还得自己一处处找出来,再告诉 AI 哪里要改,而 Craft Anything 把这活也接过去做了。

      估计有不少朋友,想起不久前爆火的工具 REA,把一切软件拆开来看,号称能逆向一切。

      image-20261112203250665

      但 Craft Anything 与 REA 还是有区别的。

      REA 更多是帮我们弄明白一个软件是怎么做的,至于照着做出来像不像,还得靠自己去对。

      Craft Anything 则把「做出来」和「对一对」这两步也接上了,整个过程分成四步来走。

      先研究原作,看它的页面在不同宽度下长什么样,还有它运行起来是什么样子。

      再交给我们电脑上的编码 Agent 新建一个项目,用什么语言、什么框架,都可以在需求里说清楚。

      做完之后拿成品和原作逐项对照,列出还有哪些地方不一致。

      最后打开成品试一试,哪里不满意,就在下面接着提要求,它会继续往下改。

      image-20261112203404626

      我觉得这里面最有用的,就是第三步的对照检查。

      拿网页来说,它会按三种屏幕宽度分别和原版做对比,每一项检查都会告诉我们,做出来的东西跟原版有多像。

      游戏会跑它自己的自检,桌面应用则看它运行起来是什么样。

      还没对上的地方会被一条条列出来,交回给 Agent 接着改,一直改到足够接近原版为止。

      以前要靠我们自己的眼睛一处处去挑的活,现在交给它来干了。

      image-20261112203448106

      用起来也不要求懂代码,软件默认打开的就是简单模式。

      选好要做的是网站、应用还是游戏,用大白话描述一下想要什么,再按下 Start 就可以了。

      项目页上能看到现在走到了四步里的哪一步,Agent 正在干什么,也会用大白话写出来。

      中间遇到需要我们拍板的地方,会弹出一张提问卡,规则之外的动作,也会先弹出审批卡等我们点头才执行。

      如果有开发经验的朋友可以切到进阶模式,函数、反汇编、调用图这些分析工具都摆在里面。

      image-20261112203526863

      能拿来研究的也不只是网页,桌面应用、手机应用、游戏这些软件都可以。

      用 Unity、Unreal 或 Godot 做的游戏,也能照着重建一个,比如跟它说「用 Rust 复刻这个游戏的玩法」。

      手里没有现成的参照也没关系,只说一句「用 Rust 做一个贪吃蛇」,它也能从零开始做出来。

      image-20261112203724550

      说到这里,可能有朋友会担心,照着别人的东西做,会不会惹上麻烦。

      它默认只看外观、不碰源码,依据的都是我们能看到的东西,比如截图、页面上的文字、布局、配色和字体。

      Agent 也被要求不能照搬原作的 logo、照片和文字,除非我们确认自己拥有它们,或者已经拿到了授权。

      想研究得更深一点,也可以切到深度模式,去读程序的代码和文件,不过这个模式只供自己私下研究用。

      开了深度模式之后,还能只打开一个目标向它提问,不去构建任何东西,单纯弄明白别人是怎么做的。

      另外它一共带了 320 个工具,每个都能当命令行工具来用,也能通过 MCP 接口交给其他 Agent 调用。

      如果想使用,工具提供 Windows、macOS 和 Linux 开箱即用的安装包,到 GitHub 的 Releases 页面下载就行。

      image-20261112204532833

      在构建这一步,要用到我们电脑上已经登录好的编码 Agent,首选是 Claude Code。

      除此之外,它也接入了 DeepSeek Harness,也可以拿它来当干活的 Agent。

      装了命令行工具的话,可以先跑一下 doctor 命令,看看 Agent 和引擎还缺些什么:

        craft-anything-cli doctor

        做出来的项目默认放在「文稿」下的 Craft Anything 文件夹里,每个项目还会留着每一轮对照检查的结果,方便回头翻看。

        写在最后

        上个月 REA 爆火的时候,大家惊讶的是,AI 已经能把一个不开源的软件拆开讲明白了。

        而 Craft Anything 又往前走了一步,能照着复刻一个出来,做完还会拿去跟原版对比,哪里不像接着改。

        放在几年前,想弄明白一个软件是怎么做的,得懂汇编、会反编译,是少数人才有的手艺。

        现在用大白话说一句,AI 就能帮我们看懂,甚至能照着做一个出来。

        这两个工具接连出现,不得不让人思考,往后要是自己做软件,护城河到底在哪里?

        我觉得真正能留住用户的,可能就只剩品牌、数据,以及持续把产品做好这些东西。

        GitHub 项目地址:https://github.com/storytold/craft-anything

        今天的分享到此结束,感谢大家抽空阅读,我们下期再见,Respect!

        跳转微信打开

        •  

        微软悄然开源了一款 Claude Code 神器

        原创 小 G 2026-11-12 17:05 广东

        最近身边不少朋友把 Claude Code 切换到最新 Fable 5.2 模型使用了,写代码能力确实又强了不少。

        但用着用着就发现额度不太够,官方也建议,日常的任务用 Opus 5.5 就够了,复杂的活再交给 Fable 5.2。

        不过我估计大家的心里,肯定还是会优先选择使用新模型,那么能不能让它降低一下 Token 的消耗呢?

        答案是可以的。不久前微软悄悄开源了一个插件:TokenEconomizer,专门帮 Agent 降低 Token 消耗。

        image-20261111234654611

        它的思路不是换个便宜的模型,也不去改 Agent 本身,而是从 Agent 在某个项目里跑过的会话中总结经验。

        后面再开会话时,遇到同样情况的时候就照着这些经验处理少走点弯路,所以在经常用的项目里,会越用越省。

        目前正式支持 Claude Code、Codex、GitHub Copilot CLI 和 Pi,Cursor、Hermes Agent 等也在实验支持中。

        image-20261111235014193

        用的是我们 Agent 原本的订阅或登录方式,不需要额外的 API Key,装好之后照常写代码就行。

        它一共有三招,先说我觉得最实用的一招,就是在 Agent 卡住的时候拉它一把。

        当一轮对话里反复出现同样的报错,它会请一个「裁判」模型来判断,Agent 是不是真的在原地打转。

        裁判有七成以上的把握,才会给 Agent 塞一句提醒,让它换个思路再试,每轮最多提醒一次。

        如果提醒过后还是卡着,它会告诉我们按 Esc 停下来,但不会自己动手掐断,停不停还是由我们决定。

        image-20261111235123968

        第二招是把用不到的工具从对话里拿掉。

        Agent 加载的每个工具,都会把自己的说明跟着每次请求一起发出去,哪怕整个会话一次都没用上。

        TokenEconomizer 会记下每个工具的使用情况,在这个项目里连着几次会话都没碰过的,下次就不再加载。

        在 Claude Code 里,它是改项目的本地设置来实现的,哪天又想用了,一条命令就能恢复回来。

        image-20261111235523145

        第三招是记住项目里的规矩,比如有的项目跑测试要用 python -m pytest,直接敲 pytest 就会报错。

        这类坑 Agent 往往每次都要踩一遍,它就把反复出现的失败总结成一句话的事实,下次开会话时提前告诉 Agent。

        除此之外,每隔三次会话,它还会让模型把最近的会话回顾一遍,从中找出新的规矩。

        为了防止记错,一条事实要被三次会话印证过才会生效,后面的会话证明它不对了,也会自动丢掉。

        不过这一招默认是关着的,因为总结事实要额外调用模型,有需要的话可以手动打开。

        image-20261111235431132

        另外它学到的东西只存在本机,插件自己要是出了问题,会话也会照常进行,就跟没装过一样。

        那它到底能省多少呢?团队用 SWE-Bench 里 277 个真实的编程任务做了测试。

        测了 Claude Code、Codex、Copilot CLI 分别搭配不同模型的 5 种组合,平均成本降低了 18.4% 到 30.9%。

        其中 Claude Code 搭配 Sonnet 5 降了 23.6%,测试用的是 Sonnet 5、Opus 4.8 和 GPT-5.6 等模型,这里面并不包括刚发布的 Fable 5.2。

        30 个「项目 × 组合」全都比不装的时候更省,再看任务的完成率,5 种组合里有 4 种还略有提升。

        换到网页开发的测试集上,成本也降了 16% 到 21%,就连每个任务都是全新项目的安全审计测试,也能省下 6% 到 20%。

        image-20261111235624585

        如果想使用,安装也很简单,以 Claude Code 为例,在终端执行下面三条命令:

          git clone https://github.com/microsoft/TokenEconomizer.git
          claude plugin marketplace add "$PWD/TokenEconomizer"
          claude plugin install tokeneconomizer@tokeneconomizer

          注意克隆下来的项目文件夹要留着别删,插件就是从这个文件夹里运行的,Codex 的安装步骤也差不多。

          装好后,回到平时写代码的项目里启动 Claude Code,输入 /tokeneconomizer:status,看一下插件的状态。

          image-20261112000022670

          它得看过几次会话,才有东西可学,所以装好后也可以把历史导入打开,让以前的会话记录也派上用场:

            /tokeneconomizer:config set history_import=on --global

            这个选项要在安装后尽早打开,插件还没学过这个项目的会话时,才会导入历史记录。

            以后想知道它在这个项目里学到了什么,哪些工具被拿掉了,或者会话花了多少钱,还是用 status 命令来查。

            写在最后

            之前给大家介绍过类似的工具 Caveman,它是让 AI 说话简短一点,从输出上省 Token。

            TokenEconomizer 则会记住这个项目里的经验,在后面的会话里继续用,跟 Caveman 的做法也不冲突。

            平时就在固定几个项目里用 Claude Code、Codex 写代码,又经常把额度用完的朋友。

            可以装上试几天,再看看 status 里每次会话的花费记录,再决定要不要一直用。

            GitHub 项目地址:https://github.com/microsoft/TokenEconomizer

            今天的分享到此结束,感谢大家抽空阅读,我们下期再见,Respect!

            跳转微信打开

            •  

            用 Claude Fable 5.2 + Cinecode 代码直出视频,效果惊艳!

            原创 小 G 2026-11-11 17:05 广东

            现在打开朋友圈和社交 App,几乎被 Claude Fable 5.2 刷屏了,不少朋友都在晒用它做出来的东西。

            有做 3D 动画短片的,有做小游戏的,还有让它直接写代码来作曲的,全都是靠代码一点点做出来的。

            其中最让我震撼的,是 Anthropic 员工 Jake Eaton 晒出来的一张图,空荡荡的地下停车场里,一束阳光斜照在墙上,一辆购物车停在旁边。

            image-20261111142731678

            最初我还以为是一张照片,结果他说,这是用 Fable 5.2 画的一张照片,前后大概画了 70 万笔。

            整个过程没有调用任何图像模型,全靠代码一笔一笔画出来,的确是相当厉害了,如果没放大仔细看都不会发现瑕疵。

            图像能用代码一笔一笔画出来,那么视频自然也能用代码一帧一帧搭出来,于是 Fable 5.2 就被各大网友玩疯了。

            不过要把一个想法做成一部完整的片子,剧本、分镜、配乐、剪辑都得顾上,光靠一条提示词还是挺难的。

            偶然刷到,一位用代码做视频的创作者 sarpstar 把自己的制作流程整理成 Skill:cinecode,并开源了。

            他做的一段百慕大三角纪录片,睡前只交代了一句话,剩下的决定都让 AI 自己拿主意,然后就去睡觉了。

            第二天起来,8 分钟的视频就做好了,按他的说法,已经差不多能直接发布,后来提了一轮修改意见就定稿了。

            这里干活的还是我们电脑上的 Claude Code 或 Cursor,装上 cinecode,把想拍的东西跟 Agent 说一下就行。

            剧本由它来写,每一帧画面用代码搭,声音也一起做,最后交出来的是 MP4。

            即便做十分钟以上的纪录片也支持,Agent 会先查资料再写剧本,人物和事件的说法都要带出处。

            照片和地图会去开放档案馆里找,哪一段没现成画面,再用代码画地图、图表,或者把那个场景复原出来。

            做片子用的是 Claude Code 或 Cursor 已有的订阅,不用再订别的服务,想加旁白,可以填自己的 Gemini Key,有免费额度。

            image-20261111152920157

            短片则可以从一句话的想法开始,构思的时候,它会随机抽一样真实的东西进来,博物馆藏品、动物、太空照片、古老发明都有可能。

            再拿这个东西和我们的想法放在一起,看看能拍成什么。

            想用什么画风也可以一起说,3D、2D 动画,或者水墨、纸艺、黏土、像素风都行。

            还支持同时导出 9:16、1:1 和 16:9 三种比例,发到哪个平台都不用再重新裁一遍。

            若是做 MV 会先测出歌曲的节拍,让剪辑点卡在小节上,每一句歌词都对应一个画面。

            README 里还放了十几部用它做出来的示例,有 5 分钟的泰坦尼克号纪录片,也有手表广告、面包店广告和动画童话等。

            image-20261111150521929

            真要自己做一部,开工前它会先问几个问题,比如影片用什么风格、多长、横屏还是竖屏、要不要配乐。

            每个问题都标了一个推荐答案,拿不准的话直接选推荐就行。

            接着给出一份逐秒的节拍表,和一张可以逐行修改的导演卡。

            然后先渲染出两个场景的静帧给我们看,确认没问题了,才去做剩下的部分。

            草稿做出来后,它还会自己检查一遍,开头画面有没有动起来、音量合不合适、文字能不能看清、镜头有没有重复。

            检查完还不算,还会交给一个不了解前情的「观众」重新看一遍,挑出问题再改。

            image-20261111151039674

            制作模式分两种,快速模式能在一次对话里做出 3 分钟以内的片子。

            电影模式则适合纪录片这类要调研和旁白的长片,按阶段一步步确认。

            当然片子越长,花的时间和消耗的 Token 额度也会越多,电影模式渲染时每部片子还要占几 GB 的磁盘空间。

            想要安装使用简单,在 Claude Code 里发一句话,让它帮忙安装 cinecode 技能即可:

              帮我安装 cinecode 技能:https://github.com/sarpstar/cinecode

              Agent 就会帮我们安装好,安装完成后,可以按下面这个模板发送给 AI 开始做视频。

                用 cinecode 做一部影片:<讲的是什么,一两句话>。
                (知道的话可以补充以下内容;不写的话工具包会来问:)
                时长:<15 秒 / 1 分钟 / 5 分钟>
                在哪里播放:<竖屏 / 横屏>
                声音:<要旁白 / 不要人声 / 用我自己的歌:文件>
                风格:<你想到的某部电影、某张照片或某位画家,或者“你来推荐”>

                写在最后

                以前想做一部带分镜、带配乐的短片,要会剪辑、会做动画,还得自己到处找素材,一个人很难搞定。

                现在把想法说清楚,写剧本、做画面、配声音这些活,都可以交给 Agent 和 cinecode 来完成。

                而且我觉得用代码做视频,跟直接用视频模型生成,还不太一样。

                视频模型生成的片子,哪里不满意往往只能重新抽一次。

                代码做出来的每一帧都对应着几行代码,想改哪个镜头就改哪个,其他地方不用动。

                最重要的是用代码来做视频的成本,远比用视频模型生成要低得多,大家可以放开手批量做。

                这样一来,以后做视频拼的就不再是会不会剪辑、会不会做动画,而是有没有想讲的故事了。

                有想做视频、又不想露脸的朋友,可以挑一个一直想讲的话题,先用快速模式做一条试试。

                GitHub 项目地址:https://github.com/sarpstar/cinecode

                今天的分享到此结束,感谢大家抽空阅读,我们下期再见,Respect!

                跳转微信打开

                •  

                Claude Fable 5.2,夯爆了!

                原创 小 G 2026-11-10 18:47 广东

                今日凌晨 3 点,Anthropic 突然放出一个王炸,正式发布 Claude Fable 5.2 模型。

                一发布,便在 Artificial Analysis 指数榜单上,拿下 65 高分登顶第一,直接宣布新王登基。

                官方的 12 项评测,智能体编码、科学研究、计算机使用等 11 项成绩超过自家 Opus 5.5 模型。

                跟 GPT-6 Astra 和 Gemini 4 Carbon 相比,可以说是几乎全面超越,基本碾压所有对手。

                image-20261110154022880

                另外,这次 Fable 5.2 的输出速度比上一代快了 30%,而且 API 价格还降了 20%。

                现在每百万 Token 输入只要 8 美元、输出 40 美元,而上一代是 10 美元和 50 美元。

                有点意外,Anthropic 还送出了 1 到 3 次 Fable 的额度重置机会,根据订阅套餐类型和时间来定。

                不过官方也建议,日常的任务先用 Opus 5.5 就够了,遇到更复杂的活再换成 Fable 5.2 来干。

                image-20261110154713908

                从官方放出的案例来看,这一次 Fable 5.2 在 3D 场景和硬件设计方面的能力,有了极大提升。

                于是想找个项目来试试,正好前几天在 GitHub 上看到一个很有意思的开源 Skill:teardown。

                该项目作者只给 Claude 发了一张参考图,就做出了一只可以拆开来看的机械蜜蜂。

                蜜蜂身上的外壳、齿轮和管线,全都是用 three.js 代码一点点写出来的,点一下还能把整只蜜蜂的零件炸开,效果相当惊艳。

                bee1-ezgif.com-video-to-gif-converter

                后来作者把自己这套做 3D 机械拆解的流程,整理成了一个 Claude Code 的 Skill,并开源了出来。

                装上之后,我们只需要问它某台机器是怎么工作的,它就会做出一个可以拆解的 3D 模拟器。

                做好的成品是一个 HTML 网页文件,不用联网,在浏览器里打开就能玩。

                除了蜜蜂,作者还做了一只机械章鱼,我觉得也挺有趣的。

                它的每条触手都是由一节一节的零件连起来的,所以能像真的章鱼那样卷起来,还可以把其中一条触手单独拆开。

                当然不只是这些机械生物,我们日常在用的设备它也能拆。

                有位网友给了它一张 Mac mini 的图片,它就做出了一台可以拆开的 Mac mini。

                先把顶盖掀开,接着风扇、芯片、内存和电源一个个被取了出来,里面是怎么摆的看得清清楚楚。

                看完别人做的,我也用 Fable 5.2 上手试了一下,顺便看下模型的能力如何。

                于是打开 Claude Code 切换到 Fable 5.2 模型,并发送下面一句话安装 teardown 技能:

                image-20261110161549817

                接着我找了一张无人机的图片发给它,让它做一个可以拆开看的四旋翼无人机模拟器。

                顺便让它讲清楚无人机是怎么飞起来的,四个电机又是怎么配合着实现起飞、悬停、前进和转向。

                这里提醒了,最好是给它一张参考图,如果只靠一句话来描述,做出来的机器容易千篇一律。

                image-20261110161352806

                指令发送后,它没有急着动手,而是先翻了一遍技能自带的几个示例,挑了最接近的飞机起落架来参考,再开始搭这台无人机。

                整个过程我没有再追问,也没有让它返工,一条提示词模拟器就做出来,只有一个 700 多 KB 的 HTML 文件。

                image-20261110164528889

                双击打开后,中间的无人机和参考图很像,机臂、橙色的桨尖、机头下面的云台相机都在,机身上的品牌标识也按要求去掉了。

                左边的面板显示着四个电机的转速、总升力和飞行姿态,底部还会用一段话说明现在发生了什么。

                右侧的面板,试着点了几个飞行动作,相当丝滑,还可以不断切换视角以及拆解无人机内部组件,非常有意思。

                最后再让 Fable 5.2 导出一段 20 秒左右、1080P、60 帧,包括起飞、前进、转向、降落和拆解的演示视频。

                写在最后

                以上就是使用 Fable 5.2 模型,仅用一条提示词做出来的效果,整体来说这次模型能力很强。

                从弄懂飞行原理、做 3D 建模,再到写交互界面和导出演示视频,一个模型就全包了。

                以前想弄明白一台机器里面是怎么运转的,只能去网上找拆解视频,或者对着一张静止的结构图慢慢看。

                现在有 teardown 技能加 Fable 5.2 模型,想看哪台机器,做一个出来就可以了。

                我觉得想做科普视频的朋友,或者想给孩子讲讲机械原理的家长,都可以拿它来试一试。

                GitHub 项目地址:https://github.com/elvarofficial/teardown

                今天的分享到此结束,感谢大家抽空阅读,我们下期再见,Respect!

                跳转微信打开

                •  

                一个神级动画 Skill,开源了!

                原创 小 G 2026-11-09 17:07 广东

                相信不少家长们都有过这样的经历,孩子拿着作业题目来问,自己明明学过也明白,但跟孩子讲了半天他却听不懂。

                比如物理的滑轮原理,为什么挂上几段绳子就能省力?课本上只有一张静止的插图,剩下全靠孩子自己去想。

                老师同样也会有难处,力怎么分到每段绳子上,手拉多长、重物升多高,在黑板上画了又擦,学生还是很难想象出来的。

                其实我觉得,这类知识点本来就是一个变化的过程,最好的办法是做成动画,讲到哪里画面就动到哪里。

                可自己动手做动画课件,又要学软件、又要找素材,不管是家长还是老师,都很难抽出这个时间。

                最近我试着把这件事交给了「豆包工作」,让它将一个知识点做成带配音、带动画,还能当场答题的互动式网页课。

                image-20261109095955940

                做一节这样的课,又是配音又是动画,不少朋友可能会担心要花不少额度,其实整个任务下来,消耗的额度并不多。

                而且「豆包工作」最近还有福利,新用户领 30 天免费体验套餐,老用户每日签到领额度可以攒着,等做任务的时候用。

                话不多说,下面一起来看下整个制作过程。

                一句话,装好技能

                这次我将用到一个开源技能:Papermorph,它能把一个知识点做成带配音、带动画、能答题的互动网页课。

                打开豆包工作,新建一个工作任务,执行环境选「本地电脑」,然后发一句话,让它从 GitHub 上安装 Papermorph 技能。

                image-20261108205708094

                装好之后,还用了一段大白话跟我们介绍这个技能可以做点什么,以及该怎么用。

                一句话介绍就是把「书」变成能在浏览器里播放的动画网页,有配音、有动效,还能点着玩。

                做出来的成品可以是动画课、故事绘本、纪录片、竖屏短片等,都是纯静态网页,也能导出 MP4 视频。

                image-20261108205744116

                 会讲会动,还能答题

                接着开始做课,让「豆包工作」用动画的方式讲清楚定滑轮、动滑轮、滑轮组的原理。

                提示词发送之后,它没有急着动手,而是先弹出选项卡,问了我们四个问题。

                分别是画面走哪种画法、用哪个配音音色、讲解节奏要多快,以及小题的答案怎么填。

                每个问题都给了两三个选项并标好了推荐,每个选项后面还写了好处和代价,比如彩色卡通课堂气氛活泼,但数字和标注会显得花一些。

                image-20261108211830838

                这里如果不了解或不懂的话,全部选择它的推荐即可,接着它就开始写分镜和讲解词。

                紧接着分镜就做好了,一共九拍,甚至连配音也已经录好,讲解两分钟出头,加上做题的时间不到三分钟。

                几个分镜画面图可以直接在「豆包工作」里打开预览,若发现问题可以让它进行修改调整。

                确认静态分镜没问题后,它才会继续给画面增加动效,输出一份可交互的课件。

                image-20261108220252111

                这一步用了 1 个多小时,因为需要配音、做动效,还要做成网页,所以用时较长也能理解。

                制作好的网页,它已在本地启动好了服务,可以直接在「豆包工作」的内置浏览器里打开查看。

                意外发现它还专门做了一个封面和目录,从封面点「开始上课」,就会进入到课件。

                image-20261109115311508

                接着用两分多钟讲清定滑轮、动滑轮和滑轮组,画面里的拉力、绳子段数和拉动距离,都随着讲解一起变。

                比如讲到动滑轮时,两段绳子分别标上 1 和 2,拉力从 20 N 降到 10 N,重物升高 1 米,手却要往上拉 2 米,省力就得多拉绳,一眼就能看明白。

                每讲完一个知识点,还会出一道小题,填好数字按回车就当场判分,答对了打勾,下面再附上解题思路。

                虽然做这个任务用了 1 个多小时,但在结尾的时候我看到,却仅仅消耗了 28 额度。

                image (11)

                一键发布,发到群里

                课件做好了,还可以在「豆包工作」里,把本地网页文件一键发布,得到一个公开可访问的链接。

                点击内置浏览器右上角的「发布」按钮,选择「确认发布」,就会自动在对话框里触发发布指令。

                image-20261108232126722

                配音和画面都打包到页面里,把获取到的网页链接分享给别人,在浏览器上打开就能访问。

                这样就可以直接发到班级群,或者分享到家长群里,其他人也能查看学习这个在线课件。

                如果想要讲解类的视频,也可以导出带有字幕的 MP4 文件,不过中间的交互答题就没有了。

                image-20261109110417856

                其中配音用的是免费的微软 Edge TTS,视频经过了 1.25 倍加速,可以看下完整的效果。

                左侧是知识重点,每讲解到一个知识点时,右侧动画跟着演示,让人一下子就能理解到原理。

                写在最后

                以前想把一个知识点讲得生动,要么去网上找现成的动画视频碰运气,要么自己学着做课件,都挺费劲的。

                现在我们只需要把想讲的知识点说清楚,写讲解词、配音、做动画和检查,都交给「豆包工作」自己完成即可。

                而且这节课确认通过后,它会把定好的风格记下来,后面再做下一章,就照着同一个标准来做。

                同样的做法,也能用来帮孩子预习新课、复习难点,老师准备课堂演示也用得上。

                有需要的朋友,可以挑一节孩子最近卡住的课,在「豆包工作」上装好 Papermorph 技能做一节试试。

                今天的分享到此结束,感谢大家抽空阅读,我们下期再见,Respect!

                跳转微信打开

                •  

                一周暴涨 20000+ Star,这个 Agent 工作台火了!

                原创 小 G 2026-11-08 17:05 广东

                现在不少朋友电脑里,都是同时安装了 Claude Code、Codex 等好几个 Agent 工具。

                有时候忙起来,终端窗口一开就是四五个,几个 Agent 一起开始干活,但管理起来颇为头疼。

                谁的活干完了,谁卡在等确认,只能一个个窗口切换过去查看,还不能实时了解各自额度。

                最近 GitHub 上有一个很火的开源项目,一周就暴涨 20000+ Star,名叫:T3 Code,累计狂揽了 5.1 万 Star。

                image-20261108152644594

                该项目是一个专门用来操控和管理多 Agent 的工作台,电脑里已登录的 Agent,都能集中到这里。

                支持 Claude Code、Codex、Cursor、Grok Build、OpenCode 等主流 Agent 工具。

                不少朋友在使用 T3 Code 之后,说到用它的时间比直接打开 Claude Code、Codex 还要多。

                重要的是用的都是我们已有的订阅,T3 Code 本身不收钱,项目也是基于 MIT 协议开源的。

                Agent 仍然跑在自己的电脑上,代码和提示词直接发给模型厂商,不会经过 T3 Code。

                而且提供了桌面端、网页端,iOS 和 Android 端也上架到了各大应用商店,可以说支持全平台。

                image-20261108153641915

                打开之后,所有对话都排在左侧的列表里,哪个在干活、哪个在等我们确认,一眼就能看到。

                新建对话时可以选交给哪一家、用哪个模型。

                聊到一半想换也行,切到另一家后,T3 Code 会把前面的对话内容一起带过去,不用从头再讲一遍。

                对话里还会标出在哪一轮换了模型、调了思考强度,回头翻记录的时候也清楚。

                image-20261108154116490

                不过几家 Agent 放到一起后,还有个挺有意思的用法,就是让它们一起来做同一个任务。

                比如官网放的这张图,要求很简单,给草稿加分享链接,再加了一句用四个子 Agent 来做。

                主 Agent 就把活分了出去,分给的还是不同家的模型,接口、测试、文档,还有界面上的按钮,每个子 Agent 各写一块。

                下面能看到 Claude、Codex、Muse 和 Gemini 都在同时干活,等做好了,再把结果交回来。

                要是子任务中间遇到需要确认的操作,在主对话这边处理就行,也省得挨个进去看。

                image-20261108153907756

                既然都放在一个地方管了,人不在电脑前也能接着用。

                在设置里打开 T3 Connect 并登录账号,不用自己折腾路由器端口转发,手机上登录同一个账号,就能连上家里的电脑。

                当然,前提是电脑得一直开着,T3 Code 也要保持运行。

                Agent 跑完了、出错了,或者需要我们确认,手机都会推送通知,iPhone 上还能用实时活动看进度。

                在手机上打字写需求不太方便,也可以直接语音输入,手机上默认就在本机转成文字。

                前几天还看到有个团队去参加 ETHGlobal 孟买的黑客松,没带笔记本,全程就靠手机上的 T3 Code 写代码。

                image-20261108154553643

                同时订了好几家,除了用起来方便,我觉得还得看看平时到底用了多少,T3 Code 里就能查到。

                打开用量看板,Claude Code、Codex、Cursor 的 Token 消耗都在里面,可以看过去 24 小时,也可以拉长到 7 天、30 天。

                每个模型用了多少,缓存命中率怎么样,都能在这里查看。

                还有一项估算费用,是按 API 价格折算出来的,别当成实际的订阅账单,看各个模型的花费对比就行。

                image-20261108154721521

                翻文档时还看到一个我挺喜欢的功能,Agent 可以直接在对话里做网页,回答的时候就把网页显示出来。

                比如让它分析一份数据,看文字不太明白,就再说一句「做成图表」,它会写成网页放在对话里。

                做表格、画流程图也行,手头几张截图想拼在一起,直接跟它说就可以。

                做出来的网页会跟着 T3 Code 的主题配色走,深色、浅色模式切换的时候,也会一起变。

                比如拿它来做界面方案的对比,一次让 Agent 做几版,摆在一块看,比在文字里描述区别直观多了。

                而且网页不光在桌面端和浏览器里能看,手机 App 也能打开。

                visualization-ezgif.com-video-to-gif-converter

                想装来试试的话,直接都项目的 Release 页面或者官网上下载适合自己系统的安装包即可。

                注意先在本地电脑上装好至少一家 Agent 工具并登录,不然 T3 Code 找不到能用的 Agent。

                image-20261108155404476

                写在最后

                现在可用的 Agent 工具不少,大家电脑安装的不止一个,但缺一个能把它们统一管理的工具。

                T3 Code 或许能帮到我们,统一管理、指派任务、出门远程、月底看账,都能在这里完成。

                而且用的还是我们手上已有的 Agent 订阅,它本身是一个开源免费的工具,没有二次订阅。

                同时在用多个 Agent 工具,或者人经常不在电脑前还想管理着自己 Agent 的朋友,可以装一个试试。

                GitHub 项目地址:https://github.com/pingdotgg/t3code

                今天的分享到此结束,感谢大家抽空阅读,我们下期再见,Respect!

                跳转微信打开

                •  

                在 GPT Images 2.6 发布后,我又找到了这个开源项目

                原创 小 G 2026-11-07 17:06 广东

                这两天 AI 圈子格外热闹,各大科技巨头都各自放出了大招,挑两件跟大家说下。

                首先是 OpenAI 发布新一代图像生成模型 Images 2.6,图像生成速度和一致性都有极大提升。

                最大更新是,可以做 GIF 动图,只发一句提示词就行,也可以拿一张现成的图,让它动起来。

                做出来的图还能继续再改,调一下快慢,或者单独改某一帧,都可以。

                openai-images-2-6-launch-ezgif.com-optimize

                另一个则是 Google 发布的 Gemini Omni 1.2 Flash,一次最长可生成 15 秒视频。

                而且 720p 视频的价格降到了每秒 0.07 美元,比上一代便宜了 30%。

                image-20261107142642582

                模型是越来越好用了,不过这些内容都要靠模型一次次生成出来,用得多了也是一笔不小的开销。

                而且模型每次画出来的东西都会有些差别,想做一整套风格统一的配图,还得花不少时间去调。

                那有没有别的做法呢?正好我在 GitHub 上翻到了一个思路相反的开源 Skill:anidoodle。

                anidoodle

                它不调用图像和视频模型,而是让 Claude Code、Codex 这类 Agent 通过代码的方式,把画面一笔一笔画出来,相当有意思。

                插画、动图、短片、讲解视频,还有能跟鼠标互动的网页,它都能做,并且有 32 种风格可以挑。

                生图模型交给我们的是一张图片,而 anidoodle 留下来的则是一段代码程序。

                同一份代码换台机器、换个尺寸再跑一遍,画出来的还是同一张图。

                官方拿了一部 47 秒的短片来举例,总共 1410 帧画面,加上一整段立体声配乐,都是由一个程序生成的。

                按项目的说法,这个程序写一次,折算下来每帧大约花 60 个 Token,之后再渲染就不用花 Token 了。

                32 种风格里,铅笔、水彩、粉笔、浮世绘和像素画这些都有,连刺绣、玩具积木也能画出来。

                image-20261107151327471

                我觉得最有意思的,是每种风格都带了一段作画过程的短片,而且是按这种画法本来的顺序来画。

                比如水彩会先打铅笔稿,再从浅到深铺色,木刻则是先印主版,再一层层印上色版。

                笔画都是一道道长出来的,没有用淡入效果糊弄过去,短片最后一帧和静态图逐像素一致。

                作画过程

                如果问它某样东西怎么画,它还能拆成一堂课,给出分步图和带字幕的延时视频,每一步告诉我们该观察什么、容易犯什么错。

                分步画猫头鹰

                做好的作品,也不用为了不同的场景重新做一遍,同一份源码就能导出 PNG、带配乐的 MP4、GIF 和透明背景的 WebM。

                还能导出一个大约 100 KB 的 HTML 文件,双击就能离线播放,声音也打包在里面,发给别人很方便。

                循环动图

                自己手头有喜欢的图,也可以丢给它,它会研究笔触、配色和纸张,用同样的画风画新的内容。

                照片也能重画成刮画、木刻这类风格,同一个角色画好之后,换镜头、换姿势、换风格,都还是这个角色。

                要是想给视频加点声音和音乐也可以,内置了 21 种曲风,从低保真电子、合成器浪潮到管弦乐、爵士都有。

                配乐并不是使用内置预设的,每次和弦和动机都会重新写,所以每部片子都有自己专属的配乐。

                另外项目还自带一套做产品发布片的工具,填好产品名、提示词和安装命令,就能踩着节拍剪出一支片子。

                支持输出 16:9、1:1、4:5 和 9:16 四种画面比例,字幕文件也能一起生成,经常发新产品的朋友还挺实用。

                它本质是一个 Skill,但打包成了插件,想装来使用的话,Claude Code 执行下面两条命令即可:

                  /plugin marketplace add alexgreensh/anidoodle
                  /plugin install anidoodle@alexgreensh-anidoodle

                  若是用 Codex 的朋友,先跑下面这条命令,再到 Codex 里输入 /plugins 把 anidoodle 装上。

                    codex plugin marketplace add alexgreensh/anidoodle

                    如果平时用的是 Grok Build,项目也有对应的安装方式,其他能读 Skill 的工具,复制项目里的 Skill 文件夹过去就能用。

                    另外,电脑上还得有 Node 20 及以上版本,以及用来出图的 Chromium 浏览器。

                    要做动图或视频,还要装上 ffmpeg,这些环境也可以直接交给 Agent 帮忙配好。

                    装好后,就可以让它干活了,比如直接说「给菜谱页面画一个铅笔加水彩风格的梨」。

                    它会根据需求挑工作流和风格,遇到没说清楚的地方,再来问我们。

                    写在最后

                    不过想要像照片一样真实的画面,或者真人出镜、像实拍一样的视频,我还是会优先考虑 GPT Images、Omni 这些模型。

                    anidoodle 这种做法,更适合拿来画网站配图,或者做讲解动画、产品发布片,方便保持风格,也方便反复改尺寸。

                    感兴趣的朋友,可以先挑一个喜欢的风格,让它先画一张静态图,效果满意后再接着做成动图或短片。

                    GitHub 项目地址:https://github.com/alexgreensh/anidoodle

                    今天的分享到此结束,感谢大家抽空阅读,我们下期再见,Respect!

                    跳转微信打开

                    •  

                    一个令人惊艳的国产办公 Agent 平台,开源了!

                    原创 小 G 2026-11-06 18:05 广东

                    这一年,AI 办公格外热闹,像 WorkBuddy 这类 Agent 工具,已经是不少人上班的标配了。

                    但要在整个公司推开使用这类工具,模型、文件和使用权限,公司更希望都握在自己手里。

                    于是不少公司便开始搭建自家的 AI 平台。

                    可真要自己搭,用哪些模型、额度该怎么分,都得从头考虑。

                    内部知识库、技能和应用又该怎么管理,一系列问题解决起来颇为麻烦。

                    最近发现 Dataelem 团队开源的 AI 平台 BISHENG 升级到了 3.0,正好能解决这些问题。

                    GitHub:https://github.com/dataelement/bisheng

                    image-20261106011904178

                    它是一个开源 AgentOps,专攻办公效率场景,能帮助公司或团队搭建一个 Agent 平台,模型、知识、工具和使用权限,都由自己管理。

                    有很多行业头部的公司都在借助它,在内部落地 AI 应用,目前已斩获了 12000+ Star。

                    这次 3.0 升级,他们把 BISHENG 桌面端(基于 DSH Desktop 打造)和 BISHENG 平台打通了。

                    DSH Desktop 是他们的另一款开源产品,也是最早开源的 DeepSeek Harness 桌面客户端,已有将近 100 万下载和 1.7 万 Star。

                    image-20261106014230181

                    这次打通后,公司只需在平台上构建知识库、配置模型,再把应用和技能管理起来。

                    然后对员工开放,他们就能在 BISHENG 桌面端上使用这些资源,对公司来说还是可控的。

                    平台加桌面端,就组成了一套开源 WorkBuddy 的方案。下面跟大家一起了解一下。

                    部署平台,登录账号

                    首先部署 BISHENG 平台,项目提供了 Docker Compose 部署方式。

                    不想自己动手敲命令的,可以像我一样给自己使用的 Agent 发送一句话,让它帮忙部署到本地。

                    image-20261105231735808

                    部署完成,在浏览器打开平台地址,注册的第一个账号会自动成为管理员,进到后台为团队配置可用模型。

                    支持 Anthropic、DeepSeek、阿里云百炼,以及兼容 OpenAI 接口等模型提供商,也能通过 Ollama、vllm 接入本地部署模型。

                    这里我选择接入 DeepSeek 模型,不同提供商可显示到不同的分组,每个模型都能单独上下线。

                    image-20261105183633186

                    这里记得配置完模型后,点击「系统模型设置」把模型的可见范围打开为对「所有成员可见」。

                    这样团队里的所有成员在 BISHENG 桌面端上,就能用到由管理员配好的模型。

                    如果不想全员开放的话,也可以关掉这个开关,按用户、部门或者角色单独授权。

                    image-20261105184902898

                    团队成员安装并打开 BISHENG 桌面端,点击右下角的「未登录」,填入刚部署好的后台访问地址。

                    再到浏览器里授权登录,如果还没有账号的则先注册一个,授权成功便回到桌面端。

                    image-20261105194641043

                    点开左侧菜单栏的「更多」,可以看到公司为我们开放的知识空间、AI 情报订阅、应用、工具与技能等功能。

                    在输入框右下角的模型列表里,可直接选择刚才在后台开放给我们使用的模型。

                    对于员工来说,不用额外花钱单独配置模型 API Key,而对公司来说也方便管控大家使用的模型。

                    image-20261105195223388

                    最近看到一篇挺有意思的论文《Thinking Inertia: LLMs Keep Thinking When Told Not To》讨论的是大模型关掉思考模式之后,到底还会不会接着思考。

                    想要整理成笔记、数据表和 PPT 在团队内部里进行分享一波,正好可以试下 BISHENG 桌面端。

                    办公神器,三件套齐

                    桌面端里提供了「聊天」和「工作」两种模式,日常的简单问答用聊天模式就行,网页端和桌面端的记录也是同步的。

                    如果要基于本地文件处理复杂的任务,则建议在「工作」模式完成,它还内置了 Word、Excel、PPT 三件套的技能包。

                    这次我就选择了「工作」,把论文 PDF 放到文件夹里,让它帮忙总结整理一份核心信息,并保存为 Word 文档。

                    image-20261105200406940

                    不用多久,AI 就读完了 41 页的论文,还把核心内容、研究背景、方法和主要发现都整理了出来。

                    生成的 Word 文档可以直接在 BISHENG 里打开,显示在右侧,哪里看不明白,还能在对话框里接着提问。

                    image-20261105203950477

                    另外论文里还有不少模型的测试数据,想要展示出来给团队其他成员直观对比查看。

                    以前这工作得自己手动一个个粘贴进 Excel 表格,再手动算平均值,数据一多很容易出错。

                    这次我接着让 AI 把各模型的测试数据,从论文 PDF 文件里提取出来,并保存为 Excel 表格。

                    同时还需要算出平均值和差值做汇总,方便看各个模型在不同领域里的评测分数。

                    image-20261105205833798

                    从表里能看出个有意思的结果,DeepSeek-V4-Flash 模型关掉思考模式后,直接给出答案的比例平均只有 1.4%,大多数时候还是会先推理一番再作答。

                    不过这次生成的表格,在 BISHENG 里预览时要横向滚动才能看完所有数据,看着不太方便。

                    于是我在原来的任务里,继续让它调整一下排版,把对比的模型放在第一列,相关指标和分数只放到横向表格里。

                    bettershot_1793884837685

                    改完之后,一页就能看完整份表格的数据,各个模型之间的评测对比也清楚多了。

                    最后再让它根据前面整理出来的论文笔记和 Excel 数据,做一份 8 页左右的汇报 PPT,方便在组里分享。

                    image-20261105213215052

                    团队用量,后台可查

                    文件做完了,再回到 BISHENG 后台看看,在「客户端」这里,能看到团队里每位成员的 Token 消耗和发送消息数。

                    还可以按部门或者个人来筛选,谁用了多少 Token,一看就清楚。

                    image-20261105214858417

                    管理员也可以在这里给团队里每个人分配积分,控制用量,以及设置每个人可以使用哪些模型。

                    不同模型还能设置不同的积分消耗倍率,贵的模型多扣点,日常用便宜的模型就够了。

                    搭个应用,全公司用

                    前几天,字节扣子 Coze 宣布企业版将分阶段下线,说实话看到这个消息时,我挺震惊的。

                    我觉得公司还是需要一个能自己掌控的平台来搭工作流,BISHENG 就支持我们「构建应用」。

                    并提供了大模型竞技场、智能简历筛选、文档知识库问答等多个工作流模板可供学习参考。

                    image-20261106101549350

                    另外也能通过助手来创建应用,定义好角色和任务,并配置使用的模型,添加可调用的工具和技能。

                    当应用创建好,就可以将其上线,然后在桌面端上我们就可以看到它们,并且能直接使用。

                    image-20261106102627032

                    除了工作流和助手,3.0 还新增了托管应用,用 Claude Code、Codex 这类 AI 编程工具,说几句话就能把自己想法做成应用,再让 AI 部署到 BISHENG 平台上。

                    管理员审批通过、给部门授权后,同事就能在应用中心里直接打开使用。

                    image-20261106111450866

                    做好的应用还能接入平台的账号体系,按需调用平台上的模型、工具、技能和知识库。

                    写在最后

                    从一篇 41 页的论文,到笔记、表格和 PPT 三份能交付的文件,中间哪里不满意,就在原任务里接着改。

                    我觉得办公 Agent 开始能把一件活从头做到尾了,而 BISHENG 3.0 把这种体验放到了开源平台上。

                    个人可以直接下载开源的 DSH Desktop 个人版客户端,自己配好模型就能用。

                    公司则可以部署开源的 BISHENG 平台,然后按自己的需求配置模型、知识库、工具等内容,再让员工通过 BISHENG 桌面端登录使用。

                    最近正在找这类企业 Agent 平台的公司,或者经常跟 Word、Excel、PPT 打交道的团队,可以部署一个试试。

                    今天的分享到此结束,感谢大家抽空阅读,我们下期再见,Respect!

                    跳转微信打开

                    •  

                    一文详解文心 5.5 Flash Base 开源

                    原创 小 G 2026-11-05 17:08 广东

                    就在刚刚,百度文心终于出手了,把自家基座模型文心 5.5 Flash Base(ERNIE 5.5 Flash Base)开源了。

                    一出手就在同尺寸模型里拿下 SOTA,在 30 项基准评测中表现突出,尤其在推理、代码和综合类任务上优势明显,超过了 DeepSeek-V4-Flash-Base、MiMo-V2.5-Base 等 Base 模型。

                    其中差距最大的是考试类的 MMLU-Pro,它拿了 78.4 分,第二名是 69.2。

                    image (11)

                    这次文心 5.5 Flash Base 模型是从零开始预训练,采用的稀疏混合专家(MoE)架构,喂进了 33.5 万亿 Token 数据。

                    总参数量达到 2800 亿,每个 Token 只激活其中的 140 亿,这样每次计算用到的参数少了,算力也省下不少。

                    上下文方面,预训练时最长 128K,到了微调和推理阶段,能拉长到 100 万 Token。

                    为什么同样参数规模的基座模型,能拉开差距?我翻看了下文心 5.5 Flash Base 公开的技术 Blog。

                    模型底层从注意力、残差连接,到 MoE 层和输出头,每个组件都围绕着效率重新设计过。

                    精打细算,用在刀刃上

                    为什么这么盯着效率?从公开的技术材料里看到所给的理由,也很实在。

                    模型在后续训练要反复采样,放到 Agent 应用里要多步交互,还要处理长上下文,这些都会让计算和存储的开销不断往上累积。

                    所以文心 5.5 Flash Base 把注意力、残差连接、MoE 层和输出头逐个拿出来,重新权衡能力和效率,让每一份激活参数、每一字节 KV cache 都发挥更大作用。

                    整个主干一共 43 层,注意力层由 HCA 和 MLA 两种注意力混合排布。

                    除了第一层,每一层的前馈网络都是 MoE 块,输出头用的是 MultiMax,主干的最后一层还兼任了 ECHO。

                    image-20261105112332338

                    其中还有几项创新的做法,已经单独公开发布了论文,下面跟大家一起来看下。

                    文本越长,越要省着存

                    第一处是注意力,叫 Latent-Gated Sparse Attention。

                    模型处理长文本时,每一层都要把读过的内容存成 KV cache,方便后面回头看,上下文越长,这份缓存就越大。

                    但大多数层其实不需要逐字回看很远的内容,对前面写了什么有个大概印象就够用。

                    所以 43 层里有 37 层用的是重度压缩注意力 HCA,每 128 个 token 压成一条缓存,再加上最近一小段没压缩的原文一起看。

                    这样每层的缓存只剩不压缩时的一小部分,对整段内容的全局视野还保留着。

                    剩下的 6 层用的是多头潜在注意力 MLA,这是模型逐个 token 回看远处内容的唯一通路。

                    为了不让这 6 层在长文本下占掉太多计算,它们还配了稀疏注意力 DSA。

                    由一个轻量级 indexer 先给历史位置打分,只在得分最高的那些位置上计算。

                    长上下文评测也验证了这一设计的有效性:尽管 43 层中只有 6 层采用 MLA-DSA,模型在 6 项长上下文 Benchmark 上依然取得了不错的效果。

                    每层注意力内部,还有两处小改动。

                    一处是低秩门控注意力,门控相当于在注意力的输出上加一个信息过滤器,决定哪些信息多往后传。

                    常规做法是用这一层的隐状态来算这个门,文心 5.5 Flash Base 改用每层本来就会生成的低秩 query latent,维度只有隐状态的四分之一。

                    这么一改,门控投影的权重参数少了 75%,消融实验里模型效果也有所提升。

                    另一处是虚拟头注意力,在注意力之后加了一层轻量的跨头混合,让不同注意力头之间多交换信息。

                    推理时这部分会融合进注意力算子,开销很小。

                    多人打分,不怕看走眼

                    第二处在 MoE 层,叫 Multi-Router Latent MoE。

                    MoE 模型里有很多专家,每个 token 进来,先由路由器给专家打分,再挑出几位专家来计算。

                    麻烦在于,传统 MoE 只有一个路由器,它打的分跟专家实际好不好用,关联并不强,中深层尤其明显。

                    落选的专家拿不到这个 token 的梯度,一旦选错就很难纠正,错误还会越滚越大。

                    文心 5.5 Flash Base 的做法,是让多个独立初始化的路由器一起打分,这些路由器的偏好会明显分化。

                    一个专家只要被某个路由器特别看好,或者同时被几个路由器看好,就有机会入选。

                    单个路由器打错分,也左右不了最后的结果,选错了也更容易被纠正。

                    每层有 512 个路由专家,每个 token 选 10 个,另外还有 1 个共享专家。

                    这样一来,路由打分和专家实际效用的相关性明显提升,原本相关性最弱的中深层,提升也最大。

                    而激活的专家数、专家计算量和通信量,都和单路由器一样,并没有拿更多算力去换效果。

                    image-20261104184614024

                    少挂一个模块,想得更远

                    第三处是 ECHO,用主干网络自身的最后一层,取代了 MTP 模块。

                    MTP 也就是多 token 预测,让模型在训练时顺带学着预测后面好几个 token。

                    常见做法是在主干之外,再挂一个专门的 MTP 模块,多步预测的训练信号主要落在这个新模块上,主干各层还是只管下一个 token。

                    ECHO 没有额外加层,而是让主干的最后一层同时负责预测后面的 token,训练信号就直接落在生成下一个 token 的参数上。

                    让这一层去预测更远的内容,会促使模型提前规划后面的内容该怎么展开。

                    文心 5.5 Flash Base 用单步 ECHO 完成了预训练,在推理与代码等任务上带来了明显收益。

                    这一层还能直接当投机解码的 draft 模型,做投机解码几乎不用增加额外参数。

                    更有意思的是,它在预训练时只学多预测 1 个 token,作为 draft 模型却能连续往后起草多个 token,接受率比同样训练的外挂 MTP 模块更高。

                    小细节,也没放过

                    除了这三处,还有两个细节也挺有意思。

                    一个是 MultiMax 输出头,它用可学习的分段温度,压掉不合理候选词的长尾,同时保留合理候选词的多样性。

                    训练时的开销几乎可以忽略,还明显降低了预训练 loss。

                    另一个是全新的 R2L 分词器,词表约 20 万,数字会从右往左三位一组来切,比如 1,234,567 切成 1 / 234 / 567。

                    这样不同长度的数字,数位都能对齐,对算术和数字多的文本更友好。

                    设计得好,也得练得动

                    这次文心还同步做了两项训练基建,让上面这些结构放到大规模预训练里,也能高效地训练。

                    一项是分布式 Muon 优化器,Muon 和 Adam 这类逐元素的优化器不一样,它按整个张量做正交化更新。

                    文心为它重新优化了跨机通信,跨机时延和抖动都明显降低了。

                    参数切分也重新做了均衡,各节点的显存占用接近一致,让 Muon 在数千卡的规模下也能保持高效。

                    另一项是注意力算子 FlashMask-4,专门解决大 Head Dim 下算力用不满的问题。

                    它支持 qk_head_dim 576、v_head_dim 512 这样的规模,这是 FlashAttention-4 不支持的。

                    在 SM100 GPU 上,对比 FlashAttention-4 MaskMod,它的前向性能最高提升 175%,反向最高提升 74%,代码已经在 GitHub 上开源。

                    FlashMask-客户新图

                    写在最后

                    Base 模型是完成了预训练、具备通用能力的基础模型,平时我们用的对话模型,都是在这样的基座上继续训练出来的。

                    预训练算是模型的基本功,数据质量、覆盖范围、训练方法和规模,会决定模型学到什么,以及能迁移到哪些任务上。

                    简单来说就是基座越强,开发者和团队拿它当起点,做出来的专业模型和应用,起点也就越高。

                    这次文心用 33.5 万亿 Token 从零训练出这个基座 ERNIE 5.5 Flash Base,还把它开源了。

                    具备训练能力的厂商和研究团队,可以在已有通用能力的基础上继续训练,自主探索数据配比、训练目标和模型路线,不必完全依赖外部模型厂商。

                    而开放的 Base 模型,无疑是降低了全球开发者和团队进入 AI 产业的门槛。

                    大家可在这个基座上,结合自己的业务数据和需求接着训练,做成自己需要的垂直领域模型或者应用。

                    那基于它训练的百度文心 5.5 Flash 模型,预计很快就会发布,届时能力上限又到哪里,越发让人期待了。

                    今天的分享到此结束,感谢大家抽空阅读,我们下期再见,Respect!

                    跳转微信打开

                    •  
                    ❌