铃阅时讯
❌

普通视图

MiniMax Code CLI 正式开源

2026年9月18日 20:25

原创 MiniMax 2026-09-18 20:25 上海

今天,MiniMax Code CLI 的 v0.4.12 版本面向全球开发者正式开放,并且以 MIT 协议正式开放源代码。

MiniMax Code CLI 是 MiniMax Code 客户端的核心组件。在基于 FrontierHarness Eval 的本轮评测中,取得了 76.7% 的任务通过率,成功任务耗时中位数为 4 分 33 秒,两项指标均优于报告所列公开基线。我们希望通过优秀的 harness 设计,持续释放模型能力,缩短任务等待时间。*1

我们希望通过开源,让开发者能够审视工具调用和权限处理,构建可靠的企业级应用。也让社区参与发现问题、贡献修复。让使用更放心,让安全机制在实际使用和审查中持续完善。

快速体验:

curl -fsSL https://filecdn.minimax.chat/public/install.sh | bash

Github 源码:

https://github.com/MiniMax-AI/minimax-code

客户端下载:

https://agent.minimax.cn/download

MiniMax Code 仍然在高速迭代中,我们愿和社区共建安全、可靠、高性能的 harness,持续释放模型的智能水平。

Intelligence with Everyone.

备注:

跳转微信打开

奇舞周刊第597期:Agent 工程与研发实践

2026年9月18日 18:50

小编 2026-09-18 18:50 北京

Agent 工程与研发实践                                                

📄 大淘宝技术|淘宝百亿补贴数据分析助手 Agent 实战

发布日期:2026 年 9 月 4 日

文章介绍淘宝百亿补贴如何在自然语言与 SQL 之间增加业务语义层,并通过多 Agent 编排、知识检索和执行校验串联取数、分析与归因流程。系统先校验字段和指标口径,再生成 SQL,同时结合血缘溯源与 Python 沙箱分析;案例查询耗时由 30—120 秒缩短至 3—10 秒。

📄 腾讯技术工程|DeepSeek Harness 背后的“心脏”:Cordis 到底是什么

发布日期:2026 年 9 月 4 日

文章拆解 DeepSeek Harness 的底层插件框架 Cordis,说明它如何统一管理插件生命周期、依赖关系、事件分发与资源清理。插件通过上下文注册服务和事件,依赖变化可触发生命周期处理;卸载时则执行关联清理逻辑,使模型、工具和会话能力能够动态装配、替换并保持运行时可控。

📄 阿里技术|AI Agent 应用精细化评测:评测体系设计与工程实践

发布日期:2026 年 9 月 2 日

文章将 Agent 评测拆为端到端效果,以及感知、规划、记忆、工具调用等模块指标,并建立评测范围、数据集与埋点之间的映射。端到端指标负责判断任务是否完成,模块指标用于定位具体缺陷。文章还强调,回答是否忠于检索材料,与检索来源本身是否正确,需要分别评估。

上下文与开发工具

📄 字节跳动技术团队|换工具、换 Agent,不换上下文:OpenViking 让研发 Context 始终在线

发布日期:2026 年 9 月 2 日

OpenViking 将资源、记忆与技能组织为统一的上下文文件系统,帮助研发资料在不同工具和 Agent 之间持续复用。内容通过 L0 摘要、L1 概览、L2 详情分层加载,减少完整资料反复进入上下文;会话结束后还能提取长期记忆并保留检索轨迹,便于追踪信息为何被选中。

📄 ByteDance Web Infra|Rslib 1.0 正式发布:面向多场景的 JavaScript 库开发工具

发布日期:2026 年 9 月 3 日

文章发布 Rslib 1.0。该工具基于 Rsbuild,统一 JavaScript 库的编译、类型生成与资源处理,覆盖工具库、组件库和 CLI 等场景,可输出 ESM、CJS 等格式,并支持打包或保留模块结构。类型生成适配 TypeScript 7,开发流程还可与 Rstest、Rspress 等工具组合使用。

📄 腾讯云开发者|删掉 80% 的 Prompt 规则,Agent 交付成功率反而更高了

发布日期:2026 年 9 月 1 日

文章反思依赖超长 Prompt 约束 Agent 的做法,主张把规则分别落实到上下文索引、可信事实来源、工具能力和验证关卡中。这样既能减少提示词负担,也能让关键要求变成可执行、可检查的交付约束。核心思路是让系统承担确定性控制,而不是要求模型记住所有规则并始终正确执行。

产品与业务技术实践

📄 美团技术团队|美团智播——数字人直播技术创新与实践

发布日期:2026 年 9 月 3 日

文章介绍美团智播如何围绕形象生成、动作驱动、流式语音手势协调和直播内容量产构建完整技术链路。系统在换装、换背景时保持人物身份一致,通过因果生成模型提升动作自然度,并配套业务知识库支持实时应答和批量内容生产,展示数字人模型走向商家直播场景的工程化过程。

📄 小红书技术 REDtech|小红书 × vivo 首发!从相册到社交,一文读懂 3D 图片技术实践

发布日期:2026 年 9 月 3 日

小红书与 vivo 基于三维高斯泼溅技术,打通 3D 图片从相册生成、社交发布到移动端消费的完整链路。方案通过几何与外观压缩、结构剪枝和分级细节控制内容体积,并以早期裁剪、并行解码和实例化绘制优化渲染;文中测试设备帧率由 30 FPS 提升至 45 FPS。

📄 搜狐技术产品|广告埋点参数自动化校验的 AI 升级实战

发布日期:2026 年 9 月 3 日

文章介绍搜狐如何在原有广告埋点规则引擎旁增加 AI 校验链路,用于补充跨参数关联等复杂检查能力。新旧链路并行运行,AI 检查设置超时、缓存和熔断,异常时自动回退到确定性规则;结果融合时只补充新发现的问题,不推翻传统引擎结论,从而控制模型接入风险。


-END -

如果您关注前端+AI 相关领域可以扫码进群交流

添加小编微信进群😊

关于奇舞团

奇舞团是 360 集团最大的大前端团队,非常重视人才培养,有工程师、讲师、翻译官、业务接口人、团队 Leader 等多种发展方向供员工选择,并辅以提供相应的技术力、专业力、通用力、领导力等培训课程。奇舞团以开放和求贤的心态欢迎各种优秀人才关注和加入奇舞团。

跳转微信打开

蟠桃会设计播客第一期VOL.1团队AI能力构建:Al让我们更像设计师还是更不像?

2026年9月18日 18:44

淘宝设计 2026-09-18 18:44 中国香港

📷仅仅关于一个业务特定的团队如何用Al能力进行日常设计?

👫仅仅关于一个人数众多的设计团队的如何选择前行和谨慎?

🔌仅仅关于一个整体的设计团队如何因为AI

进行设计的协同?

📡仅仅关于为何选用设计工作流的方式解决我们的日常任务?

📋仅仅关于如何重新审视各自类型的设计流

程和Al能力矩阵?

🧲仅仅关于如何判断该由团队自建还是对外选用AI工具能力?

……

⛑️但,不知道,

❌我们的探索也许都是错的。

跳转微信打开

山行公司 | 自闭症新解法 未知君XA-9111菌株获得国家发明专利

2026年9月18日 17:11

山行资本 2026-09-18 17:11 北京

XA-9111 专利的获得,是未知君 AI+BT 研发平台与 XGB 国人肠道菌株库持续产出创新菌株的又一重要成果。

自闭症谱系障碍(ASD)是一种多在婴幼儿阶段显现的神经发育障碍,全球患病群体巨大,目前缺乏根治手段,干预与支持主要着眼于改善沟通、行为适应和生活质量。近年来,依托肠脑轴研究,肠道微生物与该病症的关联受到广泛关注,具有特定功能的菌株的研究也为这一领域提供了新方向。

近日,未知君自研功能菌株 XA-9111 正式获国家发明专利授权,专利名称为《能够缓解自闭症谱系障碍的长双歧杆菌婴儿亚种及其应用》,专利号码为ZL 202311637430X。

专利资料显示,在使用 XA-9111 进行干预后,两类具有自闭症相关行为特征的小鼠模型均出现了重复行为减少及社交表现改善。此外,MIA 模型小鼠的部分炎症指标降低,BTBR 小鼠的脑内神经活动相关指标也发生了变化。

图 1|XA-9111 相关发明专利证书

XA-9111 是未知君自主研发的原创功能菌株,属于长双歧杆菌婴儿亚种(Bifidobacterium longum subsp. infantis),分离自深圳地区健康、纯母乳喂养的5月龄女性婴儿粪便样本,是“Made in Shenzhen”的“本土菌+本地菌”。目前,该菌株保藏于中国微生物菌种保藏管理委员会普通微生物中心,保藏编号为 CGMCC No.26615。

图 2|长双歧杆菌示意图(AI 生成)

在研究XA-9111 对自闭症相关行为的影响时,未知君科学团队使用了两类小鼠模型。其中,MIA 即母体免疫激活模型,研究人员在孕期激活母鼠的免疫反应,再观察其后代的行为变化,本次选用的是这些后代中的雄性,也就是“雄性子代小鼠”;BTBR 小鼠是指具有自闭症相关行为特征的实验品系,这类小鼠会表现出社交减少、重复理毛增多等行为,因此被用于自闭症相关研究。本次同样选用雄性的 BTBR 小鼠。

研究结果显示,在 MIA 和 BTBR 两类小鼠模型中,XA-9111 的干预均带来了包括“重复行为减少”和“社交表现改善”在内的显著行为改善。

  • 重复行为减少:研究人员记录了小鼠梳理毛发的时间,以及将玻璃珠埋入垫料中的数量。与模型组相比,接受 XA-9111 干预的小鼠,理毛时间显著缩短,埋珠数量显著减少。

  • 社交表现改善:研究人员通过“三箱社交测试”,观察小鼠对陌生同伴的探索行为。结果显示,接受 XA-9111 干预后,两类小鼠在陌生同伴所在笼子周围的探索时间均显著增加。

研究人员还围绕 XA-9111 展开多项测试。结果显示,MIA 模型小鼠在 XA-9111 干预后,焦虑行为有所改善,BTBR 小鼠的过度活跃和焦虑行为也有所改善。此外,在 MIA 模型小鼠中,与模型组相比,XA-9111 干预组血浆中的 IL-6、TNF-α 两项炎症相关指标降低,提示 XA-9111 对 MIA 模型小鼠的炎症反应具有一定抑制作用。而在 BTBR 小鼠中,研究人员对大脑纹状体中的神经元进行染色和计数,发现 XA-9111 干预后,c-FOS 阳性神经元数量显著减少;专利据此提出,重复刻板行为的改善可能与纹状体神经元过度激活的减轻有关。

图 3|XA-9111 在 MIA 与 BTBR 小鼠中的行为学结果及 BTBR 神经活动相关指标

XA-9111 专利的获得,是未知君 AI+BT 研发平台与 XGB 国人肠道菌株库持续产出创新菌株的又一重要成果。这株源自深圳本土的长双歧杆菌婴儿亚种,在动物模型中展现出改善小鼠的自闭症相关行为、抑制炎症的潜力,为自闭症谱系障碍领域的微生态干预研究提供新的研究思路。

未知君将持续深挖 XA-9111 的应用及转化价值,推进后续研究探索,期待用来自中国、来自深圳的本土功能菌株,为神经发育相关疾病的患者带来新的曙光。

山行公司 | 东方空间首次承载巨型星座组网任务  一箭9星发射圆满成功

山行公司 | 谦合益邦打造全球首款4层3D DRAM存算一体芯片

山行公司 | 科辉智药完成近亿元A轮融资

山观 HIKE Insight | AI4AI:让AI成为自己的科学家

山观 HIKE Insight | 从带宽到容量:HBF技术演进与VC投资机会

跳转微信打开

jina-ocr-v1:在低成本 GPU 上更快解析文档

2026年9月18日 15:00

原创 Jina AI 2026-09-18 15:00 新加坡

570M 激活参数,将吞吐推向帕累托前沿。

HF 🤗 https://huggingface.co/jinaai/jina-ocr-v1 

魔搭 🧙 https://modelscope.cn/models/jinaai/jina-ocr-v1

技术报告 📖 https://arxiv.org/abs/2609.03181 

API 💻 https://jina.ai/models/jina-ocr-v1

我们正式发布 Jina-OCR-v1。

这是一个总参数 3.4B,解码时每个 Token 仅激活 570M 的紧凑型端到端文档解析模型。在 OmniDocBench v1.6 (91.14) 与 olmOCR-Bench (83.4) 两大基准上,它均刷新了同级别最佳成绩;在 14 款主流端到端系统的吞吐实测中,它以 2.57 页/秒 领跑全场。

在单张 NVIDIA L4 这样的低成本显卡上,通过专门设计的推测解码草稿头,生成速度 几乎翻了一倍,而且输出序列与标准自回归解码严格一致,完全无损。

我们延续了 DeepSeek-OCR 的紧凑视觉编码与 MoE 解码路线,重点做了两处改动:

  1. FastMTP:用单个共享 dense block 递归前向 K=3 步生成候选 token,草稿参数量与前瞻深度解耦,不再随 lookahead 增长;

  2. Dense Verifiable Rewards(GRPO):每一项奖励都由确定性代码对照参考真值计算,并按部分正确程度分级给分,而非简单的 0/1 判定。

仅靠后训练改进,模型在 olmOCR-Bench 上就涨了 7.4 分,OmniDocBench 各细分维度也全面提升。

(a) 统计了单个视觉 Token 分摊的像素面积(对数坐标):DeepEncoder 将 1024×1024 画面直接从 4,096 个 Patch 压缩至 256 个 Token,平均单 Token 承载 3,887 像素;相比之下,主流编码器单 Token 仅覆盖 783~1,022 像素。前置压缩比越高,多模态 Prefill 阶段的计算与自回归期间视觉上下文占用的 KV Cache 就越低。

(b) 图是单张 A100、并发 32,olmOCR-Bench 上每秒做完几页。

(c) 图的横轴是激活参数,纵轴是基准分。实线连的是帕累托前沿。570M 这个点上,jina-ocr-v1 精度和吞吐两个都位于帕累托前沿。

14 个系统在单张 A100、并发 32 下的实测对比:(a) 每秒输出 token 数、(b) 每页输出 token 数、(c) 每秒处理页数(即 a 除以 b)。

Surya OCR 2 每秒能吐出 3,760 个 token,看起来最快,但单页要写 3,568 个 token,算下来实际吞吐只有 1.05 页/秒;而 jina-ocr-v1 输出极其精炼,1,085 tokens/页,配合 2,792 tokens/s 的生成速度,端到端吞吐达到了 2.57 页/秒。

模型与训练

文档解析在实际生产中最烧钱的环节,就是长序列的逐 token 生成(自回归解码)。

DeepSeek-OCR 已经帮我们砍掉了前置开销:它用高压缩视觉编码器配紧凑 MoE 解码器,把视觉 token 和激活参数压到了极低水平。jina-ocr-v1 继承了这套底座,将优化重点直接对准剩下的自回归生成瓶颈。

上面是整体架构图。

DeepEncoder 与 MoE 解码器延续 DeepSeek-OCR:单页先生成 1024x1024 全局视图(压缩为 256 个视觉 token),再切出 n 个局部 tile(每个 tile 100 个 token)。FastMTP 头(橙色)通过单个共享稠密块递归前向,一次提出 K = 3 个候选 token 交给主解码器验证。

文档 OCR 有个天然优势:排版局部结构高度确定,预测难度低,天生适合做推测解码(Speculative Decoding)。

传统的多 token 预测(MTP)方案很笨重:每多看一步就要多挂一个独立 draft head,前瞻越远参数越膨胀。我们用 FastMTP 换了个思路。只用一个共享 dense block,靠 hidden state 反馈递归执行 K=3 步前向预测,参数量与 lookahead 解耦。

因此,推测解码产出的文本与主模型直接自回归贪心生成完全一样:只提速,不降质。

组件

规格

视觉编码器

DeepEncoder (~380M): SAM (80M) → 16x conv → CLIP-L (300M)

视觉 Token

256 @ 1024x1024 (Base); 256+100n, n ≤ 9 (Gundam, ≤ 1,156/page)

解码器

DeepSeek-3B-MoE:12 层,d = 1280,64 个路由专家 + 2 个共享专家,top-6

激活参数 / 总参数

~570M / ~3B(解码器);< 1B / ~3.4B(整个模型)

词表

129,280

位置上限

32,768 (RoPE, θ = 106)

MTP 头

1 个共享稠密块,递归 K = 3 步(FastMTP)

输出格式统一为 Markdown,表格使用 HTML 结构,公式使用 LaTeX 语法。

预训练语料混合了主流公开 OCR 数据集(olmOCR-mix、FinePDFs、LightOnOCR、MMTab、UniMER 等),并针对性补充了高难度真实排版源,例如 Europeana 历史报纸、美国国会图书馆缩微文献和 NARA 档案。清洗时先用规则过滤掉死循环与重复退化内容,再用高精度视觉大模型做单次前向重打标。

为什么必须引入合成数据(JinaOCRSynth)?

真实文档里的复杂公式和深层表格分布太稀疏了。在强化学习(RL)阶段,如果直接用自然页面做采样探索(rollout),绝大多数样本根本碰不到几个结构奖励项,梯度直接停滞。JinaOCRSynth 专门在合成页面中高密度塞入结构化表格和公式,并自带单元测试断言,给训练提供充足信号。

后训练流程由监督微调(SFT)、长尾劣化页面鲁棒性微调以及 GRPO 强化学习交替迭代。GRPO 阶段的奖励函数由多个确定性可验证项相乘得出:

组件

信号

作用

内容

混合 LaTeX/HTML 上的归一化编辑距离

文本保真度

公式

公式字符串匹配

公式正确性

表格

TEDS、TEDS-S、表格编辑距离

结构还原

结构有效性

花括号配对、标签闭合、表格完整性

格式规范

单元测试

olmOCR 风格的存在性、顺序、数学与表格测试通过率

高密度反馈

重复与格式

重复惩罚、HTML 符合性

退化控制

总奖励是各项乘法,这相当于一票否决:任何一项得零分,整页产生的梯度就直接清零。

  • 对大部分检查项(文本、公式、表格),我们都设置了底线分(floor score),允许局部扰动,避免单项偶发失误毁掉整页更新。

  • 唯独重复惩罚坚决不设下限:因为自回归模型很容易靠陷入死循环复读来投机“刷高”局部文本重合度。只要出现这种退化死循环,直接给零分一票否决。

每轮迭代会产生一批候选检查点。我们用自动化 agent 在固定评测预算下搜索最佳模型融合(checkpoint merge)配比;优胜模型暴露出的错误案例,直接驱动下一轮数据的针对性采集。FastMTP 草稿头放在整个训练循环的最后,直接在最终定型的验证器上完成拟合。

评测结果

模型

参数

ArXiv

OldScans-Math

Tables

OldScans

Multi-col

LongTiny

Hdr/Ftr

Base

总分

Gemini 3 Flash

–

80.1

73.6

64.6

45.8

75.3

90.3

27.4

–

–

Qwen3-VL-235B

235B/22B

88.4

81.2

86.7

49.6

85.9

88.9

33.6

–

–

DeepSeek-OCR

3B/570M

77.5

74.5

77.3

33.1

67.3

83.0

96.1

99.3

76.0

dots.mocr

3B

85.9

85.5

90.7

48.2

85.3

81.6

94.0

99.7

83.9

olmOCR-2

8B

82.9

82.1

84.3

48.3

84.3

81.4

–

99.7

82.4

LightOnOCR-2

1B

89.6

85.6

89.0

42.2

84.8

91.4

19.7

99.6

83.2

chandra-ocr-2

4B

86.9

89.192.151.1

82.1

93.7

91.4

99.985.8
jina-ocr-v1

3B/570M

86.1

82.3

88.8

42.6

85.5

93.2

88.7

99.9

83.4

在 olmOCR-Bench 上,jina-ocr-v1 拿到 83.4 分,比基座 DeepSeek-OCR 高出 7.4 分,也超过了 8B 规模的 olmOCR-2。

这里说明一下 Hdr/Ftr(页眉/页脚)这一列:该基准的设计偏向剔除边角杂质,越是主动省略页眉页脚的模型得分越高;老老实实整页转录的系统在这项上反而会扣分。

方法

参数

总分 ↑

TextEdit ↓

FormulaCDM ↑

TableTEDS ↑

TableTEDS-S ↑

ROEdit ↓

Gemini 3 Flash

–

92.62

0.066

95.16

89.29

93.51

0.172

Qwen3-VL-235B

235B/22B

89.78

0.063

92.55

83.07

86.75

0.166

DeepSeek-OCR-2

3B/570M

90.25

0.050

91.84

83.89

87.75

0.144

HunyuanOCR-1.5

1B

94.74

0.039

94.50

93.67

94.71

0.129

PaddleOCR-VL-1.6

0.9B

96.340.03397.5394.7697.100.128
jina-ocr-v1

3B/570M

91.14

0.046

93.28

84.68

89.01

0.142

在 OmniDocBench v1.6 评测中,jina-ocr-v1 以 570M 激活参数拿到 91.14 分,各项指标全面领先 DeepSeek-OCR-2,也超过了参数大得多的 Qwen3-VL-235B。

在 L4 上的推测解码实测

模式

k

输出Token/秒 ↑

加速比 S ↑

接受率

τ

c ↓

Eager

0

42.7

1.00x

–

–

1.00

Eager

1

64.0

1.50x

82.6%

1.83

1.22

Eager

2

77.9

1.82x

69.1%

2.38

1.30

Eager

3

83.11.95x

57.6%

2.73

1.40

Graph

0

158.3

1.00x

–

–

1.00

Graph

1

185.61.17x

82.9%

1.83

1.56

Graph

2

183.8

1.16x

69.3%

2.38

2.05

Graph

3

172.9

1.09x

57.9%

2.74

2.51

测试环境:olmOCR-Bench,单卡 NVIDIA L4,vLLM 0.20.1,并发 batch size = 1。τ 代表单次推测平均接受的 token 数(含验证带出的 bonus token);c = τ/S 是单个推测步折算成多少步标准自回归。

这里有一条工程经验:基线自回归跑得越快,留给推测解码的边际收益空间就越窄。

先看 τ。k = 3 时,Eager 是 2.73,CUDA Graph 是 2.74,说明 draft head 质量根本不受运行环境影响。两边的最优前瞻步数却走到了两个极端,一个拉满 k=3 最快,一个退到 k=1 才快。

  • 在 Eager 模式下(CPU 调度受限,主模型太慢):原生自回归单步要 23.4ms,大半时间耗在 CPU 一遍遍发射 CUDA kernel。这时让 draft head 一次多带几个 token,等于少付几次发射税。所以激进推测最合适, k = 3 最优,加速 1.95x。

  • 在 CUDA Graph 模式下(显存带宽受限主导):Graph 打包了 kernel 发射,自回归单步耗时只需要 6.3ms(吞吐从 42.7 跃升至 158.3 tokens/s)。但推测解码由于有动态分支,依然要承担 9ms 的固定开销。此时多猜一步的成本已经比再生成一个 Token 更贵了,前瞻收益被严重摊薄。因此在 Graph 模式下,单步推测 k = 1 才是收益最高的最优解(1.17x)。

生产部署建议:无法使用 CUDA Graph 的环境(或轻量 Eager 实例)直接拉满k = 3;已经跑通 CUDA Graph 环境下,只开 k = 1。

快速上手

最简单的调用方式是走 Jina Reader API。

直接把文档或网页 URL 传给 r.jina.ai,并附带对应请求头:Reader 会自动抓取、渲染并调用 jina-ocr-v1,直接返回 Markdown:

curl "https://r.jina.ai/https://example.com/document.pdf" \
  -H "Authorization: Bearer $JINA_API_KEY" \
  -H "X-Respond-With: jina-ocr-v1"

如果只要转录多页 PDF 中的某一页,加一个 X-Page 请求头即可。这两项开关在 Reader Web 控制台 https://jina.ai/reader/ 都支持可视化勾选。

若要直接调用模型,托管端点完全兼容 OpenAI 接口规范:

curl https://api.jina.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer ***" \
  -d '{
    "model": "jina-ocr-v1",
    "messages": [{
      "role": "user",
      "content": [
        {"type": "text", "text": "Transcribe the provided document image into a clean Markdown format, preserving the natural reading order."},
        {"type": "image_url", "image_url": {"url": "https://example.com/document.png"}}
      ]
    }]
  }'

Document OCR

把扫描页、照片或 PDF 转成干净 Markdown,表格和公式一并带上。 

我们准备了一个 demo,方便先 vibe check。 

https://jina.ai/api-dashboard/document-ocr-test

若要在本地私有化部署,权重与自定义建模代码均托管在 Hugging Face,加载时指定trust_remote_code=True。启用 FastMTP 推测加速需要 vLLM 0.21 以上,且在启动引擎前注册一次架构:

import sys
from huggingface_hub import snapshot_download
from PIL import Image
from vllm import LLM
sys.path.insert(0, snapshot_download('jinaai/jina-ocr-v1'))
from deepseek_ocr_mtp import DEFAULT_OCR_PROMPT, register, vllm_llm_kwargs, vllm_sampling_params
register()
llm = LLM(**vllm_llm_kwargs('jinaai/jina-ocr-v1',
                            num_speculative_tokens=3,
                            mtp_heads=1,
                            mtp_recursive=True))
image = Image.open('document.png').convert('RGB')
outputs = llm.chat(
    [{'role': 'user', 'content': [{'type': 'image_pil', 'image_pil': image},
                                  {'type': 'text', 'text': DEFAULT_OCR_PROMPT}]}],
    sampling_params=vllm_sampling_params(max_tokens=4096),
)
print(outputs[0].outputs[0].text)

部署避坑提示:

  1. 显式指定 method="eagle":FastMTP 草稿头是用递归隐状态反馈训练出来的。如果误用 vLLM 默认的 method="mtp",引擎会在每步草稿时重新对齐目标特征,导致推测加速失效。我们的注册辅助函数已经默认处理好了这一点。

  2. 原生 Transformers 不会加速:如果仅通过 Hugging Face 的 transformers 库加载,只会执行主 MoE 解码器,FastMTP 草稿权重会被直接忽略。想要翻倍吞吐,请使用 vLLM。

模型同时支持表格和数学公式的逐元素提取、图像图注生成、文档 VQA(视觉问答)以及关键信息抽取,中英文双语均支持。

模型权重遵循 CC BY-NC 4.0 协议开源。

结语

激活参数仅 570M 的 jina-ocr-v1 在两大主流评测同时位于“精度与计算效率”的帕累托前沿,实测整页吞吐同样是稳居第一梯队。

能用如此克制的体量榨出顶尖性能,核心来自两项精简的架构创新:一是针对可验证规则的分级密集奖励,二是通过递归推测解码,配合主模型实现无损加速。

这次实测也打破了一个常见选型误区:Token 吞吐高,并不代表实际解析速度快。

做选型时,大家往往只盯着每秒能吐多少个 Token(tokens/s),但如果模型结构冗余,输出臃肿,单页要生成 3,500 多个 token,哪怕能跑出 3,700 tokens,每秒也只能处理 1 页文档(比如 Surya OCR 2)。

只要解析质量不打折,输出越精炼,端到端吞吐就越高。

这才是 jina-ocr-v1 的核心优势所在,单页平均仅输出 1085 个 token。是所有 83 分以上高精度模型中最精炼的一个,正是这种不带水分的紧凑表达,让它在 A100 上跑出了 2.57 页/秒 的全场第一。

跳转微信打开

GLM-5.3-FlashX上线:大大方方、好好用用、嗖嗖嗖嗖

2026年9月18日 12:37

智谱 2026-09-18 12:37 北京

GLM-5.3-Flash此前以“Ox Alpha”之名与全球开发者见面,获得海内外开发者的广泛认可,调用量持续攀升。面对快速增长的需求,我们在10万张国产芯片提供的推理算力基础上,进一步加大对Infra侧的投入与推理优化。

今日起,我们正式推出GLM-5.3-FlashX(最高200 tokens/s),为企业与开发者带来更快、更流畅的模型体验。GLM-5.3-Flash长期保持同尺寸最强智能水平,并具备极高性价比,本次提速进一步形成智能、价格、速度的全面竞争力。

GLM-5.3-FlashX API现已上线,Model Key:GLM-5.3-FlashX。

使用方式:

跳转微信打开

❌