九游体育app娱乐二、Better:巧用 Agent 参与模子自进化-九游体育「中国」官方网站 登录入口 IOS/安卓通用版/手机app下载

导语:腾讯混元发布并开源一款端到端 OCR 大模子九游体育app娱乐,基于混元原生多模态架构,主打 " 输入图像、成功输出收尾 " 的纯端到端野心,省去版面分析等预处理模块,从根底上缓解传统活水线步调的错误蓄积问题。

节录:

腾讯混元发布并开源一款端到端 OCR 大模子,基于混元原生多模态架构,主打 " 输入图像、成功输出收尾 " 的纯端到端野心,省去版面分析等预处理模块,从根底上缓解传统活水线步调的错误蓄积问题。模子由原生疏辨率视觉编码器、自妥当视觉适配器与轻量混元谈话模子三部分构成,可在单一模子内完成笔墨检测识别、复漫笔档贯通、敞开域信息抽取、字幕提真金不怕火与图像翻译等任务,复古 100 多种谈话。

正文:

VLM 端到端 OCR 群众模子全栈式开源,仅 1 B 参数掩盖 8 种以上 text-centric 任务,推理最高提速 6.37 倍,OmniDocBench v1.6 以 94.74 高分稳居端到端第一。

用大模子处理一份契约、一张发票、一篇 PDF 论文时,东谈主们会本能地期待它"又快又准"——既能把密密匝匝的表格、公式、多栏版面一字不差地规复成结构化文本,又能在一两秒内出收尾。但推行时时是——越是长、越是结构化复杂的文档,自回来大模子解码越慢;越是想跑得快,就越要烽火精度或换上更好的显卡。

在 HyOCR-1.0 已陶冶证"轻量端到端 OCR 群众模子"这条路走得通之后,HyOCR-1.5 把主义又鼓舞了一步:如何让它同期变得更快、更强、更全面?

HyOCR-1.5 是端到端 OCR 大模子范围首个将训练、推理、模子权重完竣开源的 OCR 群众大模子:从数据构造步调、训练配方到推理加快框架均对外公开,任何东谈主都不错在此基础上复现、微调与二次开导。

更紧迫的是,它富有轻量——不仅能部署在劳动器上,还能通过 llama.cpp 跑在 CPU、耗尽级显卡乃至庸碌条记本上,让苍劲的 OCR 才调委果走进个东谈主电脑;同期富有万能——不仅复古传统的笔墨检测识别与文档贯通任务,还一次性囊括了信息抽取、拍照翻译、图表贯通、古笔墨识别、视频字幕提真金不怕火、多页文档问答等多种才调。

图 1:HyOCR-1.5 汇聚积构图

HyOCR-1.5 委果想作念的,是为纷乱 B 端与 C 端用户提供一套最优的 OCR 处分决议——用尽可能低的部署与使用本钱,精确知足种种定制化的 OCR 需求。

底下就集聚这份最新发布的时刻阐发,望望这个只须 1 B 参数的小模子,是如安在「速率」与「才调」两条阵线上同期获取冲破的。

表情主页:https://github.com/Tencent-Hunyuan/HunyuanOCR

论文地址:https://arxiv.org/pdf/2607.04884

模子权重:https://huggingface.co/tencent/HunyuanOCR

一、Faster:把长文档解码的「慢」,交给 DFlash 来解

端到端 OCR 有一个绕不开的痛点:长自回来解码。文档越密、表格越大、公式越长,模子就要一个 token 接一个 token 地往外「吐」,解码蔓延随之线性蔓延,成为真实部署中最大的瓶颈之一。

为此,HyOCR-1.5 引入了基于 DFlash 的投契解码(speculative decoding)框架:一个仅约 90.7M 参数的轻量级 block-diffusion 草稿模子,一次并行前向就能「猜」出一整块候选 token,再交给主义模子一次性考据、秉承最长的正确前缀。总共这个词过程严格保执主义模子的输出分散——也即是说,快,但收尾不变。

在咱们的评测中,DFlash 让 HyOCR-1.5 在 Transformers 下获取 6.37 × 加快、在 vLLM 下获取 2.14 × 加快,成为总共 OCR VLMs 中推理最快的一个。

全体速率:一次并行考据,多鼓舞好几个 token

接纳泰斗文档贯通基准 OmniDocBench 测试,在单央求推理成就下,DFlash 的成果立竿见影:

vLLM:平均蔓延从 3.032s 降到 1.408s,迷糊从 466.9 进步到 1002.3 token/s,页速从 0.330 提到 0.706 page/s,全体 2.14 ×;

Transformers:由于 Autoregressive ( AR )   基线更接近逐 token 朴素解码,收益更大,全体加快高达 6.37 ×。

表 1:AR 解码 vs. DFlash 解码(OmniDocBench,batch size = 1)

越长越结构化,速率越快

投契解码的自然特质是:输出越长,加快越显豁。在 vLLM 下,加快比从 0 – 256 token 的 1.31 × 一齐进步到 2048+ token 的 2.30 ×;Transformers 下更是从 4.56 × 进步到 6.67 ×。按本体类型看,表格页加快最大(vLLM 2.39 ×、Transformers 7.81 ×),其次是公式页、纯文本页——因为 HTML 表格这类高度规整的结构,改日 token 更容易被「猜中」,有用秉承长度也更长。

端到端速率对比:比两阶段级联决议更快

更值得一提的是横向对比。咱们在 OmniDocBench 测试集、同等算力下,把适配了 DFlash 的 HyOCR-1.5 与主流 OCR VLM 放在一皆比拼——它是总共参评决议中端到端推理最快的一个,达到每页 1.408s、0.706 page/s,以致比 GLM-OCR、PaddleOCR-VL-1.6 这类两阶段级联决议还要快,同期保执着「无需版面切分、无需分区级联」的长入端到端花样。

表 2:与代表性 OCR 系统的端到端速率对比(OmniDocBench)

从劳动器到条记本:还能装进你的电脑

除了面向劳动器的 vLLM 部署,HyOCR-1.5 还复古通过 llama.cpp 进行 PC 端推理,不错跑在 CPU、耗尽级显卡乃至庸碌条记本上——让轻量 OCR 委果作念到「随地可部署」。

二、Better:巧用 Agent 参与模子自进化,把「短板」变成「才调」

如若说 DFlash 处分的是「快」,那么 HyOCR-1.5 的「强」,靠的是一套全新的数据构造形而上学—— Agentic Data Flow(智能体驱动的数据流)。

传统数据管线,险些全靠东谈主工写剧本、东谈主工征集素材、东谈主工标注数据。而 Agentic Data Flow 的念念路是:把模子的具体短板(比如低资源语种掩盖不及、古笔墨感知薄弱、短缺多图交融),成功翻译成可履行的数据需求,再交给 Agent 去闭环完成。 算法工程师只需用当然谈话提议主义才调,Agent 就会自主拆奉命务、征集素材、调用用具考据、开导数据管线,并与工程师执续迭代,最终千里淀成一套可复用的数据分娩进程。

图 2:智能体驱动的数据构造系统,面向低资源语种 OCR、古笔墨识别、多图问答三类才调扩展任务。

Agent 在作念三件要害的事

素材搜索与整理:自主调用聚集搜索等用具,为低资源 OCR 征集多语种语料、TTF 字体与渲染布景;为古笔墨征集七体有关字体与古籍立场布景;为多图问答整理多页 PDF 并抽取页级文本与结构。

用具援救的清洗与质检:调用 HyOCR-1.0 等劳动对布景图作念多模子交叉考据,过滤含侵扰笔墨或质料不稳的素材;测试字体渲染兼容性;批量跑推理挖掘漏识、结构杂沓词语、表格贯通失败等难例。

面向短板的数据管线开导与迭代:自主创建数据表情、编写渲染 / 问答生成剧本,从单模板原型逐渐演化为复古多版式、多增强、多任务步地的数据分娩系统。

三个才调扩展的真实落地

这套系统在 HyOCR-1.5 中被实例化到三个代表性场所:

低资源 OCR:模仿 SynthText / SynthDoG 念念路构建多语种合成管线,最终留神了掩盖 331 种谈话的贯通数据;

古笔墨 OCR:面向汉字「七体之变」,按历史文档的书写场所、版式、视觉立场合成贯通数据,补皆荒僻历史字形;

多图问答:基于多页 PDF 生成跨页检索、多页比对、笔据团员类问答,并过滤掉单页即可作答的样本,确保「真实需要多图交融」。

三、训练配方升级:4K 永别率 + 128K 高下文 + RL Recipe

在训练侧,HyOCR-1.5 沿用 HyOCR 的分阶段训练范式,但把主义从「构建通用 OCR 才调」转向「扩展才调范围、进步任务上限」,造成预训练 → SFT → RL 的完竣链路。

预训练(重谋略 Stage 3):注入 Agentic Data Flow 产出的新才调数据、多图数据与历史 OCR 数据;同期把最大图像永别率进步到 4K、高下文窗口扩展到 128K,让模子肃肃适配高永别率文档、长高下文与多页多图输入。

SFT:从 1.0 的后训练数据起程绝对清洗,去除标注作假、步地不一致、图文不匹配等问题,并长入各任务的 prompt 接口,为 RL 打好干净、结构化的地基。

RL(经心野心的强化 Recipe):接纳 IcePop(GRPO 立场)优化,野心三类互补奖励——面向文档贯通的事实性奖励、面向通用问答的一致性评判奖励、以及扼制超长 / 重叠输出的退化扼制奖励,共同把模子推向「更针织、更强、更全面」。

图 3:HyOCR-1.5 RL 框架概览。通过三个互补的奖励组件进行优化,旨在使通用 OCR 模子展现出更针织、更苍劲且更全面的行为理会。

四、1B 的身板,打出越级的收获

咱们莫得依赖单一 benchmark,而是构建了一棵才调导向的评测树,既考研从 1.0 秉承的中枢才调是否被进一步强化,也覆按新拓展的范围才调是否委果被纳入模子。

① 文档贯通:OmniDocBench v1.6 端到端第一梯队

在 OmniDocBench v1.6 上,HyOCR-1.5 获取 94.74 的 Overall 分数,在端到端 OCR 群众模子中达到 SOTA,尤其在表格(TEDS 93.67 / TEDS-S 94.71)与阅读规章上理会杰出——而这一切,是在保执轻量端到端架构的前提下收尾的。

表 3:OmniDocBench v1.6 文档贯通对比(节选)

② 古笔墨 OCR:Chronicles-OCR 上 1B 内 SOTA

在掩盖汉字「七体之变」的 Chronicles-OCR 上,HyOCR-1.5 在古早字体(甲骨 / 金文 / 篆书)平平分 0.54、熟谙字体(隶 / 楷 / 行 / 草)平平分 0.79,大幅进步包括 GPT-5、Gemini 3.1 Pro、Kimi K2.5 在内的宽阔大模子,考据了古笔墨数据构造与训练计谋的有用性。

③ 图表贯通:1B 打出 8B 级水准

在细粒度图表贯通基准 ChartArena 上,HyOCR-1.5 以 1B 的体量,获取 EN 48.9 / ZH 64.1 的平平分,达到以致独特 8B 级模子的水平。

④ 多语种、多图、复杂表格:全面着花

MORE(149 语种低资源贯通):Overall 91.90,OCR 群众模子中 SOTA;

TableVerse-5K(复杂表格):TEDS 78.23 / TEDS-S 84.84,群众 OCR 模子中最好;

DUDE(文档级多图问答):54.64,靠拢通用多模态模子 Qwen3.5-0.8B 的 56.41;

文本图像翻译(MMTIT / DoTA):多语种、多场景翻译才调进一步优化。

⑤ 幻觉扼制:更「忠于所见」

咱们还止境提议了 CHAOS-Bench,特意评估模子是否「所见即所得」——在图像中把采取词改成无酷爱的扰动词,考研模子是否会针织保留这些视觉上真实存在的字。HyOCR-1.5 以 14.15 的页均调回率获取最好,证据它比现存模子更少被谈话先验带偏;但实足值仍偏低,也坦诚地指出了「针织生成」这一场所仍待攻坚。

⑥ 不淡忘:中枢才调稳中有升

在文本检测识别、信息抽取、视频字幕、OCRBench 等秉承才调上,HyOCR-1.5 相较 HyOCR-1.0 均知晓保执以致进步。止境地,它新增了负样本处理才调:面临无笔墨图像,在 1000 张无笔墨里面测试集上的正确处理率达到 99.8%(1.0 版块为 78.1%),有用幸免「凭黑甜乡觉出检测框」。

五、为什么这件事紧迫?

HyOCR-1.5 想阐述的,不是「把模子堆大就能更强」,而是一条更求实的旅途:

对部署者:一个 1B 以内 的端到端模子,既能在劳动器上以最快速率批量处理,也能装进个东谈主电脑土产货开动——「又快、又强、又轻」不再是三选二。

对究诘者:DFlash 阐述了投契解码在长结构化 OCR 生成上的巨大价值;Agentic Data Flow 则提供了一种「以模子短板驱动数据分娩」的可复用范式,进一步指向了改日由 Agent 主导的数据闭环与模子自进化旅途。

对诈欺侧:从密集文档、复杂表格图表,到多语种、古笔墨、多图问答与幻觉扼制,才调范围被系统性地向长尾场景鼓舞。

一个委果实用的 OCR 模子,不该仅仅「更大的文档贯通器」,而应是一个又快、又准、又能掩盖多元任务的长入端到端群众。

咱们开源了全套模子权重与训练、推理代码,为社区提供可复现、可微调、可扩展的基础要领,推动 OCR 感知、文档交融与多任务建模的下一步。

The end

让 OCR 大模子「跑得更快、看得更准、功能更全」,从来不是单点优化,而是速率、才调与部署三者的协同。HyOCR-1.5 用 1B 的小身板,把这三条线同期上前推了一步——咱们但愿它能成为轻量端到端 OCR 走向真实宇宙的一块坚实基石。

论文:https://arxiv.org/pdf/2607.04884

见原学界、产业界共同推动轻量 OCR 与文档智能的下一步。

(著当作作家孤立不雅点九游体育app娱乐,不代表艾瑞网立场)