核心内容摘要
小南的“翻白眼流口水流眼泪”：一段不为人知的成长史诗
作者武卓文档解析远不止“把字读出来”真正难点是读懂复杂版面——表格要保结构、公式要保排版、图表要提信息连印章这类弧形字在屏拍/倾斜/弯折时都很容易失真。
今天发布的PaddleOCR-VL-
5 正是为此而来仅
9B 参数就在权威评测集 OmniDocBench v
5 取得
9
5% 高精度超越全球顶尖通用大模型与文档解析专用模型登顶 SOTA在自建 Real5-OmniDocBench 的扫描、弯折、屏拍、光照变化、倾斜等真实场景同样全面领先。
更关键的是它创新性支持文档元素“异形框/多边形”定位在复杂采集下也能稳定返回更贴合的检测框同时新增文本行定位/识别与印章识别并强化古籍/生僻字、多语种表格等难点能力含扩展藏语、孟加拉语让文档解析从“能用”真正迈向“可上线、可规模化”。
今天我们为端侧开发者带来一个好消息OpenVINO™已完成PaddleOCR-VL-
5的Day 0适配并在英特尔®酷睿™ Ultra 3系列上部署端到端文档解析流水线。
该流水线包含PP-DocLayout版面/区域检测视觉编码器 LLM如下图所示并可将负载原生分解并加载到 酷睿™ Ultra 3处理器的CPU iGPU NPU 三类引擎上让端侧部署既“跑得动”也“跑得稳”。
这次我们做的不只是“能跑”而是把文档解析链路拆开让每一段跑在更合适的引擎上PP-DocLayout版面检测/区域定位擅长卷积/检测类算子适合在iGPU / NPU上加速看你的部署策略与驱动能力视觉编码器NaViT风格动态分辨率视觉编码对高分辨率文档更友好视觉 token 化与编码阶段适合在iGPU上发挥吞吐优势LLM解析/生成结构化结果可在CPU或iGPU上平衡吞吐与延迟同时把更多“规则性强/可并行”的部分卸载出去显著降低CPU压力让系统更“顺滑”这是 OpenVINO™ 在 英特尔® 酷睿™ Ultra 3系列平台上首次完成该类“端到端文档智能全链路”部署验证包含版面模型 视觉编码器 LLM 的组合链路。
Step 1环境搭建git clone -b add_layout https://github.com/zhaohb/paddleocr_vl_ov.gitcd paddleocr_vl_ovpip install -e .环境要求Python
10OpenVINO
2
4。
Step 2最短路径跑通核心代码如下from paddleocr_vl_openvino.paddleocr_vl_pipeline import PaddleOCRVLpipeline PaddleOCRVL(layout_model_pathpp_layout_model_path, # 提前下载好转换好的PP-DocLayoutV3vlm_model_pathpaddleOCR-VLM_model_path, # 提前下载好转换好的 VLM# 设备策略见 Step 3vlm_deviceAUTO,layout_deviceAUTO,# 可选版面模型精度fp16更快/更省内存fp32更准layout_precisionfp16,# 默认就是“性能/体积/效果”比较均衡的一组配置vision_int8_quantTrue,llm_int8_compressTrue,llm_int8_quantTrue,llm_int4_compressFalse,)print(Starting recognition...)output pipeline.predict(./test_images/paddleocr_vl_demo.png)for res in output:res.print()res.save_to_json(save_pathoutput)res.save_to_markdown(save_pathoutput)Step 3英特尔® 酷睿™ Ultra 3系列上的端侧部署闭环 的“CPU iGPU NPU”加载建议这个 pipeline 允许你分别给layout detection与VLM配设备所以很适合在 AI PC 上做“混合部署”。
一键让OpenVINO™自己调度vlm_deviceAUTOlayout_deviceAUTO让系统按可用硬件自动选择。
显式“把版面检测扔给NPU把VLM交给iGPU”layout_deviceNPU vlm_deviceGPUCPU 负责整体编排与少量算子回退。
Step 4一键启动 Gradio 可视化 Demo最适合 Day-0 展示仓库已内置 Gradio Web UI上传文档图片 → 配置 pipeline → 输出 Markdown/JSON/可视化。
python client_app/main.py启动后访问 http://localhost:7860 。
操作路径仓库 README 的指引
“Pipeline 配置” 初始化
“文档识别” 上传图片
调参threshold / max tokens 等
点“开始识别”查看 Markdown、JSON、可视化结果最终的运行效果如下资源链接PaddleOCR 官方站点 / APIhttps://www.paddleocr.comPaddleOCR 开源仓库https://github.com/PaddlePaddle/PaddleOCR模型下载地址https://huggingface.co/PaddlePaddle/PaddleOCR-VL-
5OpenVINO™ Notebooks仓库地址https://github.com/openvinotoolkit/openvino_notebooks/pull/3263到这里你已经拿到了 PaddleOCR-VL-
5 在英特尔® 酷睿™ Ultra 3系列上的端侧部署闭环模型 Day 0 可用 → 端到端链路跑通 → 负载可拆分并加载到 CPUiGPUNPU。
这意味着文档解析不再是“只能上云、只能堆资源”的能力而是可以在 AI PC 上以更可控、更低占用、更可扩展的方式落地从合同与票据抽取、到教育与小语种文档理解、再到古籍数字化与盖章核验开发者都可以用 OpenVINO™ 把同一条推理链路工程化成服务/API/桌面应用真正做到“端侧开箱即用”。
OpenVINO 小助手微信 OpenVINO-China如需咨询或交流相关信息欢迎添加OpenVINO小助手微信加入专属社群与技术专家实时沟通互动。