返回首页 访问原文
Xiaomi-OCR-0
介绍
Xiaomi-OCR-0 是 小米 开源的 0.8B(8 亿)参数 OCR 专用视觉语言模型,发布在 Hugging Face 的 xiaomi-research 组织下。一个小模型同时完成三类通常需要多个工具才能做的任务:整页文档解析(把文字、表格、公式转换为 Markdown / LaTeX / OTSL)、**关键信息抽取(KIE)**输出 JSON,以及 以 OCR 为核心的视觉问答。
模型权重与技术报告(arXiv:2609.36136)于 2026 年 9 月底发布;2026 年 10 月 30 日 小米官方账号在 X 上正式宣发,推文获得 2500 多个赞,迅速成为本周讨论最多的小型 OCR 模型之一。采用 Apache-2.0 协议,可商用。
解释
核心信息
- 规模:约 0.8B 参数(BF16 约 1.8 GB),基于 Qwen3.5-0.8B-Base 微调。
- 训练数据:约 1.7 亿 条以 OCR 为核心的样本,由“数据引擎”构建:多个专家 OCR 模型的 Ensemble Triplet Consensus 一致性投票、渲染回图校验以及针对性合成。
- 训练流程:Q-Mask 文本定位对齐 → OCR 继续预训练(CPT)→ Mix-RL(可验证奖励的多任务混合强化学习)。
评测成绩(小米官方数据)
| 评测 | 分数 |
|---|---|
| Real5-OmniDocBench | 95.24(第 1) |
| OmniDocBench v1.6 | 96.83(第 2,1B 以下最佳) |
| Wild-OmniDocBench | 87.94 |
| UniMER-Test(公式) | 97.84 |
| PubTabNet(表格) | 92.27 |
| 5 个 OCR-VQA 评测均值 | 83.2,超过 Qwen3.5-2B |
X 上的社区实测显示,它在收据识别上优于 LFM3-VL-2B(23/23 行 vs 21/23)。需要注意,公开 Real5 榜单上的分数略低于小米自报值,标题分数应视为厂商数据。
为什么值得关注
多数强力文档解析模型都在 1B 参数以上,或者只能调用云端 API。Xiaomi-OCR-0 让接近 SOTA 的文档解析与字段抽取跑在笔记本、消费级显卡(8 GB 的 RTX 2070 即可)甚至端侧设备上,非常适合发票 / 收据处理流水线和注重隐私的本地文档 AI。
用法
如何上手
- Hugging Face:下载
xiaomi-research/Xiaomi-OCR-0,用 Transformers(AutoModelForImageTextToText+AutoProcessor)推理。官方验证组合为transformers==5.17.0、torch==2.14.0。 - Ollama(实验性):
ollama pull longwayxu/xiaomi-ocr-0:bf16,再配合仓库自带的 MCP 服务 或浏览器 Demo 使用,以确保预处理与提示词正确。 - llama.cpp / GGUF:社区量化版本如
prithivMLmods/Xiaomi-OCR-0-GGUF(别忘了mmproj视觉投影文件)。
常用任务提示词
- 整页解析:"Extract all information from the main body of the document image and represent it in markdown format…"
- 文字区域:"Extract the text in the image."
- 表格:"Parse the table in the image into OTSL."
- 公式:"Identify the formula in the image and represent it using LATEX format."
- 关键信息抽取:"Extract key information in the image" + 你的 JSON schema。
适用场景
- 收据、发票、表单直接抽取为 JSON
- 把扫描 PDF、手机拍摄的文档转成 Markdown,供 RAG 检索
- 通过自带的 MCP 服务和 Agent Skill,作为编程 Agent 的 OCR 工具