DeepseekOCR2 使用指南
目录
简介
DeepSeek-OCR-2 是 DeepSeek 团队推出的视觉语言模型,专注于通过光学压缩技术高效处理长文本内容。该模型创新性的引入基于LLM的图像因果推理编码器 DeepEncoder V2 ,搭配解码器 DeepSeek3B-MoE ,实现视觉token的高效利用,在复杂布局(公式 / 表格)任务上具表现优异,在 OmniDocBench v1.5 识别准确率高达 91% ,相比 DeepSeek-OCR 提升 3.73% 。
参考实现
url=https://github.com/deepseek-ai/DeepSeek-OCR-2/
commit_id=c548f2e60d409fc1d92208472c0f2389998af632
变更记录
2026.01.31: 打通 DeepSeekOCR2 固定size图片训练流程。
环境安装
【模型开发时推荐使用配套的环境版本】
请参考安装指南
注意:Python版本推荐3.10,torch和torch_npu版本推荐2.7.1版本
1. 仓库拉取
git clone --branch 26.0.0 https://gitcode.com/Ascend/MindSpeed-MM.git
cd MindSpeed-MM
2. 环境搭建
# 安装MindSPeed MM依赖
pip install -r examples/deepseekocr2/requirements.txt
权重下载
从Hugging Face等网站下载开源模型权重
数据集准备及处理
DeepSeekOCR2未开源数据集,这里以CC-OCR数据集为例 1、下载数据集,并放到./data/文件夹下 2、运行数据转换脚本python examples/deepseekocr/convert_ccocr_to_dsvlocr.py 预处理完后,数据格式如下:
{
'id': i,
'conversations': [
{
"role": "<|User|>",
"content": "Free OCR.",
"images": [f"{save_file}"]
},
{
"role": "<|Assistant|>",
"content": answer
}
]
}
... ...
数据路径参考如下:
$playground
|--data
|--CC-OCR
|--convert
|--*jpg
···
|--output.jsonl
训练
1. 准备工作
配置脚本前需要完成前置准备工作,包括:环境安装、权重下载、数据集准备及处理,详情可查看对应章节。
2. 启动训练
-
以图文理解的微调任务为例,可根据实际情况修改启动脚本的配置,以下配置必须修改:
DATA_PATH="./data/output.jsonl" # 数据集的文件 DATA_DIR="./data" # 数据集依赖图文等文件的目录 LOAD_PATH="./ckpt/deepseek-ai/DeepSeek-OCR-2" # huggingface下载的权重路径 -
根据使用机器的情况,修改
NNODES、NPUS_PER_NODE配置, 例如可设置NNODES为 1 、NPUS_PER_NODE为8; -
为保证代码安全,配置trust_remote_code默认为False,用户需要在启动脚本中使能
--trust-remote-code,并且确保自己下载的模型和数据的安全性。 -
上述注意点修改完毕后,可启动脚本开启训练:
bash examples/deepseekocr2/finetune_ocr2.sh
环境变量声明
| 环境变量 | 描述 | 取值说明 |
|---|---|---|
ASCEND_SLOG_PRINT_TO_STDOUT |
是否开启日志打印 | 0: 关闭日志打屏1: 开启日志打屏 |
ASCEND_GLOBAL_LOG_LEVEL |
设置应用类日志的日志级别及各模块日志级别,仅支持调试日志 | 0: 对应DEBUG级别1: 对应INFO级别2: 对应WARNING级别3: 对应ERROR级别4: 对应NULL级别,不输出日志 |
TASK_QUEUE_ENABLE |
用于控制开启task_queue算子下发队列优化的等级 | 0: 关闭1: 开启Level 1优化2: 开启Level 2优化 |
COMBINED_ENABLE |
设置combined标志。设置为0表示关闭此功能;设置为1表示开启,用于优化非连续两个算子组合类场景 | 0: 关闭1: 开启 |
CPU_AFFINITY_CONF |
控制CPU端算子任务的处理器亲和性,即设定任务绑核 | 设置0或未设置: 表示不启用绑核功能1: 表示开启粗粒度绑核2: 表示开启细粒度绑核 |
HCCL_CONNECT_TIMEOUT |
用于限制不同设备之间socket建链过程的超时等待时间 | 需要配置为整数,取值范围[120,7200],默认值为120,单位s |
PYTORCH_NPU_ALLOC_CONF |
控制缓存分配器行为 | expandable_segments:<value>: 使能内存池扩展段功能,即虚拟内存特征 |
HCCL_EXEC_TIMEOUT |
控制设备间执行时同步等待的时间,在该配置时间内各设备进程等待其他设备执行通信同步 | 需要配置为整数,取值范围[68,17340],默认值为1800,单位s |
ACLNN_CACHE_LIMIT |
配置单算子执行API在Host侧缓存的算子信息条目个数 | 需要配置为整数,取值范围[1, 10,000,000],默认值为10000 |
TOKENIZERS_PARALLELISM |
用于控制Hugging Face的transformers库中的分词器(tokenizer)在多线程环境下的行为 | False: 禁用并行分词True: 开启并行分词 |
MULTI_STREAM_MEMORY_REUSE |
配置多流内存复用是否开启 | 0: 关闭多流内存复用1: 开启多流内存复用 |
NPU_ASD_ENABLE |
控制是否开启Ascend Extension for PyTorch的特征值检测功能 | 设置0或未设置: 关闭特征值检测1: 表示开启特征值检测,只打印异常日志,不告警2:开启特征值检测,并告警3:开启特征值检测,并告警,同时会在device侧info级别日志中记录过程数据 |
ASCEND_LAUNCH_BLOCKING |
控制算子执行时是否启动同步模式 | 0: 采用异步方式执行1: 强制算子采用同步模式运行 |
NPUS_PER_NODE |
配置一个计算节点上使用的NPU数量 | 整数值(如 1, 8 等) |