CANN-RECIPES-TRAIN

基于 CANN 平台的大模型训练优化实践
覆盖 CPT / SFT / RL 等主流训练场景，快速上手昇腾 NPU 训练，复现高性能优化方案

_{具体 Python、CANN 及依赖版本以各样例 README 为准。}

🚀 快速开始 · 📦 样例列表 · 🗺️ 用户导航 · 💬 社区讨论

🚀 最新动态

• [2026/05] 新增 DeepSeek-V4-Pro 模型续训练支持，基于 TorchTitan-NPU + AutoFuse，使能 训练入图、AutoFuse
• [2026/04] 新增 DeepSeek-V3 MXFP8/HiF8 低精度预训练样例，在 Atlas A5 上完成 8K 序列低精度预训练复现
• [2026/04] 新增 DeepSeek-V4-Flash 模型续训练 0day 支持，支持 极简切分、训练入图、AutoFuse
• [2026/02] 新增 DeepSeek-V3.2 TorchTitan 预训练样例，在 Atlas A3 64 卡集群完成 32K 长序列预训练复现
• [2026/02] 新增 Qwen3 系列模型 RL 训练使能 npugraph_ex 图模式样例

📖 概述

cann-recipes-train 为热门大模型和多模态模型提供可复现、可迁移、面向高性能的训练优化样例。每个样例围绕实际训练任务提供环境构建、数据与权重准备、启动脚本、性能结果和特性说明，并标注其覆盖的 CANN 训练原子能力，帮助开发者在昇腾 NPU 上快速完成模型训练。

仓库包含以下类型的实践：

🗺️ 用户导航

为什么使用 cann-recipes-train

与社区生态的关系

%%{init: {
  "flowchart": {
    "htmlLabels": true,
    "useMaxWidth": true,
    "diagramPadding": 12,
    "nodeSpacing": 24,
    "rankSpacing": 48
  }
}}%%
flowchart TB
    subgraph Scenario["<b>① 业务场景</b>"]
        direction LR
        CPT["&nbsp;CPT&nbsp;<br/>&nbsp;预训练 / 续训练&nbsp;"]
        SFT["&nbsp;SFT&nbsp;<br/>&nbsp;监督微调&nbsp;"]
        RL["&nbsp;RL&nbsp;<br/>&nbsp;强化学习&nbsp;"]
        Agent["&nbsp;Agentic RL&nbsp;<br/>&nbsp;Code / Tool Agent&nbsp;"]
    end

    subgraph Framework["<b>② 生态框架</b>"]
        direction LR
        TorchTitan["&nbsp;torchtitan-npu&nbsp;"]
        MindSpeed["&nbsp;MindSpeed&nbsp;<br/>&nbsp;MindSpeed-LLM&nbsp;"]
        VERL["&nbsp;veRL&nbsp;"]
        VLLM["&nbsp;vLLM-Ascend&nbsp;"]
        Sandbox["&nbsp;ScaleBox&nbsp;<br/>&nbsp;Sandbox&nbsp;"]
    end

    subgraph CANNLayer["<b>③ CANN 加速能力</b>"]
        direction LR
        Graph["&nbsp;npugraph-ex&nbsp;<br/>&nbsp;图优化&nbsp;"]
        AutoFuse["&nbsp;AutoFuse&nbsp;<br/>&nbsp;训练入图&nbsp;"]
        Parallel["&nbsp;并行通信&nbsp;<br/>&nbsp;调度优化&nbsp;"]
        SpecDecode["&nbsp;SAM&nbsp;<br/>&nbsp;投机解码&nbsp;"]
    end

    subgraph Hardware["<b>④ 昇腾硬件平台</b>"]
        direction LR
        Atlas["&nbsp;Atlas A2 / A3 / A5&nbsp;"]
    end

    CPT -->|"&nbsp;训练框架&nbsp;"| TorchTitan
    CPT -->|"&nbsp;训练框架&nbsp;"| MindSpeed
    SFT -->|"&nbsp;训练框架&nbsp;"| MindSpeed
    RL -->|"&nbsp;RL 框架&nbsp;"| VERL
    RL -->|"&nbsp;Rollout 推理&nbsp;"| VLLM
    Agent -->|"&nbsp;Agent 训练&nbsp;"| VERL
    Agent -->|"&nbsp;工具执行&nbsp;"| Sandbox

    TorchTitan -->|"&nbsp;torch.compile&nbsp;"| AutoFuse
    MindSpeed -->|"&nbsp;5D并行训练&nbsp;"| Parallel
    VERL -->|"&nbsp;调度与数据流&nbsp;"| Parallel
    VLLM -->|"&nbsp;推理加速&nbsp;"| Graph
    VLLM -->|"&nbsp;推理加速&nbsp;"| SpecDecode

    AutoFuse --> Atlas
    Parallel --> Atlas
    Graph --> Atlas
    SpecDecode --> Atlas

    style Scenario fill:#f0f8f4,stroke:#b7d7c2
    style Framework fill:#f6f4fa,stroke:#d4c8dc
    style CANNLayer fill:#f2f4fa,stroke:#c8d0e0
    style Hardware fill:#fdfaf2,stroke:#d8d0c0
    style CPT fill:#fbfff8,stroke:#b7d7c2
    style SFT fill:#fbfff8,stroke:#b7d7c2
    style RL fill:#fbfff8,stroke:#b7d7c2
    style Agent fill:#fbfff8,stroke:#b7d7c2
    style TorchTitan fill:#fbf9ff,stroke:#d4c8dc
    style MindSpeed fill:#fbf9ff,stroke:#d4c8dc
    style VERL fill:#fbf9ff,stroke:#d4c8dc
    style VLLM fill:#fbf9ff,stroke:#d4c8dc
    style Sandbox fill:#fbf9ff,stroke:#d4c8dc
    style Graph fill:#f8fbff,stroke:#c8d0e0
    style AutoFuse fill:#f8fbff,stroke:#c8d0e0
    style Parallel fill:#f8fbff,stroke:#c8d0e0
    style SpecDecode fill:#f8fbff,stroke:#c8d0e0
    style Atlas fill:#fffdf8,stroke:#d8d0c0

💡 本仓正在持续沉淀训练优化与 Agent 训练能力，欢迎开发者参与新模型适配、性能优化和文档共建。

🚀 快速开始

一站式平台快速跑通第一个训练样例

「一站式平台」提供预配置的 NPU / CANN 环境，可按样例 README 中的平台路径快速启动：

📢 更多模型持续扩展中，欢迎在 Issues 反馈优先支持的训练样例。

📦 样例列表

能力入口

展开版能力说明见 CANN 原子化特性能力总览，包含适用范围、已覆盖样例、开启方式和限制边界。

样例入口

预训练 / 续训练

面向大模型预训练、继续训练与低精度训练。适合关注 TorchTitan-NPU、MindSpeed、长序列、低精度和大规模并行训练的开发者。

监督微调

面向单卡和一站式平台的快速 SFT 体验。适合先跑通数据处理、权重转换和微调训练链路。

强化学习训练

基于 veRL + MindSpeed + vLLM-Ascend，覆盖 GRPO / DAPO、长序列 rollout、图优化、投机解码和负载均衡等 RL 训练问题。

多模态强化学习

面向文生图模型的强化学习训练，覆盖多模态生成、奖励模型优化和昇腾 NPU 适配。

Agent / Code RL

面向工具调用、代码沙盒、长上下文代码生成和多轮交互式训练。适合探索 Agentic RL 与 Code RL 闭环。

优化特性文档

📖 目录结构

cann-recipes-train/
├── llm_pretrain/                  # 预训练与续训练样例
│   ├── deepseekv4/                # DeepSeek-V4-Flash / Pro 续训练
│   ├── deepseekv32/               # DeepSeek-V3.2 32K 长序列预训练
│   └── DeepSeekV3/                # DeepSeek-V3 MXFP8 / HiF8 低精度预训练
├── llm_sft/                       # 监督微调样例
│   ├── qwen3/                     # Qwen3-1.7B MindSpeed-LLM SFT
│   ├── qwen3_1.7B_torchtitan/     # Qwen3-1.7B TorchTitan-NPU SFT
│   └── qwen3_30b_a3b/             # Qwen3-30B-A3B 医学 SFT
├── llm_rl/                        # 强化学习训练样例
│   ├── deepseek/                  # DeepSeek-R1 RL
│   ├── qwen3/                     # Qwen3 veRL + MindSpeed / TorchTitan 训练
│   └── qwen2_5/                   # Qwen2.5 veRL 入门样例
├── multimodal_rl/                 # 多模态强化学习样例
│   └── flux_grpo/                 # FLUX 文生图 GRPO 训练
├── agent_rl/                      # Agent 与 Code RL 样例
│   ├── qwen3_tool_agent/          # Qwen3 Tool Agent RL
│   ├── qwen2_code_rl/             # 代码沙盒 Code RL
│   └── qwen3_code_toolcall/       # 多轮工具调用 Code RL
├── docs/                          # 优化技术文档
│   ├── cann_capability_overview.md # CANN 原子化特性能力总览
│   ├── llm_pretrain/              # 预训练优化实践
│   ├── llm_rl/                    # RL 训练优化实践
│   ├── multimodal_rl/             # 多模态 RL 图片等资源
│   └── features/                  # 通用训练特性说明
├── ci/                            # CI 辅助脚本
├── CONTRIBUTION.md
├── LICENSE
└── README.md

🤖 智能代码助手

本仓已集成 Zread 代码仓库智能体，旨在通过 AI 技术为您提供更深度的代码理解与技术支持。

点击 徽章，进入其专属页面，开启在线智能代码学习与知识问答体验。

说明：当前代码仓库智能体服务处于试点阶段。在使用过程中，如果您发现 AI 生成内容存在准确性问题，或对智能助手功能有改进建议，欢迎通过 Issues 与我们交流。

🤝 参与贡献

欢迎各种形式的贡献：新模型适配、性能优化、训练脚本改进、文档完善、Bug 反馈。

请参阅 贡献指南 了解提交流程和代码规范。

📝 相关信息

• cann-recipes-train仓涉及的模型，如模型目录下存在License的，以该License为准。如模型目录下不存在License的，遵循Apache 2.0许可证，对应许可证文本可查阅LICENSE
• 免责声明
• 加入交流群：通过扫描下方微信二维码添加 cann-recipes 小助手，加入微信群与我们进一步交流。

_{Made with ❤️ by the CANN Team · More CANN Projects}