PyTorch训练模型迁移调优指南

什么是模型迁移

请参见什么是模型迁移。

为什么要做模型迁移

请参见为什么要做模型迁移。

如何进行模型迁移

模型迁移指导请参见表1。

表1 模型迁移指导

类别		迁移指导
传统模型	已适配传统模型	请参见支持模型列表，并根据对应模型的README进行训练和推理。
	未适配传统模型	请参见本文档进行迁移训练。

目录导航

• 迁移前准备：介绍模型选取、迁移前分析和常见准备工作。
• 模型迁移：介绍自动迁移、工具迁移和手工迁移。
• 混合精度适配：介绍混合精度训练适配和典型样例。
• 模型训练：介绍训练环境、启动方式和训练调试。
• 模型保存：介绍模型权重保存方法。
• 精度调试：介绍精度问题分析方法和调优工具。
• 性能调优：介绍性能指标、分析流程和调优方法。
• 附录：收录 pdb 参数、多卡启动示例和常见迁移接口。
• 图片资源：存放文档引用的图片资源。

迁移流程

请参见迁移流程。

性能调优

性能调优请参见性能调优。

性能数据采集与评测：

1. 在NPU环境上，参考性能调优工具介绍章节对模型进行性能拆解。
2. 基于性能拆解得到的数据，分析瓶颈模块，明确性能优化方向。

模型性能优化实施：

依据性能瓶颈模块的类型，从性能调优方法寻求优化方法，具体方法包括数据加载优化、NPU亲和适配优化、内存优化、通信优化和调度优化。

此外，本章节还提供了通信优化的建议和可以使能的通信算法，以及调度优化方法。