| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
Add support for hccl memory pool symmetric memory support Co-authored-by: Zhang Zekun<zhangzekun11@huawei.com> # message auto-generated for no-merge-commit merge: !44809 merge master into master Add support for hccl memory pool symmetric memory support Created-by: zzzzzzk Commit-by: Zhang Zekun Merged-by: ascend-robot Description: <!-- PR描述模板更新日期:20260203 --> # 【合入来源】 > <font color="red">**如有社区issue,请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息(需求链接、问题单、内部issue等)**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 https://gitcode.com/Ascend/pytorch/issues/2446 # 【修改方案】 ProcessGroupNCCL::registerMemPool 依赖: hcclCommWindowRegister attachAllocatorTraceTracker Snapshot ProcessGroupNCCL::deregisterMemPool 依赖: hcclCommWindowDeregister c10d::Backend::getMemAllocator 依赖: createCustomAllocator hcclMemAlloc hcclMemFree # 【资料变更】 > 请确认是否涉及资料变更。如涉及,需要在PR中体现,并简要说明修改内容。如不涉及,需填写“不涉及” # 【接口变更】 1.ProcessGroupHCCL::registerMemPool 2.ProcessGroupHCCL::deregisterMemPool 3.c10d::Backend::getMemAllocator # Use HCCL memory allocator pool = torch.npu.MemPool(backend.mem_allocator) # allocate memory with hccMemAlloc with torch.npu.use_mem_pool(pool): tensor = torch.arange(1024 * 1024 * 2, device=device) # register buffers to HCCL backend.register_mem_pool(pool, symm=True) pg.allreduce(tensor).wait() torch.npu.synchronize(device=device) # de-register buffers from HCCL backend.deregister_mem_pool(pool) 新增接口使用方式: # 【功能验证】 1.单个进程测试 测试单卡情况下使用symmetric mempool接口在all_reduce, all_gather, scater_reduce 功能正常。 验证Allocator 绑定、MemPool 分配、register/deregister 接口连通 ,等功能是否正常。 2.多进程冒烟测试 跨 rank 把 pool 的段注册进同一通信域、注册后在这些内存上跑 all_reduce, all_gather, scater_reduce结果正确、device 解析正确、反注册干净,功能正常。 验证Allocator 绑定、MemPool 分配、register/deregister 接口连通 ,等功能是否正常。 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] - [ ] 代码注释完备,正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签,如:feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线(CI)执行通过,代码检查无异常 See merge request: Ascend/pytorch!44809 | 1 个月前 | |
Add overview documentation and two code examples to the distributed training section of the development guide on the master branch Co-authored-by: qq_45774794<hetiancheng1@huawei.com> # message auto-generated for no-merge-commit merge: !44951 merge master into master Add overview documentation and two code examples to the distributed training section of the development guide on the master branch Created-by: qq_45774794 Commit-by: qq_45774794 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期:20260203 --> # 【合入来源】 > <font color="red">**如有社区issue,请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息(需求链接、问题单、内部issue等)**</font> - [ ] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [x] 资料更新 # 【修改方案】 本次修改在 master 分支的开发指南中新增分布式训练相关内容,具体如下: 1、新增 distributed_overview.md:介绍了 NPU 分布式训练的三层体系结构,汇总了 NPU 独有分布式特性、可复用的原生 PyTorch 分布式功能,提供了完整的快速上手示例及 6 类常见问题排查指南。 2、新增 code_analysis_ddp.md:介绍 DDP 在 NPU 上的使用差异,涵盖后端切换、gather 操作差异、批量 P2P 通信、进程组重建等 NPU 特有特性。 3、新增 code_analysis_fsdp.md:介绍 FSDP/FSDP2 在 NPU 上的使用差异,涵盖显存缓存优化、通信优化、ShardedGradScaler 自动适配等 NPU 增强特性。 4、新增 distributed_ddp_example.md:提供官方 DDP demo 在 NPU 下的完整代码示例,包含环境初始化、模型包装、训练循环等。 5、新增 distributed_fsdp_example.md:提供官方 FSDP2 demo 在 NPU 下的完整代码示例,包含混合精度训练、模型分片配置等。 # 【资料变更】 涉及,本次新增 5份分布式特性相关文档。 # 【接口变更】 不涉及 # 【功能验证】 本次为文档和示例代码新增,不涉及功能逻辑修改。已确认 Markdown 格式正确,代码示例语法无误。 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] - [x] 代码注释完备,正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签,如:feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线(CI)执行通过,代码检查无异常 See merge request: Ascend/pytorch!44951 | 1 个月前 | |
对文档进行了细微的文字润色,并调整了部分术语的大小写格式,使其更一致 Co-authored-by: qq_45774794<hetiancheng1@huawei.com> # message auto-generated for no-merge-commit merge: !45721 merge fix_docs into master 对文档进行了细微的文字润色,并调整了部分术语的大小写格式,使其更一致 Created-by: qq_45774794 Commit-by: qq_45774794 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期:20260203 --> # 【合入来源】 > <font color="red">**如有社区issue,请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息(需求链接、问题单、内部issue等)**</font> - [ ] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [x] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR,需要补充详细设计文档(说明上下游组件关系、时序图、类图、DFX能力等内容) 多次阅读文档中的内容,站在用户角度斟酌是否详略得当。修复了文档中存在的部分用词不当和文字错误。 # 【资料变更】 > 请确认是否涉及资料变更。如涉及,需要在PR中体现,并简要说明修改内容。如不涉及,需填写“不涉及” 涉及,对docs/zh/developer_notes/distributed目录下的三个文档进行文字润色,调整术语大小写格式。 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及,需要详细说明接口以及对应的变更内容,同时需要在资料中体现。如不涉及,需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景,测试方法。如果本次测试方式与常规单元测试不同,请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护,并补充测试自验证截图 不涉及 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] - [x] 代码注释完备,正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签,如:feat、fix、refactor、docs、test等 - [] PR持续集成流水线(CI)执行通过,代码检查无异常 See merge request: Ascend/pytorch!45721 | 1 个月前 | |
对文档进行了细微的文字润色,并调整了部分术语的大小写格式,使其更一致 Co-authored-by: qq_45774794<hetiancheng1@huawei.com> # message auto-generated for no-merge-commit merge: !45721 merge fix_docs into master 对文档进行了细微的文字润色,并调整了部分术语的大小写格式,使其更一致 Created-by: qq_45774794 Commit-by: qq_45774794 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期:20260203 --> # 【合入来源】 > <font color="red">**如有社区issue,请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息(需求链接、问题单、内部issue等)**</font> - [ ] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [x] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR,需要补充详细设计文档(说明上下游组件关系、时序图、类图、DFX能力等内容) 多次阅读文档中的内容,站在用户角度斟酌是否详略得当。修复了文档中存在的部分用词不当和文字错误。 # 【资料变更】 > 请确认是否涉及资料变更。如涉及,需要在PR中体现,并简要说明修改内容。如不涉及,需填写“不涉及” 涉及,对docs/zh/developer_notes/distributed目录下的三个文档进行文字润色,调整术语大小写格式。 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及,需要详细说明接口以及对应的变更内容,同时需要在资料中体现。如不涉及,需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景,测试方法。如果本次测试方式与常规单元测试不同,请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护,并补充测试自验证截图 不涉及 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] - [x] 代码注释完备,正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签,如:feat、fix、refactor、docs、test等 - [] PR持续集成流水线(CI)执行通过,代码检查无异常 See merge request: Ascend/pytorch!45721 | 1 个月前 | |
对文档进行了细微的文字润色,并调整了部分术语的大小写格式,使其更一致 Co-authored-by: qq_45774794<hetiancheng1@huawei.com> # message auto-generated for no-merge-commit merge: !45721 merge fix_docs into master 对文档进行了细微的文字润色,并调整了部分术语的大小写格式,使其更一致 Created-by: qq_45774794 Commit-by: qq_45774794 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期:20260203 --> # 【合入来源】 > <font color="red">**如有社区issue,请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息(需求链接、问题单、内部issue等)**</font> - [ ] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [x] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR,需要补充详细设计文档(说明上下游组件关系、时序图、类图、DFX能力等内容) 多次阅读文档中的内容,站在用户角度斟酌是否详略得当。修复了文档中存在的部分用词不当和文字错误。 # 【资料变更】 > 请确认是否涉及资料变更。如涉及,需要在PR中体现,并简要说明修改内容。如不涉及,需填写“不涉及” 涉及,对docs/zh/developer_notes/distributed目录下的三个文档进行文字润色,调整术语大小写格式。 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及,需要详细说明接口以及对应的变更内容,同时需要在资料中体现。如不涉及,需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景,测试方法。如果本次测试方式与常规单元测试不同,请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护,并补充测试自验证截图 不涉及 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] - [x] 代码注释完备,正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签,如:feat、fix、refactor、docs、test等 - [] PR持续集成流水线(CI)执行通过,代码检查无异常 See merge request: Ascend/pytorch!45721 | 1 个月前 | |
modify document Co-authored-by: m0_73734473<liudingwen1@h-partners.com> # message auto-generated for no-merge-commit merge: !44006 merge master into master modify document Created-by: m0_73734473 Commit-by: m0_73734473 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期:20260203 --> # 【合入来源】 > <font color="red">**如有社区issue,请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息(需求链接、问题单、内部issue等)**</font> - [ ] 需求 - [ ] 问题单 - [x] issue/工单https://gitcode.com/Ascend/pytorch/issues/3320 - [ ] 重构优化 - [x] 资料更新 # 【修改方案】 aidd问题扫描修改 # 【资料变更】 涉及 # 【接口变更】 不涉及 # 【功能验证】 > 说明测试场景,测试方法。如果本次测试方式与常规单元测试不同,请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护,并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] - [x] 代码注释完备,正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签,如:feat、fix、refactor、docs、test等 - [x] PR持续集成流水线(CI)执行通过,代码检查无异常 See merge request: Ascend/pytorch!44006 | 2 个月前 | |
[Docs]move docs to master Co-authored-by: Xinrui Chen<chenxinrui11@huawei.com> # message auto-generated for no-merge-commit merge: !42515 merge master-docs into master [Docs]move docs to master Created-by: chenrayray Commit-by: Xinrui Chen Merged-by: ascend-robot Description: <!-- PR描述模板更新日期:20260203 --> # 【合入来源】 > <font color="red">**如有社区issue,请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息(需求链接、问题单、内部issue等)**</font> - [ ] 需求 - [ ] 问题单 - [x] issue/工单 - [ ] 重构优化 - [x] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR,需要补充详细设计文档(说明上下游组件关系、时序图、类图、DFX能力等内容) 将主干docs文档从v2.7.1移动至master # 【资料变更】 > 请确认是否涉及资料变更。如涉及,需要在PR中体现,并简要说明修改内容。如不涉及,需填写“不涉及” 涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及,需要详细说明接口以及对应的变更内容,同时需要在资料中体现。如不涉及,需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景,测试方法。如果本次测试方式与常规单元测试不同,请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护,并补充测试自验证截图 不涉及 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] - [x] 代码注释完备,正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签,如:feat、fix、refactor、docs、test等 - [x] PR持续集成流水线(CI)执行通过,代码检查无异常 See merge request: Ascend/pytorch!42515 | 3 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 1 个月前 | ||
| 1 个月前 | ||
| 1 个月前 | ||
| 1 个月前 | ||
| 1 个月前 | ||
| 2 个月前 | ||
| 3 个月前 |