| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
[master][Fix] Fix static check errors detected by CODESPELL Co-authored-by: thickhair<zp2165064878@163.com> # message auto-generated for no-merge-commit merge: !38552 merge code_spell_fix_master into master [master][Fix] Fix static check errors detected by CODESPELL Created-by: thickhair Commit-by: thickhair Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [x] issue/工单 https://gitcode.com/Ascend/pytorch/issues/1865 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!38552 | 3 个月前 | |
update MIN_SUPPORTED to 2.13 Co-authored-by: huangyunlong2022<huangyunlong4@h-partners.com> # message auto-generated for no-merge-commit merge: !45447 merge 2.13one into master update MIN_SUPPORTED to 2.13 Created-by: huangyunlong2022 Commit-by: huangyunlong2022 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [ ] issue/工单 - [x] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） master分支最小支持的torch版本升级到2.13，对应更新python和c++侧_compat目录中对2.12及以下版本的兼容，同步更新对应使用的地方 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!45447 | 22 天前 | |
add control of python GC before capture npugraph Co-authored-by: 周锐淇<zhouruiqi5@huawei.com> # message auto-generated for no-merge-commit merge: !27715 merge master into master add control of python GC before capture npugraph Created-by: rich9527 Commit-by: 周锐淇 Merged-by: ascend-robot Description: <!-- Thanks for sending a pull request! --> **What type of PR is this?** > /kind task **What does this PR do / why do we need it**: add control of python GC before capture npugraph **Which issue(s) this PR fixes**: <!-- *Automatically closes linked issue when PR is merged. Usage: Fixes #<issue number>, or Fixes (paste link of issue). --> Fixes # **Special notes for your reviewers**: See merge request: Ascend/pytorch!27715 | 9 个月前 | |
[inductor] support flex-decoding with torch template Co-authored-by: liujm2001<liujingming7@huawei.com> # message auto-generated for no-merge-commit merge: !45761 merge master-flexdecoding-community-template into master [inductor] support flex-decoding with torch template Created-by: liujm2001 Commit-by: liujm2001 Merged-by: ascend-robot Description: # 【合入来源】 https://gitcode.com/Ascend/pytorch/issues/4456 - [ ] 需求 - [ ] 问题单 - [x] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 使用对应 PyTorch 社区 Flex Decoding Triton template，并保留 NPU lowering 与必要适配。 # 【资料变更】 不涉及 # 【接口变更】 不涉及 # 【功能验证】 功能验证通过 # 【CheckList】 - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!45761 | 18 天前 | |
fix: add TORCH_NPU_WARNING_DISABLE env var and deprecate TORCH_NPU_DISABLED_WARNING Co-authored-by: wanglijun55<wanglijun55@noreply.gitcode.com> Co-authored-by: wanglijun55<wanglijun54@huawei.com> # message auto-generated for no-merge-commit merge: !44647 merge feat/warning-disable-env into master fix: add TORCH_NPU_WARNING_DISABLE env var and deprecate TORCH_NPU_DISABLED_WARNING Created-by: wanglijun55 Commit-by: wanglijun55 Merged-by: ascend-robot Description: # 【合入来源】 https://gitcode.com/Ascend/pytorch/issues/3989 - [x] issue/工单 # 【修改方案】 1. 新增环境变量 TORCH_NPU_WARNING_DISABLE，与现有 TORCH_NPU_DISABLED_WARNING 功能相同，均用于控制是否打印 TorchNPU 告警信息。两者指向同一代码片段。 2. 在 C++ 侧 OptionsManager::ShouldPrintWarning（torch_npu/csrc/core/npu/register/OptionsManager.cpp）与 Python 侧 _should_print_warning（torch_npu/_init/common/warning_utils.py）中，优先读取新变量 TORCH_NPU_WARNING_DISABLE；当新变量未设置而旧变量 TORCH_NPU_DISABLED_WARNING 被设置时，沿用旧变量行为，并通过 TORCH_NPU_WARN_ONCE（C++）/ warnings.warn(DeprecationWarning)（Python）打印一次弃用告警，提示用户迁移到新变量。 3. 当两者同时配置时，新变量 TORCH_NPU_WARNING_DISABLE 优先生效。 4. 文档侧：新增 TORCH_NPU_WARNING_DISABLE.md，在 TORCH_NPU_DISABLED_WARNING.md 顶部添加弃用提示，并同步更新菜单索引与环境变量列表。 # 【资料变更】 - 新增文档 docs/zh/api/environment_variable/alarm_message_printing/TORCH_NPU_WARNING_DISABLE.md - 更新文档 docs/zh/api/environment_variable/alarm_message_printing/TORCH_NPU_DISABLED_WARNING.md，顶部增加弃用提示 - 更新 docs/zh/api/environment_variable/alarm_message_printing/_menu_alarm_message_printing.md、docs/zh/api/environment_variable/_menu_environment_variable.md、docs/zh/api/environment_variable/env_variable_list.md 索引 # 【接口变更】 涉及。TORCH_NPU_DISABLED_WARNING环境变量增加废弃告警，后续用TORCH_NPU_WARNING_DISABLE代替。 # 【功能验证】 - 验证场景：分别设置 TORCH_NPU_WARNING_DISABLE=1、TORCH_NPU_DISABLED_WARNING=1、两者同时设置、均不设置四种情况下，告警打印行为符合预期。 - 验证方法： 1. export TORCH_NPU_WARNING_DISABLE=1 → 告警关闭，无弃用提示 2. export TORCH_NPU_DISABLED_WARNING=1 → 告警关闭，打印一次弃用告警，提示使用新变量 3. 同时设置两者 → 告警关闭，无弃用提示（新变量优先） 4. 均不设置 → 告警按 rank 规则正常打印 老环境变量=0，打印废弃告警；老环境变量=1，不打印  # 【CheckList】 - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!44647 | 1 个月前 | |
feat: [graph partition] aclgraph support graph partition Co-authored-by: luochao60<luochao60@huawei.com> # message auto-generated for no-merge-commit merge: !35324 merge pta_support_graph_partition_20260414_master into master feat: [graph partition] aclgraph support graph partition Created-by: luochao60 Commit-by: luochao60 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > (如有)请关联需求文档/issue链接 > 关联 issue: #1911 （https://gitcode.com/Ascend/pytorch/issues/1911） - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 1. ** torch_npu/utils/_graph_tree.py — 新增 get_manager monkey-patch** 上游 torch._inductor.output_code.maybe_handle_backward_generation 和 torch._dynamo.backends.cudagraphs 会直接调用 torch._inductor.cudagraph_trees.get_manager，依赖它返回真实的 manager 实例来推进 backward 的 cudagraph 状态机。NPU 把自己的 NPUGraphTreeManager 注册在独立 registry（torch_npu.npu._graph_tree），导致上游那两条路径在 NPU 设备上拿不到 manager，触发 AssertionError 或 AttributeError。在 _apply_npugraph_tree_methods() 末尾把 torch._inductor.cudagraph_trees.get_manager 重指到 NPU 的 get_manager（签名一致、duck-typing 兼容），打通 backward 状态机闭环。 2. **torch_npu/_inductor/codegen/wrapper.py — wrapper 体系重构以支持 graph partition** 提取 _NPUKernelCodegenMixin 混入类，把 NPU 特化逻辑（define_kernel 中 user_autotune → user_autotune_npu、PrecomputedGrid → PrecomputedGridNpu、FixedGrid → FixedGridNpu 替换；get_next_kernel_suffix、make_buffer_free 等）从原 NPUWrapperCodeGen 上移；新增 NPUSubgraphWrapperCodegen(_NPUKernelCodegenMixin, SubgraphPythonWrapperCodegen) 让 subgraph wrapper 共享 NPU 适配；NPUWrapperCodeGen.create() 在 is_subgraph=True 时返回新的 subgraph wrapper。 3. **torch_npu/_inductor/lowering_op_list.py — graph partition 所需算子注册** GENERATE_LIST 新增 prims.device_put、aten.unbind、torch.ops.higher_order.cond。 4. **torch_npu/csrc/core/npu/NPUHooksInterface.{h,cpp} — Pinned memory 接口实现** override 上游 at::PrivateUse1HooksInterface 新增的虚函数：isPinnedPtr() 走 CachingHostAllocator_isPinned，getPinnedMemoryAllocator() 返回 getPinnedMemoryAllocator()。同时新增 CachingHostAllocator.h 包含。 5. **test/_inductor/test_inductor_graph_partition.py — graph partition 测试集** 新增 graph partition 场景的系列用例：dynamic shapes、condition op、custom op 拆分、subgraph wrapper user_autotune 兜底、forward cudagraph + backward fallback 等。 # 【资料变更】 不涉及 # 【接口变更】 不涉及。C++ 层 NPUHooksInterface::isPinnedPtr 和 getPinnedMemoryAllocator 是对上游 PrivateUse1HooksInterface 已有虚函数的 override 实现，非新增对外 API。 # 【功能验证】 在 test/_inductor/test_inductor_graph_partition.py 中新增覆盖 graph partition 场景的用例： - test_graph_partition_dynamic_shapes：动态 shape 下产生 3 个 npugraph - test_graph_partition_condition_op：cond / higher-order op 切图 - test_graph_partition_custom_op：cudagraph_unsafe 自定义算子切分边界 - test_graph_partition_subgraph_wrapper_user_autotune：子图 wrapper 的 user_autotune 替换路径 - forward cudagraph + backward fallback 的混合路径 通过 python test/_inductor/test_inductor_graph_partition.py 在 NPU 设备上跑通全部用例。 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!35324 | 4 个月前 | |
refactor: correct English grammar, spelling, and style in log/warning messages Co-authored-by: wanglijun55<wanglijun54@huawei.com> # message auto-generated for no-merge-commit merge: !44119 merge master-doc into master refactor: correct English grammar, spelling, and style in log/warning messages Created-by: wanglijun55 Commit-by: wanglijun55 Merged-by: ascend-robot Description: # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> https://gitcode.com/Ascend/pytorch/issues/3908 - [ ] 需求 - [ ] 问题单 - [ ] issue/工单 - [x] 重构优化 - [ ] 资料更新 # 【修改方案】 对 torch_npu 全仓 UserWarning / logger.warning / print 日志中的英文消息进行语法、拼写、标点审查和修复。共修复 48 处错误，涉及 39 个文件，涵盖以下类别： 1. **语法错误 (14处):** will not to be linked → will not be linked、should to be initialized → should be initialized、Create ... failed → Failed to create ... 等 2. **逗号拼接句 (8处):** 将逗号连接的两个独立句子拆分为两句或使用分号 3. **拼写错误 (1处):** Detecct_type → Detect_type 4. **缺少冠词 (7处):** in future version → in a future version、only sets Global variable → only sets the global variable 5. **主谓不一致 (5处):** Environment variable ... is not set → are not set、There is no ... events → There are no ... events 6. **标点/格式 (8处):** 中文顿号 、 → 英文逗号、多余空格、缺失句号、相邻字符串缺少空格拼接导致粘连 7. **翻译不当 (2处):** soft chain → symbolic link（软链接） 8. **冗余前缀 (2处):** warnings.warn() 中重复的 Warning: 前缀 9. **代码 Bug (1处):** serialization.py:672 — print() 传入 tuple 而非 string 10. **风格问题:** for replacement → as a replacement、Torchinductor → TorchInductor、Can not → Cannot、func/msg → function/message 等 # 【资料变更】 不涉及 # 【接口变更】 不涉及 # 【功能验证】 仅修改日志/警告消息字符串，不影响任何功能逻辑。所有修改均为： - 英文语法/拼写/标点修正 - 字符串拼接 bug 修复（serialization.py tuple → string） - 翻译术语规范化（soft chain → symbolic link） # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!44119 | 1 个月前 | |
fix(dynamo): gate cpu check via continue instead of reordering the dict Co-authored-by: mhy<mahongyu7@huawei.com> # message auto-generated for no-merge-commit merge: !45743 merge fix/has-triton-include-cpu into master fix(dynamo): gate cpu check via continue instead of reordering the dict Created-by: m0_64341872 Commit-by: mhy Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [x] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 上游修改了 has_triton() 的调用方式（多传了一个 include_cpu 参数），但 torch_npu 里有两处自己实现的同名函数一直是旧的无参写法， 一被新方式调用就类型报错，导致所有依赖 triton 检测的编译路径崩溃。 1. 给 torch_npu 里判断"当前设备是否支持 triton"的那个函数补上 include_cpu 参数， 并让它真正生效：不传或传 False 时不再检查 CPU 后端，传 True 时才检查，跟上游新语义保持一致。 2. transfer_to_npu 场景下用来禁用 triton 的另一个同名覆盖函数，改成能接收任意关键字参数，避免以后上游再加参数又出现同样的崩溃；它本身"始终返回 False"的行为不受影响。 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 在真实昇腾 910B3 NPU 环境上做了正反对照验证： - 修复前：调用 torch.utils._triton.has_triton(include_cpu=True)（即上游builder.py 的实际调用方式）复现出与 issue 完全一致的报错 TypeError: has_triton() got an unexpected keyword argument 'include_cpu'。 - 修复后：同样的调用正常返回，且 include_cpu=True/False 分别正确决定"cpu" 是否参与 triton_supported_devices 检测。 ═══════════════════════════════════════════════════════════════ 修复前（torch_npu master 原始代码，has_triton 无 include_cpu 参数） ═══════════════════════════════════════════════════════════════ test/dynamo/test_model_output.py::TestModelOutputBertPRIVATEUSE1::test_HF_bert_model_output_npu FAILED [1.06s] test/export/test_hop.py（PRIVATEUSE1/npu，与修复后同一批用例） 35 failed, 44 deselected, 9 xfailed in 3.89s 代表性报错（test_pre_dispatch_export_cond_simple_npu_float32，--tb=long 完整输出）： E Exception: has_triton() got an unexpected keyword argument 'include_cpu' E Caused by sample input at index 0: SampleInput(...) —— 与 issue #4540 报告的报错信息逐字一致 ═══════════════════════════════════════════════════════════════ 修复后（分支 fix/has-triton-include-cpu） ═══════════════════════════════════════════════════════════════ test/dynamo/test_model_output.py::TestModelOutputBertPRIVATEUSE1::test_HF_bert_model_output_npu PASSED [9.61s] test/export/test_hop.py 35 passed, 44 deselected, 9 xfailed in 31.93s ═══════════════════════════════════════════════════════════════ 对照小结 ═══════════════════════════════════════════════════════════════ 用例 修复前 修复后 test_HF_bert_model_output_npu FAILED → PASSED test_hop.py 35 条（issue 报告范围） 35 failed → 35 passed test_hop.py 9 条 xfail（与本次修复无关的既有限制） 9 xfailed → 9 xfailed（不变，作为对照基线） 36/36（issue 原始报告数）由失败转为通过；9 个结构性 xfail 前后完全一致， # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!45743 | 20 天前 | |
docs: 修复文档 markdownlint 扫描问题 Co-authored-by: Xinrui Chen<chenxinrui11@huawei.com> # message auto-generated for no-merge-commit merge: !45683 merge codex/fix-markdownlint-docs into master docs: 修复文档 markdownlint 扫描问题 Created-by: chenrayray Commit-by: Xinrui Chen Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [x] issue/工单：#4529 - [ ] 重构优化 - [x] 资料更新 # 【修改方案】 1. 调整文档标题层级及标题前后的空行。 2. 为围栏代码块补充语言标识，并补齐代码块前后的空行。 3. 修复列表间距、标题末尾标点、多余空行及文件末尾换行问题。 4. 本次仅修改 Markdown 排版，不改变文档语义。 # 【资料变更】 涉及资料变更，修改以下文档： - test/README.md - tools/flight_recorder/flight_recorder.md - examples/libtorch_hccl/README_HCCL.md - torch_npu/csrc/libs/README.md - tools/linter/adapters/README.md # 【接口变更】 不涉及。 # 【功能验证】 1. 执行 git diff --check，检查通过。 2. 文档门禁中的 markdownlint、链接有效性、资源存在性及标签闭合检查均已通过。 3. 本次为纯文档格式修复，不涉及 UT 用例变更。 # 【CheckList】 - [x] 代码注释完备，正确记录错误日志（不涉及代码变更） - [x] 代码实现进行了返回值、空指针等校验（不涉及代码变更） - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!45683 | 20 天前 | |
fix: PTA_Feature_pipelining_UT_stage failed in A5 Co-authored-by: Chansinging<1183520536@qq.com> # message auto-generated for no-merge-commit merge: !43747 merge fix_pipelining_cxy into master fix: PTA_Feature_pipelining_UT_stage failed in A5 Created-by: chansinging Commit-by: Chansinging Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [x] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 由于950pr机器不在 elif device.type == "npu"的用户名单内，导致走了else分支，分支内没有_ProcessGroupWrapper是接口导致的报错。然后对后端对象解包进行修改，通过修改 _group 的获取与调用逻辑，在拿到 _group 后判断其类型，若为 _ProcessGroupWrapper，通过 .wrapped_pg 访问解包出底层的真实 ProcessGroupHCCL 对象，再调用 batch_isend_irecv 接口。 两个test用例修改是为了跑通ci流水线，解决历史遗留问题 # 【资料变更】 不涉及 # 【接口变更】 不涉及 # 【功能验证】 失败用例测试通过    # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!43747 | 1 个月前 | |
feat: support dynamic task queue enable mode switching Co-authored-by: nomiz<1606135114@qq.com> # message auto-generated for no-merge-commit merge: !45296 merge task_queue_master into master feat: support dynamic task queue enable mode switching Created-by: nomiz Commit-by: nomiz Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> https://gitcode.com/Ascend/pytorch/issues/3678 # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） Python侧灵活控制taskqueue设置的能力，具体为： (1) 新增Python接口用户设置和获取taskqueue状态值（一个原子变量，默认-1），设置时需要清queue； (2) 在get_task_enable的公共接口中，先读取该全局变量的值，如果为非-1，则以该值的结果为准，不再从环境变量读取； (3) 环境变量的读取仍然是一次性的返回常量，保证默认状态下的性能 python # 设置模式 torch.npu.set_task_queue_enable(0) # 关闭 task queue torch.npu.set_task_queue_enable(1) # Level 1 优化 (默认) torch.npu.set_task_queue_enable(2) # Level 2 优化 (纯推理) # 查询当前模式 mode = torch.npu.get_task_queue_enable() # 返回 0/1/2 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 是，新增接口set_task_queue_enable和get_task_queue_enable # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 ut测试验证结果  RL模型修改前后性能验证无劣化  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!45296 | 28 天前 | |
[Fix] Fix static check errors detected by SPACES Co-authored-by: huangjingwei<huangjingwei4@huawei.com> # message auto-generated for no-merge-commit merge: !35981 merge master_lintrunner into master [Fix] Fix static check errors detected by SPACES Created-by: huangjingwei Commit-by: huangjingwei Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [x] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 检测和删除代码中的行尾空白字符 # 【资料变更】 不涉及 # 【接口变更】 不涉及 # 【功能验证】 不涉及 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!35981 | 4 个月前 | |
compat(v2.13) : Update master to upstream 0610, adapt the upstream to remove NamedTensor. Co-authored-by: chz34<chenhaozhe1@huawei.com> # message auto-generated for no-merge-commit merge: !39675 merge compat/master into master compat(v2.13) : Update master to upstream 0610, adapt the upstream to remove NamedTensor. Created-by: c_34 Commit-by: chz34 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [x] 问题单 https://gitcode.com/ascend/pytorch/issues/2325 - [ ] issue/工单 - [x] 重构优化 https://gitcode.com/Ascend/pytorch/issues/2569 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） PyTorch 2.13 removed named-tensor support entirely (at::Dimname, at::DimnameList, the at::namedinference namespace and the header ATen/NamedTensorUtils.h). Remove all corresponding interface. # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!39675 | 2 个月前 | |
fix:修复is_available开销过大 Co-authored-by: Jessedhd<denghaodong3@huawei.com> # message auto-generated for no-merge-commit merge: !45540 merge master into master fix:修复is_available开销过大 Created-by: Jessedhd Commit-by: Jessedhd Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**关联issue: https://gitcode.com/Ascend/pytorch/issues/4452**</font>\ - [x] 需求 - [ ] 问题单 - [ ] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 原 is_available() 默认调用 device_count()，在 NPU 未初始化时会重复执行 HAL 探测，导致频繁调用开销较大。优化后默认调用带缓存的 _npu_getDeviceCount()，并新增与 CUDA 侧PYTORCH_NVML_BASED_CUDA_CHECK 对齐的 PYTORCH_HAL_BASED_NPU_CHECK 环境变量，用于保留原 HAL 检查路径。 # 【资料变更】 > 不涉及 # 【接口变更】 > 不涉及 # 【功能验证】 > 测试结果 >UT测试： > > > 性能测试： >  > > 性能测试结果 >  # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!45540 | 20 天前 | |
[onnx] fix group_norm_silu and rotary_mul onnx api. Co-authored-by: shi-jiaxin9<shijiaxin10@h-partners.com> # message auto-generated for no-merge-commit merge: !31954 merge master into master [onnx] fix group_norm_silu and rotary_mul onnx api. Created-by: shi-jiaxin9 Commit-by: shi-jiaxin9 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 问题单 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [ ] 代码注释完备，正确记录错误日志 - [ ] 代码实现进行了返回值、空指针等校验 - [ ] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [ ] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!31954 | 6 个月前 | |
[optim] Add distributed Muon optimizer support for Ascend NPU Co-authored-by: guoqi1024<guoqi5@huawei.com> # message auto-generated for no-merge-commit merge: !38393 merge feature/distributed-muon-optimizer into master [optim] Add distributed Muon optimizer support for Ascend NPU Created-by: guoqi1024 Commit-by: guoqi1024 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [x] issue/工单 https://gitcode.com/Ascend/pytorch/issues/2403 - [x] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!38393 | 2 个月前 | |
refactor(profiler): 非侵入式动态 Profiler Optimizer Step Hook 私有 Patch 消除 Co-authored-by: wxb<w.noneck.1024@gmail.com> # message auto-generated for no-merge-commit merge: !44890 merge refactor/remove-pta_profiler_hook into master refactor(profiler): 非侵入式动态 Profiler Optimizer Step Hook 私有 Patch 消除 Created-by: No_neck Commit-by: No_neck;wxb Merged-by: ascend-robot Description: <!-- PR 描述与 2026-08-28 最新代码对齐。 --> # 【合入来源】 > <font color="red">**https://gitcode.com/Ascend/pytorch/issues/4189**</font> - [ ] 需求 - [ ] 问题单 - [x] issue/工单 - [x] 重构优化 - [ ] 资料更新 # 【修改说明】 ## 背景 torch_npu/profiler/_non_intrusive_profile.py 原实现通过替换 PyTorch 私有方法 torch.optim.Optimizer._patch_step_function 或历史版本的 _hook_for_profile，进一步包装 optimizer.__class__.step，在 Optimizer step 正常返回后调用动态 Profiler 的 dp_step()。 旧实现还使用 OPTIMIZER_ID 只跟踪最后创建或最后 patch 的 Optimizer。该选择规则 没有训练 iteration 语义：如果最后创建的是低频辅助 Optimizer，Profiler 会推进过慢， 使一个采集 step 跨越多次主 Optimizer 更新。 主要问题： 1. 依赖 PT 私有 API，升级兼容风险高； 2. PTA 在 PT wrapper 外再次修改 Optimizer 类方法，影响同类全部实例； 3. step_hooked、OPTIMIZER_ID 和构造顺序形成脆弱的隐式状态； 4. 非等频多 Optimizer 场景会少计，采集边界异常扩大； 5. 旧接入方式没有使用 PT 已提供的公共 Optimizer hook。 ## 修改方案 本 PR 保留 PTA 非侵入式动态 Profiling 能力和原有启动方式，只替换 Optimizer 事件接入 机制： ~~~text PROF_CONFIG_PATH / MSMONITOR_USE_DAEMON / KINETO_USE_DAEMON -> 原有配置检查 -> dp_init(prof_config_path) -> _register_optimizer_step_hook() -> register_optimizer_step_post_hook(callback) optimizer.step() 正常返回 -> PT instance post-hooks -> PT global post-hooks -> PTA _optimizer_step_post_hook(optimizer, args, kwargs) -> local_step[optimizer] += 1 -> local_step > profiler_step 时调用 dp_step() -> profiler_step = local_step ~~~ 聚合语义为： ~~~text profiler_step = max historical successful_step_count observed ~~~ 一次 callback 只增加一个 Optimizer 的局部计数，因此直接比较更新后的局部值与缓存的 历史全局最大值即可，不需要每次执行 max(values())，热路径为 O(1)。弱字典删除已经 释放的 Optimizer 后，缓存的历史全局值不会回退。 ## 代码修改及原因 ### 1. 删除 PT 私有方法依赖 删除： ~~~python _origin_patch_step_function Optimizer._patch_step_function = ... Optimizer._hook_for_profile = ... ~~~ 原因：上述符号是 PT 私有实现，不提供兼容承诺。当前2.13、2.14、2.15目标版本已经 提供公共 global Optimizer post-hook。 ### 2. 删除 PTA 类级 step wrapper 删除： ~~~text step_wrapper patch_step_function step_hooked check_last_optimizer OPTIMIZER_ID ~~~ 原因： - 不再二次替换 optimizer.__class__.step； - 不影响同类 Optimizer 的其他实例； - 不再依赖 Optimizer 创建顺序； - 不再需要维护重复包装标志； - 消除旧非等频场景只跟踪最后一个 Optimizer的问题。 ### 3. 使用 PT 公共 global post-hook 新增： ~~~python from torch.optim.optimizer import Optimizer, register_optimizer_step_post_hook ~~~ 并通过： ~~~python register_optimizer_step_post_hook(cls._optimizer_step_post_hook) ~~~ 注册回调。 选择 global hook 的原因： - 非侵入式 Profiler 不要求用户逐个修改 Optimizer； - 能覆盖注册前和注册后创建的 Optimizer； - PT 负责 Optimizer step 的 hook 分发； - PTA 不再接管 PT 私有构造/反序列化入口。 选择 post-hook 而不是 pre-hook 的原因： - 与旧实现“原始 step 成功后再调用 dp_step()”的顺序一致； - optimizer.step() 抛异常时 PT 不执行 post-hook； - 不会把失败的参数更新计为有效 Profiler step； - PT instance post-hook 仍先于 PTA global post-hook。 ### 4. 在已有类中保存最小聚合状态 新增： ~~~python _optimizer_step_hook_handle = None _optimizer_steps = WeakKeyDictionary() _profiler_step = 0 ~~~ 各字段作用： | 字段 | 作用 | |---|---| | _optimizer_step_hook_handle | 判断是否已注册，防止重复 callback | | _optimizer_steps | 保存每个 Optimizer 的成功 step 次数 | | _profiler_step | 保存已经推进的最大 step | 没有新增独立 tracker 类，避免引入当前生产调用链不需要的 requester API、reset API 和 额外生命周期。 WeakKeyDictionary 不强引用 Optimizer。Optimizer 被释放后，对应记录可自动删除， 避免普通 dict 延长参数和 Optimizer 状态的生命周期。 ### 5. 新增 O(1) post-hook callback ~~~python @classmethod def _optimizer_step_post_hook( cls, optimizer: Optimizer, _args: tuple, _kwargs: dict, ) -> None: step = cls._optimizer_steps.get(optimizer, 0) + 1 cls._optimizer_steps[optimizer] = step if step > cls._profiler_step: dp_step() cls._profiler_step = step ~~~ 逐行说明： - get(optimizer, 0) + 1：为触发 callback 的 Optimizer 增加局部成功 step； - 写回弱字典：保存该 Optimizer 的后续计数起点； - step > _profiler_step：判断是否出现新的最大进度； - dp_step()：只在全局进度增加时推进动态 Profiler； - 成功后更新 _profiler_step：不把失败的 dp_step() 标记为已推进。 callback 必须接受 optimizer, args, kwargs，这是 PT 公共 API 契约。不能直接注册 dp_step，因为 dp_step() 不接受该签名，也无法识别和聚合多个 Optimizer。 ### 6. 新增幂等注册 ~~~python @classmethod def _register_optimizer_step_hook(cls) -> None: if cls._optimizer_step_hook_handle is not None: return cls._optimizer_steps.clear() cls._profiler_step = 0 cls._optimizer_step_hook_handle = register_optimizer_step_post_hook( cls._optimizer_step_post_hook ) ~~~ 逐行说明： - handle 非空时返回：重复 init() 不重复注册； - 注册前清空弱字典：新注册生命周期不继承旧对象状态； - 全局 step 置0：与新初始化的动态 Profiler 对齐； - 保存 PT 返回的 handle：作为注册状态，并保留底层 removable 能力。 最新生产代码不增加 unregister 方法。动态 Profiling 一旦启用，hook 在进程内持续 存在；测试直接使用 handle 清理，不为测试增加生产 API。 ### 7. 保留原有启动条件 没有新增环境变量或配置文件字段。继续使用： ~~~text PROF_CONFIG_PATH MSMONITOR_USE_DAEMON KINETO_USE_DAEMON ~~~ 未启用动态 Profiling 时，init() 在 dp_init() 和 hook 注册前返回，因此默认训练 没有新增 callback 或 WeakKeyDictionary 热路径。 启用后先调用： ~~~python dp_init(prof_config_path) ~~~ 再注册 hook，避免 callback 在动态 Profiler 尚未初始化时调用 dp_step()。 本 PR 不增加 TORCH_NPU_PROFILER_STEP_MODE，不增加 optimizer/manual 分支，不修改 配置 schema。 ### 8. 删除 Python 3.8 Dynolog 死分支 最新代码删除 import sys 以及 Dynolog 的 Python <3.8 判断，直接在 daemon 模式设置 DYNO_CONFIG。 当前2.13～2.15目标兼容线支持的 Python 均高于3.8，该判断在受支持环境中不可达。此项 是独立死代码清理，同时避免原提示行的 F541 风险；不改变支持范围内行为。 # 【行为变化】 ## 正常场景 | 场景 | Optimizer event | 修改前典型 dp_step() | 修改后 dp_step() | |---|---:|---:|---:| | 单 Optimizer，18轮 | 18 | 18 | 18 | | 同步双 Optimizer，各18次 | 36 | 取决于最后 ID，通常18 | 18 | | 主18次、低频辅助6次且辅助最后创建 | 24 | 6 | 18 | ## 已知边界 per-optimizer max 是有约束的进度聚合，不是通用 training iteration 检测器： | 场景 | Optimizer event | 修改后 dp_step() | 说明 | |---|---:|---:|---| | 完全交替9+9 | 18 | 9 | 两个局部计数的最大值为9 | | 运行中替换9+9 | 18 | 9 | 新 Optimizer 从0开始追赶 | | 同一 Optimizer 每轮 step 两次 | 2次/轮 | 2次/轮 | 按 Optimizer event 而不是 iteration | 当前 PR 不引入 manual 模式或训练循环 callback。上述行为作为已知限制写入 RFC 和测试 结论，不宣称支持任意训练拓扑。 梯度累计按真实 optimizer.step() 计数：多次 backward 后只调用一次 optimizer.step()，只推进一次；grad 全为 None 但 step 正常返回时，仍按一个 Optimizer event 计数。 # 【接口与资料变更】 ## Python API 不新增或修改用户可见 Python API。 ## 环境变量和配置文件 不新增环境变量，不修改动态 Profiler 配置文件 schema。 保留原有： - PROF_CONFIG_PATH； - MSMONITOR_USE_DAEMON； - 兼容的 KINETO_USE_DAEMON。 ## 兼容性 不再为缺少公共 global post-hook 的历史 PT 版本回退到私有 API。公共 hook 契约已经在 PT/PTA 2.13、2.14、2.15真实 NPU 环境验证。 PT main 仅用于核对公共机制的当前实现；PT main 比 PTA 目标兼容线更新，兼容结论以 三版本真实环境为准。 ## 资料 已同步更新 RFC，明确： - 私有 patch 到公共 hook 的迁移； - 原有环境变量保持不变； - O(1) per-optimizer max 公式； - 多 Optimizer 正常语义与交替/替换边界； - Trace 范围不等于训练吞吐； - 最新精简实现没有独立 tracker 类、step mode 和生产 unregister。 # 【功能验证】 ## 1. 单元与契约测试 当前测试覆盖15项： 1. 重复注册幂等； 2. 异类同步双 Optimizer； 3. 同类同步双 Optimizer； 4. 非等频主辅 Optimizer； 5. 单 Optimizer 连续 step； 6. 注册前创建的 Optimizer； 7. 注册后创建的 Optimizer； 8. 无 grad 正常 step； 9. 梯度累计； 10. step 抛异常时不推进； 11. instance post-hook 先于 global post-hook； 12. disabled 时不初始化、不注册； 13. MSMonitor 入口； 14. KINETO 兼容入口与弃用提示； 15. 配置路径校验、初始化和注册。 测试清理直接移除 handle 并清空类状态，没有新增仅供测试使用的生产方法。 ## 2. Ascend 910B2 三版本验证 | 兼容线 | PyTorch | TorchNPU | 公共 hook 契约 | 真实 active Trace | |---|---|---|---|---| | 2.13 | 2.13.0a0+gitfad7424 | 2.13.0+git45fbeae | 通过 | 通过 | | 2.14 | 2.14.0a0+git69231fe | 2.14.0+gitee7bc39 | 通过 | 通过 | | 2.15 | 2.15.0.dev20260812 | 2.15.0+git56986bb | 通过 | 通过 | 场景结果： | 场景 | Optimizer 更新 | dp_step() | iteration 对齐 | |---|---:|---:|---| | single | 18 | 18 | 是 | | sync dual | 36 | 18 | 是 | | uneven 18+6 | 24 | 18 | 是 | | alternating 9+9 | 18 | 9 | 否，已知边界 | | replacement 9+9 | 18 | 9 | 否，已知边界 | 每个场景均生成非空 trace_view.json。 有效 run-id： - compact_active_2_13_20260827_r2； - compact_active_2_14_20260827_r1； - compact_active_2_15_20260827_r1。 2.13首轮与2.15并发使用 host IPC 和相同 rank=-1，发生动态 Profiler 共享状态冲突； 串行重跑通过。该首轮结果不作为代码失败。 NPU 矩阵候选源码 SHA256： ~~~text b0e0387e2ae80b729e3d12e46ed6e3ac78a1345fc694e3853bfed81ff855b076 ~~~ 该快照与最新目标代码的 Optimizer hook 热路径一致，但仍保留受支持环境不可达的 Python 3.8判断。删除该死分支后需要至少补跑最终源码的 lint 和 UT；若合入门槛要求 最终 SHA 的 NPU 可追溯性，再补一轮 smoke run。 ## 3. 性能验证 默认未启用动态 Profiling 时不注册 hook，因此没有新增 callback 开销。 2.15 master 配对完整训练结果： | 场景 | 旧 OPTIMIZER_ID | 修改后 O(1) max | 差值 | |---|---:|---:|---:| | 单 Optimizer，counter-only | 0.640% | 1.007% | +0.367个百分点 | | 同步双 Optimizer，counter-only | 0.732% | 0.833% | +0.101个百分点 | | 单 Optimizer，真实 inactive dp_step() | 9.238% | 9.291% | +0.053个百分点 | | 同步双 Optimizer，真实 inactive dp_step() | 5.159% | 5.127% | -0.032个百分点 | 结论： - tracker-only 完整训练开销约1%； - 加入真实空闲态 dp_step() 后修改前后差异很小； - 旧实现非等频场景调用更少来自少计，不构成有效性能优势； - Trace 中 Operator、Kernel 或时间窗口变化表示采集范围变化，不直接表示吞吐变化； - 删除 Python 3.8死分支后的最终 SHA 尚未重跑完整性能矩阵。 # 【风险说明】 1. 当前算法不支持从任意 Optimizer 序列恢复真实 training iteration； 2. 完全交替、动态替换和同一 Optimizer 一轮多次 step 是明确边界； 3. 当前状态无锁，不声明支持多线程并发 optimizer.step()； 4. 生产代码不提供 hook 注销/重装生命周期； 5. 外部若自行移除保存的 handle，类字段仍非空，不能自动重新注册； 6. 极短 Optimizer step 会放大 WeakKeyDictionary 的相对开销； 7. PT main 的实现细节不能代替目标兼容线验证。 # 【CheckList】 ## 代码 - [x] 删除 PTA 对 _patch_step_function 的赋值 - [x] 删除 PTA 对 _hook_for_profile 的赋值 - [x] 删除类级 optimizer.__class__.step 包装 - [x] 删除 step_wrapper、step_hooked 和 OPTIMIZER_ID - [x] 使用公共 register_optimizer_step_post_hook() - [x] 使用 WeakKeyDictionary，不强引用 Optimizer - [x] max 聚合热路径为 O(1) - [x] 注册幂等 - [x] disabled 时不注册 hook - [x] 不新增用户环境变量或配置 schema - [x] 不新增独立 tracker 类 - [x] 不新增仅供测试的生产接口 - [x] 删除 Python 3.8 Dynolog 死分支 ## 验证 - [x] 单 Optimizer - [x] 同类和异类同步双 Optimizer - [x] 非等频主辅 Optimizer - [x] 注册前/后创建 Optimizer - [x] 梯度累计和无 grad step - [x] step 异常不推进 - [x] instance/global hook 顺序 - [x] 三个原有启用入口 - [x] PT/PTA 2.13、2.14、2.15真实 NPU active Trace - [x] 交替与替换边界已验证并记录 - [x] O(1) 热路径性能已有配对数据 - [ ] 删除 Python 3.8死分支后的最终源码 lint/UT - [ ] 若合入要求最终 SHA 性能门槛，补跑最终源码配对性能 # 【结论】 本 PR 保留 PTA 非侵入式动态 Profiling 功能，消除 PTA 对 PT 私有 Optimizer 方法和 类级 step() 的 monkey-patch。 修改后只在原有环境变量真正启用动态 Profiling 时注册 PT 公共 global post-hook； 通过已有 _NonIntrusiveProfile 中的最小弱引用状态，以 O(1) per-optimizer max 语义推进 dp_step()。默认训练不增加 callback，同步多 Optimizer和非等频主辅场景 不再依赖最后创建的 Optimizer。 方案不新增用户配置，也不声称解决任意训练循环 iteration 识别。交替、动态替换和同一 Optimizer 多次更新作为明确边界保留。 See merge request: Ascend/pytorch!44890 | 21 天前 | |
compat(2.14): default requirements to 2.14 nightly and fix related tests Co-authored-by: chz34<chenhaozhe1@huawei.com> # message auto-generated for no-merge-commit merge: !41741 merge compat/2.14 into master compat(2.14): default requirements to 2.14 nightly and fix related tests Created-by: c_34 Commit-by: chz34 Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [x] issue/工单 https://gitcode.com/Ascend/pytorch/issues/2258 https://gitcode.com/Ascend/pytorch/issues/2890 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 1. 上游新增接口，暴露的路径与实际module不一致，实际来自_C库，添加测试白名单，与上游添加的白名单保持一致。 2. 上游新增接口，依赖额外三方库与cuda库，test_public_binding.py中增加相关过滤 3. 上游 Backedn.register_backend.__func__新增参数，修改对应patch函数，增加**kwargs，缺省忽略，同时保持与之前版本的接口兼容 4. 上游cudagraphify调用时新增额外参数kernel_free_cudagraph, user_visible_output_idxs，下游npugraphify跟随新增，函数内不处理 5. 新增requirements_2_13.txt的配置，默认配置升级到2.14 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 跟随上游变更，不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 跟随上游变更，不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 跟随上游变更，基于现有测试用例进行验证 # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!41741 | 1 个月前 | |
fix(dynamo): gate cpu check via continue instead of reordering the dict Co-authored-by: mhy<mahongyu7@huawei.com> # message auto-generated for no-merge-commit merge: !45743 merge fix/has-triton-include-cpu into master fix(dynamo): gate cpu check via continue instead of reordering the dict Created-by: m0_64341872 Commit-by: mhy Merged-by: ascend-robot Description: <!-- PR描述模板更新日期：20260203 --> # 【合入来源】 > <font color="red">**如有社区issue，请关联issue链接**</font>\ > <font color="red">**请勿携带内部流程信息（需求链接、问题单、内部issue等）**</font> - [ ] 需求 - [ ] 问题单 - [x] issue/工单 - [ ] 重构优化 - [ ] 资料更新 # 【修改方案】 > 请描述修改内容的具体实现，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列\ > 如果是需求或者重构类的PR，需要补充详细设计文档（说明上下游组件关系、时序图、类图、DFX能力等内容） 上游修改了 has_triton() 的调用方式（多传了一个 include_cpu 参数），但 torch_npu 里有两处自己实现的同名函数一直是旧的无参写法， 一被新方式调用就类型报错，导致所有依赖 triton 检测的编译路径崩溃。 1. 给 torch_npu 里判断"当前设备是否支持 triton"的那个函数补上 include_cpu 参数， 并让它真正生效：不传或传 False 时不再检查 CPU 后端，传 True 时才检查，跟上游新语义保持一致。 2. transfer_to_npu 场景下用来禁用 triton 的另一个同名覆盖函数，改成能接收任意关键字参数，避免以后上游再加参数又出现同样的崩溃；它本身"始终返回 False"的行为不受影响。 # 【资料变更】 > 请确认是否涉及资料变更。如涉及，需要在PR中体现，并简要说明修改内容。如不涉及，需填写“不涉及” 不涉及 # 【接口变更】 > 请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及，需要详细说明接口以及对应的变更内容，同时需要在资料中体现。如不涉及，需填写“不涉及” 不涉及 # 【功能验证】 > 说明测试场景，测试方法。如果本次测试方式与常规单元测试不同，请详细说明您的测试步骤\ > 新增/变更内容是否已新增/适配UT测试用例看护，并补充测试自验证截图 在真实昇腾 910B3 NPU 环境上做了正反对照验证： - 修复前：调用 torch.utils._triton.has_triton(include_cpu=True)（即上游builder.py 的实际调用方式）复现出与 issue 完全一致的报错 TypeError: has_triton() got an unexpected keyword argument 'include_cpu'。 - 修复后：同样的调用正常返回，且 include_cpu=True/False 分别正确决定"cpu" 是否参与 triton_supported_devices 检测。 ═══════════════════════════════════════════════════════════════ 修复前（torch_npu master 原始代码，has_triton 无 include_cpu 参数） ═══════════════════════════════════════════════════════════════ test/dynamo/test_model_output.py::TestModelOutputBertPRIVATEUSE1::test_HF_bert_model_output_npu FAILED [1.06s] test/export/test_hop.py（PRIVATEUSE1/npu，与修复后同一批用例） 35 failed, 44 deselected, 9 xfailed in 3.89s 代表性报错（test_pre_dispatch_export_cond_simple_npu_float32，--tb=long 完整输出）： E Exception: has_triton() got an unexpected keyword argument 'include_cpu' E Caused by sample input at index 0: SampleInput(...) —— 与 issue #4540 报告的报错信息逐字一致 ═══════════════════════════════════════════════════════════════ 修复后（分支 fix/has-triton-include-cpu） ═══════════════════════════════════════════════════════════════ test/dynamo/test_model_output.py::TestModelOutputBertPRIVATEUSE1::test_HF_bert_model_output_npu PASSED [9.61s] test/export/test_hop.py 35 passed, 44 deselected, 9 xfailed in 31.93s ═══════════════════════════════════════════════════════════════ 对照小结 ═══════════════════════════════════════════════════════════════ 用例 修复前 修复后 test_HF_bert_model_output_npu FAILED → PASSED test_hop.py 35 条（issue 报告范围） 35 failed → 35 passed test_hop.py 9 条 xfail（与本次修复无关的既有限制） 9 xfailed → 9 xfailed（不变，作为对照基线） 36/36（issue 原始报告数）由失败转为通过；9 个结构性 xfail 前后完全一致， # 【CheckList】 > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] - [x] 代码注释完备，正确记录错误日志 - [x] 代码实现进行了返回值、空指针等校验 - [x] PR标题正确使用类型标签，如：feat、fix、refactor、docs、test等 - [x] PR持续集成流水线（CI）执行通过，代码检查无异常 See merge request: Ascend/pytorch!45743 | 20 天前 | |
[sync] PR-39678: revert: detect Ascend950 SoC for TORCH_NPU_USE_COMPATIBLE_IMPL default Co-authored-by: wuyouqi1<wuyouqi1@h-partners.com> # message auto-generated for no-merge-commit merge: !39703 merge sync-pr39678-revert/compat-impl-socname-routing-26.1.0-to-master into master [sync] PR-39678: revert: detect Ascend950 SoC for TORCH_NPU_USE_COMPATIBLE_IMPL default Created-by: ascend-ds-bot Commit-by: wuyouqi1 Merged-by: ascend-robot Description: ### 1. Origin pull request: https://gitcode.com/Ascend/pytorch/merge_requests/39678 ### 2. Original pull request related issue(s): https://gitcode.com/Ascend/pytorch/issues/2561 ### 3. Original pull request related commit(s): | Sha | Datetime | Message | |---|---|---| |[8539c290](https://gitcode.com/Ascend/pytorch/commit/8539c290bd0035b66335b3e92ac28540de8c2805)|2026-06-30 21:08:41 +0800 CST|Revert "feat: detect Ascend950 SoC for TORCH_NPU_USE_COMPATIBLE_IMPL default"<br><br>This reverts commit acebf35339791ea6fcac6f116acdb242a1c09096.<br><br>Removes the _is_ascend950() SoC auto-detection and the SoC-based default-value assignment for TORCH_NPU_USE_COMPATIBLE_IMPL in torch_npu/__init__.py, and drops test_compatible_impl_soc_detect.py.<br><br>Co-Authored-By: Claude <noreply@anthropic.com><br>| See merge request: Ascend/pytorch!39703 | 2 个月前 | |
| 1 年前 | ||
| 1 年前 |