变更摘要

本次 PR 将 v2.9.0_import 分支的 15 个 import 优化 commit 同步到 v2.12.0，核心目标是将 torch._dynamo 和 torch._inductor 的初始化从 import torch_npu 时延迟到首次 torch.compile 调用时。主要手段包括：引入 _DynamoPostImportFinder/_DynamoPostImportLoader 在 Dynamo 首次被导入时触发 NPU 集成；将 RNG prim patches 从 _inductor.py 提取到独立的 _rng_prims_patch.py 模块；重构 registry_manager.py 移除 import 时的 Dynamo/Inductor 注册；新增线程安全的 run_once 装饰器和 fork 安全的锁重置机制；以及通过 setup.py 的 torch_dynamo_backends entry_points 替换 import 时后端注册。

主要改动

• 延迟初始化架构：在 torch_npu/utils/_dynamo.py 中新增 _DynamoPostImportFinder 和 _DynamoPostImportLoader，当 torch._dynamo 首次被导入时自动调用 _lazy_dynamo_setup() 完成 NPU 集成；_setup_inductor_for_compile() 在首次 torch.compile 时触发 _lazy_inductor_setup()，将 Inductor 后端加载延迟到实际编译路径。

• RNG patches 模块化分离：将 torch_npu/utils/_inductor.py 中的 patch_philox_rand_offset、patch_register_philox_rand、patch_register_run_and_save_rng_state_op 等 RNG prim patches（约 220 行）提取到新增的 torch_npu/utils/_rng_prims_patch.py，通过 apply_rng_prims_patches() 在 import 时统一调用，registry_manager.py 的 _register_rng_prims() 替代了原来的 _register_inductor()。

• 注册管理重构：registry_manager.py 移除 _register_dynamo() 和 _register_inductor()，不再在 import torch_npu 时注册 Dynamo 后端、trace rules 和 Inductor device op overrides；Dynamo 后端注册移至 dynamo/__init__.py 的 _register_backends()（带去重保护），Inductor 注册由 _InductorNpuRegistry 在首次编译时按需执行。

• 线程安全与 fork 安全：run_once 装饰器改为基于 threading.Condition 的实现，支持并发等待和 fork 后状态重置；_NpuBackendScope 改为在 __enter__/__exit__ 中使用 _INDUCTOR_NPU_BACKEND_LOCK 保护；_reset_compiler_locks_after_fork 通过 os.register_at_fork 在 fork 后重置锁和 run_once 的 Condition。

• 编译入口点与 entry_points：setup.py 新增 torch_dynamo_backends entry_points，声明 npu、npugraph_ex、npugraphs 三个后端入口；dynamo/__init__.py 新增 _npu_backend_entrypoint、_npugraph_ex_backend_entrypoint 和 _NpugraphsBackendEntryPoint 类，每个入口在调用时先触发 _lazy_dynamo_setup()，并处理与 setuptools entry point 的去重逻辑。

openLiBing可接管PR, PR详情链接:
https://www.openlibing.com/apps/transitionPrDetail?owner=Ascend&repo=pytorch&number=44299&platform=gitcode&codeHostingPlatformFlag=gitcode

代码审查

审查总结

已完成对全部 8 个变更文件的逐文件审查：

发现统计：P0: 0，P1: 0，P2: 0，P3: 1

总体风险评估：低风险。该 PR 将 Dynamo/Inductor 初始化推迟到首次 torch.compile 调用，变更逻辑清晰，配套测试覆盖全面（lazy import 语义、fork 安全、并发安全、后端注册、入口点加载等），唯一发现为注释措辞不准确，不影响运行时行为。

审查总结

逐文件审查结果

发现的问题

总体风险判断

中风险。P1 问题（字符串版本号比较）会导致 DTensor 补丁在 PyTorch 2.1~2.9 全系列上静默不生效，可能造成 DTensor 算子分片策略不完整。建议在合入前修复该版本比较逻辑。其余变更结构合理，延迟加载架构设计正确。

现在我已完成对所有 6 个文件的审查，以下是我的最终报告。

审查摘要

各文件审查结果：

• torch_npu/npu/npugraph_ex/__init__.py — 无问题。将 fwd_only 从模块级导入改为 register_replacement 内的延迟导入，模式正确。TYPE_CHECKING 守卫与 from __future__ import annotations 配合使用以进行仅用于类型检查的导入，是正确的惰性加载设计。

• torch_npu/utils/__init__.py — 1 个 P3 发现问题：第 14 行的死导入 _max_unpoolnd_patch。该函数被导入但从未在此文件中使用；实际的补丁应用通过 registry_manager.py 中的 apply_rng_prims_patches() 进行。

• torch_npu/utils/_dynamo.py — 1 个 P3 发现问题：_normalize_compile_options（第 174-189 行）在将连字符替换为下划线后，如果输入字典同时包含 "npu-backend" 和 "npu_backend"，会静默丢弃重复的键。其余大规模重构（run_once 装饰器配合 Condition、_NpuBackendScope 配合 RLock 锁管理、_DynamoPostImportFinder/Loader 惰性触发、fork 安全的锁重置）设计合理，无正确性或死锁问题。

• torch_npu/utils/_graph_tree.py — 1 个 P3 发现问题：第 362-368 行，npugraphs 将 **compile_kwargs 传递给 aot_npugraphs（aot_autograd 的返回值），后者不接受额外的关键字参数。目前，由于 Dynamo 的后端分发机制不传递额外的 kwargs，因此 compile_kwargs 始终为空，问题尚未触发，但这是一个潜在的 bug。

• torch_npu/utils/_inductor.py — 无问题。RNG 补丁已提取到 _rng_prims_patch.py；剩余的 DeviceOpOverrides 代码未发生变化。

• torch_npu/utils/_rng_prims_patch.py — 无问题。新文件正确地将 RNG 补丁从旧的 _inductor.py 提取并封装到 apply_rng_prims_patches() 中，并附带一个额外的 patch_max_unpoolnd()。aten = torch.ops.aten 模块级赋值供新的 _max_unpoolnd_patch 函数使用。当 run_and_save_rng_state / run_with_rng_state 不可用时的潜在崩溃问题在移动前即已存在，并非由本次 diff 引入。

总体风险判断： 低风险。本次 diff 是一个结构良好的惰性初始化重构。未发现任何 P0–P2 级别的正确性或安全性问题。3 个 P3 发现均为次要问题：两个是死代码/脆性代码（死导入、潜在的未来 kwargs 冲突），一个是输入验证的边界情况（键冲突静默丢弃）。核心惰性加载架构——run_once 配合条件变量、RLock 保护的注册表、sys.meta_path 钩子以及 fork 安全重置——设计正确且线程安全。

⛔ 需要修改

/lgtm

Pull Request 已合并或已关闭。

If you want to solve this problem, you can click here to do it in the FAQs.