已合并
[v2.12.0-26.1.0][bugfix]cann and pta header mixing bulid bugfix #45000
[v2.12.0-26.1.0][bugfix]cann and pta header mixing bulid bugfix #45000
已合并
Dring创建于 3 天前
Dring
3 天前

【合入来源】

如有社区issue,请关联issue链接
请勿携带内部流程信息(需求链接、问题单、内部issue等)

https://gitcode.com/Ascend/pytorch/issues/3991

  • [✕ ] 需求
  • [ ✓] 问题单
  • [ ✓] issue/工单
  • [ ✓] 重构优化
  • [✕ ] 资料更新

【修改方案】

请描述修改内容的具体实现,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列
如果是需求或者重构类的PR,需要补充详细设计文档(说明上下游组件关系、时序图、类图、DFX能力等内容)

问题现象:
PTA 26.1.0 仓库中的 third_party/acl 头文件来自 CANN 9.1.0,而编译环境安装的是 CANN 9.0.0。当同一个编译单元同时包含两套版本的 ACL 头文件时,会出现类似以下错误:aclmdlRITask 未声明、未定义或类型不匹配
aclmdlRITask 是 CANN 9.1.0 头文件所依赖的定义,但 CANN 9.0.0 对应头文件中不存在该定义或定义不兼容。

根因分析:
1 当前头文件查找路径不统一:PTA 源码中大量使用以下写法
#include "third_party/acl/inc/acl/acl_mdl.h"
因为编译命令中包含 PTA 项目根目录,这种写法会直接命中 PTA 26.1.0 仓库内由 CANN 9.1.0 导入的头文件:torch_npu/third_party/acl/inc/acl/acl_mdl.h
但该头文件内部使用的是标准 SDK 相对路径:#include "acl/acl_base.h"
编译器无法相对 acl_mdl.h 所在目录找到 acl/acl_base.h,因此转而按照全部 -I 目录依次搜索。如果 CANN 9.0.0 的 include 路径排在 PTA 内置 ACL 路径前面,就会命中:CANN-9.0.0/include/acl/acl_base.h
同一个翻译单元最终形成:
acl_mdl.h -> PTA third_party 中的 CANN 9.1.0 版本
acl_base.h -> 环境 CANN 9.0.0 版本
这是一种“首层头文件由源码路径固定版本、传递头文件由 -I 顺序选择版本”的混合查找模式。

2 问题不局限于 acl_mdl.h
同样风险存在于所有能够继续 include 其他 CANN 头文件的入口,包括:
acl/...
aml/...
profiling/...
graph/...
ge/...
op_proto/...
因此不能只修复出现错误的某一个头文件,也不能只替换 acl_mdl.h。必须统一整个 CANN 头文件族的查找规则。

修改目标:
修改后需要满足
源码不再包含 third_party/acl/inc/... 这种仓库物理路径。
ACL、AML、profiling 等头文件全部通过统一 include root 查找。
一个编译 target 对 CANN 头文件只选择一套版本。
CANN 9.0.0 环境构建时,首层和传递头文件必须全部命中 CANN 9.0.0。
使用 PTA 内置头文件构建时,首层和传递头文件必须全部命中 PTA 内置的同一套版本。
wheel、libtorch_npu、C++ Extension 和 Inductor/AOT 使用同一目录契约

修改方案:
1、代码中使用 PTA 内置 ACL 头文件的地方,删除 third_party/acl/inc/ 物理路径前缀,统一改成从 include root 查找
2、打包或安装时,把 third_party/acl/inc 下需要公开的目录按原相对结构复制到安装产物的公共 include 根目录

【资料变更】

请确认是否涉及资料变更。如涉及,需要在PR中体现,并简要说明修改内容。如不涉及,需填写“不涉及”

不涉及

【接口变更】

请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及,需要详细说明接口以及对应的变更内容,同时需要在资料中体现。如不涉及,需填写“不涉及”

不涉及

【功能验证】

说明测试场景,测试方法。如果本次测试方式与常规单元测试不同,请详细说明您的测试步骤
新增/变更内容是否已新增/适配UT测试用例看护,并补充测试自验证截图

cann 9.0.0 + pta 26.1.0的vllm-ascend安装验证成功
image.png

【CheckList】

PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x]

  • [✓ ] 代码注释完备,正确记录错误日志
  • [✕ ] 代码实现进行了返回值、空指针等校验
  • [✓ ] PR标题正确使用类型标签,如:feat、fix、refactor、docs、test等
  • [✓ ] PR持续集成流水线(CI)执行通过,代码检查无异常
likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 Dring 的贡献)
DDring
3 天前 创建了 pull request,commit 8c024b4a
atomgit-bot
atomgit-bot
3 天前 评论:

变更摘要

本 PR 修复 CANN 与 PTA(torch_npu)头文件路径混用导致的构建问题。核心改动是统一 ACL 头文件的引用方式:将约 60 个 C++ 源文件/头文件中对项目内部路径 third_party/acl/inc/acl/... 的引用(如 acl.hacl_base.hacl_rt.hacl_prof.hacl_op_compiler.hsuper_kernel.hgraph/operator.hexperiment/msprof/... 等)全部改为标准形式 #include <acl/...>;同时调整打包脚本 setup.pybuild_libtorch_npu.py,将 ACL 头文件以保留目录结构的方式递归拷贝到安装包的 include 目录,使 <acl/acl.h> 等成为统一且唯一可用的头文件路径,并同步适配相关编译工具、CI 脚本与测试用例。

主要改动

  • ACL 头文件引用方式统一:将 torch_npu/csrc 下大量源文件(如 NPUCachingAllocator.cppNPUStream.hAclInterface.hNpuUtils.hCalcuOpUtil.cppNPUDefinition.hcpp_common.h 等)及测试代码中的 "third_party/acl/inc/acl/*.h" 改为 <acl/*.h>,同时将 third_party/hccl/inc/hccl/hccl.h 中的 #include "third_party/acl/inc/acl/acl.h" 改为 #include <acl/acl.h>,消除两套头文件路径并存的混用问题。
  • 打包/头文件拷贝逻辑调整setup.pybuild_libtorch_npu.py 删除了原先仅匹配 third_party/acl/inc/*/*.h 两级与三级目录的 glob 规则,改为用递归 glob("**/*.h") 遍历 acl/inc,并按相对路径把头文件拷贝到 build/packages/torch_npu/includelibtorch_npu/include,确保深层头文件(如 acl/error_codes/rt_error_codes.hgraph/operator.hexperiment/msprof/...)在 include 根目录下可被正常引用。
  • 编译工具与扩展加载路径适配torch_npu/utils/cpp_extension.pytorch_npu/_inductor/cpp_builder.pytorch_npu/_inductor/ascend_npu_ir/npu/utils.py 移除 include/third_party/acl/inc 这一 include 路径,统一指向 PYTORCH_NPU_INSTALL_PATH/includeci/access_control_test.py 的 ACL 头文件获取路径由 include/third_party/acl/inc/acl 改为 include/acl
  • 构建脚本参数化与测试用例同步更新third_party/acl/libs/build_stub.sh 新增 set -e,并支持通过第一个参数传入 ACL include 目录(默认 ../inc),所有 gcc 编译指令改用该目录;多个测试(如 test/allocator/test_pluggable_allocator_extensions.pytest/test_npu_expandable_segments.pytest/test_sanitizer_pluggable_allocator.py)的 build_stub 调用传入安装包 include 目录,并移除多余的 include/third_party/acl/inc include 路径,同时将 external_stream_test.cpppluggable_allocator_extensions.cpp 的头文件引用改为 <acl/...> 形式。
likedislike
atomgit-bot
atomgit-bot
3 天前 评论:

代码审查

✅ 未发现问题

likedislike
ascend-robotascend-robot成员
3 天前 添加了label:ascend-cla/yes
此处折叠了107条消息 查看更多
chujinjin成员
1 天前 评论:

/approve

likedislike
ascend-robotascend-robot成员
1 天前 添加了label:lgtm
ascend-robotascend-robot成员
1 天前 合入了pull request
ascend-robot
ascend-robot成员
1 天前 评论:

Pull Request 已合并或已关闭。

If you want to solve this problem, you can click here to do it in the FAQs.

likedislike
ascend-robot
ascend-robot成员
1 天前 评论:
流水线 pytorch_gitcode_PR_multiVersion#14424 [ commitID:ed572a1f ] 已完成
likedislike