已合并
[v2.10.0][bugfix]cann and pta header mixing bulid bugfix #44993
Dring创建于 17 天前
[v2.10.0][bugfix]cann and pta header mixing bulid bugfix #44993
已合并
Dring创建于 17 天前
Dring成员
17 天前

【合入来源】

如有社区issue,请关联issue链接
请勿携带内部流程信息(需求链接、问题单、内部issue等)

https://gitcode.com/Ascend/pytorch/issues/3991

  • [✕ ] 需求
  • [ ✓] 问题单
  • [ ✓] issue/工单
  • [ ✓] 重构优化
  • [✕ ] 资料更新

【修改方案】

请描述修改内容的具体实现,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列
如果是需求或者重构类的PR,需要补充详细设计文档(说明上下游组件关系、时序图、类图、DFX能力等内容)

问题现象:
PTA 26.1.0 仓库中的 third_party/acl 头文件来自 CANN 9.1.0,而编译环境安装的是 CANN 9.0.0。当同一个编译单元同时包含两套版本的 ACL 头文件时,会出现类似以下错误:aclmdlRITask 未声明、未定义或类型不匹配
aclmdlRITask 是 CANN 9.1.0 头文件所依赖的定义,但 CANN 9.0.0 对应头文件中不存在该定义或定义不兼容。

根因分析:
1 当前头文件查找路径不统一:PTA 源码中大量使用以下写法
#include "third_party/acl/inc/acl/acl_mdl.h"
因为编译命令中包含 PTA 项目根目录,这种写法会直接命中 PTA 26.1.0 仓库内由 CANN 9.1.0 导入的头文件:torch_npu/third_party/acl/inc/acl/acl_mdl.h
但该头文件内部使用的是标准 SDK 相对路径:#include "acl/acl_base.h"
编译器无法相对 acl_mdl.h 所在目录找到 acl/acl_base.h,因此转而按照全部 -I 目录依次搜索。如果 CANN 9.0.0 的 include 路径排在 PTA 内置 ACL 路径前面,就会命中:CANN-9.0.0/include/acl/acl_base.h
同一个翻译单元最终形成:
acl_mdl.h -> PTA third_party 中的 CANN 9.1.0 版本
acl_base.h -> 环境 CANN 9.0.0 版本
这是一种“首层头文件由源码路径固定版本、传递头文件由 -I 顺序选择版本”的混合查找模式。

2 问题不局限于 acl_mdl.h
同样风险存在于所有能够继续 include 其他 CANN 头文件的入口,包括:
acl/...
aml/...
profiling/...
graph/...
ge/...
op_proto/...
因此不能只修复出现错误的某一个头文件,也不能只替换 acl_mdl.h。必须统一整个 CANN 头文件族的查找规则。

修改目标:
修改后需要满足
源码不再包含 third_party/acl/inc/... 这种仓库物理路径。
ACL、AML、profiling 等头文件全部通过统一 include root 查找。
一个编译 target 对 CANN 头文件只选择一套版本。
CANN 9.0.0 环境构建时,首层和传递头文件必须全部命中 CANN 9.0.0。
使用 PTA 内置头文件构建时,首层和传递头文件必须全部命中 PTA 内置的同一套版本。
wheel、libtorch_npu、C++ Extension 和 Inductor/AOT 使用同一目录契约

修改方案:
1、代码中使用 PTA 内置 ACL 头文件的地方,删除 third_party/acl/inc/ 物理路径前缀,统一改成从 include root 查找
2、打包或安装时,把 third_party/acl/inc 下需要公开的目录按原相对结构复制到安装产物的公共 include 根目录

【资料变更】

请确认是否涉及资料变更。如涉及,需要在PR中体现,并简要说明修改内容。如不涉及,需填写“不涉及”

不涉及

【接口变更】

请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及,需要详细说明接口以及对应的变更内容,同时需要在资料中体现。如不涉及,需填写“不涉及”

不涉及

【功能验证】

说明测试场景,测试方法。如果本次测试方式与常规单元测试不同,请详细说明您的测试步骤
新增/变更内容是否已新增/适配UT测试用例看护,并补充测试自验证截图

cann 9.0.0 + pta 26.1.0的vllm-ascend安装验证成功
image.png

【CheckList】

PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x]

  • [✓ ] 代码注释完备,正确记录错误日志
  • [✕ ] 代码实现进行了返回值、空指针等校验
  • [✓ ] PR标题正确使用类型标签,如:feat、fix、refactor、docs、test等
  • [✓ ] PR持续集成流水线(CI)执行通过,代码检查无异常
likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 Dring 的贡献)
DDring成员
17 天前 创建了 pull request,commit b3830c51
atomgit-bot
atomgit-bot
17 天前 评论:

变更摘要

该 PR 修复 CANN(third_party/acl)头文件与 PTA(PyTorch Ascend)头文件在构建打包时目录混用导致的编译问题。核心思路是统一 ACL 头文件的引用方式:将源码中大量 third_party/acl/inc/acl/xxx.h 的相对路径包含改为 <acl/xxx.h><graph/operator.h><profiling/prof_api.h><aml/aml_fwk_detect.h> 等尖括号系统式包含,同时修改打包脚本(setup.pybuild_libtorch_npu.py)改为递归复制 third_party/acl/inc 下全部头文件并保留相对目录结构,使 ACL 头文件直接以 include/acl/... 布局安装,从而避免与 CANN 自带头文件混淆。

主要改动

  • ACL 头文件引用方式统一:在 torch_npu/csrc 下的大量头文件与源文件(如 AclInterface.hNPUStream.hNPUGraph.hNpuUtils.hNPUDefinition.hcpp_common.hdevice_utils.hhccl.h 等)中将 "third_party/acl/inc/acl/acl.h" 等相对路径 include 统一改为 <acl/acl.h><acl/acl_rt.h><graph/operator.h><profiling/prof_api.h> 等尖括号包含,使编译时统一从安装目录的 include 根路径解析 ACL 头文件。
  • 打包脚本改为递归复制 ACL 头文件setup.pybuild_libtorch_npu.py 中删除按固定深度匹配的 third_party/acl/inc/*/*.h 等 glob 规则,改用 glob.glob(..., recursive=True) 递归收集 third_party/acl/inc 下所有 .h 文件,并按相对路径拷贝到安装包的 include 目录下,保证 aclgraphprofilingaml 等子目录结构完整保留。
  • build_stub.sh 支持可配置 include 目录third_party/acl/libs/build_stub.sh 新增首个参数 ACL_INCLUDE_DIR(默认 ../inc),所有 gcc -I 编译命令改用该参数,并增加 set -e;各测试文件(如 test_pluggable_allocator_extensions.pytest_npu_expandable_segments.pytest_sanitizer_pluggable_allocator.py)在调用时传入 PYTORCH_NPU_INSTALL_PATH/include,并移除原先追加的 include/third_party/acl/inc 头文件搜索路径。
  • 扩展编译与工具脚本的 include 路径调整torch_npu/utils/cpp_extension.py 移除 include/third_party/acl/inc 搜索路径及无用 import torchtorch_npu/_inductor/cpp_builder.py 将 include 路径从 include/third_party/acl/inc 收敛为 include(并删除重复项);torch_npu/_inductor/ascend_npu_ir/npu/utils.py 删除 third_party/acl/inc-I 参数;ci/access_control_test.py 同步将 ACL 头文件来源路径更新为 include/acl
likedislike
atomgit-bot
atomgit-bot
17 天前 评论:

代码审查

✅ 未发现问题

likedislike
ascend-robotascend-robot成员
17 天前 添加了label:ascend-cla/yes
此处折叠了189条消息 查看更多
chengpeng25成员
10 天前 评论:

/lgtm

likedislike
chujinjin成员
10 天前 评论:

/approve

likedislike
ascend-robotascend-robot成员
10 天前 添加了label:lgtm
ascend-robotascend-robot成员
10 天前 合入了pull request
AtlasAccount
AtlasAccount成员
10 天前 评论:
流水线 pytorch_gitcode_PR_multiVersion#14641 [ commitID:7c140820 ] 已完成
likedislike