Merged
kernel编译配置compute unit支持npu arch混合编译 #14324
丛吉钰Add on 9 days ago
kernel编译配置compute unit支持npu arch混合编译 #14324
Merged
丛吉钰Add on 9 days ago
Total: 3 files changed+111-65
@@ -730,21 +730,22 @@ function(add_tiling_sources source_dir tiling_dir disable_in_opp)
730 endif()730 endif()
731endfunction()731endfunction()
732 732 
733-# usage: add_modules_sources(DIR OPTYPE ACLNNTYPE DEPENDENCIES NPU_ARCH TILING_DIR DISABLE_IN_OPP ALLOW_HF32) ACLNNTYPE 支持类型aclnn/aclnn_inner/aclnn_exclude OPTYPE 和 ACLNNTYPE733+# usage: add_modules_sources(DIR OPTYPE ACLNNTYPE DEPENDENCIES COMPUTE_UNIT TILING_DIR DISABLE_IN_OPP ALLOW_HF32) ACLNNTYPE 支持类型aclnn/aclnn_inner/aclnn_exclude OPTYPE 和 ACLNNTYPE
734# DEPENDENCIES 算子依赖734# DEPENDENCIES 算子依赖
735-# NPU_ARCH 设置支持的npuArch列表,必须与TILING_DIR一一对应,示例:dav_2201 dav_3510735+# COMPUTE_UNIT 支持的芯片,支持soc版本(ascend950等)与npuArch版本(dav_3510等)混配,必须与TILING_DIR
736-# COMPUTE_UNIT 兼容参数:设置支持芯片版本号(soc列表),必须与TILING_DIR一一对应,内部逐项转换为npuArch后统一按arch匹配;与NPU_ARCH互斥736+# 按位置一一对应;函数内逐项将soc转换为npuArch后统一按arch匹配(同arch的soc共享tiling目录,
737-# TILING_DIR 设置所支持芯片类型对应的tiling文件目录,必须与NPU_ARCH(或COMPUTE_UNIT)一一对应,示例:arch22 arch35737+# 如ascend950与ascend350同为dav_3510)
738-# 同一芯片型号如需配置多个tiling目录,可在NPU_ARCH(或COMPUTE_UNIT)中重复填写该型号并按位置配对多个目录,738+# TILING_DIR 设置所支持芯片类型对应的tiling文件目录,必须与COMPUTE_UNIT一一对应,示例:arch22 arch35
739-# 示例:NPU_ARCH dav_9202 dav_9202 dav_3510 TILING_DIR arch22 arch35 arch35739+# 同一芯片型号如需配置多个tiling目录,可在COMPUTE_UNIT中重复填写该型号并按位置配对多个目录,
740+# 示例:COMPUTE_UNIT dav_9202 dav_9202 dav_3510 TILING_DIR arch22 arch35 arch35
740# 注意:同一芯片的多个tiling目录中,算子注册(IMPL_OP_OPTILING,符号名按算子类型固定)只能存在于其中一个目录741# 注意:同一芯片的多个tiling目录中,算子注册(IMPL_OP_OPTILING,符号名按算子类型固定)只能存在于其中一个目录
741-# (建议首个主目录,其余目录仅放公共tiling代码);同一芯片重复配对同一目录属于配置错误,configure阶段显式报错742+# (建议首个主目录,其余目录仅放公共tiling代码);同arch多soc配对同一目录属合法冗余,收集后自动去重
742# DISABLE_IN_OPP 设置是否在opp包中编译tiling文件,布尔类型:TRUE,FALSE743# DISABLE_IN_OPP 设置是否在opp包中编译tiling文件,布尔类型:TRUE,FALSE
743# ALLOW_HF32 配置算子允许HF32执行,取值:enable_hi_float_32_execution / enable_float_32_execution,744# ALLOW_HF32 配置算子允许HF32执行,取值:enable_hi_float_32_execution / enable_float_32_execution,
744# 配置后记录OPTYPE对应的算子并按OPTYPE去重,用于生成ops_allow_hf32_nn.ini745# 配置后记录OPTYPE对应的算子并按OPTYPE去重,用于生成ops_allow_hf32_nn.ini
745# 需一一对应746# 需一一对应
746function(add_modules_sources)747function(add_modules_sources)
747- set(multiValueArgs OPTYPE ACLNNTYPE DEPENDENCIES NPU_ARCH COMPUTE_UNIT TILING_DIR DIR)748+ set(multiValueArgs OPTYPE ACLNNTYPE DEPENDENCIES COMPUTE_UNIT TILING_DIR DIR)
748 set(oneValueArgs DISABLE_IN_OPP ALLOW_HF32 HOSTCPU)749 set(oneValueArgs DISABLE_IN_OPP ALLOW_HF32 HOSTCPU)
749 750 
750 cmake_parse_arguments(MODULE "" "${oneValueArgs}" "${multiValueArgs}" ${ARGN})751 cmake_parse_arguments(MODULE "" "${oneValueArgs}" "${multiValueArgs}" ${ARGN})
@@ -814,31 +815,26 @@ function(add_modules_sources)
814 target_sources(${OPHOST_NAME}_infer_obj PRIVATE ${OPINFER_SRCS})815 target_sources(${OPHOST_NAME}_infer_obj PRIVATE ${OPINFER_SRCS})
815 endif()816 endif()
816 817 
817- # 添加tiling文件:NPU_ARCH 与 TILING_DIR 按位置一一配对;兼容旧 COMPUTE_UNIT 参数,818+ # 添加tiling文件:COMPUTE_UNIT 与 TILING_DIR 按位置一一配对,支持 soc(ascend950 等)与 npuArch
818- # 逐项转换为 npuArch(字符串拼接保留空元素位置,避免 list(APPEND) 丢弃空元素导致错位),819+ # (dav_3510 等)混配,逐项将 soc 转换为 npuArch(npuArch 串原样保留小写)后统一按 arch 匹配;
819- # 当前构建芯片同样转换为 npuArch 后统一按 arch 匹配820+ # 当前构建芯片同样转换为 npuArch 后参与匹配;同一芯片型号允许出现多次,
820- # 同一芯片型号允许出现多次,此时会收集所有配对的 tiling 目录(一个芯片型号可配置多个目录)821+ # 此时收集所有配对的 tiling 目录(一个芯片型号可配置多个目录)
821- if(MODULE_NPU_ARCH)822+ set(_arch_keys "")
822- get_npu_arch_by_soc_version("${ASCEND_COMPUTE_UNIT}" _cur_key)823+ foreach(_unit IN LISTS MODULE_COMPUTE_UNIT)
823- set(_cur_keys "${MODULE_NPU_ARCH}")824+ get_npu_arch_by_soc_version("${_unit}" _unit_arch)
824- else()825+ if(_unit_arch)
825- set(_cur_key "${ASCEND_COMPUTE_UNIT}")826+ list(APPEND _arch_keys "${_unit_arch}")
826- set(_cur_keys "${MODULE_COMPUTE_UNIT}")827+ else()
827- endif()828+ string(TOLOWER "${_unit}" _unit_lower)
828- 829+ list(APPEND _arch_keys "${_unit_lower}")
829- find_values_by_key("${_cur_keys}" "${MODULE_TILING_DIR}" "${_cur_key}" tiling_dir)
830- # 同一芯片重复配对同一 tiling 目录属于算子配置错误,configure 阶段显式报错,避免链接期 multiple definition
831- if(tiling_dir)
832- set(_tiling_dir_dedup "${tiling_dir}")
833- list(LENGTH tiling_dir _tiling_dir_count)
834- list(REMOVE_DUPLICATES _tiling_dir_dedup)
835- list(LENGTH _tiling_dir_dedup _tiling_dir_dedup_count)
836- if(NOT _tiling_dir_count EQUAL _tiling_dir_dedup_count)
837- message(FATAL_ERROR
838- "add_modules_sources ${MODULE_OPTYPE}: 当前芯片 ${_cur_key} 重复配对了相同的 tiling 目录 [${tiling_dir}],"
839- "请检查 NPU_ARCH/COMPUTE_UNIT 与 TILING_DIR 的配对配置")
840 endif()830 endif()
841- unset(_tiling_dir_dedup)831+ endforeach()
832+ get_npu_arch_by_soc_version("${ASCEND_COMPUTE_UNIT}" _cur_key)
833+ find_values_by_key("${_arch_keys}" "${MODULE_TILING_DIR}" "${_cur_key}" tiling_dir)
834+ # soc 风格声明(如 ascend910b 与 ascend910_93 同属 dav_2201 且配对同一目录)arch 化后会产生重复的
835+ # (arch, 目录) 配对,属合法冗余:去重后使用,避免同一目录被收集两次导致 tiling 源文件重复编译
836+ if(tiling_dir)
837+ list(REMOVE_DUPLICATES tiling_dir)
842 endif()838 endif()
843 add_tiling_sources("${SOURCE_DIR}" "${tiling_dir}" "${MODULE_DISABLE_IN_OPP}")839 add_tiling_sources("${SOURCE_DIR}" "${tiling_dir}" "${MODULE_DISABLE_IN_OPP}")
844 840 
@@ -1033,9 +1029,11 @@ endfunction()
1033# 2.调用asc_opc工具 算子名.py 中auto_sync与compile_option中的配置项。1029# 2.调用asc_opc工具 算子名.py 中auto_sync与compile_option中的配置项。
1034# 格式如下所示:1030# 格式如下所示:
1035# [KERNEL_SRC op_name.cpp] 算子入口文件,缺省为算子名.cpp1031# [KERNEL_SRC op_name.cpp] 算子入口文件,缺省为算子名.cpp
1036-# [COMPUTE_UNITS ascendxx] soc版本,支持配置多个unit,缺省为配置所有的soc(兼容参数,1032+# [COMPUTE_UNITS ascendxx/dav_xxxx] 支持的芯片,支持soc版本(ascend950等)与npuArch版本(dav_3510等)混配,
1037-# 内部逐项转换为npuArch后统一按arch匹配;与NPU_ARCH互斥)1033+# 可配置多个,缺省为配置所有的soc。soc条目按精确soc匹配(不波及同arch的
1038-# [NPU_ARCH dav_2201] npuArch版本,支持配置多个,缺省为全部支持1034+# 其他soc,如ascend950条目仅在构建ascend950时命中);npuArch条目按arch
1035+# 匹配,覆盖该arch下全部soc。同一算子同一arch的声明形式必须统一:要么
1036+# 逐个声明其下soc,要么仅声明npuArch,两种形式混用即配置冲突,编译期报错
1039# [SIMPLIFIED_KEY 0/None] 缺省为0,最终的编译参数则是--simplified_key_mode=0,若设置为None,则不会携带该参数1037# [SIMPLIFIED_KEY 0/None] 缺省为0,最终的编译参数则是--simplified_key_mode=0,若设置为None,则不会携带该参数
1040# [AUTO_SYNC false] 同步选项,缺省为true1038# [AUTO_SYNC false] 同步选项,缺省为true
1041# [IMPL_MODE high_performance] 高性能模式,缺省为high_performance[,optional] [optional]是可选的1039# [IMPL_MODE high_performance] 高性能模式,缺省为high_performance[,optional] [optional]是可选的
@@ -1046,7 +1044,7 @@ function(add_kernel_sources)
1046 endif()1044 endif()
1047 1045 
1048 set(oneValueArgs KERNEL_SRC SIMPLIFIED_KEY AUTO_SYNC IMPL_MODE)1046 set(oneValueArgs KERNEL_SRC SIMPLIFIED_KEY AUTO_SYNC IMPL_MODE)
1049- set(multiValueArgs COMPUTE_UNITS NPU_ARCH OPTIONS)1047+ set(multiValueArgs COMPUTE_UNITS OPTIONS)
1050 cmake_parse_arguments(MODULE "" "${oneValueArgs}" "${multiValueArgs}" ${ARGN})1048 cmake_parse_arguments(MODULE "" "${oneValueArgs}" "${multiValueArgs}" ${ARGN})
atomgit-bot
atomgit-botatomgit-bot9 days ago

🟡 Medium Priority

变更行 func.cmake:1004 从 multiValueArgs 中删除了 NPU_ARCH,但 add_kernel_sources 全程未检查 ${MODULE_UNPARSED_ARGUMENTS}(本文件 cmake/ 下也无任何 UNPARSED_ARGUMENTS 校验)。

证据链:

  1. 同仓 add_modules_sources / add_all_modules_sources 仍把 NPU_ARCH 作为主参数并把 COMPUTE_UNIT 作兼容参数(cmake/func.cmake:706-710、:716、:1607-1614、:1633),两个入口在同一份算子 CMakeLists 里常被同时使用,参数契约出现分叉。
  2. 本 diff 删除的旧注释(原 992 行)明确把 NPU_ARCH 记录为 add_kernel_sources 的合法入参,说明存量调用方可能仍在用。
  3. cmake_parse_arguments 对未知关键字不报错:NPU_ARCH dav_2201 会连同取值一起进入 MODULE_UNPARSED_ARGUMENTS,MODULE_COMPUTE_UNITS 保持为空。

失败模式:残留的 NPU_ARCH dav_2201 调用会静默丢失芯片过滤——func.cmake:1021 判断为假进入 func.cmake:1036-1037 的 else,MODULE_COMPUTE_UNITS 被置为 "ALL",该 kernel 改为在所有 soc 上编译/注册(旧行为只在 dav_2201 上),可能产生多余二进制或在不适配 soc 上编译失败,且日志无任何提示。

建议:在 cmake_parse_arguments 之后增加 if(MODULE_UNPARSED_ARGUMENTS) message(FATAL_ERROR "add_kernel_sources: unsupported args ${MODULE_UNPARSED_ARGUMENTS}, use COMPUTE_UNITS (soc or dav_xxxx)") 快速失败;若需兼容,则保留 NPU_ARCH 关键字并与 COMPUTE_UNITS 一起并入 _arch_list。

likedislike
Incorrect?
1051 1049 
1052 # 兼容两种调用位置:在 op_kernel 目录内调用(旧)或在算子顶层调用(新)1050 # 兼容两种调用位置:在 op_kernel 目录内调用(旧)或在算子顶层调用(新)
@@ -1058,18 +1056,40 @@ function(add_kernel_sources)
1058 get_filename_component(OP_DIR ${SOURCE_DIR} DIRECTORY)1056 get_filename_component(OP_DIR ${SOURCE_DIR} DIRECTORY)
1059 get_filename_component(op_name ${OP_DIR} NAME)1057 get_filename_component(op_name ${OP_DIR} NAME)
1060 1058 
1061- # 支持芯片过滤:优先 NPU_ARCH(npuArch 列表),兼容旧 COMPUTE_UNITS(soc 列表,逐项转换为1059+ # 支持芯片过滤:仅 COMPUTE_UNITS,支持 soc(ascend950 等)与 npuArch(dav_3510 等)混配:
1062- # npuArch);当前构建芯片同样转换为 npuArch 后统一按 arch 匹配,未配置时视为全部支持。1060+ # soc 条目精确匹配当前芯片,npuArch 条目按 arch 匹配覆盖该 arch 下全部 soc,未配置视为全部支持。
1063- # 注意 arch 化后同 arch 的 soc 共享过滤结果(如 ascend950 与 ascend350 同为 dav_3510)1061+ # 同一算子同一 arch 不允许 npuArch 条目与其下 soc 条目混用(要么逐个声明其下 soc,要么仅声明 npuArch),
1064- set(_arch_list "")1062+ # 以 soc:<arch>/arch:<arch> 形式跨段记录声明,发现两种形式并存即配置冲突,编译期报错
1065- if(MODULE_NPU_ARCH)1063+ set(_arch_explicit "")
1066- set(_arch_list "${MODULE_NPU_ARCH}")1064+ set(_decl "${_aks_decl_${op_name}}")
1065+ if(MODULE_COMPUTE_UNITS)
1066+ foreach(_unit IN LISTS MODULE_COMPUTE_UNITS)
1067+ get_npu_arch_by_soc_version("${_unit}" _seg_arch)
1068+ if(_seg_arch)
1069+ set(_mine "soc:${_seg_arch}")
1070+ set(_foe "arch:${_seg_arch}")
1071+ else()
1072+ string(TOLOWER "${_unit}" _seg_arch)
1073+ set(_mine "arch:${_seg_arch}")
1074+ set(_foe "soc:${_seg_arch}")
1075+ list(APPEND _arch_explicit "${_seg_arch}")
1076+ endif()
1077+ if("${_foe}" IN_LIST _decl)
1078+ message(FATAL_ERROR
1079+ "add_kernel_sources: op ${op_name} COMPUTE_UNITS declaration conflict: npuArch entry "
1080+ "and soc entry \"${_unit}\" are both declared for arch \"${_seg_arch}\"; the "
1081+ "declaration form must be consistent per arch, either list all its soc versions "
1082+ "or only the npuArch")
1083+ elseif(NOT "${_mine}" IN_LIST _decl)
1084+ list(APPEND _decl "${_mine}")
1085+ endif()
atomgit-bot
atomgit-botatomgit-bot9 days ago

🟡 Medium Priority

变更行 func.cmake:1026-1029 在 unit 无法映射为 arch 时把 unit 小写后放入 _arch_list;但 func.cmake:1032 参与比较的 _cur_arch 只由 get_npu_arch_by_soc_version("${ASCEND_COMPUTE_UNIT}") 得到,当前构建 soc 不在 ASCEND_ALL_COMPUTE_UNIT 时返回空串(func.cmake:1235 注释明确列出 ascend910_55 这类未映射 soc),不会退化为小写 soc 名。

失败模式:

  1. 若某算子声明 COMPUTE_UNITS ascend910_55 并在 ascend910_55 上构建:旧实现按字符串精确相等可命中;新实现两边都取不到 arch,"" IN_LIST {ascend910_55} 恒为假 → func.cmake:1034 直接 return(),该 kernel 静默不编译、不进入安装包,运行期表现为算子/二进制缺失,且构建日志无任何提示。
  2. 同理,传入拼写错误或映射表外的 unit(如 dav_3150)时同样静默不生效。
  3. 1026-1029 的小写兜底分支实际是死分支:它能放进去的只有 arch 形式的串(因为 soc 形式一定已被映射),对真正未映射的 soc 无法与空 _cur_arch 相等。

建议:除 _unit_arch 外,也把当前构建 soc 的小写串纳入比较:string(TOLOWER "${ASCEND_COMPUTE_UNIT}" _cur_soc_lower),if(NOT "${_cur_arch}" IN_LIST _arch_list AND NOT "${_cur_soc_lower}" IN_LIST _arch_list) return();并对无法映射的 unit/当前 soc 打 WARNING,避免芯片过滤静默失效。

likedislike
Incorrect?
1086+ endforeach()
1087+ set(_aks_decl_${op_name} "${_decl}" PARENT_SCOPE)
1088+ 
1089+ # 命中:精确 soc 命中,或显式 npuArch 条目覆盖当前芯片 arch
1067 get_npu_arch_by_soc_version("${ASCEND_COMPUTE_UNIT}" _cur_arch)1090 get_npu_arch_by_soc_version("${ASCEND_COMPUTE_UNIT}" _cur_arch)
1068- if(NOT "${_cur_arch}" IN_LIST _arch_list)1091+ if(NOT ("${ASCEND_COMPUTE_UNIT}" IN_LIST MODULE_COMPUTE_UNITS
1069- return()1092+ OR "${_cur_arch}" IN_LIST _arch_explicit))
1070- endif()
1071- elseif(MODULE_COMPUTE_UNITS)
1072- if(NOT "${ASCEND_COMPUTE_UNIT}" IN_LIST MODULE_COMPUTE_UNITS)
1073 return()1093 return()
1074 endif()1094 endif()
1075 else()1095 else()
@@ -1137,7 +1157,23 @@ function(add_kernel_sources)
1137 set(target_compute_units "${ASCEND_COMPUTE_UNIT}")1157 set(target_compute_units "${ASCEND_COMPUTE_UNIT}")
1138 endif()1158 endif()
1139 1159 
1140- list(APPEND kernel_src_list "${op_type} ${target_compute_units} ${MODULE_KERNEL_SRC}")1160+ # 同一 KERNEL_SRC 在同一芯片下只允许登记一段,此检查仅拦截完全相同的重复条目:同一算子两段默认
1161+ # (均为 "<op> ALL <src>")、或当前芯片被两段显式配置重复命中且 KERNEL_SRC 相同(均为
1162+ # "<op> <soc> <src>")时,kernel 配置重复且 OPTIONS 可能不一致,在此显式报错防止静默错乱。
1163+ # 注意:默认段(未配置 COMPUTE_UNITS)与显式段的重叠不会被此检查拦截——两者条目字符串不同,均会
1164+ # 登记,"显式覆盖默认"由下游 insert_kernel_src.py 的替换逻辑实现;该替换依赖登记顺序,默认段必须
1165+ # 声明在显式段之前,否则生成的 ini 中会出现重复的 kernelSrc.value 行(当前仓库混用算子均默认段
1166+ # 在前,注意保持此顺序)
1167+ set(_kernel_src_entry "${op_type} ${target_compute_units} ${MODULE_KERNEL_SRC}")
1168+ if("${_kernel_src_entry}" IN_LIST kernel_src_list)
1169+ message(FATAL_ERROR
1170+ "add_kernel_sources: op ${op_name} KERNEL_SRC \"${MODULE_KERNEL_SRC}\" registered "
1171+ "duplicated on \"${ASCEND_COMPUTE_UNIT}\"; the same KERNEL_SRC is not allowed to be hit "
1172+ "by multiple segments on the same soc, please merge the duplicated segments or fix "
1173+ "their COMPUTE_UNITS")
1174+ endif()
1175+ 
1176+ list(APPEND kernel_src_list "${_kernel_src_entry}")
1141 list(APPEND simplified_key_list "${op_type} ${target_compute_units} ${simplified_key}")1177 list(APPEND simplified_key_list "${op_type} ${target_compute_units} ${simplified_key}")
1142 list(APPEND impl_mode_list "${op_type} ${target_compute_units} ${impl_mode}")1178 list(APPEND impl_mode_list "${op_type} ${target_compute_units} ${impl_mode}")
1143 set(kernel_src_list ${kernel_src_list} CACHE INTERNAL "kernel_src")1179 set(kernel_src_list ${kernel_src_list} CACHE INTERNAL "kernel_src")
@@ -1643,14 +1679,14 @@ endmacro()
1643# [OPTYPE op_name] 算子类型名称,缺省自动取算子目录名;显式传入时以用户设置为准1679# [OPTYPE op_name] 算子类型名称,缺省自动取算子目录名;显式传入时以用户设置为准
1644# ACLNNTYPE aclnn_type aclnn类型,必填,支持 aclnn/aclnn_inner/aclnn_exclude1680# ACLNNTYPE aclnn_type aclnn类型,必填,支持 aclnn/aclnn_inner/aclnn_exclude
1645# [DEPENDENCIES dep_op...] 依赖的算子名称列表,缺省为空1681# [DEPENDENCIES dep_op...] 依赖的算子名称列表,缺省为空
1646-# [COMPUTE_UNIT ascendxx...] 支持的芯片版本号,必须与TILING_DIR一一对应,缺省为配置所有的soc1682+# [COMPUTE_UNIT ascendxx/dav_xxxx...] 支持的芯片,支持soc版本(ascend950等)与npuArch版本(dav_3510等)
1647-# [NPU_ARCH dav_2201 dav_3510] 设置支持的npuArch列表,必须与TILING_DIR一一对应,缺省为配置所有的npuArch1683+# 混配,必须与TILING_DIR按位置一一对应,缺省为配置所有的soc
1648# [TILING_DIR archxx...] 每种芯片类型对应的tiling文件目录,必须与COMPUTE_UNIT一一对应,缺省为空1684# [TILING_DIR archxx...] 每种芯片类型对应的tiling文件目录,必须与COMPUTE_UNIT一一对应,缺省为空
1649# [DISABLE_IN_OPP TRUE/FALSE] 是否在opp包中编译tiling文件,缺省为FALSE1685# [DISABLE_IN_OPP TRUE/FALSE] 是否在opp包中编译tiling文件,缺省为FALSE
1650# [ALLOW_HF32 xxx] 配置算子允许HF32执行,取值:enable_hi_float_32_execution / enable_float_32_execution1686# [ALLOW_HF32 xxx] 配置算子允许HF32执行,取值:enable_hi_float_32_execution / enable_float_32_execution
1651macro(add_all_modules_sources)1687macro(add_all_modules_sources)
1652 set(oneValueArgs DISABLE_IN_OPP HOSTCPU ALLOW_HF32)1688 set(oneValueArgs DISABLE_IN_OPP HOSTCPU ALLOW_HF32)
1653- set(multiValueArgs OPTYPE ACLNNTYPE DEPENDENCIES COMPUTE_UNIT NPU_ARCH TILING_DIR)1689+ set(multiValueArgs OPTYPE ACLNNTYPE DEPENDENCIES COMPUTE_UNIT TILING_DIR)
1654 1690 
1655 cmake_parse_arguments(MODULE "" "${oneValueArgs}" "${multiValueArgs}" ${ARGN})1691 cmake_parse_arguments(MODULE "" "${oneValueArgs}" "${multiValueArgs}" ${ARGN})
1656 1692 
@@ -1669,25 +1705,35 @@ macro(add_all_modules_sources)
1669 endif()1705 endif()
1670 1706 
1671 add_modules_sources(DIR ${_HOST_DIR} OPTYPE ${MODULE_OPTYPE} ACLNNTYPE ${MODULE_ACLNNTYPE}1707 add_modules_sources(DIR ${_HOST_DIR} OPTYPE ${MODULE_OPTYPE} ACLNNTYPE ${MODULE_ACLNNTYPE}
1672- DEPENDENCIES ${MODULE_DEPENDENCIES} COMPUTE_UNIT ${MODULE_COMPUTE_UNIT} NPU_ARCH ${MODULE_NPU_ARCH}1708+ DEPENDENCIES ${MODULE_DEPENDENCIES} COMPUTE_UNIT ${MODULE_COMPUTE_UNIT}
1673 TILING_DIR ${MODULE_TILING_DIR} DISABLE_IN_OPP ${MODULE_DISABLE_IN_OPP}1709 TILING_DIR ${MODULE_TILING_DIR} DISABLE_IN_OPP ${MODULE_DISABLE_IN_OPP}
1674 HOSTCPU ${MODULE_HOSTCPU}1710 HOSTCPU ${MODULE_HOSTCPU}
1675 ALLOW_HF32 ${MODULE_ALLOW_HF32})1711 ALLOW_HF32 ${MODULE_ALLOW_HF32})
1676 1712 
1677 # UT 侧 tiling 目录与源侧同规则:只取当前构建芯片配对的目录,避免其他芯片的1713 # UT 侧 tiling 目录与源侧同规则:只取当前构建芯片配对的目录,避免其他芯片的
1678 # test_*_tiling.cpp 收进当前芯片 UT(其依赖的 tiling 实现未编译进本芯片静态库)1714 # test_*_tiling.cpp 收进当前芯片 UT(其依赖的 tiling 实现未编译进本芯片静态库)
1679- if(MODULE_NPU_ARCH)1715+ set(_ut_cur_keys "")
1680- get_npu_arch_by_soc_version("${ASCEND_COMPUTE_UNIT}" _ut_cur_key)1716+ foreach(_ut_unit IN LISTS MODULE_COMPUTE_UNIT)
1681- set(_ut_cur_keys "${MODULE_NPU_ARCH}")1717+ get_npu_arch_by_soc_version("${_ut_unit}" _ut_unit_arch)
1682- else()1718+ if(_ut_unit_arch)
1683- set(_ut_cur_key "${ASCEND_COMPUTE_UNIT}")1719+ list(APPEND _ut_cur_keys "${_ut_unit_arch}")
1684- set(_ut_cur_keys "${MODULE_COMPUTE_UNIT}")1720+ else()
1685- endif()1721+ string(TOLOWER "${_ut_unit}" _ut_unit_lower)
1722+ list(APPEND _ut_cur_keys "${_ut_unit_lower}")
1723+ endif()
1724+ endforeach()
1725+ get_npu_arch_by_soc_version("${ASCEND_COMPUTE_UNIT}" _ut_cur_key)
1686 find_values_by_key("${_ut_cur_keys}" "${MODULE_TILING_DIR}" "${_ut_cur_key}" _ut_tiling_dir)1726 find_values_by_key("${_ut_cur_keys}" "${MODULE_TILING_DIR}" "${_ut_cur_key}" _ut_tiling_dir)
1727+ if(_ut_tiling_dir)
1728+ list(REMOVE_DUPLICATES _ut_tiling_dir)
1729+ endif()
1687 1730 
1688 add_all_ut_sources(OP_NAME ${_OP_NAME} UT_TILING_DIR "${_ut_tiling_dir}")1731 add_all_ut_sources(OP_NAME ${_OP_NAME} UT_TILING_DIR "${_ut_tiling_dir}")
1689 unset(_ut_cur_key)1732 unset(_ut_cur_key)
1690 unset(_ut_cur_keys)1733 unset(_ut_cur_keys)
1734+ unset(_ut_unit)
1735+ unset(_ut_unit_arch)
1736+ unset(_ut_unit_lower)
1691 unset(_ut_tiling_dir)1737 unset(_ut_tiling_dir)
1692 unset(_HOST_DIR)1738 unset(_HOST_DIR)
1693 unset(_OP_NAME)1739 unset(_OP_NAME)
@@ -26,7 +26,7 @@ add_kernel_sources(
26 26 
27add_kernel_sources(27add_kernel_sources(
28 KERNEL_SRC arch35/mat_mul_v3.cpp28 KERNEL_SRC arch35/mat_mul_v3.cpp
29- COMPUTE_UNITS ascend950 ascend350 ascend960dt ascend960pr29+ COMPUTE_UNITS dav_3510 dav_9201 ascend960pr
atomgit-bot
atomgit-botatomgit-bot9 days ago

🟡 Medium Priority

变更行(matmul/mat_mul_v3/CMakeLists.txt:29)把 arch35 kernel 的芯片列表从 soc 名改成 dav_3510 dav_9201 ascend960pr,而同一文件 35-38 行仍保留独立的 COMPUTE_UNITS mc62 调用(KERNEL_SRC 同为 arch35/mat_mul_v3.cpp,但不带 OPTIONS)。

证据链:

  1. 旧实现下两个调用是互斥的:第 27-33 行只匹配 ascend950/ascend350/ascend960dt/ascend960pr,mc62 构建只能命中第 35-38 行(soc 精确匹配)。
  2. 新实现按 arch 匹配(cmake/func.cmake:1029-1044),只要 mc62 的 arch 落在 {dav_3510, dav_9201, dav_9202} 之内,mc62 构建就会同时命中第 29 行与第 37 行。func.cmake:1212-1229 的 map_compute_unit/get_target_dir 把 mc62(mc62cm12aa)与 ascend950/350/960dt/960pr 归到同一个 arch35 编译目录,说明 mc62 属于同一 arch 族,命中重叠的概率很高。
  3. 命中重叠后 func.cmake:1110-1124 会为同一 (op_type, mc62) 追加两条 kernel_src/option 记录,一条带 --cce-no-dcache-flush -DENABLE_CV_COMM_VIA_SSBUF=true、一条不带,形成重复且选项不一致的注册。
  4. 同一行还把 arch 名(dav_3510/dav_9201)与 soc 名(ascend960pr)混写:按本 PR 自己在 matmul/rotate_quant/CMakeLists.txt:12 的说明,ascend960pr 属 dav_9202,此处既然已改为 arch 命名,直接写 dav_9202 才与该行其余项一致,且不依赖「映射表里必须有 ascend960pr」这一前提(否则会退化为 cmake/func.cmake:1035-1038 的小写兜底并与当前构建侧不对称而失配)。

失效模式:mc62 构建时 mat_mul_v3 的 arch35 kernel 被重复注册且编译选项不一致(编译耗时翻倍,或下游按后写覆盖导致丢失 ENABLE_CV_COMM_VIA_SSBUF 等选项,进而改变 kernel 行为);若 ascend960pr 不在映射表内,ascend960pr 构建将丢失 arch35 kernel。

建议:核对 mc62 的 arch:若 mc62 属 dav_3510/dav_9201/dav_9202 之一,则第 29 行的 arch 列表会与第 35-38 行的 mc62 调用重叠,需合并为一次调用(保留统一 OPTIONS)或调整列表避免重叠;另把 ascend960pr 改为 dav_9202,与该行其余 arch 命名保持一致,避免依赖映射表中是否登记 ascend960pr。

likedislike
Incorrect?
30 SIMPLIFIED_KEY None30 SIMPLIFIED_KEY None
31 AUTO_SYNC false31 AUTO_SYNC false
32 OPTIONS "--cce-no-dcache-flush" "-DENABLE_CV_COMM_VIA_SSBUF=true"32 OPTIONS "--cce-no-dcache-flush" "-DENABLE_CV_COMM_VIA_SSBUF=true"
@@ -8,14 +8,14 @@
8# See LICENSE in the root of the software repository for the full text of the License.8# See LICENSE in the root of the software repository for the full text of the License.
9# ----------------------------------------------------------------------------9# ----------------------------------------------------------------------------
10 10 
11-# 设置算子定义时支持的芯片架构(ascend910b/ascend910_93 同属 dav_2201,ascend950/ascend350 同属 dav_3510,11+# 设置算子定义时支持的芯片(支持soc版本与npuArch版本混配;ascend910b/ascend910_93 同属 dav_2201,
12-# ascend960dt 属 dav_9201,ascend960pr 属 dav_9202)12+# ascend950/ascend350 同属 dav_3510,ascend960dt 属 dav_9201,ascend960pr 属 dav_9202)
13-set(SUPPORT_NPU_ARCH "dav_2201" "dav_3510" "dav_9201" "dav_9202")13+set(SUPPORT_COMPUTE_UNIT "dav_2201" "dav_3510" "dav_9201" "dav_9202")
14-# 设置每种芯片架构对应的tiling文件目录,即采用op_host目录下哪个文件夹下的tiling文件编译14+# 设置每种芯片对应的tiling文件目录,即采用op_host目录下哪个文件夹下的tiling文件编译
15set(SUPPORT_TILING_DIR "arch22" "arch35" "arch35" "arch35")15set(SUPPORT_TILING_DIR "arch22" "arch35" "arch35" "arch35")
16add_all_modules_sources(16add_all_modules_sources(
17 ACLNNTYPE aclnn_exclude17 ACLNNTYPE aclnn_exclude
18- NPU_ARCH ${SUPPORT_NPU_ARCH}18+ COMPUTE_UNIT ${SUPPORT_COMPUTE_UNIT}
19 TILING_DIR ${SUPPORT_TILING_DIR}19 TILING_DIR ${SUPPORT_TILING_DIR}
20 DISABLE_IN_OPP TRUE20 DISABLE_IN_OPP TRUE
21)21)