Star849

Star849

文件	最后提交记录	最后更新时间
docs	打标签 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !8285 merge master into master 打标签 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8285	10 天前
examples	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	1 个月前
op_api	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	1 个月前
op_graph	support add_all_module_source支持一个算子只配置一个CMakeList.txt Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !8380 merge master into master support add_all_module_source支持一个算子只配置一个CMakeList.txt Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: 此 PR 引入了新的 CMake 宏 add_all_modules_sources 作为算子顶层 CMakeLists.txt 的统一编译入口，旨在简化算子构建配置。同时，底层函数 add_kernel_sources 和 AddOpTestCase 也进行了适配，支持从算子顶层目录调用，替代原先必须在特定子目录（如 op_kernel、tests/ut/op_kernel）内调用的限制。整体改动通过自适应目录位置、收编 UT 源收集逻辑，提升构建系统的灵活性和可维护性。主要改动新增 add_all_modules_sources 宏：在 cmake/func.cmake 中新增统一入口宏，支持 OPTYPE、ACLNNTYPE、DEPENDENCIES、COMPUTE_UNIT、TILING_DIR、DISABLE_IN_OPP 等参数；自动适配 op_api 目录在算子根或 op_host 子目录下的两种布局，内部复用 add_modules_sources 并触发 add_all_ut_sources 收集 UT 源。新增 add_all_ut_sources 宏：在 cmake/func.cmake 中新增 UT 源收集宏，根据 UT_TEST_ALL、OP_API_UT、OP_HOST_UT、OP_GRAPH_UT 等条件分别收集 tests/ut/op_api、tests/ut/op_host、tests/ut/op_graph 下的测试源文件，并兼容历史布局 tests/ut/op_host/op_api。 add_kernel_sources 适配新调用位置：当 CMAKE_CURRENT_SOURCE_DIR 不以 /op_kernel 结尾时，自动将 SOURCE_DIR 拼接 /op_kernel 子目录，使该函数支持从算子顶层目录被调用。 AddOpTestCase 支持自定义 UT 源目录：新增 UT_SRC_DIR 参数用于指定 UT 源文件所在目录；_tiling_def.h 的 include 路径和 *.cpp 测试用例文件的 file(GLOB) 扫描路径均改用 _ut_src_dir 变量，替代原先硬编码的 CMAKE_CURRENT_SOURCE_DIR。 AddOpTestCase 优化算子目录推导：优先使用 add_op_subdirectory 设置的全局变量 OP_DIR 确定算子根目录，当该变量未定义或为空时才回退到原有的三级父目录推导逻辑（tests/ut/op_kernel 内部调用方式），增强了从算子顶层调用的兼容性。 See merge request: cann/ops-nn!8380	5 天前
op_host	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	1 个月前
op_kernel	support add_all_module_source支持一个算子只配置一个CMakeList.txt Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !8380 merge master into master support add_all_module_source支持一个算子只配置一个CMakeList.txt Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: 此 PR 引入了新的 CMake 宏 add_all_modules_sources 作为算子顶层 CMakeLists.txt 的统一编译入口，旨在简化算子构建配置。同时，底层函数 add_kernel_sources 和 AddOpTestCase 也进行了适配，支持从算子顶层目录调用，替代原先必须在特定子目录（如 op_kernel、tests/ut/op_kernel）内调用的限制。整体改动通过自适应目录位置、收编 UT 源收集逻辑，提升构建系统的灵活性和可维护性。主要改动新增 add_all_modules_sources 宏：在 cmake/func.cmake 中新增统一入口宏，支持 OPTYPE、ACLNNTYPE、DEPENDENCIES、COMPUTE_UNIT、TILING_DIR、DISABLE_IN_OPP 等参数；自动适配 op_api 目录在算子根或 op_host 子目录下的两种布局，内部复用 add_modules_sources 并触发 add_all_ut_sources 收集 UT 源。新增 add_all_ut_sources 宏：在 cmake/func.cmake 中新增 UT 源收集宏，根据 UT_TEST_ALL、OP_API_UT、OP_HOST_UT、OP_GRAPH_UT 等条件分别收集 tests/ut/op_api、tests/ut/op_host、tests/ut/op_graph 下的测试源文件，并兼容历史布局 tests/ut/op_host/op_api。 add_kernel_sources 适配新调用位置：当 CMAKE_CURRENT_SOURCE_DIR 不以 /op_kernel 结尾时，自动将 SOURCE_DIR 拼接 /op_kernel 子目录，使该函数支持从算子顶层目录被调用。 AddOpTestCase 支持自定义 UT 源目录：新增 UT_SRC_DIR 参数用于指定 UT 源文件所在目录；_tiling_def.h 的 include 路径和 *.cpp 测试用例文件的 file(GLOB) 扫描路径均改用 _ut_src_dir 变量，替代原先硬编码的 CMAKE_CURRENT_SOURCE_DIR。 AddOpTestCase 优化算子目录推导：优先使用 add_op_subdirectory 设置的全局变量 OP_DIR 确定算子根目录，当该变量未定义或为空时才回退到原有的三级父目录推导逻辑（tests/ut/op_kernel 内部调用方式），增强了从算子顶层调用的兼容性。 See merge request: cann/ops-nn!8380	5 天前
tests	support add_all_module_source支持一个算子只配置一个CMakeList.txt Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !8380 merge master into master support add_all_module_source支持一个算子只配置一个CMakeList.txt Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: 此 PR 引入了新的 CMake 宏 add_all_modules_sources 作为算子顶层 CMakeLists.txt 的统一编译入口，旨在简化算子构建配置。同时，底层函数 add_kernel_sources 和 AddOpTestCase 也进行了适配，支持从算子顶层目录调用，替代原先必须在特定子目录（如 op_kernel、tests/ut/op_kernel）内调用的限制。整体改动通过自适应目录位置、收编 UT 源收集逻辑，提升构建系统的灵活性和可维护性。主要改动新增 add_all_modules_sources 宏：在 cmake/func.cmake 中新增统一入口宏，支持 OPTYPE、ACLNNTYPE、DEPENDENCIES、COMPUTE_UNIT、TILING_DIR、DISABLE_IN_OPP 等参数；自动适配 op_api 目录在算子根或 op_host 子目录下的两种布局，内部复用 add_modules_sources 并触发 add_all_ut_sources 收集 UT 源。新增 add_all_ut_sources 宏：在 cmake/func.cmake 中新增 UT 源收集宏，根据 UT_TEST_ALL、OP_API_UT、OP_HOST_UT、OP_GRAPH_UT 等条件分别收集 tests/ut/op_api、tests/ut/op_host、tests/ut/op_graph 下的测试源文件，并兼容历史布局 tests/ut/op_host/op_api。 add_kernel_sources 适配新调用位置：当 CMAKE_CURRENT_SOURCE_DIR 不以 /op_kernel 结尾时，自动将 SOURCE_DIR 拼接 /op_kernel 子目录，使该函数支持从算子顶层目录被调用。 AddOpTestCase 支持自定义 UT 源目录：新增 UT_SRC_DIR 参数用于指定 UT 源文件所在目录；_tiling_def.h 的 include 路径和 *.cpp 测试用例文件的 file(GLOB) 扫描路径均改用 _ut_src_dir 变量，替代原先硬编码的 CMAKE_CURRENT_SOURCE_DIR。 AddOpTestCase 优化算子目录推导：优先使用 add_op_subdirectory 设置的全局变量 OP_DIR 确定算子根目录，当该变量未定义或为空时才回退到原有的三级父目录推导逻辑（tests/ut/op_kernel 内部调用方式），增强了从算子顶层调用的兼容性。 See merge request: cann/ops-nn!8380	5 天前
CMakeLists.txt	support add_all_module_source支持一个算子只配置一个CMakeList.txt Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !8380 merge master into master support add_all_module_source支持一个算子只配置一个CMakeList.txt Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: 此 PR 引入了新的 CMake 宏 add_all_modules_sources 作为算子顶层 CMakeLists.txt 的统一编译入口，旨在简化算子构建配置。同时，底层函数 add_kernel_sources 和 AddOpTestCase 也进行了适配，支持从算子顶层目录调用，替代原先必须在特定子目录（如 op_kernel、tests/ut/op_kernel）内调用的限制。整体改动通过自适应目录位置、收编 UT 源收集逻辑，提升构建系统的灵活性和可维护性。主要改动新增 add_all_modules_sources 宏：在 cmake/func.cmake 中新增统一入口宏，支持 OPTYPE、ACLNNTYPE、DEPENDENCIES、COMPUTE_UNIT、TILING_DIR、DISABLE_IN_OPP 等参数；自动适配 op_api 目录在算子根或 op_host 子目录下的两种布局，内部复用 add_modules_sources 并触发 add_all_ut_sources 收集 UT 源。新增 add_all_ut_sources 宏：在 cmake/func.cmake 中新增 UT 源收集宏，根据 UT_TEST_ALL、OP_API_UT、OP_HOST_UT、OP_GRAPH_UT 等条件分别收集 tests/ut/op_api、tests/ut/op_host、tests/ut/op_graph 下的测试源文件，并兼容历史布局 tests/ut/op_host/op_api。 add_kernel_sources 适配新调用位置：当 CMAKE_CURRENT_SOURCE_DIR 不以 /op_kernel 结尾时，自动将 SOURCE_DIR 拼接 /op_kernel 子目录，使该函数支持从算子顶层目录被调用。 AddOpTestCase 支持自定义 UT 源目录：新增 UT_SRC_DIR 参数用于指定 UT 源文件所在目录；_tiling_def.h 的 include 路径和 *.cpp 测试用例文件的 file(GLOB) 扫描路径均改用 _ut_src_dir 变量，替代原先硬编码的 CMAKE_CURRENT_SOURCE_DIR。 AddOpTestCase 优化算子目录推导：优先使用 add_op_subdirectory 设置的全局变量 OP_DIR 确定算子根目录，当该变量未定义或为空时才回退到原有的三级父目录推导逻辑（tests/ut/op_kernel 内部调用方式），增强了从算子顶层调用的兼容性。 See merge request: cann/ops-nn!8380	5 天前
README.md	docs目录基本概念md中文名改为英文名 Co-authored-by: chenjiao<chenjiao31@huawei.com> # message auto-generated for no-merge-commit merge: !7857 merge master into master docs目录基本概念md中文名改为英文名 Created-by: gitcode-chenjiao Commit-by: gitcode-chenjiao;chenjiao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> docs目录基本概念md文件名改为英文：避免link中的中文字符引发的跳转异常，例如两段式接口.md变成%E4%B8%A4%E6%AE%B5%E5%BC%8F%E6%8E%A5%E5%8F%A3.md，不易于维护，可能导致其他平台跳转有问题。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> [#4260](https://gitcode.com/cann/ops-nn/issues/4260) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ok ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> docs/zh/context所有md和对应的link ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7857	23 天前

TransposeQuantBatchMatMul

产品支持情况

产品	是否支持
Ascend 950PR/Ascend 950DT	√
Atlas A3 训练系列产品/Atlas A3 推理系列产品	×
Atlas A2 训练系列产品/Atlas A2 推理系列产品	×
Atlas 200I/500 A2 推理产品	×
Atlas 推理系列产品	×
Atlas 训练系列产品	×

功能说明

算子功能：完成张量x1与张量x2量化的矩阵乘计算，支持K-C、MX量化模式。仅支持三维的Tensor传入。Tensor支持转置，转置序列根据传入的序列进行变更。permX1代表张量x1的转置序列，支持[1,0,2]，permX2代表张量x2的转置序列，K-C模式支持[0,1,2]，MX模式支持[0,1,2]和[0,2,1]，permY表示矩阵乘输出矩阵的转置序列，当前仅支持[1,0,2]，序列值为0的是batch维度，其余两个维度做矩阵乘法。x1Scale和x2Scale表示输出矩阵的量化系数；bias为预留参数，当前暂不支持，详细约束条件可见约束说明或者aclnnTransposeQuantBatchMatMul调用说明文档。
示例：假设x1的shape是[M, B, K]，x2的shape是[B, K, N]，x1Scale和x2Scale不为None，batchSplitFactor等于1时，计算输出out的shape是[M, B, N]。

参数说明

参数名	输入/输出/属性	描述	数据类型	数据格式
x1	输入	矩阵乘运算中的左矩阵。	FLOAT8_E5M2, FLOAT8_E4M3FN	ND
x2	输入	矩阵乘运算中的右矩阵。	FLOAT8_E5M2, FLOAT8_E4M3FN	ND
bias	输入	矩阵乘运算后累加的偏置，预留参数。	FLOAT32, FLOAT16, BF16	ND
x1Scale	输入	量化参数的缩放因子。	FLOAT32、FLOAT8_E8M0	ND
x2Scale	输入	量化参数的缩放因子。	FLOAT32、FLOAT8_E8M0	ND
dtype	输入	用于指定输出矩阵的数据类型。	INT32	-
groupSize	输入	用于指定量化分组大小。	INT64	-
permX1	输入	表示矩阵乘的第一个矩阵的转置序列。	INT64	-
permX2	输入	表示矩阵乘的第二个矩阵的转置序列。	INT64	-
permY	输入	表示矩阵乘输出矩阵的转置序列。	INT64	-
batchSplitFactor	输入	用于指定矩阵乘输出矩阵中N维的切分大小。	INT32	-
y	输出	矩阵乘运算的计算结果。	FLOAT16, BFLOAT16	ND

Ascend 950PR/Ascend 950DT：只有输入x2支持FRACTAL_NZ格式。

约束说明

Ascend 950PR/Ascend 950DT：
- permX1和permY支持[1, 0, 2]
- K-C量化场景，permX2支持输入[0, 1, 2]；MX量化场景，permX2支持输入[0, 1, 2]或[0, 2, 1]。
- K-C量化场景，K仅支持512，N仅支持128。x1Scale和x2Scale为1维，并且x1Scale为(M,), x2Scale为(N,)，group_size仅支持配置为0，其他取值不生效。
- MX量化场景，K仅支持64的倍数。x1Scale和x2Scale为4维，并且x1Scale为(M, B, K/64, 2), x2Scale为(B, K/64, N, 2)或(B, N, K/64, 2)，group_size的groupSizeM和groupSizeN仅支持0或1，groupSizeK仅支持32。

调用说明

调用方式	样例代码	说明
aclnn接口	test_aclnn_quant_batch_mat_mul	通过 - aclnnTransposeQuantBatchMatMul - aclnnTransposeQuantBatchMatMulWeightNz 等方式调用TransposeQuantBatchMatMul算子。