| Files | Last commit | Last update |
|---|---|---|
docs: transpose 算子更新文档说明 Co-authored-by: zhanw_coding<zhanwang@huawei.com> # message auto-generated for no-merge-commit merge: !7492 merge doc-tp into master docs: transpose 算子更新文档说明 Created-by: zhanw_coding Commit-by: zhanw_coding Merged-by: cann-robot Description: ## 描述 本PR修正transpose算子(aclnnPermute/aclnnChannelShuffle)的文档问题,并补充Transpose的图模式(GE IR)调用样例与调用说明。主要改动如下: 1. aclnnPermute(中英文同步) - 调用示例与 conversion/transpose/examples/test_aclnn_permute.cpp逐字对齐(括号风格、aclIntArray*写法、static_cast<uint64_t>(0)、注释文字等)。 - 参数表字段规范为维度(shape)、非连续Tensor;二阶段参数名workspace_size修正为workspaceSize;workspaceSize/executor/workspace/stream描述改为规范固定话术。 - 对齐self/out的数据类型:与aclnn_permute.cpp的DTYPE_SUPPORT_LIST一致,去除多余的句号并统一排列顺序。 - 补充dims的“元素个数等于self维度数”“元素不可重复”“负数表示从尾部计数”,以及self的空Tensor支持说明。 - 错误码表补充三类ACLNN_ERR_PARAM_INVALID场景:dims元素个数与self维度数不一致、dims存在重复元素、out的shape与按dims重排self后的shape不一致(rowspan由4调整为7)。 - 约束说明仅保留“维度不超过8维”“确定性计算”,移除Contiguous/ViewCopy实现细节及“支持非连续Tensor/空Tensor”等已由参数说明承载的能力描述。 2. aclnnChannelShuffle(中英文同步) - 功能说明改为(N, C, *)张量、通道维固定为第1维(下标从0开始、长度为C),避免被误解为第-3维为channel。 - self的数据类型补充BFLOAT16,与out及代码DTYPE_SUPPORT_LIST一致。 - 新增产品差异说明:Atlas训练系列产品不支持BFLOAT16。 - groups的参数描述与拦截表统一为“通道维长度C”。 3. conversion/transpose/README(中英文同步) - 参数表中x直接给出支持的数据类型,表下按产品系列说明不支持的类型(含4bit类型与Kirin系列)。 - 修正perm、y的描述(引用x、perm),补充取值范围、元素个数与唯一性约束;约束说明同步完善。 - 调用说明统一为“调用Transpose算子”,并补充图模式调用:test_geir_permute(Permute IR)、test_geir_transpose(Transpose IR)。 4. 新增conversion/transpose/examples/test_geir_transpose.cpp - 写法参考math/truncate_mod/examples/test_geir_truncate_mod.cpp,通过op_graph/transpose_proto.h构图调用Transpose算子。 - perm为数据依赖输入,形状推导需要其取值,因此使用Const节点提供。 5. docs/zh/op_api_list.md - 同步aclnnChannelShuffle的接口说明。 ## 关联的Issue - https://gitcode.com/cann/ops-math/issues/4805 ## 测试 - 文档改动:已校验npu标签配对、代码围栏配对、相对链接有效性、HTML表格列数与行尾空白。 - 新增样例:已通过仓库.clang-format校验(clang-format --dry-run --Werror无告警),无超过120列的行。 - 样例已在ascend950上板验证ok。 ## 文档更新 - conversion/transpose/docs/aclnnPermute.md、aclnnPermute_en.md - conversion/transpose/docs/aclnnChannelShuffle.md、aclnnChannelShuffle_en.md - conversion/transpose/README.md、README_en.md - conversion/transpose/examples/test_geir_transpose.cpp(新增) - docs/zh/op_api_list.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7492 | 2 days ago | |
docs: transpose 算子更新文档说明 Co-authored-by: zhanw_coding<zhanwang@huawei.com> # message auto-generated for no-merge-commit merge: !7492 merge doc-tp into master docs: transpose 算子更新文档说明 Created-by: zhanw_coding Commit-by: zhanw_coding Merged-by: cann-robot Description: ## 描述 本PR修正transpose算子(aclnnPermute/aclnnChannelShuffle)的文档问题,并补充Transpose的图模式(GE IR)调用样例与调用说明。主要改动如下: 1. aclnnPermute(中英文同步) - 调用示例与 conversion/transpose/examples/test_aclnn_permute.cpp逐字对齐(括号风格、aclIntArray*写法、static_cast<uint64_t>(0)、注释文字等)。 - 参数表字段规范为维度(shape)、非连续Tensor;二阶段参数名workspace_size修正为workspaceSize;workspaceSize/executor/workspace/stream描述改为规范固定话术。 - 对齐self/out的数据类型:与aclnn_permute.cpp的DTYPE_SUPPORT_LIST一致,去除多余的句号并统一排列顺序。 - 补充dims的“元素个数等于self维度数”“元素不可重复”“负数表示从尾部计数”,以及self的空Tensor支持说明。 - 错误码表补充三类ACLNN_ERR_PARAM_INVALID场景:dims元素个数与self维度数不一致、dims存在重复元素、out的shape与按dims重排self后的shape不一致(rowspan由4调整为7)。 - 约束说明仅保留“维度不超过8维”“确定性计算”,移除Contiguous/ViewCopy实现细节及“支持非连续Tensor/空Tensor”等已由参数说明承载的能力描述。 2. aclnnChannelShuffle(中英文同步) - 功能说明改为(N, C, *)张量、通道维固定为第1维(下标从0开始、长度为C),避免被误解为第-3维为channel。 - self的数据类型补充BFLOAT16,与out及代码DTYPE_SUPPORT_LIST一致。 - 新增产品差异说明:Atlas训练系列产品不支持BFLOAT16。 - groups的参数描述与拦截表统一为“通道维长度C”。 3. conversion/transpose/README(中英文同步) - 参数表中x直接给出支持的数据类型,表下按产品系列说明不支持的类型(含4bit类型与Kirin系列)。 - 修正perm、y的描述(引用x、perm),补充取值范围、元素个数与唯一性约束;约束说明同步完善。 - 调用说明统一为“调用Transpose算子”,并补充图模式调用:test_geir_permute(Permute IR)、test_geir_transpose(Transpose IR)。 4. 新增conversion/transpose/examples/test_geir_transpose.cpp - 写法参考math/truncate_mod/examples/test_geir_truncate_mod.cpp,通过op_graph/transpose_proto.h构图调用Transpose算子。 - perm为数据依赖输入,形状推导需要其取值,因此使用Const节点提供。 5. docs/zh/op_api_list.md - 同步aclnnChannelShuffle的接口说明。 ## 关联的Issue - https://gitcode.com/cann/ops-math/issues/4805 ## 测试 - 文档改动:已校验npu标签配对、代码围栏配对、相对链接有效性、HTML表格列数与行尾空白。 - 新增样例:已通过仓库.clang-format校验(clang-format --dry-run --Werror无告警),无超过120列的行。 - 样例已在ascend950上板验证ok。 ## 文档更新 - conversion/transpose/docs/aclnnPermute.md、aclnnPermute_en.md - conversion/transpose/docs/aclnnChannelShuffle.md、aclnnChannelShuffle_en.md - conversion/transpose/README.md、README_en.md - conversion/transpose/examples/test_geir_transpose.cpp(新增) - docs/zh/op_api_list.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7492 | 2 days ago | |
feat(transpose): 支持 ONNX Transpose 空 perm 的默认逆序语义 Co-authored-by: zhanw_coding<zhanwang@huawei.com> # message auto-generated for no-merge-commit merge: !6549 merge fix-tp-onnx into master feat(transpose): 支持 ONNX Transpose 空 perm 的默认逆序语义 Created-by: zhanw_coding Commit-by: zhanw_coding Merged-by: cann-robot Description: ## 描述 ONNX Transpose 的 perm 属性为可选,未指定时按输入维度逆序(perm = [rank-1, ..., 0])计算。原实现中 ONNX 插件在解析阶段直接拒绝空 perm("The perm attribute must be provided."),导致未显式携带 perm 的 ONNX 模型无法转换。 本次改动补齐空 perm 的默认逆序语义,采用「ONNX 插件占位 + InferShape 兜底 + 融合 Pass 实体化」方案: - transpose_onnx_plugin.cpp:空 perm 时不再报错,保留 shape 为 {0} 的空 perm Const 作为占位(此时 rank 未知,无法生成逆序 perm)。 - transpose_infershape.cpp:空 perm 且 rank 已知时按逆序规则推导输出 shape;rank 未知时输出未知 rank。 - 新增 TransposeEmptyPermFusionPass(FusionBasePass,kAfterInferShape 阶段运行):将 perm 输入来自空 Const 的 Transpose 的 perm 替换为携带逆序 perm 的独立 Const(shape {rank},数据类型与原 perm 一致,为 INT32 或 INT64),保证下游 Tiling/Kernel 能够消费完整 perm。替换后节点拓扑不变,仅改写 Const 的 value。 ## 关联的Issue #4792 ## 测试 新增单元测试: - conversion/transpose/tests/ut/op_graph/test_transpose_empty_perm_fusion_pass.cpp:覆盖空 perm 逆序填充、非空 perm 保持不变、共享空 Const 逐消费者替换、INT64 Constant 空 perm,以及少输入/标量输入/无生产者/非 Const 生产者/无 value 属性等跳过与异常分支。 - conversion/transpose/tests/ut/op_host/test_transpose_infershape.cpp:补充空 perm(rank 已知/未知)、非 const 多维 perm、null perm 输入、缺少 perm 输入等 InferShape 用例。 ## 文档更新 新增融合 Pass 说明文档: - conversion/transpose/docs/TransposeEmptyPermFusionPass.md - conversion/transpose/docs/TransposeEmptyPermFusionPass_en.md ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!6549 | 2 days ago | |
Kirin X90/9030支持Cast/Mul/Transpose/Add/ConcatD/StridedSlice算子 Co-authored-by: chenlong1<chenlong1@huawei.com> Co-authored-by: jinzy1999<jinzy@pku.edu.cn> # message auto-generated for no-merge-commit merge: !6581 merge master into master Kirin X90/9030支持Cast/Mul/Transpose/Add/ConcatD/StridedSlice算子 Created-by: chenlong1 Commit-by: chenlong1;jinzy1999 Merged-by: cann-robot Description: ## 描述 Kirin X90/9030支持Cast/Mul/Transpose/Add/ConcatD/StridedSlice算子 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/3790 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!6581 | 20 days ago | |
feat(transpose): 支持 ONNX Transpose 空 perm 的默认逆序语义 Co-authored-by: zhanw_coding<zhanwang@huawei.com> # message auto-generated for no-merge-commit merge: !6549 merge fix-tp-onnx into master feat(transpose): 支持 ONNX Transpose 空 perm 的默认逆序语义 Created-by: zhanw_coding Commit-by: zhanw_coding Merged-by: cann-robot Description: ## 描述 ONNX Transpose 的 perm 属性为可选,未指定时按输入维度逆序(perm = [rank-1, ..., 0])计算。原实现中 ONNX 插件在解析阶段直接拒绝空 perm("The perm attribute must be provided."),导致未显式携带 perm 的 ONNX 模型无法转换。 本次改动补齐空 perm 的默认逆序语义,采用「ONNX 插件占位 + InferShape 兜底 + 融合 Pass 实体化」方案: - transpose_onnx_plugin.cpp:空 perm 时不再报错,保留 shape 为 {0} 的空 perm Const 作为占位(此时 rank 未知,无法生成逆序 perm)。 - transpose_infershape.cpp:空 perm 且 rank 已知时按逆序规则推导输出 shape;rank 未知时输出未知 rank。 - 新增 TransposeEmptyPermFusionPass(FusionBasePass,kAfterInferShape 阶段运行):将 perm 输入来自空 Const 的 Transpose 的 perm 替换为携带逆序 perm 的独立 Const(shape {rank},数据类型与原 perm 一致,为 INT32 或 INT64),保证下游 Tiling/Kernel 能够消费完整 perm。替换后节点拓扑不变,仅改写 Const 的 value。 ## 关联的Issue #4792 ## 测试 新增单元测试: - conversion/transpose/tests/ut/op_graph/test_transpose_empty_perm_fusion_pass.cpp:覆盖空 perm 逆序填充、非空 perm 保持不变、共享空 Const 逐消费者替换、INT64 Constant 空 perm,以及少输入/标量输入/无生产者/非 Const 生产者/无 value 属性等跳过与异常分支。 - conversion/transpose/tests/ut/op_host/test_transpose_infershape.cpp:补充空 perm(rank 已知/未知)、非 const 多维 perm、null perm 输入、缺少 perm 输入等 InferShape 用例。 ## 文档更新 新增融合 Pass 说明文档: - conversion/transpose/docs/TransposeEmptyPermFusionPass.md - conversion/transpose/docs/TransposeEmptyPermFusionPass_en.md ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!6549 | 2 days ago | |
修复Transpose SMALL_SHAPE分核超过可用AIV核数 Co-authored-by: Xbying<2119046648@qq.com> # message auto-generated for no-merge-commit merge: !7583 merge 24 into master 修复Transpose SMALL_SHAPE分核超过可用AIV核数 Created-by: 2301_81474000 Commit-by: Xbying Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修复 arch35 Transpose 的 SMALL_SHAPE 路径中,逻辑块数可能超过可用 AIV 核数的问题。 - CalcBlockSplitInfoForSmallShape() 将向下均分改为 CeilDiv(totalElements, coreNum_),再将块长向上对齐至 128B 对应的元素数,保证预算核数内的标准块容量足以覆盖全部元素。 - 继续按对齐后的块长计算实际核数、标准块长和尾块长度,保留单核早退与尾块为零时最后一块按完整块处理的语义。 - 对 [2, 9601, 8] float32、perm [1, 0, 2]、48 核配置,分核参数由 49 / 3200 / 16 修正为 48 / 3232 / 1712(核数/块长/尾块),完整覆盖 153616 个元素。 - 在现有 TransposeTiling fixture 中新增回归用例,检查 blockDim、序列化分核字段、核数上界、128B 对齐和区间覆盖,并覆盖不同 dtype 与核数预算。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-math/issues/4843 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7583 | 1 day ago | |
feat(transpose): 新增 2D perm=[1,0] TransDataTo5HD 全 tile 转置模板(TilingKey 10011) Co-authored-by: yefeicoding<yefei25@huawei.com> # message auto-generated for no-merge-commit merge: !7382 merge issue100_v2 into master feat(transpose): 新增 2D perm=[1,0] TransDataTo5HD 全 tile 转置模板(TilingKey 10011) Created-by: yefeicoding Commit-by: yefeicoding Merged-by: cann-robot Description: ## 描述 2D perm=[1,0] 的 Transpose 在 arch35 上原先没有专用模板,RemoveAxis/MergeAxis 后会并入 NDDMA CUT / GATHER / SMALL_SHAPE 等通用路径;通用路径的启动参数推导与 tile 几何对多核小 tile 场景不够贴合。本 PR 新增 TilingKey 10011 TRANSPOSE_2D_TRANSDATA,用 TransDataTo5HD 做 16x16 块转置覆盖该形态,不满足准入时仍回落原主流程。 主要改动: - **host tiling**(op_host/arch35/transpose_tiling_arch35.cpp/.h):RunTranposelTiling() 在 CalcTotalVolumeActual() 之后增加早返回分支,命中 !isRelatedTranspose_ && Is2DPermutation() && Fill2DTransDataTilingData()==GRAPH_SUCCESS 时直接下发 10011。Is2DPermutation() 判定 dim==2 且 reducedPerm=={1,0};准入要求架构为 DAV_3510/DAV_5102、eleLen∈[2,4]、m/n 均 16 对齐、m/n 不超过 INT32_MAX(避免下发 int32 TilingData 时静默截断)、总量达到门槛(DAV_3510 512KB,DAV_5102 4MB)。tile 几何随 m/n 与 ubSize 自适应:tileM=min(m, cap)(16bit 256 / 32bit 128),tileN 按 ubSize-4096 预算推导并保证 in(1)+out(2) 三块 tile 不越界(预算不足时回落),上限 16*255;tileM 触顶时取不超过上限的最大 2 的幂,窄列(n<tileN)时收紧 tileN 并把 tileM 放大到"行块数≈k*coreNum"的最大可行值。下发 SetBlockDim(coreNum)、SetTilingKey(10011)、workspaces[0]=0。 - **TilingData**:新增 Transpose2DTilingData{m, n, coreNum, tileM, tileN},注册类名 Transpose_10011。 - **kernel**(新增 op_kernel/arch35/transpose_2d_transdata.h):实现 Transpose::Transpose2DTransData<T>,按 sizeof(DTYPE_X) 实例化 int16_t/int32_t。UB 采用 in 单缓冲 + out ping/pong 双缓冲,LocalMemAllocator 分配静态 Tensor,Mutex(mIn/mOut0/mOut1)分别门控 inbuf 与两个 outbuf,V 读完 inbuf 即归还,使 MTE2(t+1) 与 MTE3(t) 并行。搬运侧行步长额外 +32B padding 规避 UB bank 冲突;窄列且列宽为奇数个 32B block 时去掉源侧 padding,搬入退化为单次连续 DataCopyPad;full tile 的 DataCopyExtParams/repeatTimes 在 Init 预计算,tile 索引用增量推进避免整数除法;列向仅一个 16x16 块时把 repeat 用在行块方向(上限 255),repeatTimes==1 时 repStride 置 0。 - **分发**(op_kernel/transpose_apt.cpp):增加 TILING_KEY_IS(TRANSPOSE_2D_TRANSDATA) 分支,GET_TILING_DATA_PTR_WITH_STRUCT 取 TilingData 后按 dtype 派发。 ## 关联的Issue - #4815 https://gitcode.com/cann/ops-math/issues/4815 ## 测试 conversion/transpose/tests/ut/op_host/arch35/test_transpose_tiling.cpp 补充 tiling UT(5 个新增 + 3 个既有调整),UB 统一按 248KB(ubSize=253952)配置: - transpose_tiling_2d_transdata_route:512x512 fp16 命中 10011,tileM=256 / tileN=128,blockNum=40; - transpose_tiling_2d_transdata_small_m_tile:16x262144 小 m 场景 tileM 跟随 m(tileM=16 / tileN=1552); - transpose_tiling_2d_transdata_narrow_n_tile:131072x16 窄列改行方向切分(tileM=1648 / tileN=16); - transpose_tiling_2d_transdata_tail_tile:1040x1040 的 m/n 均非 tile 整数倍,覆盖行/列尾块切分; - transpose_tiling_2d_transdata_not_aligned_fallback:512x510 n 非 16 对齐时不命中 10011 并回落; - 既有 N_LAST 4D / NDDMA_BASE 4D / CUT_TWICE 尾切三个用例改用不受 10011 干扰的 shape,并把宽松的 tilingKey 区间断言收紧为具体期望值。 以上为 tiling 路由与 tile 参数的 UT 验证(math_op_host_ut 70 用例通过,其中 10011 子集 5/5 通过);本 PR 未包含上板精度/性能数据。 ## 文档更新 无。本 PR 仅涉及 host tiling、kernel 与 UT,未改动 README 等文档。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7382 | 2 days ago | |
修复Transpose SMALL_SHAPE分核超过可用AIV核数 Co-authored-by: Xbying<2119046648@qq.com> # message auto-generated for no-merge-commit merge: !7583 merge 24 into master 修复Transpose SMALL_SHAPE分核超过可用AIV核数 Created-by: 2301_81474000 Commit-by: Xbying Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修复 arch35 Transpose 的 SMALL_SHAPE 路径中,逻辑块数可能超过可用 AIV 核数的问题。 - CalcBlockSplitInfoForSmallShape() 将向下均分改为 CeilDiv(totalElements, coreNum_),再将块长向上对齐至 128B 对应的元素数,保证预算核数内的标准块容量足以覆盖全部元素。 - 继续按对齐后的块长计算实际核数、标准块长和尾块长度,保留单核早退与尾块为零时最后一块按完整块处理的语义。 - 对 [2, 9601, 8] float32、perm [1, 0, 2]、48 核配置,分核参数由 49 / 3200 / 16 修正为 48 / 3232 / 1712(核数/块长/尾块),完整覆盖 153616 个元素。 - 在现有 TransposeTiling fixture 中新增回归用例,检查 blockDim、序列化分核字段、核数上界、128B 对齐和区间覆盖,并覆盖不同 dtype 与核数预算。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-math/issues/4843 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7583 | 1 day ago | |
[feat]5162A芯片适配transpose类算子 Co-authored-by: DF_weiming<zhangyiheng21@huawei.com> # message auto-generated for no-merge-commit merge: !7009 merge PushCode_1 into master [feat]5162A芯片适配transpose类算子 Created-by: DF_weiming Commit-by: DF_weiming Merged-by: cann-robot Description: ## 描述 transpose类算子提交 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/3593 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7009 | 10 days ago | |
docs: transpose 算子更新文档说明 Co-authored-by: zhanw_coding<zhanwang@huawei.com> # message auto-generated for no-merge-commit merge: !7492 merge doc-tp into master docs: transpose 算子更新文档说明 Created-by: zhanw_coding Commit-by: zhanw_coding Merged-by: cann-robot Description: ## 描述 本PR修正transpose算子(aclnnPermute/aclnnChannelShuffle)的文档问题,并补充Transpose的图模式(GE IR)调用样例与调用说明。主要改动如下: 1. aclnnPermute(中英文同步) - 调用示例与 conversion/transpose/examples/test_aclnn_permute.cpp逐字对齐(括号风格、aclIntArray*写法、static_cast<uint64_t>(0)、注释文字等)。 - 参数表字段规范为维度(shape)、非连续Tensor;二阶段参数名workspace_size修正为workspaceSize;workspaceSize/executor/workspace/stream描述改为规范固定话术。 - 对齐self/out的数据类型:与aclnn_permute.cpp的DTYPE_SUPPORT_LIST一致,去除多余的句号并统一排列顺序。 - 补充dims的“元素个数等于self维度数”“元素不可重复”“负数表示从尾部计数”,以及self的空Tensor支持说明。 - 错误码表补充三类ACLNN_ERR_PARAM_INVALID场景:dims元素个数与self维度数不一致、dims存在重复元素、out的shape与按dims重排self后的shape不一致(rowspan由4调整为7)。 - 约束说明仅保留“维度不超过8维”“确定性计算”,移除Contiguous/ViewCopy实现细节及“支持非连续Tensor/空Tensor”等已由参数说明承载的能力描述。 2. aclnnChannelShuffle(中英文同步) - 功能说明改为(N, C, *)张量、通道维固定为第1维(下标从0开始、长度为C),避免被误解为第-3维为channel。 - self的数据类型补充BFLOAT16,与out及代码DTYPE_SUPPORT_LIST一致。 - 新增产品差异说明:Atlas训练系列产品不支持BFLOAT16。 - groups的参数描述与拦截表统一为“通道维长度C”。 3. conversion/transpose/README(中英文同步) - 参数表中x直接给出支持的数据类型,表下按产品系列说明不支持的类型(含4bit类型与Kirin系列)。 - 修正perm、y的描述(引用x、perm),补充取值范围、元素个数与唯一性约束;约束说明同步完善。 - 调用说明统一为“调用Transpose算子”,并补充图模式调用:test_geir_permute(Permute IR)、test_geir_transpose(Transpose IR)。 4. 新增conversion/transpose/examples/test_geir_transpose.cpp - 写法参考math/truncate_mod/examples/test_geir_truncate_mod.cpp,通过op_graph/transpose_proto.h构图调用Transpose算子。 - perm为数据依赖输入,形状推导需要其取值,因此使用Const节点提供。 5. docs/zh/op_api_list.md - 同步aclnnChannelShuffle的接口说明。 ## 关联的Issue - https://gitcode.com/cann/ops-math/issues/4805 ## 测试 - 文档改动:已校验npu标签配对、代码围栏配对、相对链接有效性、HTML表格列数与行尾空白。 - 新增样例:已通过仓库.clang-format校验(clang-format --dry-run --Werror无告警),无超过120列的行。 - 样例已在ascend950上板验证ok。 ## 文档更新 - conversion/transpose/docs/aclnnPermute.md、aclnnPermute_en.md - conversion/transpose/docs/aclnnChannelShuffle.md、aclnnChannelShuffle_en.md - conversion/transpose/README.md、README_en.md - conversion/transpose/examples/test_geir_transpose.cpp(新增) - docs/zh/op_api_list.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7492 | 2 days ago | |
docs: transpose 算子更新文档说明 Co-authored-by: zhanw_coding<zhanwang@huawei.com> # message auto-generated for no-merge-commit merge: !7492 merge doc-tp into master docs: transpose 算子更新文档说明 Created-by: zhanw_coding Commit-by: zhanw_coding Merged-by: cann-robot Description: ## 描述 本PR修正transpose算子(aclnnPermute/aclnnChannelShuffle)的文档问题,并补充Transpose的图模式(GE IR)调用样例与调用说明。主要改动如下: 1. aclnnPermute(中英文同步) - 调用示例与 conversion/transpose/examples/test_aclnn_permute.cpp逐字对齐(括号风格、aclIntArray*写法、static_cast<uint64_t>(0)、注释文字等)。 - 参数表字段规范为维度(shape)、非连续Tensor;二阶段参数名workspace_size修正为workspaceSize;workspaceSize/executor/workspace/stream描述改为规范固定话术。 - 对齐self/out的数据类型:与aclnn_permute.cpp的DTYPE_SUPPORT_LIST一致,去除多余的句号并统一排列顺序。 - 补充dims的“元素个数等于self维度数”“元素不可重复”“负数表示从尾部计数”,以及self的空Tensor支持说明。 - 错误码表补充三类ACLNN_ERR_PARAM_INVALID场景:dims元素个数与self维度数不一致、dims存在重复元素、out的shape与按dims重排self后的shape不一致(rowspan由4调整为7)。 - 约束说明仅保留“维度不超过8维”“确定性计算”,移除Contiguous/ViewCopy实现细节及“支持非连续Tensor/空Tensor”等已由参数说明承载的能力描述。 2. aclnnChannelShuffle(中英文同步) - 功能说明改为(N, C, *)张量、通道维固定为第1维(下标从0开始、长度为C),避免被误解为第-3维为channel。 - self的数据类型补充BFLOAT16,与out及代码DTYPE_SUPPORT_LIST一致。 - 新增产品差异说明:Atlas训练系列产品不支持BFLOAT16。 - groups的参数描述与拦截表统一为“通道维长度C”。 3. conversion/transpose/README(中英文同步) - 参数表中x直接给出支持的数据类型,表下按产品系列说明不支持的类型(含4bit类型与Kirin系列)。 - 修正perm、y的描述(引用x、perm),补充取值范围、元素个数与唯一性约束;约束说明同步完善。 - 调用说明统一为“调用Transpose算子”,并补充图模式调用:test_geir_permute(Permute IR)、test_geir_transpose(Transpose IR)。 4. 新增conversion/transpose/examples/test_geir_transpose.cpp - 写法参考math/truncate_mod/examples/test_geir_truncate_mod.cpp,通过op_graph/transpose_proto.h构图调用Transpose算子。 - perm为数据依赖输入,形状推导需要其取值,因此使用Const节点提供。 5. docs/zh/op_api_list.md - 同步aclnnChannelShuffle的接口说明。 ## 关联的Issue - https://gitcode.com/cann/ops-math/issues/4805 ## 测试 - 文档改动:已校验npu标签配对、代码围栏配对、相对链接有效性、HTML表格列数与行尾空白。 - 新增样例:已通过仓库.clang-format校验(clang-format --dry-run --Werror无告警),无超过120列的行。 - 样例已在ascend950上板验证ok。 ## 文档更新 - conversion/transpose/docs/aclnnPermute.md、aclnnPermute_en.md - conversion/transpose/docs/aclnnChannelShuffle.md、aclnnChannelShuffle_en.md - conversion/transpose/README.md、README_en.md - conversion/transpose/examples/test_geir_transpose.cpp(新增) - docs/zh/op_api_list.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7492 | 2 days ago |
Transpose
English | 简体中文
Product Support Status
| Product | Supported |
|---|---|
| Ascend 950PR&950DT products | √ |
| Atlas A3 products | √ |
| Atlas A2 products | √ |
| Atlas 200I/500 A2 inference products | √ |
| Atlas inference products | √ |
| Atlas training products | √ |
| Kirin X90 processor series products | √ |
| Kirin 9030 processor series products | √ |
Function Description
- Operator function: swaps arbitrary dimensions of a tensor. For example, if the input x is a tensor with shape [2, 3, 5] and perm is (2, 0, 1), the output y is a tensor with shape [5, 2, 3].
Parameter Description
| Parameter Name | Input/Output/Attribute | Description | Data Type | Data Format |
|---|---|---|---|---|
| x | Input tensor | Input tensor for dimension permutation. | INT8, UINT8, INT16, UINT16, INT32, UINT32, INT64, UINT64, FLOAT, FLOAT16, BFLOAT16, BOOL, HIFLOAT8, FLOAT8_E5M2, FLOAT8_E4M3FN, FLOAT4_E2M1, FLOAT4_E1M2, HIFLOAT4, HIFLOAT4_SCALE | ND |
| perm | Input tensor | Represents the permutation of the dimensions of x. The number of elements must be equal to the number of dimensions of x. Each value must be in the range [-number of dimensions of x, number of dimensions of x - 1], and the elements must not be repeated. | INT32, INT64 | - |
| y | Output | Has no more than 8 dimensions. The shape is jointly determined by perm and the shape of x (y.shape[i] = x.shape[perm[i]]), and the dtype must be the same as that of x. | Same as x | ND |
- Ascend 950PR&950DT products, Atlas A3 products, Atlas A2 products, Atlas 200I/500 A2 inference products, Atlas inference products, Atlas training products: FLOAT4_E2M1, FLOAT4_E1M2, HIFLOAT4, and HIFLOAT4_SCALE are not supported.
- Kirin X90 processor series products, Kirin 9030 processor series products: INT16, UINT16, UINT32, INT64, UINT64, BFLOAT16, BOOL, HIFLOAT8, FLOAT8_E5M2, FLOAT8_E4M3FN, FLOAT4_E2M1, FLOAT4_E1M2, HIFLOAT4, and HIFLOAT4_SCALE are not supported.
Constraint Description
- The number of dimensions of x must not exceed 8.
- The number of elements in perm must be equal to the number of dimensions of x. Each value must be in the range [-number of dimensions of x, number of dimensions of x - 1], and the elements must not be repeated.
- The shape of y is jointly determined by perm and the shape of x, and the dtype must be the same as that of x.
Invocation Description
| Invocation Method | Sample Code | Description |
|---|---|---|
| aclnn API | test_aclnn_channel_shuffle | Invokes the Transpose operator through the aclnnChannelShuffle API. |
| aclnn API | test_aclnn_permute | Invokes the Transpose operator through the aclnnPermute API. |
| Graph mode | test_geir_permute | Invokes the Transpose operator by building a graph with the operator IR. |
| Graph mode | test_geir_transpose | Invokes the Transpose operator by building a graph with the operator IR. |