| Files | Last commit | Last update |
|---|---|---|
Kirin X90/9030支持Cast/Mul/Transpose/Add/ConcatD/StridedSlice算子 Co-authored-by: chenlong1<chenlong1@huawei.com> Co-authored-by: jinzy1999<jinzy@pku.edu.cn> # message auto-generated for no-merge-commit merge: !6581 merge master into master Kirin X90/9030支持Cast/Mul/Transpose/Add/ConcatD/StridedSlice算子 Created-by: chenlong1 Commit-by: chenlong1;jinzy1999 Merged-by: cann-robot Description: ## 描述 Kirin X90/9030支持Cast/Mul/Transpose/Add/ConcatD/StridedSlice算子 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/3790 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!6581 | 20 days ago | |
feat(transpose): 新增 2D perm=[1,0] TransDataTo5HD 全 tile 转置模板(TilingKey 10011) Co-authored-by: yefeicoding<yefei25@huawei.com> # message auto-generated for no-merge-commit merge: !7382 merge issue100_v2 into master feat(transpose): 新增 2D perm=[1,0] TransDataTo5HD 全 tile 转置模板(TilingKey 10011) Created-by: yefeicoding Commit-by: yefeicoding Merged-by: cann-robot Description: ## 描述 2D perm=[1,0] 的 Transpose 在 arch35 上原先没有专用模板,RemoveAxis/MergeAxis 后会并入 NDDMA CUT / GATHER / SMALL_SHAPE 等通用路径;通用路径的启动参数推导与 tile 几何对多核小 tile 场景不够贴合。本 PR 新增 TilingKey 10011 TRANSPOSE_2D_TRANSDATA,用 TransDataTo5HD 做 16x16 块转置覆盖该形态,不满足准入时仍回落原主流程。 主要改动: - **host tiling**(op_host/arch35/transpose_tiling_arch35.cpp/.h):RunTranposelTiling() 在 CalcTotalVolumeActual() 之后增加早返回分支,命中 !isRelatedTranspose_ && Is2DPermutation() && Fill2DTransDataTilingData()==GRAPH_SUCCESS 时直接下发 10011。Is2DPermutation() 判定 dim==2 且 reducedPerm=={1,0};准入要求架构为 DAV_3510/DAV_5102、eleLen∈[2,4]、m/n 均 16 对齐、m/n 不超过 INT32_MAX(避免下发 int32 TilingData 时静默截断)、总量达到门槛(DAV_3510 512KB,DAV_5102 4MB)。tile 几何随 m/n 与 ubSize 自适应:tileM=min(m, cap)(16bit 256 / 32bit 128),tileN 按 ubSize-4096 预算推导并保证 in(1)+out(2) 三块 tile 不越界(预算不足时回落),上限 16*255;tileM 触顶时取不超过上限的最大 2 的幂,窄列(n<tileN)时收紧 tileN 并把 tileM 放大到"行块数≈k*coreNum"的最大可行值。下发 SetBlockDim(coreNum)、SetTilingKey(10011)、workspaces[0]=0。 - **TilingData**:新增 Transpose2DTilingData{m, n, coreNum, tileM, tileN},注册类名 Transpose_10011。 - **kernel**(新增 op_kernel/arch35/transpose_2d_transdata.h):实现 Transpose::Transpose2DTransData<T>,按 sizeof(DTYPE_X) 实例化 int16_t/int32_t。UB 采用 in 单缓冲 + out ping/pong 双缓冲,LocalMemAllocator 分配静态 Tensor,Mutex(mIn/mOut0/mOut1)分别门控 inbuf 与两个 outbuf,V 读完 inbuf 即归还,使 MTE2(t+1) 与 MTE3(t) 并行。搬运侧行步长额外 +32B padding 规避 UB bank 冲突;窄列且列宽为奇数个 32B block 时去掉源侧 padding,搬入退化为单次连续 DataCopyPad;full tile 的 DataCopyExtParams/repeatTimes 在 Init 预计算,tile 索引用增量推进避免整数除法;列向仅一个 16x16 块时把 repeat 用在行块方向(上限 255),repeatTimes==1 时 repStride 置 0。 - **分发**(op_kernel/transpose_apt.cpp):增加 TILING_KEY_IS(TRANSPOSE_2D_TRANSDATA) 分支,GET_TILING_DATA_PTR_WITH_STRUCT 取 TilingData 后按 dtype 派发。 ## 关联的Issue - #4815 https://gitcode.com/cann/ops-math/issues/4815 ## 测试 conversion/transpose/tests/ut/op_host/arch35/test_transpose_tiling.cpp 补充 tiling UT(5 个新增 + 3 个既有调整),UB 统一按 248KB(ubSize=253952)配置: - transpose_tiling_2d_transdata_route:512x512 fp16 命中 10011,tileM=256 / tileN=128,blockNum=40; - transpose_tiling_2d_transdata_small_m_tile:16x262144 小 m 场景 tileM 跟随 m(tileM=16 / tileN=1552); - transpose_tiling_2d_transdata_narrow_n_tile:131072x16 窄列改行方向切分(tileM=1648 / tileN=16); - transpose_tiling_2d_transdata_tail_tile:1040x1040 的 m/n 均非 tile 整数倍,覆盖行/列尾块切分; - transpose_tiling_2d_transdata_not_aligned_fallback:512x510 n 非 16 对齐时不命中 10011 并回落; - 既有 N_LAST 4D / NDDMA_BASE 4D / CUT_TWICE 尾切三个用例改用不受 10011 干扰的 shape,并把宽松的 tilingKey 区间断言收紧为具体期望值。 以上为 tiling 路由与 tile 参数的 UT 验证(math_op_host_ut 70 用例通过,其中 10011 子集 5/5 通过);本 PR 未包含上板精度/性能数据。 ## 文档更新 无。本 PR 仅涉及 host tiling、kernel 与 UT,未改动 README 等文档。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7382 | 2 days ago | |
feat(transpose): 新增 2D perm=[1,0] TransDataTo5HD 全 tile 转置模板(TilingKey 10011) Co-authored-by: yefeicoding<yefei25@huawei.com> # message auto-generated for no-merge-commit merge: !7382 merge issue100_v2 into master feat(transpose): 新增 2D perm=[1,0] TransDataTo5HD 全 tile 转置模板(TilingKey 10011) Created-by: yefeicoding Commit-by: yefeicoding Merged-by: cann-robot Description: ## 描述 2D perm=[1,0] 的 Transpose 在 arch35 上原先没有专用模板,RemoveAxis/MergeAxis 后会并入 NDDMA CUT / GATHER / SMALL_SHAPE 等通用路径;通用路径的启动参数推导与 tile 几何对多核小 tile 场景不够贴合。本 PR 新增 TilingKey 10011 TRANSPOSE_2D_TRANSDATA,用 TransDataTo5HD 做 16x16 块转置覆盖该形态,不满足准入时仍回落原主流程。 主要改动: - **host tiling**(op_host/arch35/transpose_tiling_arch35.cpp/.h):RunTranposelTiling() 在 CalcTotalVolumeActual() 之后增加早返回分支,命中 !isRelatedTranspose_ && Is2DPermutation() && Fill2DTransDataTilingData()==GRAPH_SUCCESS 时直接下发 10011。Is2DPermutation() 判定 dim==2 且 reducedPerm=={1,0};准入要求架构为 DAV_3510/DAV_5102、eleLen∈[2,4]、m/n 均 16 对齐、m/n 不超过 INT32_MAX(避免下发 int32 TilingData 时静默截断)、总量达到门槛(DAV_3510 512KB,DAV_5102 4MB)。tile 几何随 m/n 与 ubSize 自适应:tileM=min(m, cap)(16bit 256 / 32bit 128),tileN 按 ubSize-4096 预算推导并保证 in(1)+out(2) 三块 tile 不越界(预算不足时回落),上限 16*255;tileM 触顶时取不超过上限的最大 2 的幂,窄列(n<tileN)时收紧 tileN 并把 tileM 放大到"行块数≈k*coreNum"的最大可行值。下发 SetBlockDim(coreNum)、SetTilingKey(10011)、workspaces[0]=0。 - **TilingData**:新增 Transpose2DTilingData{m, n, coreNum, tileM, tileN},注册类名 Transpose_10011。 - **kernel**(新增 op_kernel/arch35/transpose_2d_transdata.h):实现 Transpose::Transpose2DTransData<T>,按 sizeof(DTYPE_X) 实例化 int16_t/int32_t。UB 采用 in 单缓冲 + out ping/pong 双缓冲,LocalMemAllocator 分配静态 Tensor,Mutex(mIn/mOut0/mOut1)分别门控 inbuf 与两个 outbuf,V 读完 inbuf 即归还,使 MTE2(t+1) 与 MTE3(t) 并行。搬运侧行步长额外 +32B padding 规避 UB bank 冲突;窄列且列宽为奇数个 32B block 时去掉源侧 padding,搬入退化为单次连续 DataCopyPad;full tile 的 DataCopyExtParams/repeatTimes 在 Init 预计算,tile 索引用增量推进避免整数除法;列向仅一个 16x16 块时把 repeat 用在行块方向(上限 255),repeatTimes==1 时 repStride 置 0。 - **分发**(op_kernel/transpose_apt.cpp):增加 TILING_KEY_IS(TRANSPOSE_2D_TRANSDATA) 分支,GET_TILING_DATA_PTR_WITH_STRUCT 取 TilingData 后按 dtype 派发。 ## 关联的Issue - #4815 https://gitcode.com/cann/ops-math/issues/4815 ## 测试 conversion/transpose/tests/ut/op_host/arch35/test_transpose_tiling.cpp 补充 tiling UT(5 个新增 + 3 个既有调整),UB 统一按 248KB(ubSize=253952)配置: - transpose_tiling_2d_transdata_route:512x512 fp16 命中 10011,tileM=256 / tileN=128,blockNum=40; - transpose_tiling_2d_transdata_small_m_tile:16x262144 小 m 场景 tileM 跟随 m(tileM=16 / tileN=1552); - transpose_tiling_2d_transdata_narrow_n_tile:131072x16 窄列改行方向切分(tileM=1648 / tileN=16); - transpose_tiling_2d_transdata_tail_tile:1040x1040 的 m/n 均非 tile 整数倍,覆盖行/列尾块切分; - transpose_tiling_2d_transdata_not_aligned_fallback:512x510 n 非 16 对齐时不命中 10011 并回落; - 既有 N_LAST 4D / NDDMA_BASE 4D / CUT_TWICE 尾切三个用例改用不受 10011 干扰的 shape,并把宽松的 tilingKey 区间断言收紧为具体期望值。 以上为 tiling 路由与 tile 参数的 UT 验证(math_op_host_ut 70 用例通过,其中 10011 子集 5/5 通过);本 PR 未包含上板精度/性能数据。 ## 文档更新 无。本 PR 仅涉及 host tiling、kernel 与 UT,未改动 README 等文档。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7382 | 2 days ago |
| Files | Last commit | Last update |
|---|---|---|
| 20 days ago | ||
| 2 days ago | ||
| 2 days ago |