| Files | Last commit | Last update |
|---|---|---|
Kirin X90/9030支持Cast/Mul/Transpose/Add/ConcatD/StridedSlice算子 Co-authored-by: chenlong1<chenlong1@huawei.com> Co-authored-by: jinzy1999<jinzy@pku.edu.cn> # message auto-generated for no-merge-commit merge: !6581 merge master into master Kirin X90/9030支持Cast/Mul/Transpose/Add/ConcatD/StridedSlice算子 Created-by: chenlong1 Commit-by: chenlong1;jinzy1999 Merged-by: cann-robot Description: ## 描述 Kirin X90/9030支持Cast/Mul/Transpose/Add/ConcatD/StridedSlice算子 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/3790 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!6581 | 21 days ago | |
[feat]5162A芯片适配transpose类算子 Co-authored-by: DF_weiming<zhangyiheng21@huawei.com> # message auto-generated for no-merge-commit merge: !7009 merge PushCode_1 into master [feat]5162A芯片适配transpose类算子 Created-by: DF_weiming Commit-by: DF_weiming Merged-by: cann-robot Description: ## 描述 transpose类算子提交 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/3593 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7009 | 10 days ago | |
feat: transpose 支持 ascend960dt/ascend960pr 平台及 4bit(HIF4/FP4)类型 Co-authored-by: zhanw_coding<zhanwang@huawei.com> # message auto-generated for no-merge-commit merge: !6332 merge ft-960dt-tp into master feat: transpose 支持 ascend960dt/ascend960pr 平台及 4bit(HIF4/FP4)类型 Created-by: zhanw_coding Commit-by: zhanw_coding Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> Transpose(permute)算子接入新平台 ascend960dt、ascend960pr,并在此架构(arch92)下新增 4bit (HIF4/FP4)数据类型支持;同时适配新架构下的 NDDMA 搬运接口并开启双 buffer。 改动原因: - 现有 Transpose 未支持 ascend960dt / ascend960pr,且 x 的 dtype 列表不含 4bit 类型。 改动方法: 1. 平台接入 - CMakeLists.txt:COMPUTE_UNIT 增加 ascend960dt、ascend960pr,TILING_DIR 指向 arch35。 - transpose_def.cpp:新增 buildConfig() 统一构造 OpAICoreConfig,AddConfig("ascend960dt"/"ascend960pr")。 - 新增 op_host/config/{ascend960dt,ascend960pr}/{transpose_binary.json,transpose_simplified_key.ini}; scripts/kernel/binary_config/ascendc_config.json 登记 Transpose 的 compute_units 与编译选项。 2. 数据类型扩展(arch92) - x/y 新增 DT_FLOAT4_E2M1、DT_FLOAT4_E1M2 及 DT_HIFLOAT4(42)、DT_HIFLOAT4_SCALE(43);perm 支持 INT32/INT64。op_api(aclnn_permute / transpose)按 NpuArch::DAV_9201/DAV_9202 分支使用 arch92 dtype 列表。 3. host 侧 tiling - 新增 4bit 双切分 tiling(transpose_tiling_b4_dual_cut_arch35.{h,cpp}),新增 SplitMode::B4_DOUBLE_SPLIT=10009,触发条件为 4bit 且尾轴转置。 - transpose_tiling_arch35 新增 CheckB4Tiling/TryB4Tiling/AdjustShapeForB4/CheckB4ShapeInfo:4bit 非尾轴转置按 int8 view 处理;校验 4bit 输入/输出尾轴为偶数;NDDMA 缓冲数在 DAV_9201/9202 下取双缓冲(BIG_DIM 支持回退单缓冲)。 4. kernel 侧 - 新增 arch35/transpose_b4.h(TransposeHIF4 双切分模板):UB 内 CopyIn(Compact) → Cast fp4→bf16 → bf16 域转置 → Cast bf16→fp4 → CopyOut。 - transpose_apt.cpp 新增 TilingKey B4_DUAL_CUT=10009 分支;4bit 场景下各模板按 int8_t 实例化。 - NDDMA 相关模板(big_dim/cut_one_axis/cut_two_axis/tensor_move/n_last/transdata_5hd/5hd_021/ with_gather)在 __DAV_920R1__ 下使用带额外参数的 DataCopy/DataCopyPad 接口,base.h 新增 NDDMA_BUFFER_NUM(920R1 为 2),并按缓冲数切分 UB buffer。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-math/issues/3627 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 新增 UT:conversion/transpose/tests/ut/op_host/arch35/test_transpose_tiling_b4.cpp,覆盖 27 个用例, 含 2D~6D shape、多种 perm、尾轴/非尾轴转置、E2M1/E1M2、超大/极小 shape 等场景,校验 tiling 成功、 tiling key=10009 及 tiling data。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 无 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!6332 | 1 month ago | |
[feat]5162A芯片适配transpose类算子 Co-authored-by: DF_weiming<zhangyiheng21@huawei.com> # message auto-generated for no-merge-commit merge: !7009 merge PushCode_1 into master [feat]5162A芯片适配transpose类算子 Created-by: DF_weiming Commit-by: DF_weiming Merged-by: cann-robot Description: ## 描述 transpose类算子提交 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/3593 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7009 | 10 days ago | |
feat(transpose): 支持 ONNX Transpose 空 perm 的默认逆序语义 Co-authored-by: zhanw_coding<zhanwang@huawei.com> # message auto-generated for no-merge-commit merge: !6549 merge fix-tp-onnx into master feat(transpose): 支持 ONNX Transpose 空 perm 的默认逆序语义 Created-by: zhanw_coding Commit-by: zhanw_coding Merged-by: cann-robot Description: ## 描述 ONNX Transpose 的 perm 属性为可选,未指定时按输入维度逆序(perm = [rank-1, ..., 0])计算。原实现中 ONNX 插件在解析阶段直接拒绝空 perm("The perm attribute must be provided."),导致未显式携带 perm 的 ONNX 模型无法转换。 本次改动补齐空 perm 的默认逆序语义,采用「ONNX 插件占位 + InferShape 兜底 + 融合 Pass 实体化」方案: - transpose_onnx_plugin.cpp:空 perm 时不再报错,保留 shape 为 {0} 的空 perm Const 作为占位(此时 rank 未知,无法生成逆序 perm)。 - transpose_infershape.cpp:空 perm 且 rank 已知时按逆序规则推导输出 shape;rank 未知时输出未知 rank。 - 新增 TransposeEmptyPermFusionPass(FusionBasePass,kAfterInferShape 阶段运行):将 perm 输入来自空 Const 的 Transpose 的 perm 替换为携带逆序 perm 的独立 Const(shape {rank},数据类型与原 perm 一致,为 INT32 或 INT64),保证下游 Tiling/Kernel 能够消费完整 perm。替换后节点拓扑不变,仅改写 Const 的 value。 ## 关联的Issue #4792 ## 测试 新增单元测试: - conversion/transpose/tests/ut/op_graph/test_transpose_empty_perm_fusion_pass.cpp:覆盖空 perm 逆序填充、非空 perm 保持不变、共享空 Const 逐消费者替换、INT64 Constant 空 perm,以及少输入/标量输入/无生产者/非 Const 生产者/无 value 属性等跳过与异常分支。 - conversion/transpose/tests/ut/op_host/test_transpose_infershape.cpp:补充空 perm(rank 已知/未知)、非 const 多维 perm、null perm 输入、缺少 perm 输入等 InferShape 用例。 ## 文档更新 新增融合 Pass 说明文档: - conversion/transpose/docs/TransposeEmptyPermFusionPass.md - conversion/transpose/docs/TransposeEmptyPermFusionPass_en.md ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!6549 | 3 days ago |
| Files | Last commit | Last update |
|---|---|---|
| 21 days ago | ||
| 10 days ago | ||
| 1 month ago | ||
| 10 days ago | ||
| 3 days ago |