| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
新增 kthvalue 算子 Co-authored-by: ConanHuang<huangxiaobin1@huawei.com> # message auto-generated for no-merge-commit merge: !3174 merge master into master 新增 kthvalue 算子 Created-by: ConanHuang Commit-by: ConanHuang Merged-by: cann-robot Description: ## 描述 新增 KthValue 算子，重构 sort 公共逻辑 1. 新增 KthValue 算子，支持沿指定维度查找第 k 小值及其索引。支持数据类型：float16、float32、bfloat16、int8、int16、int32、int64、uint8、uint16、uint32、uint64，支持 last-axis 和 non-last small-axis（轴长 ∈ 2, 2048）两种场景。 2. 实现多策略 Tiling 路由：small axis insertion / two-stage、radix one-core / more-core、merge sort one-core / more-core、merge intra-core、non-last small axis、axis-one copy（axis=1 特化）。 3. 将 sort 算子的公共排序逻辑抽取到 sort/op_kernel/arch35/common/ 和 sort/op_host/arch35/sort_tiling_common.{h,cpp}，供 kth_value 复用，包括 radix sort、merge sort、small axis、non-last small axis 等 base 类。 4. 新增 kth_value 的 tiling UT 和 infershape UT。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/2018 ## 测试 1 sort算子原始250+ST用例全部通过 2 sort算子新增80+ 非尾轴排序ST用例全部通过 3 kthvalue算子新增100+ ST用例，涵盖各个模板，全部通过 4 topkv2，sort_with_index ST用例全部通过 5 二级冒烟通过 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3174 | 3 个月前 | |
新增 kthvalue 算子 Co-authored-by: ConanHuang<huangxiaobin1@huawei.com> # message auto-generated for no-merge-commit merge: !3174 merge master into master 新增 kthvalue 算子 Created-by: ConanHuang Commit-by: ConanHuang Merged-by: cann-robot Description: ## 描述 新增 KthValue 算子，重构 sort 公共逻辑 1. 新增 KthValue 算子，支持沿指定维度查找第 k 小值及其索引。支持数据类型：float16、float32、bfloat16、int8、int16、int32、int64、uint8、uint16、uint32、uint64，支持 last-axis 和 non-last small-axis（轴长 ∈ 2, 2048）两种场景。 2. 实现多策略 Tiling 路由：small axis insertion / two-stage、radix one-core / more-core、merge sort one-core / more-core、merge intra-core、non-last small axis、axis-one copy（axis=1 特化）。 3. 将 sort 算子的公共排序逻辑抽取到 sort/op_kernel/arch35/common/ 和 sort/op_host/arch35/sort_tiling_common.{h,cpp}，供 kth_value 复用，包括 radix sort、merge sort、small axis、non-last small axis 等 base 类。 4. 新增 kth_value 的 tiling UT 和 infershape UT。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/2018 ## 测试 1 sort算子原始250+ST用例全部通过 2 sort算子新增80+ 非尾轴排序ST用例全部通过 3 kthvalue算子新增100+ ST用例，涵盖各个模板，全部通过 4 topkv2，sort_with_index ST用例全部通过 5 二级冒烟通过 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3174 | 3 个月前 | |
feat(sort): 小轴场景排序性能优化，新增3个kernel并优化已有策略 Co-authored-by: ConanHuang<huangxiaobin1@huawei.com> # message auto-generated for no-merge-commit merge: !2843 merge master into master feat(sort): 小轴场景排序性能优化，新增3个kernel并优化已有策略 Created-by: ConanHuang Commit-by: ConanHuang Merged-by: cann-robot Description: ## 描述 ### 背景 Sort 算子在排序轴长度较小（small axis）时，原有大核策略（radix sort / merge sort）存在并行度不足、资源利用率低的问题，导致小轴场景性能退化。 ### 主要变更 **新增 3 个 Kernel：** - **SortAxisOneCopy**：axis=1 快路径，直接 DataCopy 搬运，跳过排序流程 - **SortSmallAxisInsertion**：SIMT 256 线程并行插入排序，适合几十以内的小轴 - **SortSmallAxisTwoStage**：两阶段排序（radix → rank-inverse/二次排序），batch 级并发，适合几十到几百的中等轴 **已有 Kernel 优化：** - **MergeSort**：新增 Sort32 编译期优化（Sort32 API + Extract repeatTimes=1 硬件快速路径） - **MergeSortBigSize**：支持多行并行，新增每行独立 workspace 分区（rowIdx/rowDataOffset），blockIdx 替换为 rowCoreIdx - **RadixSortMoreCore**：排序后 8bit 值通过 Queue 传递，ScatterKeysGlobal 直接使用 sortedValueLocal，优化UB访问 - **RadixSortOneCore**：新增双缓冲支持（bufferNum 从 tiling 动态配置） **重命名 Kernel：** - SortMergeBigBatch → SortMergeIntraCore（体现 core 内 block merge 真实语义） **Tiling 路由重构：** - 新增 schId 5-8 及对应 tiling key selector（INSERTION / TWO_STAGE / AXIS_ONE_COPY） - schId 0 与 schId 8 合并路由，通过 isSort32SmallAxis 标志控制 Sort32 优化 - 增加 uint64 溢出保护，标准化 CeilDiv/CeilDivMul 为 Ops::Base 版本 - ONE_CORE_DATA_SIZE 从 1024 调整为 2048 - IsSortMergeMultiCore 扩展支持 unsortDimNum > 1 多行场景 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/1612 ## 测试 1. 新增117用例覆盖边界场景和性能采集，精度通过，性能达标 2. 原始155用例精度验证通过，性能提升或者持平 3. 二级冒烟通过 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!2843 | 4 个月前 | |
新增 kthvalue 算子 Co-authored-by: ConanHuang<huangxiaobin1@huawei.com> # message auto-generated for no-merge-commit merge: !3174 merge master into master 新增 kthvalue 算子 Created-by: ConanHuang Commit-by: ConanHuang Merged-by: cann-robot Description: ## 描述 新增 KthValue 算子，重构 sort 公共逻辑 1. 新增 KthValue 算子，支持沿指定维度查找第 k 小值及其索引。支持数据类型：float16、float32、bfloat16、int8、int16、int32、int64、uint8、uint16、uint32、uint64，支持 last-axis 和 non-last small-axis（轴长 ∈ 2, 2048）两种场景。 2. 实现多策略 Tiling 路由：small axis insertion / two-stage、radix one-core / more-core、merge sort one-core / more-core、merge intra-core、non-last small axis、axis-one copy（axis=1 特化）。 3. 将 sort 算子的公共排序逻辑抽取到 sort/op_kernel/arch35/common/ 和 sort/op_host/arch35/sort_tiling_common.{h,cpp}，供 kth_value 复用，包括 radix sort、merge sort、small axis、non-last small axis 等 base 类。 4. 新增 kth_value 的 tiling UT 和 infershape UT。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/2018 ## 测试 1 sort算子原始250+ST用例全部通过 2 sort算子新增80+ 非尾轴排序ST用例全部通过 3 kthvalue算子新增100+ ST用例，涵盖各个模板，全部通过 4 topkv2，sort_with_index ST用例全部通过 5 二级冒烟通过 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3174 | 3 个月前 | |
新增 kthvalue 算子 Co-authored-by: ConanHuang<huangxiaobin1@huawei.com> # message auto-generated for no-merge-commit merge: !3174 merge master into master 新增 kthvalue 算子 Created-by: ConanHuang Commit-by: ConanHuang Merged-by: cann-robot Description: ## 描述 新增 KthValue 算子，重构 sort 公共逻辑 1. 新增 KthValue 算子，支持沿指定维度查找第 k 小值及其索引。支持数据类型：float16、float32、bfloat16、int8、int16、int32、int64、uint8、uint16、uint32、uint64，支持 last-axis 和 non-last small-axis（轴长 ∈ 2, 2048）两种场景。 2. 实现多策略 Tiling 路由：small axis insertion / two-stage、radix one-core / more-core、merge sort one-core / more-core、merge intra-core、non-last small axis、axis-one copy（axis=1 特化）。 3. 将 sort 算子的公共排序逻辑抽取到 sort/op_kernel/arch35/common/ 和 sort/op_host/arch35/sort_tiling_common.{h,cpp}，供 kth_value 复用，包括 radix sort、merge sort、small axis、non-last small axis 等 base 类。 4. 新增 kth_value 的 tiling UT 和 infershape UT。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/2018 ## 测试 1 sort算子原始250+ST用例全部通过 2 sort算子新增80+ 非尾轴排序ST用例全部通过 3 kthvalue算子新增100+ ST用例，涵盖各个模板，全部通过 4 topkv2，sort_with_index ST用例全部通过 5 二级冒烟通过 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3174 | 3 个月前 | |
新增 kthvalue 算子 Co-authored-by: ConanHuang<huangxiaobin1@huawei.com> # message auto-generated for no-merge-commit merge: !3174 merge master into master 新增 kthvalue 算子 Created-by: ConanHuang Commit-by: ConanHuang Merged-by: cann-robot Description: ## 描述 新增 KthValue 算子，重构 sort 公共逻辑 1. 新增 KthValue 算子，支持沿指定维度查找第 k 小值及其索引。支持数据类型：float16、float32、bfloat16、int8、int16、int32、int64、uint8、uint16、uint32、uint64，支持 last-axis 和 non-last small-axis（轴长 ∈ 2, 2048）两种场景。 2. 实现多策略 Tiling 路由：small axis insertion / two-stage、radix one-core / more-core、merge sort one-core / more-core、merge intra-core、non-last small axis、axis-one copy（axis=1 特化）。 3. 将 sort 算子的公共排序逻辑抽取到 sort/op_kernel/arch35/common/ 和 sort/op_host/arch35/sort_tiling_common.{h,cpp}，供 kth_value 复用，包括 radix sort、merge sort、small axis、non-last small axis 等 base 类。 4. 新增 kth_value 的 tiling UT 和 infershape UT。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/2018 ## 测试 1 sort算子原始250+ST用例全部通过 2 sort算子新增80+ 非尾轴排序ST用例全部通过 3 kthvalue算子新增100+ ST用例，涵盖各个模板，全部通过 4 topkv2，sort_with_index ST用例全部通过 5 二级冒烟通过 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3174 | 3 个月前 | |
新增 kthvalue 算子 Co-authored-by: ConanHuang<huangxiaobin1@huawei.com> # message auto-generated for no-merge-commit merge: !3174 merge master into master 新增 kthvalue 算子 Created-by: ConanHuang Commit-by: ConanHuang Merged-by: cann-robot Description: ## 描述 新增 KthValue 算子，重构 sort 公共逻辑 1. 新增 KthValue 算子，支持沿指定维度查找第 k 小值及其索引。支持数据类型：float16、float32、bfloat16、int8、int16、int32、int64、uint8、uint16、uint32、uint64，支持 last-axis 和 non-last small-axis（轴长 ∈ 2, 2048）两种场景。 2. 实现多策略 Tiling 路由：small axis insertion / two-stage、radix one-core / more-core、merge sort one-core / more-core、merge intra-core、non-last small axis、axis-one copy（axis=1 特化）。 3. 将 sort 算子的公共排序逻辑抽取到 sort/op_kernel/arch35/common/ 和 sort/op_host/arch35/sort_tiling_common.{h,cpp}，供 kth_value 复用，包括 radix sort、merge sort、small axis、non-last small axis 等 base 类。 4. 新增 kth_value 的 tiling UT 和 infershape UT。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/2018 ## 测试 1 sort算子原始250+ST用例全部通过 2 sort算子新增80+ 非尾轴排序ST用例全部通过 3 kthvalue算子新增100+ ST用例，涵盖各个模板，全部通过 4 topkv2，sort_with_index ST用例全部通过 5 二级冒烟通过 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3174 | 3 个月前 | |
新增 kthvalue 算子 Co-authored-by: ConanHuang<huangxiaobin1@huawei.com> # message auto-generated for no-merge-commit merge: !3174 merge master into master 新增 kthvalue 算子 Created-by: ConanHuang Commit-by: ConanHuang Merged-by: cann-robot Description: ## 描述 新增 KthValue 算子，重构 sort 公共逻辑 1. 新增 KthValue 算子，支持沿指定维度查找第 k 小值及其索引。支持数据类型：float16、float32、bfloat16、int8、int16、int32、int64、uint8、uint16、uint32、uint64，支持 last-axis 和 non-last small-axis（轴长 ∈ 2, 2048）两种场景。 2. 实现多策略 Tiling 路由：small axis insertion / two-stage、radix one-core / more-core、merge sort one-core / more-core、merge intra-core、non-last small axis、axis-one copy（axis=1 特化）。 3. 将 sort 算子的公共排序逻辑抽取到 sort/op_kernel/arch35/common/ 和 sort/op_host/arch35/sort_tiling_common.{h,cpp}，供 kth_value 复用，包括 radix sort、merge sort、small axis、non-last small axis 等 base 类。 4. 新增 kth_value 的 tiling UT 和 infershape UT。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/2018 ## 测试 1 sort算子原始250+ST用例全部通过 2 sort算子新增80+ 非尾轴排序ST用例全部通过 3 kthvalue算子新增100+ ST用例，涵盖各个模板，全部通过 4 topkv2，sort_with_index ST用例全部通过 5 二级冒烟通过 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3174 | 3 个月前 | |
新增 kthvalue 算子 Co-authored-by: ConanHuang<huangxiaobin1@huawei.com> # message auto-generated for no-merge-commit merge: !3174 merge master into master 新增 kthvalue 算子 Created-by: ConanHuang Commit-by: ConanHuang Merged-by: cann-robot Description: ## 描述 新增 KthValue 算子，重构 sort 公共逻辑 1. 新增 KthValue 算子，支持沿指定维度查找第 k 小值及其索引。支持数据类型：float16、float32、bfloat16、int8、int16、int32、int64、uint8、uint16、uint32、uint64，支持 last-axis 和 non-last small-axis（轴长 ∈ 2, 2048）两种场景。 2. 实现多策略 Tiling 路由：small axis insertion / two-stage、radix one-core / more-core、merge sort one-core / more-core、merge intra-core、non-last small axis、axis-one copy（axis=1 特化）。 3. 将 sort 算子的公共排序逻辑抽取到 sort/op_kernel/arch35/common/ 和 sort/op_host/arch35/sort_tiling_common.{h,cpp}，供 kth_value 复用，包括 radix sort、merge sort、small axis、non-last small axis 等 base 类。 4. 新增 kth_value 的 tiling UT 和 infershape UT。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/2018 ## 测试 1 sort算子原始250+ST用例全部通过 2 sort算子新增80+ 非尾轴排序ST用例全部通过 3 kthvalue算子新增100+ ST用例，涵盖各个模板，全部通过 4 topkv2，sort_with_index ST用例全部通过 5 二级冒烟通过 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3174 | 3 个月前 | |
新增 kthvalue 算子 Co-authored-by: ConanHuang<huangxiaobin1@huawei.com> # message auto-generated for no-merge-commit merge: !3174 merge master into master 新增 kthvalue 算子 Created-by: ConanHuang Commit-by: ConanHuang Merged-by: cann-robot Description: ## 描述 新增 KthValue 算子，重构 sort 公共逻辑 1. 新增 KthValue 算子，支持沿指定维度查找第 k 小值及其索引。支持数据类型：float16、float32、bfloat16、int8、int16、int32、int64、uint8、uint16、uint32、uint64，支持 last-axis 和 non-last small-axis（轴长 ∈ 2, 2048）两种场景。 2. 实现多策略 Tiling 路由：small axis insertion / two-stage、radix one-core / more-core、merge sort one-core / more-core、merge intra-core、non-last small axis、axis-one copy（axis=1 特化）。 3. 将 sort 算子的公共排序逻辑抽取到 sort/op_kernel/arch35/common/ 和 sort/op_host/arch35/sort_tiling_common.{h,cpp}，供 kth_value 复用，包括 radix sort、merge sort、small axis、non-last small axis 等 base 类。 4. 新增 kth_value 的 tiling UT 和 infershape UT。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/2018 ## 测试 1 sort算子原始250+ST用例全部通过 2 sort算子新增80+ 非尾轴排序ST用例全部通过 3 kthvalue算子新增100+ ST用例，涵盖各个模板，全部通过 4 topkv2，sort_with_index ST用例全部通过 5 二级冒烟通过 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3174 | 3 个月前 | |
新增 kthvalue 算子 Co-authored-by: ConanHuang<huangxiaobin1@huawei.com> # message auto-generated for no-merge-commit merge: !3174 merge master into master 新增 kthvalue 算子 Created-by: ConanHuang Commit-by: ConanHuang Merged-by: cann-robot Description: ## 描述 新增 KthValue 算子，重构 sort 公共逻辑 1. 新增 KthValue 算子，支持沿指定维度查找第 k 小值及其索引。支持数据类型：float16、float32、bfloat16、int8、int16、int32、int64、uint8、uint16、uint32、uint64，支持 last-axis 和 non-last small-axis（轴长 ∈ 2, 2048）两种场景。 2. 实现多策略 Tiling 路由：small axis insertion / two-stage、radix one-core / more-core、merge sort one-core / more-core、merge intra-core、non-last small axis、axis-one copy（axis=1 特化）。 3. 将 sort 算子的公共排序逻辑抽取到 sort/op_kernel/arch35/common/ 和 sort/op_host/arch35/sort_tiling_common.{h,cpp}，供 kth_value 复用，包括 radix sort、merge sort、small axis、non-last small axis 等 base 类。 4. 新增 kth_value 的 tiling UT 和 infershape UT。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/2018 ## 测试 1 sort算子原始250+ST用例全部通过 2 sort算子新增80+ 非尾轴排序ST用例全部通过 3 kthvalue算子新增100+ ST用例，涵盖各个模板，全部通过 4 topkv2，sort_with_index ST用例全部通过 5 二级冒烟通过 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3174 | 3 个月前 | |
新增 kthvalue 算子 Co-authored-by: ConanHuang<huangxiaobin1@huawei.com> # message auto-generated for no-merge-commit merge: !3174 merge master into master 新增 kthvalue 算子 Created-by: ConanHuang Commit-by: ConanHuang Merged-by: cann-robot Description: ## 描述 新增 KthValue 算子，重构 sort 公共逻辑 1. 新增 KthValue 算子，支持沿指定维度查找第 k 小值及其索引。支持数据类型：float16、float32、bfloat16、int8、int16、int32、int64、uint8、uint16、uint32、uint64，支持 last-axis 和 non-last small-axis（轴长 ∈ 2, 2048）两种场景。 2. 实现多策略 Tiling 路由：small axis insertion / two-stage、radix one-core / more-core、merge sort one-core / more-core、merge intra-core、non-last small axis、axis-one copy（axis=1 特化）。 3. 将 sort 算子的公共排序逻辑抽取到 sort/op_kernel/arch35/common/ 和 sort/op_host/arch35/sort_tiling_common.{h,cpp}，供 kth_value 复用，包括 radix sort、merge sort、small axis、non-last small axis 等 base 类。 4. 新增 kth_value 的 tiling UT 和 infershape UT。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/2018 ## 测试 1 sort算子原始250+ST用例全部通过 2 sort算子新增80+ 非尾轴排序ST用例全部通过 3 kthvalue算子新增100+ ST用例，涵盖各个模板，全部通过 4 topkv2，sort_with_index ST用例全部通过 5 二级冒烟通过 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3174 | 3 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 3 个月前 | ||
| 3 个月前 | ||
| 4 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 |