| Files | Last commit | Last update |
|---|---|---|
feat: RadixTopK 新增 int64 索引变体并修复 largest 场景 NaN 与 WS 同步问题 Co-authored-by: Nice_try<zhangzhiwei108@huawei.com> # message auto-generated for no-merge-commit merge: !6335 merge RadixTopKInt64Nan into master feat: RadixTopK 新增 int64 索引变体并修复 largest 场景 NaN 与 WS 同步问题 Created-by: Nice_try Commit-by: Nice_try Merged-by: cann-robot Description: ## 描述 本次改动为 RadixTopK 算子新增 int64 索引变体 RadixTopKWsI64,使排序轴长度 sortLen 超过 int32 上限(2^31-1)的超大 shape 场景可正常执行;同时修复 largest=true 场景下 ±NaN 的计数/提取口径不一致缺陷,以及 WS 变体在多轮归约、多块搬运中的同步问题。 ### 改动原因 - 原实现受 int32 值域限制:sortLen 超过 int32 上限时索引值域与跨核计数会溢出,IsRadixTopKSupport 直接判不支持,算子无法处理超大 shape。 - largest=true 时 NaN 在直方图(key 域)与提取掩码(x > b)两处口径不一致:−NaN 被计入配额但 x > b 对其恒为 false,导致槽位被背景元素顶替(被顶替槽数恰等于注入的 NaN 数)。 - WS 变体在跨核归约与多块 tileHist 搬运处缺必要同步,超大 shape 下出现 tile 级 ±1 配额错位。 ### 改动方法 **host 侧** - radix_top_k_tiling.cpp/.h:新增 isInt64Shape_(sortLen > INT32_SORT_LEN_MAX=2^31-1);新增 CalcInt64TilingParams(int64 输出索引使 UB 开销系数由 16 提到 20);GetTilingKey 增加第 4 个模板参数 isInt64Shape(追加在最高位,原有 3 参数 key 编码不变);int64 变体强制 needWorkspace=true 并复用 large shape 的 workspace 布局;新增防御性校验(indices 输出必须 int64、kValue 与 per-core 元素数不超 int32 上限)。 - radix_top_k_binary.json(ascend910b / ascend910_93):新增 RadixTopK_x_{bfloat16,float16}_indices_int64_k_int32 两个编译配置。 - topk.cpp(op_api):IsRadixTopKSupport 增加 indicesDType 入参,sortLen > int32 上限时要求 indices 为 int64 且 k > 0;TopkCommon 在超大 shape 且 indices 为 int64 时按 int64 分配输出索引。 **kernel 侧** - radix_top_k.cpp:kernel 模板新增 isInt64Shape 参数并路由到 RadixTopKWsI64。 - 新增 radix_top_k_ws_i64.h:RadixTopKWsI64 继承 RadixTopKWs,完整复用其 WS 搬运与同步结构,仅把触及 int64 值域的部分改为标量 int64 实现——跨核 globalHist 归约、边界查找、边界计数跨核前缀和;索引输出在 int32 域压缩 tile 内索引,再逐元素加 int64 tileOffset 后向扩展写入,代价 O(kValue)。per-core 直方图/tileTopK/coreTopK 等 int32 安全域保持不变。 - radix_top_k_common.h:NegateDataForLargest 重命名为 CanonicalizeDataForLargest,不再取反,改为把 ±NaN 规范化为同一个正 NaN(降序改由 key 域取补承担);TwiddleInB16 对 largest=false 在末尾做键域取补;SubTopKAndCopyOut 在 largest=true 且非 EQ 时改用 NOT(LE) 掩码,使 NaN 与 key 域配额口径一致,并对非 EQ 通过按 tile 配额封顶避免越界写。 - radix_top_k_ws.h:私有成员访问级别改为 protected 供 i64 子类复用;SubProcess 增加 SyncAll,保证快核下一轮 CopyOut2Ws 覆盖前所有核已完成 CopyInGlobalHist 读取。 - radix_top_k_ws_utils.h:CopyTileHistInWs 多块循环迭代间补 MTE3ToMTE2Sync,避免 GM→UB 覆盖尚未搬走的头部数据。 - radix_top_k_ub.h / radix_top_k_ws.h:HandleLastRoundBoundary 补同步说明并统一 SToVSync 口径。 - radix_top_k_tiling_key.h / radix_top_k_struct.h:模板参数声明新增 isInt64Shape、注释对齐。 ## 关联的Issue - https://gitcode.com/cann/ops-math/issues/3564 ## 测试 - op_kernel UT 链接桩同步更新模板参数(isInt64Shape=false)。 - fp16 / bf16 ±NaN 边界:largest=true/false 两个方向与 torch 语义逐项比对(±NaN、±Inf、±0、次正规码),修正后 NaN 入选与配额统计一致。 - 超大 shape(sortLen > int32 上限):以 K=240000 等 i64 场景验证 tile 级配额正确、int64 索引输出正确。 ## 文档更新 无 ## 类型标签 - [x] 新特性 - [x] Bug修复 See merge request: cann/ops-math!6335 | 1 month ago | |
fix: math仓支持ut asan检查,适配asan版本的tiling so库. 暂时下掉有问题用例 Co-authored-by: yanzhi2024<yanzhi@huawei.com> # message auto-generated for no-merge-commit merge: !7056 merge master into master fix: math仓支持ut asan检查,适配asan版本的tiling so库. 暂时下掉有问题用例 Created-by: yanzhi2024 Commit-by: yanzhi2024 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修复 ASAN 流水线生成 op_kernel tiling 头文件时的运行库加载顺序错误。ASAN 模式下,在启动 Python 前预加载当前编译器对应的 libasan.so,并仅对头文件生成进程关闭泄漏检测,避免 Python/TBE 退出时的泄漏报告阻断构建。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-math/issues/4373 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ASAN 模式下,流水线日志中失败的 13 个 tiling 头文件生成目标均构建成功。非 ASAN 模式 CMake 配置、脚本语法检查、git diff --check 和 pre-commit 检查均通过。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 无。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7056 | 18 days ago |
| Files | Last commit | Last update |
|---|---|---|
| 1 month ago | ||
| 18 days ago |