Star1
0
Code
Code
Issues
Pull Requests
Actions
Discussion
Wiki
Analysis
Star1
0
cann-robotcann-robotfeat(random): stateless_random_normal_v2/v3、stateless_uniform 支持 ascend960dt/ascend960pr 平台
0aada3a6Add on 23 days agoHistory
FilesLast commitLast update
arch35
feat(random): stateless_random_normal_v2/v3、stateless_uniform 支持 ascend960dt/ascend960pr 平台 Co-authored-by: wuchengwen_oh<wuchengwen4@huawei.com> # message auto-generated for no-merge-commit merge: !6175 merge feat/random-960-support into master feat(random): stateless_random_normal_v2/v3、stateless_uniform 支持 ascend960dt/ascend960pr 平台 Created-by: wuchengwen_oh Commit-by: wuchengwen_oh Merged-by: cann-robot Description: ## 描述 将 stateless_random_normal_v2、stateless_random_normal_v3、stateless_uniform 三个随机数算子的 Ascend 960 平台支持从 A6(ops-math-dev) 迁移到主线，支持 ascend960dt / ascend960pr 两颗芯片。 **迁移策略（少量修改→架构隔离，复用 arch35 目录）**：逐文件归一化比对（MicroAPI→Reg 改名、忽略换行缩进）后确认三者 kernel 逻辑与主线 arch35 版本完全等价，tiling 仅切分对齐粒度存在架构差异，故不新建 arch92 目录、不引入重复代码，差异按 NpuArch 精确等值判断隔离（SocVersion 枚举中 960 追加在末尾，不能用区间比较）。 改动内容： - **算子注册**：三个算子 def.cpp 增加 AddConfig("ascend960dt") / AddConfig("ascend960pr")；CMakeLists.txt 的 SUPPORT_COMPUTE_UNIT 与 SUPPORT_TILING_DIR 一一对应新增两颗芯片（tiling 复用 arch35）。 - **kernel 编译配置**：ascendc_config.json 为三个算子注册 ascend960dt/ascend960pr 的 compute_units 与 compile_options（-mllvm -cce-aicore-dcci-before-kernel-end=false），与主线既有 960dt 算子（MirrorPad/Pad/SplitV 等）一致；否则 960 编译将缺失该 DCCI 选项。 - **tiling 架构隔离**： - stateless_random_normal_v2：IsArch92() 按 NpuArch::DAV_9201/9202 判断，arch92 核间按 32 元素对齐、UB 按 256 元素向下对齐；arch35 保持原 512 字节核间对齐、32 字节 UB 向上对齐。CompileInfo 增加 isArch92 标记，覆盖 platformInfo 不可用时回退 CompileInfo 通路的判定。 - stateless_random_normal_v3：新增 BeforeProcess() 覆写，arch92 下将 coreAlignSize 由 512 改为 32；platformInfo 为空时保持默认值。 - stateless_uniform：tiling/kernel 与主线 arch35 完全一致，无需隔离。 - **kernel 架构宏隔离**：stateless_random_normal_v3 kernel 入口用 #if defined(__DAV_VEC__) 包裹（AIV_ONLY 且依赖仅 Vector 核提供的 RegBase VF 接口），避免 AIC 编译通道实例化。 - **op_api**：aclnn_normal_out.cpp 抽取 IsNormalV3SupportedArch()，Normal V3 兼容通路由仅 DAV_3510 扩展为 DAV_3510/DAV_9201/DAV_9202。 - **UT**：新增 stateless_uniform_tiling.h host shim（stateless_uniform kernel 引用 device SIMT builtin __mul_i32toi64，host 侧编译缺失导致其 op_kernel UT 链接失败；cmake 检测到 <op>_tiling.h 后 -include 注入全部 TU 提供等价实现，stateless_normal 等 5 个既有算子早已采用此写法）。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/3657 ## 测试 - op_host UT：30/30 通过（三个算子 tiling + infershape） - op_api UT：47/47 通过（Normal L2 四接口 + StatelessUniform L0） - 三个算子 ascend950 kernel 二进制构建通过；v3 的 __DAV_VEC__ 宏经 A/B 对比生成的 .o 与加宏前 MD5 完全一致（对 950 零影响） - arch92 tiling 算式对账：按 A6 公式算得编码 53876069761280 与 A6 自身提交的 UT 期望值一致；arch35 仍为 54563264528640，与主线一致 - libophost_math.so 全量编译通过；修改文件全部通过仓库 pre-commit（clang-format/end-of-file/codespell/OAT 合规） - 注：本地 CANN 包仅支持 ascend950，ascend960dt/ascend960pr 的 kernel 编译需在支持 960 的 CANN 版本上验证 ## 文档更新 无 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!6175
23 days ago
config
feat(random): stateless_random_normal_v2/v3、stateless_uniform 支持 ascend960dt/ascend960pr 平台 Co-authored-by: wuchengwen_oh<wuchengwen4@huawei.com> # message auto-generated for no-merge-commit merge: !6175 merge feat/random-960-support into master feat(random): stateless_random_normal_v2/v3、stateless_uniform 支持 ascend960dt/ascend960pr 平台 Created-by: wuchengwen_oh Commit-by: wuchengwen_oh Merged-by: cann-robot Description: ## 描述 将 stateless_random_normal_v2、stateless_random_normal_v3、stateless_uniform 三个随机数算子的 Ascend 960 平台支持从 A6(ops-math-dev) 迁移到主线，支持 ascend960dt / ascend960pr 两颗芯片。 **迁移策略（少量修改→架构隔离，复用 arch35 目录）**：逐文件归一化比对（MicroAPI→Reg 改名、忽略换行缩进）后确认三者 kernel 逻辑与主线 arch35 版本完全等价，tiling 仅切分对齐粒度存在架构差异，故不新建 arch92 目录、不引入重复代码，差异按 NpuArch 精确等值判断隔离（SocVersion 枚举中 960 追加在末尾，不能用区间比较）。 改动内容： - **算子注册**：三个算子 def.cpp 增加 AddConfig("ascend960dt") / AddConfig("ascend960pr")；CMakeLists.txt 的 SUPPORT_COMPUTE_UNIT 与 SUPPORT_TILING_DIR 一一对应新增两颗芯片（tiling 复用 arch35）。 - **kernel 编译配置**：ascendc_config.json 为三个算子注册 ascend960dt/ascend960pr 的 compute_units 与 compile_options（-mllvm -cce-aicore-dcci-before-kernel-end=false），与主线既有 960dt 算子（MirrorPad/Pad/SplitV 等）一致；否则 960 编译将缺失该 DCCI 选项。 - **tiling 架构隔离**： - stateless_random_normal_v2：IsArch92() 按 NpuArch::DAV_9201/9202 判断，arch92 核间按 32 元素对齐、UB 按 256 元素向下对齐；arch35 保持原 512 字节核间对齐、32 字节 UB 向上对齐。CompileInfo 增加 isArch92 标记，覆盖 platformInfo 不可用时回退 CompileInfo 通路的判定。 - stateless_random_normal_v3：新增 BeforeProcess() 覆写，arch92 下将 coreAlignSize 由 512 改为 32；platformInfo 为空时保持默认值。 - stateless_uniform：tiling/kernel 与主线 arch35 完全一致，无需隔离。 - **kernel 架构宏隔离**：stateless_random_normal_v3 kernel 入口用 #if defined(__DAV_VEC__) 包裹（AIV_ONLY 且依赖仅 Vector 核提供的 RegBase VF 接口），避免 AIC 编译通道实例化。 - **op_api**：aclnn_normal_out.cpp 抽取 IsNormalV3SupportedArch()，Normal V3 兼容通路由仅 DAV_3510 扩展为 DAV_3510/DAV_9201/DAV_9202。 - **UT**：新增 stateless_uniform_tiling.h host shim（stateless_uniform kernel 引用 device SIMT builtin __mul_i32toi64，host 侧编译缺失导致其 op_kernel UT 链接失败；cmake 检测到 <op>_tiling.h 后 -include 注入全部 TU 提供等价实现，stateless_normal 等 5 个既有算子早已采用此写法）。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/3657 ## 测试 - op_host UT：30/30 通过（三个算子 tiling + infershape） - op_api UT：47/47 通过（Normal L2 四接口 + StatelessUniform L0） - 三个算子 ascend950 kernel 二进制构建通过；v3 的 __DAV_VEC__ 宏经 A/B 对比生成的 .o 与加宏前 MD5 完全一致（对 950 零影响） - arch92 tiling 算式对账：按 A6 公式算得编码 53876069761280 与 A6 自身提交的 UT 期望值一致；arch35 仍为 54563264528640，与主线一致 - libophost_math.so 全量编译通过；修改文件全部通过仓库 pre-commit（clang-format/end-of-file/codespell/OAT 合规） - 注：本地 CANN 包仅支持 ascend950，ascend960dt/ascend960pr 的 kernel 编译需在支持 960 的 CANN 版本上验证 ## 文档更新 无 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!6175
23 days ago
CMakeLists.txt
新增stateless_random_uniform_v3和stateless_random_normal_v3及aclnn接口适配 Co-authored-by: huairuchen<chenhuairu@huawei.com> # message auto-generated for no-merge-commit merge: !2003 merge master into master 新增stateless_random_uniform_v3和stateless_random_normal_v3及aclnn接口适配 Created-by: huairuchen Commit-by: huairuchen Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1、优化StatelessRandomUniformV2/StatelessRandomNormalV2：新增了支持aclTensor*类型seed和offset参数的算子接口，允许直接传递设备张量，避免了D2H拷贝。同时，重构了tiling逻辑，将key和counter参数的读取职责从tiling阶段转移至kernel执行阶段，直接从全局内存读取，简化了流程并提升了灵活性。 2、新增StatelessRandomUniformV3/StatelessRandomNormalV3：完整实现了该融合算子，包括API接口、Tiling逻辑、内核实现及配置文件。该算子基于Philox算法生成随机数，并通过v3KernelMode属性支持不同计算模式，将范围缩放的线性计算内联到kernel内核中，实现了算子融合，提升了执行效率。 3、梳理以下aclnn接口，确保了在非tensor接口和tensor接口情况下都能正确调用使用： aclnnInplaceUniform、aclnnInplaceUniformTensor、aclnnInplaceRandom、aclnnInplaceRandomTensor 使以上四个接口能够在A5芯片下正确调用stateless_random_uniform_v3算子，输入类型为double的情况下调用stateless_random_uniform_v2和小算子拼接，保证精度正常，性能不劣化； aclnnInplaceNormal、aclnnInplaceNormalTensor使以上两个接口能够在A5芯片下正确调用stateless_random_normal_v3算子，输入类型为double的情况下调用stateless_random_normal_v2和小算子拼接，保证精度正常，性能不劣化； aclnnNormalFloatFloat、aclnnNormalFloatTensor、aclnnNormalTensorFloat、aclnnNormalTensorTensor使以上四个接口能够在A5芯片下正确调用stateless_random_normal_v3算子，输入类型为double的情况下调用stateless_random_normal_v2和小算子拼接，保证精度正常，性能不劣化 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-math/issues/1128 https://gitcode.com/cann/ops-math/issues/1129 https://gitcode.com/cann/ops-math/issues/1130 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> TTK测试、UT测试、蓝区冒烟、二级冒烟 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!2003
7 months ago
stateless_random_normal_v3_def.cpp
feat(random): stateless_random_normal_v2/v3、stateless_uniform 支持 ascend960dt/ascend960pr 平台 Co-authored-by: wuchengwen_oh<wuchengwen4@huawei.com> # message auto-generated for no-merge-commit merge: !6175 merge feat/random-960-support into master feat(random): stateless_random_normal_v2/v3、stateless_uniform 支持 ascend960dt/ascend960pr 平台 Created-by: wuchengwen_oh Commit-by: wuchengwen_oh Merged-by: cann-robot Description: ## 描述 将 stateless_random_normal_v2、stateless_random_normal_v3、stateless_uniform 三个随机数算子的 Ascend 960 平台支持从 A6(ops-math-dev) 迁移到主线，支持 ascend960dt / ascend960pr 两颗芯片。 **迁移策略（少量修改→架构隔离，复用 arch35 目录）**：逐文件归一化比对（MicroAPI→Reg 改名、忽略换行缩进）后确认三者 kernel 逻辑与主线 arch35 版本完全等价，tiling 仅切分对齐粒度存在架构差异，故不新建 arch92 目录、不引入重复代码，差异按 NpuArch 精确等值判断隔离（SocVersion 枚举中 960 追加在末尾，不能用区间比较）。 改动内容： - **算子注册**：三个算子 def.cpp 增加 AddConfig("ascend960dt") / AddConfig("ascend960pr")；CMakeLists.txt 的 SUPPORT_COMPUTE_UNIT 与 SUPPORT_TILING_DIR 一一对应新增两颗芯片（tiling 复用 arch35）。 - **kernel 编译配置**：ascendc_config.json 为三个算子注册 ascend960dt/ascend960pr 的 compute_units 与 compile_options（-mllvm -cce-aicore-dcci-before-kernel-end=false），与主线既有 960dt 算子（MirrorPad/Pad/SplitV 等）一致；否则 960 编译将缺失该 DCCI 选项。 - **tiling 架构隔离**： - stateless_random_normal_v2：IsArch92() 按 NpuArch::DAV_9201/9202 判断，arch92 核间按 32 元素对齐、UB 按 256 元素向下对齐；arch35 保持原 512 字节核间对齐、32 字节 UB 向上对齐。CompileInfo 增加 isArch92 标记，覆盖 platformInfo 不可用时回退 CompileInfo 通路的判定。 - stateless_random_normal_v3：新增 BeforeProcess() 覆写，arch92 下将 coreAlignSize 由 512 改为 32；platformInfo 为空时保持默认值。 - stateless_uniform：tiling/kernel 与主线 arch35 完全一致，无需隔离。 - **kernel 架构宏隔离**：stateless_random_normal_v3 kernel 入口用 #if defined(__DAV_VEC__) 包裹（AIV_ONLY 且依赖仅 Vector 核提供的 RegBase VF 接口），避免 AIC 编译通道实例化。 - **op_api**：aclnn_normal_out.cpp 抽取 IsNormalV3SupportedArch()，Normal V3 兼容通路由仅 DAV_3510 扩展为 DAV_3510/DAV_9201/DAV_9202。 - **UT**：新增 stateless_uniform_tiling.h host shim（stateless_uniform kernel 引用 device SIMT builtin __mul_i32toi64，host 侧编译缺失导致其 op_kernel UT 链接失败；cmake 检测到 <op>_tiling.h 后 -include 注入全部 TU 提供等价实现，stateless_normal 等 5 个既有算子早已采用此写法）。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/3657 ## 测试 - op_host UT：30/30 通过（三个算子 tiling + infershape） - op_api UT：47/47 通过（Normal L2 四接口 + StatelessUniform L0） - 三个算子 ascend950 kernel 二进制构建通过；v3 的 __DAV_VEC__ 宏经 A/B 对比生成的 .o 与加宏前 MD5 完全一致（对 950 零影响） - arch92 tiling 算式对账：按 A6 公式算得编码 53876069761280 与 A6 自身提交的 UT 期望值一致；arch35 仍为 54563264528640，与主线一致 - libophost_math.so 全量编译通过；修改文件全部通过仓库 pre-commit（clang-format/end-of-file/codespell/OAT 合规） - 注：本地 CANN 包仅支持 ascend950，ascend960dt/ascend960pr 的 kernel 编译需在支持 960 的 CANN 版本上验证 ## 文档更新 无 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!6175
23 days ago