cann-robot优化StatelessNormal算子内存及修复超32位切分精度问题

文件	最后提交记录	最后更新时间
docs	批量修改md文档冗余空格第3批 Co-authored-by: gitcode-chenjiao<chenjiao31@huawei.com> # message auto-generated for no-merge-commit merge: !3318 merge master into master 批量修改md文档冗余空格第3批 Created-by: gitcode-chenjiao Commit-by: gitcode-chenjiao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 批量修改md中冗余空格 ## 关联的Issue [DOC_1962#冗余空格](https://gitcode.com/cann/ops-math/issues/1962) ## 测试自验证 ## 文档更新 all md ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [X ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3318	1 个月前
examples	支持neg等单目运算算子下一代kernel实现 Co-authored-by: 张磊<zhanglei121@huawei.com> # message auto-generated for no-merge-commit merge: !494 merge master into master 支持neg等单目运算算子下一代kernel实现 Created-by: zl_hw Commit-by: 张磊 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!494	7 个月前
op_api	优化StatelessNormal算子内存及修复超32位切分精度问题 Co-authored-by: gh_M<meiguohan@huawei.com> # message auto-generated for no-merge-commit merge: !4005 merge 9.1.0 into 9.1.0 优化StatelessNormal算子内存及修复超32位切分精度问题 Created-by: gh_M Commit-by: gh_M Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 解决了算子额外内存占用与超大shape场景下的精度问题。修复了算子导致host重启与训练掉卡的情况。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-math/issues/2162 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 各泛化测试 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!4005	27 天前
op_graph	math仓算子代码整改 Co-authored-by: cai-chengchao<caichengchao1@h-partners.com> # message auto-generated for no-merge-commit merge: !873 merge math_op_back_2 into master math仓算子代码整改 Created-by: cai-chengchao Commit-by: cai-chengchao Merged-by: cann-robot Description: ## 描述 math仓算子代码整改 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!873	6 个月前
op_host	refactor: 消除 math 算子重复头文件依赖（下），统一引用 base 仓 Co-authored-by: tianqiguang<tianqiguang@huawei.com> # message auto-generated for no-merge-commit merge: !2980 merge math_tiling into master refactor: 消除 math 算子重复头文件依赖（下），统一引用 base 仓 Created-by: tianqiguang Commit-by: tianqiguang Merged-by: cann-robot Description: ## 描述消除 math 目录下后半段（ger ~ zero_op）共 89 个算子的重复头文件依赖，将 tiling 基类和模板注册引用统一到 base 仓。本 PR 与 #2969 共同覆盖全部 math 算子。 ### 改动原因与 #2969 一致，剩余 math 算子（ger 起）各自直接引用旧头文件并存在全局命名空间引入： - tiling_base.h 中 TilingBaseClass 已在 base 仓提取为 tiling_base_class.h - tiling_templates_registry.h 中 math 注册宏已拆分到 math_tiling_templates_registry.h - using namespace Ops::Math::OpTiling 引入全局命名空间，存在符号冲突风险 ### 改动方法批量更新 math 算子文件的 #include 及命名空间引用： - tiling_base.h -> tiling_base_class.h - tiling_templates_registry.h -> math_tiling_templates_registry.h - 移除 using namespace Ops::Math::OpTiling - TilingBaseClass -> Ops::Base::TilingBaseClass - TilingRegistry::GetInstance() -> Ops::Math::OpTiling::TilingRegistry::GetInstance() ## 关联的Issue - #1685 ## 测试 - 涉及的 math 算子二级冒烟测试已通过 ## 文档更新无文档变更 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码重构，消除重复头文件依赖 See merge request: cann/ops-math!2980	2 个月前
op_kernel	refactor: convert math SIMT kernels to C-style APIs Co-authored-by: qianzehong<qianzehong@huawei.com> # message auto-generated for no-merge-commit merge: !2616 merge c_style into master refactor: convert math SIMT kernels to C-style APIs Created-by: qianzehong Commit-by: qianzehong Merged-by: cann-robot Description: ## 描述对 ops-math 中 `floor_div`、`floor_mod`、`mul`、`select`、`mod`、`gcd` 算子的 Ascend 950 arch35 kernel 做 SIMT C 风格 API 整改。主要变更： - 增加 `simt_api/asc_simt.h` 头文件依赖。 - 将线程索引/线程数 API 从 `Simt::GetThreadIdx/GetThreadNum` 替换为 `threadIdx.x/blockDim.x`。 - 将 SIMT 调用 API 从 `Simt::VF_CALL/Dim3` 替换为 `asc_vf_call/dim3`。 - `select` 中 `Simt::UintDiv` 因当前 CANN 9.0.0 SIMT 头文件无 C 风格等价 API，保持不变。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/1481 ## 测试按本次处理要求跳过编译验证；本地 CANN 包版本与目标验证环境不一致。 ## 文档更新无文档更新。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：SIMT C 风格 API 整改 See merge request: cann/ops-math!2616	2 个月前
tests	feat(mul): 稀疏广播非连续 Mul 回退转连续 + l0op::Mul (backport to 9.1.0) Co-authored-by: qianzehong<qianzehong@huawei.com> # message auto-generated for no-merge-commit merge: !3581 merge feat/mul-noncontig-route-contiguous-9.1.0 into 9.1.0 feat(mul): 稀疏广播非连续 Mul 回退转连续 + l0op::Mul (backport to 9.1.0) Created-by: qianzehong Commit-by: qianzehong Merged-by: cann-robot Description: ## 描述将已合入 master 的 cann/ops-math!3316 回合到 9.1.0 分支。非连续 Mul kernel 在「外层广播 + 内层稀疏 gather」的输入上严重劣化（典型来自 RoPE cos/sin 表的 `[1, N, 1]` 视图，stride 含 +1 对齐 padding，最内连续块仅 1 个元素，且被外层广播重复读 K 次）。基于 Ascend950 上板基准（lm eager 网络的 mul 非连续 case，npu.Event 设备侧计时，三轮稳定）： \| 输入 \| 非连续 Mul \| 转连续 + Mul \| 倍数 \| \|---\|---\|---\|---\| \| `[1,4800,1]` strides `[312000,65,1]` \| 49.3 us \| 11.1 us \| 4.4x \| \| `[1,688,1]` strides `[22704,33,1]` \| 16.2 us \| 9.5 us \| 1.7x \| 而转置大张量、大张量带 padding 切片、纯 stride-0 广播等场景非连续 kernel 仍更优，因此只在命中退化模式时回退。 ### 改动在 `aclnnMulGetWorkspaceSize` 中新增 `MulPreferContiguous(self, other)` 判定：任一输入同时满足 1. 广播倍数 `MulBroadcastFactor >= 8` 2. payload `MulViewNumel >= 256` 3. 最内连续块 `MulInnerContiguousRun < 32` 时，把两个非连续门置假，走原有的 `l0op::Contiguous` + `l0op::Mul` 路径。阈值均为具名 `constexpr`。 ## 关联的Issue #1965 ## 测试 - 23 个非连续 Mul layout 在 Ascend950 实跑：数值零不一致，精确命中 2 个回退 case，其余 21 个保持非连续，零误判。 - 950 性能复测：49.9us→11.1us（4.51x）、16.3us→9.5us（1.70x）。 - CANN 9.0.0 aarch64 真工具链 `-fsyntax-only -Wall -Wextra` 编译零错误零告警。 ## 文档更新无需更新文档 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3581	1 个月前
CMakeLists.txt	适配PG short_soc_version Co-authored-by: xufeng12121<1074805447@qq.com> # message auto-generated for no-merge-commit merge: !2804 merge mc62 into master 适配PG short_soc_version Created-by: xufeng12121 Commit-by: xufeng12121 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 算子适配PG特性，将math仓 mc62cm12a/MC62CM12A 改成 mc62/MC62 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-math/issues/1732 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!2804	2 个月前
README.md	doc Tools扫描错误修改 Co-authored-by: gitee-yanglulu<yanglulul@h-partners.com> # message auto-generated for no-merge-commit merge: !1899 merge master into master doc Tools扫描错误修改 Created-by: gitee-yanglulu Commit-by: gitee-yanglulu Merged-by: cann-robot Description: doc Tools扫描错误修改 See merge request: cann/ops-math!1899	4 个月前

Mul

产品支持情况

产品	是否支持
Ascend 950PR/Ascend 950DT	√
Atlas A3 训练系列产品/Atlas A3 推理系列产品	√
Atlas A2 训练系列产品/Atlas A2 推理系列产品	√
Atlas 200I/500 A2 推理产品	×
Atlas 推理系列产品	√
Atlas 训练系列产品	√

功能说明

算子功能：实现两输入tensor逐元素相乘。
计算公式：

x_1 \times x_2

参数说明

参数名	输入/输出/属性	描述	数据类型	数据格式
x1	输入	待进行Mul计算的入参，公式中的x1。	FLOAT、FLOAT16、BFLOAT16、DOUBLE、INT8、UINT8、INT16、INT32、INT64、COMPLEX32、COMPLEX64、BOOL	ND
x2	输入	待进行Mul计算的入参，公式中的x2。	FLOAT、FLOAT16、BFLOAT16、DOUBLE、INT8、UINT8、INT16、INT32、INT64、COMPLEX32、COMPLEX64、BOOL	ND
y	输出	tensor逐元素乘积结果，公式中的y。	FLOAT、FLOAT16、BFLOAT16、DOUBLE、INT8、UINT8、INT16、INT32、INT64、COMPLEX32、COMPLEX64、BOOL	ND

约束说明

无

调用说明

调用方式	调用样例	说明
aclnn调用	test_aclnn_mul	通过aclnnMul接口方式调用Mul算子。