| fix(stateless_exponential): 优化lambd极小值约束的校验描述 Co-authored-by: liangtongxue<lianglihui@h-partners.com> # message auto-generated for no-merge-commit merge: !6464 merge fix/stateless-exponential-lambd-fp32-min into master fix(stateless_exponential): 优化lambd极小值约束的校验描述 Created-by: liangtongxue Commit-by: liangtongxue Merged-by: cann-robot Description: ## 问题背景 stateless_exponential 的 lambd 参数经 IR Attr(FLOAT) 以 fp32 精度下发。当 lambd 为趋近于 0 的极小值(double 合法 > 0,但 < 2^-150 ≈ 7.006e-46)时,double→fp32 转换后下溢为 0,被 tiling 层以 lambd must be greater than 0 拒绝。该报错未说明根因,且 aclnn 层原值以 %f 打印(1e-46 显示为 0.000000),易被误读为入参校验缺陷。 对标竞品 PyTorch:lambd 接口恒为 double,host 按 double 原值校验 > 0;CUDA 上 fp32 输出对极小 lambd 放行并输出 +inf(IEEE 除零),不报错。本仓 self 仅支持 FP16/BF16/FP32,lambd 极小值在 fp32 精度下无有效计算意义(1/λ 恒溢出),故维持现有 <= 0 拦截口径不变。 ## 修改方案 **不改变任何判断逻辑**(拦截条件、拦截点、行为链完全不变),仅优化约束与校验描述,将约束口径明确为:**lambd 必须大于 0,且不能是 fp32 无法表示的极小值(double 转 fp32 后下溢为 0)**。 1. op_api/aclnn_stateless_exponential.cpp:CheckLambdability 报错补充极小值下溢说明;原值打印 %f 改为 %g(极小值不再显示 0.000000) 2. op_host/arch35/stateless_exponential_tiling_arch35.cpp:tiling 拒绝 reason 补充极小值下溢说明 3. docs/aclnnStatelessExponentialTensor.md:参数约束与错误码描述同步(定性描述,不承诺具体阈值:2^-150 依赖 IEEE 默认舍入模式,不宜作为对外承诺) 4. 新增 op_api 层 L2 UT(19 用例):lambd 正常域 / 小值 / subnormal / 极小值(double→fp32 下溢链路在 aclnn 层按 double 原值校验放行,构图通过)/ <=0 拒绝 / nullptr / dtype / 维度校验 5. 新增 aclnn 级 ST 用例:stateless_exponential 14 条、sim_thread_exponential 13 条(lambd 极小值/subnormal/FLT_MIN 边界),并为 sim_thread_exponential golden.py 补充 aclnnSpec ## Test Plan - [x] clang-format --dry-run -Werror 对改动 cpp 通过 - [x] ST csv 全字段 ast 解析与数值边界断言通过(float(1e-46)==0、float(1e-38) subnormal 保留、1e-37 全元素不溢出等) - [x] pre-commit 全量通过(clang-format / ruff check / ruff format / codespell / OAT) - [x] UT 宏展开参数序与 aclnnStatelessExponentialTensorGetWorkspaceSize 签名逐一核对 - [ ] CI 编译(compile 门禁) - [ ] ST 用例在 arch35 环境回归 Fixes #3765 See merge request: cann/ops-math!6464 | 28 days ago |
| stateless_exponential与drop_out_v3新增capture模式 Co-authored-by: zyf0712<zhangyufei63@huawei.com> # message auto-generated for no-merge-commit merge: !5468 merge Capture into master stateless_exponential与drop_out_v3新增capture模式 Created-by: zyf0712 Commit-by: zyf0712 Merged-by: cann-robot Description: ## 描述 stateless_exponential与drop_out_v3新增capture模式 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6279 ## 测试 本地门槛用例、冒烟均通过 ## 文档更新 aclnnDropoutV3Tensor.md、aclnnStatelessExponentialTensor.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!5468 | 1 month ago |
| fix(stateless_exponential): 优化lambd极小值约束的校验描述 Co-authored-by: liangtongxue<lianglihui@h-partners.com> # message auto-generated for no-merge-commit merge: !6464 merge fix/stateless-exponential-lambd-fp32-min into master fix(stateless_exponential): 优化lambd极小值约束的校验描述 Created-by: liangtongxue Commit-by: liangtongxue Merged-by: cann-robot Description: ## 问题背景 stateless_exponential 的 lambd 参数经 IR Attr(FLOAT) 以 fp32 精度下发。当 lambd 为趋近于 0 的极小值(double 合法 > 0,但 < 2^-150 ≈ 7.006e-46)时,double→fp32 转换后下溢为 0,被 tiling 层以 lambd must be greater than 0 拒绝。该报错未说明根因,且 aclnn 层原值以 %f 打印(1e-46 显示为 0.000000),易被误读为入参校验缺陷。 对标竞品 PyTorch:lambd 接口恒为 double,host 按 double 原值校验 > 0;CUDA 上 fp32 输出对极小 lambd 放行并输出 +inf(IEEE 除零),不报错。本仓 self 仅支持 FP16/BF16/FP32,lambd 极小值在 fp32 精度下无有效计算意义(1/λ 恒溢出),故维持现有 <= 0 拦截口径不变。 ## 修改方案 **不改变任何判断逻辑**(拦截条件、拦截点、行为链完全不变),仅优化约束与校验描述,将约束口径明确为:**lambd 必须大于 0,且不能是 fp32 无法表示的极小值(double 转 fp32 后下溢为 0)**。 1. op_api/aclnn_stateless_exponential.cpp:CheckLambdability 报错补充极小值下溢说明;原值打印 %f 改为 %g(极小值不再显示 0.000000) 2. op_host/arch35/stateless_exponential_tiling_arch35.cpp:tiling 拒绝 reason 补充极小值下溢说明 3. docs/aclnnStatelessExponentialTensor.md:参数约束与错误码描述同步(定性描述,不承诺具体阈值:2^-150 依赖 IEEE 默认舍入模式,不宜作为对外承诺) 4. 新增 op_api 层 L2 UT(19 用例):lambd 正常域 / 小值 / subnormal / 极小值(double→fp32 下溢链路在 aclnn 层按 double 原值校验放行,构图通过)/ <=0 拒绝 / nullptr / dtype / 维度校验 5. 新增 aclnn 级 ST 用例:stateless_exponential 14 条、sim_thread_exponential 13 条(lambd 极小值/subnormal/FLT_MIN 边界),并为 sim_thread_exponential golden.py 补充 aclnnSpec ## Test Plan - [x] clang-format --dry-run -Werror 对改动 cpp 通过 - [x] ST csv 全字段 ast 解析与数值边界断言通过(float(1e-46)==0、float(1e-38) subnormal 保留、1e-37 全元素不溢出等) - [x] pre-commit 全量通过(clang-format / ruff check / ruff format / codespell / OAT) - [x] UT 宏展开参数序与 aclnnStatelessExponentialTensorGetWorkspaceSize 签名逐一核对 - [ ] CI 编译(compile 门禁) - [ ] ST 用例在 arch35 环境回归 Fixes #3765 See merge request: cann/ops-math!6464 | 28 days ago |
| feat: vector算子批量适配ascend960pr(DV122)平台 Co-authored-by: biabu111<hebaojing1@huawei.com> # message auto-generated for no-merge-commit merge: !6663 merge feat/dv122-ascend960pr-adaptation into master feat: vector算子批量适配ascend960pr(DV122)平台 Created-by: biabu111 Commit-by: biabu111 Merged-by: cann-robot Description: ## 描述 DV122(Ascend960PR / dav_9202 / Ascend960PR_969A1)vector 算子批量适配。参照 ascend960dt(DAV_9201) 既有适配模式,为 vector 算子清单内 66 个算子补齐 ascend960pr 支持,适配原则:9201 支持的能力 9202 均支持。 **注册级适配(66 算子):** - CMakeLists.txt:SUPPORT_COMPUTE_UNIT 追加 "ascend960pr",SUPPORT_TILING_DIR 按位插入对应 arch35 - op_host/*_def.cpp:AICore().AddConfig("ascend960pr", <960dt 同款配置>) - op_host/config/ascend960pr/:二进制配置(*_binary.json / *_simplified_key.ini,复制自 ascend960dt,与 960dt 内容一致) - op_kernel*/CMakeLists.txt:COMPUTE_UNITS 追加 ascend960pr(arch92 kernel 入口同步生效) - scripts/kernel/binary_config/ascendc_config.json:compute_units 与 compile_options 补齐 **代码级补齐(9201 → 9201||9202):** - tiling/aclnn/infershape/fusion_pass/kernel 中 NpuArch::DAV_9201、__NPU_ARCH__ == 9201、"Ascend960DT" 等 960 平台门禁补齐 DAV_9202 / 9202 / "Ascend960PR" - 覆盖 concat/tanh_grad/slice/strided_slice/expand/tensor_equal/lin_space/range 等的 tiling/aclnn/graph_infer/fusion_pass 平台门禁(家族特性判定依据:gather_v2 适配提交中 isAscend96_ = DAV_9201||DAV_9202、unsorted_segment_sum 注释"ascend960dt/ascend960pr(DAV_9201/DAV_9202) 平台判定,用于 960 专属特性(ScatterDataCopy 等)的运行时开关") ## 关联的Issue https://gitcode.com/cann/ops-math/issues/4682 <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 冒烟、ut、st已通过 <!--描述进行了哪些测试来验证你的改动。--> - CANN 9.3.0 工具链 --soc=ascend960pr 构建 19 个抽样算子(覆盖全部修改类型):宿主侧(def/tiling/infershape/aclnn)100% 编译通过,0 错误 - 构建日志确认正确消费新增的 config/ascend960pr/*_binary.json - --soc=ascend960dt 同算子集构建行为一致,无回归 - 一致性审计:范围内 960dt-without-960pr 注册缺口 0;修改过的 CMakeLists SUPPORT_COMPUTE_UNIT/TILING_DIR 位置对齐 0 问题;ascendc_config.json 语法有效 - 注:opc 二进制生成阶段因当前工具链缺 Ascend960PR_969A1 平台数据无法本地执行,需在 CI(含 960PR 平台数据的工具链)完成二进制编译与上板验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-math!6663 | 7 days ago |
| add StatelessExponential for multinomial Co-authored-by: zhangxiyan7<zhangxiyan7@huawei.com> # message auto-generated for no-merge-commit merge: !4038 merge master into master add StatelessExponential for multinomial Created-by: zhangxiyan7 Commit-by: zhangxiyan7 Merged-by: cann-robot Description: ## 描述 当前multinomial接口中会通过exponential_小算子拼接,aclnnMultinomialTensor输入seed/offset是通过tensor输入,SimThreadExponential seed/offset作为属性输入,无法在aclnnMultinomialTensor中调用,因此新增StatelessExponential算子实现aclnnMultinomialTensor的seed/offset实现tensor输入。 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/2418 ## 测试 门槛用例通过,冒烟通过 ## 文档更新 新增stateless_exponential目录下README.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!4038 | 3 months ago |
| fix(stateless_exponential): 优化lambd极小值约束的校验描述 Co-authored-by: liangtongxue<lianglihui@h-partners.com> # message auto-generated for no-merge-commit merge: !6464 merge fix/stateless-exponential-lambd-fp32-min into master fix(stateless_exponential): 优化lambd极小值约束的校验描述 Created-by: liangtongxue Commit-by: liangtongxue Merged-by: cann-robot Description: ## 问题背景 stateless_exponential 的 lambd 参数经 IR Attr(FLOAT) 以 fp32 精度下发。当 lambd 为趋近于 0 的极小值(double 合法 > 0,但 < 2^-150 ≈ 7.006e-46)时,double→fp32 转换后下溢为 0,被 tiling 层以 lambd must be greater than 0 拒绝。该报错未说明根因,且 aclnn 层原值以 %f 打印(1e-46 显示为 0.000000),易被误读为入参校验缺陷。 对标竞品 PyTorch:lambd 接口恒为 double,host 按 double 原值校验 > 0;CUDA 上 fp32 输出对极小 lambd 放行并输出 +inf(IEEE 除零),不报错。本仓 self 仅支持 FP16/BF16/FP32,lambd 极小值在 fp32 精度下无有效计算意义(1/λ 恒溢出),故维持现有 <= 0 拦截口径不变。 ## 修改方案 **不改变任何判断逻辑**(拦截条件、拦截点、行为链完全不变),仅优化约束与校验描述,将约束口径明确为:**lambd 必须大于 0,且不能是 fp32 无法表示的极小值(double 转 fp32 后下溢为 0)**。 1. op_api/aclnn_stateless_exponential.cpp:CheckLambdability 报错补充极小值下溢说明;原值打印 %f 改为 %g(极小值不再显示 0.000000) 2. op_host/arch35/stateless_exponential_tiling_arch35.cpp:tiling 拒绝 reason 补充极小值下溢说明 3. docs/aclnnStatelessExponentialTensor.md:参数约束与错误码描述同步(定性描述,不承诺具体阈值:2^-150 依赖 IEEE 默认舍入模式,不宜作为对外承诺) 4. 新增 op_api 层 L2 UT(19 用例):lambd 正常域 / 小值 / subnormal / 极小值(double→fp32 下溢链路在 aclnn 层按 double 原值校验放行,构图通过)/ <=0 拒绝 / nullptr / dtype / 维度校验 5. 新增 aclnn 级 ST 用例:stateless_exponential 14 条、sim_thread_exponential 13 条(lambd 极小值/subnormal/FLT_MIN 边界),并为 sim_thread_exponential golden.py 补充 aclnnSpec ## Test Plan - [x] clang-format --dry-run -Werror 对改动 cpp 通过 - [x] ST csv 全字段 ast 解析与数值边界断言通过(float(1e-46)==0、float(1e-38) subnormal 保留、1e-37 全元素不溢出等) - [x] pre-commit 全量通过(clang-format / ruff check / ruff format / codespell / OAT) - [x] UT 宏展开参数序与 aclnnStatelessExponentialTensorGetWorkspaceSize 签名逐一核对 - [ ] CI 编译(compile 门禁) - [ ] ST 用例在 arch35 环境回归 Fixes #3765 See merge request: cann/ops-math!6464 | 28 days ago |
| feat: vector算子批量适配ascend960pr(DV122)平台 Co-authored-by: biabu111<hebaojing1@huawei.com> # message auto-generated for no-merge-commit merge: !6663 merge feat/dv122-ascend960pr-adaptation into master feat: vector算子批量适配ascend960pr(DV122)平台 Created-by: biabu111 Commit-by: biabu111 Merged-by: cann-robot Description: ## 描述 DV122(Ascend960PR / dav_9202 / Ascend960PR_969A1)vector 算子批量适配。参照 ascend960dt(DAV_9201) 既有适配模式,为 vector 算子清单内 66 个算子补齐 ascend960pr 支持,适配原则:9201 支持的能力 9202 均支持。 **注册级适配(66 算子):** - CMakeLists.txt:SUPPORT_COMPUTE_UNIT 追加 "ascend960pr",SUPPORT_TILING_DIR 按位插入对应 arch35 - op_host/*_def.cpp:AICore().AddConfig("ascend960pr", <960dt 同款配置>) - op_host/config/ascend960pr/:二进制配置(*_binary.json / *_simplified_key.ini,复制自 ascend960dt,与 960dt 内容一致) - op_kernel*/CMakeLists.txt:COMPUTE_UNITS 追加 ascend960pr(arch92 kernel 入口同步生效) - scripts/kernel/binary_config/ascendc_config.json:compute_units 与 compile_options 补齐 **代码级补齐(9201 → 9201||9202):** - tiling/aclnn/infershape/fusion_pass/kernel 中 NpuArch::DAV_9201、__NPU_ARCH__ == 9201、"Ascend960DT" 等 960 平台门禁补齐 DAV_9202 / 9202 / "Ascend960PR" - 覆盖 concat/tanh_grad/slice/strided_slice/expand/tensor_equal/lin_space/range 等的 tiling/aclnn/graph_infer/fusion_pass 平台门禁(家族特性判定依据:gather_v2 适配提交中 isAscend96_ = DAV_9201||DAV_9202、unsorted_segment_sum 注释"ascend960dt/ascend960pr(DAV_9201/DAV_9202) 平台判定,用于 960 专属特性(ScatterDataCopy 等)的运行时开关") ## 关联的Issue https://gitcode.com/cann/ops-math/issues/4682 <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 冒烟、ut、st已通过 <!--描述进行了哪些测试来验证你的改动。--> - CANN 9.3.0 工具链 --soc=ascend960pr 构建 19 个抽样算子(覆盖全部修改类型):宿主侧(def/tiling/infershape/aclnn)100% 编译通过,0 错误 - 构建日志确认正确消费新增的 config/ascend960pr/*_binary.json - --soc=ascend960dt 同算子集构建行为一致,无回归 - 一致性审计:范围内 960dt-without-960pr 注册缺口 0;修改过的 CMakeLists SUPPORT_COMPUTE_UNIT/TILING_DIR 位置对齐 0 问题;ascendc_config.json 语法有效 - 注:opc 二进制生成阶段因当前工具链缺 Ascend960PR_969A1 平台数据无法本地执行,需在 CI(含 960PR 平台数据的工具链)完成二进制编译与上板验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-math!6663 | 7 days ago |
| docs:修订stateless_exponential算子README对L2、非连续不支持的描述 Co-authored-by: aiteer<lujiale4@huawei.com> # message auto-generated for no-merge-commit merge: !7375 merge stateless_exponential_readme into master docs:修订stateless_exponential算子README对L2、非连续不支持的描述 Created-by: aiteer Commit-by: aiteer Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修正了 README.md 与 README_en.md 中关于算子能力限制的描述。变更将原有限制说明中「不支持 L2 接口、不支持非连续 Tensor」/「the L2 APIs, and non-contiguous tensors are not supported」的表述移除,使文档与算子的实际支持能力一致。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#4233](https://gitcode.com/cann/ops-math/issues/4233) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了README.md文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7375 | 3 days ago |
| docs:修订stateless_exponential算子README对L2、非连续不支持的描述 Co-authored-by: aiteer<lujiale4@huawei.com> # message auto-generated for no-merge-commit merge: !7375 merge stateless_exponential_readme into master docs:修订stateless_exponential算子README对L2、非连续不支持的描述 Created-by: aiteer Commit-by: aiteer Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修正了 README.md 与 README_en.md 中关于算子能力限制的描述。变更将原有限制说明中「不支持 L2 接口、不支持非连续 Tensor」/「the L2 APIs, and non-contiguous tensors are not supported」的表述移除,使文档与算子的实际支持能力一致。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#4233](https://gitcode.com/cann/ops-math/issues/4233) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了README.md文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-math!7375 | 3 days ago |