Star872
1765
代码
代码
Issues237
Pull Requests318
Actions
项目讨论
Wiki
分析
Star872
1765
已合并
docs(norm): 修正 6 个 aclnn 算子 A5 确定性计算描述 #8709
HelloWord-LuXin创建于 12 天前
docs(norm): 修正 6 个 aclnn 算子 A5 确定性计算描述 #8709
已合并
HelloWord-LuXin创建于 12 天前
从HelloWord-LuXin/ops-nnfix-bn-groupnorm-deterministic-doc合入到cann/ops-nnmaster
共 7 个文件变更+42-12
Mdocs/zh/op_api_list.md+6-6
@@ -79,10 +79,10 @@
79| [aclnnBaddbmm&aclnnInplaceBaddbmm](../../matmul/batch_mat_mul_v3/docs/aclnnBaddbmm&aclnnInplaceBaddbmm.md) | 计算α与batch1、batch2的矩阵乘结果的乘积，再与β和self的乘积求和。 | 默认确定性实现 | 默认确定性实现 |79| [aclnnBaddbmm&aclnnInplaceBaddbmm](../../matmul/batch_mat_mul_v3/docs/aclnnBaddbmm&aclnnInplaceBaddbmm.md) | 计算α与batch1、batch2的矩阵乘结果的乘积，再与β和self的乘积求和。 | 默认确定性实现 | 默认确定性实现 |
80| [aclnnBatchMatMul](../../matmul/batch_mat_mul_v3/docs/aclnnBatchMatMul.md) | 完成张量self与张量mat2的矩阵乘计算。 | - | 默认确定性实现 |80| [aclnnBatchMatMul](../../matmul/batch_mat_mul_v3/docs/aclnnBatchMatMul.md) | 完成张量self与张量mat2的矩阵乘计算。 | - | 默认确定性实现 |
81| [aclnnBatchMatMulWeightNz](../../matmul/batch_mat_mul_v3/docs/aclnnBatchMatMulWeightNz.md) | 完成张量self与张量mat2的矩阵乘计算, mat2仅支持昇腾亲和数据排布格式，只支持self为3维, mat2为5维。 | 默认确定性实现 | 默认确定性实现 |81| [aclnnBatchMatMulWeightNz](../../matmul/batch_mat_mul_v3/docs/aclnnBatchMatMulWeightNz.md) | 完成张量self与张量mat2的矩阵乘计算, mat2仅支持昇腾亲和数据排布格式，只支持self为3维, mat2为5维。 | 默认确定性实现 | 默认确定性实现 |
82-| [aclnnBatchNorm](../../norm/batch_norm_v3/docs/aclnnBatchNorm.md) | 对一个批次的数据做批量归一化处理，正则化之后生成的数据的统计结果为0均值、1标准差。 | 默认非确定性实现，支持配置开启 | 默认非确定性实现，支持配置开启 |82+| [aclnnBatchNorm](../../norm/batch_norm_v3/docs/aclnnBatchNorm.md) | 对一个批次的数据做批量归一化处理，正则化之后生成的数据的统计结果为0均值、1标准差。 | 默认非确定性实现，支持配置开启 | 默认确定性实现 |
83-| [aclnnBatchNormElemt](../../norm/batch_norm_elemt/docs/aclnnBatchNormElemt.md) | 将全局的均值和标准差倒数作为算子输入，对x做BatchNorm计算。 | 默认非确定性实现，支持配置开启 | 默认非确定性实现，支持配置开启 |83+| [aclnnBatchNormElemt](../../norm/batch_norm_elemt/docs/aclnnBatchNormElemt.md) | 将全局的均值和标准差倒数作为算子输入，对x做BatchNorm计算。 | 默认非确定性实现，支持配置开启 | 默认确定性实现 |
84| [aclnnBatchNormElemtBackward](../../norm/sync_batch_norm_backward_elemt/docs/aclnnBatchNormElemtBackward.md) | aclnnBatchNormElemt的反向计算。用于计算输入张量的元素级梯度，以便在反向传播过程中更新模型参数。 | 默认确定性实现 | 默认确定性实现 |84| [aclnnBatchNormElemtBackward](../../norm/sync_batch_norm_backward_elemt/docs/aclnnBatchNormElemtBackward.md) | aclnnBatchNormElemt的反向计算。用于计算输入张量的元素级梯度，以便在反向传播过程中更新模型参数。 | 默认确定性实现 | 默认确定性实现 |
85-| [aclnnBatchNormBackward](../../norm/batch_norm_grad_v3/docs/aclnnBatchNormBackward.md) | [aclnnBatchNorm](../../norm/batch_norm_v3/docs/aclnnBatchNorm.md)的反向传播。用于计算输入张量的梯度，以便在反向传播过程中更新模型参数。 | 默认非确定性实现，支持配置开启 | 默认非确定性实现，支持配置开启 |85+| [aclnnBatchNormBackward](../../norm/batch_norm_grad_v3/docs/aclnnBatchNormBackward.md) | [aclnnBatchNorm](../../norm/batch_norm_v3/docs/aclnnBatchNorm.md)的反向传播。用于计算输入张量的梯度，以便在反向传播过程中更新模型参数。 | 默认非确定性实现，支持配置开启 | 默认确定性实现 |
86| [aclnnBatchNormGatherStatsWithCounts](../../norm/sync_batch_norm_gather_stats_with_counts/docs/aclnnBatchNormGatherStatsWithCounts.md) | 收集所有device的均值和方差，更新全局的均值和标准差的倒数。 | 默认确定性实现 | 默认确定性实现 |86| [aclnnBatchNormGatherStatsWithCounts](../../norm/sync_batch_norm_gather_stats_with_counts/docs/aclnnBatchNormGatherStatsWithCounts.md) | 收集所有device的均值和方差，更新全局的均值和标准差的倒数。 | 默认确定性实现 | 默认确定性实现 |
87| [aclnnBatchNormReduce](../../norm/bn_training_reduce/docs/aclnnBatchNormReduce.md) | 对数据做正则化处理的第一步，对数据进行求和及平方和 | 默认非确定性实现，支持配置开启 | - |87| [aclnnBatchNormReduce](../../norm/bn_training_reduce/docs/aclnnBatchNormReduce.md) | 对数据做正则化处理的第一步，对数据进行求和及平方和 | 默认非确定性实现，支持配置开启 | - |
88| [aclnnBatchNormReduceBackward](../../norm/sync_batch_norm_backward_reduce/docs/aclnnBatchNormReduceBackward.md) | 主要用于反向传播过程中计算BatchNorm操作的梯度，并进行一些中间结果的规约操作以优化计算效率。 | 默认确定性实现 | 默认确定性实现 |88| [aclnnBatchNormReduceBackward](../../norm/sync_batch_norm_backward_reduce/docs/aclnnBatchNormReduceBackward.md) | 主要用于反向传播过程中计算BatchNorm操作的梯度，并进行一些中间结果的规约操作以优化计算效率。 | 默认确定性实现 | 默认确定性实现 |
@@ -263,7 +263,7 @@
263| [aclnnGluBackward](../../activation/glu_grad/docs/aclnnGluBackward.md) | 完成aclnnGlu的反向。 | 默认确定性实现 | 默认确定性实现 |263| [aclnnGluBackward](../../activation/glu_grad/docs/aclnnGluBackward.md) | 完成aclnnGlu的反向。 | 默认确定性实现 | 默认确定性实现 |
264| [aclnnHardshrink](../../activation/hard_shrink/docs/aclnnHardshrink.md) | 以元素为单位，强制收缩λ范围内的元素。 | 默认确定性实现 | - |264| [aclnnHardshrink](../../activation/hard_shrink/docs/aclnnHardshrink.md) | 以元素为单位，强制收缩λ范围内的元素。 | 默认确定性实现 | - |
265| [aclnnGroupNorm](../../norm/group_norm/docs/aclnnGroupNorm.md) | 计算输入self的组归一化结果out，均值meanOut，标准差的倒数rstdOut。 | 默认确定性实现 | 默认确定性实现 |265| [aclnnGroupNorm](../../norm/group_norm/docs/aclnnGroupNorm.md) | 计算输入self的组归一化结果out，均值meanOut，标准差的倒数rstdOut。 | 默认确定性实现 | 默认确定性实现 |
266-| [aclnnGroupNormBackward](../../norm/group_norm_grad/docs/aclnnGroupNormBackward.md) | [aclnnGroupNorm](../../norm/group_norm/docs/aclnnGroupNorm.md)的反向计算。用于计算输入张量的梯度，以便在反向传播过程中更新模型参数。 | 默认非确定性实现，支持配置开启 | 默认非确定性实现，支持配置开启 |266+| [aclnnGroupNormBackward](../../norm/group_norm_grad/docs/aclnnGroupNormBackward.md) | [aclnnGroupNorm](../../norm/group_norm/docs/aclnnGroupNorm.md)的反向计算。用于计算输入张量的梯度，以便在反向传播过程中更新模型参数。 | 默认非确定性实现，支持配置开启 | 默认确定性实现 |
267| [aclnnGroupNormSilu](../../norm/group_norm_silu/docs/aclnnGroupNormSilu.md)|计算输入self的组归一化结果groupnormOut，均值meanOut，标准差的倒数rstdOut，将groupnormOut进行silu运算得到最终的输出out。|默认确定性实现| 默认确定性实现|267| [aclnnGroupNormSilu](../../norm/group_norm_silu/docs/aclnnGroupNormSilu.md)|计算输入self的组归一化结果groupnormOut，均值meanOut，标准差的倒数rstdOut，将groupnormOut进行silu运算得到最终的输出out。|默认确定性实现| 默认确定性实现|
268| [aclnnGroupNormSiluV2](../../norm/group_norm_silu/docs/aclnnGroupNormSiluV2.md) | 计算输入self的组归一化结果out，均值meanOut，标准差的倒数rstdOut，以及silu的输出。 | 默认确定性实现 | 默认确定性实现 |268| [aclnnGroupNormSiluV2](../../norm/group_norm_silu/docs/aclnnGroupNormSiluV2.md) | 计算输入self的组归一化结果out，均值meanOut，标准差的倒数rstdOut，以及silu的输出。 | 默认确定性实现 | 默认确定性实现 |
269| [aclnnGroupNormSiluQuant](../../norm/group_norm_silu_quant/docs/aclnnGroupNormSiluQuant.md) | 计算输入self的组归一化，均值meanOut，标准差的倒数rstdOut，以及对silu的输出进行量化的结果out。 | 默认确定性实现 | 默认确定性实现 |269| [aclnnGroupNormSiluQuant](../../norm/group_norm_silu_quant/docs/aclnnGroupNormSiluQuant.md) | 计算输入self的组归一化，均值meanOut，标准差的倒数rstdOut，以及对silu的输出进行量化的结果out。 | 默认确定性实现 | 默认确定性实现 |
@@ -379,8 +379,8 @@
379| [aclnnRepeatInterleaveTensor](../../index/repeat_interleave/docs/aclnnRepeatInterleaveTensor.md) | 针对Tensor repeats的第i个元素，将i重复repeats[i]次。 | 默认确定性实现 | 默认确定性实现 |379| [aclnnRepeatInterleaveTensor](../../index/repeat_interleave/docs/aclnnRepeatInterleaveTensor.md) | 针对Tensor repeats的第i个元素，将i重复repeats[i]次。 | 默认确定性实现 | 默认确定性实现 |
380| [aclnnRepeatInterleaveWithDim](../../index/repeat_interleave/docs/aclnnRepeatInterleaveWithDim.md) | 将tensor中的每个元素根据dim维度，重复Tensor repeats中对应位置的相应次数。 | 默认确定性实现 | 默认确定性实现 |380| [aclnnRepeatInterleaveWithDim](../../index/repeat_interleave/docs/aclnnRepeatInterleaveWithDim.md) | 将tensor中的每个元素根据dim维度，重复Tensor repeats中对应位置的相应次数。 | 默认确定性实现 | 默认确定性实现 |
381| [aclnnRmsNorm](../../norm/rms_norm/docs/aclnnRmsNorm.md) | RmsNorm算子是大模型常用的归一化操作，相比LayerNorm算子，其去掉了减去均值的部分。 | 默认确定性实现 | 默认确定性实现 |381| [aclnnRmsNorm](../../norm/rms_norm/docs/aclnnRmsNorm.md) | RmsNorm算子是大模型常用的归一化操作，相比LayerNorm算子，其去掉了减去均值的部分。 | 默认确定性实现 | 默认确定性实现 |
382-| [aclnnRmsNormGrad](../../norm/rms_norm_grad/docs/aclnnRmsNormGrad.md) | [aclnnRmsNorm](../../norm/rms_norm/docs/aclnnRmsNorm.md)的反向计算。用于计算RMSNorm的梯度，即在反向传播过程中计算输入张量的梯度。 | 默认非确定性实现，支持配置开启 | 默认非确定性实现，支持配置开启 |382+| [aclnnRmsNormGrad](../../norm/rms_norm_grad/docs/aclnnRmsNormGrad.md) | [aclnnRmsNorm](../../norm/rms_norm/docs/aclnnRmsNorm.md)的反向计算。用于计算RMSNorm的梯度，即在反向传播过程中计算输入张量的梯度。 | 默认非确定性实现，支持配置开启 | 默认确定性实现 |
383-| [aclnnRmsNormGradQuant](../../norm/rms_norm_grad_quant/docs/aclnnRmsNormGradQuant.md) | RmsNormGrad是用于计算RmsNorm的梯度，即在反向传播过程中计算输入张量的梯度的算子。RmsNormGradQuant算子将RmsNormGrad和Quantize两个算子融合，RmsNormGrad计算完dx后进行quant计算，减少搬入搬出操作。| - | 默认非确定性实现，支持配置开启 |383+| [aclnnRmsNormGradQuant](../../norm/rms_norm_grad_quant/docs/aclnnRmsNormGradQuant.md) | RmsNormGrad是用于计算RmsNorm的梯度，即在反向传播过程中计算输入张量的梯度的算子。RmsNormGradQuant算子将RmsNormGrad和Quantize两个算子融合，RmsNormGrad计算完dx后进行quant计算，减少搬入搬出操作。| - | 默认确定性实现 |
384| [aclnnRmsNormQuant](../../norm/rms_norm_quant/docs/aclnnRmsNormQuant.md) | aclnnRmsNormQuant算子将aclnnRmsNorm前的Add算子以及aclnnRmsNorm后的Quantize算子融合起来，减少搬入搬出操作。 | 默认确定性实现 | 默认确定性实现 |384| [aclnnRmsNormQuant](../../norm/rms_norm_quant/docs/aclnnRmsNormQuant.md) | aclnnRmsNormQuant算子将aclnnRmsNorm前的Add算子以及aclnnRmsNorm后的Quantize算子融合起来，减少搬入搬出操作。 | 默认确定性实现 | 默认确定性实现 |
385| [aclnnRmsNormQuantV3](../../norm/rms_norm_quant_v3/docs/aclnnRmsNormQuantV3.md) | aclnnRmsNormQuantV3将aclnnRmsNorm以及aclnnRmsNorm后的Quantize算子融合起来，减少搬入搬出操作。同时在aclnnRmsNormQuant的基础上支持Rstd的可选输出。| - | 默认确定性实现 |385| [aclnnRmsNormQuantV3](../../norm/rms_norm_quant_v3/docs/aclnnRmsNormQuantV3.md) | aclnnRmsNormQuantV3将aclnnRmsNorm以及aclnnRmsNorm后的Quantize算子融合起来，减少搬入搬出操作。同时在aclnnRmsNormQuant的基础上支持Rstd的可选输出。| - | 默认确定性实现 |
386| [aclnnRotateQuant](../../matmul/rotate_quant/docs/aclnnRotateQuant.md) | 对张量x进行旋转变换，然后执行可选的clamp操作，最后执行对称动态量化（目的数据类型为int8或者quint4x2）或者MX量化（目的数据类型为FLOAT4类、FLOAT8类）。 | 默认确定性实现 | 默认确定性实现 |386| [aclnnRotateQuant](../../matmul/rotate_quant/docs/aclnnRotateQuant.md) | 对张量x进行旋转变换，然后执行可选的clamp操作，最后执行对称动态量化（目的数据类型为int8或者quint4x2）或者MX量化（目的数据类型为FLOAT4类、FLOAT8类）。 | 默认确定性实现 | 默认确定性实现 |
Mnorm/batch_norm_elemt/docs/aclnnBatchNormElemt.md+7-1
@@ -288,7 +288,13 @@ aclnnStatus aclnnBatchNormElemt(
288## 约束说明288## 约束说明
289 289 
290- 确定性计算：290- 确定性计算：
291- - aclnnBatchNormElemt默认非确定性实现，支持通过aclrtCtxSetSysParamOpt开启确定性。291+ 
292+ <!-- npu="A3,910b,910" id8 -->
293+ - <term>Atlas A3 训练系列产品/Atlas A3 推理系列产品</term>、<term>Atlas A2 训练系列产品/Atlas A2 推理系列产品</term>、<term>Atlas 训练系列产品</term>：aclnnBatchNormElemt默认非确定性实现，支持通过aclrtCtxSetSysParamOpt开启确定性。
294+ <!-- end id8 -->
295+ <!-- npu="950" id9 -->
296+ - <term>Ascend 950PR/Ascend 950DT</term>：aclnnBatchNormElemt默认确定性实现。
297+ <!-- end id9 -->
292 298 
293## 调用示例299## 调用示例
294 300 
Mnorm/batch_norm_grad_v3/docs/aclnnBatchNormBackward.md+7-1
@@ -404,7 +404,13 @@ aclnnStatus aclnnBatchNormBackward(
404## 约束说明404## 约束说明
405 405 
406- 确定性计算：406- 确定性计算：
407- - aclnnBatchNormBackward默认非确定性实现，支持通过aclrtCtxSetSysParamOpt开启确定性。407+ 
408+ <!-- npu="A3,910b,910" id10 -->
409+ - <term>Atlas A3 训练系列产品/Atlas A3 推理系列产品</term>、<term>Atlas A2 训练系列产品/Atlas A2 推理系列产品</term>、<term>Atlas 训练系列产品</term>：aclnnBatchNormBackward默认非确定性实现，支持通过aclrtCtxSetSysParamOpt开启确定性。
410+ <!-- end id10 -->
411+ <!-- npu="950" id11 -->
412+ - <term>Ascend 950PR/Ascend 950DT</term>：aclnnBatchNormBackward默认确定性实现。
413+ <!-- end id11 -->
408 414 
409## 调用示例415## 调用示例
410 416 
Mnorm/batch_norm_v3/docs/aclnnBatchNorm.md+7-1
@@ -326,7 +326,13 @@ aclnnStatus aclnnBatchNorm(
326## 约束说明326## 约束说明
327 327 
328- 确定性计算：328- 确定性计算：
329- - aclnnBatchNorm默认非确定性实现，支持通过aclrtCtxSetSysParamOpt开启确定性。329+ 
330+ <!-- npu="A3,910b,910,310p" id10 -->
331+ - <term>Atlas A3 训练系列产品/Atlas A3 推理系列产品</term>、<term>Atlas A2 训练系列产品/Atlas A2 推理系列产品</term>、<term>Atlas 训练系列产品</term>、<term>Atlas 推理系列产品</term>：aclnnBatchNorm默认非确定性实现，支持通过aclrtCtxSetSysParamOpt开启确定性。
332+ <!-- end id10 -->
333+ <!-- npu="950" id11 -->
334+ - <term>Ascend 950PR/Ascend 950DT</term>：aclnnBatchNorm默认确定性实现。
335+ <!-- end id11 -->
330 336 
331## 调用示例337## 调用示例
332 338 
Mnorm/group_norm_grad/docs/aclnnGroupNormBackward.md+7-1
@@ -402,7 +402,13 @@ aclnnStatus aclnnGroupNormBackward(
402## 约束说明402## 约束说明
403 403 
404- 确定性计算：404- 确定性计算：
405- - aclnnGroupNormBackward默认非确定性实现，支持通过aclrtCtxSetSysParamOpt开启确定性。405+ 
406+ <!-- npu="A3,910b,910" id10 -->
407+ - <term>Atlas A3 训练系列产品/Atlas A3 推理系列产品</term>、<term>Atlas A2 训练系列产品/Atlas A2 推理系列产品</term>、<term>Atlas 训练系列产品</term>：aclnnGroupNormBackward默认非确定性实现，支持通过aclrtCtxSetSysParamOpt开启确定性。
408+ <!-- end id10 -->
409+ <!-- npu="950" id11 -->
410+ - <term>Ascend 950PR/Ascend 950DT</term>：aclnnGroupNormBackward默认确定性实现。
411+ <!-- end id11 -->
406 412 
407## 调用示例413## 调用示例
408 414 
Mnorm/rms_norm_grad/docs/aclnnRmsNormGrad.md+7-1
@@ -290,7 +290,13 @@ aclnnStatus aclnnRmsNormGrad(
290 <!-- end id10 -->290 <!-- end id10 -->
291 291 
292- 确定性计算：292- 确定性计算：
293- - aclnnRmsNormGrad默认非确定性实现，支持通过aclrtCtxSetSysParamOpt开启确定性。293+ 
294+ <!-- npu="A3,910b,310p" id11 -->
295+ - <term>Atlas A3 训练系列产品/Atlas A3 推理系列产品</term>、<term>Atlas A2 训练系列产品/Atlas A2 推理系列产品</term>、<term>Atlas 推理系列产品</term>：aclnnRmsNormGrad默认非确定性实现，支持通过aclrtCtxSetSysParamOpt开启确定性。
296+ <!-- end id11 -->
297+ <!-- npu="950" id12 -->
298+ - <term>Ascend 950PR/Ascend 950DT</term>：aclnnRmsNormGrad默认确定性实现。
299+ <!-- end id12 -->
294 300 
295## 调用示例301## 调用示例
296 302 
Mnorm/rms_norm_grad_quant/docs/aclnnRmsNormGradQuant.md+1-1
@@ -329,7 +329,7 @@ aclnnStatus aclnnRmsNormGradQuant(
329 <!-- end id7 -->329 <!-- end id7 -->
330 330 
331- 确定性计算：331- 确定性计算：
332- - aclnnRmsNormGradQuant默认非确定性实现，支持通过aclrtCtxSetSysParamOpt开启确定性。332+ - aclnnRmsNormGradQuant默认确定性实现。
333 333 
334## 调用示例334## 调用示例
335 335