已合并
AIDD扫描语义问题修改 #9352
yanglu-1创建于 11 天前
AIDD扫描语义问题修改 #9352
已合并
共 16 个文件变更+17-17
| @@ -105,7 +105,7 @@ aclnnStatus aclnnGlu( | |||
| 105 | <td>out(aclTensor*)</td> | 105 | <td>out(aclTensor*)</td> |
| 106 | <td>输出</td> | 106 | <td>输出</td> |
| 107 | <td>计算出参。</td> | 107 | <td>计算出参。</td> |
| 108 | - <td>数据类型必须可以由self cast得到,shape为(*_1,M,*_2),其中*表示self中对应维度,M = N /2。</td> | 108 | + <td>数据类型必须可以由self cast得到,shape为(*_1,M,*_2),其中*表示self中对应维度的大小,M = N /2。</td> |
| 109 | <td>DOUBLE、FLOAT、FLOAT16、BFLOAT16</td> | 109 | <td>DOUBLE、FLOAT、FLOAT16、BFLOAT16</td> |
| 110 | <td>ND</td> | 110 | <td>ND</td> |
| 111 | <td>1-8</td> | 111 | <td>1-8</td> |
| @@ -118,7 +118,7 @@ aclnnStatus aclnnMseLossGrad( | |||
| 118 | <td class="tg-0pky">out(aclTensor*)</td> | 118 | <td class="tg-0pky">out(aclTensor*)</td> |
| 119 | <td class="tg-0pky">输出</td> | 119 | <td class="tg-0pky">输出</td> |
| 120 | <td class="tg-0pky">输出的损失,公式中的输出`MselossBackward(grad, x, y)`。</td> | 120 | <td class="tg-0pky">输出的损失,公式中的输出`MselossBackward(grad, x, y)`。</td> |
| 121 | - <td class="tg-0pky">out与gradOutput、self、target <a href="../../../../docs/zh/context/broadcast_relationship.md" target="_blank">broadcast</a>之后的tensor的shape一致。<br>数据类型时self可推导的数据类型(参见<a href="../../../../docs/zh/context/conversion_relationship.md" target="_blank">互转换关系</a>)。</td> | 121 | + <td class="tg-0pky">out与gradOutput、self、target <a href="../../../../docs/zh/context/broadcast_relationship.md" target="_blank">broadcast</a>之后的tensor的shape一致。<br>数据类型为self时可推导的数据类型(参见<a href="../../../../docs/zh/context/conversion_relationship.md" target="_blank">互转换关系</a>)。</td> |
| 122 | <td class="tg-0pky">FLOAT、FLOAT16、BFLOAT16</td> | 122 | <td class="tg-0pky">FLOAT、FLOAT16、BFLOAT16</td> |
| 123 | <td class="tg-0pky">ND</td> | 123 | <td class="tg-0pky">ND</td> |
| 124 | <td class="tg-0pky">1-8</td> | 124 | <td class="tg-0pky">1-8</td> |
| @@ -97,8 +97,8 @@ aclnnStatus aclnnBatchMatMulWeightNz( | |||
| 97 | <td>输入</td> | 97 | <td>输入</td> |
| 98 | <td>表示矩阵乘的第二个矩阵,公式中的mat2。</td> | 98 | <td>表示矩阵乘的第二个矩阵,公式中的mat2。</td> |
| 99 | <td><ul><li>数据类型需要与self满足数据类型推导规则(参见<a href="../../../docs/zh/context/deduction_relationship.md">互推导关系</a>和<a href="#约束说明">约束说明</a>)。</li><li>mat2的Reduce维度需要与self的Reduce维度大小相等。</li> | 99 | <td><ul><li>数据类型需要与self满足数据类型推导规则(参见<a href="../../../docs/zh/context/deduction_relationship.md">互推导关系</a>和<a href="#约束说明">约束说明</a>)。</li><li>mat2的Reduce维度需要与self的Reduce维度大小相等。</li> |
| 100 | - <li>当B矩阵不转置时, NZ格式各个维度表示:(b, n1,k1,k0,n0),其中k0 = 16, n0为16。self shape中的k和mat2 shape中的k1需要满足以下关系:ceil(k,k0) = k1,mat2 shape中的n1与out的n满足以下关系: ceil(n, n0) = n1。</li> | 100 | + <li>当B矩阵不转置时, NZ格式各个维度表示:(b, n1,k1,k0,n0),其中k0 = 16, n0为16。self shape中的k和mat2 shape中的k1需要满足以下关系:ceil(k, k0) = k1,mat2 shape中的n1与out的n满足以下关系: ceil(n, n0) = n1。</li> |
| 101 | - <li>当B矩阵转置时, NZ格式各个维度表示:(b, k1,n1,n0,k0),其中n0 = 16, k0为16。self shape中的k和mat2 shape中的k1需要满足以下关系:ceil(k,k0) = k1,mat2 shape中的n1与out的n满足以下关系: ceil(n, n0) = n1。</li> | 101 | + <li>当B矩阵转置时, NZ格式各个维度表示:(b, k1,n1,n0,k0),其中n0 = 16, k0为16。self shape中的k和mat2 shape中的k1需要满足以下关系:ceil(k, k0) = k1,mat2 shape中的n1与out的n满足以下关系: ceil(n, n0) = n1。</li> |
| 102 | <li>mat2的第一个维度b需要与self第一个维度b满足<a href="../../../docs/zh/context/broadcast_relationship.md">broadcast关系</a>。</li> | 102 | <li>mat2的第一个维度b需要与self第一个维度b满足<a href="../../../docs/zh/context/broadcast_relationship.md">broadcast关系</a>。</li> |
| 103 | </ul></td> | 103 | </ul></td> |
| 104 | <td>BFLOAT16、FLOAT16</td> | 104 | <td>BFLOAT16、FLOAT16</td> |
| @@ -563,7 +563,7 @@ aclnnStatus aclnnInplaceAddmm( | |||
| 563 | 563 | ||
| 564 | <!-- npu="910,310p" id16 --> | 564 | <!-- npu="910,310p" id16 --> |
| 565 | - <term>Atlas 训练系列产品</term>、<term>Atlas 推理系列产品</term>: | 565 | - <term>Atlas 训练系列产品</term>、<term>Atlas 推理系列产品</term>: |
| 566 | - - 当开启强一致性计算功能时,计算结果时确定的,多次执行将产生相同的输出。此外,计算结果与数据的位置无关。 | 566 | + - 当开启强一致性计算功能时,计算结果是确定的,多次执行将产生相同的输出。此外,计算结果与数据的位置无关。 |
| 567 | - aclnnAddmm&aclnnInplaceAddmm默认非一致性实现,支持通过aclrtCtxSetSysParamOpt开启一致性。 | 567 | - aclnnAddmm&aclnnInplaceAddmm默认非一致性实现,支持通过aclrtCtxSetSysParamOpt开启一致性。 |
| 568 | - 例如,在进行矩阵乘时,不同基本块的累加顺序可能不同,这可能会导致相同数据在不同行的计算结果出现细微差异。然而,在开启强一致性计算的情况下,即使在不同的行中,只要输入相同,计算结果也将相同。 | 568 | - 例如,在进行矩阵乘时,不同基本块的累加顺序可能不同,这可能会导致相同数据在不同行的计算结果出现细微差异。然而,在开启强一致性计算的情况下,即使在不同的行中,只要输入相同,计算结果也将相同。 |
| 569 | 569 | ||
| @@ -314,7 +314,7 @@ aclnnStatus aclnnAddmmWeightNz( | |||
| 314 | 314 | ||
| 315 | <!-- npu="910,310p" id11 --> | 315 | <!-- npu="910,310p" id11 --> |
| 316 | - <term>Atlas 训练系列产品</term>、<term>Atlas 推理系列产品</term>: | 316 | - <term>Atlas 训练系列产品</term>、<term>Atlas 推理系列产品</term>: |
| 317 | - - 当开启强一致性计算功能时,计算结果时确定的,多次执行将产生相同的输出。此外,计算结果与数据的位置无关。 | 317 | + - 当开启强一致性计算功能时,计算结果是确定的,多次执行将产生相同的输出。此外,计算结果与数据的位置无关。 |
| 318 | - aclnnAddmmWeightNz默认非一致性实现,支持通过aclrtCtxSetSysParamOpt开启一致性。 | 318 | - aclnnAddmmWeightNz默认非一致性实现,支持通过aclrtCtxSetSysParamOpt开启一致性。 |
| 319 | - 例如,在进行矩阵乘时,不同基本块的累加顺序可能不同,这可能会导致相同数据在不同行的计算结果出现细微差异。然而,在开启强一致性计算的情况下,即使在不同的行中,只要输入相同,计算结果也将相同。 | 319 | - 例如,在进行矩阵乘时,不同基本块的累加顺序可能不同,这可能会导致相同数据在不同行的计算结果出现细微差异。然而,在开启强一致性计算的情况下,即使在不同的行中,只要输入相同,计算结果也将相同。 |
| 320 | 320 | ||
| @@ -269,7 +269,7 @@ aclnnStatus aclnnMatmul( | |||
| 269 | 269 | ||
| 270 | <!-- npu="910,310p" id12 --> | 270 | <!-- npu="910,310p" id12 --> |
| 271 | - <term>Atlas 训练系列产品</term>、<term>Atlas 推理系列产品</term>: | 271 | - <term>Atlas 训练系列产品</term>、<term>Atlas 推理系列产品</term>: |
| 272 | - - 当开启强一致性计算功能时,计算结果时确定的,多次执行将产生相同的输出。此外,计算结果与数据的位置无关。 | 272 | + - 当开启强一致性计算功能时,计算结果是确定的,多次执行将产生相同的输出。此外,计算结果与数据的位置无关。 |
| 273 | - aclnnMatmul默认非一致性实现,支持通过aclrtCtxSetSysParamOpt开启一致性。 | 273 | - aclnnMatmul默认非一致性实现,支持通过aclrtCtxSetSysParamOpt开启一致性。 |
| 274 | - 例如,在进行矩阵乘时,不同基本块的累加顺序可能不同,这可能会导致相同数据在不同行的计算结果出现细微差异。然而,在开启强一致性计算的情况下,即使在不同的行中,只要输入相同,计算结果也将相同。 | 274 | - 例如,在进行矩阵乘时,不同基本块的累加顺序可能不同,这可能会导致相同数据在不同行的计算结果出现细微差异。然而,在开启强一致性计算的情况下,即使在不同的行中,只要输入相同,计算结果也将相同。 |
| 275 | 275 | ||
| @@ -267,7 +267,7 @@ aclnnStatus aclnnMatmulWeightNz( | |||
| 267 | 267 | ||
| 268 | <!-- npu="910,310p" id11 --> | 268 | <!-- npu="910,310p" id11 --> |
| 269 | - <term>Atlas 训练系列产品</term>、<term>Atlas 推理系列产品</term>: | 269 | - <term>Atlas 训练系列产品</term>、<term>Atlas 推理系列产品</term>: |
| 270 | - - 当开启强一致性计算功能时,计算结果时确定的,多次执行将产生相同的输出。此外,计算结果与数据的位置无关。 | 270 | + - 当开启强一致性计算功能时,计算结果是确定的,多次执行将产生相同的输出。此外,计算结果与数据的位置无关。 |
| 271 | - aclnnMatmulWeightNz默认非一致性实现,支持通过aclrtCtxSetSysParamOpt开启一致性。 | 271 | - aclnnMatmulWeightNz默认非一致性实现,支持通过aclrtCtxSetSysParamOpt开启一致性。 |
| 272 | - 例如,在进行矩阵乘时,不同基本块的累加顺序可能不同,这可能会导致相同数据在不同行的计算结果出现细微差异。然而,在开启强一致性计算的情况下,即使在不同的行中,只要输入相同,计算结果也将相同。 | 272 | - 例如,在进行矩阵乘时,不同基本块的累加顺序可能不同,这可能会导致相同数据在不同行的计算结果出现细微差异。然而,在开启强一致性计算的情况下,即使在不同的行中,只要输入相同,计算结果也将相同。 |
| 273 | 273 | ||
| @@ -23,7 +23,7 @@ | |||
| 23 | 23 | ||
| 24 | ## 功能说明 | 24 | ## 功能说明 |
| 25 | 25 | ||
| 26 | -- 接口功能:完成张量x1与张量x2的矩阵乘计算。仅支持三维的Tensor传入。Tensor支持转置,转置序列根据传入的数列进行变更。permX1代表张量x1的转置序列,permX2代表张量x2的转置序列,序列值为0的是batch维度,其余两个维度做矩阵乘法。 | 26 | +- 接口功能:完成张量x1与张量x2的矩阵乘计算。仅支持三维的Tensor传入。Tensor支持转置,转置序列根据传入的数组进行变更。permX1代表张量x1的转置序列,permX2代表张量x2的转置序列,序列值为0的是batch维度,其余两个维度做矩阵乘法。 |
| 27 | 27 | ||
| 28 | - 示例: | 28 | - 示例: |
| 29 | - x1的shape是(B, M, K),x2的shape是(B, K, N),scale为None,batchSplitFactor等于1时,计算输出out的shape是(M, B, N)。 | 29 | - x1的shape是(B, M, K),x2的shape是(B, K, N),scale为None,batchSplitFactor等于1时,计算输出out的shape是(M, B, N)。 |
| @@ -140,7 +140,7 @@ aclnnStatus aclnnTransposeBatchMatMulWeightNz( | |||
| 140 | <td>表示输出矩阵的量化系数,可在输入为FLOAT16且输出为INT8时开启。</td> | 140 | <td>表示输出矩阵的量化系数,可在输入为FLOAT16且输出为INT8时开启。</td> |
| 141 | <td> | 141 | <td> |
| 142 | <ul> | 142 | <ul> |
| 143 | - <li>shape仅支持一维且需要满足且等于[b*n]。</li> | 143 | + <li>shape仅支持一维且需要等于[b*n]。</li> |
| 144 | </ul> | 144 | </ul> |
| 145 | </td> | 145 | </td> |
| 146 | <td>INT64、UINT64</td> | 146 | <td>INT64、UINT64</td> |
| @@ -191,7 +191,7 @@ aclnnStatus aclnnWeightQuantBatchMatmulV3( | |||
| 191 | <tr> | 191 | <tr> |
| 192 | <td>antiquantGroupSize</td> | 192 | <td>antiquantGroupSize</td> |
| 193 | <td>输入</td> | 193 | <td>输入</td> |
| 194 | - <td>表示伪量化per_group算法模式下,对输入`weight`进行反量化计算的groupSize输入,描述一组反量化参数对应的待反量化数据量在Reduce方向的大小。当伪量化算法模式不为per_group时传入0;当伪量化算法模式为per_group时传入值的范围为[32, k-1]且值要求是32的倍数。</td> | 194 | + <td>表示伪量化per_group算法模式下,对输入`weight`进行反量化计算的groupSize,描述一组反量化参数对应的待反量化数据量在Reduce方向的大小。当伪量化算法模式不为per_group时传入0;当伪量化算法模式为per_group时传入值的范围为[32, k-1]且值要求是32的倍数。</td> |
| 195 | <td>-</td> | 195 | <td>-</td> |
| 196 | <td>INT</td> | 196 | <td>INT</td> |
| 197 | <td>-</td> | 197 | <td>-</td> |
| @@ -25,7 +25,7 @@ | |||
| 25 | 25 | ||
| 26 | ## 功能说明 | 26 | ## 功能说明 |
| 27 | 27 | ||
| 28 | -- 接口功能:对一个批次的数据做批量归一化处理,正则化之后生成的数据的统计结果为0均值、1标准差。 | 28 | +- 接口功能:对一个批次的数据做批量归一化处理,计算之后生成的数据的统计结果为0均值、1标准差。 |
| 29 | 29 | ||
| 30 | - 计算公式: | 30 | - 计算公式: |
| 31 | 31 | ||
| @@ -26,7 +26,7 @@ | |||
| 26 | ## 功能说明 | 26 | ## 功能说明 |
| 27 | 27 | ||
| 28 | - 接口功能:计算输入张量的向量范数。 | 28 | - 接口功能:计算输入张量的向量范数。 |
| 29 | -- 计算公式:计算公式中n为dims参数指定的维度的size。 | 29 | +- 计算公式:公式中n为dims参数指定的维度的size。 |
| 30 | 30 | ||
| 31 | $$ | 31 | $$ |
| 32 | out=(\sum_{i=1}^{n}|self_{i}|^{ord})^{1/ord} | 32 | out=(\sum_{i=1}^{n}|self_{i}|^{ord})^{1/ord} |
| @@ -125,7 +125,7 @@ aclnnStatus aclnnRmsNorm( | |||
| 125 | <td>rstdOut(aclTensor*)</td> | 125 | <td>rstdOut(aclTensor*)</td> |
| 126 | <td>输出</td> | 126 | <td>输出</td> |
| 127 | <td>表示归一化后的均方根(RMS)倒数,用于归一化操作,对应公式中的`Rms(x)`的倒数。</td> | 127 | <td>表示归一化后的均方根(RMS)倒数,用于归一化操作,对应公式中的`Rms(x)`的倒数。</td> |
| 128 | - <td><ul><li>支持空Tensor。</li><li>维度数与`x`保持一致,其中不需要norm的维度与`x`对应维度保持一致,需要norm的维度(与`gamma`维度数相同的后几维)均为1。rstdOut shape与x shape,gamma shape关系举例:若x shape:(2,3,4,8),gamma shape:(8),rstdOut shape(2,3,4,1);若x shape:(2,3,4,8),gamma shape:(4,8),rstdOut shape(2,3,1,1)。</li></ul></td> | 128 | + <td><ul><li>支持空Tensor。</li><li>维度数与`x`保持一致,其中不需要norm的维度与`x`对应维度保持一致,需要norm的维度(与`gamma`维度数相同的后几维)均为1。rstdOut shape与x shape、gamma shape关系举例:若x shape:(2,3,4,8),gamma shape:(8),rstdOut shape(2,3,4,1);若x shape:(2,3,4,8),gamma shape:(4,8),rstdOut shape(2,3,1,1)。</li></ul></td> |
| 129 | <td>FLOAT32</td> | 129 | <td>FLOAT32</td> |
| 130 | <td>ND</td> | 130 | <td>ND</td> |
| 131 | <td>1-8</td> | 131 | <td>1-8</td> |
| @@ -173,7 +173,7 @@ aclnnStatus aclnnApplyAdamWQuant( | |||
| 173 | <tr> | 173 | <tr> |
| 174 | <td class="tg-0pky">absmaxMRef(aclTensor*)</td> | 174 | <td class="tg-0pky">absmaxMRef(aclTensor*)</td> |
| 175 | <td class="tg-0pky">输入/输出</td> | 175 | <td class="tg-0pky">输入/输出</td> |
| 176 | - <td class="tg-0pky">每blockSize(256)个vRef对应一个最大值,用于对mRef索引选择qmapM中的值乘以对应的absmaxMRef进行反量化。再通过更新后的mRef每blockSize(256)个选择出一个最大值,作为absmaxMRef的输出。</td> | 176 | + <td class="tg-0pky">每blockSize(256)个mRef对应一个最大值,用于对mRef索引选择qmapM中的值乘以对应的absmaxMRef进行反量化。再通过更新后的mRef每blockSize(256)个选择出一个最大值,作为absmaxMRef的输出。</td> |
| 177 | <td class="tg-0pky">shape要求为“absmaxMRef.size = ceil(mRef.size/blockSize)”。</td> | 177 | <td class="tg-0pky">shape要求为“absmaxMRef.size = ceil(mRef.size/blockSize)”。</td> |
| 178 | <td class="tg-0pky">FLOAT32</td> | 178 | <td class="tg-0pky">FLOAT32</td> |
| 179 | <td class="tg-0pky">ND</td> | 179 | <td class="tg-0pky">ND</td> |
| @@ -192,7 +192,7 @@ aclnnStatus aclnnMaxPool3dWithArgmaxBackward( | |||
| 192 | </tbody></table> | 192 | </tbody></table> |
| 193 | 193 | ||
| 194 | <!-- npu="A3,910b" id7 --> | 194 | <!-- npu="A3,910b" id7 --> |
| 195 | - - <term>Atlas A3 训练系列产品/Atlas A3 推理系列产品</term>、<term>Atlas A2 训练系列产品/Atlas A2 推理系列产品</term>:`indices`数据类型不支持INT64。depth *height* width不支持大于max int32。 | 195 | + - <term>Atlas A3 训练系列产品/Atlas A3 推理系列产品</term>、<term>Atlas A2 训练系列产品/Atlas A2 推理系列产品</term>:`indices`数据类型不支持INT64。depth * height * width不支持大于max int32。 |
| 196 | 196 | ||
| 197 | <!-- end id7 --> | 197 | <!-- end id7 --> |
| 198 | 198 | ||
| @@ -136,7 +136,7 @@ aclnnStatus aclnnThnnFusedLstmCell( | |||
| 136 | <tr> | 136 | <tr> |
| 137 | <td>cx(aclTensor*)</td> | 137 | <td>cx(aclTensor*)</td> |
| 138 | <td>输入</td> | 138 | <td>输入</td> |
| 139 | - <td>上一时的刻细胞状态。</td> | 139 | + <td>上一时刻的细胞状态。</td> |
| 140 | <td>无。</td> | 140 | <td>无。</td> |
| 141 | <td>FLOAT、FLOAT16</td> | 141 | <td>FLOAT、FLOAT16</td> |
| 142 | <td>ND</td> | 142 | <td>ND</td> |