Star921
1841
代码
代码
Issues231
Pull Requests359
Actions
项目讨论
Wiki
分析
Star921
1841
已合并
fix(docs):修复scaleout描述错误 #7352
raoliang_sac创建于 7月10日
fix(docs):修复scaleout描述错误 #7352
已合并
raoliang_sac创建于 7月10日
从raoliang_sac/ops-nn_9804cherry-pick-mr-7334-1783653736114-auto合入到cann/ops-nn9.1.0
共 4 个文件变更+18-18
Mnorm/add_rms_norm_dynamic_quant/docs/aclnnAddRmsNormDynamicQuant.md+11-11
@@ -37,7 +37,7 @@
37 $$37 $$
38 38 
39 - 若仅输入smoothScale1Optional，则y2Out和scale2Out输出无实际意义。计算过程如下所示：39 - 若仅输入smoothScale1Optional，则y2Out和scale2Out输出无实际意义。计算过程如下所示：
40- 40+ 
41 $$41 $$
42 input = y\cdot smoothScale1Optional42 input = y\cdot smoothScale1Optional
43 $$43 $$
@@ -51,11 +51,11 @@
51 $$51 $$
52 52 
53 - 若smoothScale1Optional和smoothScale2Optional均输入，则算子的五个输出均为有效输出。计算过程如下所示：53 - 若smoothScale1Optional和smoothScale2Optional均输入，则算子的五个输出均为有效输出。计算过程如下所示：
54- 54+ 
55 $$55 $$
56 input1 = y\cdot smoothScale1Optional56 input1 = y\cdot smoothScale1Optional
57 $$57 $$
58- 58+ 
59 $$59 $$
60 input2 = y\cdot smoothScale2Optional60 input2 = y\cdot smoothScale2Optional
61 $$61 $$
@@ -67,11 +67,11 @@
67 $$67 $$
68 scale2Out=row\_max(abs(input2))/12768 scale2Out=row\_max(abs(input2))/127
69 $$69 $$
70- 70+ 
71 $$71 $$
72 y1Out=round(input1/scale1Out)72 y1Out=round(input1/scale1Out)
73 $$73 $$
74- 74+ 
75 $$75 $$
76 y2Out=round(input2/scale2Out)76 y2Out=round(input2/scale2Out)
77 $$77 $$
@@ -231,7 +231,7 @@ aclnnStatus aclnnAddRmsNormDynamicQuant(
231 <td>FLOAT32</td>231 <td>FLOAT32</td>
232 <td>ND</td>232 <td>ND</td>
233 <td>1-8</td>233 <td>1-8</td>
234- <td>√</td>234+ <td>×</td>
235 </tr>235 </tr>
236 <tr>236 <tr>
237 <td>scale2Out（aclTensor*）</td>237 <td>scale2Out（aclTensor*）</td>
@@ -241,7 +241,7 @@ aclnnStatus aclnnAddRmsNormDynamicQuant(
241 <td>FLOAT32</td>241 <td>FLOAT32</td>
242 <td>ND</td>242 <td>ND</td>
243 <td>1-8</td>243 <td>1-8</td>
244- <td>√</td>244+ <td>×</td>
245 </tr>245 </tr>
246 <tr>246 <tr>
247 <td>workspaceSize（uint64_t*）</td>247 <td>workspaceSize（uint64_t*）</td>
@@ -272,7 +272,7 @@ aclnnStatus aclnnAddRmsNormDynamicQuant(
272- **返回值**272- **返回值**
273 273 
274 aclnnStatus：返回状态码，具体参见[aclnn返回码](../../../docs/zh/context/aclnn返回码.md)。274 aclnnStatus：返回状态码，具体参见[aclnn返回码](../../../docs/zh/context/aclnn返回码.md)。
275- 275+ 
276 第一段接口完成入参校验，出现以下场景时报错：276 第一段接口完成入参校验，出现以下场景时报错：
277 277 
278 <table style="undefined;table-layout: fixed;width: 1170px"><colgroup>278 <table style="undefined;table-layout: fixed;width: 1170px"><colgroup>
@@ -352,18 +352,18 @@ aclnnStatus aclnnAddRmsNormDynamicQuant(
352- **数据格式说明**352- **数据格式说明**
353 353 
354 所有输入输出Tensor的数据格式推荐使用ND格式，其他数据格式会由框架默认转换成ND格式进行处理。354 所有输入输出Tensor的数据格式推荐使用ND格式，其他数据格式会由框架默认转换成ND格式进行处理。
355- 355+ 
356- **各产品型号支持数据类型说明**356- **各产品型号支持数据类型说明**
357 357 
358 - <term>Atlas A3 训练系列产品/Atlas A3 推理系列产品</term>、<term>Atlas A2 训练系列产品/Atlas A2 推理系列产品</term>：358 - <term>Atlas A3 训练系列产品/Atlas A3 推理系列产品</term>、<term>Atlas A2 训练系列产品/Atlas A2 推理系列产品</term>：
359- 359+ 
360 | `x1`数据类型 | `x2`数据类型 | `gamma`数据类型 | `smoothScale1Optional`数据类型 | `smoothScale2Optional`数据类型 | `y1Out`数据类型 | `y2Out`数据类型 | `xOut`数据类型 | `scale1Out`数据类型 | `scale2Out`数据类型 |360 | `x1`数据类型 | `x2`数据类型 | `gamma`数据类型 | `smoothScale1Optional`数据类型 | `smoothScale2Optional`数据类型 | `y1Out`数据类型 | `y2Out`数据类型 | `xOut`数据类型 | `scale1Out`数据类型 | `scale2Out`数据类型 |
361 | ----------- | ----------- | -------------- | ----------------------------- | ----------------------------- | -------------- | -------------- | ------------------ | ------------------ | ------------------ |361 | ----------- | ----------- | -------------- | ----------------------------- | ----------------------------- | -------------- | -------------- | ------------------ | ------------------ | ------------------ |
362 | FLOAT16 | FLOAT16 | FLOAT16 | FLOAT16 | FLOAT16 | INT8 | INT8 | FLOAT16 | FLOAT32 | FLOAT32 |362 | FLOAT16 | FLOAT16 | FLOAT16 | FLOAT16 | FLOAT16 | INT8 | INT8 | FLOAT16 | FLOAT32 | FLOAT32 |
363 | BFLOAT16 | BFLOAT16 | BFLOAT16 | BFLOAT16 | BFLOAT16 | INT8 | INT8 | BFLOAT16 | FLOAT32 | FLOAT32 |363 | BFLOAT16 | BFLOAT16 | BFLOAT16 | BFLOAT16 | BFLOAT16 | INT8 | INT8 | BFLOAT16 | FLOAT32 | FLOAT32 |
364 364 
365 - <term>Ascend 950PR/Ascend 950DT</term>：365 - <term>Ascend 950PR/Ascend 950DT</term>：
366- 366+ 
367 | `x1`数据类型 | `x2`数据类型 | `gamma`数据类型 | `smoothScale1Optional`数据类型 | `smoothScale2Optional`数据类型 | `y1Out`数据类型 | `y2Out`数据类型 | `xOut`数据类型 | `scale1Out`数据类型 | `scale2Out`数据类型 |367 | `x1`数据类型 | `x2`数据类型 | `gamma`数据类型 | `smoothScale1Optional`数据类型 | `smoothScale2Optional`数据类型 | `y1Out`数据类型 | `y2Out`数据类型 | `xOut`数据类型 | `scale1Out`数据类型 | `scale2Out`数据类型 |
368 | ----------- | ----------- | -------------- | ----------------------------- | ----------------------------- | -------------- | -------------- | ------------------ | ------------------ | ------------------ |368 | ----------- | ----------- | -------------- | ----------------------------- | ----------------------------- | -------------- | -------------- | ------------------ | ------------------ | ------------------ |
369 | FLOAT16 | FLOAT16 | FLOAT16 | FLOAT16 | FLOAT16 | INT8 | INT8 | FLOAT16 | FLOAT32 | FLOAT32 |369 | FLOAT16 | FLOAT16 | FLOAT16 | FLOAT16 | FLOAT16 | INT8 | INT8 | FLOAT16 | FLOAT32 | FLOAT32 |
Mnorm/add_rms_norm_dynamic_quant/docs/aclnnAddRmsNormDynamicQuantV2.md+3-3
@@ -248,7 +248,7 @@ aclnnStatus aclnnAddRmsNormDynamicQuantV2(
248 <td>FLOAT32</td>248 <td>FLOAT32</td>
249 <td>ND</td>249 <td>ND</td>
250 <td>1-8</td>250 <td>1-8</td>
251- <td>√</td>251+ <td>×</td>
252 </tr>252 </tr>
253 <tr>253 <tr>
254 <td>scale2Out（aclTensor*）</td>254 <td>scale2Out（aclTensor*）</td>
@@ -258,7 +258,7 @@ aclnnStatus aclnnAddRmsNormDynamicQuantV2(
258 <td>FLOAT32</td>258 <td>FLOAT32</td>
259 <td>ND</td>259 <td>ND</td>
260 <td>1-8</td>260 <td>1-8</td>
261- <td>√</td>261+ <td>×</td>
262 </tr>262 </tr>
263 <tr>263 <tr>
264 <td>workspaceSize（uint64_t*）</td>264 <td>workspaceSize（uint64_t*）</td>
@@ -286,7 +286,7 @@ aclnnStatus aclnnAddRmsNormDynamicQuantV2(
286- **返回值**286- **返回值**
287 287 
288 aclnnStatus：返回状态码，具体参见[aclnn返回码](../../../docs/zh/context/aclnn返回码.md)。288 aclnnStatus：返回状态码，具体参见[aclnn返回码](../../../docs/zh/context/aclnn返回码.md)。
289- 289+ 
290 第一段接口完成入参校验，出现以下场景时报错：290 第一段接口完成入参校验，出现以下场景时报错：
291 291 
292 <table style="undefined;table-layout: fixed;width: 1170px"><colgroup>292 <table style="undefined;table-layout: fixed;width: 1170px"><colgroup>
Mnorm/add_rms_norm_dynamic_quant/op_host/op_api/aclnn_add_rms_norm_dynamic_quant.h+2-2
@@ -57,10 +57,10 @@ extern "C" {
57 * 支持非连续的Tensor，数据格式支持ND。57 * 支持非连续的Tensor，数据格式支持ND。
58 * @param [in] scale1Out:58 * @param [in] scale1Out:
59 * 公式中的输出`scale1`，数据类型支持FLOAT，shape需要与x1除最后一维一致。59 * 公式中的输出`scale1`，数据类型支持FLOAT，shape需要与x1除最后一维一致。
60- * 支持非连续的Tensor，数据格式支持ND。60+ * 不支持非连续的Tensor，数据格式支持ND。
61 * @param [in] scale2Out:61 * @param [in] scale2Out:
62 * 公式中的输出`scale2`，数据类型支持FLOAT，shape需要与x1除最后一维一致。62 * 公式中的输出`scale2`，数据类型支持FLOAT，shape需要与x1除最后一维一致。
63- * 支持非连续的Tensor，数据格式支持ND。63+ * 不支持非连续的Tensor，数据格式支持ND。
64 * @param [out] workspaceSize: 返回用户需要在npu device侧申请的workspace大小。64 * @param [out] workspaceSize: 返回用户需要在npu device侧申请的workspace大小。
65 * @param [out] executor: 返回op执行器，包含算子计算流程。65 * @param [out] executor: 返回op执行器，包含算子计算流程。
66 * @return aclnnStatus: 返回状态码。66 * @return aclnnStatus: 返回状态码。
Mnorm/add_rms_norm_dynamic_quant/op_host/op_api/aclnn_add_rms_norm_dynamic_quant_v2.h+2-2
@@ -61,10 +61,10 @@ extern "C" {
61 * 支持非连续的Tensor，数据格式支持ND。61 * 支持非连续的Tensor，数据格式支持ND。
62 * @param [in] scale1Out:62 * @param [in] scale1Out:
63 * 公式中的输出`scale1`，数据类型支持FLOAT，shape需要与x1除最后一维一致。63 * 公式中的输出`scale1`，数据类型支持FLOAT，shape需要与x1除最后一维一致。
64- * 支持非连续的Tensor，数据格式支持ND。64+ * 不支持非连续的Tensor，数据格式支持ND。
65 * @param [in] scale2Out:65 * @param [in] scale2Out:
66 * 公式中的输出`scale2`，数据类型支持FLOAT，shape需要与x1除最后一维一致。66 * 公式中的输出`scale2`，数据类型支持FLOAT，shape需要与x1除最后一维一致。
67- * 支持非连续的Tensor，数据格式支持ND。67+ * 不支持非连续的Tensor，数据格式支持ND。
68 * @param [out] workspaceSize: 返回用户需要在npu device侧申请的workspace大小。68 * @param [out] workspaceSize: 返回用户需要在npu device侧申请的workspace大小。
69 * @param [out] executor: 返回op执行器，包含算子计算流程。69 * @param [out] executor: 返回op执行器，包含算子计算流程。
70 * @return aclnnStatus: 返回状态码。70 * @return aclnnStatus: 返回状态码。