Scale
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Ascend 950PR&950DT系列产品 | √ |
| Atlas A3系列产品 | √ |
| Atlas A2系列产品 | √ |
| Atlas 200I/500 A2推理产品 | √ |
| Atlas推理系列产品 | √ |
| Atlas训练系列产品 | √ |
功能说明
-
算子功能:对输入Tensor进行scale和bias计算。若不输入bias,则 y=x⋅scaley = x \cdot scale;若输入bias,则 y=x⋅scale+biasy = x \cdot scale + bias。
-
算子公式:
若不输入bias,则
yi=xi⋅scaleiy_i = x_i \cdot scale_i
若输入bias,则
yi=xi⋅scalei+biasiy_i = x_i \cdot scale_i + bias_i
- xix_i为输入Tensor;
- scaleiscale_i为缩放因子Tensor,支持与x的broadcast;
- biasibias_i为可选的偏置Tensor,shape与scale保持一致;
- yiy_i为输出Tensor,shape与x一致。
参数说明
| 参数名 | 输入/输出/属性 | 描述 | 数据类型 | 数据格式 |
|---|---|---|---|---|
| x | 输入 | 算子输入的Tensor。支持空Tensor。 | FLOAT16、FLOAT、BFLOAT16 | ND |
| scale | 输入 | 缩放因子Tensor。数据类型约束见下方约束说明,shape满足broadcast要求。 | FLOAT16、FLOAT、BFLOAT16 | ND |
| bias | 可选输入 | 偏置Tensor,默认不提供。数据类型约束见下方约束说明,shape要求见对应通路的接口说明。 | FLOAT16、FLOAT、BFLOAT16 | ND |
| y | 输出 | 输出Tensor。shape必须与x完全一致,数据类型与x一致。 | FLOAT16、FLOAT、BFLOAT16 | ND |
| axis | 可选属性 | 指定进行scale的起始轴。默认值为1,取值范围为[-x_rank, x_rank)。 | INT64 | - |
| num_axes | 可选属性 |
|
INT64 | - |
| scale_from_blob | 可选属性 | 取值为True或False,默认值为True。True按num_axes和axis推导scale shape;False按scale的rank和axis推导,num_axes不参与shape推导。 | BOOL | - |
表中属性默认值适用于GE图模式。aclnn接口的axis、numAxes、scaleFromBlob须显式传入,分别对应axis、num_axes、scale_from_blob。详细shape、动态形状和非连续Tensor约束见下方调用说明中的通路资料。
Atlas推理系列产品:aclnn API不支持BFLOAT16。
约束说明
- x与y的shape必须完全一致。
- 各输入dtype为FLOAT16/FLOAT/BFLOAT16之一,y的dtype与x一致。aclnn通路要求各输入dtype一致;GE图模式允许各输入分别选用这三种dtype,由GE适配后调用kernel。
- bias存在且非空Tensor时,bias与scale的shape必须一致;空Tensor的处理见对应通路的接口说明。
- scale的shape需满足axis和num_axes指定的broadcast规则,详见对应通路的接口说明。
- aclnn通路的x和scale维度不大于8;GE图模式的维度约束见Scale IR定义。
- axis取值范围为[-x_rank, x_rank)。
- num_axes取值范围大于等于-1。
- 仅支持ND格式。
- GE图模式支持-1未知维度和[-2]未知Rank描述符,运行时具体shape须满足Scale IR定义中的约束。
- aclnn通路支持非连续的Tensor,非连续Tensor的维度不大于8。
调用说明
| 调用方式 | 调用样例 | 说明 |
|---|---|---|
| aclnn API | test_aclnn_scale | 通过aclnnScale接口调用Scale算子。 |
| GE图模式 | - | 通过Scale IR定义构图,参数及动态形状约束见该定义。 |
Atlas 200I/500 A2推理产品、Atlas训练系列产品支持GE图模式,不支持aclnn API。