MaskedCausalConv1dBackward

产品支持情况

产品	是否支持
Ascend 950PR/Ascend 950DT	√
Atlas A3 训练系列产品/Atlas A3 推理系列产品	×
Atlas A2 训练系列产品/Atlas A2 推理系列产品	×
Atlas 200I/500 A2 推理产品	×
Atlas 推理系列产品	×
Atlas 训练系列产品	×

功能说明

• 算子功能：对hidden层的token之间进行一维分组卷积操作的反向梯度计算。

• 计算公式：

  假定卷积输入x、卷积输出的梯度gradY和卷积输入的梯度gradX的shape是[S, B, H]，weight的shape是[W, H]，i和j分别表示S/B轴的索引，k为卷积窗口W内的索引，那么计算将被表示为：

  $$gradYMasked[i,j]=mask[j,i]\ast gradY[i,j]$$

  $$gradX[i,j]=\sum _{k=0}^{W-1}gradYMasked[i+k,j]\ast weight[W-1-k]$$

  $$gradWeight[k]=\sum _{j=0}^{B-1}\sum _{i=0}^{S-1}gradYMasked[i+W-1-k,j]\ast x[i,j]$$

  其中，无效位置的padding为0填充；当前W仅支持3；H轴为elementwise操作，上述公式不体现。

参数说明

参数名	输入/输出	描述	数据类型	数据格式
gradY	输入	输入序列，shape为[S, B, H]，对应公式中gradY。不支持空Tensor。	FLOAT16、BFLOAT16	ND
x	输入	输入，shape为[S, B, H]，对应公式中x。不支持空Tensor。	数据类型与gradY一致	ND
weight	输入	因果1维分组卷积核，shape为[W, H]，W固定为3，对应公式中weight。不支持空Tensor。	数据类型与gradY一致	ND
mask	可选输入	布尔掩码，shape为[B, S]，对应公式中mask。默认值是None。为None时表示mask的值全为True。不支持空Tensor。	BOOL	ND
gradX	输出	输出结果，表示分组卷积输入x的梯度，shape与gradY一致。不支持空Tensor。	数据类型与gradY一致	ND
gradWeight	输出	输出结果，表示分组卷积输入weight的梯度，shape与weight一致。不支持空Tensor。	数据类型与gradY一致	ND

约束说明

• 该接口不支持图模式。
• 输入输出的shape数据范围约束如下：
  • B（Batchsize）：取值范围为1~32。
  • B * S（Batchsize * SeqLength）：取值范围为1~512K。
  • H（hiddenSize）：取值范围384~24576，且是64的整数倍。
  • W：W当前只支持3。
• 算子入参与中间计算结果，在对应运行数据类型（float16/bfloat16）下，数值均不会超出该类型值域范围。
• 算子输入不支持有±inf和nan的情况。

调用示例

调用方式	样例代码	说明
aclnn接口	test_aclnn_masked_causal_conv1d_backward	通过aclnnMaskedCausalConv1dBackward调用MaskedCausalConv1dBackward算子