aclnnConvolutionBackward
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Ascend 950PR/Ascend 950DT | √ |
| Atlas A3 训练系列产品/Atlas A3 推理系列产品 | √ |
| Atlas A2 训练系列产品/Atlas A2 推理系列产品 | √ |
| Atlas 200I/500 A2 推理产品 | × |
| Atlas 推理系列产品 | √ |
| Atlas 训练系列产品 | √ |
功能说明
-
接口功能:卷积的反向传播。根据输出掩码设置计算输入、权重和偏差的梯度。此函数支持1D、2D和3D卷积。
-
计算公式:
输入input(N,Cin,Din,Hin,WinN,C_{in},D_{in},H_{in},W_{in})、输出out(N,Cout,Dout,Hout,WoutN,C_{out},D_{out},H_{out},W_{out})和卷积步长(stridestride)、卷积核大小(kernelSize,kD,kH,kWkernelSize,kD,kH,kW)、膨胀参数(dilationdilation)的关系是:
Dout=⌊Din+2∗padding[0]−dilation[0]∗(kernelSize[0]−1)−1stride[0]+1⌋ D_{out}=\lfloor \frac{D_{in}+2*padding[0]-dilation[0] * (kernelSize[0] - 1) - 1}{stride[0]}+1 \rfloor
Hout=⌊Hin+2∗padding[1]−dilation[1]∗(kernelSize[1]−1)−1stride[1]+1⌋ H_{out}=\lfloor \frac{H_{in}+2*padding[1]-dilation[1] * (kernelSize[1] - 1) - 1}{stride[1]}+1 \rfloor
Wout=⌊Win+2∗padding[2]−dilation[2]∗(kernelSize[2]−1)−1stride[2]+1⌋ W_{out}=\lfloor \frac{W_{in}+2*padding[2]-dilation[2] * (kernelSize[2] -1) -1}{stride[2]}+1 \rfloor
卷积反向传播需要计算对卷积正向的输入张量 xx(对应函数原型中的input)、卷积核权重张量 ww (对应函数原型中的weight)和偏置 bb 的梯度。
-
对于 xx 的梯度 ∂L∂x\frac{\partial L}{\partial x}(对应函数原型中的gradInput参数):
∂L∂xn,cin,i,j=∑cout=1Cout∑p=1kH∑q=1kW∂L∂yn,cout,i−p,j−q⋅wcout,cin,p,q\frac{\partial L}{\partial x_{n, c_{in}, i, j}} = \sum_{c_{out}=1}^{C_{out}} \sum_{p=1}^{k_H} \sum_{q=1}^{k_W} \frac{\partial L}{\partial y_{n, c_{out}, i-p, j-q}}\cdot w_{c_{out}, c_{in}, p, q}
其中,LL 为损失函数,∂L∂y\frac{\partial L}{\partial y} 为输出张量 yy 对 LL 的梯度(对应函数原型中的gradOutput参数)。
-
对于 ww 的梯度 ∂L∂w\frac{\partial L}{\partial w}(对应函数原型中的gradWeight参数):
∂L∂wcout,cin,p,q=∑n=1N∑i=1Hout∑j=1Woutxn,cin,i⋅sH+p,j⋅sW+q⋅∂L∂yn,cout,i,j\frac{\partial L}{\partial w_{c_{out}, c_{in}, p, q}} = \sum_{n=1}^{N} \sum_{i=1}^{H_{out}} \sum_{j=1}^{W_{out}} x_{n, c_{in}, i \cdot s_H + p, j \cdot s_W + q} \cdot \frac{\partial L}{\partial y_{n, c_{out}, i, j}}
-
对于 bb 的梯度 ∂L∂b\frac{\partial L}{\partial b}(对应函数原型中的gradBias参数):
∂L∂bcout=∑n=1N∑i=1Hout∑j=1Wout∂L∂yn,cout,i,j\frac{\partial L}{\partial b_{c_{out}}} = \sum_{n=1}^{N} \sum_{i=1}^{H_{out}} \sum_{j=1}^{W_{out}} \frac{\partial L}{\partial y_{n, c_{out}, i, j}}
-
函数原型
每个算子分为两段式接口,必须先调用“aclnnConvolutionBackwardGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnConvolutionBackward”接口执行计算。
aclnnStatus aclnnConvolutionBackwardGetWorkspaceSize(
const aclTensor *gradOutput,
const aclTensor *input,
const aclTensor *weight,
const aclIntArray *biasSizes,
const aclIntArray *stride,
const aclIntArray *padding,
const aclIntArray *dilation,
bool transposed,
const aclIntArray *outputPadding,
int groups,
const aclBoolArray *outputMask,
int8_t cubeMathType,
aclTensor *gradInput,
aclTensor *gradWeight,
aclTensor *gradBias,
uint64_t *workspaceSize,
aclOpExecutor **executor)
aclnnStatus aclnnConvolutionBackward(
void *workspace,
uint64_t workspaceSize,
aclOpExecutor *executor,
const aclrtStream stream)
aclnnConvolutionBackwardGetWorkspaceSize
-
参数说明:
参数名 输入/输出 描述 使用说明 数据类型 数据格式 维度(shape) 非连续Tensor gradOutput 输入 输出张量y对L的梯度。 FLOAT、FLOAT16、BFLOAT16 NCL、NCHW、NCDHW 参见约束说明。 √ input 输入 公式中的x。 FLOAT、FLOAT16、BFLOAT16 NCL、NCHW、NCDHW 参见约束说明。 √ weight 输入 公式中的w。 FLOAT、FLOAT16、BFLOAT16 NCL、NCHW、NCDHW 参见约束说明。 √ biasSizes 输入 卷积正向过程中偏差(bias)的shape。 - 数组长度是1。
- 在普通卷积中等于[weight.shape[0]],在转置卷积中等于[weight.shape[1] * groups]。
- 空Tensor场景下,当outputMask指定偏差的梯度需要计算时,biasSizes不能为nullptr。
INT64 - - × stride 输入 反向传播过程中卷积核在输入上移动的步长。 - 对于一维卷积反向,数组长度必须为1。
- 数组长度为weight维度减2,数值必须大于0。
INT64 - 参见约束说明。 × padding 输入 反向传播过程中对于输入填充。 - 对于一维卷积反向,数组长度必须为1。
- 数组长度可以为weight维度减2,在2d场景下数组长度可以为4。
- 数值必须大于等于0。
INT64 - 参见约束说明。 × dilation 输入 反向传播过程中的膨胀参数。 - 对于一维卷积反向,数组长度必须为1。
- 数组长度可以为weight维度减2。
- 数值必须大于0。
INT64 - 参见约束说明。 × transposed 输入 转置卷积使能标志位, 当其值为True时使能转置卷积。 - - - - × outputPadding 输入 反向传播过程中对于输出填充。 - 数组长度可以为weight维度减2,各维度的数值范围满足[0,stride对应维度数值)。
- transposed为False场景下,要求每个元素值为0。
INT64 - - × groups 输入 反向传播过程中输入通道的分组数。 需满足groups*weight的C维度=input的C维度,groups取值范围为[1,65535]。 INT32 - - × outputMask 输入 - 输出掩码参数, 指定输出中是否包含输入、权重、偏差的梯度。
- 反向传播过程输出掩码参数为True对应位置的梯度。
- - - - × cubeMathType 输入 用于判断Cube单元应该使用哪种计算逻辑进行运算。 - 如果输入的数据类型存在互推导关系,该参数默认对互推导后的数据类型进行处理。
- 支持的枚举值如下:
- 0:KEEP_DTYPE,保持输入的数据类型进行计算。
- 1:ALLOW_FP32_DOWN_PRECISION,允许将输入数据降精度计算。
- 2:USE_FP16,允许转换为数据类型FLOAT16进行计算。当输入数据类型是FLOAT,转换为FLOAT16计算。
- 3:USE_HF32,允许转换为数据类型HFLOAT32计算。当输入是FLOAT16,仍使用FLOAT16计算。
- - - × gradInput 输出 输入张量x对L的梯度。 - 支持空Tensor。
- 数据类型与input保持一致。
- 数据格式需要与input、gradOutput一致。
FLOAT、FLOAT16、BFLOAT16 NCL、NCHW、NCDHW - × gradWeight 输出 卷积核权重张量w对L的梯度。 - 支持空Tensor。
- 数据格式需要与weight一致。
FLOAT、FLOAT16、BFLOAT16 NCL、NCHW、NCDHW - × gradBias 输出 偏置b对L的梯度。 - 支持空Tensor。
- 数据类型与gradOutput一致。
FLOAT、FLOAT16、BFLOAT16 ND - × workspaceSize 输出 返回需要在Device侧申请的workspace大小。 - - - - × executor 输出 返回op执行器,包含了算子计算流程。 - - - - × -
返回值:
aclnnStatus:返回状态码,具体参见aclnn返回码。
第一段接口完成入参校验,出现以下场景时报错:
返回值 错误码 描述 ACLNN_ERR_PARAM_NULLPTR 161001 传入的gradOutput、input、weight、biasSizes、stride、padding、dilation、outputPadding、outputMask、gradInput、gradWeight是空指针。 输出中包含偏差的梯度时,传入的gradBias是空指针。 ACLNN_ERR_PARAM_INVALID 161002 gradOutput、input、weight的数据类型不在支持的范围之内。 gradOutput、input、weight的数据格式不在支持的范围之内。 gradOutput、input、weight的shape不符合约束。 biasSizes、stride、padding、dilation、outputPadding的shape不符合约束。 不符合groups*weight的C维度=input的C维度。 当前处理器不支持卷积反向传播。 ACLNN_ERR_INNER_NULLPTR 561103 API内部校验错误,通常由于输入数据或属性的规格不在支持的范围之内导致。
aclnnConvolutionBackward
-
参数说明:
参数名 输入/输出 描述 workspace 输入 在Device侧申请的workspace内存地址。 workspaceSize 输入 在Device侧申请的workspace大小,由第一段接口aclnnConvolutionBackwardGetWorkspaceSize获取。 executor 输入 op执行器,包含了算子计算流程。 stream 输入 指定执行任务的Stream。 -
返回值:
aclnnStatus:返回状态码,具体参见aclnn返回码。
约束说明
- 确定性计算
- aclnnConvolutionBackward默认非确定性实现,支持通过aclrtCtxSetSysParamOpt开启确定性。
| 约束类型 | Ascend 950PR/Ascend 950DT | Atlas A2 训练系列产品/Atlas A2 推理系列产品、Atlas A3 训练系列产品/Atlas A3 推理系列产品 | Atlas 推理系列产品、Atlas 训练系列产品 |
|---|---|---|---|
| 空Tensor约束 |
|
- | |
| gradOutput约束 | - | 1d、2d和3d transposed=false场景,各个维度的大小应该大于等于1, 当input为空Tensor时,支持N、C、D、H、W维度为0。 | 不支持空Tensor。 |
| input约束 |
|
1d、2d和3d transposed=false场景,各个维度的大小应该大于等于1。
|
- |
| weight约束 |
|
2d和3d transposed=false场景,H、W的大小应该在[1,255]的范围内,其他维度的大小应该大于等于1。1d transposed=false场景,L的大小应该在[1,255]的范围内,其他维度的大小应该大于等于1。
|
不支持空Tensor。 |
| stride约束 | 1d、2d和3d transposed=false场景,各个值都应该大于等于1。1d、2d和3d transposed=true场景,strideD应该在[1,1000000]的范围内,strideH、strideW应该在[1,2147483646]的范围内。 | 3d transposed=false场景,strideD应该大于等于1,strideH、strideW应该在[1,63]的范围内。1d和2d transposed=false场景,各个值都应该大于等于1。 | - |
| padding约束 | 1d、2d和3d transposed=false场景,各个值都应该大于等于0。1d、2d和3d transposed=true场景,paddingD应该在[0,1000000]的范围内,paddingH、paddingW应该在[0,2147483646]的范围内。 | 3d transposed=false场景,paddingD应该大于等于0,paddingH、paddingW应该在[0,255]的范围内。1d和2d transposed=false场景,各个值都应该在[0,255]的范围内。 | - |
| dilation约束 | 1d、2d和3d transposed=false场景,各个值都应该大于等于1。1d、2d和3d transposed=true场景,dilationD应该在[1,1000000]的范围内,dilationH、dilationW应该在[1,2147483646]的范围内。 | 1d、2d和3d transposed=false场景,各个值都应该在[1,255]的范围内。 | - |
| dtype约束 | 只有在transposed=true且output_mask[0]=true时,数据类型才支持HIFLOAT8、FLOAT8_E4M3FN。 | 不支持HIFLOAT8、FLOAT8_E4M3FN。 | 不支持BFLOAT16、HIFLOAT8、FLOAT8_E4M3FN。 |
| cubeMathType说明 |
|
|
|
| 其他约束 | padding区域梯度的计算行为取决于输入shape,根据算子优化策略的不同,padding区域梯度可能直接置0。 | - | 当前仅支持1D和2D卷积的反向传播,暂不支持3D卷积的反向传播。 |
- 公式一:
(inputdim+paddim×2)≥((weightdim−1)×dilationdim+1) (input_{dim} + pad_{dim} \times 2) \ge ((weight_{dim} - 1) \times dilation_{dim} + 1)
由于硬件资源限制,算子在部分参数取值组合场景下会执行失败,请根据日志信息提示分析并排查问题。若无法解决,请单击Link获取技术支持。
调用示例
示例代码如下,仅供参考,具体编译和执行过程请参考编译与运行样例。
#include <iostream>
#include <memory>
#include <vector>
#include "acl/acl.h"
#include "aclnnop/aclnn_convolution_backward.h"
#define CHECK_RET(cond, return_expr) \
do { \
if (!(cond)) { \
return_expr; \
} \
} while (0)
#define CHECK_FREE_RET(cond, return_expr) \
do { \
if (!(cond)) { \
Finalize(deviceId, stream); \
return_expr; \
} \
} while (0)
#define LOG_PRINT(message, ...) \
do { \
printf(message, ##__VA_ARGS__); \
} while (0)
int64_t GetShapeSize(const std::vector<int64_t> &shape)
{
int64_t shapeSize = 1;
for (auto i : shape) {
shapeSize *= i;
}
return shapeSize;
}
int Init(int32_t deviceId, aclrtStream *stream)
{
// 固定写法,资源初始化
auto ret = aclInit(nullptr);
CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("aclInit failed. ERROR: %d\n", ret); return ret);
ret = aclrtSetDevice(deviceId);
CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("aclrtSetDevice failed. ERROR: %d\n", ret); return ret);
ret = aclrtCreateStream(stream);
CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("aclrtCreateStream failed. ERROR: %d\n", ret); return ret);
return 0;
}
template <typename T>
int CreateAclTensor(const std::vector<T> &hostData, const std::vector<int64_t> &shape, void **DeviceAddr,
aclDataType dataType, aclTensor **tensor)
{
auto size = GetShapeSize(shape) * sizeof(T);
// 调用aclrtMalloc申请device侧内存
auto ret = aclrtMalloc(DeviceAddr, size, ACL_MEM_MALLOC_HUGE_FIRST);
CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("aclrtMalloc failed. ERROR: %d\n", ret); return ret);
// 调用aclrtMemcpy将host侧数据拷贝到device侧内存上
ret = aclrtMemcpy(*DeviceAddr, size, hostData.data(), size, ACL_MEMCPY_HOST_TO_DEVICE);
CHECK_RET(ret == ACL_SUCCESS, LOG_PRINT("aclrtMemcpy failed. ERROR: %d\n", ret); return ret);
// 计算连续tensor的strides
std::vector<int64_t> strides(shape.size(), 1);
for (int64_t i = shape.size() - 2; i >= 0; i--) {
strides[i] = shape[i + 1] * strides[i + 1];
}
// 调用aclCreateTensor接口创建aclTensor
if (shape.size() == 4) {
*tensor = aclCreateTensor(shape.data(), shape.size(), dataType, strides.data(), 0, aclFormat::ACL_FORMAT_NCHW,
shape.data(), shape.size(), *DeviceAddr);
} else {
*tensor = aclCreateTensor(shape.data(), shape.size(), dataType, strides.data(), 0, aclFormat::ACL_FORMAT_ND,
shape.data(), shape.size(), *DeviceAddr);
}
return 0;
}
void Finalize(int32_t deviceId, aclrtStream stream)
{
aclrtDestroyStream(stream);
aclrtResetDevice(deviceId);
aclFinalize();
}
int aclnnConvolutionBackwardTest(int32_t deviceId, aclrtStream &stream)
{
// 1. 初始化
auto ret = Init(deviceId, &stream);
CHECK_FREE_RET(ret == ACL_SUCCESS, LOG_PRINT("Init acl failed. ERROR: %d\n", ret); return ret);
// 2. 构造输入与输出,需要根据API的接口自定义构造
std::vector<int64_t> gradOutputShape = {2, 2, 7, 7};
std::vector<int64_t> inputShape = {2, 2, 7, 7};
std::vector<int64_t> weightShape = {2, 2, 1, 1};
std::vector<int64_t> biasSize = {2};
std::vector<int64_t> stride = {1, 1};
std::vector<int64_t> padding = {0, 0};
std::vector<int64_t> dilation = {1, 1};
bool transposed = false;
std::vector<int64_t> outputPadding = {0, 0};
int groups = 1;
bool outputMask[3] = {true, true, true};
int8_t cubeMathType = 1;
std::vector<int64_t> gradInputShape = {2, 2, 7, 7};
std::vector<int64_t> gradWeightShape = {2, 2, 1, 1};
std::vector<int64_t> gradBiasShape = {2};
// 创建gradOutput aclTensor
std::vector<float> gradOutputData(GetShapeSize(gradOutputShape), 1);
aclTensor *gradOutput = nullptr;
void *gradOutputDeviceAddr = nullptr;
ret = CreateAclTensor(gradOutputData, gradOutputShape, &gradOutputDeviceAddr, aclDataType::ACL_FLOAT, &gradOutput);
std::unique_ptr<aclTensor, aclnnStatus (*)(const aclTensor *)> gradOutputTensorPtr(gradOutput, aclDestroyTensor);
std::unique_ptr<void, aclError (*)(void *)> gradOutputDeviceAddrPtr(gradOutputDeviceAddr, aclrtFree);
CHECK_FREE_RET(ret == ACL_SUCCESS, return ret);
// 创建input aclTensor
std::vector<float> inputData(GetShapeSize(inputShape), 1);
aclTensor *input = nullptr;
void *inputDeviceAddr = nullptr;
ret = CreateAclTensor(inputData, inputShape, &inputDeviceAddr, aclDataType::ACL_FLOAT, &input);
std::unique_ptr<aclTensor, aclnnStatus (*)(const aclTensor *)> inputTensorPtr(input, aclDestroyTensor);
std::unique_ptr<void, aclError (*)(void *)> inputDeviceAddrPtr(inputDeviceAddr, aclrtFree);
CHECK_FREE_RET(ret == ACL_SUCCESS, return ret);
// 创建weight aclTensor
std::vector<float> weightData(GetShapeSize(weightShape), 1);
aclTensor *weight = nullptr;
void *weightDeviceAddr = nullptr;
ret = CreateAclTensor(weightData, weightShape, &weightDeviceAddr, aclDataType::ACL_FLOAT, &weight);
std::unique_ptr<aclTensor, aclnnStatus (*)(const aclTensor *)> weightTensorPtr(weight, aclDestroyTensor);
std::unique_ptr<void, aclError (*)(void *)> weightDeviceAddrPtr(weightDeviceAddr, aclrtFree);
CHECK_FREE_RET(ret == ACL_SUCCESS, return ret);
// 创建gradInput aclTensor
std::vector<float> gradInputData(GetShapeSize(inputShape), 1);
aclTensor *gradInput = nullptr;
void *gradInputDeviceAddr = nullptr;
ret = CreateAclTensor(gradInputData, inputShape, &gradInputDeviceAddr, aclDataType::ACL_FLOAT, &gradInput);
std::unique_ptr<aclTensor, aclnnStatus (*)(const aclTensor *)> gradInputTensorPtr(gradInput, aclDestroyTensor);
std::unique_ptr<void, aclError (*)(void *)> gradInputDeviceAddrPtr(gradInputDeviceAddr, aclrtFree);
CHECK_FREE_RET(ret == ACL_SUCCESS, return ret);
// 创建gradWeight aclTensor
std::vector<float> gradWeightData(GetShapeSize(weightShape), 1);
aclTensor *gradWeight = nullptr;
void *gradWeightDeviceAddr = nullptr;
ret = CreateAclTensor(gradWeightData, weightShape, &gradWeightDeviceAddr, aclDataType::ACL_FLOAT, &gradWeight);
std::unique_ptr<aclTensor, aclnnStatus (*)(const aclTensor *)> gradWeightTensorPtr(gradWeight, aclDestroyTensor);
std::unique_ptr<void, aclError (*)(void *)> gradWeightDeviceAddrPtr(gradWeightDeviceAddr, aclrtFree);
CHECK_FREE_RET(ret == ACL_SUCCESS, return ret);
// 创建gradBias aclTensor
std::vector<float> gradBiasData(GetShapeSize(biasSize), 1);
aclTensor *gradBias = nullptr;
void *gradBiasDeviceAddr = nullptr;
ret = CreateAclTensor(gradBiasData, biasSize, &gradBiasDeviceAddr, aclDataType::ACL_FLOAT, &gradBias);
std::unique_ptr<aclTensor, aclnnStatus (*)(const aclTensor *)> gradBiasTensorPtr(gradBias, aclDestroyTensor);
std::unique_ptr<void, aclError (*)(void *)> gradBiasDeviceAddrPtr(gradBiasDeviceAddr, aclrtFree);
CHECK_FREE_RET(ret == ACL_SUCCESS, return ret);
// 创建biasSizes aclIntArray
aclIntArray *biasSizes = aclCreateIntArray(biasSize.data(), 1);
std::unique_ptr<aclIntArray, aclnnStatus (*)(const aclIntArray *)> biasSizesPtr(biasSizes, aclDestroyIntArray);
CHECK_FREE_RET(biasSizes != nullptr, return ACL_ERROR_INTERNAL_ERROR);
// 创建strides aclIntArray
aclIntArray *strides = aclCreateIntArray(stride.data(), 2);
std::unique_ptr<aclIntArray, aclnnStatus (*)(const aclIntArray *)> stridesPtr(strides, aclDestroyIntArray);
CHECK_FREE_RET(strides != nullptr, return ACL_ERROR_INTERNAL_ERROR);
// 创建pads aclIntArray
aclIntArray *pads = aclCreateIntArray(padding.data(), 2);
std::unique_ptr<aclIntArray, aclnnStatus (*)(const aclIntArray *)> padsPtr(pads, aclDestroyIntArray);
CHECK_FREE_RET(pads != nullptr, return ACL_ERROR_INTERNAL_ERROR);
// 创建dilations aclIntArray
aclIntArray *dilations = aclCreateIntArray(dilation.data(), 2);
std::unique_ptr<aclIntArray, aclnnStatus (*)(const aclIntArray *)> dilationsPtr(dilations, aclDestroyIntArray);
CHECK_FREE_RET(dilations != nullptr, return ACL_ERROR_INTERNAL_ERROR);
// 创建outputPads aclIntArray
aclIntArray *outputPads = aclCreateIntArray(outputPadding.data(), 2);
std::unique_ptr<aclIntArray, aclnnStatus (*)(const aclIntArray *)> outputPadsPtr(outputPads, aclDestroyIntArray);
CHECK_FREE_RET(outputPads != nullptr, return ACL_ERROR_INTERNAL_ERROR);
// 创建outMask aclBoolArray
aclBoolArray *outMask = aclCreateBoolArray(outputMask, 3);
std::unique_ptr<aclBoolArray, aclnnStatus (*)(const aclBoolArray *)> outMaskPtr(outMask, aclDestroyBoolArray);
CHECK_FREE_RET(outMask != nullptr, return ACL_ERROR_INTERNAL_ERROR);
// 3. 调用CANN算子库API,需要修改为具体的Api名称
uint64_t workspaceSize = 0;
aclOpExecutor *executor;
// 调用aclnnConvolutionBackwardGetWorkspaceSize第一段接口
ret = aclnnConvolutionBackwardGetWorkspaceSize(gradOutput, input, weight, biasSizes, strides, pads, dilations,
transposed, outputPads, groups, outMask, cubeMathType, gradInput,
gradWeight, gradBias, &workspaceSize, &executor);
CHECK_FREE_RET(ret == ACL_SUCCESS, LOG_PRINT("aclnnConvolutionBackwardGetWorkspaceSize failed. ERROR: %d\n", ret);
return ret);
// 根据第一段接口计算出的workspaceSize申请device内存
void *workspaceAddr = nullptr;
std::unique_ptr<void, aclError (*)(void *)> workspaceAddrPtr(nullptr, aclrtFree);
if (workspaceSize > 0) {
ret = aclrtMalloc(&workspaceAddr, workspaceSize, ACL_MEM_MALLOC_HUGE_FIRST);
CHECK_FREE_RET(ret == ACL_SUCCESS, LOG_PRINT("allocate workspace failed. ERROR: %d\n", ret); return ret);
workspaceAddrPtr.reset(workspaceAddr);
}
// 调用aclnnConvolutionBackward第二段接口
ret = aclnnConvolutionBackward(workspaceAddr, workspaceSize, executor, stream);
CHECK_FREE_RET(ret == ACL_SUCCESS, LOG_PRINT("aclnnConvolutionBackward failed. ERROR: %d\n", ret); return ret);
// 4. (固定写法)同步等待任务执行结束
ret = aclrtSynchronizeStream(stream);
CHECK_FREE_RET(ret == ACL_SUCCESS, LOG_PRINT("aclrtSynchronizeStream failed. ERROR: %d\n", ret); return ret);
// 5. 获取输出的值,将device侧内存上的结果拷贝至host侧,需要根据具体API的接口定义修改
auto size = GetShapeSize(gradInputShape);
std::vector<float> gradInputResult(size, 0);
ret = aclrtMemcpy(gradInputResult.data(), gradInputResult.size() * sizeof(gradInputResult[0]), gradInputDeviceAddr,
size * sizeof(gradInputResult[0]), ACL_MEMCPY_DEVICE_TO_HOST);
CHECK_FREE_RET(ret == ACL_SUCCESS, LOG_PRINT("copy result from device to host failed. ERROR: %d\n", ret);
return ret);
for (int64_t i = 0; i < size; i++) {
LOG_PRINT("gradInputResult[%ld] is: %f\n", i, gradInputResult[i]);
}
size = GetShapeSize(gradWeightShape);
std::vector<float> gradWeightResult(size, 0);
ret = aclrtMemcpy(gradWeightResult.data(), gradWeightResult.size() * sizeof(gradWeightResult[0]), gradWeightDeviceAddr,
size * sizeof(gradWeightResult[0]), ACL_MEMCPY_DEVICE_TO_HOST);
CHECK_FREE_RET(ret == ACL_SUCCESS, LOG_PRINT("copy result from device to host failed. ERROR: %d\n", ret);
return ret);
for (int64_t i = 0; i < size; i++) {
LOG_PRINT("gradWeightResult[%ld] is: %f\n", i, gradWeightResult[i]);
}
size = GetShapeSize(gradBiasShape);
std::vector<float> gradBiasResult(size, 0);
ret = aclrtMemcpy(gradBiasResult.data(), gradBiasResult.size() * sizeof(gradBiasResult[0]), gradBiasDeviceAddr,
size * sizeof(gradBiasResult[0]), ACL_MEMCPY_DEVICE_TO_HOST);
CHECK_FREE_RET(ret == ACL_SUCCESS, LOG_PRINT("copy result from device to host failed. ERROR: %d\n", ret);
return ret);
for (int64_t i = 0; i < size; i++) {
LOG_PRINT("gradBiasResult[%ld] is: %f\n", i, gradBiasResult[i]);
}
return ACL_SUCCESS;
}
int main()
{
// 1. (固定写法)device/stream初始化
// 根据自己的实际device填写deviceId
int32_t deviceId = 0;
aclrtStream stream;
auto ret = aclnnConvolutionBackwardTest(deviceId, stream);
CHECK_FREE_RET(ret == ACL_SUCCESS, LOG_PRINT("aclnnConvolutionBackwardTest failed. ERROR: %d\n", ret); return ret);
Finalize(deviceId, stream);
return 0;
}