已关闭
[Bug-Report|缺陷反馈]: Fix A16W8 bias cal data type inconsistency #2631
sunlesheng创建于  5月11日关闭于  5月11日
sunlesheng
sunlesheng
5月11日 创建

Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.

Describe the current behavior / 问题描述 (Mandatory / 必填)

在 A16W8 精度模式下, LoadL0Zero 函数在清零 L0A 和 L0B 缓冲区时,使用了相同的数据类型参数配置。由于 A16W8 模式下 L0A(FP16)和 L0B(INT8)的数据类型大小不同,导致 L0B 缓冲区清零时参数计算错误,引发精度异常或运行时错误。

Environment / 环境信息 (Mandatory / 必填)

昇腾硬件型号:A5
算子路径:conv/conv3d_backprop_input_v2/op_kernel/arch35/convolution_3d_backprop/impl/conv_bp_sub_func.h
精度模式:A16W8

Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

使用 A16W8 精度模式,使用ATC工具编译om模型,编译失败报错

Describe the expected behavior / 预期结果 (Mandatory / 必填)

ATC编译onnx模型成功

Special notes for this issue/备注 (Optional / 选填)

likedislike
sunlesheng
sunlesheng
5月11日 评论:

/assign

likedislike
CANN-robotCANN-robot成员
5月11日 将 sunlesheng 设为负责人
sunleshengsunlesheng
5月11日 关联了pull request:fix A16W8 bias
CANN-robotCANN-robot成员
5月11日 关闭了 issue
CANN-robotCANN-robot成员
5月12日 添加了label:resolved