已关闭
[Bug-Report|缺陷反馈]: Fix A16W8 bias cal data type inconsistency #2631
sunlesheng创建于 5月11日关闭于 5月11日
sunlesheng
5月11日 评论:
5月11日 评论:
/assign


5月11日 将 sunlesheng 设为负责人
5月11日 关联了pull request:fix A16W8 bias
5月11日 关闭了 issue
5月12日 添加了label:resolved
/assign


Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
Describe the current behavior / 问题描述 (Mandatory / 必填)
在 A16W8 精度模式下, LoadL0Zero 函数在清零 L0A 和 L0B 缓冲区时,使用了相同的数据类型参数配置。由于 A16W8 模式下 L0A(FP16)和 L0B(INT8)的数据类型大小不同,导致 L0B 缓冲区清零时参数计算错误,引发精度异常或运行时错误。
Environment / 环境信息 (Mandatory / 必填)
昇腾硬件型号:A5
算子路径:conv/conv3d_backprop_input_v2/op_kernel/arch35/convolution_3d_backprop/impl/conv_bp_sub_func.h
精度模式:A16W8
Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)
使用 A16W8 精度模式,使用ATC工具编译om模型,编译失败报错
Describe the expected behavior / 预期结果 (Mandatory / 必填)
ATC编译onnx模型成功
Related log / screenshot / 日志 / 截图 (Mandatory / 必填)
无
Special notes for this issue/备注 (Optional / 选填)