已关闭
[Bug-Report|缺陷反馈]: 解决conv2d算子dma部分场景精度问题 #1934
demon_coffee创建于  4月3日关闭于  4月3日
demon_coffee
demon_coffee
4月3日 创建

Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.

Describe the current behavior / 问题描述 (Mandatory / 必填)

当cin存在tail时,Gm2Ub的搬运过程中,错误判断当前cinItear未非tail情况,导致src计算错误

Environment / 环境信息 (Mandatory / 必填)

Ascend950

Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

fmap(1, 3, 32, 32)weight(3, 1, 32, 32)padding(0, 0, 0, 0)stride(1, 1, 64, 64)
dtype: float16
format: NCHW

Describe the expected behavior / 预期结果 (Mandatory / 必填)

用例精度通过

output结果存在nan情况

Special notes for this issue/备注 (Optional / 选填)

likedislike
demon_coffeedemon_coffee
4月3日 添加了label:bug-report
CANN-robotCANN-robot成员
4月3日 关闭了 issue
CANN-robotCANN-robot成员
4月3日 添加了label:resolved
demon_coffeedemon_coffee
4月7日 关联了pull request:fix conv2dv2 dma scene error when cin is always tail