已关闭
OffsetCalculatorImpl增加模板参数,解决actualSeq为int32类型时的取值错误 #1742
yxc1006创建于  4月8日关闭于  4月8日
yxc1006
yxc1006成员
4月8日 创建

actuaSeq从GM取值,dtype需要和def里定义的一致。内存里数据按int32存,common按int64读,会取到高32位的脏数据。不能保证高32位是否是0,可能取到极大值导致越界访问导致整网卡死;因此在OffsetCalculatorImpl增加模板参数,解决actualSeq为int32类型时的取值错误。

likedislike
Hhuang-chuhong成员
4月8日 将 yxc1006 设为负责人
CANN-robotCANN-robot成员
4月8日 关闭了 issue
CANN-robotCANN-robot成员
4月8日 添加了label:resolved