已关闭
[Bug-Report|缺陷反馈]: deformable_offsets算子未支持到int64范围 #1094
chenfeng创建于  2月24日关闭于  2月25日
chenfeng
chenfeng成员
2月24日 创建

Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.

Describe the current behavior / 问题描述 (Mandatory / 必填)

deformable_offsets算子的tilingdata以及kernel侧的offset不是用int64计算,这样如果shape乘积超过int32,就会存在精度等问题,需修正。
同时simt算子要保证原有的性能不下降,故需要按照int32和int64用模板参数区分开

Environment / 环境信息 (Mandatory / 必填)

arch3510

Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

shape乘积超过int32

Describe the expected behavior / 预期结果 (Mandatory / 必填)

结果正确

排查整改任务排查出的问题

Special notes for this issue/备注 (Optional / 选填)

likedislike
jiangjiawei成员
2月24日 评论:

/assign @chenfeng61

likedislike
CANN-robotCANN-robot成员
2月24日 将 chenfeng61 设为负责人
chenfeng
chenfeng成员
2月25日 评论:

/assign

likedislike
CANN-robot
CANN-robot成员
2月25日 评论:

Notice

This issue is already assigned to chenfeng61. Please do not assign repeatedly.

likedislike
chenfengchenfeng成员
2月25日 issue状态由 进行中 改变为 已完成
chenfengchenfeng成员
2月25日 关闭了 issue
CANN-robotCANN-robot成员
2月25日 添加了label:Accepted
CANN-robotCANN-robot成员
3月20日 添加了label:resolved