已关闭
[Bug-Report|缺陷反馈]: deformable_offsets算子未支持到int64范围 #1094
chenfeng创建于 2月24日关闭于 2月25日
jiangjiawei
2月24日 评论:
2月24日 评论:
/assign @chenfeng61


2月24日 将 chenfeng61 设为负责人
chenfeng
2月25日 评论:
2月25日 评论:
/assign


CANN-robot
2月25日 评论:
2月25日 评论:
2月25日 issue状态由 进行中 改变为 已完成
2月25日 关闭了 issue
2月25日 添加了label:Accepted
3月20日 添加了label:resolved
Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
Describe the current behavior / 问题描述 (Mandatory / 必填)
deformable_offsets算子的tilingdata以及kernel侧的offset不是用int64计算,这样如果shape乘积超过int32,就会存在精度等问题,需修正。
同时simt算子要保证原有的性能不下降,故需要按照int32和int64用模板参数区分开
Environment / 环境信息 (Mandatory / 必填)
arch3510
Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)
shape乘积超过int32
Describe the expected behavior / 预期结果 (Mandatory / 必填)
结果正确
Related log / screenshot / 日志 / 截图 (Mandatory / 必填)
排查整改任务排查出的问题
Special notes for this issue/备注 (Optional / 选填)