已关闭
[Bug-Report|缺陷反馈]: RotateQuant算子在subnormal numbers范围存在精度问题 #3757
yushan-kite创建于  7月1日关闭于  7月2日
yushan-kite成员
7月1日 创建

Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.

Describe the current behavior / 问题描述 (Mandatory / 必填)

输入数据范围在sunnormal numbers的时候,RotateQuant算子存在精度问题。

Environment / 环境信息 (Mandatory / 必填)

950

Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

输入数据为e-38范围时精度存在问题。

Describe the expected behavior / 预期结果 (Mandatory / 必填)

在subnormal numbers也能精度正确

失败截图.png

Special notes for this issue/备注 (Optional / 选填)

likedislike
Yyushan-kite成员
7月1日 添加了label:bug-report
yushan-kite成员
7月1日 评论:

/assigin

likedislike
Yyushan-kite成员
7月1日 将 yushan-kite 设为负责人
CANN-robotCANN-robot成员
7月2日 关闭了 issue
CANN-robotCANN-robot成员
7月2日 添加了label:resolved