已关闭
[Bug-Report|缺陷反馈]: AscendQuant 算子未开启饱和模式 #2283
田野创建于  4月24日关闭于  4月24日
田野成员
4月24日 创建

Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.

Describe the current behavior / 问题描述 (Mandatory / 必填)

AscendQuant 算子未开启饱和模式。在训练中容易溢出产生nan

Environment / 环境信息 (Mandatory / 必填)

Ascend950

Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

使用较大数据或0输入进行量化,结果会产生inf/nan。

Describe the expected behavior / 预期结果 (Mandatory / 必填)

使用较大数据或0输入进行量化,期望结果不出现nan。

AscendQuant量化算子开启饱和模式。

Special notes for this issue/备注 (Optional / 选填)

likedislike
田田野成员
4月24日 添加了label:bug-report
田野成员
4月24日 评论:

/assign

likedislike
CANN-robotCANN-robot成员
4月24日 将 transformer910 设为负责人
CANN-robotCANN-robot成员
4月24日 关闭了 issue
CANN-robotCANN-robot成员
4月24日 添加了label:resolved