Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
AscendQuant 算子未开启饱和模式。在训练中容易溢出产生nan
Ascend950
使用较大数据或0输入进行量化,结果会产生inf/nan。
使用较大数据或0输入进行量化,期望结果不出现nan。
AscendQuant量化算子开启饱和模式。
/assign
Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
Describe the current behavior / 问题描述 (Mandatory / 必填)
AscendQuant 算子未开启饱和模式。在训练中容易溢出产生nan
Environment / 环境信息 (Mandatory / 必填)
Ascend950
Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)
使用较大数据或0输入进行量化,结果会产生inf/nan。
Describe the expected behavior / 预期结果 (Mandatory / 必填)
使用较大数据或0输入进行量化,期望结果不出现nan。
Related log / screenshot / 日志 / 截图 (Mandatory / 必填)
AscendQuant量化算子开启饱和模式。
Special notes for this issue/备注 (Optional / 选填)