已关闭
[Bug-Report|缺陷反馈]: QuantMatmulActivationQuant算子fp4精度问题 #5881
yuechenyao_huawei创建于 9 天前关闭于 5 天前
9 天前 添加了label:bug-report
9 天前 将 yuechenyao_huawei 设为负责人
5 天前 关闭了 issue
5 天前 关联了pull request:fix QuantMatmulActivationQuant precision and doc bug
1 天前 添加了label:resolved
Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
Describe the current behavior / 问题描述 (Mandatory / 必填)
调用QuantMatmulActivationQuant算子,fp4场景,传入scale_alg=2,dstTypeMax=8.0时存在精度问题
Environment Information / 环境信息 (Mandatory / 必填)
Ascend 950
Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)
调用QuantMatmulActivationQuant算子,fp4场景传入scale_alg=2,dstTypeMax=8.0,精度存在问题
Describe the expected behavior / 预期结果 (Mandatory / 必填)
和cpu,npu小算子精度一致
Related log / screenshot / 日志 / 截图 (Mandatory / 必填)
无
Special notes for this issue/备注 (Optional / 选填)