已关闭
[Bug-Report|缺陷反馈]: QuantMatmulActivationQuant算子fp4精度问题 #5881
yuechenyao_huawei创建于  9 天前关闭于  5 天前
yuechenyao_huawei成员
9 天前 创建

Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.

Describe the current behavior / 问题描述 (Mandatory / 必填)

调用QuantMatmulActivationQuant算子,fp4场景,传入scale_alg=2,dstTypeMax=8.0时存在精度问题

Environment Information / 环境信息 (Mandatory / 必填)

Ascend 950

Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

调用QuantMatmulActivationQuant算子,fp4场景传入scale_alg=2,dstTypeMax=8.0,精度存在问题

Describe the expected behavior / 预期结果 (Mandatory / 必填)

和cpu,npu小算子精度一致

无

Special notes for this issue/备注 (Optional / 选填)

likedislike
Yyuechenyao_huawei成员
9 天前 添加了label:bug-report
yuning_chenyuning_chen成员
9 天前 将 yuechenyao_huawei 设为负责人
CANN-robotCANN-robot成员
5 天前 关闭了 issue
Yyuechenyao_huawei成员
5 天前 关联了pull request:fix QuantMatmulActivationQuant precision and doc bug
CANN-robotCANN-robot成员
1 天前 添加了label:resolved