已关闭
[Documentation|文档反馈]: 补充aclnnFusedInferAttentionScoreV5.md关于pScale的描述 #1845
eddie-han-dong创建于  4月14日关闭于  4月15日
eddie-han-dong
4月14日 创建

Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.

Document Link(文档链接)

https://gitcode.com/cann/ops-transformer/blob/master/attention/fused_infer_attention_score/docs/aclnnFusedInferAttentionScoreV5.md

Issues Section(问题文档片段)

  • query、key、value 的dtype为FLOAT8_E4M3FN时,quantScale1的取值范围满足值[1,448];query、key、value 的dtype为HIFLOAT8时,quantScale1的取值范围满足值[1,32768]

Existing Issues(存在的问题)

未写明超出范围的影响

likedislike
Hhuang-chuhong成员
4月14日 将 eddie-han-dong 设为负责人
CANN-robotCANN-robot成员
4月15日 关闭了 issue
CANN-robotCANN-robot成员
4月15日 添加了label:resolved