已关闭
[Documentation|文档反馈]: FA算子的readme中的参数介绍有缺失 #2301
CharmanderFang创建于 5月9日关闭于 6月24日
5月9日 修改了issue 的描述
huang-chuhong
5月9日 评论:
5月9日 评论:
/assign @yu-xinjie62


5月9日 将 yu-xinjie62 设为负责人
5月9日 关联了看板:Transformer
huang-wei-chen
5月28日 评论:
5月28日 评论:
已收到您提出的问题,确实存在部分参数说明缺失问题,我们将在近期补齐。
至于您提到的原型能力以及不同引擎的调用,在这里有具体说明,可以按需查看:https://www.hiascend.com/document/detail/zh/canncommercial/900/API/aolapi/operatorlist_00095.html


6月23日 关联了pull request:补齐FlashAttentionScore算子的参数说明
6月24日 关闭了 issue
6月24日 添加了label:resolved
Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
Document Link(文档链接)
https://gitcode.com/cann/ops-transformer/blob/master/attention/flash_attention_score/README.md
Issues Section(问题文档片段)
问题描述如下:
在readme中,仅对部分的入参做了解释了,漏掉了部分参数说明,具体漏掉的参数可以和算子原型的参数(https://gitcode.com/cann/ops-transformer/blob/master/attention/flash_attention_score/op_graph/flash_attention_score_proto.h)可以做对比。虽然在每个aclnn的资料中给出了每个aclnn接口的能力和参数说明,但是实际上算子kernel的能力是未知的,必须提供的算子原型的能力原因如下:
1、算子kernel原型能力并不是所有aclnn接口能力之和,因为在aclnn接口中可能会插入其他的算子来解决对齐、转置等场景;
2、商业场景有些通过其他引擎调用kernel,并不是直接通过aclnn(比如ONNX/AirEP->GE)
除了FA以外,其他的算子同样有类似问题,请统一处理考虑是否在开源仓补齐算子原型的详细能力(PS:HIAscend上有发布原型的资料,但是基本上处于不可用状态)
Existing Issues(存在的问题)