已关闭
[Documentation|文档反馈]: FA算子的readme中的参数介绍有缺失 #2301
CharmanderFang创建于  5月9日关闭于  6月24日
CharmanderFang
5月9日 创建

Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.

Document Link(文档链接)

https://gitcode.com/cann/ops-transformer/blob/master/attention/flash_attention_score/README.md

Issues Section(问题文档片段)

问题描述如下:
在readme中,仅对部分的入参做了解释了,漏掉了部分参数说明,具体漏掉的参数可以和算子原型的参数(https://gitcode.com/cann/ops-transformer/blob/master/attention/flash_attention_score/op_graph/flash_attention_score_proto.h)可以做对比。虽然在每个aclnn的资料中给出了每个aclnn接口的能力和参数说明,但是实际上算子kernel的能力是未知的,必须提供的算子原型的能力原因如下:
1、算子kernel原型能力并不是所有aclnn接口能力之和,因为在aclnn接口中可能会插入其他的算子来解决对齐、转置等场景;
2、商业场景有些通过其他引擎调用kernel,并不是直接通过aclnn(比如ONNX/AirEP->GE)

除了FA以外,其他的算子同样有类似问题,请统一处理考虑是否在开源仓补齐算子原型的详细能力(PS:HIAscend上有发布原型的资料,但是基本上处于不可用状态)

Existing Issues(存在的问题)

likedislike
CCharmanderFang
5月9日 修改了issue 的描述
huang-chuhong成员
5月9日 评论:

/assign @yu-xinjie62

likedislike
CANN-robotCANN-robot成员
5月9日 将 yu-xinjie62 设为负责人
Hhuang-chuhong成员
5月9日 关联了看板:Transformer
Yyuhao_成员
5月14日 将 huang-wei-chen 设为负责人
Yyuhao_成员
5月14日 移除了负责人 yu-xinjie62
huang-wei-chen成员
5月28日 评论:

已收到您提出的问题,确实存在部分参数说明缺失问题,我们将在近期补齐。
至于您提到的原型能力以及不同引擎的调用,在这里有具体说明,可以按需查看:https://www.hiascend.com/document/detail/zh/canncommercial/900/API/aolapi/operatorlist_00095.html

likedislike
Xxiu_ling_wang成员
6月23日 关联了pull request:补齐FlashAttentionScore算子的参数说明
CANN-robotCANN-robot成员
6月24日 关闭了 issue
CANN-robotCANN-robot成员
6月24日 添加了label:resolved