已关闭
[Bug-Report] swin_attention_ffn: README功能说明与实际代码严重不符 #2667
daishuangshuang创建于 5月26日关闭于 6月3日
5月26日 修改了issue 的描述
huang-chuhong
5月26日 评论:
5月26日 评论:
/assign @yolic


5月26日 将 yolic 设为负责人
5月26日 issue类型由 任务 改变为 缺陷
yuning_chen
5月27日 评论:
5月27日 评论:
您好,感谢您的关注,问题尽快修改合入


6月3日 关闭了 issue
6月3日 添加了label:resolved
6月8日 issue状态由 待办的 改变为 已完成
6月8日 添加了label:Accepted
一、问题描述(必填)
swin_attention_ffn算子的 README.md 中「功能说明」章节描述的算子功能与实际代码实现严重不符:y = x1 * x2 + bias + x3(BatchMatmul + bias + 残差加法),仅支持 float16 类型文档描述的 FlashAttention、sparse、actualSeqLengthsKv、int8 量化等功能在代码中均未实现。
二、问题位置
ffn/swin_attention_ffn/README.md三、问题代码
- 算子功能:全量推理场景的FlashAttention算子,支持sparse优化、支持actualSeqLengthsKv优化、支持int8量化功能,支持高精度或者高性能模式选择。而实际计算公式(README 第 57 行)为:
四、修复建议
将功能说明修改为与实际实现一致:
- 算子功能:全量推理场景的 BatchMatmul + Bias + Residual Add 算子,将输入 x1 与 x2 做矩阵乘法,加上 bias 偏置后与 x3 做残差加法,输出最终结果。仅支持 float16 数据类型。五、影响范围
文档错误会严重误导使用者,需要立即修正。