已关闭
[Bug]: DSA在dense阶段+TND排布时，计算attention时采取了BSND作为规避 #2290
wei_zhuoyi创建于 5月26日关闭于 6月18日
5月26日 添加了label：bug
5月26日 添加了label：bug
5月26日 关联分支 由 [] 改变为 [master]
5月26日 关联组件 由 [] 改变为 [B-SIG-MindFormers-Train]
5月26日 问题后端类型 由 [] 改变为 [Ascend]
wei_zhuoyi
6月18日 评论：
6月18日 评论：
Appearance & Root Cause
问题：tnd使用的bsnd+eod规避
根因：
1、FA算子输出的softmax格式不对
Fix Solution
1、实现排布转化
Fix Description & Test Suggestion
https://gitcode.com/mindspore/mindformers/pull/8288
Self-test Report & DT Review
新旧实现对比，8层网络，使用纯pp并行
新实现泛化，纯pp与dp=tp=cp=pp=2
是否需要补充 ST/UT：否 如果选择否，请补充理由
原因：非基本功能问题
Introduction Analysis
引入类型：特性合入引入
问题是否偶现：否
6月18日 issue状态由 TODO 改变为 ACCEPTED
6月18日 issue状态由 ACCEPTED 改变为 WIP
6月18日 issue状态由 WIP 改变为 VALIDATION
6月18日 issue状态由 VALIDATION 改变为 DONE
6月18日 关闭了 issue
Checklist
🐞 问题详细描述
FA算子输出项softmax_max与softmax_sum在数据形式上不符合要求，导致dsa无法直接使用TND排布的FA的输出
详细的环境信息描述
NA
其他辅助信息
NA
版本信息
NA
Thanks for contributing 🎉!