Open
[确定性性能] flash_attention_grad:网络用例确定性/非确定性性能对比 #567
Alice_zhouAdd on  2 days ago
Alice_zhouCollaborators
2 days ago Create

背景

  • 目标算子:flash_attention(前向+反向网络用例)。
  • 网络用例文件:FlashAttentionScore_9582.xlsx(Network_Real_case_* + FlashAttention_network_x1_*)。
  • 执行设备:device 0;执行方式:det/nondet 成对执行。

关键指标

  • 总对数:76
  • 有效对数:60
  • 平均劣化:16.24%
  • 最高劣化:93.26%
  • 最低劣化:-5.38%
  • 严重劣化(>10%):37/60
  • 失败/无效:60 个有效 backward 对;16 对 Actual_backward_kernel_time=-1(反向未测到)。

网络用例结果(有效对 Top 10)

用例 网络 det nondet 劣化%
Network_Real_case_0013 TOPAB 6,375.40 3,298.90 +93.26%
FlashAttention_network_x1_029 SDXL 104.66 64.48 +62.32%
FlashAttention_network_x1_048 SDXL 105.51 65.34 +61.47%
Network_Real_case_0028 TOPAB 4,802.53 3,314.05 +44.91%
FlashAttention_network_x1_018 SDXL 156.56 115.61 +35.42%
FlashAttention_network_x1_027 SDXL 157.91 116.93 +35.05%
FlashAttention_network_x1_016 SDXL 158.84 117.73 +34.91%
FlashAttention_network_x1_023 SDXL 149.32 111.20 +34.28%
FlashAttention_network_x1_012 SDXL 153.03 115.04 +33.02%
FlashAttention_network_x1_008 SDXL 157.40 119.35 +31.88%

分析

  1. backward 有效配对 60 个,平均 +16.24%,最高 +93.26%,37/60 >10%。
  2. forward 有效配对 60 个,平均仅 +0.25%,最高 +2.88%,说明确定性开销主要在反向。
  3. 16 对反向时间为 -1,需确认是否为 forward-only 用例或采集问题。

执行步骤

cd <WORKDIR>/TuringBigKernel/FusionOp_Test
export PATH=<CONDA_BIN>:$PATH
source activate <CONDA_ENV>
source <CANN_TOOLKIT>/set_env.sh
python3 dailyauto_fusion_david_fast.py \
  --timeout=1800 \
  --casefile=<CASE_DIR>/FlashAttentionScore_9582.xlsx \
  --runtype=2 --deviceid=<DEVICE_ID> --need_lock_freq=False \
  --sheetname=Sheet1 --ti=0-152

附件

备注/限制

  • 指标为 profiler 采集的 Actual_backward_kernel_time;路径使用占位符。

原有 FAG 代表性用例(保留)

  • FlashAttentionv3_case_190(X1-hunyuan):315.75 → 319.08,+1.06%
  • FlashAttentionv3_case_906(animatediff):119.30 → 112.22,-5.94%
likedislike
AAlice_zhouCollaborators
2 days ago Modify description of issue
AAlice_zhouCollaborators
2 days ago Modify description of issue
AAlice_zhouCollaborators
2 days ago Modify description of issue
AAlice_zhouCollaborators
1 day ago Modify description of issue