Open
[确定性性能] sparse_flash_mla_softmax_l1_norm:网络用例执行结果与分析 #574
Alice_zhouAdd on  1 day ago
Alice_zhouCollaborators
1 day ago Create

背景

  • 目标算子:sparse_flash_mla_softmax_l1_norm。
  • 网络用例文件:sparse_flash_mla_softmax_l1_norm_network_9582.xlsx。
  • 执行设备:device 0;执行方式:det/nondet 成对执行。

关键指标

  • 总对数:12
  • 有效对数:0
  • 平均劣化:-
  • 最高劣化:-
  • 最低劣化:-
  • 严重劣化(>10%):0/0
  • 失败/无效:24/24 执行成功,deterministic_check=Pass;但 Actual_backward_kernel_time 22/24 为 -1,无完整配对。

网络用例结果(有效对 Top 10)

用例 网络 det nondet 劣化%
暂无有效 kernel 时间配对 - - - -

分析

  1. 网络用例全部执行成功,但 kernel 时间大多未采集到(-1),无法形成有效 det/nondet 对比。
  2. Actual_metadata_time 大多 108–124ms;首条 det 34.8s 为异常值,需排查。
  3. 建议先修复该算子的 kernel time 采集,再重新执行确定性性能对比。

执行步骤

cd <WORKDIR>/TuringBigKernel/FusionOp_Test
export PATH=<CONDA_BIN>:$PATH
source activate <CONDA_ENV>
source <CANN_TOOLKIT>/set_env.sh
python3 dailyauto_fusion_david_fast.py \
  --timeout=1800 \
  --casefile=<CASE_DIR>/sparse_flash_mla_softmax_l1_norm_network_9582.xlsx \
  --runtype=2 --deviceid=<DEVICE_ID> --need_lock_freq=False \
  --sheetname=Sheet1 --ti=0-24

附件

备注/限制

  • 指标为 profiler 采集的 Actual_backward_kernel_time;路径使用占位符。
likedislike