已关闭
增加moe蓝区ttk用例适配 #4546
明蕊创建于  8月24日关闭于  8月25日
明蕊成员
8月24日 创建

描述

MoE算子:moe_gating_top_k_softmax ST用例选取文档

1.选取原则

  • ACLNN 模式:每个算子选取约 20 个用例(ACLNN 调用开销较大,约 2s/用例)
  • Kernel 模式:每个算子选取约 30 个用例(Kernel 编译+执行较快,约 0.4s/用例)
  • 覆盖所有 dtype(float32/float16/bfloat16/int8/int32/int64)
  • 覆盖所有关键属性组合(dropPadMode/quantMode/normType/renorm 等)
  • 覆盖可选输入的组合(有/无 optional inputs)
  • 优先选取小 shape 用例(减少运行时间)
  • 排除已知精度边界用例(量化精度差异、bf16 reduction 差异等)
  • 排除依赖算子代码修改的用例(如 moe_token_unpermute_grad active 场景)
  • 总运行时间控制在 10 分钟以内

2.选取结果

ACLNN模式 (1个csv,20个用例)

csv文件 算子目录 选取/全量 运行时间 PASS
test_aclnn_moe_gating_top_k_softmax_arch35.csv moe_gating_top_k_softmax 20/20 110s 20/20

Kernel 模式 (1个csv,30个用例)

csv文件 算子目录 选取/全量 运行时间 PASS
test_moe_gating_top_k_softmax_arch35.csv moe_gating_top_k_softmax 30/350 216s 30/30

3 验证汇总

指标 值
选取用例总数 50
全量用例总数 370
PASS 50
FAIL 0
ACLNN运行时间 110s(1min50s)
Kernel运行时间 216s(3min36s)
总运行时间 317s(5min26s)
平均每用例 4s
likedislike
明明蕊成员
8月24日 关联了pull request:moe_gating_top_k_softmax_st
明蕊成员
8月24日 评论:

/assign @gcw_Lf43RugY

likedislike
CANN-robotCANN-robot成员
8月24日 将 gcw_Lf43RugY 设为负责人
明明蕊成员
8月25日 修改了issue 的描述
CANN-robotCANN-robot成员
8月25日 关闭了 issue
CANN-robotCANN-robot成员
8月25日 添加了label:resolved