Star
1347
Fork
3023
代码
介绍
代码
Issues
144
Pull Requests
534
流水线
Actions
项目讨论
Wiki
项目成员
580
分析
项目设置
Star
1347
Fork
3023
已关闭
增加moe蓝区ttk用例适配
#4546
明蕊
创建于
8月24日
关闭于
8月25日
明
明蕊
成员
8月24日
创建
8月24日
创建
描述
MoE算子:moe_gating_top_k_softmax ST用例选取文档
1.选取原则
ACLNN 模式:每个算子选取约 20 个用例(ACLNN 调用开销较大,约 2s/用例)
Kernel 模式:每个算子选取约 30 个用例(Kernel 编译+执行较快,约 0.4s/用例)
覆盖所有 dtype(float32/float16/bfloat16/int8/int32/int64)
覆盖所有关键属性组合(dropPadMode/quantMode/normType/renorm 等)
覆盖可选输入的组合(有/无 optional inputs)
优先选取小 shape 用例(减少运行时间)
排除已知精度边界用例(量化精度差异、bf16 reduction 差异等)
排除依赖算子代码修改的用例(如 moe_token_unpermute_grad active 场景)
总运行时间控制在 10 分钟以内
2.选取结果
ACLNN模式 (1个csv,20个用例)
csv文件
算子目录
选取/全量
运行时间
PASS
test_aclnn_moe_gating_top_k_softmax_arch35.csv
moe_gating_top_k_softmax
20/20
110s
20/20
Kernel 模式 (1个csv,30个用例)
csv文件
算子目录
选取/全量
运行时间
PASS
test_moe_gating_top_k_softmax_arch35.csv
moe_gating_top_k_softmax
30/350
216s
30/30
3 验证汇总
指标
值
选取用例总数
50
全量用例总数
370
PASS
50
FAIL
0
ACLNN运行时间
110s(1min50s)
Kernel运行时间
216s(3min36s)
总运行时间
317s(5min26s)
平均每用例
4s
保存
取消
明
明蕊
成员
8月24日
关联了pull request:moe_gating_top_k_softmax_st
8月24日
关联了pull request:moe_gating_top_k_softmax_st
明
明蕊
成员
8月24日
评论:
8月24日
评论:
/assign
@gcw_Lf43RugY
保存
取消
CANN-robot
成员
8月24日
将 gcw_Lf43RugY 设为负责人
8月24日
将 gcw_Lf43RugY 设为负责人
明
明蕊
成员
8月25日
修改了issue 的描述
8月25日
修改了issue 的描述
CANN-robot
成员
8月25日
关闭了 issue
8月25日
关闭了 issue
CANN-robot
成员
8月25日
添加了label:
resolved
8月25日
添加了label:
resolved
描述
MoE算子:moe_gating_top_k_softmax ST用例选取文档
1.选取原则
2.选取结果
ACLNN模式 (1个csv,20个用例)
Kernel 模式 (1个csv,30个用例)
3 验证汇总