已关闭
SwigluBackwardMxQuantWithDualAxis (SwigluMxBackwardQuantWithDualAxis)算子支持960dt #7062
oah_o创建于  16 天前关闭于  15 天前
oah_o
oah_o成员
16 天前 创建

本变更为 SwigluBackwardMxQuantWithDualAxis(SwiGLU 反向 MX 量化双轴算子)增加 ascend960dt(v121)硬件平台支持。核心改动是在算子定义、编译配置与二进制配置中注册 ascend960dt,并新增该平台对应的算子二进制接口描述配置,覆盖多种输入/输出数据类型组合。

主要改动

新增 ascend960dt 平台二进制配置: 新增 swiglu_backward_mx_quant_with_dual_axis_binary.json,定义 8 个 bin_filename(如 SwigluBackwardMxQuantWithDualAxis_bf16toe4m3、_fp16toe2m1、_bf16toe5m2 等),输入 x/y_grad(bfloat16 或 float16)、可选 group_index(int64),输出 y1_out/y2_out(float8_e4m3fn、float4_e2m1、float4_e1m2、float8_e5m2)与 mxscale1_out/mxscale2_out(float8_e8m0),并声明 dst_dtype、scale_alg、round_mode、activate_left、max_dtype_value 等属性。

新增简化 Key 配置: 新增 swiglu_backward_mx_quant_with_dual_axis_simplified_key.ini,为 [SwigluBackwardMxQuantWithDualAxis] 设置 default=0。

算子定义注册新平台: 在 swiglu_backward_mx_quant_with_dual_axis_def.cpp 中通过 this->AICore().AddConfig("ascend960dt", aicoreConfig) 为算子新增 ascend960dt 配置。

编译配置纳入新平台: 在 scripts/kernel/binary_config/ascendc_config.json 中新增 SwigluBackwardMxQuantWithDualAxis 条目,compute_units 包含 ascend950 与 ascend960dt,并为 ascend960dt 配置 --cce-no-dcache-flush 编译选项。

likedislike
oah_o
oah_o成员
16 天前 评论:

/assign

likedislike
CANN-robotCANN-robot成员
16 天前 将 oah28 设为负责人
oah_ooah_o成员
16 天前 关联了pull request:sbmqwda support v121
CANN-robotCANN-robot成员
15 天前 关闭了 issue
CANN-robotCANN-robot成员
15 天前 添加了label:resolved