norm 系算子(add_rms_norm_hi_f4_quant、rms_norm_hi_f4_quant、batch_norm_grad_v3、rms_norm_dynamic_mx_quant)代码存在编码规范问题:kernel/tiling 中的魔法数字(裸 2/16/8/32、硬编码 sysRegLen_ = 256)、lambda [&] 隐式捕获、GetCompileInfo() 转换使用 reinterpret_cast。
add_rms_norm_hi_f4_quant
rms_norm_hi_f4_quant
batch_norm_grad_v3
rms_norm_dynamic_mx_quant
2
16
8
32
sysRegLen_ = 256
[&]
GetCompileInfo()
reinterpret_cast
HIF4_MAX_PER4_ELEMENTS_PER_GROUP
sysRegLen_
VECTOR_LENGTH
HIF4_*
TWO
PACKED_GROUP_GROWTH_FACTOR
FINAL_REDUCTION_ROWS
platform::GetVRegSize()
static_cast
关联 PR:https://gitcode.com/cann/ops-nn/pull/12931
一、背景信息
norm 系算子(
add_rms_norm_hi_f4_quant、rms_norm_hi_f4_quant、batch_norm_grad_v3、rms_norm_dynamic_mx_quant)代码存在编码规范问题:kernel/tiling 中的魔法数字(裸2/16/8/32、硬编码sysRegLen_ = 256)、lambda[&]隐式捕获、GetCompileInfo()转换使用reinterpret_cast。二、价值/作用
HIF4_MAX_PER4_ELEMENTS_PER_GROUP),修改有单一出处sysRegLen_改为VECTOR_LENGTH运行时派生,消除对寄存器长度的硬编码假设三、设计方案
HIF4_*系列、TWO、PACKED_GROUP_GROWTH_FACTOR、FINAL_REDUCTION_ROWS等);sysRegLen_ = 256改为VECTOR_LENGTH(platform::GetVRegSize()派生);[&]隐式捕获改为显式捕获列表;reinterpret_cast改为static_cast。关联 PR:https://gitcode.com/cann/ops-nn/pull/12931