已关闭
foreach: AddScalarV2/SubListV2/Exp/Expm1算子整型语义对齐 PyTorch实现 #5618
Tian_1122创建于  19 天前关闭于  18 天前
Tian_1122
Tian_1122
19 天前 创建

int16/int8/uint8 新增类型下, AddScalarV2/SubListV2 整数溢出饱和钳位(竞品为二进制补码回绕);Exp/Expm1 整进整出+rint取整+饱和钳位(竞品整进浮出fp32+IEEE饱和), 常规取值即有差异(如 uint8 exp(3)=20 vs 20.085)。
修复:

  1. AddScalarV2/SubListV2: 参照 !9151(AddListV2) 方案, 新增各自私有 wrap kernel —int16 域直接计算(硬件原生模2^16回绕), int8/uint8 经half提升int16精算后位掩码折叠低8位
  2. Exp/Expm1: 新增公共模板 foreach_utils/op_kernel/foreach_int_to_float_unary.h(骨架+函数指针复用),整数输入提升fp32计算后直写float32输出
likedislike
yuning_chenyuning_chen成员
19 天前 将 Tian_1122 设为负责人
CANN-robotCANN-robot成员
18 天前 关闭了 issue
CANN-robotCANN-robot成员
18 天前 添加了label:resolved