Closed
[Bug-Report|缺陷反馈]: MaskedSoftmaxWithRelPosBias 与 foreach GEIR 样例缺陷修复 #8882
吴成文Add on  6 days agoClosed at  6 days ago
吴成文
吴成文Collaborators
6 days ago Create

问题描述

本 PR 修复以下缺陷:

  1. foreach_minimum_list GEIR 样例编译失败:样例同时包含 ops_proto_math.h 与 ops_proto_nn.h,新 CANN 中两者重复定义 GatherShapes;移除未使用的 ops_proto_nn.h。
  2. tiling 维度截断:x/mask/bias 维度超过 uint32 时被截断后继续 tiling;现读取原始维度,越界或负维直接拒绝。
  3. BW 模板大 shape 回绕:b*w 使用 32 位乘法,超过 2^32 时切分错误;改为 64 位。
  4. blockDim 截断:S1Bias/BWN/BWNS1 的 SetBlockDim 使用 32 位计算;改为 64 位。
  5. GM 偏移回绕:BWNS1/S1Bias 的全局偏移超过 2^32 元素时回绕;改为 64 位。
  6. arch35 mask/bias 未搬运:DataCopyPad 守卫未覆盖 arch35,mask/bias 搬运被编译掉;在原有守卫中补充 310。
  7. fallback 属性/传参错误:inner_precision_mode 按 int32 读取,scale 以 float 位型传给 double 形参;改为 int64 读取并显式 float→double。
  8. aclnn 示例资源泄漏:错误路径提前 return 导致 aclTensor/device 内存泄漏,aclCreateTensor 结果未检查空指针;统一清理并增加检查。
  9. GEIR 示例数据写入错误:ONES 数据把字节数当作 int32 元素个数,FLOAT16/BFLOAT16 位型错误;改为按 dtype 写入,并修正内存释放与会话清理顺序。
  10. 文档与实现不一致:修正图模式样例链接、参数类型/格式、非连续/空 tensor/数据格式约束及产品/BF16 说明。

环境信息

  • 昇腾硬件型号:Ascend 950PR/950DT
  • CANN 版本:9.3.0~weekly.20261112.01(V100R001C13B060)
  • Python 版本:3.12
  • 系统:Linux x86_64

重现步骤

  1. 构造单维超过 UINT32_MAX 的 x/mask/bias,调用 aclnn 接口或 tiling。
  2. 构造 b*w 或 GM 偏移超过 2^32 的大 shape。
  3. 在 arch35 上使用非 32B 对齐的 mask/bias。
  4. 通过 GEIR fallback 入口调用算子。
  5. 编译/运行 foreach、aclnn、GEIR 示例。

预期结果

  • 维度越界显式报错,不再截断后继续计算。
  • 大 shape 的 b*w、blockDim、GM 偏移计算正确,不发生回绕/截断。
  • arch35 上 mask/bias 参与计算。
  • fallback 正确读取 int64 属性并向 double 形参传值。
  • 样例编译、运行成功,资源正确释放。
  • 文档描述与实现一致。

日志 / 截图

  • 维度越界用例:OPTILING_FAILURE。
  • P1-02、P1-06 大 shape 用例:PASS。
  • aclnn、GEIR、foreach 示例:运行成功。
  • pre-commit:全部通过。

备注

likedislike
吴成文吴成文Collaborators
6 days ago Assign wuchengwen_oh as responsible person
吴成文吴成文Collaborators
6 days ago Change title to "[Bug-Report|缺陷反馈]: MaskedSoftmaxWithRelPosBias 与 foreach GEIR 样例缺陷修复", originally titled "fix(foreach,masked_softmax): GEIR 样例编译冲突与 MaskedSoftmax 正确性修复".
吴成文吴成文Collaborators
6 days ago Modify description of issue
yuning_chen
yuning_chenCollaborators
6 days ago Comments:

问题成立。空 Tensor 场景被误拒或跳过校验。建议:①numel()==0 且 shape 合法时放行并短路;②错误码统一 ACLNN_ERR_PARAM_INVALID;③补 N=0/H·W=0 UT。

本条要点: 问题描述

likedislike
CANN-robotCANN-robotCollaborators
6 days ago Close issue
CANN-robotCANN-robotCollaborators
6 days ago changed custom state from 待办的 to 已完成
CANN-robotCANN-robotCollaborators
6 days ago Added label: resolved