Closed
[Bug-Report|缺陷反馈]: Lamb 系列算子空 Tensor tiling 有效长度错误及 LambNextRight 乘法顺序修正 #8853
陈思Add on  6 days agoClosed at  6 days ago
陈思
陈思Collaborators
6 days ago Create

Describe the current behavior / 问题描述

Ascend 950(arch35)下,LambNextRight、LambApplyWeightAssign、LambUpdateWithLr、LambUpdateWithLrV2 的空 Tensor 分支使用 GetRawTilingData()->GetCapacity() 作为有效 tiling data 长度,并按整个容量清零。缓冲区容量并不代表实际结构体长度。

PR #14193 描述记录:测试环境中容量为 2 MB,编译器预留 tiling 空间为 64 KB,导致 LambNextRight 空 Tensor 用例静态编译导出 tiling 结果失败。

此外,当前 PR 的 LambNextRight kernel 和 golden 差异将 v*b2 + (g*g)*(1-b2) 调整为 v*b2 + (g*(1-b2))*g;golden 注释说明该调整用于避免 g*g 提前溢出。

Environment Information / 环境信息

  • 代码路径:四个算子的 op_host/arch35/,LambNextRight 的 op_kernel/arch35/。
  • PR 记录的编包目标:ascend950。
  • PR 记录的 CANN 路径:/home/c00947812/Ascend_9.1.0/cann-9.1.0。
  • 实际硬件具体型号及 Python 版本:PR 未提供。

Steps to reproduce the issue / 重现步骤

  1. 在修复前版本构建 LambNextRight:bash build.sh --pkg --soc=ascend950 --ops=lamb_next_right --vendor_name=lamb_next_right -j8。
  2. 运行 PR 中记录的空 Tensor 用例 LambNextRight_L1_empty_highpre_028,使用 CST 静态编译路径。
  3. 检查空 Tensor 分支的 tiling 有效长度:原实现调用 SetDataSize(emptyCap),当容量为 2 MB 时,将容量作为有效长度提交,超过上述编译器预留空间。

当前 PR 补充的 UT 覆盖四个算子的 FP16/FP32、容量为 0/1/结构体长度减一/恰好结构体长度/结构体长度加 16/2 MB,以及空 tiling 对象、空数据指针场景。

Describe the expected behavior / 预期结果

  • 使用与 schMode=1 对应的 BroadcastBaseTilingData<...::OpDag> 结构体大小作为有效长度,仅清零该结构体范围。
  • 对空 tiling 对象、空数据指针和容量不足返回失败。
  • 合法空 Tensor 分支维持 blockDim=1、对应 tiling key、workspace=0。
  • LambNextRight kernel、CPU golden 和三方标杆使用一致的分步乘加顺序:v*b2 + (g*(1-b2))*g。

PR 描述记录的修复后结果(本 Issue 创建过程中未重新执行测试):

  • 用例 LambNextRight_L1_empty_highpre_028,DYN/CST,--compare=mixed --dl=1 --xpu-perf,精度、性能、确定性及内存检查均 PASS。
  • 静态编译产物 opParaSize=1472 字节。
  • PR 未附修复前完整错误日志。

Special notes for this issue / 备注

本 Issue 按 PR 当前代码差异整理。当前差异共涉及 10 个文件,包含四个算子的空 Tensor tiling 修复和边界 UT,以及 LambNextRight kernel/golden 的乘法顺序调整;PR 原描述中的“仅一个 tiling 源文件”与当前差异范围不同。

关联 PR:https://gitcode.com/cann/ops-nn/pull/14193

likedislike
陈思陈思Collaborators
6 days ago Added label: bug-report
CANN-robotCANN-robotCollaborators
6 days ago Close issue
CANN-robotCANN-robotCollaborators
6 days ago changed custom state from 待办的 to 已完成
CANN-robotCANN-robotCollaborators
5 days ago Added label: resolved