Closed
ForeachSin arch35 tiling 无输入校验致混合 dtype 列表输出越界写,另含溢出哨兵/aclnn 出参判空/const 及资料口径问题 #7809
xuejinghuiAdd on  21 days agoClosed at  21 days ago
xuejinghui
xuejinghuiCollaborators
21 days ago Create

问题描述

ForeachSin(arch35 / ascend950 交付)经 950 全流程验证(静态检查 + 上板实测)确认以下问题,均已定位修复:

1. arch35 tiling 无输入校验,混合 dtype 列表输出越界写(内存安全,P1)

op_host/arch35/foreach_sin_tiling.cpp 仅在 tensorNum > 0 时读取动态输入实例 (0,0) 的 dtype 生成 TilingKey(:67-72、:103-114),循环只取 shape,全链无任何"列表内 dtype 一致性"校验。混合 dtype 列表(各成员均在 {FLOAT16, FLOAT, BF16} 白名单内,README 声明"所有 Tensor 数据类型保持一致")经图模式通路(GEIR/Kernel 直连路由,torchair 转换器透传不检查)整体送入 kernel 后,以实例 0 的 dtype 单一模板处理全部 tensor(op_kernel/arch35/foreach_sin.cpp:31-37 → foreach_sin_simt.h 以编译期固定 T 读写):成员 0 为 float32、成员 1 为 bfloat16 时,成员 1 及其输出按 4 字节步长访问 2 字节缓冲,物理读写量达分配大小 2 倍。

上板实测:x = [float32 (147,3,104), bfloat16 (16135,2,2)],Const/Dynamic/Release Binary 三执行模式均被接受执行,输出成员 1 越界写:"The 1th output memory out of bound"(memory_oob FAIL)。aclnn 通路有逐项 dtype 校验(161002 拒绝),kernel/GEIR 直连路由无防护。

2. GetShapeSize 溢出哨兵 INT64_MIN 未拦截,进入 kernel 形成巨大无符号循环上界(P1)

gert::Shape::GetShapeSize() 维度乘积溢出 int64 时返回哨兵 kInvalidDimValue = INT64_MIN(负值)。tiling 将其原样写入 tensorElements[i](无非负校验);kernel 仅跳过 count == 0,负值经 static_cast<uint64_t> 变为 9.2e18 循环上界 → 无界读写。构造仅需元数据(如 dims=[2^62, 2]),无需物化存储。API 层 CheckShape 只查 rank≤8 与 x/out 相等,无维值上限校验。

3. 张量数量校验晚于 int32 窄化(P1)

int32_t tensorNum = static_cast<int32_t>(GetInstanceNum()) 之后才检查 > 256;GetInstanceNum 返回 size_t,≥2^32 时窄化回绕可能变成小正数绕过检查,越过 tiling data 定长数组 tensorElements[256]。

4. aclnn 第一段接口出参未判空(P1)

aclnnForeachSinGetWorkspaceSize 在未校验 workspaceSize/executor 非空的情况下直接解引用写入(空输入列表早退路径同样命中);仓内标准宏 OP_CHECK_COMM_INPUT(142 个 aclnn 实现在用)未被使用。

5. aclnn 头文件 out 参数缺 const(P1)

aclnn_foreach_sin.h 第一段接口声明 aclTensorList* out(非 const),与基线公开原型(canndev 中英文资料均 const aclTensorList* out)及自身接口文档原型不一致;按基线原型持有 const 指针的存量调用方无法直接传参(非法隐式转换,编译失败)。

6. 资料口径与实现不符(P2)

  • op_graph/foreach_sin_proto.h:21/:26 注册注释把正弦算子误写为 cos("Apply cos operation...the cos value of the x");
  • 接口文档错误码表将"x与out的shape不满足约束""dtype 不一致""维度超过 8 维"三行映射 561002,实测均发生在第一段参数校验并返回 161002(上板 L2 异常 5 例实测为证);
  • README/接口文档声明 out "shape size 大于等于入参 x",实现为逐 Tensor shape 严格相等(OP_CHECK_SHAPE_NOT_EQUAL 强等),按文档构造元素数更多的 out 被拒绝;
  • TensorList 数量约束未声明:x 与 out 长度必须一致、单列表 ≤256(arch35 tiling 定长容量)、空列表 no-op。

7. 样例失败路径资源泄漏(P2)

examples/test_aclnn_foreach_sin.cpp 仅在成功路径释放资源,任一 CHECK_RET 提前 return 时已申请的 device 内存/TensorList/stream/上下文均不释放。

8. arch35 tiling UT include 笔误致其从未参与编译(P2,本次顺带修复)

该 UT 写的是 kernel_run_context_faker.h,仓内实际为 kernel_run_context_facker.h——凡触发 arch35 UT 编译的门禁必失败;此前该文件从未被选中编译(历次"ophost UT 5/5"实为 arch22(2)+infershape(2)+opapi(1))。

环境信息

ops-nn master(2026-10-30 复核全部仍在);Ascend 950PR;CANN 9.3.0(npu-smi 25.7.rc1.10)

重现步骤

# 问题1:混合 dtype 越界写(需 kernel/GEIR 图模式路由;torch eager 经 aclnn 校验返回 161002 不复现)
# 上板用例(TTK kernel 路由,约束违反用例,必现):
x = [torch.randn(147, 3, 104, dtype=torch.float32), torch.randn(16135, 2, 2, dtype=torch.bfloat16)]
# 图模式提交 ForeachSin(x) → 三执行模式均接受执行,输出成员 1 memory out of bound
// 问题4:出参未判空(必现,段错误)
uint64_t ws = 0;
aclnnForeachSinGetWorkspaceSize(xList, outList, nullptr, nullptr);   // 空指针解引用
// 空列表早退路径同样命中:xList->Size()==0 时 *workspaceSize = 0 直接解引用
// 问题5:out const 失配(编译期必现)
const aclTensorList* out = MakeOutList(...);
aclnnForeachSinGetWorkspaceSize(x, out, &ws, &exec);   // const → 非 const 非法隐式转换,编译失败

问题 2:构造 dims=[4611686018427387904, 2] 的输入元数据(仅元数据,无需真实内存)→ tiling 接受 → kernel 循环上界 static_cast<uint64_t>(INT64_MIN)。问题 3/6/7/8 为源码级确认(行号见上)。

根因分析

  • 问题 1-3:arch35 tiling 为独立实现,未带家族校验(对比:A2/A3 共享 tiling 的 ForeachCommonTiling::Init 有逐 tensor dtype 校验;aclnn 层 CheckDtypeValid 有逐项校验;唯独 arch35 tiling 只读实例 0);
  • 问题 4-5:手写两段式接口未对齐仓内标准写法(OP_CHECK_COMM_INPUT/const 契约);
  • 问题 6-7:资料与样例生成时未与实现同步(cos 为模板笔误)。

修复方案

对齐上游 fc40bf74c(foreach_neg/sign/tanh)与 30da3abee(foreach_abs/asin/exp)的 ValidateForeachXxx 家族范式:

  • arch35 tiling:数量校验移至 int32 窄化前(uint64_t instanceNum 直接比对 ≤256);新增 ValidateForeachSin 逐实例校验——x/y 数量配对、desc/shape 非空、维度 ≤8、GetShapeSize() < 0 拒绝(拦截溢出哨兵)、dtype 白名单、列表内 dtype 一致性、y dtype 与 x 一致、y 与对应位置 x 的 shape 严格相等;空列表 no-op 成功(与 aclnn 口径一致)。校验日志用 OP_LOGE_FOR_INVALID_* 系列预定义错误码宏。合法输入行为零变化(只加校验不改流程)。
  • aclnn:公开入口补 OP_CHECK_COMM_INPUT(workspaceSize, executor);头文件/实现 out 参数补 const(内部函数本就是 const)。
  • 资料:proto 注释 cos→sin;错误码表三类改 161002 并补数量不一致、列表内空指针两行(256 上限按 561002 声明);out 措辞"大于等于"→"逐 Tensor 完全相等";补数量一致/维度≤8/≤256/空列表 no-op 约束(中英文同步)。
  • 样例:RAII 化(unique_ptr 挂接释放函数),失败路径自动回收。
  • UT:修复 include 笔误;新增 8 个看护用例(多实例成功、混合 dtype 拒绝、不支持 dtype、负 shape size、257 越界、y 数量/dtype/shape 失配、超 8 维)。

验证

  • ophost UT 14/14 PASS(混合 dtype 用例经 TensorV2 逐实例 desc 构造,命中新增拒绝路径);
  • opapi UT 3/3 × 双 soc PASS(新增出参判空 2 用例,返回 161001);
  • opkernel UT 3/3(NPU 实跑);ascend950 包构建 PASS;pre-commit 全门禁(clang-format/OAT/codespell 等)通过。
  • 问题 1 的上板越界写证据来自 950 全流程验证归档(三执行模式 memory_oob FAIL,同构造用例在修复后于 UT 层被拒绝)。

修复提交

fork 仓 xuejinghui/ops-nn 分支 fix/foreach-sin-hardening(基于 master 4d83e6d30),commit 2a6e26b2c(10 文件,+424/-94)。提 MR 后以 Fixes #<本Issue> 关联。

备注

  • 同族先例:fc40bf74c(foreach_neg/sign/tanh 950 静态检查修复)、30da3abee(foreach_abs/asin/exp),foreach_sin 为家族中最后一个未补齐该校验的算子,本修复与其结构逐项对齐便于统一维护;
  • arch35 SIMT kernel 使用的旧式 VF API(Simt::VF_CALL/Simt::Dim3/Simt::Get*)本次未动,拟另案迁移 asc_vf_call/dim3/blockIdx.x 系;
  • 上板证据(三执行模式结果 CSV、冻结用例集)存档于验证归档,如需原始结果可提供。
likedislike
xuejinghuixuejinghuiCollaborators
21 days ago Modify description of issue
xuejinghui
xuejinghuiCollaborators
21 days ago Comments:

/assign

likedislike
CANN-robotCANN-robotCollaborators
21 days ago Assign xuejinghui as responsible person
CANN-robotCANN-robotCollaborators
21 days ago Close issue
CANN-robotCANN-robotCollaborators
21 days ago Added label: resolved