Pull Request has been successfully merged by CANN-robot.
(Thank you for zhaixiao26's contribution.)变更摘要
本 PR 针对 advance_step 的 V2 路径中 buffer1/buffer2 在同一 loop 内被两轮 MTE2 写入(CopyIn() 与 CopyInInputTokens())而触发的 racecheck WAW 数据竞争进行整改:在 KernelAdvanceStepSpec 中新增 buffer4/buffer5 两个独立输入队列专门承接 sampledTokenIds/specToken 的搬入,并将 CopyInInputTokens、ComputeInputTokens、CopyOutInputTokens 整条链路的队列操作切换到新队列,使每个队列在单轮内只有一次 MTE2 写;同时同步更新 host 侧 Tiling4Seqs() 的 UB 预算公式,保持 UB 分配与 kernel 侧一致。
主要改动
- 新增独立输入队列: 在
advance_step_spec.h中为KernelAdvanceStepSpec增加TQue<QuePosition::VECIN, 1>类型的buffer4/buffer5成员,分别用于sampledTokenIds与specToken,避免与buffer1/buffer2复用同一 UB 槽位。 - 队列初始化扩展: 在
Init()中按tokenEachReqs_与specNum_的行宽分别InitBuffer分配buffer4/buffer5,容量随perLoopSeqs_缩放。 - 搬入流程切换队列:
CopyInInputTokens()由原先从buffer1/buffer2的DeQue改为对buffer4/buffer5执行AllocTensor并在DataCopyPad后EnQue,使 MTE2 写与消费在同一队列内闭环。 - 消费与搬出流程切换队列:
ComputeInputTokens()改为从buffer4取用并在末尾FreeTensor,CopyOutInputTokens()改为从buffer5取用并FreeTensor,与新增队列一一对应。 - UB 预算公式同步:
advance_step_tiling.cpp的Tiling4Seqs()中perCoreInBufSize追加两个队列的按序开销项(基于tokenEachReqs_的对齐行宽),使perLoopMaxSeqs相应收紧而算子接受面不变。
🧩 本次 Review 已使用自定义 Skill:


代码审查
审查结论
变更文件逐项确认
optim/advance_step/op_host/advance_step_tiling.cpp:no issues。新增的两个 UB 预算项(:385-386)逐项核对后与 kernel 侧buffer4/buffer5的InitBuffer完全一致:hostAlignBytes(x)默认bytes=sizeof(int64_t)=8,故AlignBytes(te+4)=AlignUp(8·te+32,32)=AlignUp(8·te,32)+32,与AlignBytes(te,sizeof(T))+BLOCK_BYTES逐 seq 相等;tokenEachReqs_-1 == specNum_对应buffer5,亦相等;tokenEachReqs_ >= 1不会出现负入参;perLoopMaxSeqs_收紧后仍由 :403 的拒绝检查保证 ≥1,不会引入 kernel 侧除零。optim/advance_step/op_kernel/advance_step_spec.h:发现 2 处问题(见下)。
发现清单
| 优先级 | 数量 | 说明 |
|---|---|---|
| P0 | 0 | — |
| P1 | 0 | — |
| P2 | 1 | buffer1/buffer2 在改动后失去唯一的 FreeTensor 配对(释放职责被搬到 buffer4/buffer5),打破 kernel 内其余队列(buffer3/tempQue_/buffer4/buffer5 均为每轮一次 Alloc↔Free)的既有不变量;curCoreLoopNum_ >= 2 时第二轮 CopyIn() 的 AllocTensor 可能等待无人设置的反向释放事件而停顿,缓冲亦永不归还。 |
| P3 | 1 | buffer5 以 TQue<VECIN> 承接实为 MTE2 搬入、MTE3 拷出的数据,丢失原 TQueBind<VECIN,VECOUT> 的出入双向事件,MTE2↔MTE3 与跨 loop WAR 排序退化为依赖 :520 的偶然屏障(可选加固项)。 |
总体风险判断
WAW 整改方向正确,host 侧 UB 预算与 kernel 实际分配逐项对齐,无明显溢出或乘积/收窄类问题,137 行内的改动风险集中在 kernel 队列生命周期:buffer1/buffer2 的 Alloc/Free 失衡是本 PR 确定引入的行为回归(需重点复核多 loop 大 shape),buffer5 的队列类型选择则是隐性同步契约弱化。建议合入前至少修掉 P2 项,并按注释说明或加固 buffer5 的同步来源,同时补一次多 loop 大 shape 的复扫确认。
| 类型 | 数量 |
|---|---|
| 🔴 阻塞 | 0 |
| 🟡 建议 | 1 |
💬 仅评论
🧩 本次 Review 已使用自定义 Skill:


Thanks for your pull-request.
The full list of commands accepted by me can be found at here.
You can get sig-info at here.
You can self-configure the PR merge rules for this repository. For more details, please refer to Here.
For more, you also can visit HICANN.
PR Approval Progress
✅ Congratulations! All modules have met the lgtm and approve requirements.
Module Approval Details
| module | lgtm status | approve status |
|---|---|---|
| optim | ✅ 王星, 汤平川 (2/2) | ✅ 汤平川, 王星 (2/1) |
💡 Tip:
- Committer can comment
/approveor/lgtm- Commenting
/approveimplies both code review (lgtm) and intent to merge (approve)
CLA Signature Pass
Onthetreeoh, thanks for your pull request. All authors of the commits have signed the CLA. 👍


The MR can not be merged, because of CodeReview discussion not resolved
If you want to solve this problem, you can click here to do it in the FAQs.


Pull Request 已合并或已关闭。
If you want to solve this problem, you can click here to do it in the FAQs.


问题背景
对 advance_step(含 PR#14119 整改后 master)执行 mssanitizer 四工具全量内存扫描(Ascend950PR_9599,kernel 用例集 53 功能用例,按
ops-test-kit/docs/tools/mssanitizer_guide.md流程),racecheck 检出 ERROR 级数据竞争 156 处:根因:V2 路径
buffer1/buffer2(TQueBind)在同一 loop 内经历两轮"MTE2 写→消费→归还"周期——CopyIn()写入 inputPositions/seqLens 后,CopyInInputTokens()对同一队列再次 MTE2 写入 sampledTokenIds/specToken,第二轮写与第一轮消费完成之间缺乏 sanitizer 可证明的排序,11 个 V2 用例稳定复现(spec1 密度最高 84 处)。整改内容
op_kernel/advance_step_spec.hbuffer4/buffer5独立队列承接 sampledTokenIds/specToken 搬入,CopyInInputTokens/ComputeInputTokens/CopyOutInputTokens全链路切换,每队列单轮 MTE2 写op_host/advance_step_tiling.cpp验证结果
build.sh --ops=advance_step --soc=ascend950 --pkg --mssanitizer构建,四工具全量复扫:残留 18 处全部集中于
v2_shape_large(唯一多 loop 大 shape 用例)的单缓冲跨 loop 复用 Potential 判定:队列AllocTensor阻塞语义保证实际有序(四轮精度全过佐证),属 sanitizer 对队列语义的建模盲区,建议按已知豁免登记,不随本 PR 处理。合规检查
关联
mss_results_before/与mss_results/