已合并
修复swiglu_group_quant_grad bf16输入Cast hazard与group_index场景死锁 #8667
shilulu创建于 21 天前
修复swiglu_group_quant_grad bf16输入Cast hazard与group_index场景死锁 #8667
已合并
Pull Request已成功合入, 合并人@CANN-robot
（感谢 shilulu 的贡献）
atomgit-bot
21 天前 评论：
21 天前 评论：
变更摘要
本 PR 主要修复 swiglu_group_quant_grad 算子在 bf16 输入下的 Cast hazard 问题，以及 group_index 场景下的死锁问题。改动集中在 host 侧的 tiling 计算与 kernel 侧的缓冲区初始化、数据搬移/转换流程：通过为 cast 场景预留独立缓冲区和扩大 UB 分配，避免 bf16 输入在 Cast 时源/目标内存重叠；同时调整 Process 与 ZeroOutTrunc 的多核执行逻辑，使所有核都参与同步与清零，从而消除 group_index 场景的死锁。
主要改动
- 修复 bf16 输入的 Cast hazard：在
CopyInGradY、CopyInX、CopyInYOrigin中引入castSrcBaseIdx偏移，将 bf16 源数据搬移到缓冲区的高地址区域后再执行Cast，使源与目标不再重叠。 - 为 cast 场景扩展缓冲区：
InitBuffer新增isCastInput参数，gradYQueue与yOriginQueue的缓冲大小在 bf16 输入时按castBufferFactor = 2扩容。 - 调整 host 侧 tiling 的 UB 预算：
UB_BASE_FACTOR由12调整为14，新增UB_CAST_EXTRA_FACTOR = 2，并在输入非DT_FLOAT及同时带 weight 时额外累加该因子。 - 修复
group_index场景死锁：Process不再对blockIdx >= usedCoreNum提前返回，所有核都会执行SyncAll与InitZeroOutTruncBuffer。 - 修正清零步长：
ZeroOutTrunc中的zeroTokenStep由usedCoreNum改为coreNumAll，使清零范围覆盖全部核。
atomgit-bot
21 天前 评论：
21 天前 评论：
21 天前 添加了label：cann-cla/yes
CANN-robot
21 天前 评论：
21 天前 评论：
Thanks for your pull-request.
The full list of commands accepted by me can be found at here。
You can get sig-info at here
PR Approval Progress
✅ Congratulations! All modules have met the lgtm and approve requirements.
Module Approval Details
| module | lgtm status | approve status |
|---|---|---|
| activation | ✅ 查建青, 刘杰 (2/2) | ✅ 查建青, 刘杰 (2/1) |
💡 Tip:
- Committer can comment
/approveor/lgtm- Commenting
/approveimplies both code review (lgtm) and intent to merge (approve)
CLA Signature Pass
shilulu, thanks for your pull request. All authors of the commits have signed the CLA. 👍
CANN-robot21 天前 将zengjuan,chaotang233,kevin_huang1234,crystalhu,yangyang016,fanqirui,renruhai,su-yueming,zhajianqing123,chenqi317,wang-xing001,liubo75,tangweiwei2,liujie12345678,pingchuantang,Chen_HaoWen设为评审人
21 天前 将zengjuan,chaotang233,kevin_huang1234,crystalhu,yangyang016,fanqirui,renruhai,su-yueming,zhajianqing123,chenqi317,wang-xing001,liubo75,tangweiwei2,liujie12345678,pingchuantang,Chen_HaoWen设为评审人
CANN-robot21 天前 将kevin_huang1234,renruhai,su-yueming,zhajianqing123,wang-xing001,liujie12345678,pingchuantang,Chen_HaoWen设为审查人
21 天前 将kevin_huang1234,renruhai,su-yueming,zhajianqing123,wang-xing001,liujie12345678,pingchuantang,Chen_HaoWen设为审查人
21 天前 添加了label：ci-pipeline-running
CANN-robot
21 天前 评论：
21 天前 评论：
流水线任务触发成功
任务链接 [08a370aa04a94859848dc0558d3ddc4f][流水线指导]
| 任务名称 | 状态 | 日志 | 下载链接 |
|---|---|---|---|
| Compile_Ascend_X86_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_X86_mobile_station | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_ARM | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_single | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_experimental | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_X86_950 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_ARM_950 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Pre | ✅ SUCCESS | >>>>> | |
| pre_comment | ✅ SUCCESS | >>>>> | |
| Compile_Ascend_X86 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_X86_mobile_station_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_X86_950_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_ARM_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_single_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_experimental_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_ARM_950_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_X86_monitor_910b | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_X86_monitor_910c | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_X86_monitor_950 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_classify | ✅ SUCCESS | >>>>> | |
| Compile_Ascend_X86_mobile_station_9030_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| UT_Test_ophost | ✅ SUCCESS | ||
| UT_Test_opapi | ✅ SUCCESS | ||
| UT_Test_kernel | ✅ SUCCESS | ||
| UT_Test_opgraph | ✅ SUCCESS | ||
| PreSmoke_A900 | ✅ SUCCESS | >>>>> | |
| API_Check | ✅ SUCCESS | >>>>> | |
| PreSmoke_ATK_Test_A2 | ✅ SUCCESS | >>>>> | |
| UT_Test_report_lcov | ✅ SUCCESS | >>>>> |
[2026-08-13 19:45:12] CI执行结束
CANN-robot
21 天前 评论：
21 天前 评论：
流水线任务触发成功
任务链接 [865a21fb4a154c9b82431f6efc91076e][流水线指导]
| 任务名称 | 状态 | 日志 | 下载链接 |
|---|---|---|---|
| antipoison | ✅ SUCCESS | >>>>> | |
| codecheck_checkpr | ✅ SUCCESS | ||
| StaticCheck_codespell | ✅ SUCCESS | ||
| StaticCheck_link_validity | ✅ SUCCESS | ||
| StaticCheck_resource_existence | ✅ SUCCESS | ||
| StaticCheck_tag_closed | ✅ SUCCESS | ||
| StaticCheck_markdownlint | ✅ SUCCESS | ||
| codecheck_precommit | ❌ FAILED | >>>>> | >>>>> |
| SCA | ✅ SUCCESS | >>>>> |
此处折叠了13条事件消息 查看更多
21 天前 删除了label：stat/needs-squash
CANN-robot
21 天前 评论：
21 天前 评论：
21 天前 删除了label：ci-pipeline-failedapi-check-pass
21 天前 添加了label：ci-pipeline-running
CANN-robot
21 天前 评论：
21 天前 评论：
流水线任务触发成功
任务链接 [8a6e42d4b501436ebea796ae05eee1ba][流水线指导]
| 任务名称 | 状态 | 日志 | 下载链接 |
|---|---|---|---|
| Compile_Ascend_X86_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_X86_mobile_station | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_ARM | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_single | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_experimental | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_X86_950 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_ARM_950 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Pre | ✅ SUCCESS | >>>>> | |
| pre_comment | ✅ SUCCESS | >>>>> | |
| Compile_Ascend_X86 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_X86_mobile_station_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_X86_950_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_ARM_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_single_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_experimental_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_Ascend_ARM_950_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_X86_monitor_910b | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_X86_monitor_910c | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_X86_monitor_950 | ✅ SUCCESS | >>>>> | >>>>> |
| Compile_classify | ✅ SUCCESS | >>>>> | |
| Compile_Ascend_X86_mobile_station_9030_ubuntu24 | ✅ SUCCESS | >>>>> | >>>>> |
| UT_Test_ophost | ✅ SUCCESS | ||
| UT_Test_opapi | ✅ SUCCESS | ||
| UT_Test_kernel | ✅ SUCCESS | ||
| UT_Test_opgraph | ✅ SUCCESS | ||
| PreSmoke_A900 | ✅ SUCCESS | >>>>> | |
| API_Check | ✅ SUCCESS | >>>>> | |
| PreSmoke_ATK_Test_A2 | ✅ SUCCESS | >>>>> | |
| UT_Test_report_lcov | ✅ SUCCESS | >>>>> |
[2026-08-13 20:03:07] CI执行结束
CANN-robot
21 天前 评论：
21 天前 评论：
流水线任务触发成功
任务链接 [358436b6a8704cd58cf11d64e13cc544][流水线指导]
| 任务名称 | 状态 | 日志 | 下载链接 |
|---|---|---|---|
| antipoison | ✅ SUCCESS | >>>>> | |
| codecheck_checkpr | ✅ SUCCESS | ||
| StaticCheck_codespell | ✅ SUCCESS | ||
| StaticCheck_link_validity | ✅ SUCCESS | ||
| StaticCheck_resource_existence | ✅ SUCCESS | ||
| StaticCheck_tag_closed | ✅ SUCCESS | ||
| StaticCheck_markdownlint | ✅ SUCCESS | ||
| codecheck_precommit | ✅ SUCCESS | >>>>> | |
| SCA | ✅ SUCCESS | >>>>> |
[2026-08-13 19:49:51] CI执行结束
21 天前 添加了label：api-check-pass
21 天前 删除了label：ci-pipeline-running
21 天前 添加了label：ci-pipeline-passed
zhajianqing123
21 天前 评论：
21 天前 评论：
/lgtm
/approve
21 天前 添加了label：approved
liujie12345678
21 天前 评论：
21 天前 评论：
/lgtm
/approve
21 天前 添加了label：lgtm
21 天前 关闭了关联的issue
21 天前 合入了pull request
描述
修复swiglu_group_quant_grad bf16输入Cast hazard与group_index场景死锁
关联的Issue
https://gitcode.com/cann/ops-nn/issues/4787
测试
文档更新
类型标签
AI/Agent生成声明