已合并
dynamic_mx_quant fix oom #7291
季骏创建于 7月9日
dynamic_mx_quant fix oom #7291
已合并
季骏创建于 7月9日
季骏
季骏
7月9日

描述

dynamic_mx_quant fix oom

关联的Issue

#4001

测试

已通过ST测试,oom测试

文档更新

不涉及

类型标签

AI/Agent生成声明

likedislike
Pull Request已成功合入, 合并人@CANN-robot
(感谢 季骏 的贡献)
季骏季骏
7月9日 创建了 pull request,commit 177a9cc0
atomgit-bot
atomgit-bot
7月9日 评论:

变更摘要

此次变更将 dynamic_mx_quant 内核中 REGISTER_TILING_FOR_TILINGKEY 宏的 tiling key 匹配条件,从描述性字符串名称改为基于 TILING_KEY_VAR 的具体数值条件表达式,使 tiling 数据结构的注册匹配逻辑更加精确和可量化。

主要改动

  • DynamicMxQuantTilingData 注册条件更新:将匹配键从 "NOT TAIL AXIS TILING DATA" 改为 "(TILING_KEY_VAR == 4096) || (TILING_KEY_VAR == 8192) || (TILING_KEY_VAR == 4098) || (TILING_KEY_VAR == 4099)",使用具体数值条件替代语义化字符串。
  • DynamicMxQuantTailAxisTilingData 注册条件更新:将匹配键从 "TAIL AXIS WITH BLOCKSIZE 32 TILING DATA" 改为 "(TILING_KEY_VAR == 33) || (TILING_KEY_VAR == 65) || (TILING_KEY_VAR == 97)",同样采用 TILING_KEY_VAR 数值比较方式。
likedislike
不准确?
atomgit-bot
atomgit-bot
7月9日 评论:

代码审查

审查总结

逐文件审查结果:

  • quant/dynamic_mx_quant/op_kernel/dynamic_mx_quant.cpp(第 142–143 行变更):

    • 将 REGISTER_TILING_FOR_TILINGKEY 从旧的字符串命名方式("NOT TAIL AXIS TILING DATA"、"TAIL AXIS WITH BLOCKSIZE 32 TILING DATA")迁移为 TILING_KEY_VAR 数值表达式。
    • 经与 dynamic_mx_quant_struct.h 中 Tiling Key Encoding 文档逐项核对,所有 key 值计算正确:DynamicMxQuantTilingData 覆盖 4096/8192/4098/4099(Group 2 + Group 4),DynamicMxQuantTailAxisTilingData 覆盖 33/65/97(Group 1)。同时该变更修复了旧代码中 key 4096/8192 未显式注册的潜在缺陷。
    • 无实质问题。
  • quant/dynamic_mx_quant/docs/aclnnDynamicMxQuantV2.md(第 188 行变更):新增 blocksize 约束"当scaleAlg为2时,blocksize必须为32",与代码中 scaleAlg=2 仅限 FP4_E2M1 + blocksize=32 的约束一致。无问题。

  • quant/dynamic_mx_quant/docs/aclnnDynamicMxQuantV3.md(第 193 行变更):同上,V3 文档同步更新。无问题。

风险评级:低风险。 变更属于 tiling key 注册机制的规范化迁移和对文档的补充约束说明,逻辑正确,无回归风险。

⚠️ 已识别出整体风险,但无法提取行内评论,请参考整体评估。

likedislike
不准确?
CANN-robotCANN-robot成员
7月9日 添加了label:cann-cla/yes
CANN-robot
CANN-robot成员
7月9日 评论:

Thanks for your pull-request.
The full list of commands accepted by me can be found at here。
You can get sig-info at here


PR Approval Progress

✅ Congratulations! All modules have met the lgtm and approve requirements.

Module Approval Details

module lgtm status approve status
quant ✅ 苏跃明, 王星 (2/2) ✅ 苏跃明, 王星 (2/1)

💡 Tip:

  • Committer can comment /approve or /lgtm
  • Commenting /approve implies both code review (lgtm) and intent to merge (approve)

CLA Signature Pass

ji-jun1, thanks for your pull request. All authors of the commits have signed the CLA. 👍

likedislike
此处折叠了46条消息 查看更多
su-yueming成员
7月9日 评论:

/lgtm
/approve

likedislike
CANN-robotCANN-robot成员
7月9日 添加了label:approved
wang-xing001成员
7月10日 评论:

/lgtm
/approve

likedislike
CANN-robotCANN-robot成员
7月10日 添加了label:lgtm
CANN-robotCANN-robot成员
7月10日 合入了pull request