已合并
[inductor]support pointwise group #42716
[inductor]support pointwise group #42716
已合并
rain-666创建于 7月25日
rain-666
rain-666成员
7月25日

【合入来源】

如有社区issue,请关联issue链接
请勿携带内部流程信息(需求链接、问题单、内部issue等)

【修改方案】

请描述修改内容的具体实现,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列
如果是需求或者重构类的PR,需要补充详细设计文档(说明上下游组件关系、时序图、类图、DFX能力等内容)

【资料变更】

请确认是否涉及资料变更。如涉及,需要在PR中体现,并简要说明修改内容。如不涉及,需填写“不涉及”

【接口变更】

请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及,需要详细说明接口以及对应的变更内容,同时需要在资料中体现。如不涉及,需填写“不涉及”

【功能验证】

说明测试场景,测试方法。如果本次测试方式与常规单元测试不同,请详细说明您的测试步骤
新增/变更内容是否已新增/适配UT测试用例看护,并补充测试自验证截图

【CheckList】

PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x]

likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 rain-666 的贡献)
rain-666rain-666成员
7月25日 创建了 pull request,commit f08b24ec
atomgit-bot
atomgit-bot
7月25日 评论:

变更摘要

此 PR 为 inductor 的 split_tiling 模块新增了 pointwise 算子的分组编译变体支持。主要针对 transpose 和 broadcast 类内核,当静态 split 轴驱动 grid、动态内轴保留在 tiling 空间时,仍能基于该动态 tiling 轴进行分组,从而在运行时根据轴大小选择最优的编译变体。同时新增了对应的单元测试类 TestPointwiseSymbolicGrouping 来覆盖这些场景。

主要改动

  • 新增 _dynamic_pointwise_tiling_axis() 方法:在非 reduction 内核中识别唯一的动态 pointwise tiling 轴——该轴必须在 tiling_axis 中且不在 split_axis 中,同时内核索引模式须被 _pointwise_layout_kind() 识别为 transpose/broadcast 等布局。
  • 新增 _pointwise_layout_kind() 方法:通过分析内核内存索引表达式的 stride 顺序,将 pointwise 内核的布局归类为 "transpose"、"broadcast"、"transpose_broadcast" 或 None(纯 pointwise 不做分组)。
  • 扩展 _build_group_features() 方法:新增 pointwise_layout 参数,针对 broadcast 布局返回 pointwise_broadcast_axis 特征(分桶 (16, 64, 256, 1024, 4096)),针对 transpose 布局返回 pointwise_transpose_axis 特征(分桶 (64, 128, 256, 512))。
  • 修改 _build_grouped_meta() 方法:在无动态 split 轴的分支中,对 pointwise 模板调用 _dynamic_pointwise_tiling_axis() 获取主分组轴并传入 _build_group_features(),使 pointwise 内核也能生成 GroupedKernelMeta 参与分组编译。
  • 新增测试类 TestPointwiseSymbolicGrouping:包含 6 个测试用例,覆盖 transpose/broadcast 布局的分组 meta 构建、纯 pointwise 不回退分组、静态 grid block 保留、以及需要恰好一个动态轴等场景。
likedislike
不准确?
atomgit-bot
atomgit-bot
7月25日 评论:

代码审查

I've completed my thorough review of both changed files. Let me now submit the closing summary.


审查总结

审查文件清单:

  1. test/_inductor/test_inductor_dynamic_shapes.py — 已审查。新增了 TestPointwiseSymbolicGrouping 测试类(6 个测试方法)及辅助函数 make_axis、新增了必要的 import。所有测试逻辑正确,mock 设置合理,无问题。

  2. torch_npu/_inductor/codegen/split_tiling.py — 已审查。新增了 _dynamic_pointwise_tiling_axis、_pointwise_layout_kind 两个方法,修改了 _build_group_features 和 _build_grouped_meta。发现 1 个 P3 问题。

按严重程度统计:

优先级 数量
P0 0
P1 0
P2 0
P3 1

总体风险评估:低风险。

该 PR 实现了一个纯增量的功能(pointwise symbolic grouping),新增代码逻辑清晰、测试覆盖全面(含 transpose、broadcast、transpose_broadcast、plain pointwise、tiling fallback、以及向后兼容的 default pointwise 共 6 个场景)。仅有一个可选的优化建议(P3),不影响正确性、安全性或线上行为。可以合入。

⚠️ 已识别出整体风险,但无法提取行内评论,请参考整体评估。

likedislike
不准确?
ascend-robotascend-robot成员
7月25日 添加了label:stat/needs-squash
ascend-robotascend-robot成员
7月25日 添加了label:ascend-cla/yes
ascend-robotascend-robot成员
7月25日 添加了label:needs-issue
ascend-robot
ascend-robot成员
7月25日 评论:

Thanks for your pull-request.
The full list of commands accepted by me can be found at here。
You can get sig-info at here


PR Approval Progress

✅ Congratulations! All modules have met the lgtm and approve requirements.

Module Approval Details

module lgtm status approve status
test ✅ crazyDannyBoy, TonyYA (2/2) ✅ crazyDannyBoy (1/1)
torch_npu/_inductor ✅ crazyDannyBoy, TonyYA (2/2) ✅ crazyDannyBoy (1/1)

💡 Tip:

  • Committer can comment /approve or /lgtm
  • Commenting /approve implies both code review (lgtm) and intent to merge (approve)

CLA Signature Pass

rain-666, thanks for your pull request. All authors of the commits have signed the CLA. 👍

likedislike
ascend-robot
ascend-robot成员
7月25日 评论:

Linking Issue Notice

@rain-666 , the pull request must be linked to at least one issue.
If an issue has already been linked, but the needs-issue label remains, you can remove the label by commenting /check-issue .

likedislike
ascend-robot
ascend-robot成员
7月25日 评论:

当前仓库存在以下 保护分支 :

Protected Branch Version Release
master
v2.12.0-26.1.0
v2.11.0-26.1.0
v2.10.0-26.1.0
v2.9.0-26.1.0
v2.7.1-26.1.0
v2.10.0
v2.9.0
v2.7.1
v2.12.0
v2.11.0
ci-test

评论 /sync <branch1> <branch2> ... 可将当前 PR 修改同步到其它分支(创建同步 PR):
a) 如果当前 PR 是 Open 状态,同步操作将延迟到 PR 被合并时执行
b) 如果当前 PR 已经 Merged,将立即执行同步操作

注意:

  1. /sync 命令可以指定同步到多个分支,仅最后一个 /sync 命令生效
  2. 如果创建的同步 PR 不正确,可通过向同步 PR 的源分支提交轻量级 PR 完善,或使用 /close 命令关闭
likedislike
ascend-robotascend-robot成员
7月25日 添加了label:ci-pipeline-running
ascend-robot
ascend-robot成员
7月25日 评论:

ascend docs pipeline is running...

likedislike
ascend-robotascend-robot成员
7月25日 添加了label:docs-ci-pipeline-running
ascend-robot
ascend-robot成员
7月25日 评论:

✅ 跳过 docs ci 检查,没有需要检查的文档文件

likedislike
ascend-robotascend-robot成员
7月25日 删除了label:docs-ci-pipeline-running
ascend-robotascend-robot成员
7月25日 添加了label:docs-ci-pipeline-success
ascend-robotascend-robot成员
7月25日 删除了label:ci-pipeline-running
ascend-robotascend-robot成员
7月25日 添加了label:ci-pipeline-passed
ascend-robot
ascend-robot成员
7月25日 评论:
流水线 PR-pipeline_pytorch#49379 [ commitID:5c86628c ] 已完成
>>>代码风格自动修复执行成功(无修复内容)
阶段 任务名 状态 详情
编译构建 Build_X86 ✅ >>>
Build_ARM ✅ >>>
Build_LibTorch_x86 ✅ >>>
Build_LibTorch_ARM ✅ >>>
Build_X86_torchair 🛑 >>>
Build_ARM_torchair 🛑 >>>
patch_test 🛑 >>>
恶意代码检查 Antipoison ✅ >>>
编码安全与规范检查 CodeCheck ✅ >>>
check_error ✅ >>>
CodeCheck_lintrunner ✅ >>>
开源片段检查 SCA ✅ >>>
开发者测试 UT_ARM_A3_Part_01 🛑 >>>
UT_ARM_A3_Part_02 🛑 >>>
UT_ARM_A2_Part_01 ✅ >>>
UT_ARM_A2_Part_02 ✅ >>>
UT_ARM_A2_Part_03 ✅ >>>
UT_inductor_Part_01 ✅ >>>
UT_inductor_Part_02 ✅ >>>
UT_inductor_Part_03 ✅ >>>
UT_inductor_Part_04 ✅ >>>
UT_DIST_ARM_Part_01 🛑 >>>
UT_DIST_ARM_Part_02 🛑 >>>
UT_DIST_ARM_Part_03 🛑 >>>
UT_DIST_ARM_Part_04 🛑 >>>
UT_ARM_A2_Select_Part_01 ✅ >>>
UT_ARM_A2_Select_Part_02 ✅ >>>
流水线 PR-pipeline_pytorch ✅ >>>
此流水线已支持下列评论快捷指令,仅PR创建者和白名单成员[wujinyuan1, huangjingwei, liangsongwei, yashi999, culechan, Dring, wuyouqi1, L1919_snow, qq_52711437, WhiteNight12, nomiz, xiu_21, ffmh, wanglijun55, hss-shuai, husichao, smallsilly, lanshaozuishuai, jimmyisme1, lzy0920232, alpha-junh, Sunshine_Youngster, wei_zhuoyi, zhangyihuiben, zyw-hw, zzzkeke, rmch, yangch0324, LucciC, AACAES, renyujin, wjlflyer, senzhen-town, pengjingyou, qsc97, limuan, yule100, xiaoqi-zhou, kuhn7, chenxingying, hanye02, zichun_ye, anyrenwei, kkjocker, wangzili121, Lu_G, yvjc, puddingfjz, HandsoemLemon, bigprestigee1, huawuyi, zhenyu10, dairenjie, du-jin-hang, zou-jieyu, adelaideliu, TrHan, wanlinan, Windwindzzz, pengqihw, kisnwang, yuheng_wang, honghao_wang, jizewei, zhangguoguang, sunyu-xuan, chenrayray, hbhu_bin, liujunzhu, c_34, LiNuoh, maoyuanpeng1, zzhongmin, zhaoyu65, bellatan, jiabaolin, zhuofanshen, wencaiwen, lu_zhuge, caoshuyang, molly12, lyx324521, LQ1206, gitcode-chenjiao, cai-weiwei1989, CHDong, ogqin, yuanlipingGit, xuqinglin1, lqz2, zouwei1, chaoluoa, paradox325, jackzhang1116, yaoyao, akh, yujiacheng, dengjie0116, Hubert11111, Shine_Ws, wslhj555, longqiand, OYtao666, JiaqingQiang, luyyyy, Kingbelial, zhanghaiyu0101, wenxp1018, yanliu-luoluo, ksun_sekiro, liyong328, wgzheng, tangky, vivi_is_coding, aoiaoisola, weixin_44494597, wangmengmengwang65667, hid57809721, qq_35468730, comeonup, C547032, gcw_m5OQChA4, yao_yao_ling_xian, cnnbwcy, szqfes_12, cora_19, cann_lilin, can, shawnylee233, fanglanyue0916, hhz0, LiNuohang, taohuoquan]评论有效
  • compile、compile_inductor、compile_torchair : 运行流水线
  • retry : 重试流水线所有失败子任务
  • retry <任务名> : 仅重试指定失败子任务
  • stop : 停止流水线
likedislike
rain-666rain-666成员
7月25日 关联了issue:[inductor]support pointwise dynamic group
ascend-robotascend-robot成员
7月25日 删除了label:needs-issue
pangjiayi
pangjiayi
7月25日 评论:

/lgtm

likedislike
dezheng889成员
7月25日 评论:

/lgtm
/approve

likedislike
ascend-robotascend-robot成员
7月25日 添加了label:approvedlgtm
ascend-robotascend-robot成员
7月25日 关闭了关联的issue
ascend-robotascend-robot成员
7月25日 合入了pull request
ascend-robot
ascend-robot成员
7月25日 评论:
流水线 pytorch_gitcode_PR_multiVersion#13169 [ commitID:5c86628c ] 已完成
likedislike
rain-666
rain-666成员
8月7日 评论:

/sync master

likedislike
ascend-robot
ascend-robot成员
8月7日 评论:

In response to this:

/sync master

@rain-666

同步操作执行结果:

Branch Status Pull Request
master 同步失败:请手动创建 PR 进行同步,我们会继续完善分支之间同步操作,尽量避免同步失败的情况
likedislike