已合并
[Test] Sync DeviceMesh tests with MeshLayout changes #43811
MengJiayi创建于 8月5日
[Test] Sync DeviceMesh tests with MeshLayout changes #43811
已合并
MengJiayi创建于 8月5日
MengJiayi
MengJiayi成员
8月5日

【合入来源】

如有社区issue,请关联issue链接
https://gitcode.com/Ascend/pytorch/issues/3419
请勿携带内部流程信息(需求链接、问题单、内部issue等)

【修改方案】

请描述修改内容的具体实现,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列
如果是需求或者重构类的PR,需要补充详细设计文档(说明上下游组件关系、时序图、类图、DFX能力等内容)

本 PR 将 test/distributed/test_device_mesh.py 与当前 PyTorch DeviceMesh_MeshLayout 的实现行为保持同步,具体修改如下:

  1. 删除已失效的 test_assert_invalid_mesh_tensor 测试。

    • 旧测试预期非 CPU 的 mesh tensor 会触发 ValueError
    • 当前 DeviceMesh 会在初始化前自动将 mesh tensor 转移到 CPU,因此原测试预期已经失效。
  2. 更新 test_flatten_mesh_3d 中扁平布局的 rank 校验。

    • dp_cpdp_tp 两种扁平布局,均先调用 _MeshLayout.collapse() 获取折叠后的一维布局,再调用 global_ranks(8)
    • 使测试调用方式与当前 _MeshLayout.global_ranks() 的接口要求保持一致。
  3. 更新非法扁平维度切片的异常预期。

    • 将原来的 NotImplementedError 修改为当前实现抛出的 KeyError
    • 校验当前错误信息:Mesh dim indices should be in ascending order
    • 补充注释,说明扁平维度 dp_tp 分布在 cp 维度的两侧,不满足升序切片要求。
  4. 补齐测试文件末尾换行,不涉及功能行为变化。

涉及的组件交互关系如下:

  • test_device_mesh.py 负责构造和切分 DeviceMesh
  • DeviceMesh._flatten() 创建扁平 mesh,并在根 mesh 中记录对应的 _MeshLayout
  • _MeshLayout.collapse() 将多层布局折叠为一维布局。
  • global_ranks() 基于折叠后的布局计算全局 rank,用于验证扁平 mesh 的 rank 映射是否正确。

本修改属于测试用例兼容性修复,不涉及需求开发、架构重构、生产代码逻辑、组件时序或 DFX 能力变更,因此无需补充详细设计文档、时序图或类图。

【资料变更】

请确认是否涉及资料变更。如涉及,需要在PR中体现,并简要说明修改内容。如不涉及,需填写“不涉及”

【接口变更】

请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及,需要详细说明接口以及对应的变更内容,同时需要在资料中体现。如不涉及,需填写“不涉及”

【功能验证】

说明测试场景,测试方法。如果本次测试方式与常规单元测试不同,请详细说明您的测试步骤
新增/变更内容是否已新增/适配UT测试用例看护,并补充测试自验证截图

【CheckList】

PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x]

likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 MengJiayi 的贡献)
MengJiayiMengJiayi成员
8月5日 创建了 pull request,commit 50bf514b
MengJiayiMengJiayi成员
8月5日 关联了issue:[Bug]: 用例PT_Device_Mesh只在PT213上执行失败
atomgit-bot
atomgit-bot
8月5日 评论:

变更摘要

本 PR 是一个测试用例兼容性修复,将 test/distributed/test_device_mesh.py 与当前 DeviceMesh_MeshLayout 的实现行为保持同步。主要涉及:删除已失效的 test_assert_invalid_mesh_tensor 测试(因 DeviceMesh 现已自动将 mesh tensor 转移到 CPU)、更新 test_flatten_mesh_3d 中扁平布局的 rank 校验方式(在调用 global_ranks() 前先调用 collapse())、修正非法扁平维度切片的异常类型和错误信息预期(从 NotImplementedError 改为 KeyError),以及清理未使用的 import 和格式规范化。

主要改动

  • 删除失效测试 test_assert_invalid_mesh_tensor:当前 DeviceMesh 在初始化前会自动将非 CPU 的 mesh tensor 转移到 CPU,旧测试预期抛出 ValueError 的前提已不成立,因此移除整个测试方法。
  • 更新扁平布局 rank 校验调用链:在 test_flatten_mesh_3d 中,dp_cpdp_tp 两种扁平布局的 rank 校验从 _layout.global_ranks(8) 改为 _layout.collapse().global_ranks(8),与当前 _MeshLayout.global_ranks() 的接口要求保持一致。
  • 修正非法扁平维度切片的异常预期:将 mesh_3d["dp_tp", "cp"] 的异常断言从 NotImplementedError(消息 "Currently, this only allows slicing out a contiguous flattened dim")改为 KeyError(消息 "Mesh dim indices should be in ascending order"),并补充注释说明 dp_tp 分布在 cp 维度两侧,不满足升序切片要求。
  • 清理无用 import 与格式规范化:移除了 unittesttimedeltaFakeTensorModeFakeProcessGroup 等未使用的 import,重整了部分 import 语句的格式,并修复了类注释前的空格及文件末尾的换行符。
likedislike
不准确?
MengJiayiMengJiayi成员
8月5日 关联了看板:FrameworkPTAdapter 版本issue看板
atomgit-bot
atomgit-bot
8月5日 评论:

代码审查

✅ 未发现问题

likedislike
不准确?
ascend-robotascend-robot成员
8月5日 添加了label:ascend-cla/yes
ascend-robot
ascend-robot成员
8月5日 评论:

Thanks for your pull-request.
The full list of commands accepted by me can be found at here
You can get sig-info at here


PR Approval Progress

Congratulations! All modules have met the lgtm and approve requirements.

Module Approval Details

module lgtm status approve status
test wjlflyer, renyujin (2/2) wjlflyer (1/1)

💡 Tip:

  • Committer can comment /approve or /lgtm
  • Commenting /approve implies both code review (lgtm) and intent to merge (approve)

CLA Signature Pass

Jiayi_Meng, thanks for your pull request. All authors of the commits have signed the CLA. 👍

likedislike
ascend-robot
ascend-robot成员
8月5日 评论:

当前仓库存在以下 保护分支

Protected Branch Version Release
master
v2.12.0
v2.11.0
v2.10.0
v2.9.0
v2.7.1
v2.9.0-26.1.0
v2.7.1-26.1.0
v2.10.0-26.1.0
v2.12.0-26.1.0
v2.11.0-26.1.0
ci-test

评论 /sync <branch1> <branch2> ... 可将当前 PR 修改同步到其它分支(创建同步 PR):
a) 如果当前 PR 是 Open 状态,同步操作将延迟到 PR 被合并时执行
b) 如果当前 PR 已经 Merged,将立即执行同步操作

注意:

  1. /sync 命令可以指定同步到多个分支,仅最后一个 /sync 命令生效
  2. 如果创建的同步 PR 不正确,可通过向同步 PR 的源分支提交轻量级 PR 完善,或使用 /close 命令关闭
likedislike
ascend-robotascend-robot成员
8月5日 添加了label:ci-pipeline-running
ascend-robot
ascend-robot成员
8月5日 评论:

ascend docs pipeline is running...

likedislike
ascend-robotascend-robot成员
8月5日 添加了label:docs-ci-pipeline-running
ascend-robot
ascend-robot成员
8月5日 评论:

✅ 跳过 docs ci 检查,没有需要检查的文档文件

likedislike
ascend-robotascend-robot成员
8月5日 删除了label:docs-ci-pipeline-running
ascend-robotascend-robot成员
8月5日 添加了label:docs-ci-pipeline-success
ascend-robotascend-robot成员
8月5日 删除了label:ci-pipeline-running
ascend-robotascend-robot成员
8月5日 添加了label:ci-pipeline-passed
ascend-robot
ascend-robot成员
8月5日 评论:
流水线 PR-pipeline_pytorch#55289 [ commitID:e2e777fb ] 已完成
>>>代码风格自动修复执行成功(无修复内容)
阶段 任务名 状态 详情
编译构建 Build_X86 >>>
Build_ARM >>>
Build_LibTorch_x86 >>>
Build_LibTorch_ARM >>>
Build_X86_torchair 🛑 >>>
Build_ARM_torchair 🛑 >>>
patch_test 🛑 >>>
恶意代码检查 Antipoison >>>
编码安全与规范检查 codecheck_pre-commit >>>
check_error >>>
lintrunner >>>
开源片段检查 SCA >>>
开发者测试 UT_ARM_A3_Part_01 🛑 >>>
UT_ARM_A3_Part_02 🛑 >>>
UT_ARM_A2_Part_01 >>>
UT_ARM_A2_Part_02 >>>
UT_ARM_A2_Part_03 >>>
UT_inductor_Part_01 🛑 >>>
UT_inductor_Part_02 🛑 >>>
UT_inductor_Part_03 🛑 >>>
UT_inductor_Part_04 🛑 >>>
UT_DIST_ARM_Part_01 >>>
UT_DIST_ARM_Part_02 >>>
UT_DIST_ARM_Part_03 >>>
UT_DIST_ARM_Part_04 >>>
UT_ARM_A2_Select_Part_01 >>>
UT_ARM_A2_Select_Part_02 >>>
流水线 PR-pipeline_pytorch >>>
此流水线已支持下列评论快捷指令,仅PR创建者和白名单成员[wujinyuan1, huangjingwei, liangsongwei, yashi999, culechan, Dring, wuyouqi1, L1919_snow, qq_52711437, WhiteNight12, nomiz, xiu_21, ffmh, wanglijun55, hss-shuai, husichao, smallsilly, lanshaozuishuai, jimmyisme1, lzy0920232, alpha-junh, Sunshine_Youngster, wei_zhuoyi, zhangyihuiben, zyw-hw, zzzkeke, rmch, yangch0324, LucciC, AACAES, renyujin, wjlflyer, senzhen-town, pengjingyou, qsc97, limuan, yule100, xiaoqi-zhou, kuhn7, chenxingying, hanye02, zichun_ye, anyrenwei, kkjocker, wangzili121, Lu_G, yvjc, puddingfjz, HandsoemLemon, bigprestigee1, huawuyi, zhenyu10, dairenjie, du-jin-hang, zou-jieyu, adelaideliu, TrHan, wanlinan, Windwindzzz, pengqihw, kisnwang, yuheng_wang, honghao_wang, jizewei, zhangguoguang, sunyu-xuan, chenrayray, hbhu_bin, liujunzhu, c_34, LiNuoh, maoyuanpeng1, zzhongmin, zhaoyu65, bellatan, jiabaolin, zhuofanshen, wencaiwen, lu_zhuge, caoshuyang, molly12, lyx324521, LQ1206, gitcode-chenjiao, cai-weiwei1989, CHDong, ogqin, yuanlipingGit, xuqinglin1, lqz2, zouwei1, chaoluoa, paradox325, jackzhang1116, yaoyao, akh, yujiacheng, dengjie0116, Hubert11111, Shine_Ws, wslhj555, longqiand, OYtao666, JiaqingQiang, luyyyy, Kingbelial, zhanghaiyu0101, wenxp1018, yanliu-luoluo, ksun_sekiro, liyong328, wgzheng, tangky, vivi_is_coding, aoiaoisola, weixin_44494597, wangmengmengwang65667, hid57809721, qq_35468730, comeonup, C547032, gcw_m5OQChA4, yao_yao_ling_xian, cnnbwcy, szqfes_12, cora_19, cann_lilin, can, shawnylee233, fanglanyue0916, hhz0, LiNuohang, taohuoquan, Jesse, WSs_321]评论有效
  • compile、compile_inductor、compile_torchair : 运行流水线
  • retry : 重试流水线所有失败子任务
  • retry <任务名> : 仅重试指定失败子任务
  • stop : 停止流水线
likedislike
renyujin成员
8月5日 评论:

/lgtm

likedislike
wjlflyer成员
8月5日 评论:

/lgtm
/approve

likedislike
ascend-robotascend-robot成员
8月5日 添加了label:approvedlgtm
ascend-robotascend-robot成员
8月5日 合入了pull request
ascend-robot
ascend-robot成员
8月5日 评论:
流水线 pytorch_gitcode_PR_multiVersion#13664 [ commitID:e2e777fb ] 已完成
likedislike