| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
test(st): keep pytest launchers free of framework imports Split remaining heavy in-process ST into thin test_* + _*_impl modules, fix misnamed helpers, document the ST launcher import rule in .agent/rules/testing.md, clarify tests.common.parallel_case contract, and clean pylint issues from the split (docstrings, unused imports, trailing newlines). | 2 个月前 | |
feat: optimize checkpoint save boundaries (#307) | 2 个月前 | |
feat(tp): add PyTorch MC2 fused tensor-parallel Linear styles Enable Ascend AllGather+MatMul / MatMul+ReduceScatter fusion for TP+SP via MC2ColwiseParallel / MC2RowwiseParallel, with UT/ST coverage. Column backward uses fused MRS by default (MindFormers-aligned); ST shapes keep n_local>=256. Also speed up tensor_parallel ST scheduling. Keep pytest launchers free of torch/mindspore: move torchrun/msrun helpers to tests.common.distributed_launcher, AST-plan shard-ops suites without importing case modules, and stop hyper_parallel import in tests.*/__init__. | 2 个月前 | |
fix(dcp): pass storage metadata to safe open tests | 2 个月前 | |
!1134 merge fix_pack_to_cpu into master fix_pack_to_cpu Created-by: silkage_jiajia Commit-by: 宋佳琪 Merged-by: liuchongming74 Description: <!-- Thanks for sending a pull request! Here are some tips for you: 1) If this is your first time, please read our contributor guidelines: https://gitee.com/mindspore/mindspore/blob/master/CONTRIBUTING.md 2) If you want to contribute your code but don't know who will review and merge, please add label mindspore-assistant to the pull request, we will find and do it as soon as possible. --> **What type of PR is this?** <!-- 选择下面一种标签替换下方 /kind <label>，可选标签类型有： - /kind bug - /kind task - /kind feature - /kind refactor - /kind clean_code 如PR描述不符合规范，修改PR描述后需要/check-pr重新检查PR规范。 --> /kind bug ---- **What does this PR do / why do we need it**: 激活换出过程中，AsyncSaveOnCpu.pack_to_cpu 原先直接返回输入张量。即使 unpack_from_cpu 清空 swap storage，hook 保存的对象仍可能持有原张量，导致原张量无法及时释放并增加训练过程中的内存占用。 本次修改让 pack_to_cpu 返回与原张量对象分离、但共享底层数据的对象： - hyper_parallel/platform/torch/activation_checkpoint/activation_swap.py 使用 tensor.detach() 作为 packed 数据。 - hyper_parallel/platform/mindspore/activation_checkpoint/activation_swap.py 使用 tensor.data 作为 packed 数据。 - 覆盖无需换出、策略要求保存、当前未注册 swap group 以及正常换出等返回路径。 - 不改变 swap storage 管理、SwapTensor 注册逻辑、对外 API 和调用方式。 - 新增两个平台的回归测试，验证清理 swap storage 后原张量可以被回收，packed 数据仍然有效。 本次共修改 4 个文件，新增 71 行、删除 11 行。 ---- **Which issue(s) this PR fixes**: <!-- 注意：在下方 #号 后仅输入issue编号或SR/AR编号，粘贴issue链接无效。 如PR描述不符合规范，修改PR描述后需要/check-pr重新检查PR规范。 --> Fixes #https://gitcode.com/mindspore/org-issues/issues/43145 ---- **Test Plan and Test result：What scenarios were tested, and what were the verification results（Function, performance, reliability, etc.）**： 执行： python -m pytest -q tests/ut/platform/torch/activation_checkpoint/test_activation_swap.py tests/ut/platform/mindspore/activation_checkpoint/test_activation_swap.py 结果：15 passed, 1 skipped in 0.25s。 验证内容包括： - packed tensor 与原始张量不是同一对象。 - 清理 swap storage 后原始张量可以被垃圾回收。 - packed 数据仍保持有效，并能够正常解包。 - 两个平台的激活换出相关回归测试通过。 ---- **Self-checklist**：（**请自检，在[ ]内打上x，我们将检视你的完成情况，否则会导致pr无法合入**） - [x] **设计**：PR对应的方案已经经过Maintainer评审，方案检视意见均已答复并完成方案修改 - [x] **测试**：PR中的代码已有UT测试用例进行覆盖，新增测试用例已随本PR一并提交 - [x] **验证**：PR描述已包含本次Bugfix预期目标的详细验证结果 - [ ] **接口**：是否涉及对外接口变更，相应变更已得到接口评审组织的通过，API对应的注释信息已经刷新正确 - [ ] **文档**：是否涉及官网文档修改，如果涉及请及时提交资料到Doc仓 <!-- **Special notes for your reviewers**: --> <!-- - [ ] 是否导致无法前向兼容 --> <!-- - [ ] 是否涉及依赖的三方库变更 --> See merge request: mindspore/hyper-parallel!1134 | 1 个月前 | |
fix tests import error | 9 个月前 |