已合并
trainer_recompute #1132
songjiaqi创建于 8月7日
trainer_recompute #1132
已合并
Pull Request已成功合入, 合并人@MindSpore-Bot
(感谢 songjiaqi 的贡献)8月7日 virtual merging failed, update merge request[project_id: 8714117, iid: 1132, target_commit_sha: 5af47489ecd310db201b64f63021b46b4db17df2], message: Conflict detected
8月7日 virtual merging failed, update merge request[project_id: 8714117, iid: 1132, target_commit_sha: 5af47489ecd310db201b64f63021b46b4db17df2], message: Conflict detected
8月7日 审查状态已重置,审查人: changzherui1,yao_yf
8月7日 virtual merging failed, update merge request[project_id: 8714117, iid: 1132, target_commit_sha: 5af47489ecd310db201b64f63021b46b4db17df2], message: Conflict detected
8月7日 virtual merging failed, update merge request[project_id: 8714117, iid: 1132, target_commit_sha: 5af47489ecd310db201b64f63021b46b4db17df2], message: Conflict detected
此处折叠了92条消息 查看更多
8月14日 添加了label:ci-pipeline-running
司小南(机器人)
8月14日 评论:
8月14日 评论:
| Project Name | Build_Stage | Build Result | Details |
|---|---|---|---|
| Hyper-parallel_Atomgit_Gate | - | ✅ SUCCESS | 6959 |


8月14日 删除了label:ci-pipeline-running
8月14日 添加了label:ci-pipeline-passed
8月14日 合入了pull request,合并节点 SHA:be4c89aec9b5f06a47a9cc91b31dbd8651c42016
What type of PR is this?
/kind feature
What does this PR do / why do we need it:
为 Trainer 增加统一的 Activation Checkpointing 配置和执行流程,支持
off、full、selective三种模式,降低大模型训练的激活显存占用。主要变更:
计算密集型算子、通信算子及可选扩展算子的策略配置
from_pretrained、模型构建和 Trainer 流程中透传activation_checkpoint配置。sharding plan -> activation checkpointing -> torch.compile -> FSDP2的顺序应用相关处理,保证 checkpoint wrapper 位于 TP/EP 转换之后及 FSDP 边界之内。gradient_checkpointing配置迁移为activation_checkpoint.mode。Which issue(s) this PR fixes:
Fixes #
Test Plan and Test result:What scenarios were tested, and what were the verification results(function, performance, reliability, etc.):
新增并更新相关单元测试,覆盖:
off、full、selective配置解析及禁用行为。本次提交包含测试用例更新,但当前未在本地执行完整测试套件,建议在 CI 中完成 PyTorch、MindSpore 及分布式场景验证。
Self-checklist:(请自检,在[ ]内打上√,我们将检视你的完成情况,否则会导致pr无法合入)