已合并
[bugfix] fix pp save and load ckpt #8429
yule100创建于 6月17日
[bugfix] fix pp save and load ckpt #8429
已合并
Pull Request已成功合入, 合并人@MindSpore-Bot
(感谢 yule100 的贡献)6月17日 添加了label:mindspore-cla/yes
司小南(机器人)
6月17日 评论:
6月17日 评论:
@yule100, 当前/check-pr未通过,原因如下:
以下Pull Request描述检查项未通过:
存在不符合模板的选项: Bug 修复 (Bug fix)
存在不符合模板的选项: 新特性 (New feature)
存在不符合模板的选项: 文档更新 (Documentation update)
存在不符合模板的选项: 代码重构 (Refactoring)
存在不符合模板的选项: 性能优化 (Performance improvement)
存在不符合模板的选项: 其他 (Other)
存在不符合模板的选项: 我已自验过该功能/修复 (Self-checked)
存在不符合模板的选项: 我已通过了本地的单元测试 (Passed local UTs)
存在不符合模板的选项: (如适用) 我已更新了对应文档 (Updated documentation)
存在不符合模板的选项: (如适用) 我已添加了新的测试用例 (Added new tests)
部分检查项缺失 请重新使用模板
模板中'Test Plan and Test Result' 信息为空,请补充对应信息。
以下issue检查项未通过:
Pull Request未关联issue
请修改好上述检查错误后,重新使用/check-pr触发检查。


6月17日 添加了label:pr-check-fail
mindformers/pynative/callback/checkpoint_callback.py
已过期
@@ -159,2 +157,2 @@
159- model.parameters_dict().keys())) if self.no_save_optim else None
160- ) if get_real_group_size() > 1 else None
157+ for m in model:
158+ self.sharded_tensor_metas = get_all_sharded_tensor(
此处应该对每个stage的小模型参数进行收集,不能直接赋函数返回值,而应该update。
建议改为self.sharded_tensor_metas.update(函数返回值)


此处折叠了194条消息 查看更多
6月18日 添加了label:lgtm-alpha-junh
MindSpore-Bot
6月18日 评论:
6月18日 评论:
6月18日 关闭了关联的issue
6月18日 合入了pull request,合并节点 SHA:b1ff925f536f4eabee7743946562724eb25f7135
关联 Issue (Related Issue)
https://gitcode.com/mindspore/mindformers/issues/2359
修改描述 (Description)
修复pp场景下 权重保存的获取的meta信息不完整的问题
修改类型 (Type of Change)
测试结果 (Test Results)
相同策略续训



dp2tp2pp4 vpp2 续训自验结果
dp4pp4 vpp2 续训自验结果
单卡自验
不同策略续训


dp4pp4加载单卡权重
单卡加载dp4pp4权重
去冗余

同策略
dp4pp4 vpp2 续训自验结果
检查清单 (Checklist)