已合并
[bugfix] fix pp save and load ckpt #8429
[bugfix] fix pp save and load ckpt #8429
已合并
yule100创建于 6月17日
yule100成员
6月17日

https://gitcode.com/mindspore/mindformers/issues/2359

修改描述 (Description)

修复pp场景下 权重保存的获取的meta信息不完整的问题

修改类型 (Type of Change)

测试结果 (Test Results)

相同策略续训
dp2tp2pp4 vpp2 续训自验结果
image.png
dp4pp4 vpp2 续训自验结果
image.png
单卡自验
image.png

不同策略续训
dp4pp4加载单卡权重
image.png
单卡加载dp4pp4权重
image.png

去冗余
同策略
dp4pp4 vpp2 续训自验结果
image.png

检查清单 (Checklist)

likedislike
Pull Request已成功合入, 合并人@MindSpore-Bot
(感谢 yule100 的贡献)
Yyule100成员
6月17日 创建了 pull request,commit 2dc35e4a
MindSpore-BotMindSpore-Bot成员
6月17日 添加了label:mindspore-cla/yes
司小南(机器人)
司小南(机器人)成员
6月17日 评论:

@yule100, 当前/check-pr未通过,原因如下:

以下Pull Request描述检查项未通过:
存在不符合模板的选项: Bug 修复 (Bug fix)
存在不符合模板的选项: 新特性 (New feature)
存在不符合模板的选项: 文档更新 (Documentation update)
存在不符合模板的选项: 代码重构 (Refactoring)
存在不符合模板的选项: 性能优化 (Performance improvement)
存在不符合模板的选项: 其他 (Other)
存在不符合模板的选项: 我已自验过该功能/修复 (Self-checked)
存在不符合模板的选项: 我已通过了本地的单元测试 (Passed local UTs)
存在不符合模板的选项: (如适用) 我已更新了对应文档 (Updated documentation)
存在不符合模板的选项: (如适用) 我已添加了新的测试用例 (Added new tests)
部分检查项缺失 请重新使用模板
模板中'Test Plan and Test Result' 信息为空,请补充对应信息。

以下issue检查项未通过:
Pull Request未关联issue

请修改好上述检查错误后,重新使用/check-pr触发检查。

likedislike
司小南(机器人)司小南(机器人)成员
6月17日 添加了label:pr-check-fail
Sunshine_Youngster
Sunshine_Youngster成员6月17日进行代码检视2
mindformers/pynative/callback/checkpoint_callback.py
已过期
@@ -159,2 +157,2 @@
159- model.parameters_dict().keys())) if self.no_save_optim else None
160- ) if get_real_group_size() > 1 else None
157+ for m in model:
158+ self.sharded_tensor_metas = get_all_sharded_tensor(
Sunshine_Youngster
Sunshine_Youngster6月17日评论:

此处应该对每个stage的小模型参数进行收集,不能直接赋函数返回值,而应该update。
建议改为self.sharded_tensor_metas.update(函数返回值)

likedislike
System
系统消息系统
6月17日 评论:

changed this line on dec5de19 view diff detail

此处折叠了194条消息 查看更多
niujunhao成员
6月18日 评论:

/lgtm

likedislike
MindSpore-BotMindSpore-Bot成员
6月18日 添加了label:lgtm-alpha-junh
MindSpore-Bot
MindSpore-Bot成员
6月18日 评论:

Review Code Feedback

  • The label lgtm-alpha-junh was added to this pull request. It means that alpha-junh reviewed the code changes. 👋
Tips
  • If this pull request is not merged while all conditions are met, comment /check-pr to try again. 😄
likedislike
MindSpore-BotMindSpore-Bot成员
6月18日 关闭了关联的issue
MindSpore-BotMindSpore-Bot成员
6月18日 合入了pull request,合并节点 SHA:b1ff925f536f4eabee7743946562724eb25f7135