Star138
194
代码
代码
Issues272
Pull Requests251
项目讨论
Wiki
分析
Star138
194
已合并
[fix][fully_shard] adjust prefetch, unshard position #707
MengXY107创建于 5月28日
[fix][fully_shard] adjust prefetch, unshard position #707
已合并
MengXY107创建于 5月28日
从Meng107/hyper-parallelfsdp_change_prefetch_unshard合入到mindspore/hyper-parallelmaster
MengXY107
MengXY107成员
5月28日

What type of PR is this?

/kind bug

What does this PR do / why do we need it:
调整fully_shard中forward_pre_hook, backward_pre_hook中prefetch和unshard的顺序。
当前如果先prefetch再unshard。由于再一条流上，对于第零层来说，会影响第零层的计算和第一层的参数的预取。

Which issue(s) this PR fixes:

Fixes #11

Test Plan and Test result：What scenarios were tested, and what were the verification results（Function, performance, reliability, etc.）：

Self-checklist:（请自检，在[ ]内打上x，我们将检视你的完成情况，否则会导致pr无法合入）

likedislike
Pull Request已成功合入, 合并人@MindSpore-Bot
（感谢 MengXY107 的贡献）
MengXY107MengXY107成员
5月28日 创建了 pull request，commit 71c735d3
MindSpore-BotMindSpore-Bot成员
5月28日 添加了label：mindspore-cla/yes
司小南（机器人）
司小南（机器人）成员
5月28日 评论：

@Meng107, 当前/check-pr未通过，原因如下:

以下issue检查项未通过:
Pull Request未关联issue

请修改好上述检查错误后，重新使用/check-pr触发检查。

likedislike
MindSpore-BotMindSpore-Bot成员
5月28日 添加了label：no-pass-all-review
MindSpore-Bot
MindSpore-Bot成员
5月28日 评论：

Notice

The PR needs 1 assignees to review. 1 does not review. if all are passed, please comment /check-pr to try merge the PR. 😄

likedislike
此处折叠了103条消息 查看更多
司小南（机器人）
司小南（机器人）成员
6月9日 评论：
Project Name Build_Stage Build Result Details(Full/Incremental) Detail
Coverage Line Coverage ✅ SUCCESS 55%/85% Link
likedislike
司小南（机器人）
司小南（机器人）成员
6月9日 评论：
Project Name Build_Stage Build Result Details
Hyper-parallel_Atomgit_Gate - ✅ SUCCESS 3726
likedislike
司小南（机器人）司小南（机器人）成员
6月9日 删除了label：ci-pipeline-running
司小南（机器人）司小南（机器人）成员
6月9日 添加了label：ci-pipeline-passed
MindSpore-BotMindSpore-Bot成员
6月9日 合入了pull request，合并节点 SHA：71e8ee29760faa62ecf200c761aa94565b26ff96