已合并
【doc】【core_r0.8.0】moe fb overlap doc #2148
harygo2创建于 2025年4月1日
【doc】【core_r0.8.0】moe fb overlap doc #2148
已合并
从refs/pull/2148/head合入到core_r0.8.0
H
harygo2
2025年4月1日
2025年4月1日
Pull Request已成功合入, 合并人@
（感谢 harygo2 的贡献）2025年4月1日 添加了
stat/needs-squash
标签
2025年4月1日 添加了
ascend-cla/yes
标签
JialiZheng
2025年4月1日 评论：
2025年4月1日 评论：
/lgtm
docs/features/megatron_moe/megatron-moe-fb-overlap.md
@@ -0,0 +30,4 @@
30+### Warmup/Cooldown阶段A2A自掩盖
31+在流水线Warmup/Cooldown阶段，仅存在同microbatch的正向/反向计算，因此无法使用跨microbatch间的A2A通信掩盖方法。为了进一步提升掩盖比例，在warmup和cooldown阶段使用了层内的自掩盖：正向使用共享专家的计算掩盖dispatch通信，反向使用共享专家的反向计算掩盖combine通信，使用路由专家的dw计算掩盖dispatch通信。
32+
33+### 基于DualpipeV和Megatron VPP的跨microbatch间A2A通信掩盖
2025年4月3日 添加了
ci-pipeline-running
标签
atlasaccount1
2025年4月3日 评论：
2025年4月3日 评论：
已进入队列，后续无须再重复触发!
2025年4月3日 添加了
ci-pipeline-failed
标签
2025年4月3日 添加了
ci-pipeline-running
标签
2025年4月3日 移除了
ci-pipeline-running
标签
atlasaccount1
2025年4月3日 评论：
2025年4月3日 评论：
预计等待时长:12.00min,排队位置:1
2025年4月3日 移除了
ci-pipeline-failed
标签
2025年4月3日 移除了
ci-pipeline-running
标签
atlasaccount1
2025年4月3日 评论：
2025年4月3日 评论：
✅ 流水线任务触发成功，正在执行，请稍候。 任务链接[a61b7085b0a242b187ac75231ccb626a]
2025年4月3日 添加了
ci-pipeline-running
标签
atlasaccount1
2025年4月3日 评论：
2025年4月3日 评论：
get-log
atlasaccount1
2025年4月3日 评论：
2025年4月3日 评论：
checklist流水线任务已触发，正在执行，请稍候。任务链接[43a62fe08e714b7796a8c469c005c7a4]
2025年4月3日 添加了
ci-pipeline-passed
标签
2025年4月3日 移除了
ci-pipeline-running
标签
2025年4月3日 添加了
approved
标签
zhao-yifan27
2025年4月3日 评论：
2025年4月3日 评论：
/lgtm
2025年4月3日 添加了
lgtm
标签
2025年4月3日 合并了Pull Request（通过 API 合并）