已关闭
Megatron 静态通信 patch 的 shape 接收缓冲区固定写死为 4 维,导致接收 3D tensor 时读入脏数据引发超大内存申请的伪 OOM #1897
simon_jia创建于 9月23日关闭于 28 天前
leizhenzhen23
9月23日 评论:
9月23日 评论:
👋 您好,欢迎向 MindSpeed-LLM 提交 Issue!
我们已收到您的反馈,感谢你对开源社区的支持。🎉
📅 处理时效: 维护团队将在 24 小时内 查看并回复您的问题(工作日)。
🔍 自助查询: 在等待期间,建议您先查阅社区文档,可能已有解决方案:
🚨 紧急联系: 如果您的问题非常紧急,可通过以下方式联系我们:
📧 邮箱:[ leizhenzhen4@huawei.com ]
请确保 Issue 描述清晰,包含复现步骤和日志,这将帮助我们更快定位问题。谢谢!


9月23日 添加了label:triaged
28 天前 添加了label:resolved
在包含动态或非固定维度 activation(如 DeepSeek-V4 开启 MHC 或包含 3D/4D 混合张量)的 PP 场景下,verl 调用的 Megatron 静态通信 patch 将接收 shape 缓冲区硬编码写死为 4 维。发送端发送 3D tensor(3个维度值)时,接收端仍强制接收 4 个整数,导致第 4 个维度读入未初始化的随机脏数据。随后 torch.empty() 传入异常巨大的维度数值,引发申请超过 1EB 内存的伪 OOM 崩溃。此外,MindSpeed-LLM 因补丁初始化链路参透时机不对及特征列表缺失 VariableSequenceLengthFeature 注册,导致无法自动切至按实际维度传输 shape 的动态通信逻辑。