Checklist

• 1. 我已经搜索过相关问题，但没有得到预期的帮助.
• 2. 最新版本中该错误尚未修复.
• 3. 请注意，如果您提交的Bug描述缺少相应的环境信息和最小可复现的demo，我们将很难复现和解决该问题，从而降低收到反馈的可能性，甚至该问题将被关闭.

🐞 问题详细描述

DS官方描述

megatron实现：

mindformers实现：

详细的环境信息描述

NA

其他辅助信息

NA

版本信息

NA

Thanks for contributing 🎉!