已开启
[Feature]: 基于FSDP2后端训练MM大模型 #372
yeqm创建于  5月18日
yeqm成员
5月18日 创建

提交提案之前,请先检索仓库内是否已有相同的提案,如已有请在同一提案中进行讨论。

💻 需求背景、当前现状、期望实现的功能内容、具体的设计方案、以及测试方案

基于MindSpeed MM开放仓库的FSDP2源码,补齐模型的端侧功能。

本期任务的具体信息如下:
(1)模型名称:wan2.2-T2V-14B
(2) 模型源码链接:
https://github.com/Wan-Video/Wan2.2
(3) 开发平台:Atlas 800T A2或者A3

一、任务交付件
本期任务为基于MindSpeed MM开放仓库代码进行功能扩展,请合入开发代码。将开源模型迁移到仓上纯FSDP2分支。主要开发点如下:
(1) 模型训练脚本和yaml参数配置
(2) 模型优化实现
特性:
需要适配仓上当前现有特性,如CP,EP,chunkloss,recompute,async activation offload等,在开启特性后能体现出显存优化或性能优化,并确保精度对齐
(3)参考实现:https://github.com/modelscope/DiffSynth-Studio/blob/main/examples/wanvideo/model_training/full/Wan2.2-T2V-A14B.sh

二、验收标准:
1)精度/性能要求
精度:
对比参考实现训练5000步平均误差小于1%
性能:
不低于当前仓上megatron-FSDP2后端性能
2)实践文档:
开发模型实践1篇,性能优化实践1篇
3)任务完成标准
本次任务完成标准为:
精度/性能(根据实际要求)达标,PR完成合入,实践文档提交到仓库issue。

PR 合入
本地完成测试验证后,向MindSpeed-MM的main分支发起PR。

对接人
待补充

欢迎加入社区,感谢您对社区的贡献 🎉!

替代方案

补充说明

欢迎加入社区,感谢您对社区的贡献 🎉!

提交提案之前,请先检索仓库内是否已有相同的提案,如已有请在同一提案中进行讨论。

💻 需求背景、当前现状、期望实现的功能内容、具体的设计方案、以及测试方案

基于MindSpeed MM开放仓库的FSDP2源码,补齐模型的端侧功能。

本期任务的具体信息如下:
(1)模型名称:wan2.2-T2V-14B
(2) 模型源码链接:
https://github.com/Wan-Video/Wan2.2
(3) 开发平台:Atlas 800T A2或者A3

一、任务交付件
本期任务为基于MindSpeed MM开放仓库代码进行功能扩展,请合入开发代码。将开源模型迁移到仓上纯FSDP2分支。主要开发点如下:
(1) 模型训练脚本和yaml参数配置
(2) 模型优化实现
(3)参考实现:https://github.com/modelscope/DiffSynth-Studio/blob/main/examples/wanvideo/model_training/full/Wan2.2-T2V-A14B.sh

二、验收标准:
1)精度/性能要求
精度:
对比参考实现训练5000步平均误差小于1%
性能:
不低于当前仓上megatron-FSDP2后端性能
2)实践文档:
开发模型实践1篇,性能优化实践1篇
3)任务完成标准
本次任务完成标准为:
精度/性能(根据实际要求)达标,PR完成合入,实践文档提交到仓库issue。

PR 合入
本地完成测试验证后,向MindSpeed-MM的main分支发起PR。

对接人
待补充

欢迎加入社区,感谢您对社区的贡献 🎉!

替代方案

补充说明

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
Yyeqm成员
5月18日 添加了label:feature
yeqm成员
5月18日 评论:

👋 您好,欢迎向 MindSpeed MM 提交 Issue!

我们已收到您的反馈,感谢你对开源社区的支持。🎉

📅 处理时效: 维护团队将在 24 小时内 查看并回复您的问题(工作日)。

🚨 紧急联系: 如果您的问题非常紧急,可通过以下方式联系我们:

💬 微信: WeChat

请确保 Issue 描述清晰,包含复现步骤和日志,这将帮助我们更快定位问题。谢谢!

likedislike
Ronald1995
6月11日 评论:

/label add good-first-issue

likedislike
ascend-robotascend-robot成员
6月11日 添加了label:good-first-issue
samulenzz
6月17日 评论:

认领这个任务

likedislike
wrath_999
6月25日 评论:

认领这个任务

likedislike
Ronald1995
6月26日 评论:

认领这个任务

@samulenzz

欢迎认领任务,请参考https://gitcode.com/Ascend/MindSpeed-MM/issues/356 社区任务池明确该任务的:

  • 完成的截止日期
  • 开发进展反馈
  • 微信答疑群
  • 任务交付注意事项

等信息。如果您同时认领了多项任务,但无法都能进行投入,可以在部分任务中回复退出.

麻烦您加入到对应微信群,群备注名修改为"社区任务+您的gitcode账号", 后续有相关消息和问题都可以在微信群咨询答疑。 等您加入到微信群后,我这边会在社区任务池里面登记任务责任人。

likedislike
Ronald1995
6月26日 评论:

认领这个任务

@wrath_999

欢迎参加认领社区任务,当前一个任务只分配一个开发,根据评论认领时间确定,您可以后续观察该任务是否被释放退出,或者认领其他任务 https://gitcode.com/org/Ascend/discussions/4

likedislike
gcw_MTeIQk9o
6月29日 评论:

认领这个任务

likedislike
samulenzz
6月29日 评论:

6.29进展更新:已熟悉wan2.2模型结构与代码,待进行模型迁移

likedislike
ascend-robotascend-robot成员
7月3日 关联了看板:MindStudio ISSUE管理
Robin
Robin
7月4日 评论:

认领这个任务

likedislike
samulenzz
7月7日 评论:

7.7进展更新:模型迁移开发中

likedislike
young256young256成员
7月8日 关联了里程碑:MindSpeed 26.2.0
samulenzz
7月16日 评论:

7.16进展更新:模型迁移开发50%

likedislike
samulenzz
7月20日 评论:

7.20进展更新:模型迁移开发60%

likedislike
samulenzz
7月26日 评论:

7.21进展更新:模型迁移开发70%

likedislike
且奏长歌
且奏长歌成员
8月3日 评论:

@samulenzz 请您在完成任务后填表登记:MM社区任务管理 https://www.kdocs.cn/l/cdATVWqoh385

likedislike
samulenzz
8月3日 评论:

8.3进展更新:模型迁移开发80%,验证中

likedislike
samulenzz
8月10日 评论:

8.10进展更新:已提初版代码,验证中

likedislike
samulenzz
8月17日 评论:

8.17进展更新:已提初版代码,验证中

likedislike
且奏长歌
且奏长歌成员
8月19日 评论:

@samulenzz 您好!

MindSpeed-MM 邀请您参加 2026-08-20 16:00 召开的WeLink会议

会议主题:MindSpeed MM 社区例会

会议内容:
1.社区关键issue解答
2.代码合入评审

会议链接:https://meeting.huaweicloud.com:36443/#/j/980887584

会议纪要&签到链接:https://etherpad.ascend.osinfra.cn/p/sig-MindSpeed-MM

likedislike
Yyeqm成员
8月21日 修改了issue 的描述
samulenzz
10 天前 评论:

9.13进展更新:根据评审会意见修改代码中,预计下周完成

likedislike
且奏长歌且奏长歌成员
8 天前 关联了里程碑:MindSpeed 26.3.0
Andy0907
2 天前 评论:

认领这个任务

likedislike