已关闭
[Feature]: 基于FSDP2后端训练MM大模型 #366
yeqm创建于  5月18日关闭于  20 天前
yeqm成员
5月18日 创建

提交提案之前,请先检索仓库内是否已有相同的提案,如已有请在同一提案中进行讨论。

💻 需求背景、当前现状、期望实现的功能内容、具体的设计方案、以及测试方案

基于MindSpeed MM开放仓库的FSDP2源码,补齐模型的端侧功能。
本期任务的具体信息如下:
(1)模型名称:Qwen3 VL-235B
(2) MindSpeed MM开放仓库的模型源码链接:
https://gitcode.com/Ascend/MindSpeed-MM/blob/master/examples/qwen3vl/finetune_qwen3vl_235B.sh
(3) 开发平台:Atlas 800T A2或者A3

一、任务交付件
本期任务为基于MindSpeed MM开放仓库代码进行功能扩展,请合入开发代码。将megatron-FSDP2后端的模型迁移到仓上纯FSDP2分支。主要开发点如下:
(1) 模型训练脚本和yaml参数配置
(2) 模型优化实现
特性:
需要适配仓上当前现有特性,如CP,EP,chunkloss,recompute,async activation offload等,在开启特性后能体现出显存优化或性能优化,并确保精度对齐

二、验收标准:
1)精度/性能要求
精度:
对比megatron-FSDP2后端训练2000步平均误差小于2%
性能:
不低于megatron-FSDP2后端性能
2)实践文档:
开发模型实践1篇,性能优化实践1篇
3)任务完成标准
本次任务完成标准为:
精度/性能(根据实际要求)达标,PR完成合入,实践文档提交到仓库issue。

PR 合入
本地完成测试验证后,向MindSpeed-MM的main分支发起PR。

对接人
待补充

欢迎加入社区,感谢您对社区的贡献 🎉!

替代方案

补充说明

欢迎加入社区,感谢您对社区的贡献 🎉!

提交提案之前,请先检索仓库内是否已有相同的提案,如已有请在同一提案中进行讨论。

💻 需求背景、当前现状、期望实现的功能内容、具体的设计方案、以及测试方案

基于MindSpeed MM开放仓库的FSDP2源码,补齐模型的端侧功能。
本期任务的具体信息如下:
(1)模型名称:Qwen3 VL-235B
(2) MindSpeed MM开放仓库的模型源码链接:
https://gitcode.com/Ascend/MindSpeed-MM/blob/master/examples/qwen3vl/finetune_qwen3vl_235B.sh
(3) 开发平台:Atlas 800T A2或者A3

一、任务交付件
本期任务为基于MindSpeed MM开放仓库代码进行功能扩展,请合入开发代码。将megatron-FSDP2后端的模型迁移到仓上纯FSDP2分支。主要开发点如下:
(1) 模型训练脚本和yaml参数配置
(2) 模型优化实现

二、验收标准:
1)精度/性能要求
精度:
对比megatron-FSDP2后端训练2000步平均误差小于2%
性能:
不低于megatron-FSDP2后端性能
2)实践文档:
开发模型实践1篇,性能优化实践1篇
3)任务完成标准
本次任务完成标准为:
精度/性能(根据实际要求)达标,PR完成合入,实践文档提交到仓库issue。

PR 合入
本地完成测试验证后,向MindSpeed-MM的main分支发起PR。

对接人
待补充

欢迎加入社区,感谢您对社区的贡献 🎉!

替代方案

补充说明

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
Yyeqm成员
5月18日 添加了label:feature
yeqm成员
5月18日 评论:

👋 您好,欢迎向 MindSpeed MM 提交 Issue!

我们已收到您的反馈,感谢你对开源社区的支持。🎉

📅 处理时效: 维护团队将在 24 小时内 查看并回复您的问题(工作日)。

🚨 紧急联系: 如果您的问题非常紧急,可通过以下方式联系我们:

💬 微信: WeChat

请确保 Issue 描述清晰,包含复现步骤和日志,这将帮助我们更快定位问题。谢谢!

likedislike
Ronald1995
6月11日 评论:

/label add good-first-issue

likedislike
ascend-robotascend-robot成员
6月11日 添加了label:good-first-issue
wrath_999
6月25日 评论:

你好,想认领这个任务

likedislike
Patrick2916
6月25日 评论:

你好,我想认领这个任务

likedislike
Ronald1995
6月26日 评论:

你好,想认领这个任务

@wrath_999

欢迎认领任务,请参考https://gitcode.com/Ascend/MindSpeed-MM/issues/356 社区任务池明确该任务的:

  • 完成的截止日期
  • 开发进展反馈
  • 微信答疑群
  • 任务交付注意事项

等信息。如果您同时认领了多项任务,但无法都能进行投入,可以在部分任务中回复退出.

麻烦您加入到对应微信群,群备注名修改为"社区任务+您的gitcode账号", 后续有相关消息和问题都可以在微信群咨询答疑。 等您加入到微信群后,我这边会在社区任务池里面登记任务责任人。

likedislike
Ronald1995
6月26日 评论:

你好,想认领这个任务

@yuehengbb

@Patrick2916

欢迎参加认领社区任务,当前一个任务只分配一个开发,根据评论认领时间确定,您可以后续观察该任务是否被释放退出,或者认领其他任务 https://gitcode.com/org/Ascend/discussions/4

likedislike
gcw_MTeIQk9o
6月29日 评论:

认领这个任务

likedislike
ascend-robotascend-robot成员
7月3日 关联了看板:MindStudio ISSUE管理
Robin
Robin
7月4日 评论:

认领这个任务

likedislike
wrath_999
7月6日 评论:

20260706 进展更新
当前已完成任务需求拆解和实现思路梳理。已申请资源,目前在配置环境中。
下一阶段,完成基本环境配置后,准备训练数据和模型。

likedislike
young256young256成员
7月8日 关联了里程碑:MindSpeed 26.2.0
wrath_999
7月14日 评论:

20260714 进展更新
云开发资源紧张,原环境配置需删除重新申请单卡资源。本周进展与上周相同。

likedislike
wrath_999
7月28日 评论:

20260728 进展更新
云开发资源紧张,正在撰写训练配置脚本,希望可以增加开发资源

likedislike
且奏长歌
且奏长歌成员
8月3日 评论:

@wrath_999 请您在完成任务后填表登记:MM社区任务管理 https://www.kdocs.cn/l/cdATVWqoh385

likedislike
chenchen
chenchen
8月11日 评论:

认领这个任务

likedislike
lhj628
8月19日 评论:

申请认领这个任务,可在本周完成

likedislike
且奏长歌
且奏长歌成员
8月19日 评论:

@wrath_999 开发者您好,您上次更新的时间在22天之前,请问您代码开发进度怎么样了呢,规则上来说7天没有进展的话任务向下一位顺延,如果是云开发资源可直接进群反馈,这样解决的速度会快很多,明天如果没有回复的话,任务就顺延至后边的同学了哦,感谢您对MIndSpeed-MM的关注,同时Q3任务也已开放,欢迎领取

likedislike
且奏长歌
且奏长歌成员
8月19日 评论:

MindSpeed-MM 邀请您参加 2026-08-20 16:00 召开的WeLink会议

会议主题:MindSpeed MM 社区例会

会议内容:
1.社区关键issue解答
2.代码合入评审

会议链接:https://meeting.huaweicloud.com:36443/#/j/980887584

会议纪要&签到链接:https://etherpad.ascend.osinfra.cn/p/sig-MindSpeed-MM

likedislike
且奏长歌
且奏长歌成员
8月21日 评论:

@wrath_999 默认您已退出当前任务,为保证任务的进度和其他开发者的参与,我们将任务顺延给下一位开发者,感谢您对MindSpeed MM的关注。

likedislike
且奏长歌
且奏长歌成员
8月21日 评论:

@lhj628 根据对后续开发者已认领任务数量的评定,由您来认领该任务,请参考社区任务池https://gitcode.com/Ascend/MindSpeed-MM/issues/356明确该任务的:

完成的截止日期
开发进展反馈
微信答疑群
任务交付注意事项
等信息。如果您同时认领了多项任务,但无法都能进行投入,可以在部分任务中回复退出.

麻烦您加入到对应微信群,群备注名修改为"社区任务+您的gitcode账号", 后续有相关消息和问题都可以在微信群咨询答疑。 等您加入到微信群后,我这边会在社区任务池里面登记任务责任人。

likedislike
Yyeqm成员
8月21日 修改了issue 的描述
lhj628
8月22日 评论:

@WendongPang 好的,我会尽快完成任务

likedislike
且奏长歌且奏长歌成员
20 天前 将 lhj628 设为负责人
且奏长歌且奏长歌成员
20 天前 issue状态由 TODO 改变为 DONE
且奏长歌且奏长歌成员
20 天前 关闭了 issue
ascend-robotascend-robot成员
20 天前 添加了label:resolved
且奏长歌且奏长歌成员
18 天前 关联了里程碑:MindSpeed 26.3.0