已开启
[Feature]: 基于FSDP2后端训练MM大模型 #367
yeqm创建于  5月18日
yeqm成员
5月18日 创建

提交提案之前,请先检索仓库内是否已有相同的提案,如已有请在同一提案中进行讨论。

💻 需求背景、当前现状、期望实现的功能内容、具体的设计方案、以及测试方案

基于MindSpeed MM开放仓库的FSDP2源码,补齐模型的端侧功能。
本期任务的具体信息如下:
(1)模型名称:Qwen3 VL-30B-lora
(2) MindSpeed MM开放仓库的模型源码链接:
https://gitcode.com/Ascend/MindSpeed-MM/blob/master/examples/qwen3vl/finetune_lora_qwen3vl_30B.sh
(3) 开发平台:Atlas 800T A2或者A3

一、任务交付件
本期任务为基于MindSpeed MM开放仓库代码进行功能扩展,请合入开发代码。将megatron-FSDP2后端的模型迁移到仓上纯FSDP2分支。主要开发点如下:
(1) 模型训练脚本和yaml参数配置
(2) 模型优化实现
特性:
需要适配仓上当前现有特性,如CP,EP,chunkloss,recompute,async activation offload等,在开启特性后能体现出显存优化或性能优化,并确保精度对齐

二、验收标准:
1)精度/性能要求
精度:
对比megatron-FSDP2后端训练2000步平均误差小于2%
性能:
不低于megatron-FSDP2后端性能
2)实践文档:
开发模型实践1篇,性能优化实践1篇
3)任务完成标准
本次任务完成标准为:
精度/性能(根据实际要求)达标,PR完成合入,实践文档提交到仓库issue。

PR 合入
本地完成测试验证后,向MindSpeed-MM的main分支发起PR。

对接人
待补充

欢迎加入社区,感谢您对社区的贡献 🎉!

替代方案

补充说明

欢迎加入社区,感谢您对社区的贡献 🎉!

提交提案之前,请先检索仓库内是否已有相同的提案,如已有请在同一提案中进行讨论。

💻 需求背景、当前现状、期望实现的功能内容、具体的设计方案、以及测试方案

基于MindSpeed MM开放仓库的FSDP2源码,补齐模型的端侧功能。
本期任务的具体信息如下:
(1)模型名称:Qwen3 VL-30B-lora
(2) MindSpeed MM开放仓库的模型源码链接:
https://gitcode.com/Ascend/MindSpeed-MM/blob/master/examples/qwen3vl/finetune_lora_qwen3vl_30B.sh
(3) 开发平台:Atlas 800T A2或者A3

一、任务交付件
本期任务为基于MindSpeed MM开放仓库代码进行功能扩展,请合入开发代码。将megatron-FSDP2后端的模型迁移到仓上纯FSDP2分支。主要开发点如下:
(1) 模型训练脚本和yaml参数配置
(2) 模型优化实现

二、验收标准:
1)精度/性能要求
精度:
对比megatron-FSDP2后端训练2000步平均误差小于2%
性能:
不低于megatron-FSDP2后端性能
2)实践文档:
开发模型实践1篇,性能优化实践1篇
3)任务完成标准
本次任务完成标准为:
精度/性能(根据实际要求)达标,PR完成合入,实践文档提交到仓库issue。

PR 合入
本地完成测试验证后,向MindSpeed-MM的main分支发起PR。

对接人
待补充

欢迎加入社区,感谢您对社区的贡献 🎉!

替代方案

补充说明

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
Yyeqm成员
5月18日 添加了label:feature
yeqm成员
5月18日 评论:

👋 您好,欢迎向 MindSpeed MM 提交 Issue!

我们已收到您的反馈,感谢你对开源社区的支持。🎉

📅 处理时效: 维护团队将在 24 小时内 查看并回复您的问题(工作日)。

🚨 紧急联系: 如果您的问题非常紧急,可通过以下方式联系我们:

💬 微信: WeChat

请确保 Issue 描述清晰,包含复现步骤和日志,这将帮助我们更快定位问题。谢谢!

likedislike
Ronald1995
6月11日 评论:

/label add good-first-issue

likedislike
ascend-robotascend-robot成员
6月11日 添加了label:good-first-issue
gcw_C4359EFc
6月25日 评论:

申请认领该任务

likedislike
Patrick2916
6月25日 评论:

你好,我想认领这个任务

likedislike
cartes1us
cartes1us
6月25日 评论:

你好,任务认领

likedislike
Ronald1995
6月26日 评论:

申请认领该任务

@gcw_C4359EFc

欢迎认领任务,请参考https://gitcode.com/Ascend/MindSpeed-MM/issues/356 社区任务池明确该任务的:

  • 完成的截止日期
  • 开发进展反馈
  • 微信答疑群
  • 任务交付注意事项

等信息。如果您同时认领了多项任务,但无法都能进行投入,可以在部分任务中回复退出.

麻烦您加入到对应微信群,群备注名修改为"社区任务+您的gitcode账号", 后续有相关消息和问题都可以在微信群咨询答疑。 等您加入到微信群后,我这边会在社区任务池里面登记任务责任人。

likedislike
Ronald1995
6月26日 评论:

你好,任务认领

@kill2013110

@Patrick2916

欢迎参加认领社区任务,当前一个任务只分配一个开发,根据评论认领时间确定,您可以后续观察该任务是否被释放退出,或者认领其他任务 https://gitcode.com/org/Ascend/discussions/4

likedislike
Ronald1995
6月26日 评论:

你好,任务认领

@kill2013110

@Patrick2916

欢迎参加认领社区任务,当前一个任务只分配一个开发,根据评论认领时间确定,您可以后续观察该任务是否被释放退出,或者认领其他任务 https://gitcode.com/org/Ascend/discussions/4

likedislike
gcw_MTeIQk9o
6月29日 评论:

认领这个任务

likedislike
ascend-robotascend-robot成员
7月3日 关联了看板:MindStudio ISSUE管理
young256young256成员
7月8日 关联了里程碑:MindSpeed 26.2.0
且奏长歌
且奏长歌成员
8月3日 评论:

@Patrick2916
感谢您此前对该任务的关注与支持!
由于上一位认领者暂未继续推进该任务,目前该任务已重新开放。根据此前的候选顺序,我们希望优先邀请您参与该任务。
如您目前仍有意愿认领,请在3个工作日内回复确认,并简要说明预计开始时间或初步推进计划。确认后,我们将为您保留任务,并提供必要的背景资料和支持。
如您近期时间安排不便,也请直接告知,我们将继续顺延联系其他候选贡献者,不会影响您后续参与其他社区任务。
再次感谢您对昇腾开源社区的关注,期待与您合作!
请您在完成任务后填表登记:MM社区任务管理 https://www.kdocs.cn/l/cdATVWqoh385

likedislike
chenchen
chenchen
8月11日 评论:

认领这个任务

likedislike
lhj628
8月19日 评论:

申请认领这个任务

likedislike
且奏长歌
且奏长歌成员
8月19日 评论:

@xchencehn @lhj628
感谢您此前对该任务的关注与支持!
由于上一位认领者暂未继续推进该任务,目前该任务已重新开放。由于时间关系,请在3天内回复,若都有认领意愿会评估单季度任务数量不超过3个的开发者优先参与,由于Q3任务已经开放,希望您在认领任务后能在930前完成。
如您目前仍有意愿认领,请在3个工作日内回复确认,并简要说明预计开始时间或初步推进计划。确认后,我们将为您保留任务,并提供必要的背景资料和支持。
如您近期时间安排不便,也请直接告知,不会影响您后续参与其他社区任务。
再次感谢您对昇腾开源社区的关注,期待与您合作!
请您在完成任务后填表登记:MM社区任务管理 https://www.kdocs.cn/l/cdATVWqoh385

likedislike
chenchen
chenchen
8月19日 评论:

你好,确认认领该任务,8/11 已认领并已在推进环境准备。
计划:基于仓上 fsdp2_dev 分支(examples/fsdp2/ 目录规范)新增 Qwen3VL-30B-lora 的训练脚本、yaml 配置与优化实现,参考已有 qwen3_5、kimik2_5、qwen3tts 的 FSDP2 迁移方式。目标 8 月底前完成精度/性能验收并提交 PR。

likedislike
Andy0907
8月20日 评论:

你好,确认认领该任务,当前已跑通Qwen3VL-30B-lora训练
实现方式:
FSDP2后端无需新增专为lora适配的训练脚本,只需完成lora模型适配和yaml脚本参数配置即可实现lora微调,当前通过通配符的方式配置language_model部分的linear层作为target_modules实现了lora注入,并完成了对AB权重的训练,训练日志中也打印出了lora的相关日志,如微调参数总大小和相对全参的占比。
最新进展:已完成代码适配,正在编写实践文档,可参加下周四的社区会议

likedislike
且奏长歌
且奏长歌成员
8月21日 评论:

@xchencehn 我们看到您当前已在Q2任务中认领了多项任务,为鼓励更多的开发者参与社区建设,我们最新的要求是单个开发者认领的任务数量不超过3个,所以决定将认领名额顺延至下一位开发者,感谢您的理解

likedislike
且奏长歌
且奏长歌成员
8月21日 评论:

@Andy0907 欢迎认领任务,请参考社区任务池 社区任务池 明确该任务的:

完成的截止日期、开发进展反馈、微信答疑群、任务交付注意事项等信息。如果您同时认领了多项任务,但无法都能进行投入,可以在部分任务中回复退出.

麻烦您加入到对应微信群,群备注名修改为"社区任务+您的gitcode账号", 后续有相关消息和问题都可以在微信群咨询答疑。

目前来看这个实现方式是正确的,希望能完成后续的精度对齐和性能优化工作

likedislike
Yyeqm成员
8月21日 修改了issue 的描述
且奏长歌且奏长歌成员
10 天前 关联了里程碑:MindSpeed 26.3.0