已关闭
【Feature】基于FSDP2后端训练MM大模型 #364
LKONE创建于  5月18日关闭于  12 天前
LKONE
LKONE成员
5月18日 创建

任务描述

基于MindSpeed MM开放仓库的FSDP2源码,补齐模型的端侧功能。
本期任务的具体信息如下:
(1)模型名称:Qwen3 VL-8B
(2) MindSpeed MM开放仓库的模型源码链接:
https://gitcode.com/Ascend/MindSpeed-MM/blob/master/examples/qwen3vl/finetune_qwen3vl_8B.sh
(3) 开发平台:Atlas 800T A2或者A3

验收标准

一、任务交付件
本期任务为基于MindSpeed MM开放仓库代码进行功能扩展,请合入开发代码。将megatron-FSDP2后端的模型迁移到仓上纯FSDP2分支。主要开发点如下:
(1) 模型训练脚本和yaml参数配置
(2) 模型优化实现
二、验收标准:
1)精度/性能/特性要求
精度:
对比megatron-FSDP2后端训练2000步平均误差小于2%
性能:
不低于megatron-FSDP2后端性能
特性:
需要适配仓上当前现有特性,如CP,EP,chunkloss,recompute,async activation offload等,在开启特性后能体现出显存优化或性能优化,并确保精度对齐
2)实践文档:
开发模型实践1篇,性能优化实践1篇
3)任务完成标准
本次任务完成标准为:
精度/性能(根据实际要求)达标,PR完成合入,实践文档提交到仓库issue。

PR 合入

本地完成测试验证后,向MindSpeed-MM的main分支发起PR。

对接人

待补充

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
LKONELKONE成员
5月18日 添加了label:feature
LKONELKONE成员
5月18日 修改了issue 的描述
LKONELKONE成员
5月18日 修改了issue 的描述
LKONE
LKONE成员
5月18日 评论:

👋 您好,欢迎向 MindSpeed MM 提交 Issue!

我们已收到您的反馈,感谢你对开源社区的支持。🎉

📅 处理时效: 维护团队将在 24 小时内 查看并回复您的问题(工作日)。

🚨 紧急联系: 如果您的问题非常紧急,可通过以下方式联系我们:

💬 微信: WeChat

请确保 Issue 描述清晰,包含复现步骤和日志,这将帮助我们更快定位问题。谢谢!

likedislike
Ronald1995
6月11日 评论:

/label add good-first-issue

likedislike
ascend-robotascend-robot成员
6月11日 添加了label:good-first-issue
lhj628
6月25日 评论:

你好,我想认领这个任务

likedislike
wrath_999
6月25日 评论:

你好,想认领这个任务

likedislike
Patrick2916
6月25日 评论:

你好,我想认领这个任务

likedislike
cartes1us
cartes1us
6月25日 评论:

你好,任务认领

likedislike
搞艺术的程序猿
6月25日 评论:

你好,任务认领

likedislike
Allen0624
6月25日 评论:

认领这个任务

likedislike
Ronald1995
6月26日 评论:

你好,我想认领这个任务

@lhj628

欢迎认领任务,请参考https://gitcode.com/Ascend/MindSpeed-MM/issues/356 社区任务池明确该任务的:

  • 完成的截止日期
  • 开发进展反馈
  • 微信答疑群
  • 任务交付注意事项

等信息。如果您同时认领了多项任务,但无法都能进行投入,可以在部分任务中回复退出.

麻烦您加入到对应微信群,群备注名修改为"社区任务+您的gitcode账号", 后续有相关消息和问题都可以在微信群咨询答疑。 等您加入到微信群后,我这边会在社区任务池里面登记任务责任人。

likedislike
Ronald1995
6月26日 评论:

认领这个任务

@Allen0624

@qq_39443348

@kill2013110

@Patrick2916

@wrath_999

欢迎参加认领社区任务,当前一个任务只分配一个开发,根据评论认领时间确定,您可以后续观察该任务是否被释放退出,或者认领其他任务 https://gitcode.com/org/Ascend/discussions/4

likedislike
lhj628
6月29日 评论:

当前进展:本地初步写好shell脚本和yaml配置文件,预计本周完成机时上的调试和设计文档

likedislike
gcw_MTeIQk9o
6月29日 评论:

认领这个任务

likedislike
ascend-robotascend-robot成员
7月3日 关联了看板:MindStudio ISSUE管理
Robin
Robin
7月4日 评论:

认领这个任务

likedislike
shanbao3333
7月5日 评论:

如何领取昇腾环境的机时呢

likedislike
lhj628
7月6日 评论:

2026.7.6进展:当前能正常拉起训练,长跑loss稳定下降,正在与Megatron-FSDP2后端对比精度和性能优化中

likedislike
Llhj628
7月8日 关联了pull request:feat: adapt qwen3vl 8b/32b on MindSpeed-MM fsdp2
lhj628
7月8日 评论:
young256young256成员
7月8日 关联了里程碑:MindSpeed 26.2.0
lhj628
7月20日 评论:

已与megatron-fsdp2后端精度对齐,性能优化中

likedislike
且奏长歌
且奏长歌成员
8月3日 评论:

@lhj628 请您在完成任务后填表登记:MM社区任务管理 https://www.kdocs.cn/l/cdATVWqoh385

likedislike
lhj628
8月19日 评论:

撰写测试报告中

likedislike
且奏长歌
且奏长歌成员
8月19日 评论:

@lhj628 您好!

MindSpeed-MM 邀请您参加 2026-08-20 16:00 召开的WeLink会议

会议主题:MindSpeed MM 社区例会

会议内容:
1.社区关键issue解答
2.代码合入评审

会议链接:https://meeting.huaweicloud.com:36443/#/j/980887584

会议纪要&签到链接:https://etherpad.ascend.osinfra.cn/p/sig-MindSpeed-MM

likedislike
LKONELKONE成员
8月21日 修改了issue 的描述
此处折叠了5条事件消息 查看更多
且奏长歌且奏长歌成员
10 天前 关联了里程碑:MindSpeed 26.3.0