👋 您好，欢迎向 MindSpeed MM 提交 Issue！
我们已收到您的反馈，感谢你对开源社区的支持。🎉
📅 处理时效： 维护团队将在 24 小时内 查看并回复您的问题（工作日）。
🚨 紧急联系： 如果您的问题非常紧急，可通过以下方式联系我们：
💬 微信： WeChat
请确保 Issue 描述清晰，包含复现步骤和日志，这将帮助我们更快定位问题。谢谢！
/label add good-first-issue
认领这个任务
认领这个任务
欢迎认领任务，请参考https://gitcode.com/Ascend/MindSpeed-MM/issues/356 社区任务池明确该任务的：
- 完成的截止日期
- 开发进展反馈
- 微信答疑群
- 任务交付注意事项
等信息。如果您同时认领了多项任务，但无法都能进行投入，可以在部分任务中回复退出.
麻烦您加入到对应微信群，群备注名修改为"社区任务+您的gitcode账号", 后续有相关消息和问题都可以在微信群咨询答疑。 等您加入到微信群后，我这边会在社区任务池里面登记任务责任人。
认领这个任务
欢迎参加认领社区任务，当前一个任务只分配一个开发，根据评论认领时间确定，您可以后续观察该任务是否被释放退出，或者认领其他任务 https://gitcode.com/org/Ascend/discussions/4
认领这个任务
认领这个任务
@sun9527x
感谢您此前对该任务的关注与支持！
由于上一位认领者暂未继续推进该任务，目前该任务已重新开放。根据此前的候选顺序，我们希望优先邀请您参与该任务。
如您目前仍有意愿认领，请在3个工作日内回复确认，并简要说明预计开始时间或初步推进计划。确认后，我们将为您保留任务，并提供必要的背景资料和支持。
如您近期时间安排不便，也请直接告知，我们将继续顺延联系其他候选贡献者，不会影响您后续参与其他社区任务。
再次感谢您对昇腾开源社区的关注，期待与您合作！
请您在完成任务后填表登记：MM社区任务管理 https://www.kdocs.cn/l/cdATVWqoh385
#385（任务 1 · Qwen3-VL-32B · FSDP2）
进度汇报（阶段进展，非正式验收）
任务理解
交付目标是基于 FSDP2 后端的 MindSpeed-MM 迁移 Skill，以及开发与性能两篇实践文档。实例走仓内 finetune_qwen3vl_32B.sh 路线，即 Megatron 桥接式 FSDP2（pretrain_transformers.py + use_torch_fsdp2）。该路径与通用「插件式 model-only FSDP2」新模型默认路线区分清楚，32B 作为存量桥接路线的可执行实例。
已完成
环境与依赖方面：在 HiDevLab 的 4×910B3 上，已理顺 CANN 9.0 与 TorchNPU 2.10 的隔离 venv，MindSpeed / Megatron / MindSpeed-MM 可正常导入，并明确禁止使用默认 install.sh 覆盖已验证的 torch / torch_npu 组合。
权重链路方面：HF 权重已完整下载并完成 hf_to_dcp；多卡直接从共享盘加载 DCP 会卡住，因此采用将 DCP 缓存到本地盘后再训练的策略。
训练适配方面：未改写上游 16 卡脚本，已派生 4 卡启动脚本与 smoke 配置。无 CPU offload 时，模型构建与 DCP 恢复可通过，但首次 backward（FlashAttention）发生 NPU OOM；将序列长度与图像 token 压到极小后仍 OOM，说明主因是常驻参数、优化器状态与 FSDP all-gather，而非样本过长。开启 offload_to_cpu 后，前向与反向可越过 HBM 瓶颈；get_grad_norm 曾因 HCCL 不支持 CPU tensor 失败，已做最小兼容修复。修复后进程可进入首个训练 step 区间，但完整 optimizer step 仍不稳定：曾出现外部 SIGKILL（容器 cgroup 未见 failcnt 增长，更像平台或宿主侧回收），且 offload 后主机内存峰值偏高，数据与预处理 worker 开多时容易逼近 cgroup 上限。
交付物方面：32B FSDP2 Skill、迁移与性能实践文档、环境与踩坑记录已整理，可作为阶段材料提交。
未完成
尚未稳定完成「1 个完整 optimizer step + finite loss」，精度对齐与性能基线（仅 4 卡对照，不与 16 卡绝对吞吐横比）未做，PR 合入与社区验收通过亦未达到。
当前阻塞与下一步
主要风险一是平台稳定性：进入真实 step 后可能被 SIGKILL，需要更长稳定窗口或缩小验证范围；二是 CPU 内存边界：offload 解决 NPU OOM 后，数据侧并发会抬高主机内存。下一步将把 num_workers、预处理 worker 与相关 batch 压到很低，在保留 offload_to_cpu 的前提下再冲一次完整单步；成功后再补精度与性能实验，并整理 Skill 与两篇实践的诚实分栏证据。卡时有限时会先关闭环境，避免在同一失败配置上空跑。在完整 step 与精度未齐前，不宣称验收通过。
阶段结论
可提交 Skill 初稿、实践文档，以及 4 卡上加载、DCP、前反向与 CPU offload 路径的部分证据与失败边界。不可提交为验收通过：完整训练 step、精度、性能与 PR 合入。
进展同步：Qwen3-VL-32B 的 FSDP2 迁移 Skill、两篇实践文档和 4 卡代表性 smoke 已基本完成。当前主要差固定的精度/性能记录，整理后即可准备 PR。由于服务器资源分配紧张，后续验证暂时等待资源。
进展同步：
已提交 PR #2990（https://gitcode.com/Ascend/MindSpeed-MM/pull/2990），包含 Qwen3-VL-32B FSDP2 迁移 skill、开发模型实践、性能优化实践、4 卡派生启动器和必要兼容修复。
当前 4 卡 reduced-topology smoke 已完成训练闭环；完整 32B 首个 full-model optimizer step 仍受测试容器内存边界限制。PR 与文档已明确区分链路/容量证据和完整模型精度、性能验收，不将 reduced 结果替代 full-model 结论。
MindSpeed-MM 邀请您参加 2026-08-20 16:00 召开的WeLink会议
会议主题：MindSpeed MM 社区例会
会议内容：
1.社区关键issue解答
2.代码合入评审
会议链接：https://meeting.huaweicloud.com:36443/#/j/980887584
会议纪要&签到链接：https://etherpad.ascend.osinfra.cn/p/sig-MindSpeed-MM
提交提案之前，请先检索仓库内是否已有相同的提案，如已有请在同一提案中进行讨论。
💻 需求背景、当前现状、期望实现的功能内容、具体的设计方案、以及测试方案
以Qwen3 VL-32B为例，编写FSDP模型适配skill。
本期任务的具体信息如下：
（1）模型名称：Qwen3 VL-32B
（2） MindSpeed MM开放仓库的模型源码链接：
https://gitcode.com/Ascend/MindSpeed-MM/blob/master/examples/qwen3vl/finetune_qwen3vl_32B.sh
（3） 开发平台：Atlas 800T A2或者A3
一、任务交付件
本期任务为以Qwen3 VL-32B为例，编写FSDP模型适配skill。
二、验收标准：
提供skill， 能根据skill完成新模型FSDP2后端迁移，精度对齐。
2）实践文档：
开发模型实践1篇，性能优化实践1篇
3）任务完成标准
本次任务完成标准为：
精度/性能（根据实际要求）达标，PR完成合入，实践文档提交到仓库issue。"
替代方案
补充说明
欢迎加入社区，感谢您对社区的贡献 🎉!