已关闭
[Feature]: 新增fsdp2 ds v4微调模板 #1786
Rostellaria创建于 13 天前关闭于 5 天前
13 天前 添加了label：feature
Rostellaria13 天前 关联了pull request：feat: Add ds v4 fine-tuning template for fsdp2 and fixed related issues
13 天前 关联了pull request：feat: Add ds v4 fine-tuning template for fsdp2 and fixed related issues
5 天前 关闭了 issue
提交提案之前，请先检索仓库内是否已有相同的提案，如已有请在同一提案中进行讨论。
💻 需求背景、当前现状、期望实现的功能内容、具体的设计方案、以及测试方案
新增fsdp2 ds v4微调模板
由4层64专家减层模型，与mcore长跑对齐
替代方案
补充说明
欢迎加入社区，感谢您对社区的贡献 🎉!