已关闭
【开源实习】HyperParallel Trainer新增GLM5系列模型 #2099
yang-yucheng03创建于 5月22日关闭于 7月7日
5月22日 添加了label:intern
5月22日 修改了issue 的描述
Moy
5月22日 评论:
5月22日 评论:
/intern-assign


MindSpore-Bot
5月22日 评论:
5月22日 评论:
@xuxinkun_2026 , 感谢您认领此任务, 请及时跟导师沟通, 导师审核通过后才能承担此任务, 否则任务无效.


5月22日 添加了label:intern-task-assign
MindSpore-Bot
5月29日 评论:
5月29日 评论:
@xuxinkun_2026 , 恭喜您已成功领取该任务, 请及时处理任务. 认领任务>导师审核认领资格>处理任务>提交任务>导师审核>pr合入>获得积分.


5月29日 添加了label:intern-task-assigned;删除了label:intern-task-assign
6月22日 关联了pull request:Feat: HyperParallel Trainer新增GLM5系列模型 #2099
Moy
6月29日 评论:
6月29日 评论:
/intern-completed


6月29日 添加了label:intern-task-rewiew;删除了label:intern-task-assigned
MindSpore-Bot
6月29日 评论:
6月29日 评论:
@xuxinkun_2026 , 请关注您提交的pr审核进度, 跟进相关负责人审核, pr合入后可获得积分. 注: 提交pr时, 请务必在pr描述里添加此issue编号(#issue编号), 谢谢!


Moy
6月29日 评论:
6月29日 评论:
7月7日 关闭了 issue
MindSpore-Bot
7月7日 评论:
7月7日 评论:
@xuxinkun_2026 , 恭喜您提交的任务成果已通过导师审核, 已获得 40 积分, 谢谢您的参与.


7月7日 issue状态由 TODO 改变为 DONE
【任务分值】 40分
【背景描述】
GLM5模型接入可提升中文生态覆盖,需在Trainer侧补齐模型结构与配置兼容。
【需求描述】
业界现状:GLM系接入通常难点在位置编码、mask构造、生成与训练配置差异。
当前实现:Trainer已有基础框架但模型族适配点需补齐。
开发建议:先完成GLM5最小训练闭环(forward/loss/save/load),再补精度回归与配置模板;优先保障恢复一致性。
参考路径:integration/llamafactory、tests/torch/integration/llamafactory。
【参考资料】开发建议:先完成GLM5最小训练闭环(forward/loss/save/load),再补精度回归与配置模板;优先保障恢复一致性。
【验收标准】
完成GLM5训练接入;支持checkpoint保存恢复;补集成测试与配置文档,精度需与单卡完成对齐,100个step平均loss误差5e-3。
【任务技术要求】
【任务提交仓】
https://gitcode.com/mindspore/hyper-parallel.git
master分支
【导师邮箱】
许老师:xuxinglei1@huawei.com
认领任务请先发送简历邮件给任务导师