已关闭
【开源实习】HyperParallel Trainer新增GLM5系列模型 #2099
yang-yucheng03创建于  5月22日关闭于  7月7日
yang-yucheng03成员
5月22日 创建

【任务分值】 40分
【背景描述】
GLM5模型接入可提升中文生态覆盖,需在Trainer侧补齐模型结构与配置兼容。

【需求描述】
业界现状:GLM系接入通常难点在位置编码、mask构造、生成与训练配置差异。
当前实现:Trainer已有基础框架但模型族适配点需补齐。
开发建议:先完成GLM5最小训练闭环(forward/loss/save/load),再补精度回归与配置模板;优先保障恢复一致性。
参考路径:integration/llamafactory、tests/torch/integration/llamafactory。

【参考资料】开发建议:先完成GLM5最小训练闭环(forward/loss/save/load),再补精度回归与配置模板;优先保障恢复一致性。

【验收标准】
完成GLM5训练接入;支持checkpoint保存恢复;补集成测试与配置文档,精度需与单卡完成对齐,100个step平均loss误差5e-3。

【任务技术要求】

  1. 技能:熟悉python、pytorch,有分布式训练经验优先;
  2. 硬件:2卡Ascend A2(最小保证);
  3. 软件:Python 3.10、MindSpore>=2.8、PyTorch 2.6、CANN 8.5、hyper-parallel最新master。

【任务提交仓】
https://gitcode.com/mindspore/hyper-parallel.git
master分支

【导师邮箱】
许老师:xuxinglei1@huawei.com

认领任务请先发送简历邮件给任务导师

likedislike
MindSpore-BotMindSpore-Bot成员
5月22日 添加了label:intern
Yyang-yucheng03成员
5月22日 修改了issue 的描述
Moy
Moy
5月22日 评论:

/intern-assign

likedislike
MindSpore-Bot
MindSpore-Bot成员
5月22日 评论:

@xuxinkun_2026 , 感谢您认领此任务, 请及时跟导师沟通, 导师审核通过后才能承担此任务, 否则任务无效.

likedislike
MindSpore-BotMindSpore-Bot成员
5月22日 添加了label:intern-task-assign
xuxinglei
5月29日 评论:

/intern-approve

likedislike
MindSpore-Bot
MindSpore-Bot成员
5月29日 评论:

@xuxinkun_2026 , 恭喜您已成功领取该任务, 请及时处理任务. 认领任务>导师审核认领资格>处理任务>提交任务>导师审核>pr合入>获得积分.

likedislike
MindSpore-BotMindSpore-Bot成员
5月29日 添加了label:intern-task-assigned;删除了label:intern-task-assign
MoyMoy
6月22日 关联了pull request:Feat: HyperParallel Trainer新增GLM5系列模型 #2099
Moy
Moy
6月29日 评论:

/intern-completed

likedislike
MindSpore-BotMindSpore-Bot成员
6月29日 添加了label:intern-task-rewiew;删除了label:intern-task-assigned
MindSpore-Bot
MindSpore-Bot成员
6月29日 评论:

@xuxinkun_2026 , 请关注您提交的pr审核进度, 跟进相关负责人审核, pr合入后可获得积分. 注: 提交pr时, 请务必在pr描述里添加此issue编号(#issue编号), 谢谢!

likedislike
Moy
Moy
6月29日 评论:
xuxinglei
7月7日 评论:

/intern-done

likedislike
MindSpore-BotMindSpore-Bot成员
7月7日 关闭了 issue
MindSpore-Bot
MindSpore-Bot成员
7月7日 评论:

@xuxinkun_2026 , 恭喜您提交的任务成果已通过导师审核, 已获得 40 积分, 谢谢您的参与.

likedislike
MindSpore-BotMindSpore-Bot成员
7月7日 issue状态由 TODO 改变为 DONE