已关闭
部分调用FreqsMgr类模型训练时显存溢出 #165
zhangyihuiben创建于  2025年1月2日关闭于  2025年1月6日
zhangyihuiben成员
2025年1月2日 创建

1.Describe the current behavior / 问题描述 (Mandatory / 必填)

样例:
输入图片说明
输入图片说明
部分模型(例子中为telechat2),因调用FreqsMgr类,分布式训练时显存溢出

2.Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

(1)get code from mindformers
(2)cd mindformers
(3)bash scripts/msrun_launcher.sh "python research/telechat2/run_telechat.py
--config /path/to/finetune_telechat_7b.yaml
--train_dataset /path/to/dataset.mindrecord
--use_parallel True"

likedislike
Zzhangyihuiben成员
2025年1月2日 添加了关联分支的 r2.5.0 选项
Zzhangyihuiben成员
2025年1月2日 添加了问题后端类型的 Ascend 选项
Zzhangyihuiben成员
2025年1月2日 创建了Bug-Report
Zzhangyihuiben成员
2025年1月2日 关联了MindSpore/mindformers Pull Request !5229
Yyule100成员
2025年1月2日 将负责人设置为zhangyihui
zhangyihuiben成员
2025年1月6日 评论:

https://gitee.com/mindspore/mindformers/pulls/5229
已通过上述PR解决,关闭问题单

likedislike
Zzhangyihuiben成员
2025年1月6日 将任务状态从 TODO 修改为DONE