已合并
新增优化器权重转换nooplayer/dpp功能 #2190
温一盏创建于 2025年2月7日
新增优化器权重转换nooplayer/dpp功能 #2190
已合并
从refs/pull/2190/head合入到master
Pull Request已成功合入, 合并人@
（感谢 温一盏 的贡献）2025年2月7日 指派了 fengliangjun 参与评审
2025年2月7日 指派了 王姜奔 参与评审
2025年2月7日 添加了
ascend-cla/yes
标签
2025年2月7日 更新了说明
温一盏
2025年2月7日 评论：
2025年2月7日 评论：
compile
此处折叠了42条消息 查看更多
2025年2月10日 移除了
ci-pipeline-failed
标签
mindspeed_llm/tasks/checkpoint/loader_mg.py
@@ -56,3 +56,3 @@
5656 group.add_argument("--add-output-layer-bias", action="store_true", default=False,
5757 help='Configuration for the output layer bias.')
58-
58+ group.add_argument('--load-checkpoint-loosely', action='store_true', default=False,
在带有空层的mg-mg时,空层的权重key缺失,load报错,需要松弛加载
温一盏
2025年2月17日 评论：
2025年2月17日 评论：
compile
2025年2月18日 添加了
approved
标签
新增优化器权重转换nooplayer/dpp功能,验证如下：
https://wiki.huawei.com/domains/64729/wiki/101436/WIKI202502075883566
1.增加优化器权重转换的动态流水线划分功能；
2.增加优化器权重转换的空层功能；
3.支持带有空层的mcore-mcore权重转换，并新增参数'--load-checkpoint-loosely'，仅用于带有空层的mcore-mcore权重转换；
4.修改优化器脚本，删除多余参数；
5.修改权重转换readme