已关闭
[Bug]: dsv4权重转换转相关问题汇总 #1308
温一盏创建于 4月29日关闭于 5月23日
4月29日 添加了label：bug
此处折叠了5条事件消息 查看更多
5月8日 重新打开了 issue
ascend-robot
5月8日 评论：
5月8日 评论：
您好，当前Issue标记为resolved且有一段时间未进一步更新，因此我们将其标记为'stale'（闲置）状态。若您认为这是误操作，可通过添加任意评论来去除'stale'标签。标记为stale的Issue在4天内无更新活动将自动关闭。
5月8日 添加了label：stale
5月8日 关联了pull request：fix(pytorch): fix some bugs of ds4 ckpt
温一盏
5月9日 评论：
5月9日 评论：
由于ds4的base模型与非base模型存在差异，在转非base模型时，mtp层会报missingkey的错误
温一盏
5月9日 评论：
5月9日 评论：
由于ds4的base模型与非base模型存在差异，在转非base模型时，mtp层会报missingkey的错误
温一盏
5月9日 评论：
5月9日 评论：
ds4权重转换hf2mg存在bug：
- 未知参数不报错
- compress_ratios层如果与层数不等，采用补齐的方式，与模型实际结构不符；
- 框架不支持量化后的权重，但是权重转换不报错
————————————
已修改：https://gitcode.com/Ascend/MindSpeed-LLM/pull/4442
温一盏
5月9日 评论：
5月9日 评论：
ds4权重转换hf2mg开启vpp报错
温一盏
5月9日 评论：
5月9日 评论：
ds4权重转换不支持mg2hf
5月9日 修改标题为 “[Bug]: dsv4权重转换转相关问题汇总”，原标题为“[Bug]: dsv4权重转换转非base模型时报错”
5月9日 修改了issue 的描述
5月9日 删除了label：resolvedstale
5月15日 issue状态由 TODO 改变为 DONE
5月15日 关闭了 issue
5月15日 关联了pull request：feat(pytorch): add dsv4 mg2hf
温一盏
5月15日 评论：
5月15日 评论：
ds4权重转换hf2mg开启vpp报错
@qyzqyz
https://gitcode.com/Ascend/MindSpeed-LLM/pull/4458 修复hf-mg 中vpp相关问题，dualpipe有bug，适配中，暂不可用
温一盏
5月15日 评论：
5月15日 评论：
ds4权重转换不支持mg2hf
https://gitcode.com/Ascend/MindSpeed-LLM/pull/4458 新增mg2hf，支持vpp，不支持dualpipe
5月15日 issue状态由 DONE 改变为 WIP
5月15日 重新打开了 issue
HANHU1CHEN
5月23日 评论：
5月23日 评论：
目前相关pr已合入，关闭issue，如有需要请重新打开。
5月23日 issue状态由 WIP 改变为 DONE
5月23日 关闭了 issue
5月26日 添加了label：resolved
8月10日 关联了pull request：fix(pytorch): add ds4 lora-mg2hf
8月20日 关联了pull request：fix(PyTorch): fix hf2mg of ds4
8月28日 关联了pull request：fix(pytorch): fix ds4 ckpt
🐛 问题描述
见评论
欢迎加入社区，感谢您对社区的贡献 🎉!