已关闭
[Usage]:ds-v3/r1 qlora后权重转换回HF缺少一层map #1102
charon_zxx创建于 1月5日关闭于 1月26日
1月5日 修改了issue 的描述
1月5日 修改标题为 “[Usage]:ds-v3/r1 qlora后权重转换回HF缺少一层map”，原标题为“[Usage]: ”
charon_zxx
1月8日 评论：
1月8日 评论：
这个是因为目前lora和qlora没有加载MTP层的结构吗？
charon_zxx
1月19日 评论：
1月19日 评论：
后续有支持加载MTP层的计划吗？
LinShua
1月19日 评论：
1月19日 评论：
您好，再次感谢您的反馈，关于您提到的lora和qlora权重转换支持加载MTP层的功能，我们短期内暂无计划实现，如果您愿意提交PR进行实现的话，我们非常欢迎您的贡献。
ascend-robot
1月23日 评论：
1月23日 评论：
这个Issue标记为resolved且有一段时间未进一步更新，因此我们将其标记为'stale'（闲置)状态。若你认为这是误操作，可随时评论'remove stale'移除'stale'标签。标记为stale的Issue在4天内无更新活动将自动关闭
1月23日 添加了label：stale
1月23日 删除了label：resolvedstale
ascend-robot
1月23日 评论：
1月23日 评论：
当前Issue标记为resolved且有一段时间未进一步更新，因此我们将其标记为'stale'（闲置）状态。若你认为这是误操作，可随时评论'/label remove stale'移除'stale'标签。标记为stale的Issue在4天内无更新活动将自动关闭。
1月23日 添加了label：stale
1月23日 删除了label：resolvedstale
ascend-robot
1月26日 评论：
1月26日 评论：
当前Issue标记为resolved且有一段时间未进一步更新，因此我们将其标记为'stale'（闲置）状态。若你认为这是误操作，可随时评论'/label remove stale'移除'stale'标签。标记为stale的Issue在4天内无更新活动将自动关闭。
1月26日 添加了label：stale
LinShua
1月26日 评论：
1月26日 评论：
再次感谢您的反馈，如果您目前没有其他问题，我们将根据流程关闭此 issue。
如后续有新的疑问或补充内容，欢迎随时重新打开本 issue，或另起一个新的 issue 进行提问。
感谢您的理解与支持！
1月26日 删除了label：resolvedstale
在提交新问题之前，请确保您已经在社区中搜索过相关问题，并使用了社区中提供的资源/工具后，仍未找到满意的解决方式。
环境信息
使用场景及问题
在qlora脚本中未增加--lora-ckpt-filter参数，已有参数--qlora，--qlora-save-dequantize。
转换完成后发现model.safetensors.index.json文件中缺失最后一层第61层的map
原始map文件：
转换后map文件：
欢迎加入社区，感谢您对社区的贡献 🎉!