已关闭
[Bug] DeepSeek-V3.1模型执行w4a8c8多卡量化执行报错：ModuleNotFoundError: No module named 'transformers_modules.DeepSeek-V3' #460
mominhua创建于 22 天前关闭于 9 天前
anreywmh
22 天前 评论：
22 天前 评论：
👋 您好,欢迎向 MindStudio msModelSlim 提交 Issue！
我们已收到您的反馈，感谢你对开源社区的支持。🎉
📅处理时效： 维护团队将在24小时内 查看并回复您的问题（工作日）。
🔍自助查询： 在等待期间，建议您先查阅以下资料，可能已有解决方案：
📖 MindStudio msModelSlim 官方文档
📝 贡献者指南
请确保 Issue 描述清晰，包含复现步骤和日志，这将帮助我们更快定位问题。谢谢！
17 天前 将 zhangz200102 设为负责人
11 天前 关联了pull request：【bugfix】【docs】增加V3.1多卡场景的报错FAQ
zhangz200102
10 天前 评论：
10 天前 评论：
关联pr已合入
/label add resolved
10 天前 添加了label：resolved
👉 遇到问题先看这里
🌟 第一次使用工具遇到问题？
按🚀 快速入门
❓ 搜索历史issue，查看冷门的同类问题
在🔖 Issue中搜索历史类似问题
操作系统及版本
openEuler 22.03 (LTS-SP4)
python版本
3.11
MsModelSlim 工具版本
376e2fad43bc999f9a49b48bdbc3eef06ffdd83a
是否必现
是
MsModelSlim 执行命令
msmodelslim quant --device 0,1,2,3,4,5,6,7 --model_path /home/DeepSeek-V3.1 --save_path /home/xxx --model_type DeepSeek-V3.1 --quant_type w4a8c8 --trust_remote_code True
预期行为
1、执行多卡量化成功
实际行为
1、执行多卡量化报错：
欢迎加入社区，感谢您对社区的贡献 🎉!