👋 您好,欢迎向 MindStudio msModelSlim 提交 Issue!
我们已收到您的反馈,感谢你对开源社区的支持。🎉
📅处理时效: 维护团队将在24小时内 查看并回复您的问题(工作日)。
🔍自助查询: 在等待期间,建议您先查阅以下资料,可能已有解决方案:
📖 MindStudio msModelSlim 官方文档
📝 贡献者指南
请确保 Issue 描述清晰,包含复现步骤和日志,这将帮助我们更快定位问题。谢谢!


您好,可以尝试一下切换目录(避免在XXX/msmodelslim 目录下)再执行量化命令


/label add pending






试试直接在XXX/msmodelslim目录 使用bash install.sh 安装试试


试试直接在XXX/msmodelslim目录 使用bash install.sh 安装试试
我是在XXX/msmodelslim目录使用bash install.sh 安装的呀,这个脚本不能在其他目录执行。我只改了最后一行,加了-e,因为我想看下源码。您这边是源码-e安装的吗?


@zhangz200102 对了,我用 cursor 排查了下,cursor 说是 CANN 包下也有个msmodelslim namespace,会导致这个问题,但是我也没有去确认。请问msmodelslim的安装环境,需要先装 cann 吗?
我是在 vllm 的开发镜像中安装的msmodelslim,您那边用的是什么镜像呢,也许需要对齐一下镜像。


@zhangz200102 您好,您那边是源码安装的吗




@zhangz200102 那可能是这个问题。我把install.sh 最后一行改成了umask 027 && pip install -e . --no-cache-dir,加了一个-e
我这边是需要源码开发模式安装,想看看量化流程。辛苦看看源码开发模式安装会不会有问题呢


@zhangz200102 那可能是这个问题。我把install.sh 最后一行改成了umask 027 && pip install -e . --no-cache-dir,加了一个-e
我这边是需要源码开发模式安装,想看看量化流程。辛苦看看源码开发模式安装会不会有问题呢
目前pip install -e . 安装可能确实有些小问题,如果想要调试的话,可以直接用bash install.sh安装,会安装到 /usr/xxx/xxx/python.x.x.x/site-packages目录(可以在打屏中看到具体的),后续代码实际运行的就是site-packages目录下安装的msmodelslim代码,可以用IDE等对该目录下的msmodelslim文件打断点等进行调试(需要配置launch.json)


@zhangz200102 那可能是这个问题。我把install.sh 最后一行改成了umask 027 && pip install -e . --no-cache-dir,加了一个-e
我这边是需要源码开发模式安装,想看看量化流程。辛苦看看源码开发模式安装会不会有问题呢
目前pip install -e . 安装可能确实有些小问题,如果想要调试的话,可以直接用bash install.sh安装,会安装到 /usr/xxx/xxx/python.x.x.x/site-packages目录(可以在打屏中看到具体的),后续代码实际运行的就是site-packages目录下安装的msmodelslim代码,可以用IDE等对该目录下的msmodelslim文件打断点等进行调试(需要配置launch.json)
好的,明白。但这个方法其实不是很好,后续有计划修复这个 bug 吗


@zhangz200102 那可能是这个问题。我把install.sh 最后一行改成了umask 027 && pip install -e . --no-cache-dir,加了一个-e
我这边是需要源码开发模式安装,想看看量化流程。辛苦看看源码开发模式安装会不会有问题呢
目前pip install -e . 安装可能确实有些小问题,如果想要调试的话,可以直接用bash install.sh安装,会安装到 /usr/xxx/xxx/python.x.x.x/site-packages目录(可以在打屏中看到具体的),后续代码实际运行的就是site-packages目录下安装的msmodelslim代码,可以用IDE等对该目录下的msmodelslim文件打断点等进行调试(需要配置launch.json)
好的,明白。但这个方法其实不是很好,后续有计划修复这个 bug 吗
@rookie_hongchuan @joejoezhou 辛苦大佬们看一下


@zhangz200102 那可能是这个问题。我把install.sh 最后一行改成了umask 027 && pip install -e . --no-cache-dir,加了一个-e
我这边是需要源码开发模式安装,想看看量化流程。辛苦看看源码开发模式安装会不会有问题呢
目前pip install -e . 安装可能确实有些小问题,如果想要调试的话,可以直接用bash install.sh安装,会安装到 /usr/xxx/xxx/python.x.x.x/site-packages目录(可以在打屏中看到具体的),后续代码实际运行的就是site-packages目录下安装的msmodelslim代码,可以用IDE等对该目录下的msmodelslim文件打断点等进行调试(需要配置launch.json)
好的,明白。但这个方法其实不是很好,后续有计划修复这个 bug 吗
是有计划修复这个问题的,如果你需要临时修复一下,可以参考一下这个PR:https://gitcode.com/Ascend/msmodelslim/pull/379


@zhangz200102 那可能是这个问题。我把install.sh 最后一行改成了umask 027 && pip install -e . --no-cache-dir,加了一个-e
我这边是需要源码开发模式安装,想看看量化流程。辛苦看看源码开发模式安装会不会有问题呢
目前pip install -e . 安装可能确实有些小问题,如果想要调试的话,可以直接用bash install.sh安装,会安装到 /usr/xxx/xxx/python.x.x.x/site-packages目录(可以在打屏中看到具体的),后续代码实际运行的就是site-packages目录下安装的msmodelslim代码,可以用IDE等对该目录下的msmodelslim文件打断点等进行调试(需要配置launch.json)
好的,明白。但这个方法其实不是很好,后续有计划修复这个 bug 吗
是有计划修复这个问题的,如果你需要临时修复一下,可以参考一下这个PR:https://gitcode.com/Ascend/msmodelslim/pull/379
好的,非常感谢。


/label add resolved


您好,当前Issue标记为resolved且有一段时间未进一步更新,因此我们将其标记为'stale'(闲置)状态。若您认为这是误操作,可通过添加任意评论来去除'stale'标签。标记为stale的Issue在4天内无更新活动将自动关闭。





👉 遇到问题先看这里
🌟 第一次使用工具遇到问题?
按🚀 快速入门
❓ 搜索历史issue,查看冷门的同类问题
在🔖 Issue中搜索历史类似问题
操作系统及版本
ubuntu
python版本
3.11
MsModelSlim 工具版本
baba34e1e52eb25c696c1e2db55e23d4ae22ab7a
是否必现
是
MsModelSlim 执行命令
export FP_MODEL_PATH=/Qwen/Qwen3-30B-A3B export W4_MODEL_PATH=/Eco-Tech/Qwen3-30B-A3B-w4a8 msmodelslim quant --model_type Qwen3-30B --model_path $FP_MODEL_PATH --save_path $W4_MODEL_PATH --quant_type w4a8 --trust_remote_code True
预期行为
预期不报错
实际行为
我下载了msmodelslim源码到 XXX 目录,然后使用了源码安装
清理构建缓存,确保重新构建包
echo "cleaning build cache to ensure fresh build"
rm -rf build/ dist/ *.egg-info/
先卸载再安装,确保完全清理已移除的文件
echo "uninstalling existing msmodelslim package"
pip uninstall msmodelslim -y
重新安装包(不使用缓存)
echo "installing msmodelslim package without cache"
umask 027 && pip install -e . --no-cache-dir
然后运行了上面的命令来量化qwen3 moe 模型,但是报错
File "XXX/msmodelslim/msmodelslim/utils/security/path.py", line 120, in check_dirpath_before_read
raise SecurityError("The directory {} doesn't exist.".format(dirpath),
msmodelslim.utils.exception.SecurityError: Code: 204, Message: The directory XXX/msmodelslim/msmodelslim/config doesn't exist.
我看了下msmodelslim/config 是存在的,但是这里为什么要访问的路径是msmodelslim/msmodelslim/config 呢?是不能源码安装吗?
欢迎加入社区,感谢您对社区的贡献 🎉!