已关闭
[Bug] 源码安装后运行报错 #218
see55创建于  5月12日关闭于  5月28日
see55
see55
5月12日 创建

👉 遇到问题先看这里

🌟 第一次使用工具遇到问题?

🚀 快速入门

❓ 搜索历史issue,查看冷门的同类问题

🔖 Issue中搜索历史类似问题

操作系统及版本

ubuntu

python版本

3.11

MsModelSlim 工具版本

baba34e1e52eb25c696c1e2db55e23d4ae22ab7a

是否必现

MsModelSlim 执行命令

export FP_MODEL_PATH=/Qwen/Qwen3-30B-A3B export W4_MODEL_PATH=/Eco-Tech/Qwen3-30B-A3B-w4a8 msmodelslim quant --model_type Qwen3-30B --model_path $FP_MODEL_PATH --save_path $W4_MODEL_PATH --quant_type w4a8 --trust_remote_code True

预期行为

预期不报错

实际行为

我下载了msmodelslim源码到 XXX 目录,然后使用了源码安装

清理构建缓存,确保重新构建包

echo "cleaning build cache to ensure fresh build"
rm -rf build/ dist/ *.egg-info/

先卸载再安装,确保完全清理已移除的文件

echo "uninstalling existing msmodelslim package"
pip uninstall msmodelslim -y

重新安装包(不使用缓存)

echo "installing msmodelslim package without cache"
umask 027 && pip install -e . --no-cache-dir

然后运行了上面的命令来量化qwen3 moe 模型,但是报错
File "XXX/msmodelslim/msmodelslim/utils/security/path.py", line 120, in check_dirpath_before_read
raise SecurityError("The directory {} doesn't exist.".format(dirpath),
msmodelslim.utils.exception.SecurityError: Code: 204, Message: The directory XXX/msmodelslim/msmodelslim/config doesn't exist.

我看了下msmodelslim/config 是存在的,但是这里为什么要访问的路径是msmodelslim/msmodelslim/config 呢?是不能源码安装吗?

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
anreywmh成员
5月12日 评论:

👋 您好,欢迎向 MindStudio msModelSlim 提交 Issue!
我们已收到您的反馈,感谢你对开源社区的支持。🎉

📅处理时效: 维护团队将在24小时内 查看并回复您的问题(工作日)。
🔍自助查询: 在等待期间,建议您先查阅以下资料,可能已有解决方案:

📖 MindStudio msModelSlim 官方文档
📝 贡献者指南

请确保 Issue 描述清晰,包含复现步骤和日志,这将帮助我们更快定位问题。谢谢!

likedislike
Aanreywmh成员
5月12日 添加了label:triaged
ascend-robotascend-robot成员
5月12日 添加了label:bug
zhangz200102成员
5月12日 评论:

您好,可以尝试一下切换目录(避免在XXX/msmodelslim 目录下)再执行量化命令

likedislike
zhangz200102成员
5月12日 评论:

/label add pending

likedislike
ascend-robotascend-robot成员
5月12日 添加了label:pending
Zzhangz200102成员
5月12日 issue状态由 TODO 改变为 Feedback
Zzhangz200102成员
5月12日 将 zhangz200102 设为负责人
see55
see55
5月12日 评论:

您好,可以尝试一下切换目录(避免在XXX/msmodelslim 目录下)再执行量化命令

@zhangz200102

我一直都没有在XXX/msmodelslim目录下执行过命令

likedislike
zhangz200102成员
5月12日 评论:

image.png

image.png

image.png

@see55 应该不是代码问题

likedislike
zhangz200102成员
5月12日 评论:

试试直接在XXX/msmodelslim目录 使用bash install.sh 安装试试

likedislike
see55
see55
5月13日 评论:

试试直接在XXX/msmodelslim目录 使用bash install.sh 安装试试

@zhangz200102

我是在XXX/msmodelslim目录使用bash install.sh 安装的呀,这个脚本不能在其他目录执行。我只改了最后一行,加了-e,因为我想看下源码。您这边是源码-e安装的吗?

likedislike
see55
see55
5月13日 评论:

@zhangz200102 对了,我用 cursor 排查了下,cursor 说是 CANN 包下也有个msmodelslim namespace,会导致这个问题,但是我也没有去确认。请问msmodelslim的安装环境,需要先装 cann 吗?
我是在 vllm 的开发镜像中安装的msmodelslim,您那边用的是什么镜像呢,也许需要对齐一下镜像。

likedislike
see55
see55
5月14日 评论:

@zhangz200102 您好,您那边是源码安装的吗

likedislike
zhangz200102成员
5月14日 评论:

@zhangz200102 您好,您那边是源码安装的吗

@see55

源码bash install.sh安装的(没修改任何东西)

likedislike
see55
see55
5月14日 评论:

@zhangz200102 那可能是这个问题。我把install.sh 最后一行改成了umask 027 && pip install -e . --no-cache-dir,加了一个-e

我这边是需要源码开发模式安装,想看看量化流程。辛苦看看源码开发模式安装会不会有问题呢

likedislike
zhangz200102成员
5月18日 评论:

@zhangz200102 那可能是这个问题。我把install.sh 最后一行改成了umask 027 && pip install -e . --no-cache-dir,加了一个-e

我这边是需要源码开发模式安装,想看看量化流程。辛苦看看源码开发模式安装会不会有问题呢

@see55

目前pip install -e . 安装可能确实有些小问题,如果想要调试的话,可以直接用bash install.sh安装,会安装到 /usr/xxx/xxx/python.x.x.x/site-packages目录(可以在打屏中看到具体的),后续代码实际运行的就是site-packages目录下安装的msmodelslim代码,可以用IDE等对该目录下的msmodelslim文件打断点等进行调试(需要配置launch.json)

likedislike
see55
see55
5月18日 评论:

@zhangz200102 那可能是这个问题。我把install.sh 最后一行改成了umask 027 && pip install -e . --no-cache-dir,加了一个-e

我这边是需要源码开发模式安装,想看看量化流程。辛苦看看源码开发模式安装会不会有问题呢

@see55

目前pip install -e . 安装可能确实有些小问题,如果想要调试的话,可以直接用bash install.sh安装,会安装到 /usr/xxx/xxx/python.x.x.x/site-packages目录(可以在打屏中看到具体的),后续代码实际运行的就是site-packages目录下安装的msmodelslim代码,可以用IDE等对该目录下的msmodelslim文件打断点等进行调试(需要配置launch.json)

@zhangz200102

好的,明白。但这个方法其实不是很好,后续有计划修复这个 bug 吗

likedislike
zhangz200102成员
5月18日 评论:

@zhangz200102 那可能是这个问题。我把install.sh 最后一行改成了umask 027 && pip install -e . --no-cache-dir,加了一个-e

我这边是需要源码开发模式安装,想看看量化流程。辛苦看看源码开发模式安装会不会有问题呢

@see55

目前pip install -e . 安装可能确实有些小问题,如果想要调试的话,可以直接用bash install.sh安装,会安装到 /usr/xxx/xxx/python.x.x.x/site-packages目录(可以在打屏中看到具体的),后续代码实际运行的就是site-packages目录下安装的msmodelslim代码,可以用IDE等对该目录下的msmodelslim文件打断点等进行调试(需要配置launch.json)

@zhangz200102

好的,明白。但这个方法其实不是很好,后续有计划修复这个 bug 吗

@see55

@rookie_hongchuan @joejoezhou 辛苦大佬们看一下

likedislike
rookie_hongchuan成员
5月18日 评论:

@zhangz200102 那可能是这个问题。我把install.sh 最后一行改成了umask 027 && pip install -e . --no-cache-dir,加了一个-e

我这边是需要源码开发模式安装,想看看量化流程。辛苦看看源码开发模式安装会不会有问题呢

@see55

目前pip install -e . 安装可能确实有些小问题,如果想要调试的话,可以直接用bash install.sh安装,会安装到 /usr/xxx/xxx/python.x.x.x/site-packages目录(可以在打屏中看到具体的),后续代码实际运行的就是site-packages目录下安装的msmodelslim代码,可以用IDE等对该目录下的msmodelslim文件打断点等进行调试(需要配置launch.json)

@zhangz200102

好的,明白。但这个方法其实不是很好,后续有计划修复这个 bug 吗

@see55

是有计划修复这个问题的,如果你需要临时修复一下,可以参考一下这个PR:https://gitcode.com/Ascend/msmodelslim/pull/379

likedislike
see55
see55
5月18日 评论:

@zhangz200102 那可能是这个问题。我把install.sh 最后一行改成了umask 027 && pip install -e . --no-cache-dir,加了一个-e

我这边是需要源码开发模式安装,想看看量化流程。辛苦看看源码开发模式安装会不会有问题呢

@see55

目前pip install -e . 安装可能确实有些小问题,如果想要调试的话,可以直接用bash install.sh安装,会安装到 /usr/xxx/xxx/python.x.x.x/site-packages目录(可以在打屏中看到具体的),后续代码实际运行的就是site-packages目录下安装的msmodelslim代码,可以用IDE等对该目录下的msmodelslim文件打断点等进行调试(需要配置launch.json)

@zhangz200102

好的,明白。但这个方法其实不是很好,后续有计划修复这个 bug 吗

@see55

是有计划修复这个问题的,如果你需要临时修复一下,可以参考一下这个PR:https://gitcode.com/Ascend/msmodelslim/pull/379

@rookie_hongchuan

好的,非常感谢。

likedislike
zhangz200102成员
5月19日 评论:

/label add resolved

likedislike
ascend-robotascend-robot成员
5月19日 添加了label:resolved
Zzhangz200102成员
5月19日 将 rookie_hongchuan 设为负责人
Rrookie_hongchuan成员
5月19日 关联了pull request:【WIP】fix: pip install -e support with single-source data dirs
ascend-robot
ascend-robot成员
5月26日 评论:

您好,当前Issue标记为resolved且有一段时间未进一步更新,因此我们将其标记为'stale'(闲置)状态。若您认为这是误操作,可通过添加任意评论来去除'stale'标签。标记为stale的Issue在4天内无更新活动将自动关闭。

likedislike
ascend-robotascend-robot成员
5月26日 添加了label:stale
Zzhangz200102成员
5月28日 issue状态由 Feedback 改变为 TODO
Zzhangz200102成员
5月28日 issue状态由 TODO 改变为 DONE
Zzhangz200102成员
5月28日 关闭了 issue