已关闭
[Course-Feedback|课程反馈]: <第一次大模型推理> 模型下载后忽略实际返回路径导致不同ModelScope版本下可能无法加载模型 #387
Young创建于  7月31日关闭于  24 天前
Young
Young
7月31日 创建

Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.

一、课程名称 (必填)

第一次大模型推理

涉及文件:

  • quick_start/first_llm_inference/README.md
  • quick_start/first_llm_inference/01_qwen3_npu_inference_baseline.ipynb
  • quick_start/first_llm_inference/02_qwen3_npu_inference_npugraph_ex.ipynb
  • quick_start/first_llm_inference/03_qwen3_npu_inference_fused_op.ipynb

二、反馈类型 (必填)

课程实验环境问题

三、反馈详情 (必填)

课程在下载 Qwen3-0.6B 模型时,已经通过 snapshot_download 的返回值取得模型实际保存目录:

from modelscope import snapshot_download

model_dir = snapshot_download(
    'Qwen/Qwen3-0.6B',
    cache_dir='/mnt/workspace/models'
)

print(f'模型已下载到: {model_dir}')

但在紧接着的模型加载步骤中,没有使用刚刚获得的 model_dir,而是重新硬编码路径:

model_path = (
    '/mnt/workspace/models/Qwen/Qwen3-0.6B'
)

后续第二、第三个 Notebook 也重复使用相同的硬编码路径:

model_path = (
    '/mnt/workspace/models/Qwen/Qwen3-0.6B'
)

存在的问题

cache_dir 表示模型缓存根目录,并不等同于模型最终目录。

模型最终保存位置应以:

snapshot_download(...)

返回的路径为准。

ModelScope 不同版本或不同缓存实现可能使用不同的目录结构。

因此,学习者实际安装的 ModelScope 版本可能不同,最终模型目录不一定始终为:

/mnt/workspace/models/Qwen/Qwen3-0.6B

image.png
image.png
image.png

四、环境信息 (可选)

💡 备注(选填)

likedislike
ink_polymer
ink_polymer成员
7月31日 评论:

尊敬的开发者您好,您的建议已收到,待内部评估后反馈,感谢您的支持

likedislike
Xxzyxzy_
24 天前 关联了pull request:问题修改
Xxzyxzy_
24 天前 关联了pull request:问题修改
liyuhao成员
24 天前 评论:

尊敬的开发者您好,您提的问题已在关联pr中修复,感谢您的支持

likedislike
Mmeme成员
24 天前 issue状态由 进行中 改变为 已完成
Mmeme成员
24 天前 关闭了 issue
CANN-robotCANN-robot成员
24 天前 添加了label:resolved