Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
第一次大模型推理
涉及文件:
quick_start/first_llm_inference/README.md
quick_start/first_llm_inference/01_qwen3_npu_inference_baseline.ipynb
quick_start/first_llm_inference/02_qwen3_npu_inference_npugraph_ex.ipynb
quick_start/first_llm_inference/03_qwen3_npu_inference_fused_op.ipynb
课程实验环境问题
课程在下载 Qwen3-0.6B 模型时,已经通过 snapshot_download 的返回值取得模型实际保存目录:
snapshot_download
from modelscope import snapshot_download model_dir = snapshot_download( 'Qwen/Qwen3-0.6B', cache_dir='/mnt/workspace/models' ) print(f'模型已下载到: {model_dir}')
但在紧接着的模型加载步骤中,没有使用刚刚获得的 model_dir,而是重新硬编码路径:
model_dir
model_path = ( '/mnt/workspace/models/Qwen/Qwen3-0.6B' )
后续第二、第三个 Notebook 也重复使用相同的硬编码路径:
cache_dir 表示模型缓存根目录,并不等同于模型最终目录。
cache_dir
模型最终保存位置应以:
snapshot_download(...)
返回的路径为准。
ModelScope 不同版本或不同缓存实现可能使用不同的目录结构。
因此,学习者实际安装的 ModelScope 版本可能不同,最终模型目录不一定始终为:
/mnt/workspace/models/Qwen/Qwen3-0.6B
💡 备注(选填)
尊敬的开发者您好,您的建议已收到,待内部评估后反馈,感谢您的支持
尊敬的开发者您好,您提的问题已在关联pr中修复,感谢您的支持
Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
一、课程名称 (必填)
第一次大模型推理
涉及文件:
quick_start/first_llm_inference/README.mdquick_start/first_llm_inference/01_qwen3_npu_inference_baseline.ipynbquick_start/first_llm_inference/02_qwen3_npu_inference_npugraph_ex.ipynbquick_start/first_llm_inference/03_qwen3_npu_inference_fused_op.ipynb二、反馈类型 (必填)
课程实验环境问题
三、反馈详情 (必填)
课程在下载 Qwen3-0.6B 模型时,已经通过
snapshot_download的返回值取得模型实际保存目录:from modelscope import snapshot_download model_dir = snapshot_download( 'Qwen/Qwen3-0.6B', cache_dir='/mnt/workspace/models' ) print(f'模型已下载到: {model_dir}')但在紧接着的模型加载步骤中,没有使用刚刚获得的
model_dir,而是重新硬编码路径:model_path = ( '/mnt/workspace/models/Qwen/Qwen3-0.6B' )后续第二、第三个 Notebook 也重复使用相同的硬编码路径:
model_path = ( '/mnt/workspace/models/Qwen/Qwen3-0.6B' )存在的问题
cache_dir表示模型缓存根目录,并不等同于模型最终目录。模型最终保存位置应以:
返回的路径为准。
ModelScope 不同版本或不同缓存实现可能使用不同的目录结构。
因此,学习者实际安装的 ModelScope 版本可能不同,最终模型目录不一定始终为:
四、环境信息 (可选)
💡 备注(选填)