已关闭
[Documentation|文档反馈]: NPU卡无法指定，无法加载模型 #328
marcushan84创建于 3月17日关闭于 4月16日
lishengvictor
3月17日 评论：
3月17日 评论：
@marcushan84 感谢关注，我们会尽快组织分析。
3月24日 issue类型由 任务 改变为 缺陷
xiaocun
3月24日 评论：
3月24日 评论：
这是 Docker 容器场景下环境变量分层机制导致的预期行为，不是 bug：
根因：
- ASCEND_VISIBLE_DEVICES 在驱动/HAL 层处理，控制底层设备枚举
- ASCEND_RT_VISIBLE_DEVICES 在 runtime 层处理（runtime.cc / client_manager.cpp），会通过 drvGetDevNum()获取容器内可见设备数，并校验指定的设备 ID 是否在 [0, deviceCnt-1] 范围内
- 在容器中通过 --device /dev/davinci6,7 挂载后，容器内可见设备数为 2，此时单独设 ASCEND_RT_VISIBLE_DEVICES=6,7 会因 6,7超出范围而校验失败，fallback 到默认的 0,1
marcushan84
3月27日 评论：
3月27日 评论：
后续这个有解决思路么
xiaocun
3月28日 评论：
3月28日 评论：
后续这个有解决思路么
- 你可以先试下把ASCEND_RT_VISIBLE_DEVICES设置为0,1确认下效果
- 改进计划：我们暂未有该改进计划，整体联动机制我们后续可以审视分析看看合理性
tingwood
4月1日 评论：
4月1日 评论：
@marcushan84
Devcie id的映射关系可参考：https://gitcode.com/cann/runtime/blob/master/docs/03_api_ref/aclrtGetLogicDevIdByUserDevId.md
对于你提出的问题，在容器中配置ASCEND_RT_VISIBLE_DEVICES环境时，可配的是映射到容器后的LogicDeviceId。
4月1日 从 cann/driver 转移
Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
Document Link（文档链接）
固件驱动：HDK25.5
操作系统：银河麒麟V10 SP3
Vllm-ascend镜像版本：vllm-ascend:v0.14.0rc1
docker启动vllm-ascend镜像
docker run
--name vllm-ascend
--shm-size=100g
--privileged
--device /dev/davinci6
--device /dev/davinci7
--device /dev/davinci_manager
--device /dev/devmm_svm
--device /dev/hisi_hdc
-v /usr/local/dcmi:/usr/local/dcmi
-v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi
-v /usr/local/Ascend/driver/lib64/:/usr/local/Ascend/driver/lib64/
-v /usr/local/Ascend/driver/version.info:/usr/local/Ascend/driver/version.info
-v /etc/ascend_install.info:/etc/ascend_install.info
-v /data/model_ws/Qwen3-30B-A3B:/data/model/Qwen3-30B-A3B
-p 8000:8000
-it quay.io/ascend/vllm-ascend:v0.14.0rc1-openeuler bash
容器可以正常启动
启动vllm服务
vllm serve /data/model/Qwen3-30B-A3B --tensor-parallel-size 2 --enable-expert-parallel
在容器内使用 export ASCEND_VISIBLE_DEVICES=6,7或 export ASCEND_RT_VISIBLE_DEVICES=6,7均无法指定6,7卡
需同时用才可以
Issues Section（问题文档片段）
在容器内使用 export ASCEND_VISIBLE_DEVICES=6,7或 export ASCEND_RT_VISIBLE_DEVICES=6,7均无法指定6,7卡，均将卡指向0,1卡
需同时用才可以
Existing Issues（存在的问题）
正常在使用特权容器后，在容器内使用 export ASCEND_VISIBLE_DEVICES=6,7或 export ASCEND_RT_VISIBLE_DEVICES=6,7无法生效，