已关闭
[Bug]: deberta-v2模型服务拉起失败 #73
chen_pengyu创建于 6月16日关闭于 6月18日
xiangjie10
6月16日 评论：
6月16日 评论：
👋 您好，感谢向 text-embeddings-inference 提交 Issue！
🎉 我们已收到您的反馈，感谢你对开源社区的支持！
📅 处理时效 维护团队将在工作日 24 小时内查看并回复您的问题。
🔍 自助排查（推荐优先查看） 在等待回复期间，您可以先查阅仓库README以及历史 Issue 中相似问题的解决方案，多数问题可快速解决。
💡 为了更快定位问题，请您确保 Issue 包含：
- 清晰的问题描述
- 可复现的操作步骤
- 相关日志、截图或环境信息
我们会尽快跟进，感谢您的理解与配合！
xiangjie10
6月16日 评论：
6月16日 评论：
/label add triaged
6月16日 添加了label：bug
6月16日 添加了label：triaged
6月16日 修改了issue 的描述
wangyongjun
6月17日 评论：
6月17日 评论：
这里原始是因为cann的依赖部分没安装，部分模型才需要，我们将尽快修复上库，
6月17日 关联了pull request：补充cann python依赖
6月18日 关闭了 issue
6月18日 添加了label：resolved
22 天前 issue状态由 TODO 改变为 DONE
硬件：910B4
TEi镜像版本：mis-tei:26.0.0-800I-A2-aarch64
容器拉起命令：
docker run -dt --name=tei-bert-3027 --privileged=true --network=host -u root -e ASCEND_RT_VISIBLE_DEVICES=6 -e MAX_CONCURRENT_REQUESTS=512 -e CLEAN_NPU_CACHE=True -e ENABLE_BOOST=True -e MAX_CLIENT_BATCH_SIZE=100 -v /home/model_weights/small-model/BERT/anquan:/home/HwHiAiUser/model -v /usr/local/dcmi:/usr/local/dcmi -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi -v /usr/local/Ascend/driver/lib64/common:/usr/local/Ascend/driver/lib64/common -v /usr/local/Ascend/driver:/usr/local/Ascend/driver -v /etc/ascend_install.info:/etc/ascend_install.info -v /etc/vnpu.cfg:/etc/vnpu.cfg -v /usr/local/Ascend/firmware/:/usr/local/Ascend/firmware/ -v /usr/local/sbin/:/usr/local/sbin --device=/dev/davinci0 --device=/dev/davinci1 --device=/dev/davinci2 --device=/dev/davinci3 --device=/dev/davinci4 --device=/dev/davinci5 --device=/dev/davinci6 --device=/dev/davinci7 --device=/dev/davinci_manager --device=/dev/devmm_svm --device=/dev/hisi_hdc 270d5c3064fc model_toxic0708A 135.92.38.4 3027
🐛 问题描述
拉起deberta-v2模型服务时，报错缺少python包，报错请见附件
80939fc014164dce9b728ffc9820af61.png
欢迎加入社区，感谢您对社区的贡献 🎉!