Qwen3-14B-AWQ:基于 vLLM-Ascend 的 Qwen3 模型部署项目

用户可基于此项目在 Ascend NPU 环境部署 Qwen3-14B-AWQ 模型,实现文本生成等任务。项目提供环境配置、模型修正及服务启动指南,支持 BF16 精度运行与多卡并行,适配长上下文场景。【此简介由AI生成】

分支1Tags0

项目介绍

用户可基于此项目在 Ascend NPU 环境部署 Qwen3-14B-AWQ 模型,实现文本生成等任务。项目提供环境配置、模型修正及服务启动指南,支持 BF16 精度运行与多卡并行,适配长上下文场景。【此简介由AI生成】

定制我的领域