[Usage]: 从环境搭建到推理验证的小白使用说明-MindStudio-ModelSlim-AtomGit

Star216

Star216

已关闭

[Usage]: 从环境搭建到推理验证的小白使用说明 #19

LeeQT创建于 1月29日关闭于 1月30日

LeeQT成员

1月29日创建

1月29日创建

在提交新问题之前，请确保您已经在社区中搜索过相关问题，并使用了社区中提供的资源/工具后，仍未找到满意的解决方式。

环境信息

例如：
- 操作系统 (OS): Linux (Ubuntu 22.04 inside Docker) / x86_64
- Python 版本: Python 3.11
- CANN 版本: 8.3.RC1
- ModelSlim 版本: 源码编译 (当前 master 分支)
- 运行环境: Docker 容器

使用场景及问题

小白可尝试在昇腾环境上使用一键量化进行模型量化，并通过vllm_ascend进行推理验证

欢迎加入社区，感谢您对社区的贡献 🎉!

L LeeQT成员

1月29日添加了label：good-first-issue

1月29日添加了label：good-first-issue

L LeeQT成员

1月29日 issue类型由 Bug-Report 改变为 Consultation

1月29日 issue类型由 Bug-Report 改变为 Consultation

ascend-robot成员

1月29日添加了label：usage

1月29日添加了label：usage

Zhus成员

1月30日将 Hume 设为负责人

1月30日将 Hume 设为负责人

ascend-robot成员

1月30日评论：

1月30日评论：

Label Command Feedback

@LeeQT, Because of the repository doesn't have the label(s) DONE, it cannot be added. 🙏

L LeeQT成员

1月30日 issue状态由 TODO 改变为 DONE

1月30日 issue状态由 TODO 改变为 DONE

L LeeQT成员

1月30日关闭了 issue

1月30日关闭了 issue

Zhus成员

1月30日关联了pull request：[WIP]一键量化验证：Qwen3-32B w8a8量化模型在vllm-ascend上验证

1月30日关联了pull request：[WIP]一键量化验证：Qwen3-32B w8a8量化模型在vllm-ascend上验证