已关闭
[Doc]: 【资料测试】Qwen3-32B W8A8精度调优案例、一键量化使用指南、主流模型量化部署流程指南、量化推理精度异常定位流程指南 #502
mominhua创建于  21 天前关闭于  17 天前
mominhua成员
21 天前 创建

https://gitcode.com/Ascend/msmodelslim/blob/master/docs/zh/best_practices/qwen3_32b_w8a8_precision_tuning_case.md https://gitcode.com/Ascend/msmodelslim/blob/master/docs/zh/user_guide/usage_one_click_quantization.md https://gitcode.com/Ascend/msmodelslim/blob/master/docs/zh/user_guide/process_mainstream_model_deployment.md https://gitcode.com/Ascend/msmodelslim/blob/master/docs/zh/user_guide/process_quantization_accuracy_anomaly_locating.md

Current Content Description | 文档问题描述

https://gitcode.com/Ascend/msmodelslim/blob/master/docs/zh/best_practices/qwen3_32b_w8a8_precision_tuning_case.md
1、本次前置事实没有按照模板修改
image.png
2、GPQA不要写在命令后面,()内容一般是前面一句话的补充
image.png
3、逐次生成配置、量化、部署评测语句有问题,读着不怎么通顺
image.png
4、多处地方改出了多余的标点符号「」,全文搜索删除,如果有必要保留,改为中文双引号
image.png
5、括号里突然写四类子图,不明白是什么—删除括号内容
image.png
6、上面写的是精度扔不达标,下面写的是精度正常—表格中可以表明精度正常,加上描述精度还不满足要求之类的描述—用于支撑继续更换flex-smooth-quant的算法验证
image.png
image.png
7、对于策略的选择,为什么优先选择per_tensor和per_token,也像上面算法的算则一样,先说明可以优先使用per_tensor和per_token尝试,如果不行,给出量化精度调优策略选择的链接指引,引导用户根据那篇指南继续进行切换
image.png
8、加入badcase之后的校准集文件已经是改动后的,括号里面又说无需动仓库默认校准集,引起歧义—删除括号内容
image.png

https://gitcode.com/Ascend/msmodelslim/blob/master/docs/zh/user_guide/usage_one_click_quantization.md
1、文本内容中的描述是7个阶段,但是后面只写了5个阶段,而且图里面有8个阶段,也不符合
image.png
2、标题去掉了可选之后在具体章节里面没有说明可选情况
可以表述一下如果不传入这个参数,会默认使用npu单卡执行
image.png
3、是否支持多卡与算法相关,如果最佳实践中的某些算法还不支持多卡,这里的指引会导致用户执行之后报错
可以增加一下约束,并给出当前已支持的多卡算法链接
image.png
4、量化模式应该有单独的目录和文档的,为什么是跳转到大模型支持矩阵
image.png

https://gitcode.com/Ascend/msmodelslim/blob/master/docs/zh/user_guide/process_mainstream_model_deployment.md
1、没有给出mindie的模型支持列表
image.png
2、本指南是指的将已经实现一键量化的指南完成从量化到推理的整个流程,对于未实现的模型,不适用----实际上跳转到了新模型量化调优指南之后,也覆盖了完整的模型量化到调优的流程,没有必要再回到这篇指南执行
而且这个链接跳转的是新模型量化调优指南,链接的标题和指南名称对不上
image.png
3、输出需要换行
也没有呈现这部分是可选的
image.png

https://gitcode.com/Ascend/msmodelslim/blob/master/docs/zh/user_guide/process_quantization_accuracy_anomaly_locating.md
1、配置dump?
Msprobe里面对于这个配置文件是这么描述的?参考msprobe对于这个步骤的描述修改
image.png
2、多余标点符号,建议删除,如果有必要保留,改成中文双引号
image.png

Modification Suggestion | 修改建议

按照问题描述修改即可

Welcome to join the community and thank you for your contribution 🎉!

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
Mmominhua成员
21 天前 关联了里程碑:MindStudio 26.2.0
Mmominhua成员
21 天前 添加了label:medium-prioritydocument
anreywmh成员
21 天前 评论:

👋 您好,欢迎向 MindStudio msModelSlim 提交 Issue!
我们已收到您的反馈,感谢你对开源社区的支持。🎉

📅处理时效: 维护团队将在24小时内 查看并回复您的问题(工作日)。
🔍自助查询: 在等待期间,建议您先查阅以下资料,可能已有解决方案:

📖 MindStudio msModelSlim 官方文档
📝 贡献者指南

请确保 Issue 描述清晰,包含复现步骤和日志,这将帮助我们更快定位问题。谢谢!

likedislike
Aanreywmh成员
21 天前 添加了label:triaged
tanxiangyuutanxiangyuu成员
19 天前 关联了pull request:[Doc] 修复 4 篇文档资料问题 #502
tanxiangyuu
tanxiangyuu成员
18 天前 评论:

/label add resolved

likedislike
ascend-robotascend-robot成员
18 天前 添加了label:resolved
tanxiangyuutanxiangyuu成员
18 天前 关联了pull request:[Doc] Qwen3-32B 精度调优案例:备选改为第4次,优化备注描述
mominhua成员
17 天前 评论:

测试通过,问题已解决

1、测试资料,对应问题均已修改,具体见对应的修改pr

likedislike
Mmominhua成员
17 天前 issue状态由 TODO 改变为 DONE
Mmominhua成员
17 天前 关闭了 issue
tanxiangyuutanxiangyuu成员
17 天前 删除了关联的pull request:[Doc] Qwen3-32B 精度调优案例:备选改为第4次,优化备注描述