已关闭
GLM-4.5-AIR模型W8A8量化咨询 #18
mengzichao创建于 1月28日关闭于 1月30日
code_mingming
1月28日 评论：
1月28日 评论：
您好，暂未适配的模型量化可以参考 https://gitcode.com/Ascend/msmodelslim/blob/master/example/GLM/README.md
或 https://gitcode.com/Ascend/msmodelslim/blob/master/docs/zh/custom_quantization/integrating_models.md 完成模型自主接入。
或者参考昇腾生态专栏中同系列模型的量化实战文章尝试自主量化 https://ascendai.csdn.net/6953b56dbf6b0e4b285f8622.html
1月28日 修改标题为 “GLM-4.5-AIR模型W8A8量化咨询”，原标题为“量化咨询”
code_mingming
1月28日 评论：
1月28日 评论：
/label add resolved
1月28日 添加了label：resolved
请问msmodelslim支持glm-4.5-air的w8a8量化吗