已关闭
[Feature]: GLM-5.2-w4a4怎么量化 #359
qq_38701291创建于  7月7日关闭于  4 天前
qq_38701291
qq_38701291
7月7日 创建

Problem/Pain Point Description | 问题/痛点描述

想要在4台A2服务器部署上下文500K的GLM-5.2

Proposed Solution | 建议方案

暂无

Alternative Solutions | 替代方案

Expected Value | 预期价值

在4台A2服务器部署上下文500K的GLM-5.2

Contribution Intent | 贡献意向

Welcome to join the community and thank you for your contribution 🎉!

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
anreywmh成员
7月7日 评论:

👋 您好,欢迎向 MindStudio msModelSlim 提交 Issue!
我们已收到您的反馈,感谢你对开源社区的支持。🎉

📅处理时效: 维护团队将在24小时内 查看并回复您的问题(工作日)。
🔍自助查询: 在等待期间,建议您先查阅以下资料,可能已有解决方案:

📖 MindStudio msModelSlim 官方文档
📝 贡献者指南

请确保 Issue 描述清晰,包含复现步骤和日志,这将帮助我们更快定位问题。谢谢!

likedislike
Aanreywmh成员
7月7日 添加了label:triaged
ascend-robotascend-robot成员
7月7日 添加了label:feature
LLeeQT成员
7月7日 关联了里程碑:MindStudio 26.2.0
LLeeQT成员
7月7日 将 qq_46439621 设为负责人
LeeQT成员
7月7日 评论:

预计在Q3支持

likedislike
ascend-robotascend-robot成员
7月7日 关联了看板:MindStudio ISSUE管理
wanlongze123
wanlongze123成员
7月8日 评论:

当前暂无GLM5.2的W4A4量化方案 目前已知1台A3开启SFA_C8特性可支持大概400k上下文

likedislike
wanlongze123wanlongze123成员
7月8日 添加了label:pending
wanlongze123wanlongze123成员
8 天前 添加了label:resolved
ascend-robot
ascend-robot成员
8 天前 评论:

您好,当前Issue标记为resolved且有一段时间未进一步更新,因此我们将其标记为'stale'(闲置)状态。若您认为这是误操作,可通过添加任意评论来去除'stale'标签。标记为stale的Issue在4天内无更新活动将自动关闭。

likedislike
ascend-robotascend-robot成员
8 天前 添加了label:stale
ascend-robotascend-robot成员
4 天前 关闭了 issue
ascend-robotascend-robot成员
4 天前 issue状态由 TODO 改变为 DONE