🗓️ 2025年12月

• msModelSlim 支持量化精度反馈自动调优，可根据精度需求自动搜索最优量化配置
• msModelSlim 支持自主量化多模态理解模型，支持多模态理解模型的量化接入
• msModelSlim 一键量化支持多卡量化，支持分布式逐层量化，提升大模型量化效率
• msModelSlim 支持 DeepSeek-V3.2 W8A8 量化，单卡64G显存、100G内存即可执行
• msModelSlim 支持 DeepSeek-V3.2-Exp W4A8 量化，单卡64G显存、100G内存即可执行
• msModelSlim 支持 Qwen3-VL-235B-A22B W8A8 量化

🗓️ 2025年11月

• msModelSlim 模型适配支持插件化和配置注册，支持依赖预检

🗓️ 2025年10月

• msModelSlim 支持 Qwen3-235B-A22B W4A8、Qwen3-30B-A3B W4A8 量化。vLLM Ascend已支持量化模型推理部署 部署指导

🗓️ 2025年9月

• msModelSlim 支持 DeepSeek-V3.2-Exp W8A8 量化，单卡64G显存，100G内存即可执行
• msModelSlim 现已解决Qwen3-235B-A22B在W8A8量化下频繁出现"游戏副本"等异常token的问题 Qwen3-MoE 量化推荐实践
• msModelSlim 支持DeepSeek R1 W4A8 per-channel 量化【Prototype】
• msModelSlim 支持大模型量化敏感层分析

🗓️ 2025年8月

• msModelSlim 支持 Wan2.1 模型一键量化
• msModelSlim 支持大模型逐层量化，显著降低大模型量化内存占用
• msModelSlim 支持大模型 SSZ 权重量化算法，通过迭代搜索最优缩放因子和偏移量提升量化精度

描述msModelSlim产品的安全加固信息、公网地址信息及通信矩阵等内容。详情请参见《msModelSlim工具安全声明》。

👤 致msModelSlim使用者

• 本工具仅供调试和开发之用，使用者需自行承担使用风险，并理解以下内容：
  • msModelSlim工具依赖的transformers、PyTorch等第三方开源软件，均由第三方社区提供和维护，因第三方开源软件导致的问题的修复依赖相关社区的贡献和反馈。您应理解，msModelSlim仓库不保证第三方开源软件本身的问题进行修复，也不保证会测试或纠正所有第三方开源软件的漏洞和错误。
  • 在您使用msModelSlim工具时，工具通常会从硬盘中读取您从互联网所下载的模型权重（通过您提供的命令行参数或配置文件）。使用非可信的模型权重可能会导致未知的安全风险，建议您在使用工具前通过SHA256校验等方法，确保模型权重可信后再传递给工具。
  • 出于安全性及权限最小化角度考虑，您不应以root等高权限账户使用msModelSlim工具，建议您使用普通用户权限安装执行。
    • 用户须自行保证最小权限原则（如禁止 other 用户可写，常见如禁止 666、777）。
    • 使用 msModelSlim 工具请确保执行用户的 umask 值大于等于 0027，否则会导致生成的量化模型数据所在目录和文件权限过大。
      • 若要查看 umask 的值，可执行命令：umask
      • 若要修改 umask 的值，可执行命令：umask 新的取值
    • 请确保原始模型数据存放和量化模型数据保存在不含软链接的当前用户目录下，否则可能会引起安全问题。
  • 数据处理及删除：用户在使用本工具过程中产生的数据属于用户责任范畴。建议用户在使用完毕后及时删除相关数据，以防信息泄露。
  • 数据保密与传播：使用者了解并同意不得将通过本工具产生的数据随意外发或传播。对于由此产生的信息泄露、数据泄露或其他不良后果，本工具及开发者概不负责。
  • 用户输入安全性：用户需自行保证输入的命令行的安全性，并承担因输入不当导致的任何安全风险或损失。对于由于输入命令行不当所导致的问题，本工具及其开发者概不负责。
• 免责声明范围：本免责声明适用于所有使用本工具的个人或实体。使用本工具即表示您同意并接受本声明的内容，并愿意承担因使用该功能而产生的风险和责任，如有异议请停止使用本工具。
• 在使用本工具之前，请谨慎阅读并理解以上免责声明的内容。对于使用本工具所产生的任何问题或疑问，请及时联系开发者。

📦 致数据所有者

如果您不希望您的数据集在msModelSlim中的模型被提及，或希望更新msModelSlim中的模型关于您的数据集的描述，请在Gitcode提issue，msModelSlim将根据您的issue要求删除或更新您的数据集描述。衷心感谢您对msModelSlim的理解和贡献。

1. 提交错误报告：如果您在msModelSlim中发现了一个不存在安全问题的漏洞，请在msModelSlim仓库中的Issues中搜索，以防该漏洞已被提交，如果找不到漏洞可以创建一个新的Issues。如果发现了一个安全问题请不要将其公开，请参阅安全问题处理方式。提交错误报告时应该包含完整信息。
2. 安全问题处理：本项目中对安全问题处理的形式，请通过邮箱通知项目核心人员确认编辑。
3. 解决现有问题：通过查看仓库的Issues列表可以发现需要处理的问题信息, 可以尝试解决其中的某个问题。
4. 如何提出新功能：请使用Issues的Feature标签进行标记，我们会定期处理和确认开发。
5. 开始贡献：
   a. Fork本项目的仓库。
   b. Clone到本地。
   c. 创建开发分支。
   d. 本地测试：提交前请通过所有单元测试，包括新增的测试用例。
   e. 提交代码。
   f. 新建Pull Request。
   g. 代码检视：您需要根据评审意见修改代码，并重新提交更新。此流程可能涉及多轮迭代。
   h. 当您的PR获得足够数量的检视者批准后，Committer会进行最终审核。
   i. 审核和测试通过后，CI会将您的PR合并入到项目的主干分支。

msModelSlim产品的使用许可证，具体请参见LICENSE。

msModelSlim产品docs目录下的文档适用CC-BY 4.0许可证，具体请参见《LICENSE。