PR 提交说明

提交前请阅读 贡献指南，开发者文档：模型接入指南

PR 标题前缀：[Feature]、[Bugfix]、[Doc]、[Test]（与 CONTRIBUTING 一致）

1. 影响面评估

接口变更（按需）： 无

备注：若无变更请保留「无」；涉及 CLI、API、YAML 等请在此项补充说明。

输出件变更（按需）： 无

备注：若无变更请保留「无」；涉及导出格式、产物路径等请在此项补充说明。

非兼容变更（按需）： 无

备注：若无变更请保留「无」；若有非兼容变更请说明迁移方式。

SIG 评审结论（按需）： 无

提醒：非兼容、安全风险等高危 PR 须经 SIG 评审后合入；无则保留「无」。

2. 修改描述

修改背景（可选）：（问题现象、使用场景等）
详见关联issue：https://gitcode.com/Ascend/msmodelslim/issues/512
修改目的：（本 PR 要达成什么目标）
提供transformers模型的基础量化方案
1、model_type支持transformers，仅支持加载transformers模型，不支持算法接口（与default区别，default有算法默认适配）
2、资料声明model_type支持transformers，仅支持LLM
3、transformers最佳实践配置增加A3 W8A16，A5 W8A8（MXFP8）量化配置，无抑制，全量化
修改内容：（按「概念 - 变化」分条，示例：core/算法：新增 SmoothQuant 离群值抑制）

model：模型库增加LLM transformers模型的基础适配器
lab_practice：最佳实践库增加transformers模型 A3 W8A16，A5 W8A8（MXFP8）量化配置

概念域参考（填写提示）：

• cli：命令行 quant / analyze / tune
• app：最佳实践量化、量化分析、精度反馈自动调优等
• core：算法、量化服务、调度、张量量化、调优策略、最佳实践、上下文等
• infra：模型适配、调优计划/历史/缓存、测评服务等
• utils：日志、错误处理、插件等

3. 功能验证

冒烟由 CI 门禁检查，无需填写「冒烟是否通过」。

• 功能自验
• 本地自验用例截图（请勿包含个人信息；可附复现命令）

复现步骤（可选）：

# 在此粘贴可复现命令

4. 自检（请逐项确认，不适用标 N/A）

典型安全编码问题

• 是否已校验外部数据
• 是否未采集或打印敏感信息
• 是否已正确设置文件权限
• 是否充分考虑浮点运算溢出、除零等异常场景
• 是否已对正则表达式做 ReDos 检查

DT

• 是否具备 UT 测试用例看护（路径：用例路径；未添加请说明原因）
  

  

  
  路径：test/cases/model/transformers/
• 是否需要添加冒烟：否（若「是」请说明冒烟场景及对应用途）