| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
【feature】model_type支持transformers Co-authored-by: zhangz200102<zhangzheng183@huawei.com> # message auto-generated for no-merge-commit merge: !891 merge feature/support_transformers_model_type into master 【feature】model_type支持transformers Created-by: zhangz200102 Commit-by: zhangz200102 Merged-by: ascend-robot Description: # PR 提交说明 提交前请阅读 [贡献指南](https://gitcode.com/Ascend/msmodelslim/blob/master/docs/zh/contributing/contributing_guide.md)，开发者文档：[模型接入指南](../docs/zh/knowledge_base/model/integrating_models.md) PR 标题前缀：[Feature]、[Bugfix]、[Doc]、[Test]（与 CONTRIBUTING 一致） ## 1. 影响面评估 **接口变更（按需）：** 无 > 备注：若无变更请保留「无」；涉及 CLI、API、YAML 等请在此项补充说明。 **输出件变更（按需）：** 无 > 备注：若无变更请保留「无」；涉及导出格式、产物路径等请在此项补充说明。 **非兼容变更（按需）：** 无 > 备注：若无变更请保留「无」；若有非兼容变更请说明迁移方式。 **SIG 评审结论（按需）：** 无 > 提醒：非兼容、安全风险等高危 PR 须经 SIG 评审后合入；无则保留「无」。 ## 2. 修改描述 **修改背景（可选）：**（问题现象、使用场景等） 详见关联issue：https://gitcode.com/Ascend/msmodelslim/issues/512 **修改目的：**（本 PR 要达成什么目标） 提供transformers模型的基础量化方案 1、model_type支持transformers，仅支持加载transformers模型，不支持算法接口（与default区别，default有算法默认适配） 2、资料声明model_type支持transformers，仅支持LLM 3、transformers最佳实践配置增加A3 W8A16，A5 W8A8（MXFP8）量化配置，无抑制，全量化 **修改内容：**（按「概念 - 变化」分条，示例：core/算法：新增 SmoothQuant 离群值抑制） model：模型库增加LLM transformers模型的基础适配器 lab_practice：最佳实践库增加transformers模型 A3 W8A16，A5 W8A8（MXFP8）量化配置 **概念域参考（填写提示）：** - cli：命令行 quant / analyze / tune - app：最佳实践量化、量化分析、精度反馈自动调优等 - core：算法、量化服务、调度、张量量化、调优策略、最佳实践、上下文等 - infra：模型适配、调优计划/历史/缓存、测评服务等 - utils：日志、错误处理、插件等 ## 3. 功能验证 冒烟由 CI 门禁检查，无需填写「冒烟是否通过」。 - [x] 功能自验 - [ ] 本地自验用例截图（请勿包含个人信息；可附复现命令） **复现步骤（可选）：** bash # 在此粘贴可复现命令 ## 4. 自检（请逐项确认，不适用标 N/A） **典型安全编码问题** - [x] 是否已校验外部数据 - [x] 是否未采集或打印敏感信息 - [x] 是否已正确设置文件权限 - [x] 是否充分考虑浮点运算溢出、除零等异常场景 - [x] 是否已对正则表达式做 ReDos 检查 **DT** - [x] 是否具备 UT 测试用例看护（路径：用例路径；未添加请说明原因）  路径：test/cases/model/transformers/ - [ ] 是否需要添加冒烟：否（若「是」请说明冒烟场景及对应用途） See merge request: Ascend/msmodelslim!891 | 5 天前 | |
[Doc] API 参考文档对齐当前 CLI：参数改用规范名并对齐配置文档与文档规范 #483 Co-authored-by: rookie_hongchuan<hongchuan6@h-partners.com> # message auto-generated for no-merge-commit merge: !860 merge docs/fix-api-reference into master [Doc] API 参考文档对齐当前 CLI：参数改用规范名并对齐配置文档与文档规范 #483 Created-by: rookie_hongchuan Commit-by: rookie_hongchuan Merged-by: ascend-robot Description: 关联 issue：#483 ## 1. 影响面评估 **接口变更（按需）：** 无 > 仅文档表述，不涉及代码接口。 **输出件变更（按需）：** 无 **非兼容变更（按需）：** 无 **SIG 评审结论（按需）：** 无 > 纯文档改动，无接口/安全/架构变更，无需 SIG 评审。 ## 2. 修改描述 **修改背景（可选）：** CLI 已把参数改用规范名（ --config_path→--config、 --tag→--tags、--pattern→--patterns、--topk→--top_k），但已合入的 API 参考 文档仍沿用旧名称，且部分配置文档/docstring 与文档规范（数字单位间距、术语、标题标号）未对齐。 **修改目的：** 让 API 参考与配置文档对齐当前 CLI 契约与文档规范，消除文档与实现漂移。 **修改内容：**（按「概念 - 变化」分条） - cli：quant/analyze/tune 命令行 API 文档改用规范名 --config/--tags/--patterns/--top_k， 补充 --device_id/--log_level/-v/-q，修正 --trust_remote_code 与设备语义 - config：api_reference/config/** 相关配置文档按文档规范统一描述与术语 - docs：docs_standards 的 01/03 checklist 与模板按标题标号与规范修订 ## 3. 功能验证 冒烟由 CI 门禁检查，无需填写「冒烟是否通过」。 - [x] 功能自验 - [ ] 本地自验用例截图（文档改动，未涉及） **复现步骤（可选）：** N/A（纯文档改动） ## 4. 自检（请逐项确认，不适用标 N/A） **典型安全编码问题** - [x] 是否已校验外部数据：N/A（纯文档） - [x] 是否未采集或打印敏感信息 - [x] 是否已正确设置文件权限：N/A（纯文档） - [x] 是否充分考虑浮点运算溢出、除零等异常场景：N/A（纯文档） - [x] 是否已对正则表达式做 ReDos 检查：N/A（纯文档） **DT** - [x] 是否具备 UT 测试用例看护：N/A（纯文档改动，不涉及代码逻辑） - [x] 是否需要添加冒烟：否（文档改动） See merge request: Ascend/msmodelslim!860 | 14 天前 | |
[Doc] 重组中文资料目录并同步导航与链接 Co-authored-by: joejoezhou<zhourongchen1@huawei.com> # message auto-generated for no-merge-commit merge: !761 merge feature/docs-dirs into master [Doc] 重组中文资料目录并同步导航与链接 Created-by: joejoezhou Commit-by: joejoezhou Merged-by: ascend-robot Description: # PR 提交说明 提交前请阅读 [贡献指南](https://gitcode.com/Ascend/msmodelslim/blob/master/docs/zh/contributing/contributing_guide.md)，开发者文档：[模型接入指南](../docs/zh/knowledge_base/model/integrating_models.md) PR 标题前缀：[Feature]、[Bugfix]、[Doc]、[Test]（与 CONTRIBUTING 一致） ## 1. 影响面评估 **接口变更（按需）：** 无 **输出件变更（按需）：** 无 **非兼容变更（按需）：** 无 **SIG 评审结论（按需）：** 无 ## 2. 修改描述 **修改背景（可选）：** 中文资料目录层级混乱，流程与概念混杂，导航与相对链接随历史迁移积累了失效路径。 **修改目的：** 重组 docs/zh 目录结构，统一以流程指南/知识库/案例参考三类文档分层，并同步导航、索引与全库相关链接。 **修改内容：** - docs：新增推理加速知识库 knowledge_base，按 knowledge_base / user_guide / contributing / api_reference / best_practices / legal 重组中文资料 - docs：每个算法单独子目录、每个调优策略单独子目录、每个量化格式单独子目录 - docs：更新流程指南，区分业务流程和工具使用流程；算法总览补齐子算法 - docs：修复迁移后失效/过时链接，同步 mkdocs 导航（仅改路径，顶层序号与 master 一致） - docs：按评审意见修正相对路径、书名号外层、文档链接书名号与完整句句号 - docs：PR 模板中模型接入路径对齐新目录；清除 V0 案例残留 ## 3. 功能验证 冒烟由 CI 门禁检查，无需填写「冒烟是否通过」。 - [x] 功能自验 - [ ] 本地自验用例截图（请勿包含个人信息；可附复现命令） ## 4. 自检（请逐项确认，不适用标 N/A） **典型安全编码问题** - [x] 是否已校验外部数据（N/A） - [x] 是否未采集或打印敏感信息（N/A） - [x] 是否已正确设置文件权限（N/A） - [x] 是否充分考虑浮点运算溢出、除零等异常场景（N/A） - [x] 是否已对正则表达式做 ReDos 检查（N/A） **DT** - [x] 是否具备 UT 测试用例看护（路径：用例路径；未添加请说明原因）：文档重组，无代码逻辑变更，不新增 UT - [x] 是否需要添加冒烟：否 See merge request: Ascend/msmodelslim!761 | 1 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 5 天前 | ||
| 14 天前 | ||
| 1 个月前 |