| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
[Doc] [bugfix]文档 CLI 参数规范化:统一为新命令行规范并补充 --version 参考 Co-authored-by: Rigel_Chen<chenruijie9@huawei.com> # message auto-generated for no-merge-commit merge: !887 merge docs-fix into master [Doc] [bugfix]文档 CLI 参数规范化:统一为新命令行规范并补充 --version 参考 Created-by: Rigel_Chen Commit-by: Rigel_Chen Merged-by: ascend-robot Description: # PR 提交说明 提交前请阅读 [贡献指南](https://gitcode.com/Ascend/msmodelslim/blob/master/docs/zh/contributing/contributing_guide.md),开发者文档:[模型接入指南](../docs/zh/knowledge_base/model/integrating_models.md) PR 标题前缀:[Feature]、[Bugfix]、[Doc]、[Test](与 CONTRIBUTING 一致) ## 1. 影响面评估 **接口变更(按需):** 无 > 备注:若无变更请保留「无」;涉及 CLI、API、YAML 等请在此项补充说明。 **输出件变更(按需):** 无 > 备注:若无变更请保留「无」;涉及导出格式、产物路径等请在此项补充说明。 **非兼容变更(按需):** 无 > 备注:若无变更请保留「无」;若有非兼容变更请说明迁移方式。 **SIG 评审结论(按需):** 无 > 提醒:非兼容、安全风险等高危 PR 须经 SIG 评审后合入;无则保留「无」。 ## 2. 修改描述 **修改背景(可选):**部分文档的参数示例扔采用旧版规范,cli文档中缺失新增的--version/-V 命令相关介绍 **修改目的:** 使修改后的文档描述符合新版CLI参数规范,并新增--version/-V 命令相关介绍 **修改内容:** • doc(CLI 参数规范化):统一文档中的 CLI 参数写法为新规范,包括 --config(替代 --config_path)、布尔参数小写 true/false、--device 与 --device_id 职责拆分。 • 例:docs/zh/user_guide/usage_quick_quantization.md、docs/en/feature_guide/quick_quantization_v1/usage.md、docs/en/getting_started/quantization_quick_start.md 等一键量化 / 快速开始文档 • doc(新增 --version 参考):在 CLI 文档中补充新增的 --version/-V 命令介绍。 • 例:docs/zh/api_reference/cli/msmodelslim_quant.md、docs/zh/api_reference/cli/msmodelslim_analyze.md、docs/zh/api_reference/cli/msmodelslim_tune.md • doc(--timeout / --device 参数描述修正):将 --timeout 规范为整数秒(兼容遗留时长字符串);修正 --device 多卡参数描述(设备类型用 --device,多卡索引用 --device_id 指定)。 • 例:docs/zh/user_guide/usage_auto_precision_tuning.md、docs/en/feature_guide/auto_precision_tuning/usage.md、docs/zh/knowledge_base/ptq/{llm,vlm,dit}/usage_*.md • doc(Wan2.2 新模型量化文档修复):修复 Wan2.2 新模型量化文档不合理内容。 • 例:docs/zh/best_practices/wan2_2_w4a4f4_new_dit_quantization_case.md、docs/zh/user_guide/usage_weight_quantization.md • doc(format 量化格式资料修复):修复 ascendv1 / compressed_tensors / mindie_sd 等量化格式文档 issue。 • 例:docs/zh/knowledge_base/quantization_format/ascendv1/ascendv1_usage.md、docs/zh/knowledge_base/quantization_format/compressed_tensors/compressed_tensors_usage.md、docs/zh/knowledge_base/quantization_format/mindie_sd/mindie_sd_usage.md **概念域参考(填写提示):** - cli:命令行 quant / analyze / tune - app:最佳实践量化、量化分析、精度反馈自动调优等 - core:算法、量化服务、调度、张量量化、调优策略、最佳实践、上下文等 - infra:模型适配、调优计划/历史/缓存、测评服务等 - utils:日志、错误处理、插件等 ## 3. 功能验证 冒烟由 CI 门禁检查,无需填写「冒烟是否通过」。 - [ ] 功能自验 NA - [ ] 本地自验用例截图(请勿包含个人信息;可附复现命令)NA **复现步骤(可选):** bash # 在此粘贴可复现命令 ## 4. 自检(请逐项确认,不适用标 N/A) **典型安全编码问题** - [ ] 是否已校验外部数据 NA - [ ] 是否未采集或打印敏感信息 NA - [ ] 是否已正确设置文件权限 NA - [ ] 是否充分考虑浮点运算溢出、除零等异常场景 NA - [ ] 是否已对正则表达式做 ReDos 检查 NA **DT** - [ ] 是否具备 UT 测试用例看护(路径:用例路径;未添加请说明原因)NA - [ ] 是否需要添加冒烟:否(若「是」请说明冒烟场景及对应用途)NA See merge request: Ascend/msmodelslim!887 | 2 天前 | |
【feature】model_type支持transformers Co-authored-by: zhangz200102<zhangzheng183@huawei.com> # message auto-generated for no-merge-commit merge: !891 merge feature/support_transformers_model_type into master 【feature】model_type支持transformers Created-by: zhangz200102 Commit-by: zhangz200102 Merged-by: ascend-robot Description: # PR 提交说明 提交前请阅读 [贡献指南](https://gitcode.com/Ascend/msmodelslim/blob/master/docs/zh/contributing/contributing_guide.md),开发者文档:[模型接入指南](../docs/zh/knowledge_base/model/integrating_models.md) PR 标题前缀:[Feature]、[Bugfix]、[Doc]、[Test](与 CONTRIBUTING 一致) ## 1. 影响面评估 **接口变更(按需):** 无 > 备注:若无变更请保留「无」;涉及 CLI、API、YAML 等请在此项补充说明。 **输出件变更(按需):** 无 > 备注:若无变更请保留「无」;涉及导出格式、产物路径等请在此项补充说明。 **非兼容变更(按需):** 无 > 备注:若无变更请保留「无」;若有非兼容变更请说明迁移方式。 **SIG 评审结论(按需):** 无 > 提醒:非兼容、安全风险等高危 PR 须经 SIG 评审后合入;无则保留「无」。 ## 2. 修改描述 **修改背景(可选):**(问题现象、使用场景等) 详见关联issue:https://gitcode.com/Ascend/msmodelslim/issues/512 **修改目的:**(本 PR 要达成什么目标) 提供transformers模型的基础量化方案 1、model_type支持transformers,仅支持加载transformers模型,不支持算法接口(与default区别,default有算法默认适配) 2、资料声明model_type支持transformers,仅支持LLM 3、transformers最佳实践配置增加A3 W8A16,A5 W8A8(MXFP8)量化配置,无抑制,全量化 **修改内容:**(按「概念 - 变化」分条,示例:core/算法:新增 SmoothQuant 离群值抑制) model:模型库增加LLM transformers模型的基础适配器 lab_practice:最佳实践库增加transformers模型 A3 W8A16,A5 W8A8(MXFP8)量化配置 **概念域参考(填写提示):** - cli:命令行 quant / analyze / tune - app:最佳实践量化、量化分析、精度反馈自动调优等 - core:算法、量化服务、调度、张量量化、调优策略、最佳实践、上下文等 - infra:模型适配、调优计划/历史/缓存、测评服务等 - utils:日志、错误处理、插件等 ## 3. 功能验证 冒烟由 CI 门禁检查,无需填写「冒烟是否通过」。 - [x] 功能自验 - [ ] 本地自验用例截图(请勿包含个人信息;可附复现命令) **复现步骤(可选):** bash # 在此粘贴可复现命令 ## 4. 自检(请逐项确认,不适用标 N/A) **典型安全编码问题** - [x] 是否已校验外部数据 - [x] 是否未采集或打印敏感信息 - [x] 是否已正确设置文件权限 - [x] 是否充分考虑浮点运算溢出、除零等异常场景 - [x] 是否已对正则表达式做 ReDos 检查 **DT** - [x] 是否具备 UT 测试用例看护(路径:用例路径;未添加请说明原因)  路径:test/cases/model/transformers/ - [ ] 是否需要添加冒烟:否(若「是」请说明冒烟场景及对应用途) See merge request: Ascend/msmodelslim!891 | 11 小时前 | |
[Doc] [bugfix]文档 CLI 参数规范化:统一为新命令行规范并补充 --version 参考 Co-authored-by: Rigel_Chen<chenruijie9@huawei.com> # message auto-generated for no-merge-commit merge: !887 merge docs-fix into master [Doc] [bugfix]文档 CLI 参数规范化:统一为新命令行规范并补充 --version 参考 Created-by: Rigel_Chen Commit-by: Rigel_Chen Merged-by: ascend-robot Description: # PR 提交说明 提交前请阅读 [贡献指南](https://gitcode.com/Ascend/msmodelslim/blob/master/docs/zh/contributing/contributing_guide.md),开发者文档:[模型接入指南](../docs/zh/knowledge_base/model/integrating_models.md) PR 标题前缀:[Feature]、[Bugfix]、[Doc]、[Test](与 CONTRIBUTING 一致) ## 1. 影响面评估 **接口变更(按需):** 无 > 备注:若无变更请保留「无」;涉及 CLI、API、YAML 等请在此项补充说明。 **输出件变更(按需):** 无 > 备注:若无变更请保留「无」;涉及导出格式、产物路径等请在此项补充说明。 **非兼容变更(按需):** 无 > 备注:若无变更请保留「无」;若有非兼容变更请说明迁移方式。 **SIG 评审结论(按需):** 无 > 提醒:非兼容、安全风险等高危 PR 须经 SIG 评审后合入;无则保留「无」。 ## 2. 修改描述 **修改背景(可选):**部分文档的参数示例扔采用旧版规范,cli文档中缺失新增的--version/-V 命令相关介绍 **修改目的:** 使修改后的文档描述符合新版CLI参数规范,并新增--version/-V 命令相关介绍 **修改内容:** • doc(CLI 参数规范化):统一文档中的 CLI 参数写法为新规范,包括 --config(替代 --config_path)、布尔参数小写 true/false、--device 与 --device_id 职责拆分。 • 例:docs/zh/user_guide/usage_quick_quantization.md、docs/en/feature_guide/quick_quantization_v1/usage.md、docs/en/getting_started/quantization_quick_start.md 等一键量化 / 快速开始文档 • doc(新增 --version 参考):在 CLI 文档中补充新增的 --version/-V 命令介绍。 • 例:docs/zh/api_reference/cli/msmodelslim_quant.md、docs/zh/api_reference/cli/msmodelslim_analyze.md、docs/zh/api_reference/cli/msmodelslim_tune.md • doc(--timeout / --device 参数描述修正):将 --timeout 规范为整数秒(兼容遗留时长字符串);修正 --device 多卡参数描述(设备类型用 --device,多卡索引用 --device_id 指定)。 • 例:docs/zh/user_guide/usage_auto_precision_tuning.md、docs/en/feature_guide/auto_precision_tuning/usage.md、docs/zh/knowledge_base/ptq/{llm,vlm,dit}/usage_*.md • doc(Wan2.2 新模型量化文档修复):修复 Wan2.2 新模型量化文档不合理内容。 • 例:docs/zh/best_practices/wan2_2_w4a4f4_new_dit_quantization_case.md、docs/zh/user_guide/usage_weight_quantization.md • doc(format 量化格式资料修复):修复 ascendv1 / compressed_tensors / mindie_sd 等量化格式文档 issue。 • 例:docs/zh/knowledge_base/quantization_format/ascendv1/ascendv1_usage.md、docs/zh/knowledge_base/quantization_format/compressed_tensors/compressed_tensors_usage.md、docs/zh/knowledge_base/quantization_format/mindie_sd/mindie_sd_usage.md **概念域参考(填写提示):** - cli:命令行 quant / analyze / tune - app:最佳实践量化、量化分析、精度反馈自动调优等 - core:算法、量化服务、调度、张量量化、调优策略、最佳实践、上下文等 - infra:模型适配、调优计划/历史/缓存、测评服务等 - utils:日志、错误处理、插件等 ## 3. 功能验证 冒烟由 CI 门禁检查,无需填写「冒烟是否通过」。 - [ ] 功能自验 NA - [ ] 本地自验用例截图(请勿包含个人信息;可附复现命令)NA **复现步骤(可选):** bash # 在此粘贴可复现命令 ## 4. 自检(请逐项确认,不适用标 N/A) **典型安全编码问题** - [ ] 是否已校验外部数据 NA - [ ] 是否未采集或打印敏感信息 NA - [ ] 是否已正确设置文件权限 NA - [ ] 是否充分考虑浮点运算溢出、除零等异常场景 NA - [ ] 是否已对正则表达式做 ReDos 检查 NA **DT** - [ ] 是否具备 UT 测试用例看护(路径:用例路径;未添加请说明原因)NA - [ ] 是否需要添加冒烟:否(若「是」请说明冒烟场景及对应用途)NA See merge request: Ascend/msmodelslim!887 | 2 天前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 2 天前 | ||
| 11 小时前 | ||
| 2 天前 |