| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
[Doc] 新增量化模式术语词条与量化模式详档 Co-authored-by: rookie_hongchuan<hongchuan6@h-partners.com> # message auto-generated for no-merge-commit merge: !818 merge docs/quantization-mode into master [Doc] 新增量化模式术语词条与量化模式详档 Created-by: rookie_hongchuan Commit-by: rookie_hongchuan Merged-by: ascend-robot Description: # PR 提交说明 ## 1. 影响面评估 **接口变更（按需）：** 无 > 备注：无 CLI/API/YAML 变更，纯文档新增。 **输出件变更（按需）：** 无 > 备注：无导出格式、产物路径变更。 **非兼容变更（按需）：** 无 **SIG 评审结论（按需）：** 无 ## 2. 修改描述 **修改背景（可选）：** knowledge_base 下尚无「量化模式」分类：初学者缺少理解"量化为何能加速"的入门词条，具体量化模式也缺少规范详档。本次按 docs_standards 词条模板（01_term_glossary_template）补齐该域。 **修改目的：** 建立「量化模式」术语词条与 16 个模式详档，对齐 msModelSlim 实际 IR 实现（线性层 / KVCache / FA 三类），并在知识库索引注册新目录。 **修改内容：**（按「概念 - 变化」分条） - docs：新增「量化基础」词条域 docs/zh/knowledge_base/quantization_basic/（7 个文件：README 索引 + 6 个数据类型/概念词条 term_*.md，覆盖 INT8/INT4/FP8/FP16/BF16/MXFP8/量化与反量化） - docs：新增「量化模式」词条域 docs/zh/knowledge_base/quantization_mode/（21 个文件：README + 线性层/KVCache/FA 三类子目录词条），对齐 msmodelslim/ir/ 实际 IR 实现（W8A8/W4A4/W8A16 等 12 个线性层模式、KVCache-PerChannel、FA PerBlock/PerHead/PerToken、GEMM 词条） - docs：knowledge_base/README.md 注册 quantization_basic、quantization_mode 两个新目录索引，并修正 ptq 目录引用指向（上游 PTQ 重构后 usage.md 更名为 usage_weight_conversion.md） - docs：参考文档章节移除与词条主题不匹配的论文引用（Jacob INT8 / ZeroQuant / KIVI / Rouhani MX），保留主题直接相关的 4 篇（GPTQ / BF16 / FP8 / FlashAttention）；quantization_mode/README.md 保留原始参考资料 ## 3. 功能验证 - [x] 功能自验（文档结构与链接校验，见复现步骤） - [x] 文档门禁 CI 通过（markdownlint / link-validity-check / resource-existence-check / tag-closed-check） - [ ] 本地自验用例截图（请勿包含个人信息；可附复现命令） **复现步骤（可选）：** bash # 1) 无模板占位（双花括号）、无禁词：应无输出 grep -rEn '\{\{' docs/zh/knowledge_base/quantization_mode/ docs/zh/knowledge_base/quantization_basic/ grep -rEn '待补充|TODO|FIXME|TBD' docs/zh/knowledge_base/quantization_mode/ docs/zh/knowledge_base/quantization_basic/ # 2) 本 PR 涉及的全部 .md 文件相对链接可解析 python3 - <<'EOF' import os, re, subprocess files=[f for f in subprocess.check_output( ['git','diff','upstream/master','HEAD','--name-only']).decode().splitlines() if f.endswith('.md')] bad=[] for f in files: src=open(f, encoding='utf-8').read() for m in re.findall(r'\[[^\]]*\]\(([^)#]+)(?:#[^)]*)?\)', src): if m.startswith(('http','#','mailto:')): continue p=os.path.normpath(os.path.join(os.path.dirname(f), m)) if not os.path.exists(p): bad.append((f,m)) print('broken links in PR files:', bad if bad else 'none') EOF ## 4. 自检（请逐项确认，不适用标 N/A） **典型安全编码问题** - [x] 是否已校验外部数据 —— N/A（无代码变更） - [x] 是否未采集或打印敏感信息 —— N/A（无代码变更） - [x] 是否已正确设置文件权限 —— N/A（无代码变更） - [x] 是否充分考虑浮点运算溢出、除零等异常场景 —— N/A（无代码变更） - [x] 是否已对正则表达式做 ReDos 检查 —— N/A（无代码变更） **DT** - [x] 是否具备 UT 测试用例看护（路径：用例路径；未添加请说明原因）—— 无代码变更，无需 UT - [x] 是否需要添加冒烟：否（纯文档 PR） ## 5. docs_standards 校验清单检查结果 按最新《量化术语百科校验清单》（docs_standards/01_term_glossary_checklist.md，2026-08-13 更新版）对 PR 涉及的 28 个文件（23 个 term_*.md 词条 + 5 个 README 类别/索引文档）执行逐项检查。 ### 总体结论：**通过（无 ERROR 阻断项）** - **ERROR 级：25/25 通过**（术语清单 19 项 + 公共清单 6 项） - G01 文件命名、S01 必填章节、S03 章节顺序、S05 信息框字段、**S06 词条类别取值（已按枚举集合修正：量化基础概念 ×6、量化数据格式 ×20，均带上层链接）**、S11 标题分隔符 - L01/L02/L03 关联词条、L05 概述超链接、C01/C02 概述、C08 知识类型、C10 无占位残留、R01 链接一致性、K02 待建词条登记、K04 词条唯一性 - CE-01~CE-06 公共条目（无模板占位/敏感信息、单 H1、书名号规范等） - **WARN 级：10/14 满足**，4 项建议项（非阻断）： - L10 锚文本：词条类别上层链接解析到父级目录索引（设计取舍，可加 waiver 说明） - C07 参考文档字段：4 处 arXiv 文献缺显式年份 - G02 文件编码：UTF-8 无 BOM（既有量化算法文档带 BOM，全仓口径待统一） - C06 参考文档数量：模式词条参考偏薄，可按原始出处补强 - **知识图谱**：K01 反向引用 23/23 词条入度 ≥1；K03 弱连通图成立（basic↔mode 经 term_gemm/term_int8 等桥接） > 注：第一轮检查发现的 S06 ERROR（词条类别取值不在枚举集合内）已在本 PR 修复，第二轮复核确认通过。 See merge request: Ascend/msmodelslim!818 | 17 天前 | |
[Doc] 新增量化模式术语词条与量化模式详档 Co-authored-by: rookie_hongchuan<hongchuan6@h-partners.com> # message auto-generated for no-merge-commit merge: !818 merge docs/quantization-mode into master [Doc] 新增量化模式术语词条与量化模式详档 Created-by: rookie_hongchuan Commit-by: rookie_hongchuan Merged-by: ascend-robot Description: # PR 提交说明 ## 1. 影响面评估 **接口变更（按需）：** 无 > 备注：无 CLI/API/YAML 变更，纯文档新增。 **输出件变更（按需）：** 无 > 备注：无导出格式、产物路径变更。 **非兼容变更（按需）：** 无 **SIG 评审结论（按需）：** 无 ## 2. 修改描述 **修改背景（可选）：** knowledge_base 下尚无「量化模式」分类：初学者缺少理解"量化为何能加速"的入门词条，具体量化模式也缺少规范详档。本次按 docs_standards 词条模板（01_term_glossary_template）补齐该域。 **修改目的：** 建立「量化模式」术语词条与 16 个模式详档，对齐 msModelSlim 实际 IR 实现（线性层 / KVCache / FA 三类），并在知识库索引注册新目录。 **修改内容：**（按「概念 - 变化」分条） - docs：新增「量化基础」词条域 docs/zh/knowledge_base/quantization_basic/（7 个文件：README 索引 + 6 个数据类型/概念词条 term_*.md，覆盖 INT8/INT4/FP8/FP16/BF16/MXFP8/量化与反量化） - docs：新增「量化模式」词条域 docs/zh/knowledge_base/quantization_mode/（21 个文件：README + 线性层/KVCache/FA 三类子目录词条），对齐 msmodelslim/ir/ 实际 IR 实现（W8A8/W4A4/W8A16 等 12 个线性层模式、KVCache-PerChannel、FA PerBlock/PerHead/PerToken、GEMM 词条） - docs：knowledge_base/README.md 注册 quantization_basic、quantization_mode 两个新目录索引，并修正 ptq 目录引用指向（上游 PTQ 重构后 usage.md 更名为 usage_weight_conversion.md） - docs：参考文档章节移除与词条主题不匹配的论文引用（Jacob INT8 / ZeroQuant / KIVI / Rouhani MX），保留主题直接相关的 4 篇（GPTQ / BF16 / FP8 / FlashAttention）；quantization_mode/README.md 保留原始参考资料 ## 3. 功能验证 - [x] 功能自验（文档结构与链接校验，见复现步骤） - [x] 文档门禁 CI 通过（markdownlint / link-validity-check / resource-existence-check / tag-closed-check） - [ ] 本地自验用例截图（请勿包含个人信息；可附复现命令） **复现步骤（可选）：** bash # 1) 无模板占位（双花括号）、无禁词：应无输出 grep -rEn '\{\{' docs/zh/knowledge_base/quantization_mode/ docs/zh/knowledge_base/quantization_basic/ grep -rEn '待补充|TODO|FIXME|TBD' docs/zh/knowledge_base/quantization_mode/ docs/zh/knowledge_base/quantization_basic/ # 2) 本 PR 涉及的全部 .md 文件相对链接可解析 python3 - <<'EOF' import os, re, subprocess files=[f for f in subprocess.check_output( ['git','diff','upstream/master','HEAD','--name-only']).decode().splitlines() if f.endswith('.md')] bad=[] for f in files: src=open(f, encoding='utf-8').read() for m in re.findall(r'\[[^\]]*\]\(([^)#]+)(?:#[^)]*)?\)', src): if m.startswith(('http','#','mailto:')): continue p=os.path.normpath(os.path.join(os.path.dirname(f), m)) if not os.path.exists(p): bad.append((f,m)) print('broken links in PR files:', bad if bad else 'none') EOF ## 4. 自检（请逐项确认，不适用标 N/A） **典型安全编码问题** - [x] 是否已校验外部数据 —— N/A（无代码变更） - [x] 是否未采集或打印敏感信息 —— N/A（无代码变更） - [x] 是否已正确设置文件权限 —— N/A（无代码变更） - [x] 是否充分考虑浮点运算溢出、除零等异常场景 —— N/A（无代码变更） - [x] 是否已对正则表达式做 ReDos 检查 —— N/A（无代码变更） **DT** - [x] 是否具备 UT 测试用例看护（路径：用例路径；未添加请说明原因）—— 无代码变更，无需 UT - [x] 是否需要添加冒烟：否（纯文档 PR） ## 5. docs_standards 校验清单检查结果 按最新《量化术语百科校验清单》（docs_standards/01_term_glossary_checklist.md，2026-08-13 更新版）对 PR 涉及的 28 个文件（23 个 term_*.md 词条 + 5 个 README 类别/索引文档）执行逐项检查。 ### 总体结论：**通过（无 ERROR 阻断项）** - **ERROR 级：25/25 通过**（术语清单 19 项 + 公共清单 6 项） - G01 文件命名、S01 必填章节、S03 章节顺序、S05 信息框字段、**S06 词条类别取值（已按枚举集合修正：量化基础概念 ×6、量化数据格式 ×20，均带上层链接）**、S11 标题分隔符 - L01/L02/L03 关联词条、L05 概述超链接、C01/C02 概述、C08 知识类型、C10 无占位残留、R01 链接一致性、K02 待建词条登记、K04 词条唯一性 - CE-01~CE-06 公共条目（无模板占位/敏感信息、单 H1、书名号规范等） - **WARN 级：10/14 满足**，4 项建议项（非阻断）： - L10 锚文本：词条类别上层链接解析到父级目录索引（设计取舍，可加 waiver 说明） - C07 参考文档字段：4 处 arXiv 文献缺显式年份 - G02 文件编码：UTF-8 无 BOM（既有量化算法文档带 BOM，全仓口径待统一） - C06 参考文档数量：模式词条参考偏薄，可按原始出处补强 - **知识图谱**：K01 反向引用 23/23 词条入度 ≥1；K03 弱连通图成立（basic↔mode 经 term_gemm/term_int8 等桥接） > 注：第一轮检查发现的 S06 ERROR（词条类别取值不在枚举集合内）已在本 PR 修复，第二轮复核确认通过。 See merge request: Ascend/msmodelslim!818 | 17 天前 | |
[Doc] 新增量化模式术语词条与量化模式详档 Co-authored-by: rookie_hongchuan<hongchuan6@h-partners.com> # message auto-generated for no-merge-commit merge: !818 merge docs/quantization-mode into master [Doc] 新增量化模式术语词条与量化模式详档 Created-by: rookie_hongchuan Commit-by: rookie_hongchuan Merged-by: ascend-robot Description: # PR 提交说明 ## 1. 影响面评估 **接口变更（按需）：** 无 > 备注：无 CLI/API/YAML 变更，纯文档新增。 **输出件变更（按需）：** 无 > 备注：无导出格式、产物路径变更。 **非兼容变更（按需）：** 无 **SIG 评审结论（按需）：** 无 ## 2. 修改描述 **修改背景（可选）：** knowledge_base 下尚无「量化模式」分类：初学者缺少理解"量化为何能加速"的入门词条，具体量化模式也缺少规范详档。本次按 docs_standards 词条模板（01_term_glossary_template）补齐该域。 **修改目的：** 建立「量化模式」术语词条与 16 个模式详档，对齐 msModelSlim 实际 IR 实现（线性层 / KVCache / FA 三类），并在知识库索引注册新目录。 **修改内容：**（按「概念 - 变化」分条） - docs：新增「量化基础」词条域 docs/zh/knowledge_base/quantization_basic/（7 个文件：README 索引 + 6 个数据类型/概念词条 term_*.md，覆盖 INT8/INT4/FP8/FP16/BF16/MXFP8/量化与反量化） - docs：新增「量化模式」词条域 docs/zh/knowledge_base/quantization_mode/（21 个文件：README + 线性层/KVCache/FA 三类子目录词条），对齐 msmodelslim/ir/ 实际 IR 实现（W8A8/W4A4/W8A16 等 12 个线性层模式、KVCache-PerChannel、FA PerBlock/PerHead/PerToken、GEMM 词条） - docs：knowledge_base/README.md 注册 quantization_basic、quantization_mode 两个新目录索引，并修正 ptq 目录引用指向（上游 PTQ 重构后 usage.md 更名为 usage_weight_conversion.md） - docs：参考文档章节移除与词条主题不匹配的论文引用（Jacob INT8 / ZeroQuant / KIVI / Rouhani MX），保留主题直接相关的 4 篇（GPTQ / BF16 / FP8 / FlashAttention）；quantization_mode/README.md 保留原始参考资料 ## 3. 功能验证 - [x] 功能自验（文档结构与链接校验，见复现步骤） - [x] 文档门禁 CI 通过（markdownlint / link-validity-check / resource-existence-check / tag-closed-check） - [ ] 本地自验用例截图（请勿包含个人信息；可附复现命令） **复现步骤（可选）：** bash # 1) 无模板占位（双花括号）、无禁词：应无输出 grep -rEn '\{\{' docs/zh/knowledge_base/quantization_mode/ docs/zh/knowledge_base/quantization_basic/ grep -rEn '待补充|TODO|FIXME|TBD' docs/zh/knowledge_base/quantization_mode/ docs/zh/knowledge_base/quantization_basic/ # 2) 本 PR 涉及的全部 .md 文件相对链接可解析 python3 - <<'EOF' import os, re, subprocess files=[f for f in subprocess.check_output( ['git','diff','upstream/master','HEAD','--name-only']).decode().splitlines() if f.endswith('.md')] bad=[] for f in files: src=open(f, encoding='utf-8').read() for m in re.findall(r'\[[^\]]*\]\(([^)#]+)(?:#[^)]*)?\)', src): if m.startswith(('http','#','mailto:')): continue p=os.path.normpath(os.path.join(os.path.dirname(f), m)) if not os.path.exists(p): bad.append((f,m)) print('broken links in PR files:', bad if bad else 'none') EOF ## 4. 自检（请逐项确认，不适用标 N/A） **典型安全编码问题** - [x] 是否已校验外部数据 —— N/A（无代码变更） - [x] 是否未采集或打印敏感信息 —— N/A（无代码变更） - [x] 是否已正确设置文件权限 —— N/A（无代码变更） - [x] 是否充分考虑浮点运算溢出、除零等异常场景 —— N/A（无代码变更） - [x] 是否已对正则表达式做 ReDos 检查 —— N/A（无代码变更） **DT** - [x] 是否具备 UT 测试用例看护（路径：用例路径；未添加请说明原因）—— 无代码变更，无需 UT - [x] 是否需要添加冒烟：否（纯文档 PR） ## 5. docs_standards 校验清单检查结果 按最新《量化术语百科校验清单》（docs_standards/01_term_glossary_checklist.md，2026-08-13 更新版）对 PR 涉及的 28 个文件（23 个 term_*.md 词条 + 5 个 README 类别/索引文档）执行逐项检查。 ### 总体结论：**通过（无 ERROR 阻断项）** - **ERROR 级：25/25 通过**（术语清单 19 项 + 公共清单 6 项） - G01 文件命名、S01 必填章节、S03 章节顺序、S05 信息框字段、**S06 词条类别取值（已按枚举集合修正：量化基础概念 ×6、量化数据格式 ×20，均带上层链接）**、S11 标题分隔符 - L01/L02/L03 关联词条、L05 概述超链接、C01/C02 概述、C08 知识类型、C10 无占位残留、R01 链接一致性、K02 待建词条登记、K04 词条唯一性 - CE-01~CE-06 公共条目（无模板占位/敏感信息、单 H1、书名号规范等） - **WARN 级：10/14 满足**，4 项建议项（非阻断）： - L10 锚文本：词条类别上层链接解析到父级目录索引（设计取舍，可加 waiver 说明） - C07 参考文档字段：4 处 arXiv 文献缺显式年份 - G02 文件编码：UTF-8 无 BOM（既有量化算法文档带 BOM，全仓口径待统一） - C06 参考文档数量：模式词条参考偏薄，可按原始出处补强 - **知识图谱**：K01 反向引用 23/23 词条入度 ≥1；K03 弱连通图成立（basic↔mode 经 term_gemm/term_int8 等桥接） > 注：第一轮检查发现的 S06 ERROR（词条类别取值不在枚举集合内）已在本 PR 修复，第二轮复核确认通过。 See merge request: Ascend/msmodelslim!818 | 17 天前 | |
[Doc] 修复文档失效链接并补齐缺失的 SVDQuant 量化模式描述 #487 Co-authored-by: rookie_hongchuan<hongchuan6@h-partners.com> # message auto-generated for no-merge-commit merge: !866 merge fix/docs-quant-mode-links into master [Doc] 修复文档失效链接并补齐缺失的 SVDQuant 量化模式描述 #487 Created-by: rookie_hongchuan Commit-by: rookie_hongchuan Merged-by: ascend-robot Description: ## 1. 影响面评估 **接口变更（按需）：** 无 **输出件变更（按需）：** 无 **非兼容变更（按需）：** 无 **SIG 评审结论（按需）：** 无（纯文档改动，无接口/兼容性影响） ## 2. 修改描述 **修改背景：** Issue #487：master 分支 quantization_basic / quantization_mode 两节文档存在失效的相对链接（渲染为 404）。 背景之二：**SVDQuant 作为量化模式此前缺少独立的模式描述**——quantization_mode/README.md 模式索引与 linear_layer_quantization/README.md 模式清单虽已列出 SVDQuant 行（含承载 IR 类），但其链接指向不存在的 svdquant/svdquant.md（算法侧实际文件名为 term_svdquant.md），且 quantization_mode/linear_layer_quantization/ 下**并无 term_svdquant.md 词条页**，量化模式描述处于缺失状态。 **修改目的：** ① 修复全部失效链接，使 quantization_basic / quantization_mode 及直接引用 quantization_mode 的 quantization_format 文档相对链接全部可达；② **补齐此前缺失的 SVDQuant 量化模式描述**——新增模式词条页，使模式索引/清单可稳定指向该词条。 **修改内容：** - docs/zh/knowledge_base/quantization_basic：term_int4.md、term_quantization.md 中 quantization_algorithms/gptq/gptq.md→gptq/term_gptq.md、laos/laos.md→laos/term_laos.md（实际词条文件名为 term_<name>.md，不存在 <name>.md）。 - docs/zh/knowledge_base/quantization_mode： - fa_quantization/README.md：fa3_quant/fa3_quant.md→fa3_quant/term_fa3_quant.md； - linear_layer_quantization/README.md：linear_quant/linear_quant.md→linear_quant/term_linear_quant.md（×2）；SVDQuant 行由失效的 ../../quantization_algorithms/svdquant/svdquant.md 改指本目录新增的 term_svdquant.md； - quantization_mode/README.md 模式索引：SVDQuant 行改指 linear_layer_quantization/term_svdquant.md。 - docs/zh/knowledge_base/quantization_format：README.md、ascendv1/term_ascendv1.md、compressed_tensors/term_compressed_tensors.md、mindie_sd/term_mindie_sd.md 中引用不存在的 quantization_mode/term_quantization_mode.md（quantization_mode 总览页实际为 quantization_mode/README.md），统一改指 quantization_mode/README.md。 - **移除失效源码链接**：ascendv1/ascendv1_usage.md 中指向 msmodelslim/core/quant_service/modelslim_v1/save/interface.py 的相对路径链接（差一级 ../，渲染 404），移除链接、保留 AscendV1SaveInterface 类名文本。 - **补齐缺失的 SVDQuant 量化模式描述**：新增 quantization_mode/linear_layer_quantization/term_svdquant.md（按《量化术语百科词条模板》及 01_term_glossary_checklist.md 校验编写），并在 term_w4a4_dynamic.md 关联词条补充对该词条的反向引用。 - **AIDD 修订**：term_svdquant.md 错别字（残差分量/直接量化/整数量化）、fa_quantization/README.md「存储」→「内存」及 MXFP4「尾数仅 2bit」→「1bit」、term_quantization.md「存储」→「内存」。 **概念域参考：** 不涉及代码概念域（docs）。 ## 3. 功能验证 - [x] 功能自验：相对链接存在性自动校验（脚本解析全部 markdown 链接）——修复后 quantization_basic + quantization_mode 全范围 0 失效，全 knowledge_base 127 个 md **0 失效**（含移除 ascendv1_usage.md 的 interface.py 失效链接）。 - [x] 新词条按 01_term_glossary_checklist.md + 00_common_checklist.md 逐项核对（ERROR/WARN 全过，见仓库 docs_standards）。 - [x] pre-commit 通过。 **复现命令：** bash # 链接校验脚本：遍历 docs/zh/knowledge_base 下全部 md，解析相对链接并用 os.path 校验目标存在性 # 修复前：quantization_basic/quantization_mode 范围 9 处失效；修复后 0 处。 ## 4. 自检（请逐项确认，不适用标 N/A） **典型安全编码问题** - [x] N/A：仅文档改动，无外部数据 / 敏感信息 / 权限 / 浮点 / 正则逻辑变更 **DT** - [x] N/A：纯文档改动，无新增测试用例；pre-commit 校验通过 See merge request: Ascend/msmodelslim!866 | 1 天前 | |
[Doc] 新增量化模式术语词条与量化模式详档 Co-authored-by: rookie_hongchuan<hongchuan6@h-partners.com> # message auto-generated for no-merge-commit merge: !818 merge docs/quantization-mode into master [Doc] 新增量化模式术语词条与量化模式详档 Created-by: rookie_hongchuan Commit-by: rookie_hongchuan Merged-by: ascend-robot Description: # PR 提交说明 ## 1. 影响面评估 **接口变更（按需）：** 无 > 备注：无 CLI/API/YAML 变更，纯文档新增。 **输出件变更（按需）：** 无 > 备注：无导出格式、产物路径变更。 **非兼容变更（按需）：** 无 **SIG 评审结论（按需）：** 无 ## 2. 修改描述 **修改背景（可选）：** knowledge_base 下尚无「量化模式」分类：初学者缺少理解"量化为何能加速"的入门词条，具体量化模式也缺少规范详档。本次按 docs_standards 词条模板（01_term_glossary_template）补齐该域。 **修改目的：** 建立「量化模式」术语词条与 16 个模式详档，对齐 msModelSlim 实际 IR 实现（线性层 / KVCache / FA 三类），并在知识库索引注册新目录。 **修改内容：**（按「概念 - 变化」分条） - docs：新增「量化基础」词条域 docs/zh/knowledge_base/quantization_basic/（7 个文件：README 索引 + 6 个数据类型/概念词条 term_*.md，覆盖 INT8/INT4/FP8/FP16/BF16/MXFP8/量化与反量化） - docs：新增「量化模式」词条域 docs/zh/knowledge_base/quantization_mode/（21 个文件：README + 线性层/KVCache/FA 三类子目录词条），对齐 msmodelslim/ir/ 实际 IR 实现（W8A8/W4A4/W8A16 等 12 个线性层模式、KVCache-PerChannel、FA PerBlock/PerHead/PerToken、GEMM 词条） - docs：knowledge_base/README.md 注册 quantization_basic、quantization_mode 两个新目录索引，并修正 ptq 目录引用指向（上游 PTQ 重构后 usage.md 更名为 usage_weight_conversion.md） - docs：参考文档章节移除与词条主题不匹配的论文引用（Jacob INT8 / ZeroQuant / KIVI / Rouhani MX），保留主题直接相关的 4 篇（GPTQ / BF16 / FP8 / FlashAttention）；quantization_mode/README.md 保留原始参考资料 ## 3. 功能验证 - [x] 功能自验（文档结构与链接校验，见复现步骤） - [x] 文档门禁 CI 通过（markdownlint / link-validity-check / resource-existence-check / tag-closed-check） - [ ] 本地自验用例截图（请勿包含个人信息；可附复现命令） **复现步骤（可选）：** bash # 1) 无模板占位（双花括号）、无禁词：应无输出 grep -rEn '\{\{' docs/zh/knowledge_base/quantization_mode/ docs/zh/knowledge_base/quantization_basic/ grep -rEn '待补充|TODO|FIXME|TBD' docs/zh/knowledge_base/quantization_mode/ docs/zh/knowledge_base/quantization_basic/ # 2) 本 PR 涉及的全部 .md 文件相对链接可解析 python3 - <<'EOF' import os, re, subprocess files=[f for f in subprocess.check_output( ['git','diff','upstream/master','HEAD','--name-only']).decode().splitlines() if f.endswith('.md')] bad=[] for f in files: src=open(f, encoding='utf-8').read() for m in re.findall(r'\[[^\]]*\]\(([^)#]+)(?:#[^)]*)?\)', src): if m.startswith(('http','#','mailto:')): continue p=os.path.normpath(os.path.join(os.path.dirname(f), m)) if not os.path.exists(p): bad.append((f,m)) print('broken links in PR files:', bad if bad else 'none') EOF ## 4. 自检（请逐项确认，不适用标 N/A） **典型安全编码问题** - [x] 是否已校验外部数据 —— N/A（无代码变更） - [x] 是否未采集或打印敏感信息 —— N/A（无代码变更） - [x] 是否已正确设置文件权限 —— N/A（无代码变更） - [x] 是否充分考虑浮点运算溢出、除零等异常场景 —— N/A（无代码变更） - [x] 是否已对正则表达式做 ReDos 检查 —— N/A（无代码变更） **DT** - [x] 是否具备 UT 测试用例看护（路径：用例路径；未添加请说明原因）—— 无代码变更，无需 UT - [x] 是否需要添加冒烟：否（纯文档 PR） ## 5. docs_standards 校验清单检查结果 按最新《量化术语百科校验清单》（docs_standards/01_term_glossary_checklist.md，2026-08-13 更新版）对 PR 涉及的 28 个文件（23 个 term_*.md 词条 + 5 个 README 类别/索引文档）执行逐项检查。 ### 总体结论：**通过（无 ERROR 阻断项）** - **ERROR 级：25/25 通过**（术语清单 19 项 + 公共清单 6 项） - G01 文件命名、S01 必填章节、S03 章节顺序、S05 信息框字段、**S06 词条类别取值（已按枚举集合修正：量化基础概念 ×6、量化数据格式 ×20，均带上层链接）**、S11 标题分隔符 - L01/L02/L03 关联词条、L05 概述超链接、C01/C02 概述、C08 知识类型、C10 无占位残留、R01 链接一致性、K02 待建词条登记、K04 词条唯一性 - CE-01~CE-06 公共条目（无模板占位/敏感信息、单 H1、书名号规范等） - **WARN 级：10/14 满足**，4 项建议项（非阻断）： - L10 锚文本：词条类别上层链接解析到父级目录索引（设计取舍，可加 waiver 说明） - C07 参考文档字段：4 处 arXiv 文献缺显式年份 - G02 文件编码：UTF-8 无 BOM（既有量化算法文档带 BOM，全仓口径待统一） - C06 参考文档数量：模式词条参考偏薄，可按原始出处补强 - **知识图谱**：K01 反向引用 23/23 词条入度 ≥1；K03 弱连通图成立（basic↔mode 经 term_gemm/term_int8 等桥接） > 注：第一轮检查发现的 S06 ERROR（词条类别取值不在枚举集合内）已在本 PR 修复，第二轮复核确认通过。 See merge request: Ascend/msmodelslim!818 | 17 天前 | |
[Doc] 新增量化模式术语词条与量化模式详档 Co-authored-by: rookie_hongchuan<hongchuan6@h-partners.com> # message auto-generated for no-merge-commit merge: !818 merge docs/quantization-mode into master [Doc] 新增量化模式术语词条与量化模式详档 Created-by: rookie_hongchuan Commit-by: rookie_hongchuan Merged-by: ascend-robot Description: # PR 提交说明 ## 1. 影响面评估 **接口变更（按需）：** 无 > 备注：无 CLI/API/YAML 变更，纯文档新增。 **输出件变更（按需）：** 无 > 备注：无导出格式、产物路径变更。 **非兼容变更（按需）：** 无 **SIG 评审结论（按需）：** 无 ## 2. 修改描述 **修改背景（可选）：** knowledge_base 下尚无「量化模式」分类：初学者缺少理解"量化为何能加速"的入门词条，具体量化模式也缺少规范详档。本次按 docs_standards 词条模板（01_term_glossary_template）补齐该域。 **修改目的：** 建立「量化模式」术语词条与 16 个模式详档，对齐 msModelSlim 实际 IR 实现（线性层 / KVCache / FA 三类），并在知识库索引注册新目录。 **修改内容：**（按「概念 - 变化」分条） - docs：新增「量化基础」词条域 docs/zh/knowledge_base/quantization_basic/（7 个文件：README 索引 + 6 个数据类型/概念词条 term_*.md，覆盖 INT8/INT4/FP8/FP16/BF16/MXFP8/量化与反量化） - docs：新增「量化模式」词条域 docs/zh/knowledge_base/quantization_mode/（21 个文件：README + 线性层/KVCache/FA 三类子目录词条），对齐 msmodelslim/ir/ 实际 IR 实现（W8A8/W4A4/W8A16 等 12 个线性层模式、KVCache-PerChannel、FA PerBlock/PerHead/PerToken、GEMM 词条） - docs：knowledge_base/README.md 注册 quantization_basic、quantization_mode 两个新目录索引，并修正 ptq 目录引用指向（上游 PTQ 重构后 usage.md 更名为 usage_weight_conversion.md） - docs：参考文档章节移除与词条主题不匹配的论文引用（Jacob INT8 / ZeroQuant / KIVI / Rouhani MX），保留主题直接相关的 4 篇（GPTQ / BF16 / FP8 / FlashAttention）；quantization_mode/README.md 保留原始参考资料 ## 3. 功能验证 - [x] 功能自验（文档结构与链接校验，见复现步骤） - [x] 文档门禁 CI 通过（markdownlint / link-validity-check / resource-existence-check / tag-closed-check） - [ ] 本地自验用例截图（请勿包含个人信息；可附复现命令） **复现步骤（可选）：** bash # 1) 无模板占位（双花括号）、无禁词：应无输出 grep -rEn '\{\{' docs/zh/knowledge_base/quantization_mode/ docs/zh/knowledge_base/quantization_basic/ grep -rEn '待补充|TODO|FIXME|TBD' docs/zh/knowledge_base/quantization_mode/ docs/zh/knowledge_base/quantization_basic/ # 2) 本 PR 涉及的全部 .md 文件相对链接可解析 python3 - <<'EOF' import os, re, subprocess files=[f for f in subprocess.check_output( ['git','diff','upstream/master','HEAD','--name-only']).decode().splitlines() if f.endswith('.md')] bad=[] for f in files: src=open(f, encoding='utf-8').read() for m in re.findall(r'\[[^\]]*\]\(([^)#]+)(?:#[^)]*)?\)', src): if m.startswith(('http','#','mailto:')): continue p=os.path.normpath(os.path.join(os.path.dirname(f), m)) if not os.path.exists(p): bad.append((f,m)) print('broken links in PR files:', bad if bad else 'none') EOF ## 4. 自检（请逐项确认，不适用标 N/A） **典型安全编码问题** - [x] 是否已校验外部数据 —— N/A（无代码变更） - [x] 是否未采集或打印敏感信息 —— N/A（无代码变更） - [x] 是否已正确设置文件权限 —— N/A（无代码变更） - [x] 是否充分考虑浮点运算溢出、除零等异常场景 —— N/A（无代码变更） - [x] 是否已对正则表达式做 ReDos 检查 —— N/A（无代码变更） **DT** - [x] 是否具备 UT 测试用例看护（路径：用例路径；未添加请说明原因）—— 无代码变更，无需 UT - [x] 是否需要添加冒烟：否（纯文档 PR） ## 5. docs_standards 校验清单检查结果 按最新《量化术语百科校验清单》（docs_standards/01_term_glossary_checklist.md，2026-08-13 更新版）对 PR 涉及的 28 个文件（23 个 term_*.md 词条 + 5 个 README 类别/索引文档）执行逐项检查。 ### 总体结论：**通过（无 ERROR 阻断项）** - **ERROR 级：25/25 通过**（术语清单 19 项 + 公共清单 6 项） - G01 文件命名、S01 必填章节、S03 章节顺序、S05 信息框字段、**S06 词条类别取值（已按枚举集合修正：量化基础概念 ×6、量化数据格式 ×20，均带上层链接）**、S11 标题分隔符 - L01/L02/L03 关联词条、L05 概述超链接、C01/C02 概述、C08 知识类型、C10 无占位残留、R01 链接一致性、K02 待建词条登记、K04 词条唯一性 - CE-01~CE-06 公共条目（无模板占位/敏感信息、单 H1、书名号规范等） - **WARN 级：10/14 满足**，4 项建议项（非阻断）： - L10 锚文本：词条类别上层链接解析到父级目录索引（设计取舍，可加 waiver 说明） - C07 参考文档字段：4 处 arXiv 文献缺显式年份 - G02 文件编码：UTF-8 无 BOM（既有量化算法文档带 BOM，全仓口径待统一） - C06 参考文档数量：模式词条参考偏薄，可按原始出处补强 - **知识图谱**：K01 反向引用 23/23 词条入度 ≥1；K03 弱连通图成立（basic↔mode 经 term_gemm/term_int8 等桥接） > 注：第一轮检查发现的 S06 ERROR（词条类别取值不在枚举集合内）已在本 PR 修复，第二轮复核确认通过。 See merge request: Ascend/msmodelslim!818 | 17 天前 | |
[Doc] 修复文档失效链接并补齐缺失的 SVDQuant 量化模式描述 #487 Co-authored-by: rookie_hongchuan<hongchuan6@h-partners.com> # message auto-generated for no-merge-commit merge: !866 merge fix/docs-quant-mode-links into master [Doc] 修复文档失效链接并补齐缺失的 SVDQuant 量化模式描述 #487 Created-by: rookie_hongchuan Commit-by: rookie_hongchuan Merged-by: ascend-robot Description: ## 1. 影响面评估 **接口变更（按需）：** 无 **输出件变更（按需）：** 无 **非兼容变更（按需）：** 无 **SIG 评审结论（按需）：** 无（纯文档改动，无接口/兼容性影响） ## 2. 修改描述 **修改背景：** Issue #487：master 分支 quantization_basic / quantization_mode 两节文档存在失效的相对链接（渲染为 404）。 背景之二：**SVDQuant 作为量化模式此前缺少独立的模式描述**——quantization_mode/README.md 模式索引与 linear_layer_quantization/README.md 模式清单虽已列出 SVDQuant 行（含承载 IR 类），但其链接指向不存在的 svdquant/svdquant.md（算法侧实际文件名为 term_svdquant.md），且 quantization_mode/linear_layer_quantization/ 下**并无 term_svdquant.md 词条页**，量化模式描述处于缺失状态。 **修改目的：** ① 修复全部失效链接，使 quantization_basic / quantization_mode 及直接引用 quantization_mode 的 quantization_format 文档相对链接全部可达；② **补齐此前缺失的 SVDQuant 量化模式描述**——新增模式词条页，使模式索引/清单可稳定指向该词条。 **修改内容：** - docs/zh/knowledge_base/quantization_basic：term_int4.md、term_quantization.md 中 quantization_algorithms/gptq/gptq.md→gptq/term_gptq.md、laos/laos.md→laos/term_laos.md（实际词条文件名为 term_<name>.md，不存在 <name>.md）。 - docs/zh/knowledge_base/quantization_mode： - fa_quantization/README.md：fa3_quant/fa3_quant.md→fa3_quant/term_fa3_quant.md； - linear_layer_quantization/README.md：linear_quant/linear_quant.md→linear_quant/term_linear_quant.md（×2）；SVDQuant 行由失效的 ../../quantization_algorithms/svdquant/svdquant.md 改指本目录新增的 term_svdquant.md； - quantization_mode/README.md 模式索引：SVDQuant 行改指 linear_layer_quantization/term_svdquant.md。 - docs/zh/knowledge_base/quantization_format：README.md、ascendv1/term_ascendv1.md、compressed_tensors/term_compressed_tensors.md、mindie_sd/term_mindie_sd.md 中引用不存在的 quantization_mode/term_quantization_mode.md（quantization_mode 总览页实际为 quantization_mode/README.md），统一改指 quantization_mode/README.md。 - **移除失效源码链接**：ascendv1/ascendv1_usage.md 中指向 msmodelslim/core/quant_service/modelslim_v1/save/interface.py 的相对路径链接（差一级 ../，渲染 404），移除链接、保留 AscendV1SaveInterface 类名文本。 - **补齐缺失的 SVDQuant 量化模式描述**：新增 quantization_mode/linear_layer_quantization/term_svdquant.md（按《量化术语百科词条模板》及 01_term_glossary_checklist.md 校验编写），并在 term_w4a4_dynamic.md 关联词条补充对该词条的反向引用。 - **AIDD 修订**：term_svdquant.md 错别字（残差分量/直接量化/整数量化）、fa_quantization/README.md「存储」→「内存」及 MXFP4「尾数仅 2bit」→「1bit」、term_quantization.md「存储」→「内存」。 **概念域参考：** 不涉及代码概念域（docs）。 ## 3. 功能验证 - [x] 功能自验：相对链接存在性自动校验（脚本解析全部 markdown 链接）——修复后 quantization_basic + quantization_mode 全范围 0 失效，全 knowledge_base 127 个 md **0 失效**（含移除 ascendv1_usage.md 的 interface.py 失效链接）。 - [x] 新词条按 01_term_glossary_checklist.md + 00_common_checklist.md 逐项核对（ERROR/WARN 全过，见仓库 docs_standards）。 - [x] pre-commit 通过。 **复现命令：** bash # 链接校验脚本：遍历 docs/zh/knowledge_base 下全部 md，解析相对链接并用 os.path 校验目标存在性 # 修复前：quantization_basic/quantization_mode 范围 9 处失效；修复后 0 处。 ## 4. 自检（请逐项确认，不适用标 N/A） **典型安全编码问题** - [x] N/A：仅文档改动，无外部数据 / 敏感信息 / 权限 / 浮点 / 正则逻辑变更 **DT** - [x] N/A：纯文档改动，无新增测试用例；pre-commit 校验通过 See merge request: Ascend/msmodelslim!866 | 1 天前 |
量化基础 量化术语百科词条
英文名称：Quantization Basics 应用领域：大语言模型量化压缩、推理加速、KVCache 压缩
一句话定位
本目录独立成篇，集中介绍量化领域的基础术语，是阅读量化模式等知识词条的前置知识，按术语拆分为以下词条：
| 术语 | 词条 | 内容 |
|---|---|---|
| 量化 / 反量化 | 量化与反量化 | 量化/反量化公式、scale/zero_point、静态/动态、量化粒度、对称性 |
| 数据类型 FP16 / BF16 | 数据类型：FP16 / BF16 | 16位浮点格式，未量化基准 |
| 数据类型 INT8 | 数据类型：INT8 | 8位整数格式 |
| 数据类型 INT4 | 数据类型：INT4 | 4位整数格式 |
| 数据类型 FP8 | 数据类型：FP8（E4M3） | 8位浮点格式 |
| 数据类型 MXFP8 / MXFP4 | 数据类型：MXFP8 / MXFP4 | 块级共享指数格式 |
建议按顺序阅读：先读量化与反量化理解量化机制，再按需查阅各数据类型词条；量化带来的计算收益（整数 GEMM）在量化模式中展开。
WxAy 记法
模式名常用 WxAy 记法（如 W8A8、W4A4）表示线性层量化中权重（W）与激活（A）的位宽组合，其中 y 是可选后缀，表示数据类型或参数获取方式（如 W8A8 静态、W4A4 MX 动态）。完整说明见量化模式「如何理解一个量化模式」一节。
关联流程
关联词条
- 量化模式：目标阅读对象，本目录词条是其前置基础知识。
- 线性层量化：下位概念，WxAy 记法与 GEMM 的具体应用。
- KVCache 量化：下位概念，量化在缓存 K/V 张量上的应用。
- FA 量化：下位概念，量化在注意力矩阵运算上的应用。
参考资料
- 《量化模式》