| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
fix: 修复Python 3.9类型注解兼容性问题(#173) Co-authored-by: QQR<qiuqianru@h-partners.com> # message auto-generated for no-merge-commit merge: !249 merge fix/issue-173-python39 into master fix: 修复Python 3.9类型注解兼容性问题(#173) Created-by: annqr Commit-by: QQR Merged-by: cann-robot Description: ## 描述 修复 Python 3.9 环境导入 amct_pytorch 时，AlgoBuildContext 使用 PEP 604 联合类型注解导致 TypeError 的问题。将 matrix_size 和 dim_size 改为 Optional[int]，兼容 Python 3.9。 关联 Issue：#173 ## 如何测试 在 Python 3.9.6 环境中验证 AlgoBuildContext 所在模块可正常加载和实例化，并对修改文件执行语法编译检查。验证通过，不再出现 unsupported operand type(s) for |: type and NoneType。 ## 文档更新 无。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!249 | 1 个月前 | |
fix: 移除不必要的ml_dtypes依赖(#171) Co-authored-by: QQR<qiuqianru@h-partners.com> # message auto-generated for no-merge-commit merge: !250 merge fix/issue-171-ml-dtypes into master fix: 移除不必要的ml_dtypes依赖(#171) Created-by: annqr Commit-by: QQR Merged-by: cann-robot Description: ## 描述 移除原生 INT4 路径中不必要的 ml_dtypes 依赖。AMCT 的 INT4 数据通过 np.uint8/np.int8 手工完成 nibble pack 和 unpack，实际数据流不需要 ml_dtypes.int4；因此删除源码中的 ml_dtypes 导入及未被真实 INT4 路径使用的 dtype 映射，同时删除仅验证该映射的两条测试。 移除只封装 getattr(np, np_type) 的 resolve_np_dtype 方法，普通类型解析统一直接使用 NumPy 标准接口 np.dtype；INT4 仍走独立的 np.uint8 packed 数据路径。requirements.txt 不再新增 ml_dtypes，现有 INT4 pack、unpack、raw data 和 external data 测试均保留。 关联 Issue：#171 ## 如何测试 已执行修改文件的 Python 语法编译检查、ml_dtypes/resolve_np_dtype 残留引用扫描以及 git diff --check，均通过。相关 unittest 在当前 Python 3.9 本地环境因未安装 requirements.txt 中的 numpy 而未执行；CI 将按项目依赖环境运行保留的 INT4 测试。 ## 文档更新 无。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!250 | 1 个月前 | |
style: 执行 pre-commit 格式化(#161) Co-authored-by: fujun19<fujun19@hisilicon.com> # message auto-generated for no-merge-commit merge: !228 merge chore/precommit-format-161 into master style: 执行 pre-commit 格式化(#161) Created-by: fujun19 Commit-by: fujun19 Merged-by: cann-robot Description: ## 描述 按照 issue #161 提到的 pre-commit 本地格式化方法，对仓内 tracked C/C++ 和 Python 文件执行格式化。本 PR 仅包含 clang-format / ruff-format 自动格式化结果，不包含 ruff 历史例外配置。 ## 如何测试 - pre-commit run clang-format --all-files：Passed - pre-commit run ruff-format --all-files：Passed - 未运行完整 pre-commit run --all-files；ruff-check 的历史例外按要求未纳入本次提交。 ## 文档更新 无。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 代码重构 - [x] 其他，请描述：pre-commit 格式化 See merge request: cann/amct!228 | 2 个月前 | |
feat: 增加 QuantAlgorithmBase 算法基类; 优化 is_observe 通路控制开关 Co-authored-by: zchenbm<chenzhuo63@hisilicon.com> # message auto-generated for no-merge-commit merge: !245 merge master into master feat: 增加 QuantAlgorithmBase 算法基类; 优化 is_observe 通路控制开关 Created-by: zchenbm97 Commit-by: zchenbm Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1. 新增量化算法基类： QuantAlgorithmBase，默认包含is_observe开关和ptq_params加载和导出的公共接口，新增calib_forwad()接口，默认返回原始Tensor；2. 实际注册的量化算法需要重写forward()并实现量化通路，需要进行校准的量化算法需要重写calib_forward()并保证返回原始Tensor； 3. 当前已支持的Dtype同步新增is_observe 开关，True时返回原始Tensor，不注入量化误差； 4. 优化PTQ校准通路和注入量化误差通路控制，统一由amct_pytorch/common/models/llm/common/quant_apply.py 中 set_model_to_observe() 接口控制，去除了冗余set_*_quantizer() 控制接口； ## 如何测试 <!--描述测试此改动的步骤和前提条件。--> 已安装本项目所需依赖环境下： 1. python -m pytest tests/unit_test/algorithms 2. python -m pytest tests/unit_test/common/models/llm/common 3. python -m pytest tests/unit_test/quantization 4. python -m pytest tests/unit_test/workflows ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及文档更新 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!245 | 2 个月前 | |
[feat]: add amct llm Co-authored-by: w00852777<wanghui432@huawei.com> Co-authored-by: fujun19<fujun19@hisilicon.com> Co-authored-by: SwaggyAlex<zhangyi601@huawei.com> Co-authored-by: li_ting<liting73@hisilicon.com> # message auto-generated for no-merge-commit merge: !102 merge master into master [feat]: add amct llm Created-by: fujun19 Commit-by: SwaggyAlex;fujun19;wuranxx;li_ting;l00968832;lianghengyi;sophia1213;Hengyi Liang;w00852777 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 本 PR 新增LLM量化工具模块，用于面向大语言模型的后训练量化、精度评估和部署产物导出，主要包括： 1. 新增并整理 LLM 量化工作流能力 - 新增 amct_pytorch/workflows 与 amct_pytorch/cli/llm，覆盖 PTQ、PTQ 数据提取、部署导出、评估等流程。 - 新增通用配置解析、数据处理、模型适配、量化应用、优化器等公共模块。 - 补充 Qwen、LongCat、DeepSeek、GLM 等 LLM 模型适配与量化模块。 2. 调整 AMCT PyTorch 包结构 - 引入 algorithms、common、quantization、workflows 等更清晰的模块划分。 - 将 classic 图量化相关实现收敛到 amct_pytorch/classic/graph_based，保持历史能力可用。 - 修正安装包数据路径，确保 classic graph-based 相关 proto、so、配置等资源能正确打包。 3. 完善构建与测试能力 - build.sh -u 默认开启覆盖率采集。 - 新增 pyproject.toml，统一 pytest 与 coverage 配置。 - 调整 CMake UT 入口，使用 pytest 执行 tests/unit_test 与 tests/amct_pytorch。 - 大幅补充算法、配置、LLM 模型适配、量化模块、workflow 等单元测试。 4. 更新依赖、文档和样例 - 补充 LLM 相关运行依赖，如 datasets、accelerate、compressed_tensors、torchao、einops 等。 - 更新 README、算法说明、LLM 文档、快速安装和 PTQ 配置说明。 - 新增/整理一站式平台样例，包括 Qwen3.6-MoE、DeepSeek-V4 Flash，以及 PTQ、部署、评估、数据提取脚本。 - 将算法样例统一整理到 examples/algorithms 目录，提升样例可发现性和可维护性。 ## 如何测试 <!--描述测试此改动的步骤和前提条件。--> 已进行以下验证： 1. UT 与覆盖率验证 bash build.sh -u 结果： 1911 passed, 2 skipped, 1 xfailed, 371 warnings Coverage XML written to build/coverage.xml ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> - 更新根目录 README.md，补充 AMCT PyTorch 当前包结构、核心能力、一站式平台快速体验入口，并修正 amct_ops 文档链接。 - 更新 docs/AMCT_Pytorch_LLM.md，补充 LLM 量化流程说明，包括 PTQ 数据提取、PTQ 执行、部署导出和评估流程。 - 更新 docs/algorithm_brief.md，同步当前支持的量化算法说明。 - 更新 docs/context/ptq_config_param.md，修正配置示例引用路径，避免文档中的样例路径不可用。 - 更新 docs/quick_install.md 与 docs/README.md，同步依赖安装、构建验证和特性说明。 - 更新 examples/README.md，重新整理样例入口，明确算法样例与模型端到端样例的使用路径。 - 新增/完善 Qwen3.6-MoE 与 DeepSeek-V4 Flash 一站式平台样例文档，降低用户在 Atlas A3 环境中完成 NPU 推理体验的上手成本。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!102 | 4 个月前 | |
fix: master分支 测试用例存在多处日志语法错误 (#166) Co-authored-by: zhengpeiyang<zhengpeiyang@huawei.com> # message auto-generated for no-merge-commit merge: !244 merge fix-issue-166 into master fix: master分支 测试用例存在多处日志语法错误 (#166) Created-by: zhengpeiyang Commit-by: zhengpeiyang Merged-by: cann-robot Description: ## 描述 - 修复摘要: 修复 DeepSeekV3.2 中四处日志语法错误，并补充静态回归检查。 - 变更文件: - amct_pytorch/experimental/quantization/DeepSeekV3.2/cores/models/deepseek_v3_2/quant_utils.py - amct_pytorch/experimental/quantization/DeepSeekV3.2/cores/quantization/utils.py - amct_pytorch/experimental/quantization/DeepSeekV3.2/pp/forward/custom.py - tests/unit_test/common/test_log_message_style.py ### Diff 摘要 text .../DeepSeekV3.2/cores/models/deepseek_v3_2/quant_utils.py | 2 +- .../quantization/DeepSeekV3.2/cores/quantization/utils.py | 4 ++-- .../experimental/quantization/DeepSeekV3.2/pp/forward/custom.py | 2 +- tests/unit_test/common/test_log_message_style.py | 7 ++++++- 4 files changed, 10 insertions(+), 5 deletions(-) ## 如何测试 - 测试结论: PASS - 检测到代码变更文件 4 个: amct_pytorch/experimental/quantization/DeepSeekV3.2/cores/models/deepseek_v3_2/quant_utils.py, amct_pytorch/experimental/quantization/DeepSeekV3.2/cores/quantization/utils.py, amct_pytorch/experimental/quantization/DeepSeekV3.2/pp/forward/custom.py, tests/unit_test/common/test_log_message_style.py - 测试日志包含通过信号 - 测试日志覆盖计划测试项 2 条 ## 文档更新 无文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## 自动填充信息 ## 自动填充信息 - 关联 Issue: https://gitcode.com/cann/amct/issues/166 - 修复摘要: 修复 DeepSeekV3.2 中四处日志语法错误，并补充静态回归检查。 - 测试结论: PASS - 变更文件: - amct_pytorch/experimental/quantization/DeepSeekV3.2/cores/models/deepseek_v3_2/quant_utils.py - amct_pytorch/experimental/quantization/DeepSeekV3.2/cores/quantization/utils.py - amct_pytorch/experimental/quantization/DeepSeekV3.2/pp/forward/custom.py - tests/unit_test/common/test_log_message_style.py ### 测试证据 - 检测到代码变更文件 4 个: amct_pytorch/experimental/quantization/DeepSeekV3.2/cores/models/deepseek_v3_2/quant_utils.py, amct_pytorch/experimental/quantization/DeepSeekV3.2/cores/quantization/utils.py, amct_pytorch/experimental/quantization/DeepSeekV3.2/pp/forward/custom.py, tests/unit_test/common/test_log_message_style.py - 测试日志包含通过信号 - 测试日志覆盖计划测试项 2 条 ### 风险和遗留问题 - (none) ### Diff 摘要 text .../DeepSeekV3.2/cores/models/deepseek_v3_2/quant_utils.py | 2 +- .../quantization/DeepSeekV3.2/cores/quantization/utils.py | 4 ++-- .../experimental/quantization/DeepSeekV3.2/pp/forward/custom.py | 2 +- tests/unit_test/common/test_log_message_style.py | 7 ++++++- 4 files changed, 10 insertions(+), 5 deletions(-) ## 风险和遗留问题 - (none) See merge request: cann/amct!244 | 2 个月前 | |
style: 执行 pre-commit 格式化(#161) Co-authored-by: fujun19<fujun19@hisilicon.com> # message auto-generated for no-merge-commit merge: !228 merge chore/precommit-format-161 into master style: 执行 pre-commit 格式化(#161) Created-by: fujun19 Commit-by: fujun19 Merged-by: cann-robot Description: ## 描述 按照 issue #161 提到的 pre-commit 本地格式化方法，对仓内 tracked C/C++ 和 Python 文件执行格式化。本 PR 仅包含 clang-format / ruff-format 自动格式化结果，不包含 ruff 历史例外配置。 ## 如何测试 - pre-commit run clang-format --all-files：Passed - pre-commit run ruff-format --all-files：Passed - 未运行完整 pre-commit run --all-files；ruff-check 的历史例外按要求未纳入本次提交。 ## 文档更新 无。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 代码重构 - [x] 其他，请描述：pre-commit 格式化 See merge request: cann/amct!228 | 2 个月前 | |
[Feature] Added structured pruning (amct_pytorch.pruning) Co-authored-by: leedongkun30-arch<lee.dongkun30@gmail.com> # message auto-generated for no-merge-commit merge: !140 merge feat/pruning into master [Feature] Added structured pruning (amct_pytorch.pruning) Created-by: leedongkun30-arch Commit-by: leedongkun30-arch Merged-by: cann-robot Description: ## 描述 新增 eager 模式**结构化剪枝**子系统 amct_pytorch.pruning，接口风格与 amct.quantize 对齐：对已实例化并加载权重的 torch.nn.Module 原地剪枝。覆盖三个目标域——**dense FFN 中间维 / CNN 通道 / MoE 专家**，仅剪枝“生产者↔消费者接口可验证”的维度，其余保守跳过（注意力投影、残差宽度等自动排除）。 改动为**增量式**：仅在 amct_pytorch/__init__.py 中以 PEP 562 惰性方式暴露剪枝入口，不修改既有量化代码；与 classic/graph_based 剪枝器共存，并复用其精度抽象 AutoCalibrationEvaluatorBase，使 prune→quantize 在同一预算下串联。 公开接口（__all__，与量化 1:1 对齐）： - amct.prune(model, config=None, *, data, tolerance, evaluator, size_budget, finetune_fn, report) —— 原地剪枝，返回 None；可选传入 report=PruneReport() 就地收集统计（不保留任何进程级状态）。 - amct.accuracy_based_auto_prune(...) —— 按可接受精度损失自动搜索并应用满足容差的最大剪枝率，返回 AutoTuneResult，对应量化侧 accuracy_based_auto_calibration。 - 预定义配置 *_PRUNE_CFG：CNN_RECONSTRUCT / CNN_VARIANCE / DENSE_LOWVAR / FULL_STRUCTURED / MOE_MASSVAR / MOE_OUTPUT_MERGE / SENSITIVITY_ALLOC。 size_budget_prune / prune_finetune / prune_diagnose 及菜单配置为高级接口，可从 amct_pytorch.pruning 导入，不进入 __all__。剪枝与量化为正交压缩维度：先 prune 改变形状，再 amct.quantize / amct.convert。 ### 实测参考 在 16 个从零训练模型（CNN@MNIST / Dense-LM·MoE-LM@WikiText）与真实预训练 HF 模型上测得，供评审参考： - **CNN 输出保持重建**：训练后 MNIST CNN @0.3，naive variance_channel 0.343 vs reconstruct 0.574（参数量相同）。 - **Dense-LM 1% 预算空间**：无 finetune ≈0%；单遍 finetune（lr 1e-5 + warmup）后中位 27%（最高 61%）。真实 MoE（granite-1b-a400m）同样需要 finetune（≈0% → 17%）。 - **MoE 专家判据依赖路由深度**：全局 variance 劣于 mass，仅深层用 variance（boundary=K）在多专家路由上胜过 mass（OLMoE held-ppl 46.9→35.3）；小专家路由（granite，32 专家）下菜单守卫正确回退到 mass。 - **敏感度分配依赖深度**：浅层网络（<10 层）6/6 胜，深层（≥10 层）4/19；guard='calib_nll' 在更差时回退均匀分配。 - **prune→int8 串联**：经恢复菜单剪枝的 SmolLM-135M 走完整 prune→int8→convert 流水线，ppl 1.649 → 剪枝后 1.699 → 叠加 int8 1.704。 ## 如何测试 本地运行单元测试： python -m pytest tests/amct_pytorch/test_pruning_*.py 覆盖核心剪枝、容差自动搜索、跨层敏感度分配、尺寸预算模式、MoE 输出合并、prune→quantize 串联，以及真实 HF 模型（Mixtral / Qwen3Moe / GraniteMoe / DeepseekV3 / Ernie4_5_Moe 等），全部通过。 ## 文档更新 - 新增 docs/zh/api/：prune.md、accuracy_based_auto_prune.md、size_budget_prune.md、prune_finetune.md、prune_diagnose.md、pruning_configs.md，并在 docs/zh/api/README.md 索引中登记。 - 新增示例 examples/algorithms/pruning/（dense / CNN / MoE）。 - amct_pytorch/pruning/README.md / README_en.md 增补“工作原理”走查（打分 → 剪枝 → 恢复 →（可选）量化），并配 5 张流程图（总流程、三个可剪枝的域、容差二分搜索、菜单择优、prune→quantize 串联），图片位于 amct_pytorch/pruning/figures/。 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!140 | 1 个月前 | |
feat: 增加 QuantAlgorithmBase 算法基类; 优化 is_observe 通路控制开关 Co-authored-by: zchenbm<chenzhuo63@hisilicon.com> # message auto-generated for no-merge-commit merge: !245 merge master into master feat: 增加 QuantAlgorithmBase 算法基类; 优化 is_observe 通路控制开关 Created-by: zchenbm97 Commit-by: zchenbm Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1. 新增量化算法基类： QuantAlgorithmBase，默认包含is_observe开关和ptq_params加载和导出的公共接口，新增calib_forwad()接口，默认返回原始Tensor；2. 实际注册的量化算法需要重写forward()并实现量化通路，需要进行校准的量化算法需要重写calib_forward()并保证返回原始Tensor； 3. 当前已支持的Dtype同步新增is_observe 开关，True时返回原始Tensor，不注入量化误差； 4. 优化PTQ校准通路和注入量化误差通路控制，统一由amct_pytorch/common/models/llm/common/quant_apply.py 中 set_model_to_observe() 接口控制，去除了冗余set_*_quantizer() 控制接口； ## 如何测试 <!--描述测试此改动的步骤和前提条件。--> 已安装本项目所需依赖环境下： 1. python -m pytest tests/unit_test/algorithms 2. python -m pytest tests/unit_test/common/models/llm/common 3. python -m pytest tests/unit_test/quantization 4. python -m pytest tests/unit_test/workflows ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及文档更新 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!245 | 2 个月前 | |
[feat]: add amct llm Co-authored-by: w00852777<wanghui432@huawei.com> Co-authored-by: fujun19<fujun19@hisilicon.com> Co-authored-by: SwaggyAlex<zhangyi601@huawei.com> Co-authored-by: li_ting<liting73@hisilicon.com> # message auto-generated for no-merge-commit merge: !102 merge master into master [feat]: add amct llm Created-by: fujun19 Commit-by: SwaggyAlex;fujun19;wuranxx;li_ting;l00968832;lianghengyi;sophia1213;Hengyi Liang;w00852777 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 本 PR 新增LLM量化工具模块，用于面向大语言模型的后训练量化、精度评估和部署产物导出，主要包括： 1. 新增并整理 LLM 量化工作流能力 - 新增 amct_pytorch/workflows 与 amct_pytorch/cli/llm，覆盖 PTQ、PTQ 数据提取、部署导出、评估等流程。 - 新增通用配置解析、数据处理、模型适配、量化应用、优化器等公共模块。 - 补充 Qwen、LongCat、DeepSeek、GLM 等 LLM 模型适配与量化模块。 2. 调整 AMCT PyTorch 包结构 - 引入 algorithms、common、quantization、workflows 等更清晰的模块划分。 - 将 classic 图量化相关实现收敛到 amct_pytorch/classic/graph_based，保持历史能力可用。 - 修正安装包数据路径，确保 classic graph-based 相关 proto、so、配置等资源能正确打包。 3. 完善构建与测试能力 - build.sh -u 默认开启覆盖率采集。 - 新增 pyproject.toml，统一 pytest 与 coverage 配置。 - 调整 CMake UT 入口，使用 pytest 执行 tests/unit_test 与 tests/amct_pytorch。 - 大幅补充算法、配置、LLM 模型适配、量化模块、workflow 等单元测试。 4. 更新依赖、文档和样例 - 补充 LLM 相关运行依赖，如 datasets、accelerate、compressed_tensors、torchao、einops 等。 - 更新 README、算法说明、LLM 文档、快速安装和 PTQ 配置说明。 - 新增/整理一站式平台样例，包括 Qwen3.6-MoE、DeepSeek-V4 Flash，以及 PTQ、部署、评估、数据提取脚本。 - 将算法样例统一整理到 examples/algorithms 目录，提升样例可发现性和可维护性。 ## 如何测试 <!--描述测试此改动的步骤和前提条件。--> 已进行以下验证： 1. UT 与覆盖率验证 bash build.sh -u 结果： 1911 passed, 2 skipped, 1 xfailed, 371 warnings Coverage XML written to build/coverage.xml ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> - 更新根目录 README.md，补充 AMCT PyTorch 当前包结构、核心能力、一站式平台快速体验入口，并修正 amct_ops 文档链接。 - 更新 docs/AMCT_Pytorch_LLM.md，补充 LLM 量化流程说明，包括 PTQ 数据提取、PTQ 执行、部署导出和评估流程。 - 更新 docs/algorithm_brief.md，同步当前支持的量化算法说明。 - 更新 docs/context/ptq_config_param.md，修正配置示例引用路径，避免文档中的样例路径不可用。 - 更新 docs/quick_install.md 与 docs/README.md，同步依赖安装、构建验证和特性说明。 - 更新 examples/README.md，重新整理样例入口，明确算法样例与模型端到端样例的使用路径。 - 新增/完善 Qwen3.6-MoE 与 DeepSeek-V4 Flash 一站式平台样例文档，降低用户在 Atlas A3 环境中完成 NPU 推理体验的上手成本。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!102 | 4 个月前 | |
fix: 接通文档承诺的公开导入路径，保证文档示例可直接运行 Co-authored-by: fujun19<fujun19@hisilicon.com> # message auto-generated for no-merge-commit merge: !162 merge fix/doc-auto-calibration-import into master fix: 接通文档承诺的公开导入路径，保证文档示例可直接运行 Created-by: fujun19 Commit-by: fujun19 Merged-by: cann-robot Description: ## 描述 文档（README + 各 API 页）给出的多条公开导入路径在代码中并未接通：真实实现深埋在 amct_pytorch/classic/graph_based/amct_pytorch/... 下，而文档给的是简短公开路径，用户照文档 import 即报 ModuleNotFoundError。 以**文档用法为准**补建公开转发模块（均指向健康实现，不改动任何在用逻辑）。每条修复对应的文档出处如下： ### 1. amct_pytorch.common.auto_calibration（AutoCalibrationEvaluatorBase 等 6 个基类） 新建 amct_pytorch/common/auto_calibration/，接通以下文档用法： - docs/README.md:114 —— from amct_pytorch.common.auto_calibration import AutoCalibrationEvaluatorBase - docs/zh/api/accuracy_based_auto_calibration.md:140 —— 同上（自定义 evaluator 继承基类做基于精度的自动量化） ### 2. amct_pytorch.nn.module.quantization.*（5 个 QAT 类） 新建 amct_pytorch/nn/module/quantization/ 三层包 + 5 个转发子模块，接通： - docs/README.md:641-642, 695 —— Conv2dQAT / LinearQAT - docs/zh/api/Conv2dQAT.md:23,29,223,235 —— Conv2dQAT - docs/zh/api/Conv3dQAT.md:25,31,227 —— Conv3dQAT - docs/zh/api/ConvTranspose2dQAT.md —— ConvTranspose2dQAT - docs/zh/api/LinearQAT.md —— LinearQAT - docs/zh/api/QuantCalibrationOp.md —— QuantCalibrationOp ### 3. amct_pytorch.tensor_decompose（auto_decomposition / decompose_network） 新建 amct_pytorch/tensor_decompose/，接通： - docs/README.md:1912,1924,1937 —— auto_decomposition / decompose_network - docs/zh/api/auto_decomposition.md:71 —— from amct_pytorch.tensor_decompose import auto_decomposition - docs/zh/api/decompose_network.md:68 —— from amct_pytorch.tensor_decompose import decompose_network ### 4. amct_pytorch.common.auto_channel_prune（SensitivityBase / SearchChannelBase） 新建 amct_pytorch/common/auto_channel_prune/ 指向健康实现，并修正 README 笔误： - docs/README.md:1023 —— amct.common.auto_channel_prune.sensitivity_base → amct_pytorch.common.auto_channel_prune.sensitivity_base（包名 amct→amct_pytorch） - docs/README.md:1040 —— amct.common.auto_prune.search_channel_base → amct_pytorch.common.auto_channel_prune.search_channel_base（包名修正 + 目录名 auto_prune→auto_channel_prune） - docs/README.md:1037 —— prose 中默认实现路径 auto_prune → auto_channel_prune 同步修正 ## 如何测试 隔离环境（torch 2.7.1 + NPU）实测： - 文档全部 10 条 amct_pytorch 导入语句逐条按原文执行通过 - 顶层 25 个 amct.* API 仍全部可达（新增包未破坏现有导入） - setuptools.find_packages() 可发现 6 个新建转发包，打包进 wheel 不会遗漏 ## 文档更新 修正 docs/README.md：amct→amct_pytorch、auto_prune→auto_channel_prune（共 3 处，含 1 处 prose 路径）。其余 API 页（accuracy_based_auto_calibration / Conv2dQAT / Conv3dQAT / ConvTranspose2dQAT / LinearQAT / QuantCalibrationOp / auto_decomposition / decompose_network）一字未改，靠新增转发模块接通。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!162 | 3 个月前 | |
feat: 增加 QuantAlgorithmBase 算法基类; 优化 is_observe 通路控制开关 Co-authored-by: zchenbm<chenzhuo63@hisilicon.com> # message auto-generated for no-merge-commit merge: !245 merge master into master feat: 增加 QuantAlgorithmBase 算法基类; 优化 is_observe 通路控制开关 Created-by: zchenbm97 Commit-by: zchenbm Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1. 新增量化算法基类： QuantAlgorithmBase，默认包含is_observe开关和ptq_params加载和导出的公共接口，新增calib_forwad()接口，默认返回原始Tensor；2. 实际注册的量化算法需要重写forward()并实现量化通路，需要进行校准的量化算法需要重写calib_forward()并保证返回原始Tensor； 3. 当前已支持的Dtype同步新增is_observe 开关，True时返回原始Tensor，不注入量化误差； 4. 优化PTQ校准通路和注入量化误差通路控制，统一由amct_pytorch/common/models/llm/common/quant_apply.py 中 set_model_to_observe() 接口控制，去除了冗余set_*_quantizer() 控制接口； ## 如何测试 <!--描述测试此改动的步骤和前提条件。--> 已安装本项目所需依赖环境下： 1. python -m pytest tests/unit_test/algorithms 2. python -m pytest tests/unit_test/common/models/llm/common 3. python -m pytest tests/unit_test/quantization 4. python -m pytest tests/unit_test/workflows ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及文档更新 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!245 | 2 个月前 | |
ofmr/hif8/fp8/fp4/mx Co-authored-by: RQL7<renqilin2@h-partners.com> # message auto-generated for no-merge-commit merge: !20 merge master into master ofmr/hif8/fp8/fp4/mx Created-by: RQL7 Commit-by: RQL7 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 支持OFMR算法，支持HIF8/FP8/FP4/MXFP8/MXFP4量化类型 ## 如何测试 <!--描述测试此改动的步骤和前提条件。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!20 | 8 个月前 | |
feat: 新增 --experimental 构建选项以打包实验特性代码 Co-authored-by: fujun19<fujun19@hisilicon.com> # message auto-generated for no-merge-commit merge: !167 merge worktree-feat+experimental-pkg-option into master feat: 新增 --experimental 构建选项以打包实验特性代码 Created-by: fujun19 Commit-by: fujun19 Merged-by: cann-robot Description: ## 描述 默认的 --pkg / --torch 构建排除 amct_pytorch/experimental/ 目录，新增 --experimental 标志，使用时将实验特性纳入分发包。 用法示例： bash bash build.sh --torch --experimental bash build.sh --pkg --experimental ## 如何测试 - bash build.sh --help 确认 --experimental 选项出现在帮助输出中 - bash build.sh --torch 产物中不含 amct_pytorch/experimental - bash build.sh --torch --experimental 产物中包含 amct_pytorch/experimental - ruff check / bash -n 语法检查通过，CodeArts Check 0 defects ## 文档更新 - AGENTS.md：补充 --experimental 构建示例 - examples/README.md / README_en.md：FlatQuant 标注实验特性，说明需要 --experimental 构建 - examples/algorithms/flatquant/README_CN.md / README_en.md：顶部加实验特性前置说明 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!167 | 3 个月前 | |
[Feature] Added structured pruning (amct_pytorch.pruning) Co-authored-by: leedongkun30-arch<lee.dongkun30@gmail.com> # message auto-generated for no-merge-commit merge: !140 merge feat/pruning into master [Feature] Added structured pruning (amct_pytorch.pruning) Created-by: leedongkun30-arch Commit-by: leedongkun30-arch Merged-by: cann-robot Description: ## 描述 新增 eager 模式**结构化剪枝**子系统 amct_pytorch.pruning，接口风格与 amct.quantize 对齐：对已实例化并加载权重的 torch.nn.Module 原地剪枝。覆盖三个目标域——**dense FFN 中间维 / CNN 通道 / MoE 专家**，仅剪枝“生产者↔消费者接口可验证”的维度，其余保守跳过（注意力投影、残差宽度等自动排除）。 改动为**增量式**：仅在 amct_pytorch/__init__.py 中以 PEP 562 惰性方式暴露剪枝入口，不修改既有量化代码；与 classic/graph_based 剪枝器共存，并复用其精度抽象 AutoCalibrationEvaluatorBase，使 prune→quantize 在同一预算下串联。 公开接口（__all__，与量化 1:1 对齐）： - amct.prune(model, config=None, *, data, tolerance, evaluator, size_budget, finetune_fn, report) —— 原地剪枝，返回 None；可选传入 report=PruneReport() 就地收集统计（不保留任何进程级状态）。 - amct.accuracy_based_auto_prune(...) —— 按可接受精度损失自动搜索并应用满足容差的最大剪枝率，返回 AutoTuneResult，对应量化侧 accuracy_based_auto_calibration。 - 预定义配置 *_PRUNE_CFG：CNN_RECONSTRUCT / CNN_VARIANCE / DENSE_LOWVAR / FULL_STRUCTURED / MOE_MASSVAR / MOE_OUTPUT_MERGE / SENSITIVITY_ALLOC。 size_budget_prune / prune_finetune / prune_diagnose 及菜单配置为高级接口，可从 amct_pytorch.pruning 导入，不进入 __all__。剪枝与量化为正交压缩维度：先 prune 改变形状，再 amct.quantize / amct.convert。 ### 实测参考 在 16 个从零训练模型（CNN@MNIST / Dense-LM·MoE-LM@WikiText）与真实预训练 HF 模型上测得，供评审参考： - **CNN 输出保持重建**：训练后 MNIST CNN @0.3，naive variance_channel 0.343 vs reconstruct 0.574（参数量相同）。 - **Dense-LM 1% 预算空间**：无 finetune ≈0%；单遍 finetune（lr 1e-5 + warmup）后中位 27%（最高 61%）。真实 MoE（granite-1b-a400m）同样需要 finetune（≈0% → 17%）。 - **MoE 专家判据依赖路由深度**：全局 variance 劣于 mass，仅深层用 variance（boundary=K）在多专家路由上胜过 mass（OLMoE held-ppl 46.9→35.3）；小专家路由（granite，32 专家）下菜单守卫正确回退到 mass。 - **敏感度分配依赖深度**：浅层网络（<10 层）6/6 胜，深层（≥10 层）4/19；guard='calib_nll' 在更差时回退均匀分配。 - **prune→int8 串联**：经恢复菜单剪枝的 SmolLM-135M 走完整 prune→int8→convert 流水线，ppl 1.649 → 剪枝后 1.699 → 叠加 int8 1.704。 ## 如何测试 本地运行单元测试： python -m pytest tests/amct_pytorch/test_pruning_*.py 覆盖核心剪枝、容差自动搜索、跨层敏感度分配、尺寸预算模式、MoE 输出合并、prune→quantize 串联，以及真实 HF 模型（Mixtral / Qwen3Moe / GraniteMoe / DeepseekV3 / Ernie4_5_Moe 等），全部通过。 ## 文档更新 - 新增 docs/zh/api/：prune.md、accuracy_based_auto_prune.md、size_budget_prune.md、prune_finetune.md、prune_diagnose.md、pruning_configs.md，并在 docs/zh/api/README.md 索引中登记。 - 新增示例 examples/algorithms/pruning/（dense / CNN / MoE）。 - amct_pytorch/pruning/README.md / README_en.md 增补“工作原理”走查（打分 → 剪枝 → 恢复 →（可选）量化），并配 5 张流程图（总流程、三个可剪枝的域、容差二分搜索、菜单择优、prune→quantize 串联），图片位于 amct_pytorch/pruning/figures/。 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!140 | 1 个月前 | |
[feat]: add amct llm Co-authored-by: w00852777<wanghui432@huawei.com> Co-authored-by: fujun19<fujun19@hisilicon.com> Co-authored-by: SwaggyAlex<zhangyi601@huawei.com> Co-authored-by: li_ting<liting73@hisilicon.com> # message auto-generated for no-merge-commit merge: !102 merge master into master [feat]: add amct llm Created-by: fujun19 Commit-by: SwaggyAlex;fujun19;wuranxx;li_ting;l00968832;lianghengyi;sophia1213;Hengyi Liang;w00852777 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 本 PR 新增LLM量化工具模块，用于面向大语言模型的后训练量化、精度评估和部署产物导出，主要包括： 1. 新增并整理 LLM 量化工作流能力 - 新增 amct_pytorch/workflows 与 amct_pytorch/cli/llm，覆盖 PTQ、PTQ 数据提取、部署导出、评估等流程。 - 新增通用配置解析、数据处理、模型适配、量化应用、优化器等公共模块。 - 补充 Qwen、LongCat、DeepSeek、GLM 等 LLM 模型适配与量化模块。 2. 调整 AMCT PyTorch 包结构 - 引入 algorithms、common、quantization、workflows 等更清晰的模块划分。 - 将 classic 图量化相关实现收敛到 amct_pytorch/classic/graph_based，保持历史能力可用。 - 修正安装包数据路径，确保 classic graph-based 相关 proto、so、配置等资源能正确打包。 3. 完善构建与测试能力 - build.sh -u 默认开启覆盖率采集。 - 新增 pyproject.toml，统一 pytest 与 coverage 配置。 - 调整 CMake UT 入口，使用 pytest 执行 tests/unit_test 与 tests/amct_pytorch。 - 大幅补充算法、配置、LLM 模型适配、量化模块、workflow 等单元测试。 4. 更新依赖、文档和样例 - 补充 LLM 相关运行依赖，如 datasets、accelerate、compressed_tensors、torchao、einops 等。 - 更新 README、算法说明、LLM 文档、快速安装和 PTQ 配置说明。 - 新增/整理一站式平台样例，包括 Qwen3.6-MoE、DeepSeek-V4 Flash，以及 PTQ、部署、评估、数据提取脚本。 - 将算法样例统一整理到 examples/algorithms 目录，提升样例可发现性和可维护性。 ## 如何测试 <!--描述测试此改动的步骤和前提条件。--> 已进行以下验证： 1. UT 与覆盖率验证 bash build.sh -u 结果： 1911 passed, 2 skipped, 1 xfailed, 371 warnings Coverage XML written to build/coverage.xml ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> - 更新根目录 README.md，补充 AMCT PyTorch 当前包结构、核心能力、一站式平台快速体验入口，并修正 amct_ops 文档链接。 - 更新 docs/AMCT_Pytorch_LLM.md，补充 LLM 量化流程说明，包括 PTQ 数据提取、PTQ 执行、部署导出和评估流程。 - 更新 docs/algorithm_brief.md，同步当前支持的量化算法说明。 - 更新 docs/context/ptq_config_param.md，修正配置示例引用路径，避免文档中的样例路径不可用。 - 更新 docs/quick_install.md 与 docs/README.md，同步依赖安装、构建验证和特性说明。 - 更新 examples/README.md，重新整理样例入口，明确算法样例与模型端到端样例的使用路径。 - 新增/完善 Qwen3.6-MoE 与 DeepSeek-V4 Flash 一站式平台样例文档，降低用户在 Atlas A3 环境中完成 NPU 推理体验的上手成本。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!102 | 4 个月前 | |
[feat]: add amct llm Co-authored-by: w00852777<wanghui432@huawei.com> Co-authored-by: fujun19<fujun19@hisilicon.com> Co-authored-by: SwaggyAlex<zhangyi601@huawei.com> Co-authored-by: li_ting<liting73@hisilicon.com> # message auto-generated for no-merge-commit merge: !102 merge master into master [feat]: add amct llm Created-by: fujun19 Commit-by: SwaggyAlex;fujun19;wuranxx;li_ting;l00968832;lianghengyi;sophia1213;Hengyi Liang;w00852777 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 本 PR 新增LLM量化工具模块，用于面向大语言模型的后训练量化、精度评估和部署产物导出，主要包括： 1. 新增并整理 LLM 量化工作流能力 - 新增 amct_pytorch/workflows 与 amct_pytorch/cli/llm，覆盖 PTQ、PTQ 数据提取、部署导出、评估等流程。 - 新增通用配置解析、数据处理、模型适配、量化应用、优化器等公共模块。 - 补充 Qwen、LongCat、DeepSeek、GLM 等 LLM 模型适配与量化模块。 2. 调整 AMCT PyTorch 包结构 - 引入 algorithms、common、quantization、workflows 等更清晰的模块划分。 - 将 classic 图量化相关实现收敛到 amct_pytorch/classic/graph_based，保持历史能力可用。 - 修正安装包数据路径，确保 classic graph-based 相关 proto、so、配置等资源能正确打包。 3. 完善构建与测试能力 - build.sh -u 默认开启覆盖率采集。 - 新增 pyproject.toml，统一 pytest 与 coverage 配置。 - 调整 CMake UT 入口，使用 pytest 执行 tests/unit_test 与 tests/amct_pytorch。 - 大幅补充算法、配置、LLM 模型适配、量化模块、workflow 等单元测试。 4. 更新依赖、文档和样例 - 补充 LLM 相关运行依赖，如 datasets、accelerate、compressed_tensors、torchao、einops 等。 - 更新 README、算法说明、LLM 文档、快速安装和 PTQ 配置说明。 - 新增/整理一站式平台样例，包括 Qwen3.6-MoE、DeepSeek-V4 Flash，以及 PTQ、部署、评估、数据提取脚本。 - 将算法样例统一整理到 examples/algorithms 目录，提升样例可发现性和可维护性。 ## 如何测试 <!--描述测试此改动的步骤和前提条件。--> 已进行以下验证： 1. UT 与覆盖率验证 bash build.sh -u 结果： 1911 passed, 2 skipped, 1 xfailed, 371 warnings Coverage XML written to build/coverage.xml ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> - 更新根目录 README.md，补充 AMCT PyTorch 当前包结构、核心能力、一站式平台快速体验入口，并修正 amct_ops 文档链接。 - 更新 docs/AMCT_Pytorch_LLM.md，补充 LLM 量化流程说明，包括 PTQ 数据提取、PTQ 执行、部署导出和评估流程。 - 更新 docs/algorithm_brief.md，同步当前支持的量化算法说明。 - 更新 docs/context/ptq_config_param.md，修正配置示例引用路径，避免文档中的样例路径不可用。 - 更新 docs/quick_install.md 与 docs/README.md，同步依赖安装、构建验证和特性说明。 - 更新 examples/README.md，重新整理样例入口，明确算法样例与模型端到端样例的使用路径。 - 新增/完善 Qwen3.6-MoE 与 DeepSeek-V4 Flash 一站式平台样例文档，降低用户在 Atlas A3 环境中完成 NPU 推理体验的上手成本。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!102 | 4 个月前 | |
[feat]: add amct llm Co-authored-by: w00852777<wanghui432@huawei.com> Co-authored-by: fujun19<fujun19@hisilicon.com> Co-authored-by: SwaggyAlex<zhangyi601@huawei.com> Co-authored-by: li_ting<liting73@hisilicon.com> # message auto-generated for no-merge-commit merge: !102 merge master into master [feat]: add amct llm Created-by: fujun19 Commit-by: SwaggyAlex;fujun19;wuranxx;li_ting;l00968832;lianghengyi;sophia1213;Hengyi Liang;w00852777 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 本 PR 新增LLM量化工具模块，用于面向大语言模型的后训练量化、精度评估和部署产物导出，主要包括： 1. 新增并整理 LLM 量化工作流能力 - 新增 amct_pytorch/workflows 与 amct_pytorch/cli/llm，覆盖 PTQ、PTQ 数据提取、部署导出、评估等流程。 - 新增通用配置解析、数据处理、模型适配、量化应用、优化器等公共模块。 - 补充 Qwen、LongCat、DeepSeek、GLM 等 LLM 模型适配与量化模块。 2. 调整 AMCT PyTorch 包结构 - 引入 algorithms、common、quantization、workflows 等更清晰的模块划分。 - 将 classic 图量化相关实现收敛到 amct_pytorch/classic/graph_based，保持历史能力可用。 - 修正安装包数据路径，确保 classic graph-based 相关 proto、so、配置等资源能正确打包。 3. 完善构建与测试能力 - build.sh -u 默认开启覆盖率采集。 - 新增 pyproject.toml，统一 pytest 与 coverage 配置。 - 调整 CMake UT 入口，使用 pytest 执行 tests/unit_test 与 tests/amct_pytorch。 - 大幅补充算法、配置、LLM 模型适配、量化模块、workflow 等单元测试。 4. 更新依赖、文档和样例 - 补充 LLM 相关运行依赖，如 datasets、accelerate、compressed_tensors、torchao、einops 等。 - 更新 README、算法说明、LLM 文档、快速安装和 PTQ 配置说明。 - 新增/整理一站式平台样例，包括 Qwen3.6-MoE、DeepSeek-V4 Flash，以及 PTQ、部署、评估、数据提取脚本。 - 将算法样例统一整理到 examples/algorithms 目录，提升样例可发现性和可维护性。 ## 如何测试 <!--描述测试此改动的步骤和前提条件。--> 已进行以下验证： 1. UT 与覆盖率验证 bash build.sh -u 结果： 1911 passed, 2 skipped, 1 xfailed, 371 warnings Coverage XML written to build/coverage.xml ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> - 更新根目录 README.md，补充 AMCT PyTorch 当前包结构、核心能力、一站式平台快速体验入口，并修正 amct_ops 文档链接。 - 更新 docs/AMCT_Pytorch_LLM.md，补充 LLM 量化流程说明，包括 PTQ 数据提取、PTQ 执行、部署导出和评估流程。 - 更新 docs/algorithm_brief.md，同步当前支持的量化算法说明。 - 更新 docs/context/ptq_config_param.md，修正配置示例引用路径，避免文档中的样例路径不可用。 - 更新 docs/quick_install.md 与 docs/README.md，同步依赖安装、构建验证和特性说明。 - 更新 examples/README.md，重新整理样例入口，明确算法样例与模型端到端样例的使用路径。 - 新增/完善 Qwen3.6-MoE 与 DeepSeek-V4 Flash 一站式平台样例文档，降低用户在 Atlas A3 环境中完成 NPU 推理体验的上手成本。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!102 | 4 个月前 | |
[feat]: add amct llm Co-authored-by: w00852777<wanghui432@huawei.com> Co-authored-by: fujun19<fujun19@hisilicon.com> Co-authored-by: SwaggyAlex<zhangyi601@huawei.com> Co-authored-by: li_ting<liting73@hisilicon.com> # message auto-generated for no-merge-commit merge: !102 merge master into master [feat]: add amct llm Created-by: fujun19 Commit-by: SwaggyAlex;fujun19;wuranxx;li_ting;l00968832;lianghengyi;sophia1213;Hengyi Liang;w00852777 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 本 PR 新增LLM量化工具模块，用于面向大语言模型的后训练量化、精度评估和部署产物导出，主要包括： 1. 新增并整理 LLM 量化工作流能力 - 新增 amct_pytorch/workflows 与 amct_pytorch/cli/llm，覆盖 PTQ、PTQ 数据提取、部署导出、评估等流程。 - 新增通用配置解析、数据处理、模型适配、量化应用、优化器等公共模块。 - 补充 Qwen、LongCat、DeepSeek、GLM 等 LLM 模型适配与量化模块。 2. 调整 AMCT PyTorch 包结构 - 引入 algorithms、common、quantization、workflows 等更清晰的模块划分。 - 将 classic 图量化相关实现收敛到 amct_pytorch/classic/graph_based，保持历史能力可用。 - 修正安装包数据路径，确保 classic graph-based 相关 proto、so、配置等资源能正确打包。 3. 完善构建与测试能力 - build.sh -u 默认开启覆盖率采集。 - 新增 pyproject.toml，统一 pytest 与 coverage 配置。 - 调整 CMake UT 入口，使用 pytest 执行 tests/unit_test 与 tests/amct_pytorch。 - 大幅补充算法、配置、LLM 模型适配、量化模块、workflow 等单元测试。 4. 更新依赖、文档和样例 - 补充 LLM 相关运行依赖，如 datasets、accelerate、compressed_tensors、torchao、einops 等。 - 更新 README、算法说明、LLM 文档、快速安装和 PTQ 配置说明。 - 新增/整理一站式平台样例，包括 Qwen3.6-MoE、DeepSeek-V4 Flash，以及 PTQ、部署、评估、数据提取脚本。 - 将算法样例统一整理到 examples/algorithms 目录，提升样例可发现性和可维护性。 ## 如何测试 <!--描述测试此改动的步骤和前提条件。--> 已进行以下验证： 1. UT 与覆盖率验证 bash build.sh -u 结果： 1911 passed, 2 skipped, 1 xfailed, 371 warnings Coverage XML written to build/coverage.xml ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> - 更新根目录 README.md，补充 AMCT PyTorch 当前包结构、核心能力、一站式平台快速体验入口，并修正 amct_ops 文档链接。 - 更新 docs/AMCT_Pytorch_LLM.md，补充 LLM 量化流程说明，包括 PTQ 数据提取、PTQ 执行、部署导出和评估流程。 - 更新 docs/algorithm_brief.md，同步当前支持的量化算法说明。 - 更新 docs/context/ptq_config_param.md，修正配置示例引用路径，避免文档中的样例路径不可用。 - 更新 docs/quick_install.md 与 docs/README.md，同步依赖安装、构建验证和特性说明。 - 更新 examples/README.md，重新整理样例入口，明确算法样例与模型端到端样例的使用路径。 - 新增/完善 Qwen3.6-MoE 与 DeepSeek-V4 Flash 一站式平台样例文档，降低用户在 Atlas A3 环境中完成 NPU 推理体验的上手成本。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 代码重构 - [ ] 其他，请描述： See merge request: cann/amct!102 | 4 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 1 个月前 | ||
| 1 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 4 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 1 个月前 | ||
| 2 个月前 | ||
| 4 个月前 | ||
| 3 个月前 | ||
| 2 个月前 | ||
| 8 个月前 | ||
| 3 个月前 | ||
| 1 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 4 个月前 |