master

cann-robot迁移 AddRmsNormQuantFusionPass 与 AddRmsNormDynamicQuantFusionPass 两条融合规则

ef37c044Add on 21 days agoHistory

Files	Last commit	Last update
context	AIDD doc fix Co-authored-by: yolic<chenyuning1@huawei.com> # message auto-generated for no-merge-commit merge: !12031 merge 1015doc into master AIDD doc fix Created-by: yolic Commit-by: yolic Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 修复大模型扫描的低错文档 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 更新了docs/zh/context/quant_mode_introduction.md、docs/zh/develop/aicore_develop_guide.md、docs/zh/develop/aicpu_develop_guide.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12031	27 days ago
debug	修正UT依赖安装与AddExample调测、安装指引 Co-authored-by: yangyang016<yangyang306@hisilicon.com> # message auto-generated for no-merge-commit merge: !11986 merge master into master 修正UT依赖安装与AddExample调测、安装指引 Created-by: yangyang016 Commit-by: yangyang016 Merged-by: cann-robot Description: ## 描述 修复安装、UT依赖和AddExample调测指引中的不一致，确保文档与当前代码及依赖配置对应。 - tests/requirements.txt 新增 -r ../requirements.txt，使UT依赖安装统一包含项目根目录的依赖及版本约束。 - 安装文档区分仅编译与执行UT两种场景，明确UT依赖已包含根目录依赖，无需重复安装。 - 更新AddExample的printf示例，移除与当前实现不一致的旧Tiling代码，明确在 Init 中的插入位置，使用 AscendC::printf 和与 int64_t blockLength_ 对应的 %lld。 - 补充自定义算子包安装时报 shared library validation failed 的处理说明：确认CANN版本与构建环境兼容后，可按需使用 --force 跳过共享库依赖检查；同时说明运行时加载失败风险，不建议默认使用。 ## 关联的Issue 关联Issue #6699：https://gitcode.com/cann/ops-nn/issues/6699 ## 测试 - 已执行 git diff --check HEAD^ HEAD，通过。 - 已静态核对UT依赖引用路径，以及printf示例中的变量类型与插入位置。 - 未执行实际依赖安装、CANN环境下的编译、UT及算子包安装验证，相关验证待补充。 ## 文档更新 - docs/QUICKSTART.md：更新printf调测示例，补充安装共享库校验失败时的处理说明。 - docs/zh/install/quick_install.md：区分编译依赖与UT依赖的安装场景。 - docs/zh/install/compile.md：明确UT依赖包含根目录依赖约束。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!11986	28 days ago
develop	docs: 修正 AI CPU 开发指南与源码编译文档中的“产品”重复表述 Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !12302 merge docs/comment-cleanup-20261019-02 into master docs: 修正 AI CPU 开发指南与源码编译文档中的“产品”重复表述 Created-by: pingchuantang Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述 修正文档中重复出现的“产品”表述，将 Ascend 950PR&950DT系列产品产品使用"ascend950" 修正为 Ascend 950PR&950DT系列产品使用"ascend950"。 改动原因：文档存在“产品产品”叠词，语句重复，影响可读性与准确性。 改动方法：仅修改以下两处文档中的三处文案，不涉及代码逻辑。 - docs/zh/develop/aicpu_develop_guide.md - docs/zh/install/compile.md ## 关联的Issue - #6911 ## 测试 文档类改动，无需编译与运行；已对照 diff 核对三处文案修改，确认仅删除重复的“产品”二字。 ## 文档更新 - 更新 docs/zh/develop/aicpu_develop_guide.md，修正 --soc 参数说明中的叠词。 - 更新 docs/zh/install/compile.md，修正两处 --soc 参数说明中的叠词。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12302	23 days ago
figures	迁移 AddRmsNormQuantFusionPass 与 AddRmsNormDynamicQuantFusionPass 两条融合规则 Co-authored-by: rk<wangpengbo26@huawei.com> # message auto-generated for no-merge-commit merge: !12407 merge arn_quant_pass into master 迁移 AddRmsNormQuantFusionPass 与 AddRmsNormDynamicQuantFusionPass 两条融合规则 Created-by: wangpengbo26 Commit-by: rk Merged-by: cann-robot Description: ## 描述 迁移 AddRmsNormQuantFusionPass 与 AddRmsNormDynamicQuantFusionPass 两条 GE 自定义量化融合规则至本仓库，将 AddRmsNorm 与下游量化算子的组合融合为 AddRmsNormQuant / AddRmsNormDynamicQuant 算子，消除中间结果的冗余访存与算子调度开销。同步补充 UT 和文档。 ### 改动原因 量化场景中 AddRmsNorm 的输出常随后接量化算子（静态 Quantize，或动态 DynamicQuant），二者独立调度时中间结果需落回 Global Memory 再读出，存在冗余访存与调度开销。两条量化融合规则迁移至本仓库统一维护，匹配后替换为融合算子节点，提升量化场景端到端性能。 ### 改动方法 1. **静态量化规则 AddRmsNormQuantFusionPass**：识别 AddRmsNorm 后接 Quantize（可选中间 Reshape）的组合，融合为 AddRmsNormQuant 算子： - 场景一：AddRmsNorm → Quantize 直接融合； - 场景二：AddRmsNorm → Reshape → Quantize（gamma shape 与 scales/zero_points 维度不一致时使用）。 2. **动态量化规则 AddRmsNormDynamicQuantFusionPass**：识别 AddRmsNorm 后接 DynamicQuant 的组合，融合为 AddRmsNormDynamicQuant 算子，支持单路/双路模式及可选 smooth_scales（dtype 须与 x1 一致）。 3. **准入校验**：融合前 AddRmsNorm 不输出 rstd（被外部消费则拒绝）、输入 dtype 一致性、量化输出类型（int8 等）等条件校验；平台限定。 4. **UT**：AddRmsNormQuantFusionTest 5 个用例（Direct/Reshape × 无/有 offset、bf16、拒绝 rstd 被消费）、AddRmsNormDynamicQuantFusionTest 5 个用例（单路/双路 × 无/有 smooth、bf16、Reshape、拒绝 rstd 被消费）。 5. **文档**：新增 2 篇融合规则文档（融合模式、使用约束、支持型号）及 4 张配图。 6. **构建接入**：两个算子的 op_graph/CMakeLists.txt 更新，通过 _proto_headers 声明模式构造依赖的算子原型头（add_rms_norm + quantize/dynamic_quant proto）；新增 UT 构建配置。 两条规则均通过 REG_FUSION_PASS(...).Stage(kAfterBuiltinFusionPass) 注册。除 op_graph/CMakeLists.txt 构建配置接入外，不修改任何既有文件逻辑。 涉及文件（16 个，+1383）： - norm/add_rms_norm_quant/op_graph/fusion_pass/add_rms_norm_quant_fusion_pass.cpp/.h - norm/add_rms_norm_quant/docs/AddRmsNormQuantFusionPass.md - norm/add_rms_norm_quant/tests/ut/op_graph/test_add_rms_norm_quant_fusion_pass.cpp、CMakeLists.txt - norm/add_rms_norm_quant/op_graph/CMakeLists.txt（修改，+6） - norm/add_rms_norm_dynamic_quant/op_graph/fusion_pass/add_rms_norm_dynamic_quant_fusion_pass.cpp/.h - norm/add_rms_norm_dynamic_quant/docs/AddRmsNormDynamicQuantFusionPass.md - norm/add_rms_norm_dynamic_quant/tests/ut/op_graph/test_add_rms_norm_dynamic_quant_fusion_pass.cpp、CMakeLists.txt - norm/add_rms_norm_dynamic_quant/op_graph/CMakeLists.txt（修改，+6） - docs/zh/figures/add_rms_norm_quant_fusion_pass_1~2.png、add_rms_norm_dynamic_quant_fusion_pass_1~2.png ## 关联的Issue -https://gitcode.com/cann/ops-nn/issues/7185 ## 测试 - 新增 UT 共 10 个用例：融合命中（静态 Direct/Reshape × offset、动态单/双路 × smooth、bf16）与拒绝（rstd 被外部消费）场景。 ## 文档更新 - 新增 AddRmsNormQuantFusionPass.md：静态量化融合模式（直接/经 Reshape）、使用约束、支持型号 - 新增 AddRmsNormDynamicQuantFusionPass.md：动态量化融合模式（单/双路）、dtype/shape/attr 约束、支持型号 - 新增 4 张融合模式配图 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12407	21 days ago
install	docs: 修复注释与文档不一致（build脚本默认参数说明） Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !12379 merge docs/comment-cleanup-20261019-03 into master docs: 修复注释与文档不一致（build脚本默认参数说明） Created-by: pingchuantang Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述 修正 build.sh 帮助信息与 docs/zh/install/build.md 中与实际实现不一致的默认参数说明： - -j[n]：默认值由「8」更正为「CPU 核心数」。build.sh 中 THREAD_NUM=$(grep -c ^processor /proc/cpuinfo)，未显式传入 -j 时按 CPU 核心数编译。 - --vendor_name：默认值由「customize-nn」更正为「custom」。build.sh 在 run_example 场景下当 VENDOR_NAME 为空时设置为 custom。 涉及文件：build.sh（7 处 -j[n] 文案、1 处 --vendor_name 文案）、docs/zh/install/build.md（参数表 1 处）。 ## 关联的Issue - #6950 ## 测试 仅修改帮助文案与文档，不涉及代码逻辑变更；已核对 build.sh 中 THREAD_NUM 与 VENDOR_NAME 的实际默认值。 ## 文档更新 - docs/zh/install/build.md：更新 -j${n} 默认值说明为 CPU 核心数 - build.sh：更新 usage 中 -j[n]、--vendor_name 的默认值说明 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12379	22 days ago
invocation	md大模型检测低错修复 Co-authored-by: gitcode-chenjiao<chenjiao31@huawei.com> # message auto-generated for no-merge-commit merge: !9420 merge master into master md大模型检测低错修复 Created-by: gitcode-chenjiao Commit-by: gitcode-chenjiao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> md aidd大模型检测低错修复 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/5254 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ok ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> acl*.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!9420	2 months ago
menu_aclnn_api.md	docs: 删除 ACLNN 菜单中重复的 aclnnEmbeddingDenseBackward 条目 Co-authored-by: yangziqi_007<yangziqi4@huawei.com> # message auto-generated for no-merge-commit merge: !11877 merge woey/issue-6139-menu-dedup into master docs: 删除 ACLNN 菜单中重复的 aclnnEmbeddingDenseBackward 条目 Created-by: yangziqi_007 Commit-by: yangziqi_007 Merged-by: cann-robot Description: ## 描述 menu_aclnn_api.md 重复列出了 aclnnEmbeddingDenseBackward。删除指向 embedding_dense_grad 的重复条目，保留与 op_api_list.md 一致的 embedding_dense_grad_v2 文档链接。 本次仅修复关联 issue 的问题3。 ## 关联的Issue 关联公开 issue：https://gitcode.com/cann/ops-nn/issues/6139 ## 测试 - 菜单唯一性检查通过，其他算子名称均保留。 - 保留链接有效，且与 op_api_list.md 一致。 - git diff --check、提交钩子检查和 OAT 合规检查通过。 - 仅修改文档，未运行算子构建或 NPU 测试。 ## 文档更新 更新 docs/zh/menu_aclnn_api.md，仅删除一条重复记录。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!11877	30 days ago
menu_torch_api.md	修复gemm_syrk资料问题 Co-authored-by: justsozl<zhaolun3@hisilicon.com> # message auto-generated for no-merge-commit merge: !11314 merge gemm_syrk into master 修复gemm_syrk资料问题 Created-by: justsozl Commit-by: justsozl Merged-by: cann-robot Description: ## 描述 修复gemm_syrk 算子资料描述不符合规范的问题，补齐gemm_syrk缺失的算子交付件，涉及修改文件为： docs/zh/menu_aclnn_api.md docs/zh/menu_torch_api.md docs/zh/torch_api_list.md matmul/gemm_syrk/README.md matmul/gemm_syrk/docs/aclnnGemmSyrk.md matmul/gemm_syrk/op_host/gemm_syrk_def.cpp matmul/gemm_syrk/op_host/op_tiling/arch35/gemm_syrk_compile_info.h <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6267 <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 文档更新，不涉及功能变更 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> docs/zh/menu_aclnn_api.md docs/zh/menu_torch_api.md docs/zh/torch_api_list.md matmul/gemm_syrk/README.md matmul/gemm_syrk/docs/aclnnGemmSyrk.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11314	1 month ago
op_api_list.md	docs(broadcast_gradient_args): 统一术语为"归约"并修正 y1/y2 输出描述 Co-authored-by: HelloWord-LuXin<luxin67@h-partners.com> # message auto-generated for no-merge-commit merge: !11834 merge docs/fix-broadcast-gradient-args-terminology into master docs(broadcast_gradient_args): 统一术语为"归约"并修正 y1/y2 输出描述 Created-by: HelloWord-LuXin Commit-by: HelloWord-LuXin Merged-by: cann-robot Description: ## 背景 BroadcastGradientArgs 算子相关文档与注释中，梯度 reduction 被写作“约简”，与本仓库标准术语“归约”不一致（全仓 695 处使用“归约”）；同时 y1/y2 输出被描述为“需要广播的索引”，语义不够准确——按 TensorFlow broadcast_gradient_args 语义，它们是“归约索引（reduction indices）”。 ## 改动内容 涉及文件： - index/broadcast_gradient_args/README.md - index/broadcast_gradient_args/docs/aclnnBroadcastGradientArgs.md - index/broadcast_gradient_args/op_api/aclnn_broadcast_gradient_args.h - index/broadcast_gradient_args/tests/assets/golden.py - docs/zh/op_api_list.md 具体修改： 1. 将“约简”统一改为“归约”（约简列表 → 归约列表、无需约简 → 无需归约等）。 2. 将 y1/y2 的“需要广播的索引 / 广播维度索引”修正为“需要归约的维度索引 / 归约索引”，与算子真实语义一致。 ## 验证 纯文档与注释修改，不涉及计算逻辑、接口行为与算子实现变更。 ## 关联 Issue 关联 #6413 See merge request: cann/ops-nn!11834	30 days ago
op_list.md	chore: 整理 BatchNormGradV3 文档、许可证头与格式 Co-authored-by: qianzehong<qianzehong@huawei.com> # message auto-generated for no-merge-commit merge: !12098 merge chore/bngv3-docs-license-format into master chore: 整理 BatchNormGradV3 文档、许可证头与格式 Created-by: qianzehong Commit-by: qianzehong Merged-by: cann-robot Description: ## 描述 BatchNormGradV3 的目录说明仍称尚无 Ascend C 实现，部分交付文件的许可证头和格式也无法通过当前 pre-commit 门禁。本 PR 更正算子列表及 README，统一主线中 18 个旧式许可证头，保留原版权年份与所有者；清理未使用导入、Python 格式及文件末尾换行。 共修改 23 个文件。除移除两条未使用导入外，源码和数据生成/比较逻辑保持不变。本 PR 从最新 master 独立分支，不包含 output_mask 功能或错误码、tiling 布局修复。 建议合入顺序：本维护 PR → outputMask 错误码修复 → tiling/UT 一致性修复 → [output_mask 功能 PR #11948](https://gitcode.com/cann/ops-nn/pull/11948)。后续 PR 中为满足门禁所需的少量同文件许可证修正与本 PR 一致。 ## 关联的Issue 无。 ## 测试 - 对全部 23 个变更文件执行仓库 pre-commit：通过（包含 clang-format、Ruff、基础格式检查和 OAT）。 - 对主线算子目录全部 75 个已跟踪文件运行 OAT：0 个许可证/文件类型问题，退出码 0。 - 核对 C++/CMake 非注释内容、JSON 数据及 Python AST：无逻辑变化；Python AST 仅移除了明确未使用的 OpsDataset、numpy 导入。 - git diff --check：通过。纯维护修改，未重跑设备精度/性能测试。 ## 文档更新 更正 docs/zh/op_list.md 中 batch_norm_grad_v3 行和算子 README 的交付说明，README 补充接口文档链接。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [x] 其他，请描述：许可证头与格式维护 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12098	27 days ago
torch_api_list.md	修改aclnnClippedSwigluV2接口产品支持情况 Co-authored-by: wang-siyang3<wangsiyang3@huawei.com> # message auto-generated for no-merge-commit merge: !11772 merge dev into master 修改aclnnClippedSwigluV2接口产品支持情况 Created-by: clwsy1 Commit-by: wang-siyang3 Merged-by: cann-robot Description: ## 描述 修改aclnnClippedSwigluV2接口产品支持情况 ## 关联的Issue [#6525](https://gitcode.com/cann/ops-nn/issues/6525) ## 测试 不涉及 ## 文档更新 更新了op_api_list.md文档 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11772	1 month ago