本项目是CANN提供的神经网络类计算算子库，实现网络在NPU上加速计算。
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
编译任务机器规格调整以及冒烟脚本调整 Co-authored-by: chenyajie<chenyajie6@huawei.com> # message auto-generated for no-merge-commit merge: !8787 merge master into master 编译任务机器规格调整以及冒烟脚本调整 Created-by: yajie_caroline Commit-by: chenyajie Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8787 | 1 个月前 | |
算子原型迁移 | 1 个月前 | |
fix：修改头文件寻找路径 Co-authored-by: chenqianyu<chenqianyu1@h-partners.com> # message auto-generated for no-merge-commit merge: !8984 merge fix1 into master fix：修改头文件寻找路径 Created-by: FishPotatoChen Commit-by: chenqianyu Merged-by: cann-robot Description: ## 描述 在 cmake/modules/Findplatform.cmake 的 PLATFORM_HEAD_SEARCH_PATHS 中新增 ${ASCEND_DIR}/include 作为头文件搜索路径，置于列表首位。 原有的搜索路径仅包含 ${ASCEND_DIR}/${SYSTEM_PREFIX}/include，当平台头文件（如 platform/platform_info.h）直接安装在 ${ASCEND_DIR}/include 下而未按系统前缀（如 x86_64-linux、aarch64-linux）分层时，CMake 无法定位到头文件，导致 platform_FOUND 失败、编译中断。新增该路径后可兼容这种安装布局，提升查找的健壮性。 同时清理了文件中行尾多余空格，并在文件末尾补充换行符。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000 --> https://gitcode.com/cann/ops-nn/issues/5036 ## 测试 - 在平台头文件位于 ${ASCEND_DIR}/include 的环境下执行 CMake 配置，确认 Found platform include 日志正常输出，platform_FOUND 为真。 - 在平台头文件位于 ${ASCEND_DIR}/${SYSTEM_PREFIX}/include 的原有环境下回归验证，确认搜索路径仍可命中，编译流程不受影响。 ## 文档更新 无。 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!8984 | 1 个月前 | |
Merge https://gitcode.com/welt_lester/ops-nn into master | 1 个月前 | |
[CANNBot]新增NPUAllocFloatStatus算子 Co-authored-by: qq_52056150<24171214023@stu.xidian.edu.cn> # message auto-generated for no-merge-commit merge: !8782 merge add_npu_alloc_float_status into master [CANNBot]新增NPUAllocFloatStatus算子 Created-by: wkkk0528 Commit-by: qq_52056150 Merged-by: cann-robot Description: ## 描述 NPUAllocFloatStatus算子支持Ascend950 ### 算子功能 NPUAllocFloatStatus 用于分配并初始化浮点异常状态张量。算子接收一个可选的输入张量（仅用于形状推导），输出一个固定长度为8的float32张量，所有元素初始化为零值。该算子是 NPUFloatStatus 类算子的基础组件，通常与 NPUClearFloatStatus 配合使用，用于管理 NPU 浮点运算的异常状态。 ### 实现方式 - **架构**: Ascend950 (arch35) SIMT kernel - **Kernel 实现**: 单核 Scalar 模式，使用 SetValue 逐元素将零值写入 GM（绕过 UB，规避 DYN/BIN 首字节污染），完成后执行 DataCacheCleanAndInvalid 保证 GM 数据一致性 - **Tiling**: arch35 专用 Tiling，固定输出 8 个 float32 元素，单核无切分 - **Shape/Dtype 推导**: 输出 shape 固定为 [8]，dtype 为 float32 - **REG_OP**: NPUAllocFloatStatus 原型注册，支持图模式调用 ## 关联的issue https://gitcode.com/cann/ops-math/issues/2677 ## 测试 ### TTK 测试结果 - 测试轮次: 第1轮 - 测试环境: Ascend950PR_957c (8 devices), CANN 9.2.0, TTK 3.0.0 - 第1轮结果: 编译错误（TQuePosition 标识符问题），已修复为 SetValue 直写 GM 方案 - 当前代码版本已通过本地 CI 编译验证 ### 本地 CI 预检结果 | 阶段 | 结果 | 说明 | |------|------|------| | Code Review | PASS | CR01-CR07 全部通过，2项WARN已修复（魔鬼数字提取为常量） | | Compile (single) | PASS | 单算子编译成功 | | Compile (A5) | PASS | A5 包编译成功 | | Package Verify | PASS | 2个.run包验证通过 | | CodeCheck pre-commit | PASS | clang-format/ruff/codespell/OAT 全部通过 | | UT ophost | PASS | op_host 单元测试通过 | | Example/Smoke | SKIPPED | 依赖 UT 全通过 | ### 交付件清单 - op_host: def.cpp, infershape.cpp, tiling_arch35.cpp, simplified_key.ini - op_kernel: arch35 kernel (npu_alloc_float_status.h, tiling_data.h, tiling_key.h, apt.cpp) - op_graph: proto.h, graph_infer.cpp - tests: golden.py, UT (op_api/op_host) - examples: aclnn + geir 示例 - docs: README.md ## 文档更新 - 新增 docs/zh/op_list.md 中 NPUAllocFloatStatus 条目 - 新增算子 README.md 和 aclnn API 文档 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述 ## AI/Agent 生成声明 代码来源： - [ ] 纯人工手写 - [ ] AI 辅助编写 - [x] AI 完全生成 人工审查：已完成 测试验证：已通过 合规检查：已完成 See merge request: cann/ops-nn!8782 | 1 个月前 | |
cleancode修复：删除冗余#include<vector> Co-authored-by: XianyongWang<aaronhkw@163.com> # message auto-generated for no-merge-commit merge: !8998 merge fixbug/cleancode into master cleancode修复：删除冗余#include<vector> Created-by: XianyongWang Commit-by: XianyongWang Merged-by: cann-robot Description: ## 描述 cleancode修复：删除冗余#include<vector> ## 关联的Issue ## 测试 本地编译通过 ## 文档更新 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!8998 | 1 个月前 | |
Added clipped_swiglu op with clamp_mode Co-authored-by: clwsy1<wangsiyang3@huawei.com> # message auto-generated for no-merge-commit merge: !8534 merge dev into master Added clipped_swiglu op with clamp_mode Created-by: clwsy1 Commit-by: clwsy1 Merged-by: cann-robot Description: ## 描述 为ClippedSwiglu算子新增clamp_mode属性，用于控制clamp与silu操作的执行顺序 ## 关联的Issue [#4940](https://gitcode.com/cann/ops-nn/issues/4940) ## 测试 进行了ttk，aclnn，图模式以及api测试，均验证通过 ## 文档更新 更新了README、aclnn.md文档 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8534 | 1 个月前 | |
fix TorchNPU Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !7243 merge master into master fix TorchNPU Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 ① torch_npu名称合一TorchNPU ②《acl API》手册更名修改 ③ link修改commerical为community ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/3951 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7243 | 2 个月前 | |
【社区任务】IndexFillTensor算子新增INT16/INT8/UINT8/INT64/DOUBLE数据类型支持 Co-authored-by: yogstar<yogstar@163.com> # message auto-generated for no-merge-commit merge: !5694 merge submit-IndexFillTensor into master 【社区任务】IndexFillTensor算子新增INT16/INT8/UINT8/INT64/DOUBLE数据类型支持 Created-by: yogstar Commit-by: yogstar Merged-by: cann-robot Description: ## 描述 ## 一、需求背景 ### 1.1 需求来源 通过社区任务完成开源仓算子贡献的需求。扩展 aclnnIndexFillTensor 算子，使其支持 int16, int8, uint8, double 数据类型。 ### 1.2 背景介绍 #### 1.2.1 IndexFill算子现状分析 **1.2.1.1 原 Ascend C 算子支持的数据类型和数据格式** * **支持的数据类型：** FLOAT16、FLOAT、INT32、INT64、BOOL、BFLOAT16 * **支持的数据格式：** ND * **特性分析：** 原有实现主要覆盖了 2B、4B 以及部分原生支持的 8B 类型。对于底层的 Select、CompareScalar 等向量指令，NPU 硬件在原生指令级对 1B（如 int8、uint8）以及非标浮点类型的支持存在局限，直接透传会导致硬件指令报错或编译失败。 **1.2.1.2 原 Ascend C 算子实现描述** 原有 Ascend C 算子采用了泛化的 Tiling 策略，将输入 Tensor 根据计算轴 dim 的位置（是否为尾轴）和数据量大小，拆分为 5 个 tilingKey 分支（front_q, front_n, front_p, tail_n, tail_p）。 在 Kernel 侧的实现逻辑中，所有支持的数据类型在 UB（Unified Buffer）中被统一视作标准位宽数据，按照“搬入索引 -> 构建掩码（Compare 得到 uint8 掩码） -> 搬入原数据 -> 执行 Select 替换 -> 搬出”的单一数据流进行处理。缺乏针对特异性位宽数据（如需要视图转换的 8B 或需要精度转换的 1B）的定制化内存排布与指令流水线设计。 **1.2.1.3 原 Ascend C 算子实现流程图**  ## 二、需求分析 ### 2.1 外部组件依赖 适配 CANN 底层的 ACLNN 算子调用框架，依赖 Ascend C 的 API（如 DataCopy, Select, CompareScalar, Cast, Gather 等）。 ### 2.2 内部适配模块 需要适配 index_fill_tiling.cpp（Host侧）以调整内存空间的预留，并修改所有 Kernel 侧的头文件（如 index_fill_tail_p.h 等）以支持新增的数据类型分支。 ### 2.3 需求模块设计 **2.3.1 Ascend C算子原型** 原型与原算子保持一致，API为 aclnnIndexFillTensor。扩充了其 Input x 和 value，以及 Output y 的 DataType 集合，增加 DT_INT16, DT_INT8, DT_UINT8, DT_DOUBLE。 更新后的算子原型如下，已明确增加对 INT16、INT8、UINT8、DOUBLE 、INT64的支持： | 参数名 | 输入/输出/属性 | 描述 | 使用说明 | 数据类型 | 数据格式 | 维度(shape) | 非连续Tensor | | --- | --- | --- | --- | --- | --- | --- | --- | | self | 输入 | 输入Tensor。 | 待被在指定位置的值用value替换的张量 | FLOAT16、FLOAT、INT32、INT64、BOOL、BFLOAT16、**INT16**、**INT8**、**UINT8**、**DOUBLE** | ND | [1,8] | √ | | dim | 属性 | 指定了self将要填充的维度。 | dim取值范围在[-self.dim(), self.dim())，0维时为[-1, 1) | INT64 | - | - | - | | index | 输入 | 指定self在dim维度将要填充的下标。 | 元素值小于self对应dim的维度大小 | INT32、INT64 | - | - | - | | value | 输入 | 指定填充的数据值。 | 需要可转化为self的数据类型。 | FLOAT16、FLOAT、INT32、INT64、BOOL、BFLOAT16、**INT16**、**INT8**、**UINT8**、**DOUBLE** | - | - | - | | out | 输出 | 指定的输出张量。 | - | 与self一致 | ND | 与self一致 | √ | **2.3.2 Ascend C算子相关约束** * **内存约束：** 针对 8B（double）数据，由于需要利用 ReinterpretCast 翻倍扩展，UB 内存压力剧增。必须通过硬编码缩小 pUbLength 等每次处理的块大小，以防止触发 MPU 越界报错。 * **对齐约束：** CompareScalar 等 Vector 指令要求计算长度必须满足 256 字节（COMPARE_ALIGNED）对齐，否则将触发 VEC supports illegal configurations 硬件拦截。 * **算子泛化：** 必须满足非连续 Tensor 的输入场景。 ## 三、需求详细设计 ### 3.1 使能方式 基于 ACLNN 框架，通过修改 OP Def 定义和算子信息库使能新增的数据类型。 ### 3.2 需求总体设计 #### 3.2.1 Host侧设计 **3.2.1.1 分核策略** 沿用原算子的分核逻辑，通过判定 N >= coreNum * 256 等阈值条件，决定在 P、N 或 Q 轴上进行多核切分。新增数据类型不影响宏观的分核维度。 **3.2.1.2 数据分块和内存优化策略** * **内存池扩容：** 在 Tiling 阶段，由于 8B 数据的特殊处理（掩码对应倍增），需要为 gatherGm 和相关的 Workspace 预留翻倍的内存空间。通过引入 qMultiplier 因子（对于 INT64、UINT64、DOUBLE 设为 2），动态调整 userWorkspaceSize。 * **UB 块划分优化：** 对于 DOUBLE 类型，主动在 Tiling 及 Kernel 初始化阶段压低 ubNBlockLength 或 pUbLength，牺牲单次处理的元素个数，换取 UB 空间的安全，杜绝 OOM。 **3.2.1.3 tilingKey规划策略** 与原有逻辑保持一致，TilingKey 0-4 分别对应大 Q 轴、N 切分（非尾轴）、P 切分（非尾轴）、N 切分（尾轴）和 P 切分（尾轴）。 #### 3.2.2 Kernel侧设计 **3.2.2.1 kernel侧实现描述** 利用 C++ 的模板实例化与 if constexpr (sizeof(T) == X) 进行编译期分支路由，实现数据类型的无感支持： * **针对 1B (int8, uint8) / 2B (int16)：** 在 UB 中申请一块连续的 half 内存区域。利用 Cast 指令将 1B 数据提升精度到 half，利用 Select 执行替换后，再使用 Cast 降回 1B 原类型。 * **针对 8B (double)：** 采用零拷贝视角的极致优化。使用 ReinterpretCast<float>() 将 8B 数据在视图上变为两倍数量的 4B 浮点数。利用纯 UB 内部的标量循环或 Gather 指令，将原始掩码按元素进行倍增（如 [1, 0] 扩展为 [1, 1, 0, 0]）。随后利用 SELMODE::VSEL_TENSOR_TENSOR_MODE 进行 Tensor 到 Tensor 的替换。同时通过 AlignedToTarget 函数严格保证所有向量处理长度对齐到 256 字节。 **3.2.2.2 Ascend C实现流程图**  **“3.2.2.3 Ascend C实现流程图与TBE流程图存在的差异点和原因”** 1. **去 Fallback 化（Host侧差异）**：原设计中因为搞不定 8B 和 1B 在复杂切分下的逻辑，强行将它们打回单核/效率低下的 TilingKey=0。现在将其修改泛化实现，让这些类型拥有和常规数据一样的并发切分能力。 2. **MPU 物理级防护（Device侧差异）**：原版代码默认按照 256KB 的满载算率去分配 N/P 的步长。但在 8B 的双向映射下（掩码和数据都需要倍增扩容），直接导致 MPU 击穿。新的流程图明确展现了通过硬编码防线（pUbLength = 4096）来护航硬件安全的机制。 3. **DataCopy 替代 GM 广播（Device侧差异）**：新的流程图体现了抛弃了原版通过 repeatGm 存在“非 32 字节对齐 GM 覆盖脏写”的情况，转而采用纯 UB 内的 DataCopy 倍增（倍增复制算法），这不仅提升了访存速度，更是保证了绝对的内存安全。 ### 3.3 支持硬件 Atlas A2 训练系列产品 / Atlas A3 系列产品。 ### 3.4 算子约束限制 无特殊业务约束。泛化场景下支持 aclnnIndexFillTensor 的所有标准维度与非连续 Tensor 输入。 ## 四、特性交叉分析 新增数据类型不对原有特性（如 Dim 维度推导、负数索引规整、性能阈值切分等）产生负面交叉影响。由于 8B 处理独立占用编译期分支，原有 FLOAT16/FLOAT 等性能敏感类型的执行流被零开销保留，确保绝对隔离。 ## 五、可维可测分析 ### 5.1 精度标准/性能标准 * **精度标准：** 新增的 int8, uint8, int16, double 精度均通过 AscendOpTest 工具验证，结果精度 100% 对齐 Golden 数据。 * **性能标准：** * int8, uint8, int16 不劣化于 int32 数据类型。 * double 采用纯 UB Reinterpret 倍增方案后，规避了外部 Gather 的 IO 瓶颈，性能不劣化于 int64。 ### 5.2 兼容性分析 修改对原本上层的调用接口 aclnnIndexFillTensor 完全透明，调用方无需修改业务逻辑即可直接传递新类型参数，完全向后兼容。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> 关联Issue #3107 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 进行AscendOpTest测试。 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 更新了README.md, aclnnIndexFillTensor.md, aclnnIndexFill.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!5694 | 1 个月前 | |
fix(foreach): 修复11个SIMT算子arch35 tiling中dtype未拦截问题 Co-authored-by: xuejinghui<xuejinghui@huawei.com> # message auto-generated for no-merge-commit merge: !8750 merge foreach into master fix(foreach): 修复11个SIMT算子arch35 tiling中dtype未拦截问题 Created-by: xuejinghui Commit-by: xuejinghui Merged-by: cann-robot Description: ## 描述 修复11个Foreach算子arch35 tiling中dtype未拦截问题 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/5030 <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!8750 | 1 个月前 | |
fix schedule mode & embeddingHash Doc & groupNormSilu codecheck Co-authored-by: xieshengwei1024<xieshengwei3@huawei.com> # message auto-generated for no-merge-commit merge: !7076 merge master into master fix schedule mode & embeddingHash Doc & groupNormSilu codecheck Created-by: xieshengwei1024 Commit-by: xieshengwei1024 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1.系列SyncAll算子添加scheduleMode 2.embeddingHash算子文档错误修改 3.groupNormSilu修改超大圈复杂度问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> 关联issue3858 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 已进行本地编译测试、ut测试及上板aclnn测试 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 更新了embeddingHash系列算子的readme文档 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!7076 | 3 个月前 | |
算子插件迁移 | 1 个月前 | |
fix(arch35): GroupNormSiluQuant/MultilabelMarginLoss/L2NormalizeGrad算子功能修复 Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !9017 merge fix/issue-batch-0820 into master fix(arch35): GroupNormSiluQuant/MultilabelMarginLoss/L2NormalizeGrad算子功能修复 Created-by: zl_hw Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述 修复测试问题单 #21 / #31 / #32 暴露的三个算子的内核与 tiling 缺陷，并整改 0820 批次核对出的资料与实现不一致项。 ### 一、GroupNormSiluQuant —— UB 记账越界（issue #21） 现象：geir 动静态双腿 7 例全崩（MTE2 写越界 82 / VEC 访存越界 341 / scalar 越界 263），其中 3 例入参完全合法。四处缺陷： 1. SetPartialFallback 的 ubSize - meanAndRstd - gamma - beta - quantScale **无下溢保护**。实测 C=5408396 时 ubRemain 下溢成 2^64-21380096，processSize 被算成 2^61 级。 2. 同函数用 isLargeChannel && hasOptional 决定走 1120 还是 1100，而 quantScale 是否整段常驻**只取决于 C**：大 C 且无 gamma/beta 时被错选进 1100。判据改为「整段常驻装不装得下」。 3. MaybeSetSplitReduce 覆盖成 1140 时不做 UB 预算校验，而 1140 内核按「本核通道数」常驻 gamma/beta（每通道 12B，且无 gamma/beta 时也照开）。新增 SplitReduceFitsUb（与内核 InitUbBuffers 逐项对应），内核侧改为按 hasGamma/hasBeta 条件分配。 4. host 的 couldFold 漏了 kernel isFold = hwNum <= NDDMA_SIZE || (!hasGamma && !hasBeta) 的后半个条件，导致「无 gamma/beta + 大 hwNum」档 kernel 按 fold 布局写 451KB 而 host 只预留 shapeC 个 fp32。 另加防御：generalized 环两处减法加下溢保护；两处 DownAlign 为 0 时直接返回；tiling 出口统一校验——凡靠 processSize 驱动搬运的 key 解不出正值一律 GRAPH_FAILED，不把 0/下溢值下发给内核。 ### 二、MultilabelMarginLoss —— 支持面窄于 A2（issue #32） 原实现七块 buffer 全部随 C 线性增长且不参与分块，UB 253952B 直接换算出 C≈8000 上限，超过即 tiling 主动 GRAPH_FAILED（实测 C<=2842 全过、C>=195万 全败），而 A2 由 TBE DSL 承担切分对 C 无上限。 - tiling 新增 cFactor：整行装得下时 == C（走原全行路径，行为不变），装不下时解出分块长度（解时先给行方向分块 buffer 留 TILE_MIN 份，否则 ubFactor 会解出 0）。 - kernel 新增 C 分块路径：逐段在 UB 内建掩码并产出 is_target，标签分批缓存（每批至多 cFactor 个，连 x[k] 一并取回），每批对全部 x 段各做一次向量累加。复杂度与全行路径同为 O(P*C)。 - 三处同步缺陷（均由「同一用例跑两遍结果不同」暴露）：DeQue 只给 MTE2→V，标量读 target 段需自补 MTE2→S；EnQue 只给 V→MTE3，标量写的缓冲搬出前需自补 S→MTE3；类内固定 EVENT_ID0 的 PipeBarrier 在本路径会与队列/LocalReduceSum 的同 ID 事件互踩，改用独立事件 ID。 ### 三、L2NormalizeGrad —— SPLIT_D 累加槽位写穿（issue #31 的超大 D 档） kernel 的 accum 缓冲固定 SPLIT_D_MAX_CHUNKS(=256) 槽，而 FormerProcess 按 numChunks_ 直接 Duplicate/写槽。1 维 D=1.51e8 需约 3.7 万槽，当场写穿 → errcode 341，host 侧无守卫。改为分组累加（组内向量规约 + 组间标量累加），D 不再有上限。 ### 四、GroupNormSiluQuant —— 空 Tensor 的 meanOut 语义两条通路不一致 资料两处（README.md:73、docs/aclnnGroupNormSiluQuant.md:112）与手写 aclnn 都规定「空 Tensor 时 meanOut 填 0、rstdOut 填 NAN」：op_host/op_api/aclnn_group_norm_silu_quant.cpp:251 的 IsEmpty() 分支显式 FillScalar(meanOut, 0) + FillScalar(rstdOut, NAN) 后直接返回，不下发内核。 而 arch35 内核的 empty 分支调 ProcessMeanAndRstd 时，该函数把填充值写死成 NAN，mean/rstd 都填 NAN——走 GE 图通路（aclnn 不参与）时 meanOut 变成 NaN，违反算子自己的契约。修法：把填充值提成入参，mean 传 0、rstd 传 NAN。 （对照：同族 GroupNormSilu 的 aclnn 对 regbase 显式跳过 FillScalar、把空张量交给内核，两条通路自洽；本算子的 aclnn 是无条件填充，所以只有本算子存在通路间不一致。） ### 五、GroupNormSiluQuant golden 补两档 + 判据显式声明 新配额用例集暴露：可选输入缺省（gamma/beta 传 None）与空张量在 golden 里判不了（15 例 GOLDEN_FAILURE），而「可选输入不给」正是 issue #21 中 L1_014 的画像——该档此前从设计上就没被验证过。按内核语义补缺省（1.0/0.0），空张量短路按上述契约取 mean=0 / rstd=NaN。 并把每个输出的判据显式声明到 Spec.tolerance，不再依赖 CLI 传什么： - int8 输出声明 quant —— 否则 TTK 把 int8 硬路由到 binary_equal，量化舍入的 ±1 LSB 被大面积误判（26 例「失败」实测最大 |diff| 全为 1）。 - mean/rstd 三种浮点 dtype 声明 CANN 开源标准 stat_rel_err（mere < th 且 mare < 10*th）。此前未声明，落到 TTK 默认的 isclose（atol=1e-8），该地板低于 bf16/fp32 在常见量级上的分辨率。实测 case00603_rg(2,5120,7) bf16：2560 个 mean 元素里 10 个不相等，**每个恰好差 1 ULP**（--dump 取原始数组算得 ULP 倍数 max=1.0000，超 1 ULP 的 0 个）——内核 fp32 累加后舍入到 bf16 与 torch 求和次序不同，边界值差一格，任何实现都做不到更好。 ### 六、0820 批次资料与实现一致性（issue #36~#49） 判据：aclnn 是手写还是自动生成（前者看 l0op::Contiguous/ViewCopy 的实际调用，后者看 OpDef 的 AutoContiguous，依据 cmake/func.cmake:502 有无 op_api/*.cpp 分流）；再看参数是输入、ref（输入/输出复用）还是纯输出——自动生成路径下只有输入与 ref 有非连续支持，纯输出没有这一说。 - 6 个 foreach inplace 的第一参数（ref，输入侧已声明 AutoContiguous）：资料 × → √（#38/#39/#44/#45/#46/#47） - ForeachAddcdivList / ForeachAddcmulList：def + arch35 内核 + config/ascend950 三层齐备，资料「A5 不支持」→ 支持（#40/#42） - DeepNorm / DeepNormGrad 的 7 个纯输出：资料 √ → ×（#36/#37） - FusedCrossEntropyLossWithMaxSum：inputOptional/weightOptional 的「非连续Tensor」列 √ → -（不涉及）（#48）。这两个参数当前只支持空指针（资料使用说明已写明），且实现中完全未被使用：aclnn 的 CheckParams 将其标为 [[maybe_unused]]，kernel 的 GM_ADDR gmTensor[6] 张量列表也不含它们。既然不可能传入张量，「支持非连续」对其为空谈，正确整改是把该列标为不涉及，而不是给一个永不使用的入参补 l0op::Contiguous。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/4994 ## 测试 全部为 Ascend950PR 真机实测（TTK geir 通路 + op_host UT）。 **issue 原始用例** | 项 | 结果 | |---|---| | #21 原始 7 例 | **7/7 PASS**（修复前 7/7 崩） | | #31 超大 D（1.51 亿元素）2 例 | 由 errcode 341 转 **PASS** | | #32 C 轴切分专项 57 例（旧全行路径 33 + 新 C 分块路径 24） | **57/57 PASS** | **回归与泛化** | 算子 | 交付回归集 | 配额集（七条硬约束派生） | 改动路径专项 | |---|---|---|---| | MultilabelMarginLoss | **1098/1098** | **113/113** | 57/57 | | L2NormalizeGrad | **1018/1018** | 79/81 | fp32 精度 13/13 | | GroupNormSiluQuant | 前 158 例 **158/158** | **211/211** | 空张量 **44/44**、改动路径集 **779/779** | 说明： - L2G 配额集余 2 例是 TTK 建图侧问题（rank==1 且属性 dim 缺省时，生成的图把输入 dtype 写错一档），算子对 DT_DOUBLE 正确拒收，该用例未测到算子；同一档由 fp16 那例以正确的 EZ0026 拒收覆盖。 - GNSQ 改动路径集按「本次改动真正生效的条件」筛选（大 C 路由/下溢保护区 + 空张量），未改动路径不重复验证。过程中 6 例 PROFILE_CRASH 退出码为 -9（宿主 OOM，容器 32G 上限），降并发单进程复跑 **6/6 PASS**。 - L2G fp32 13 例按算子自己声明的 cross_check L1 三方比对复判全 PASS：mare 比值 1.0~1.11（阈值 5.0）、mere 0.0036（阈值 1.5），NPU 误差与 GPU 竞品同量级。 ## 文档更新 10 个资料文件的一致性订正（详见「六、0820 批次资料与实现一致性」）： - foreach/*/docs/aclnnForeach{ACos,AddList,MulList,MulScalar,SubList,SubScalar}Inplace.md - foreach/*/docs/aclnnForeach{Addcdiv,Addcmul}List.md - norm/deep_norm/docs/aclnnDeepNorm.md、norm/deep_norm_grad/docs/aclnnDeepNormGrad.md - loss/fused_cross_entropy_loss_with_max_sum/docs/aclnnFusedCrossEntropyLossWithMaxSum.md ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!9017 | 1 个月前 | |
算子插件迁移 | 1 个月前 | |
Merge https://gitcode.com/welt_lester/ops-nn into master | 1 个月前 | |
legacy日落-给一些算子增加InferDataTpye和Tiling日志 Co-authored-by: m0_64999461<xiongpan666@outlook.com> # message auto-generated for no-merge-commit merge: !8630 merge ops-dev into master legacy日落-给一些算子增加InferDataTpye和Tiling日志 Created-by: pan_xiong Commit-by: m0_64999461 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> legacy日落-给一些算子增加InferDataTpye、Infershape打印outputshape和Tiling日志 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 二级冒烟，本地通路验证完毕 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 暂无文档更新 ## 类型标签 <!-- [x] 表示选中 --> - [X] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8630 | 1 个月前 | |
Merge https://gitcode.com/welt_lester/ops-nn into master | 1 个月前 | |
算子原型迁移 | 1 个月前 | |
feat: rename op_api_def.h to op_api_def_nn.h Co-authored-by: chenqianyu<chenqianyu1@h-partners.com> # message auto-generated for no-merge-commit merge: !8360 merge rename_opapidef into master feat: rename op_api_def.h to op_api_def_nn.h Created-by: FishPotatoChen Commit-by: chenqianyu Merged-by: cann-robot Description: ## 描述 本次改动将 op_api/op_api_def.h 重命名为 op_api/op_api_def_nn.h，并同步更新了所有引用该头文件的源文件与测试文件中的 #include 路径，共涉及 161 个文件。 改动原因：将 op_api 定义头文件统一命名为 op_api_def_nn.h，以更好地体现其所属模块（NN 算子）的语义，便于后续与其他模块的头文件区分管理。 此外，在提交过程中发现 4 个文件（aclnn_foreach_addcmul_scalar_v2.cpp、aclnn_max_unpool3d.cpp、test_aclnn_addmv.cpp、test_aclnn_fast_batchnorm_backward.cpp）的许可证头使用了非标准的旧格式，导致 OAT 合规检查失败。本次一并将其更新为标准的 CANN 开源许可证头格式，确保通过合规校验。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/4954 ## 测试 - 通过 pre-commit 钩子校验：trailing whitespace、end-of-file-fixer、clang-format 均通过 - 通过 OAT 合规检查（161 个文件全部通过） - 本次为头文件重命名改动，不涉及逻辑变更，编译依赖关系保持不变 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 无 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：头文件重命名与许可证头修复 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!8360 | 1 个月前 | |
kernel编译配置项优化 Co-authored-by: XianyongWang<aaronhkw@163.com> # message auto-generated for no-merge-commit merge: !8811 merge feat/conv-kernel-compile-opt into master kernel编译配置项优化 Created-by: XianyongWang Commit-by: XianyongWang Merged-by: cann-robot Description: ## 描述 在算子的kernel目录下，增加对应的makefile文件，利用add_kernel_sources函数，参考原本的若干个配置文件设置编译参数，同时删除原配置文件/配置项，实现算子编译配置就近管理，符合ops-nn仓的统一规范。 ## 关联的Issue 关联Issue [#4857](https://gitcode.com/cann/ops-nn/issues/4857) ## 测试 ## 文档更新 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!8811 | 1 个月前 | |
kernel ut 增加防卡死超时，快速模式，覆盖率控制 Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !8187 merge master into master kernel ut 增加防卡死超时，快速模式，覆盖率控制 Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 提交总结：kernel ut 增加防卡死超时、快速模式、覆盖率控制 **修改背景**：Kernel UT 存在单测卡死导致整套测试挂起、运行慢（addr2line 符号化耗时）、gcov 覆盖率始终链接带来不必要开销等问题。 **修改方案**： 1. **防卡死超时**：新增 run_kernel_ut.sh，按 case 逐个执行并用 timeout 限时（默认 120s，--ut_timeout 可配），超时即标记失败并继续，避免单点卡死阻塞全流程。 2. **快速模式**：新增 --ut_mode=fast/debug。fast 模式关闭符号化（注入 fake addr2line 跳过慢解析）、改用 -g0 -O2，用于快速验证；debug 模式保留 -g 与符号化，用于开发调试。 3. **覆盖率控制**：将 ut.cmake 中 gcov 的无条件链接改为 $<$<BOOL:${ENABLE_COVERAGE}>:gcov> 条件链接，仅在开启覆盖率时引入； 4. **修复失败的kernel ut**：TensorFlow 依赖替换为md_dtypes, 修复部分block 越界，缺少SetKernelMode 设置导致核获取错误等问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/4606 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 通过kernel ut 测试，bash build.sh -u --opkernel --ut_mode=fast --ut_timeout=60 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!8187 | 2 个月前 | |
DequantSituQuant和SituMxQuant算子实现及torch extension适配 Co-authored-by: demoauguste<zhanghao418@huawei.com> # message auto-generated for no-merge-commit merge: !8798 merge master into master DequantSituQuant和SituMxQuant算子实现及torch extension适配 Created-by: demoauguste Commit-by: demoauguste Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 实现DequantSituQuant和SituMxQuant算子，并适配torch extension接口。 torch接口评审：https://gitcode.com/cann/ops-nn/issues/4749 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/4850 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 自测试结果如下：  ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8798 | 1 个月前 | |
modified md files (aclnnMultiScaleDeformableAttentionGrad.md and aclnnLinalgVectorNorm.md) Co-authored-by: duhuiping<duhuiping@h-partners.com> # message auto-generated for no-merge-commit merge: !8458 merge master into master modified md files (aclnnMultiScaleDeformableAttentionGrad.md and aclnnLinalgVectorNorm.md) Created-by: gitee-duhuiping Commit-by: duhuiping Merged-by: cann-robot Description: ## 描述 - aclnnMultiScaleDeformableAttentionGrad supports A5, updates aclnnMultiScaleDeformableAttentionGrad, the corresponding README.md for the operator, and op_api_list.md. - Updates the return codes in aclnnLinalgVectorNorm.md. ## 关联的Issue [#4474](https://gitcode.com/cann/ops-nn/issues/4474) ## 测试 Only involves updating the MD document description, does not involve testing. ## 文档更新 docs/zh/op_api_list.md vfusion/multi_scale_deformable_attention_grad/README.md vfusion/multi_scale_deformable_attention_grad/docs/aclnnMultiScaleDeformableAttentionGrad.md norm/lp_norm_v2/docs/aclnnLinalgVectorNorm.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8458 | 1 个月前 | |
修改matmul 算子atoll 异常反馈判断 Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !7083 merge master into master 修改matmul 算子atoll 异常反馈判断 Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 修改matmul 算子atoll 异常反馈判断，异常时返回默认值 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3882 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7083 | 2 个月前 | |
index kernel ut Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !5501 merge master into master index kernel ut Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> Kernel UT 中存在大量分散的测试数据准备代码，使用 system() 调用执行 shell 命令： 重复样板代码多：至少 131 个文件包含 system() 调用 依赖 GNU/Linux 工具：cp、chmod、rm、get_current_dir_name（非跨平台） 错误定位困难：system() 返回码粗糙，无法区分路径错误、权限问题、Python缺失等 维护成本高：同一套逻辑散落在大量算子测试中 修改方案 统一测试数据生命周期管理：拷贝、清理、生成、比对 改善报错体验：使用项目标准日志宏 OP_LOGI/OP_LOGE，区分路径错误、脚本执行失败等 降低贡献门槛：开发者只需声明数据目录和参数 本次修改对index 目录下的部分算子 迁移过程中 代码格式做整改 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/2337 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!5501 | 4 个月前 | |
aclnnQuantMatmulWeightNz 补充WeightQuantPreProcess接口aclnn资料 Co-authored-by: renzetao<renzetao2@huawei.com> # message auto-generated for no-merge-commit merge: !8866 merge data_revise into master aclnnQuantMatmulWeightNz 补充WeightQuantPreProcess接口aclnn资料 Created-by: renzetao Commit-by: renzetao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> aclnnQuantMatmulWeightNz补充weightQuantPreProcess的调用example ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> [#4898](https://gitcode.com/cann/ops-nn/issues/4898) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> bash build.sh --run_example 测试通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> aclnnQuantMatmulWeightNz.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!8866 | 1 个月前 | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 2 个月前 | |
refactor: init_cann_project() 移至 dependencies.cmake 之后调用 Co-authored-by: zhaoyingdong<zhaoyingdong@huawei.com> # message auto-generated for no-merge-commit merge: !8702 merge master into master refactor: init_cann_project() 移至 dependencies.cmake 之后调用 Created-by: zhaoyingdong Commit-by: zhaoyingdong Merged-by: cann-robot Description: ## 描述 refactor: init_cann_project() 移至 dependencies.cmake 之后调用 add_cann_third_party()依赖init_cann_project() 中的变量，所以需要放到add_cann_third_party()前面 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x ] AI辅助编写 See merge request: cann/ops-nn!8702 | 1 个月前 | |
产品文档中png文件改为英文名 Co-authored-by: gitcode-chenjiao<chenjiao31@huawei.com> # message auto-generated for no-merge-commit merge: !8300 merge master into master 产品文档中png文件改为英文名 Created-by: gitcode-chenjiao Commit-by: gitcode-chenjiao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 产品文档中的png图片名由中文改为英文 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#4260](https://gitcode.com/cann/ops-nn/issues/4260) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> NA ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> png和相关的link md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8300 | 2 个月前 | |
init | 1 年前 | |
add hard_sigmoid for ascend950 Co-authored-by: tianyu52<tianyu52@huawei.com> # message auto-generated for no-merge-commit merge: !7874 merge master into master add hard_sigmoid for ascend950 Created-by: tianyu52 Commit-by: tianyu52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> add hard_sigmoid for ascend950 hard_sigmoid适配950 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> UT/ST pass ; ops-test-kit 测试900+ 用例pass ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> activation/hard_sigmoid/README.md activation/hard_sigmoid/docs/aclnnHardsigmoid&aclnnInplaceHardsigmoid.md docs/zh/op_api_list.md docs/zh/op_api_list.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!7874 | 2 个月前 | |
cannsim改名为npusim Co-authored-by: liangbinglong<liangbinglong@huawei.com> # message auto-generated for no-merge-commit merge: !8349 merge master into master cannsim改名为npusim Created-by: liangbinglong Commit-by: liangbinglong Merged-by: cann-robot Description: ## 描述 经TSC评审，cannsim工具正式更名为npusim，相关命令行、资料同步刷新，cannsim作为别名兼容一段时间，需要尽快切换 ## 关联的Issue NA ## 测试 使用最新链接版本测试，相关命令行已经全部更名为npusim ## 文档更新 更新doc下面的调优部分文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8349 | 2 个月前 | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 2 个月前 | |
fix Third_Party_Open_Source_Software_List.yaml Co-authored-by: liuyufan0725<liuyufan9@huawei.com> # message auto-generated for no-merge-commit merge: !1879 merge fix_yaml into master fix Third_Party_Open_Source_Software_List.yaml Created-by: liuyufan0725 Commit-by: liuyufan0725 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 更新三方依赖清单Third_Party_Open_Source_Software_List.yaml 1、增加protobuf 2、将nlohmann/json修改为json ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> 关联Issue [#1042](https://gitcode.com/cann/ops-nn/issues/1042) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 更新了Third_Party_Open_Source_Software_List.yaml ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1879 | 7 个月前 | |
【描 述】 eigen update to 5.0.0 Co-authored-by: j00427146<jialimin1@huawei.com> # message auto-generated for no-merge-commit merge: !1152 merge master into master 【描 述】 eigen update to 5.0.0 Created-by: jialimin1 Commit-by: j00427146 Merged-by: cann-robot Description: ## 描述 现开源软件eigen 3.4.0 EOM，Eigen 从3.4.0版本升级到5.0.0，解决生命周期问题。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/975 https://gitcode.com/cann/ops-nn/issues/389 ## 测试   ## 文档更新 SECURITY.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：Update Eigen to 5.0.0 See merge request: cann/ops-nn!1152 | 7 个月前 | |
修复matmul ut 编译失败的问题 Co-authored-by: 18811725231<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !8409 merge master into master 修复matmul ut 编译失败的问题 Created-by: yang-di52 Commit-by: 18811725231 Merged-by: cann-robot Description: ## 描述 1. 删除冗余的测试代码 2. build.sh build ut 增加-k，即使ut失败，任可以继续构建，最后报错 ## 关联的Issue [#4734](https://gitcode.com/cann/ops-nn/issues/4734) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8409 | 1 个月前 | |
refactor(unique): move aclnnUnique APIs to owning operator directory Co-authored-by: yourealize<chenzhanxi1@huawei.com> # message auto-generated for no-merge-commit merge: !8848 merge codex/move-aclnn-unique into master refactor(unique): move aclnnUnique APIs to owning operator directory Created-by: yourealize Commit-by: yourealize Merged-by: cann-robot Description: ## 描述 aclnnUnique 和 aclnnUnique2 当前位于 scatter_elements/op_api 目录，与接口实际归属不一致。本次调整： - 将 aclnnUnique、aclnnUnique2 及共享实现 unique_common 迁移到 unique_consecutive/op_api。 - 将原有 aclnnUniqueConsecutive 及 UniqueConsecutive L0 接口从 unique_consecutive/op_host/op_api 迁移到根级 op_api，统一符合仓库当前目录规范。 - 950 核心路径由 Sort + UniqueConsecutive 实现；UniqueWithCountsAndSorting 保留为不支持 AI Core 路径时的回退实现。 - 同步迁移接口文档、示例、ST 和 UT。 - 将构建入口调整到算子根 CMakeLists.txt，更新依赖、文档索引和 classify_rule.yaml，并移除 scatter_elements 中不再使用的 Unique 依赖。 ## 关联的Issue [#4918](https://gitcode.com/cann/ops-nn/issues/4918) ## 测试 - git diff --check 通过。 - 目录、引用和依赖结构检查通过，旧路径无残留。 - 未运行单元测试。 ## 文档更新 - 迁移 aclnnUnique.md、aclnnUnique2.md。 - 更新 aclnn API 菜单及接口列表链接。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [x] 其他，请描述：目录结构调整 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!8848 | 1 个月前 | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 2 个月前 | |
调整nn仓第三方依赖 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !7845 merge pr_6933 into master 调整nn仓第三方依赖 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 1. 文档声称 install_deps.sh 可一键安装所有列出的基础依赖（"上述依赖可通过项目脚本一键安装"），但实际脚本仅安装了 GCC、CMake、pigz、dos2unix、patch，未安装 googletest（文档明确列为基础依赖项之一），开发者需手动下载源码、编译并安装 googletest，与文档"一键安装"的描述不符 2. python requirements多两个不需要的依赖 ### 主要修改 为install_deps.sh 增加了安装gtest的功能 删除requirements中多余的两个依赖 ## 关联的Issue [#4256](https://gitcode.com/cann/ops-nn/issues/4256) [#4154](https://gitcode.com/cann/ops-nn/issues/4154) ## 测试  ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7845 | 2 个月前 | |
调整nn仓第三方依赖 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !7845 merge pr_6933 into master 调整nn仓第三方依赖 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 1. 文档声称 install_deps.sh 可一键安装所有列出的基础依赖（"上述依赖可通过项目脚本一键安装"），但实际脚本仅安装了 GCC、CMake、pigz、dos2unix、patch，未安装 googletest（文档明确列为基础依赖项之一），开发者需手动下载源码、编译并安装 googletest，与文档"一键安装"的描述不符 2. python requirements多两个不需要的依赖 ### 主要修改 为install_deps.sh 增加了安装gtest的功能 删除requirements中多余的两个依赖 ## 关联的Issue [#4256](https://gitcode.com/cann/ops-nn/issues/4256) [#4154](https://gitcode.com/cann/ops-nn/issues/4154) ## 测试  ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7845 | 2 个月前 | |
Remove the dependency asc-tool Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !5220 merge eng into master Remove the dependency asc-tool Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 Remove the dependency asc-tool ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 工程编译验证 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!5220 | 4 个月前 |
ops-nn
🔥Latest News
- [2026/05] 优化kernel编译配置项，减少simplified_key和ascendc_config配置文件（!3330）。
- [2026/05] 引入ops-tensor，基于分层结构优化Cube类算子，减少偏移量计算和简化指令参数（!5036）。
- [2026/05] 发布生态算子的精度验收标准（!4572）。
- [2026/03] 开源算子支持下一代芯片：Ascend950PR（!450）。
- [2026/03] 新增<<<>>>的算子开发样例（!620）。
- [2026/03] 低bit类算子和融合算子支持更多数据类型：fp8/mxfp8/hifp8/mxfp4等，并支持pertensor/perchannel/pertoken/pergroup/perblock等不同量化和组合方式：全量化融合算子:quant_batch_matmul_v4，伪量化融合算子:weight_quant_batch_matmul_v2。
- [2026/03] 支持SIMD/SIMT新同构编程算子实现：[MapIndex]（#660），[ScatterSub]（#710）。
- [2026/01] 新增QuickStart，指导新手零基础入门算子项目部署（支持Docker环境）、算子开发和贡献流程。
- [2025/12] 开源算子支持Ascend 950PR/Ascend 950DT/KirinX90，可以通过NPU Simulator仿真工具开发调试；优化指南类文档，聚焦算子开发指南，明确最小交付件和关键示例代码，针对Ascend/samples仓算子提供迁移本项目的指导；新支持稀疏4:2量化matmul算子，针对稀疏矩阵开启硬件加速能力。
- [2025/11] 新支持算子index_fill、masked_scatter、scatter、tf_scatter_add、fused_cross_entropy_loss_with_max_sum。
- [2025/10] 新增experimental目录，完善贡献指南，支持开发者调试并贡献自定义算子。
- [2025/09] ops-nn项目首次上线，开源算子支持Atlas A2/A3系列产品。
🚀概述
ops-nn是CANN（Compute Architecture for Neural Networks）算子库中提供神经网络计算能力的高阶算子库，包括matmul类、activation类等算子，算子库架构图如下：
📌版本配套
本项目源码会跟随CANN软件版本发布，关于CANN软件版本与本项目标签的对应关系请参阅release仓库中的相应版本说明。 请注意，为确保您的源码定制开发顺利进行，请选择配套的CANN版本与Gitcode标签源码，使用master分支可能存在版本不匹配的风险。
🛠️环境准备
环境部署是体验本项目能力的前提，请先完成NPU驱动、CANN包安装等，确保环境正常。
⬇️源码下载
环境准备好后，下载与CANN版本配套的分支源码，通用命令如下，${tag_version}替换为分支标签名。以9.0.0分支源码下载为例：
# 通用命令：git clone -b ${tag_version} https://gitcode.com/cann/ops-nn.git
git clone -b 9.0.0 https://gitcode.com/cann/ops-nn.git
说明：若环境中已存在配套分支源码，可跳过本步骤，例如CANNLab默认已提供最新版本CANN对应的源码。
📖学习教程
💬相关信息
PS：本项目功能和文档正在持续更新和完善中，欢迎您关注最新版本。