本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
| Files | Last commit | Last update |
|---|---|---|
oidc切换 Co-authored-by: cui_jiahao<cuijiahao5@h-partners.com> # message auto-generated for no-merge-commit merge: !14048 merge oidc_switch into master oidc切换 Created-by: cui_jiahao Commit-by: cui_jiahao Merged-by: cann-robot Description: 对齐 cann/ops-math PR7091 与 cann/ops-transformer PR15274 的 OIDC 切换模式: - 所有含 obs-download/obs-upload 的 job 插入 huaweicloud-oidc-auth 步骤(region cn-north-4, duration 3600) - 移除 obs 步骤的静态 access-key/secret-key(secrets.AK/SK) - pipeline 中调用含 obs workflow(本地或 cann/.gitcode 共享 pre/codecheck)的 job 补 permissions: repository: read + id-token: write - 无 OBS 访问的 job(如镜像查询)不改动 See merge request: cann/ops-nn!14048 | 8 days ago | |
修改torch_extension资料中groupindex不能按位置传参的声明 Co-authored-by: clwsy1<wangsiyang3@huawei.com> # message auto-generated for no-merge-commit merge: !14448 merge dev into master 修改torch_extension资料中groupindex不能按位置传参的声明 Created-by: clwsy1 Commit-by: clwsy1 Merged-by: cann-robot Description: ## 描述 当前资料中groupindex输入声明只能按关键字传参,与实际代码不符,故修改资料中的声明。 ## 关联的Issue Issue [#8813](https://gitcode.com/cann/ops-nn/issues/8813) ## 测试 不涉及 ## 文档更新 更新了torch_extension相关中英文资料 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14448 | 7 days ago | |
Ascend960 qbmmv4 MxA8W4 blaze Co-authored-by: chaoying-zhang<zhangchaoying@huawei.com> # message auto-generated for no-merge-commit merge: !13580 merge mxa8w4_quant into master Ascend960 qbmmv4 MxA8W4 blaze Created-by: chaoying-zhang Commit-by: chaoying-zhang Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> Ascend960 qbmmv4 MxA8W4 切换blaze框架 1. 新增AdaptiveSlidingWindowWeightQuantMxCubeTiling类,继承AdaptiveSlidingWindowTiling,复用相关基本块、滑动窗口等计算逻辑,重写数据流相关异常校验逻辑,使用QuantBatchMatmulV3TensorAPIWithoutBatchTilingData,tilingKey保留 QuantBatchMatmulV4 的五参布局 2. AdaptiveSlidingWindowTiling、BaseBlockCalculator、L1TilingDataCalculator等公共类和公共方法适配A/B数据类型不一致的非对称计算。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#8723](https://gitcode.com/cann/ops-nn/issues/8723) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> quant_batch_matmul_v3/quant_batch_matmul_inplace_add兼容性验证 quant_batch_maymul_v4 MxA8W4功能验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13580 | 6 days ago | |
revert//fixpipe相关公共pass基于新框架开发 Co-authored-by: cann-robot<cann@cann.team> # message auto-generated for no-merge-commit merge: !14429 merge revert-mr-14190-1794575367427-auto into master revert//fixpipe相关公共pass基于新框架开发 Created-by: cann-robot Commit-by: cann-robot Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14429 | 8 days ago | |
新增 assert_async 算子 Co-authored-by: ASCEND222<dongfei16@h-partners.com> # message auto-generated for no-merge-commit merge: !12521 merge master into master 新增 assert_async 算子 Created-by: ASCEND222 Commit-by: ASCEND222 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 新增 assert_async 算子 - 算子功能:断言输入张量 input_condition(要求 numel == 1)的数值非 0。若其数值为 0(含 bool 的 False), 设备侧打印属性 assert_msg 指定的消息并触发算子失败;数值非 0 直接通过。本算子**无输出张量**, 语义对齐 PyTorch 的 torch._assert_async(含 .msg 重载语义)。 - 判定口径(bit-exact,无数值计算): - 浮点类型(FLOAT16、FLOAT、DOUBLE、BFLOAT16)按符号位掩码判定:FLOAT 取 & 0x7FFFFFFF,FLOAT16/BFLOAT16 取 & 0x7FFF, DOUBLE 取 & 0x7FFFFFFFFFFFFFFF。+0.0 与 -0.0 均判失败,NaN、+inf、-inf 判通过。 - 复数类型(COMPLEX64、COMPLEX128)实部与虚部精确同时为 0(含 -0.0 分量)判失败;NaN/±inf 分量通过。 - 整型与布尔类型判全字节零:0(含 bool 的 False)判失败,非 0(含 True)判通过。 - 失败通路:kernel 内以 AscendC::printf 打印消息后调用 AscendC::Trap() 中断 AI Core,使算子执行失败; 失败状态经 stream 同步(如 aclrtSynchronizeStream)回传给上层。判定通过时不产生任何打印或输出。 ## 参数说明 | 参数名 | 输入/输出/属性 | 描述 | 数据类型 | 数据格式 | |--------|--------------|------|---------|---------| | input_condition | 输入 | 待断言的条件张量,要求 numel == 1(rank-0 或任意收缩为单元素的 shape)。数值为 0(含 bool 的 False)判失败。 | BOOL、INT8、INT16、INT32、INT64、UINT8、FLOAT16、FLOAT、DOUBLE、BFLOAT16、COMPLEX64、COMPLEX128 | ND | | assert_msg | 可选属性 | 断言失败时打印的消息字符串,默认 ""。可用长度 254 字节(长度须小于 255;缓冲 256 字节,含结尾 '\0'),超长时返回 ACLNN_ERR_PARAM_INVALID(161002)。 | String | - | ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/7330 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!12521 | 9 days ago | |
revert//fixpipe相关公共pass基于新框架开发 Co-authored-by: cann-robot<cann@cann.team> # message auto-generated for no-merge-commit merge: !14429 merge revert-mr-14190-1794575367427-auto into master revert//fixpipe相关公共pass基于新框架开发 Created-by: cann-robot Commit-by: cann-robot Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14429 | 8 days ago | |
feat(index): add UnionSparseGen for A2/A5 sparse attention metadata Co-authored-by: bartonfang<fangziyang1@huawei.com> # message auto-generated for no-merge-commit merge: !14010 merge feat/union-sparse-gen-a2-a5-20261109 into master feat(index): add UnionSparseGen for A2/A5 sparse attention metadata Created-by: bartonfang Commit-by: bartonfang Merged-by: cann-robot Description: ## 描述 新增 UnionSparseGen,将同一请求内相邻 query 选择的稀疏 KV 块合并,输出升序去重的 unionSparseIdx、有效数量 unionSparseCount,以及保留逐 query 可见关系的 exactMask。提供 ACLNN、Torch 接口和 A2 SIMD / A5 SIMT 实现,用于稀疏 attention 的 metadata 前处理。 ### 接口与行为 - 当前支持 block_shape=[1,128]、union_size=8、有序输入、layout_sparse_pattern=4、显式块列表 residual_block_mode=0。 - mask_type=0 为默认非因果模式,1 为右下对齐 causal;两种模式均保留 query membership 和有效 KV 边界,并集和 count 不因 mask 类型改变。三个输出均为 INT32,idx padding 为 -1,mask padding 为 0。 - Q/KV 各自按 cu 是否存在定位:cu 为 INT64 前缀,seqUsed 为 INT32 有效长度且优先使用;无 cuQ 时使用等宽槽位,要求 seqUsedQ、正数 maxQ 和 T=B×maxQ;无 cuKV 时要求 seqUsedKV。 - G=Σceil(effectiveQ/8),Lmax=max(1,max ceil(effectiveKV/128)),容量 U=min(8K,Lmax)。GE 可省略 G/Lmax,以 -1 请求按长度值推导;ACLNN和低层 Torch 继续提供准确几何,公共 Python 入口自动计算。 ### 实现与边界检查 A2 使用有序归并及批量向量资源布局,A5 使用 WarpMerge 和 Packed membership 协作处理;host 按资源与工作量选择 tilingkey。实现包括独立请求分组、partial group、空任务、KV 尾部、重复块、地址与字节数溢出检查,以及可选输入组合和属性合法性校验。CMake 采用仓库标准注册入口,保留 AUTO_SYNC=false。 ## 关联的Issue 关联 [Issue #8776:新增 UnionSparseGen 算子需求](https://gitcode.com/cann/ops-nn/issues/8776)。 ## 测试 | 验证项 | A2 | A5 | |---|---|---| | 原生 Host UT,含 GE 自动几何 | 29项通过 | 29项通过 | | 完整 Python 用例 | 410 passed,1项历史对照按条件跳过 | 相同 | | ATK 泛化,三个完整输出逐位一致 | 200/200 | 200/200 | | 每个可达 key 的确定性 | 50次通过 | 50次通过 | | ACLNN 非法参数拦截及 C++ 示例 | 75项及示例通过 | 相同 | | GE 非法属性/长度拦截及报错后恢复 | 26项通过 | 26项通过 | | 真正 Device 输入、同图动态长度及完整输出 | 56次通过 | 56次通过 | | 模型同规模几何和设备输出分配 | 3项通过 | 3项通过 | | memcheck / initcheck | 各44项、77次kernel,0错误0告警 | 相同 | | synccheck | 16项、22次kernel,0错误;保留既有5512次冗余wait和1020次冗余set告警 | 16项、22次kernel,0错误0告警 | 上述设备测试对应 7c098a2c95 的实现;其 [CI #19463](https://gitcode.com/cann/ops-nn/actions/runs/f47bd97b56474af59ae0f47deb49d05e) **73/73项全部通过**,实际 checkout 已核实。本次评审修订 3a2d8e0baf 仅补齐 ACLNN/GE 头文件参数说明并整理 InferAuto UT 常量,计算实现和接口签名未改;29项原生 Host UT、参数文档完整性、格式及 OAT 检查通过,新提交 [CI #19472](https://gitcode.com/cann/ops-nn/actions/runs/8c37b553326b454d8a6f0decab301cf9) **73/73项通过**,实际 checkout 已核实为 3a2d8e0baf。PR仍保留一个功能提交。 最新格式修订 71c3b33a82:OpDef 改为仓内常用的构造函数直接注册;输入/输出/属性顺序、默认值和平台配置逐项等价。ACLNN 中英文产品支持说明与 RepeatInterleave 一致,使用 npu/id 标记和支持/不支持列表。格式、OAT、A2 SDK 原生语法编译及注册等价检查通过;新提交 [CI #19474](https://gitcode.com/cann/ops-nn/actions/runs/470c9b6feb704901bd6f9c9c3fce2a8e) **73/73项通过**,实际 checkout 已核实为 71c3b33a82。 ## 文档更新 提供中英文 README、ACLNN、Torch API 文档,并更新仓库算子/API 索引。正式目录保留实现、样例及标准 Host UT;完整 ST/ATK 交付件和原始验证证据保存在本地。 ## 类型标签 - [x] 新特性 - [x] 性能优化 - [x] 文档更新 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14010 | 7 days ago | |
fix(cmake): 修复 examples 下 AddOpTestCase 未注册并补齐 add_example UT 的 SOC Co-authored-by: HuangRZzzz<1106918531@qq.com> # message auto-generated for no-merge-commit merge: !13839 merge fix/example-opkernel-ut-soc into master fix(cmake): 修复 examples 下 AddOpTestCase 未注册并补齐 add_example UT 的 SOC Created-by: HuangRZzzz Commit-by: HuangRZzzz Merged-by: cann-robot Description: ## 描述 修复 bash build.sh -u --opkernel --ops=add_example 无任何 UT 用例运行的问题(#8321): 1. cmake/func.cmake:add_category_subdirectory() 中 examples 在算子循环外通过 add_subdirectory(examples) 加载时,宏作用域内 OP_DIR/OP_NAME 仍残留循环最后一次的算子目录,导致 examples 下 AddOpTestCase 误用该目录、在 --ops 过滤时提前 return(),用例注册被静默跳过(所有 SOC 均受影响)。在 add_subdirectory(examples) 前 unset(OP_DIR)/unset(OP_NAME)。 2. examples/add_example/tests/ut/op_kernel/CMakeLists.txt:注册补齐 Ascend910_9391(A3,注意 tikicpulib 目标名大小写)与 ascend950pr_9599(950),与 add_example_def.cpp 的 AddConfig、README 声明的 A2/A3/950 支持范围一致。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/8321 ## 测试 - 修复前:bash build.sh -u --opkernel --ops=add_example --soc=ascend910_93 -j40 → fastOpTestSocVersions 为空、无 UT 可执行文件、无用例执行(CANN 9.2.0 / aarch64 / master b5949092)。 - 修复后(同一环境): - --soc=ascend910_93 → fastOpTestSocVersions=Ascend910_9391,[ PASSED ] 1 test; - --soc=ascend910b → ascend910B1,PASS; - --soc=ascend950 → ascend950pr_9599,PASS。 - kernel UT 为 CPU 仿真(tikicpulib),无需 NPU。 ## 文档更新 无。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13839 | 13 days ago | |
docs_fix Co-authored-by: jisongyuan<jisongyuan@h-partners.com> # message auto-generated for no-merge-commit merge: !14323 merge master into master docs_fix Created-by: ji-songyuan Commit-by: jisongyuan Merged-by: cann-robot Description: ## 描述 本 PR 修复若干资料问题,涵盖接口约束描述纠偏、参数语义澄清、公式勘误与 Markdown 排版修复,中英文资料同步修改。 ### 1. aclnnL1Loss int64 输入约束补全(loss/lp_loss,中英文) 原约束仅笼统表述“out为int64数据类型时仅reduction=2可用”,未说明 self/target 的 dtype 组合规则。现按接口实现(CheckDtypeValid)补充完整组合约束(不满足时返回161002): - reduction=0(none):双int64可用;self为int64且target为浮点时报错;self为浮点且target为int64时可用(提升为浮点计算); - reduction=1(mean):双int64时报错;一侧浮点一侧int64时可用(提升为浮点计算); - reduction=2(sum):含int64的任意组合均可用,双int64走整数路径,单侧提升为浮点计算。 ### 2. aclnnNLLLossBackward / aclnnNLLLoss2dBackward totalWeight 参数语义澄清(loss/nll_loss_grad,中英文) 原文描述“totalWeight通过target取相应位置的weight……求和”,易被误解为算子内部计算该参数。实际 totalWeight 为输入参数:reduction为mean时由调用方传入按 target、weight 和 ignoreIndex 计算得到的权重和;其他 reduction 下不参与计算。中英文参数表同步更正。 ### 3. fused_adamw 公式勘误(optim/fused_adamw,中英文) 参数更新公式中解耦权重衰减项误写为 θ_{t-1},更正为 θ_t,与 AdamW 解耦权重衰减(decoupled weight decay)标准公式一致。 ### 4. aclnnMseLossGrad Markdown 排版修复(experimental/loss/mse_loss_grad) aclnnMseLossGradGetWorkspaceSize 函数签名的代码块缺少闭合 ```,导致后续代码块渲染异常,补齐闭合符。 ## 关联的Issue [#7165](https://gitcode.com/cann/ops-nn/issues/7165) [#7707](https://gitcode.com/cann/ops-nn/issues/7707) [#8204](https://gitcode.com/cann/ops-nn/issues/8204) [#8473](https://gitcode.com/cann/ops-nn/issues/8473) ## 测试 - 仅资料(.md)修改,不涉及算子代码与执行逻辑,本地无需编译/UT验证; - 已核对上述约束表述与 op_api 接口实现(aclnnL1Loss 的 CheckDtypeValid、NLLLoss 系列参数校验)及 AdamW 标准公式一致; - 中英文资料逐条对照,语义一致。 ## 文档更新 - loss/lp_loss/docs/aclnnL1Loss.md、aclnnL1Loss_en.md - loss/nll_loss_grad/docs/aclnnNLLLossBackward.md、aclnnNLLLossBackward_en.md、aclnnNLLLoss2dBackward.md、aclnnNLLLoss2dBackward_en.md - optim/fused_adamw/README.md、README_en.md - experimental/loss/mse_loss_grad/docs/aclnnMseLossGrad.md ## 类型标签 - [x] Bug修复 - [x] 文档更新 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14323 | 9 days ago | |
fix(foreach_binary_op): 关闭 aclnn 接口自动生成,仅保留图模式 Co-authored-by: qq_37917228<yanmingkui@huawei.com> # message auto-generated for no-merge-commit merge: !14451 merge fix/foreach_binary_op_aclnn_exclude into master fix(foreach_binary_op): 关闭 aclnn 接口自动生成,仅保留图模式 Created-by: qq_37917228 Commit-by: qq_37917228 Merged-by: cann-robot Description: ## 描述 ForeachBinaryOp 是仅在 Ascend 950(arch35)上实现的图内部融合算子,用于把 add/sub/mul/div 等二元 foreach 运算统一为一个算子: - op_host/ 下没有 op_api/ 目录,即无手写 aclnn 接口; - README 的“调用说明”只有图模式一行; - examples/arch35/test_geir_foreach_binary_op.cpp 明确标注 "no aclnn entry"。 但 foreach/foreach_binary_op/op_host/CMakeLists.txt 中 ACLNNTYPE 配置为 aclnn,opbuild 会以 OPS_ACLNN_GEN=1 处理,从 opdef 自动生成 aclnn_foreach_binary_op 接口并加入 aclnn_ops_nn.h 汇总头,与该算子“仅图模式”的定位不符。 本次将 ACLNNTYPE 改为 aclnn_exclude: - opbuild 走 aclnnExc 分支(cmake/opbuild.cmake),OPS_ACLNN_GEN=0,不再生成 aclnn 接口与汇总头条目; - opdef 仍经 opbuild 生成并参与 GE 图注册,图模式调用不受影响; - 本算子无 op_api 手写接口,因此改后不再有任何 aclnn 入口。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/8852 ## 测试 已完成本地编译验证: - 图模式样例 test_geir_foreach_binary_op 与 tests/ut 正常; - aclnn 侧不再生成该算子接口。 ## 文档更新 无。README 的调用说明本就只有图模式,与改动后行为一致。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:构建通路配置修正,移除图内部算子多余的 aclnn 接口生成 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14451 | 6 days ago | |
docs(embedding_hash_table_export): 修正 counters 输出描述为各导出 key 的计数器值 Co-authored-by: luohui46<luohui46@huawei.com> # message auto-generated for no-merge-commit merge: !14381 merge master into master docs(embedding_hash_table_export): 修正 counters 输出描述为各导出 key 的计数器值 Created-by: luohui46 Commit-by: luohui46 Merged-by: cann-robot Description: ## 描述 修正 hash/embedding_hash_table_export/README.md 参数表中 counters 输出参数的描述。 原说明「导出key数量」易被误解为本次导出的 key 总数;实际上 counters 保存的是每个导出 key 对应的计数器值,与 keys 输出按位置一一对应(例如导出两个 key,counters 可能为 [5, 9],两个数分别对应两个 key,而不是总数量 2)。 依据内核实现 op_kernel/arch35/embedding_hash_table_export.h:在写入每个导出 key 的同一轮循环里,读取该 key 所在桶的 counter 并写入相同的位置索引。 ## 关联的Issue Fixes #7705 ## 测试 仅文档描述修改,无代码变更,无需测试。 ## 文档更新 更新了 hash/embedding_hash_table_export/README.md 中 counters 参数的说明:由「导出key数量」改为「各导出key对应的计数器值,与keys按位置一一对应」。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14381 | 8 days ago | |
fix: bucketize_v2 BinaryQuery VF 分派改 AscendC::VF_CALL 直调 Co-authored-by: sunhao126<sunhao126@huawei.com> # message auto-generated for no-merge-commit merge: !14430 merge 5162a-bucketize-vfcall into master fix: bucketize_v2 BinaryQuery VF 分派改 AscendC::VF_CALL 直调 Created-by: qq_49328621 Commit-by: sunhao126 Merged-by: cann-robot Description: ## 描述 bucketize_v2 BinaryQuery 的 VF 分派由 asc_vf_call 改为 AscendC::VF_CALL 直接调用(一行替换,参数列表逐字未动)。 **背景**:原实现经 asc_vf_call 分派,核型判定链为 helpers.h 的 ASCEND_IS_NOT_AIC → impl/utils/sys_macros_impl.h 的 g_coreType。5162 编译时 SPLIT_CORE_VEC 未定义(列表仅 2201/3510/9201/9202)、g_coreType=MIX,VF 分派依赖公共头(cann/asc-devkit #7327)修复且经 helper 二次跳转。 **改动**:直接调用 AscendC::VF_CALL,分派语义由原语自身承载,不再依赖公共头核型判定链(对 asc-devkit #7327 的配套依赖随之解除)。 **关联 PR:** - #12410:bucketize_v2 简单适配主 PR - cann/asc-devkit #7327:helpers.h 核型判定修复(其他 asc_vf_call 调用者仍受益) ## 关联的Issue 无 ## 测试 - ascend5162 / ascend950 双 SOC 构建 binary 通过(两条编译路径均验证,参数列表零改动) - pre-commit 全部 hook 通过 - 真机回归(bucketize case1/case3)待黄区验证 ## 文档更新 无 ## 类型标签 - [ ] Bug修复 - [x] ✨ 新功能 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14430 | 6 days ago | |
fix(mse_loss): MseLossOut空tensor输入按reduction语义填充输出 Co-authored-by: jisongyuan<jisongyuan@h-partners.com> # message auto-generated for no-merge-commit merge: !14080 merge fix/issue-7542-mse-loss-out-empty into master fix(mse_loss): MseLossOut空tensor输入按reduction语义填充输出 Created-by: ji-songyuan Commit-by: jisongyuan Merged-by: cann-robot Description: ## 描述 MseLossOut 在 self 或 target 为空 tensor 时直接返回成功,未对 out 做任何填充,导致 reduction=mean 时输出残留随机值(PyTorch 语义为 NaN)、reduction=sum 时输出不为 0。 修复方案:空 tensor 早退分支按 reduction 语义补填充逻辑——mean 时调用 CheckFillScalarLoss 向 out 填充 NaN,sum 时填充 0,none 时不写 out(对齐 PyTorch 行为)。 改动文件: - loss/mse_loss/op_api/aclnn_mse_loss_out.cpp ## 关联的Issue 关联Issue #7542(Close #7542) https://gitcode.com/cann/ops-nn/issues/7542 ## 测试 - 功能复现:本地构造空 tensor 用例,reduction=mean 输出 NaN、reduction=sum 输出 0、reduction=none 不写 out,符合 PyTorch 语义 - 回归验证:opapi UT 56 个存量用例全部通过(ascend910b) - 错误码门禁:已评估,新增出口复用 CheckFillScalarLoss 标准封装,审计通过(速查报告 /home/jisongyuan/ops-issue/nn/7542-7572-batch/error_code_quickref_7542.md) - 冒烟门禁:lookup 命中 CANN_ACCU_SMK_aclnnMseLossOut;本改动仅影响空 tensor 早退分支,与正向精度路径不相交,以 UT 结果为准 - ONNX 门禁:不涉及 - 完整本地验证报告: /home/jisongyuan/ops-issue/nn/7542-7572-batch/local_verification_report.md(对话同步交付供评测) ## 文档更新 无 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14080 | 6 days ago | |
Ascend960 qbmmv4 MxA8W4 blaze Co-authored-by: chaoying-zhang<zhangchaoying@huawei.com> # message auto-generated for no-merge-commit merge: !13580 merge mxa8w4_quant into master Ascend960 qbmmv4 MxA8W4 blaze Created-by: chaoying-zhang Commit-by: chaoying-zhang Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> Ascend960 qbmmv4 MxA8W4 切换blaze框架 1. 新增AdaptiveSlidingWindowWeightQuantMxCubeTiling类,继承AdaptiveSlidingWindowTiling,复用相关基本块、滑动窗口等计算逻辑,重写数据流相关异常校验逻辑,使用QuantBatchMatmulV3TensorAPIWithoutBatchTilingData,tilingKey保留 QuantBatchMatmulV4 的五参布局 2. AdaptiveSlidingWindowTiling、BaseBlockCalculator、L1TilingDataCalculator等公共类和公共方法适配A/B数据类型不一致的非对称计算。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#8723](https://gitcode.com/cann/ops-nn/issues/8723) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> quant_batch_matmul_v3/quant_batch_matmul_inplace_add兼容性验证 quant_batch_maymul_v4 MxA8W4功能验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13580 | 6 days ago | |
fix(norm,quant): 修复DeepNormGrad dgamma/dbeta跨行累加精度与DynamicQuantUpdateScatterV2窄区间行INT4量化偏差 Co-authored-by: tianqiguang<tianqiguang@huawei.com> # message auto-generated for no-merge-commit merge: !14393 merge master into master fix(norm,quant): 修复DeepNormGrad dgamma/dbeta跨行累加精度与DynamicQuantUpdateScatterV2窄区间行INT4量化偏差 Created-by: tianqiguang Commit-by: tianqiguang Merged-by: cann-robot Description: ## 描述 本 PR 修复 arch35(Ascend 950PR/950DT)路径下两个算子的数值精度问题,只改 kernel 计算与测试 golden,不涉及对外接口。 ### 1. DeepNormGrad:dgamma/dbeta 跨行累加引入 Kahan 补偿 **问题**: ProcessGammaBeta 按列分核,每个列 tile 在本地 fp32 buffer 中跨全部行顺序累加 dgamma += dy * ((alpha*x + gx) - mean) * rstd、dbeta += dy。行数较大时 fp32 直接累加的舍入误差随行数增长,dgamma/dbeta 与 fp64 参考明显偏离。 **修改**: - deep_norm_grad.h:ComputeGammaBeta 声明新增 dgammaComp、dbetaComp 补偿张量参数。 - deep_norm_grad_part1.h:ComputeGammaBeta 改为 Kahan 补偿求和(adjusted = value - comp → newSum = sum + adjusted → delta = newSum - sum → comp = delta - adjusted),与算子内 ComputeSmallDSecondPass、ComputeTinyDBatch、AccumulateKahan 既有 Kahan 实现一致;沿用已有 KahanGuardComp 清理补偿项 NaN/±Inf,保证 dy ≡ ±Inf 时 dbeta 按 IEEE 语义输出 ±Inf 而非 NaN。 - deep_norm_grad_part2.h:ProcessGammaBeta 复用该路径空闲的 calc0Buf_/calc1Buf_ 承载补偿项(gammaBetaRowSplit == 0 分支未初始化 dgammaCompBuf_/dbetaCompBuf_;calc 缓冲只在 ProcessBackward() 中使用,而 Process() 中 ProcessBackward() 先于 ProcessGammaBeta() 串行执行),每个列 tile 起始置零,不新增 UB 占用。 ### 2. DynamicQuantUpdateScatterV2:INT4 量化公式避免 fp32 灾难性抵消 **问题**:原量化公式 round(x * backScale + offset),其中 scale = max((max-min)/15, 1e-12)、offset = 7 - max/scale。行内 max≈min(如整行恒定值)时 scale 被 QUANT_EPSILON=1e-12 截断,max/scale 达 1e12 量级;fp32 在该量级 ULP 约 2^18,offset 中的 +7 被完全吞掉,相加相消后得到 0,而期望 max 映射到 INT4_QUANT_MAX=7,量化结果错误。 **修改**: - dynamic_quant_update_scatter_v2_regbase.h:QuantizeVF 新增 maxValue 入参,量化改为 (x - max) * backScale + INT4_QUANT_MAX——先 Adds(x, -max),差值落在输入量级,再乘 backScale、加 7,避免大数相消;与原公式数学等价。 - tests/assets/golden.py:参考实现同步为 (row - max_val) * back_scale + quant_max,与 kernel 公式一致;offset_quant 仅保留用于 offset 输出。 ## 关联的Issue - #8858 ## 测试 - ST:tests/st/arch35/ttk_kernel_dynamic_quant_update_scatter_v2_st.csv 已包含 eps 截断场景 a5_fp16_constant_zero_b8_s5_h64、a5_bf16_constant_pos_b8_s5_h64、a5_fp16_near_zero_b8_s5_h128 等用例;golden 已同步为与 kernel 相同公式,用于回归。 - DeepNormGrad:Kahan 累加流程、mask 与 load/store 配对与算子内既有 Kahan 实现一致。 - CI 流水线已通过(PR 标签 ci-pipeline-passed)。 ## 文档更新 无。本次仅修改 arch35 kernel 实现与测试 golden,不涉及对外文档。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!14393 | 6 days ago | |
fix(lamb_next_right): 修正空 Tensor tiling data 有效长度 Co-authored-by: chensi79<chensi79@huawei.com> # message auto-generated for no-merge-commit merge: !14193 merge fix/lamb-next-right-empty-scalar into master fix(lamb_next_right): 修正空 Tensor tiling data 有效长度 Created-by: chensi79 Commit-by: chensi79 Merged-by: cann-robot Description: ## 描述 修复 LambNextRight 空 Tensor 用例的静态编译失败。 原实现将 GetRawTilingData()->GetCapacity()(测试环境中为 2 MB)作为有效 tiling data 长度,而编译器为 tiling 保留的空间只有 64 KB,导致静态编译导出 tiling 结果失败。 本 PR 通过新增提交恢复初版执行路径,最终差异仅在一个 tiling 源文件中:将 SetDataSize(emptyCap) 改为 SetDataSize(sizeof(EmptyTilingData));EmptyTilingData 使用与 schMode=1 对应的 BroadcastBaseTilingData。空 Tensor 的其余处理和 kernel 均保留初版实现。 ## 关联的Issue #8853 https://gitcode.com/cann/ops-nn/issues/8853 ## 测试 - CANN:/home/c00947812/Ascend_9.1.0/cann-9.1.0。 - 编包:bash build.sh --pkg --soc=ascend950 --ops=lamb_next_right --vendor_name=lamb_next_right -j8。 - 上板:LambNextRight_L1_empty_highpre_028,DYN/CST、--compare=mixed --dl=1 --xpu-perf,精度、性能、确定性及内存检查均 PASS。DYN:2.271 μs、100%,100%、OK,OK,OK;CST:1.088 μs、100%,100%、OK,OK。静态编译产物 opParaSize=1472 字节。 - 使用新包的独立安装路径,并通过 --expect-impl-source=custom=lamb_next_right_nn 确认加载来源。 - 变更文件 pre-commit 格式、基础与 OAT 检查通过。 ## 文档更新 无。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14193 | 6 days ago | |
AvgPool2/3D及其反向算子添加约束条件 Co-authored-by: liu_hp711<liuhongpeng2@h-partners.com> # message auto-generated for no-merge-commit merge: !14369 merge avgpool3d into master AvgPool2/3D及其反向算子添加约束条件 Created-by: liu_hp711 Commit-by: liu_hp711 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> AvgPool2/3D及其反向算子添加约束条件 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/Alice_zhou/issue/issues/562 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 只涉及文档更新,无需st和冒烟验证。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> pooling/avg_pool3_d/README.md pooling/avg_pool3_d/README_en.md pooling/avg_pool3_d/docs/aclnnAvgPool2d.md pooling/avg_pool3_d/docs/aclnnAvgPool2d_en.md pooling/avg_pool3_d/docs/aclnnAvgPool3d.md pooling/avg_pool3_d/docs/aclnnAvgPool3d_en.md pooling/avg_pool3_d_grad/README.md pooling/avg_pool3_d_grad/README_en.md pooling/avg_pool3_d_grad/docs/aclnnAvgPool2dBackward.md pooling/avg_pool3_d_grad/docs/aclnnAvgPool2dBackward_en.md pooling/avg_pool3_d_grad/docs/aclnnAvgPool3dBackward.md pooling/avg_pool3_d_grad/docs/aclnnAvgPool3dBackward_en.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!14369 | 6 days ago | |
fix(norm,quant): 修复DeepNormGrad dgamma/dbeta跨行累加精度与DynamicQuantUpdateScatterV2窄区间行INT4量化偏差 Co-authored-by: tianqiguang<tianqiguang@huawei.com> # message auto-generated for no-merge-commit merge: !14393 merge master into master fix(norm,quant): 修复DeepNormGrad dgamma/dbeta跨行累加精度与DynamicQuantUpdateScatterV2窄区间行INT4量化偏差 Created-by: tianqiguang Commit-by: tianqiguang Merged-by: cann-robot Description: ## 描述 本 PR 修复 arch35(Ascend 950PR/950DT)路径下两个算子的数值精度问题,只改 kernel 计算与测试 golden,不涉及对外接口。 ### 1. DeepNormGrad:dgamma/dbeta 跨行累加引入 Kahan 补偿 **问题**: ProcessGammaBeta 按列分核,每个列 tile 在本地 fp32 buffer 中跨全部行顺序累加 dgamma += dy * ((alpha*x + gx) - mean) * rstd、dbeta += dy。行数较大时 fp32 直接累加的舍入误差随行数增长,dgamma/dbeta 与 fp64 参考明显偏离。 **修改**: - deep_norm_grad.h:ComputeGammaBeta 声明新增 dgammaComp、dbetaComp 补偿张量参数。 - deep_norm_grad_part1.h:ComputeGammaBeta 改为 Kahan 补偿求和(adjusted = value - comp → newSum = sum + adjusted → delta = newSum - sum → comp = delta - adjusted),与算子内 ComputeSmallDSecondPass、ComputeTinyDBatch、AccumulateKahan 既有 Kahan 实现一致;沿用已有 KahanGuardComp 清理补偿项 NaN/±Inf,保证 dy ≡ ±Inf 时 dbeta 按 IEEE 语义输出 ±Inf 而非 NaN。 - deep_norm_grad_part2.h:ProcessGammaBeta 复用该路径空闲的 calc0Buf_/calc1Buf_ 承载补偿项(gammaBetaRowSplit == 0 分支未初始化 dgammaCompBuf_/dbetaCompBuf_;calc 缓冲只在 ProcessBackward() 中使用,而 Process() 中 ProcessBackward() 先于 ProcessGammaBeta() 串行执行),每个列 tile 起始置零,不新增 UB 占用。 ### 2. DynamicQuantUpdateScatterV2:INT4 量化公式避免 fp32 灾难性抵消 **问题**:原量化公式 round(x * backScale + offset),其中 scale = max((max-min)/15, 1e-12)、offset = 7 - max/scale。行内 max≈min(如整行恒定值)时 scale 被 QUANT_EPSILON=1e-12 截断,max/scale 达 1e12 量级;fp32 在该量级 ULP 约 2^18,offset 中的 +7 被完全吞掉,相加相消后得到 0,而期望 max 映射到 INT4_QUANT_MAX=7,量化结果错误。 **修改**: - dynamic_quant_update_scatter_v2_regbase.h:QuantizeVF 新增 maxValue 入参,量化改为 (x - max) * backScale + INT4_QUANT_MAX——先 Adds(x, -max),差值落在输入量级,再乘 backScale、加 7,避免大数相消;与原公式数学等价。 - tests/assets/golden.py:参考实现同步为 (row - max_val) * back_scale + quant_max,与 kernel 公式一致;offset_quant 仅保留用于 offset 输出。 ## 关联的Issue - #8858 ## 测试 - ST:tests/st/arch35/ttk_kernel_dynamic_quant_update_scatter_v2_st.csv 已包含 eps 截断场景 a5_fp16_constant_zero_b8_s5_h64、a5_bf16_constant_pos_b8_s5_h64、a5_fp16_near_zero_b8_s5_h128 等用例;golden 已同步为与 kernel 相同公式,用于回归。 - DeepNormGrad:Kahan 累加流程、mask 与 load/store 配对与算子内既有 Kahan 实现一致。 - CI 流水线已通过(PR 标签 ci-pipeline-passed)。 ## 文档更新 无。本次仅修改 arch35 kernel 实现与测试 golden,不涉及对外文档。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!14393 | 6 days ago | |
fix(thnn_fused_lstm_cell): tiling跨输入shape校验+tailSize截断修复+空早退校验前置+文档对齐实现+UT补齐+看护集与golden入库 Co-authored-by: dengguojie<dengguojie@huawei.com> # message auto-generated for no-merge-commit merge: !13923 merge hardening/ThnnFusedLstmCell into master fix(thnn_fused_lstm_cell): tiling跨输入shape校验+tailSize截断修复+空早退校验前置+文档对齐实现+UT补齐+看护集与golden入库 Created-by: dengguojie Commit-by: dengguojie Merged-by: cann-robot Description: ## 描述 对 rnn/thnn_fused_lstm_cell 算子进行质量加固,修复 tiling 校验缺失、数值截断、参数校验旁路等功能性缺陷与一处乘法溢出未定义行为,并对齐四份文档与实现,补齐单元测试与看护资产。改动全部位于算子目录内。 **修复要点:** 1. **op_host tiling 校验补齐**(P1):tiling 独立入口此前仅读取 cx 且仅校验 rank>=2,未校验其余 4 输入与 3 输出的 shape 关系——shape 失配时 kernel 按 B*4H/B*H 线性寻址越界读写、rank>2 静默错误。现补齐跨输入输出 shape 关系校验与维度上界(参照族内 grad tiling 全量校验惯例,校验面与接口文档声明契约一致,未收窄支持面)。 2. **tailSize 截断修复**(P1):tailSize 计算先 uint64→uint32 截断再取模,H>=2^32 时截断值参与取模致 tailSize 错误且与列数计算失配,末列块越界读写/漏算;改为 uint64 域取模后再收窄(H%taskSize 恒小于 taskSize,可安全入 uint32)。 3. **空 inputGates 早退校验前置**(P1,即 #8193):aclnn 空 inputGates 早退位于全部 dim/shape/dtype 校验之前,直调构造"空 inputGates+其余张量不一致"时返回 SUCCESS 跳过校验、输出未初始化;现将空早退移至全部校验之后,全空(B=0)合法行为保持不变;空早退分支注释同步精简为纯逻辑描述。 4. **CheckParamsShape 判空守卫与 hidden 上界定界防御**:基准输入 cx 补本地 nullptr 守卫,消除对调用序的隐式依赖(族内 grad 同构函数自带守卫);hidden > INT64_MAX/GATES_NUM 时直接拒绝,消除 gates 维度 4*hidden 的有符号乘法溢出未定义行为(物理不可达域,零支持面影响)。 5. **文档对齐实现**(12 项):四份文档门切分/拼接序由 [i,g,f,o] 修正为实现的 [i,f,g,o];README(zh/en) 8 参数 dtype 列补 BFLOAT16 及 A3/A2 产品差异行;约束说明收敛为真实校验约束;参数表补非连续自动转换与 bias 可选(缺省等价全零)声明;aclnn 接口文档使用说明列补空 Tensor 语义与动态 shape/rank 条目;161002 描述收窄至数据类型(注册面 ND-only);cx 行笔误与英文版返回值表头修正;inputBias/hiddenBias 的 shape 约束限定词由「非空时」改为「传入时」(代码条件为空指针判空、空指针时以 (4H,) 全零偏置代填,限定词与该可选语义一致,zh/en 同步)。 6. **单元测试补齐**:op_host 新增 tiling 负向校验 UT 12 例,并补 B/H 维边界枚举 corner UT 9 例(B=0/1/MAX/2^31×H=0,H=0/1/负/MAX/2^32;其中 H=2^32 例断言 tailSize 与 col 的 uint64 域取模一致性,判别截断修复行为);op_api 新增四族负向校验 UT 8 例(161001/161002);op_kernel UT 桩结构复刻生产 TilingData ABI(修复原 64B 桩与生产 56B 布局失配致用例空跑)并补输出数值断言;UT 注册补 ascend950pr_9599 目标。 7. **样例资源释放**:统一 releaseResources 释放段,修复十余处 CHECK_RET 提前返回点跳过 tensor/device/stream 释放的泄漏。 8. **看护资产入库**:tests/st/arch35/ 新增 kernel/aclnn/torch 三通路看护用例 CSV(111/86/109 行;负向拦截用例已由 op 侧 UT 等价承载后剥除);tests/assets/ 新增 TTK 参考 golden(cross_check 容差条目仅保留 standard/level——比对器不消费 rtol/atol 数值键,数值预算以算子规格为准)。 9. 交付文件许可头规整与末尾换行补齐。 **逐修复项映射表**(编号与 #8399 登记一致): | 修复项 | 内容 | 落点(变更文件) | |--------|------|----------------| | T10-FIX-01 | tiling 跨输入输出 shape 校验 | op_host/thnn_fused_lstm_cell_tiling.cpp | | T10-FIX-02 | tailSize uint64 域取模收窄 | op_host/thnn_fused_lstm_cell_tiling.cpp | | T10-FIX-03 | 空 inputGates 早退前置(同 #8193) | op_api/aclnn_thnn_fused_lstm_cell.cpp + tests/ut/op_api UT | | T10-FIX-04 | op_kernel UT 桩复刻生产 ABI | tests/ut/op_kernel/ | | T10-FIX-05 | kernel UT 数值断言补齐 | tests/ut/op_kernel/test_thnn_fused_lstm_cell.cpp | | T10-FIX-06 | 样例资源释放 | examples/test_aclnn_thnn_fused_lstm_cell.cpp | | T10-FIX-07 | 8 文件末尾换行补齐 | 本 commit 涉及的 8 个文件 | | T10-FIX-08 | CMakeLists 许可头对齐 | CMakeLists.txt + tests/ut/op_api/CMakeLists.txt | | T10-FIX-09 | kernel 偏置注释 (4H,) 修正 | op_kernel/thnn_fused_lstm_cell.h | | T10-FIX-10/11/12 | golden 比对口径/tolerance level/bf16 第三方锚 | tests/assets/golden.py | | T16(增强) | op_host tiling 负向 UT 12 例(HOST 覆盖率 74.3%→95.6%) | tests/ut/op_host/test_thnn_fused_lstm_cell_tiling.cpp | | T18-FIX-01 | 门序 [i,f,g,o] 修正 | README(zh/en) + docs/aclnnThnnFusedLstmCell(zh/en) | | T18-FIX-02 | dtype 列补 BFLOAT16+产品差异行 | README.md + README_en.md | | T18-FIX-03 | 约束说明补齐 | README.md + README_en.md | | T18-FIX-04 | 使用说明列空 Tensor 语义 | docs/aclnnThnnFusedLstmCell(zh/en) | | T18-FIX-05 | 161002 措辞收窄 | docs/aclnnThnnFusedLstmCell(zh/en) | | T18-FIX-06 | 非连续自动转换声明 | README.md + README_en.md | | T18-FIX-07 | bias 可选语义标注 | README.md + README_en.md | | T18-FIX-08 | 动态 shape/rank 约束条目 | docs/aclnnThnnFusedLstmCell(zh/en) | | T18-FIX-09 | cx 笔误与 en 表头修正 | README.md + docs/aclnnThnnFusedLstmCell_en.md | | T19.2-FIX-01 | README 约束章三域收敛 | README.md + README_en.md | | T19.2-FIX-02 | zh 侧 BFLOAT16 约束行补齐 | docs/aclnnThnnFusedLstmCell.md | | T19.2-FIX-03 | CheckParamsShape cx 本地守卫 | op_host/thnn_fused_lstm_cell_tiling.cpp | | T19.2-FIX-04 | UT 注释纯技术化 | tests/ut/op_host/test_thnn_fused_lstm_cell_tiling.cpp | | T19.2-FIX-05 | op_api 负向 UT 8 例 | tests/ut/op_api/test_aclnn_thnn_fused_lstm_cell.cpp | | T19.2-STRIP-01/02, FIX-06 | 看护集负向行剥除/整理(UT 等价承载) | tests/st/arch35/ 三件 CSV | | T19.2-R2-FIX-01 | tiling hidden 上界定界防御 + B/H 边界 corner UT 9 例 | op_host/thnn_fused_lstm_cell_tiling.cpp + tests/ut/op_host/test_thnn_fused_lstm_cell_tiling.cpp | | T19.2-R2-FIX-02 | 空 tensor 早退注释精简 | op_api/aclnn_thnn_fused_lstm_cell.cpp | | T19.2-R2-FIX-03 | tiling 校验链 storage==origin 等价前提注释钉死 | op_host/thnn_fused_lstm_cell_tiling.cpp | | T19.2-R2-FIX-04 | README bias shape 限定词「非空时」→「传入时」(zh/en) | README.md + README_en.md | | T19.2-R2-FIX-05 | gates 求和溢出相消角点定性(分析资产,不涉及仓内文件) | (定性登记) | | T19.2-R2-FIX-06 | golden cross_check 容差死键清理(仅保留 standard/level) | tests/assets/golden.py | ## 关联的Issue Closes #8399(质量加固修复汇总——全部修复项登记与映射) Closes #8193(aclnn 空 inputGates 早退跳过 dim/shape/dtype 三项校验,与 T10-FIX-03 同题) ## 测试 - **单元测试**(ascend950 覆盖率构建,build.sh -u --soc=ascend950 --cov --noexec):op_host UT 23 例(负向校验 12 例 + B/H 维边界枚举 corner 9 例 + 原有 2 例)+ op_api UT 14 例(6 旧 + 8 新)+ op_kernel UT 1 例 = **38/38 全 PASSED**;host 覆盖率 op_host 模块 95.6%、HOST 合计 92.3%(≥80%;29 例集实测口径,hidden 上界定界防御分支由 corner 用例覆盖,覆盖率只增不减);tiling 校验族负向分支 gcov 全部 taken。 - **看护集实机执行**(TTK,ascend950;看护集 kernel/aclnn/torch 三件共 111/86/109 行):kernel 通路全量 111 行——正向 101/101 PASS + 负向 10/10 预期拒绝(BINARY_MATCH_FAILURE 框架域留守行);aclnn 16/16 PASS(含 4 format 行按实现接受);torch 17/17 PASS(stride-5 确定性抽样);负向拦截语义(23 行 dtype/shape/nullptr 族+9 行跨 shape/rank 族)经 UT 直调等价承载(161001/161002 断言)后剥除。 - **泛化覆盖**:看护集覆盖 fp32/fp16/bf16 三 dtype、B/H 维度桶全含(含 2^11/2^13 邻界)、(1,1) 最小形态、B=0/H=0 空批形态、非连续输入、可选 bias 双形态(单侧 nullptr/双 nullptr 补零);UT 层另含 B/H 维 MAX/2^31/2^32 极值邻界枚举。 - **回归零退化**:全部修复项逐一回归在册;kernel 二进制 md5 三锚证明数值域修复不引入 bit 级回归;hidden 上界定界防御、corner UT 与 golden 容差键位合规化随本提交回归,kernel 全量 111 行一次绿(FAIL 行集与基线逐名一致)。 - **pre-commit 定向**(clang-format/ruff/codespell/OAT)对全部 22 个变更文件全绿(随最终提交复跑)。 ## 文档更新 README.md、README_en.md、docs/aclnnThnnFusedLstmCell.md、docs/aclnnThnnFusedLstmCell_en.md:门序修正、dtype BFLOAT16 声明、约束说明收敛、空 Tensor 语义、非连续与 bias 可选声明、bias shape 限定词措辞修正、161002 措辞收窄、动态 shape/rank 条目、笔误修正。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13923 | 8 days ago | |
ci(analyze_ops_time): ci构建耗时统计优化 Co-authored-by: gao19871128<1897001@qq.com> # message auto-generated for no-merge-commit merge: !14311 merge branch-opstime into master ci(analyze_ops_time): ci构建耗时统计优化 Created-by: gao19871128 Commit-by: gao19871128 Merged-by: cann-robot Description: ## 描述 ci过程中统计时间错误,修改对应的python文件,并完成端到端的测试,观察csv文件结果正确 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000-->[#8703](https://gitcode.com/cann/ops-nn/issues/8703) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14311 | 8 days ago | |
fusion_pass获取npuarch整改 Co-authored-by: zhangquanxin<zhangquanxin7@h-partners.com> # message auto-generated for no-merge-commit merge: !13819 merge fix_fusion_pass into master fusion_pass获取npuarch整改 Created-by: zhangquanxin Commit-by: zhangquanxin Merged-by: cann-robot Description: ## 描述 matmul 域图融合 pass 与 infershape 的平台门控原通过 fe::PlatformInfo 的 soc_info.arch_type 判断 NPU arch,线上真机 Ascend950 环境 ini 配置无该字段,判断恒为 false,融合/infershape 平台门控失效(详见关联 Issue)。 本 MR 将 5 处判断点改为运行时 API 方式:aclplatformGetDeviceInfo(ACL_PLATFORM_NPU_ARCH, buf) 获取 arch 字符串("3510"/"9201"/"9202"),经 std::atoi 与 arch 常量数值比较,不再依赖 arch_type 字段: - matmul/common/op_graph/fusion_pass/matmul_fusion_utils_pass.cpp:IsNpuArch3510Series - matmul/flat_quant/op_host/flat_quant_infershape.cpp:IsFlatQuantMxFp4DavidSupport - matmul/rotate_quant/op_host/rotate_quant_infershape.cpp:IsRotateQuantDav3510Support - matmul/weight_quant_batch_matmul_v2/op_graph/fusion_pass/anti_quant_matmul_fusion_pass.cpp:CheckPlatform 回退段(rtGetSocSpec 第一优先保留) - matmul/transpose_batch_mat_mul/op_graph/fusion_pass/batch_matmul_to_transpose_batch_matmul_fusion_pass.cpp:GetPlatform arch 门控 配套 UT stub(tests/ut/acl_platform_stub.cpp,编进 nn_op_host_ut / nn_op_graph_ut 两个 UT 可执行):stub 内部桥接 fe::PlatformInfoManager mock 数据源,测试 mock 代码零改动,单测语义与修复前一致;生产 so 符号仍走真库,线上行为不受影响。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/8308 ## 测试 - 二级冒烟 - ophost UT:881/881 全绿(含 rotate_quant/flat_quant infershape 套件) - opgraph UT:537/537 全绿(含 FusedMatMul/TBMM/BMM2Mul 融合 pass 套件) - 生产构建:bash build.sh --opgraph / -u --ophost 均零 error - nm 验证:两个 UT 可执行含 stub T 符号,生产 libopgraph_nn.so 保持 U(真库解析) ## 文档更新 无 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13819 | 13 days ago | |
A5新增算子quant_max_v2支持动静态分组量化 Co-authored-by: lingdong0725<lingdong1@huawei.com> # message auto-generated for no-merge-commit merge: !13696 merge grouped_quant_max_v2 into master A5新增算子quant_max_v2支持动静态分组量化 Created-by: lingdong0725 Commit-by: lingdong0725 Merged-by: cann-robot Description: ## 描述 接口功能:按 group_list 将输入 x 分组(不传 group_list 时整个 tensor 视为单组),对每组求 |x| 的最大值、并按该组唯一的标量系数完成量化,输出 y;逐组最大值 amax 为受属性门控的可选输出;动态量化下额外输出 y 的量化系数 y_scale(仅动态量化输出)。传入 x_scale_inv 时执行静态量化,不输入时执行动态量化。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13696 | 7 days ago | |
test(modulate_grad): 补齐 aclnnModulateBackward ST Co-authored-by: zhangqijia1<zhangqijia1@h-partners.com> # message auto-generated for no-merge-commit merge: !14407 merge test/aclnn-modulate-backward-st-20261113 into master test(modulate_grad): 补齐 aclnnModulateBackward ST Created-by: gcw_SUaZx3UQ Commit-by: zhangqijia1 Merged-by: cann-robot Description: ## 描述 参考 aclnnModulate 的 ST 组织方式,为 aclnnModulateBackward 补充 254 组 ATK 系统测试及 PyTorch 标杆,覆盖 FP16、BF16、FP32、维度边界、非对齐尾块、长序列和空 Tensor。执行阶段使用 ATK 默认 aclnn 执行器。 ## 关联的Issue Closes #8778 ## 测试 - ATK 26.11.11 / CANN 9.3.0 / Ascend 910B3:254 条用例全部执行并通过精度检查,执行失败和精度失败均为 0。 - 254 组 CPU 标杆与 PyTorch autograd 一致,FP64 双标杆校验通过。 ## 文档更新 无文档改动。 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他 See merge request: cann/ops-nn!14407 | 8 days ago | |
修改matmul 算子atoll 异常反馈判断 Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !7083 merge master into master 修改matmul 算子atoll 异常反馈判断 Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修改matmul 算子atoll 异常反馈判断,异常时返回默认值 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3882 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7083 | 4 months ago | |
docs: 新增图融合规则说明文档 Co-authored-by: linzehui2058<2602241040@qq.com> # message auto-generated for no-merge-commit merge: !9676 merge fusion_pass_doc into master docs: 新增图融合规则说明文档 Created-by: linzehui2058 Commit-by: linzehui2058 Merged-by: cann-robot Description: ## 描述 对于已开源的图融合算子,进行对应的资料开源,包含MatmulToGemmOpFusionPass、MatmulReshapeTransposeFusionPass、GemmToMatmulFusionPass、BatchMatMul2MulFusionPass 其中的png图片格式,使用lfs进行托管 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/5541 ## 文档更新 matmul\batch_mat_mul_v3\docs\BatchMatMul2MulFusionPass.md matmul\mat_mul_v3\docs\MatmulToGemmOpFusionPass.md matmul\mat_mul_v3\docs\MatmulReshapeTransposeFusionPass.md matmul\mat_mul_v3\docs\GemmToMatmulFusionPass.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!9676 | 2 months ago | |
动态库解耦 Co-authored-by: 18811725231<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !8927 merge master into master 动态库解耦 Created-by: yang-di52 Commit-by: 18811725231 Merged-by: cann-robot Description: ## 描述 本 PR 旨在将算子侧代码与 legacy 动态库(libophost_comm_legacy.so)解耦:LegacyCommonMgr 新增 isSupported_ 支持位与 IsSupport() 接口,依据编译宏 ASCEND_COMPUTE_UNIT 判断当前 SoC 版本是否属于受支持集合 SUPPORTED_VERS(ascend910b、ascend910_93、ascend310p、ascend310b、ascend910),仅受支持时才 dlopen 加载 legacy 库;各 legacy 封装接口在不受支持时提前短路返回,matmul 系列算子的 tiling 流程同步改为容忍 legacy 能力缺失而不再硬失败,并配套调整 CMake 编译宏与 UT 测试。 ## 关联的Issue [5093](https://gitcode.com/cann/ops-nn/issues/5093) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8927 | 2 months ago | |
fix: 特殊编译选项改用完整标志/精确 --tiling_key= 前缀识别,避免普通参数中的子串触发调试路由 Co-authored-by: Ethan_Zou<tianjun.zou@foxmail.com> # message auto-generated for no-merge-commit merge: !11855 merge fix/b6-nn-compiler-option-substring-routing-20261013 into master fix: 特殊编译选项改用完整标志/精确 --tiling_key= 前缀识别,避免普通参数中的子串触发调试路由 Created-by: Ethan_Zou Commit-by: Ethan_Zou Merged-by: cann-robot Description: ## 描述 将普通选项、精确debug标志及tiling key解析分离,删除不可达重复分支;文件写入使用O_APPEND,保留原有权限与输出协议。 本轮直接修改并验证实际生产实现,保留仓库原有Huawei版权与CANN许可。没有替换许可证、移除来源信息、屏蔽SCA或降低门禁阈值。SCA以新源流水线实际结果为准。 ## 关联的Issue Fixes [#6591](https://gitcode.com/cann/ops-nn/issues/6591). ## 测试 实际环境:远端Ubuntu22.04.5 x86_64、Python3.12.15、Host回归pytest8.3.2及原生隔离hook固定pytest8.3.5;安装CANN9.1.0。本轮没有执行NPU算子。 - 当前实际生产模块及tests/host完整回归:5项通过,无跳过。新增用例在完整未修改的旧公开生产源上复现失败,修复后通过。 - tiling相关PR对实际生成的完整Host struct/Init进行C++17编译并执行逐字节比较,包括1/4/8/12/13字节尺寸;不代表整个SDK/NPU头编译或设备运行通过。 - Host测试已接入仓库原生pre-commit的隔离Python环境,匹配scripts及tests/host变更;并非仅作者手工执行。 - 最终修改通过正常pre-commit(含ruff/codespell/OAT及Host回归)、正常amend、干净提交树相同回归、diff检查、LFS检查及恢复bundle验证。 当前唯一源提交 60be4500a7581598175c087bd688f0b7c0972374,推送后通过/compile回查当前源CodeCheck、SCA与完整CI。旧源扫描结论不代替新源结果。 ## 文档更新 无文档接口变更;实际修复范围、Host与NPU验证边界如上。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他:生产结构改进、真实回归与原生门禁注册 <!-- maintenance-20261027a --> See merge request: cann/ops-nn!11855 | 13 days ago | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago | |
docs: update English translations for markdown files Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13600 merge docs/update-english-translations into master docs: update English translations for markdown files Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## 描述 英文译稿合入后的增量同步与链接更新,共39个文件(37改2删): 1. 增量翻译(8篇):hard_shrink、squared_relu、foreach_lerp_list、foreach_maximum_scalar_list、quant_matmul_reduce_sum、deep_norm、apply_centered_rms_prop、torch_extension,同步最新中文源文档的变更内容。 2. 删除2篇译稿:rotate_quant/tests/st/arch35、grouped(上游已删除对应中文源文件)。 3. 链接改写(31篇):指向本仓已有英文版文档的链接统一改写为 _en 版本(含CONTRIBUTING/SECURITY/README、24处贡献流程链接、fast_kernel_launch_example等),并将残留的中文链接文字(贡献流程/贡献指南/安全声明等)译为英文。 ## 关联的Issue 无 ## 测试 文档类变更,无需算子测试。已通过:全量1135篇译稿链接有效性校验(全部指向master已有文件);残留中文/全角标点扫描(仅存数学公式内源文件原文、无英文版目标文档的中文锚点等允许例外)。 ## 文档更新 更新37个英文译稿文件、删除2个(对应源文件已上游删除),不修改任何中文源文件。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!13600 | 17 days ago | |
feat(aicpu): AICPU built-in整包准入manifest机制 Co-authored-by: liu-wei<lovline.liuwei@huawei.com> # message auto-generated for no-merge-commit merge: !11655 merge feat/aicpu-builtin-package-manifest into master feat(aicpu): AICPU built-in整包准入manifest机制 Created-by: liu-wei Commit-by: liu-wei Merged-by: cann-robot Description: ## 描述 为 ops-nn 移植 AICPU built-in 整包准入 manifest 机制: 通过白名单控制 AICPU 算子是否准入 built-in 整包,默认全 OFF(与 ops-math 上线口径一致,算子准入由后续 PR 按需登记 xxx=ON),将"隐式排除"显式化为白名单机制。 **主要改动:** - 新增 cmake/config/aicpu_builtin_package_manifest.cmake:准入清单(AICPU_BUILTIN_PACKAGE_FORCE_ALL 默认 OFF + 空 manifest),在进入算子子目录前 include - cmake/func.cmake 新增 check_aicpu_builtin_pkg_allowed() 门控 helper - 23 个 AICPU 算子 op_kernel_aicpu/CMakeLists.txt 的 op_def 收集与 cust obj 编译包进 if (ENABLE_CUSTOM OR _AICPU_BUILTIN_PKG_ALLOWED) 门控 - gen_norm_symbol() 补 built-in 产出接线:NO_AICPU=OFF && ENABLE_PACKAGE=ON 时生成 aicpu_nn.json + libnn_aicpu_kernels.so(安装至 opp/built-in/op_impl/aicpu/{config,kernel}) - 顺手规范化 elu、adaptive_max_pool2d 的变体版权头(master 遗留问题,OAT 合规要求) **不受 manifest 控制(行为不变):** ENABLE_CUSTOM(custom 包直通)、UT(AddAicpuOpTestCase 与收集逻辑解耦)、host 常量折叠(libopconstant_folding_nn.so) **默认行为无回退:** master 上 gen_norm_symbol() 本无 AICPU 产出调用(收集物无消费者),空 manifest 下整包产物与 master 完全一致 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6515 ## 测试 本地 5 组 configure/build 验证: | 场景 | 结果 | |---|---| | 空 manifest 整包(ENABLE_PACKAGE=ON) | 干净跳过,无 aicpu 产物,与 master 一致 | | elu=ON | aicpu_nn.json 仅含 Elu;libnn_aicpu_kernels.so 仅链接 elu_cust_obj;安装路径正确 | | FORCE_ALL=ON | 23 算子全准入,json 含全部 23 个算子定义 | | ENABLE_CUSTOM=ON | 23 算子全收集,产出 cust_aicpu_kernel.json(→ vendors/custom_nn),与 master 无差异 | | UT(UT_TEST_ALL=ON) | 23 个算子 UT 用例正常创建 | pre-commit 全部通过(codespell、OAT 合规等)。 ## 文档更新 无需文档更新(纯构建配置改动) ## 类型标签 - 🐛 Bug修复 - ✅ ✨ 新特性 - ⚡ 性能优化 - ♻️ 重构 - 🧪 测试 - ✅ 📦 构建/CI - 🔧 配置变更 - 📝 文档更新 - ⬆️ 依赖升级 - 🔒 安全修复 - 🧹 代码清理 - ❓ 其他,请描述: See merge request: cann/ops-nn!11655 | 1 month ago | |
docs: 修复注释与文档不一致(贡献指南与fast kernel launch示例) Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !12380 merge docs/comment-cleanup-20261019-04 into master docs: 修复注释与文档不一致(贡献指南与fast kernel launch示例) Created-by: pingchuantang Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述 修正文档中与实际内容/上下文不一致的表述: - CONTRIBUTING.md:将“确保您的贡献符合项目标准,签署 CLA”中的半角逗号 , 改为全角逗号 ,,统一中文标点规范。 - examples/fast_kernel_launch_example/README.md:删除“Ascend 950PR&950DT系列产品产品使用”中的重复“产品”,共两处(第 33 行、第 83 行)。 ## 关联的Issue 关联 Issue #6948 https://gitcode.com/cann/ops-nn/issues/6948 ## 测试 仅文档变更,不涉及代码逻辑;已人工核对修改后语句与上下文一致,无功能影响。 ## 文档更新 - 更新 CONTRIBUTING.md - 更新 examples/fast_kernel_launch_example/README.md ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12380 | 1 month ago | |
docs: update English translations for markdown files Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13600 merge docs/update-english-translations into master docs: update English translations for markdown files Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## 描述 英文译稿合入后的增量同步与链接更新,共39个文件(37改2删): 1. 增量翻译(8篇):hard_shrink、squared_relu、foreach_lerp_list、foreach_maximum_scalar_list、quant_matmul_reduce_sum、deep_norm、apply_centered_rms_prop、torch_extension,同步最新中文源文档的变更内容。 2. 删除2篇译稿:rotate_quant/tests/st/arch35、grouped(上游已删除对应中文源文件)。 3. 链接改写(31篇):指向本仓已有英文版文档的链接统一改写为 _en 版本(含CONTRIBUTING/SECURITY/README、24处贡献流程链接、fast_kernel_launch_example等),并将残留的中文链接文字(贡献流程/贡献指南/安全声明等)译为英文。 ## 关联的Issue 无 ## 测试 文档类变更,无需算子测试。已通过:全量1135篇译稿链接有效性校验(全部指向master已有文件);残留中文/全角标点扫描(仅存数学公式内源文件原文、无英文版目标文档的中文锚点等允许例外)。 ## 文档更新 更新37个英文译稿文件、删除2个(对应源文件已上游删除),不修改任何中文源文件。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!13600 | 17 days ago | |
init | 1 year ago | |
docs: add LayerNormRemoveBroadcastFusionPass doc Co-authored-by: rk<wangpengbo26@huawei.com> # message auto-generated for no-merge-commit merge: !9631 merge ln_pass_doc into master docs: add LayerNormRemoveBroadcastFusionPass doc Created-by: wangpengbo26 Commit-by: rk Merged-by: cann-robot Description: ## 描述 为现有LayerNormRemoveBroadcastFusionPass融合规则补充独立资料页。该规则在Ascend 950PR/Ascend 950DT场景下,将LayerNorm算子gamma和beta输入前的BroadcastTo从图中删除,使gamma和beta直接作为LayerNorm算子的输入,并将begin_norm_axis和begin_params_axis统一设置为归一化维度的起始轴。 资料同步说明规则的使用约束: - LayerNorm算子的gamma和beta输入前均为BroadcastTo,且两个BroadcastTo的shape输入相同。 - 输入x、gamma和beta均为静态shape。 - gamma和beta不为标量,二者的shape和数据类型相同。 - gamma的维数不大于x的维数,且gamma的shape与x从归一化轴开始的后缀shape相同。 - LayerNorm算子的begin_norm_axis换算为非负轴后,指向归一化维度的起始轴。 同时新增融合前后拓扑对比图,展示两个BroadcastTo节点被移除前后的图结构。 ## 关联的Issue - https://gitcode.com/cann/ops-nn/issues/5430 ## 测试 - 本次仅新增文档和配图,不涉及代码逻辑变更,未执行代码测试。 - 已检查Markdown格式、图片文件格式及图片引用路径。 ## 文档更新 - 新增 norm/layer_norm/docs/LayerNormRemoveBroadcastFusionPass.md,说明融合模式和使用约束。 - 新增docs/zh/figures/LayerNormRemoveBroadcastFusionPass_1.png,展示融合前后的图结构。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!9631 | 2 months ago | |
产品名称修改 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !11292 merge master into master 产品名称修改 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 产品名称修改 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11292 | 1 month ago | |
docs: update English translations for markdown files Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13600 merge docs/update-english-translations into master docs: update English translations for markdown files Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## 描述 英文译稿合入后的增量同步与链接更新,共39个文件(37改2删): 1. 增量翻译(8篇):hard_shrink、squared_relu、foreach_lerp_list、foreach_maximum_scalar_list、quant_matmul_reduce_sum、deep_norm、apply_centered_rms_prop、torch_extension,同步最新中文源文档的变更内容。 2. 删除2篇译稿:rotate_quant/tests/st/arch35、grouped(上游已删除对应中文源文件)。 3. 链接改写(31篇):指向本仓已有英文版文档的链接统一改写为 _en 版本(含CONTRIBUTING/SECURITY/README、24处贡献流程链接、fast_kernel_launch_example等),并将残留的中文链接文字(贡献流程/贡献指南/安全声明等)译为英文。 ## 关联的Issue 无 ## 测试 文档类变更,无需算子测试。已通过:全量1135篇译稿链接有效性校验(全部指向master已有文件);残留中文/全角标点扫描(仅存数学公式内源文件原文、无英文版目标文档的中文锚点等允许例外)。 ## 文档更新 更新37个英文译稿文件、删除2个(对应源文件已上游删除),不修改任何中文源文件。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!13600 | 17 days ago | |
[Docs] 修正文档中指向旧平台 gitee.com 的链接 Co-authored-by: aodebiao<18003961989@163.com> # message auto-generated for no-merge-commit merge: !12487 merge docs/fix-stale-platform-link into master [Docs] 修正文档中指向旧平台 gitee.com 的链接 Created-by: gxhgxh2475698 Commit-by: aodebiao;gxhgxh2475698 Merged-by: cann-robot Description: ## 描述 文档中仍有指向旧平台 gitee.com 的链接,共 3 处(SECURITY.md 2 处指向 gitee.com/ascend/pytorch,docs/zh/develop/aicore_develop_guide.md 1 处指向 gitee.com/ascend/samples)。项目源码与社区已迁至 GitCode,旧地址不再是本项目的可用入口。本次更新为对应的 GitCode 地址,链接文字与其余内容不变。 ## 改动内容 1. SECURITY.md:2 处 gitee.com/ascend/pytorch → gitcode.com/Ascend/pytorch 2. docs/zh/develop/aicore_develop_guide.md:1 处 gitee.com/ascend/samples → gitcode.com/cann/cann-samples 共 2 个文件、2 行变更(同一行内的链接替换)。 ## 关联的Issue 修复 #7127([Documentation|文档反馈]: 文档中仍指向旧平台 gitee.com/ascend 的链接(3 处)) ## 测试 纯文档改动,不涉及代码,未运行编译与 UT。 验证方式: - 修改前 grep -rn "gitee.com" --include=*.md SECURITY.md docs/zh/develop/aicore_develop_guide.md 命中 3 处,修改后为 0 处; - 仅替换链接地址,链接文字、章节结构与其余内容未变;改动前后断链数一致。 ## 文档更新 - SECURITY.md - docs/zh/develop/aicore_develop_guide.md ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!12487 | 13 days ago | |
[Docs] 修正文档中指向旧平台 gitee.com 的链接 Co-authored-by: aodebiao<18003961989@163.com> # message auto-generated for no-merge-commit merge: !12487 merge docs/fix-stale-platform-link into master [Docs] 修正文档中指向旧平台 gitee.com 的链接 Created-by: gxhgxh2475698 Commit-by: aodebiao;gxhgxh2475698 Merged-by: cann-robot Description: ## 描述 文档中仍有指向旧平台 gitee.com 的链接,共 3 处(SECURITY.md 2 处指向 gitee.com/ascend/pytorch,docs/zh/develop/aicore_develop_guide.md 1 处指向 gitee.com/ascend/samples)。项目源码与社区已迁至 GitCode,旧地址不再是本项目的可用入口。本次更新为对应的 GitCode 地址,链接文字与其余内容不变。 ## 改动内容 1. SECURITY.md:2 处 gitee.com/ascend/pytorch → gitcode.com/Ascend/pytorch 2. docs/zh/develop/aicore_develop_guide.md:1 处 gitee.com/ascend/samples → gitcode.com/cann/cann-samples 共 2 个文件、2 行变更(同一行内的链接替换)。 ## 关联的Issue 修复 #7127([Documentation|文档反馈]: 文档中仍指向旧平台 gitee.com/ascend 的链接(3 处)) ## 测试 纯文档改动,不涉及代码,未运行编译与 UT。 验证方式: - 修改前 grep -rn "gitee.com" --include=*.md SECURITY.md docs/zh/develop/aicore_develop_guide.md 命中 3 处,修改后为 0 处; - 仅替换链接地址,链接文字、章节结构与其余内容未变;改动前后断链数一致。 ## 文档更新 - SECURITY.md - docs/zh/develop/aicore_develop_guide.md ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!12487 | 13 days ago | |
fix Third_Party_Open_Source_Software_List.yaml Co-authored-by: liuyufan0725<liuyufan9@huawei.com> # message auto-generated for no-merge-commit merge: !1879 merge fix_yaml into master fix Third_Party_Open_Source_Software_List.yaml Created-by: liuyufan0725 Commit-by: liuyufan0725 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 更新三方依赖清单Third_Party_Open_Source_Software_List.yaml 1、增加protobuf 2、将nlohmann/json修改为json ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 关联Issue [#1042](https://gitcode.com/cann/ops-nn/issues/1042) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Third_Party_Open_Source_Software_List.yaml ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1879 | 9 months ago | |
【描 述】 eigen update to 5.0.0 Co-authored-by: j00427146<jialimin1@huawei.com> # message auto-generated for no-merge-commit merge: !1152 merge master into master 【描 述】 eigen update to 5.0.0 Created-by: jialimin1 Commit-by: j00427146 Merged-by: cann-robot Description: ## 描述 现开源软件eigen 3.4.0 EOM,Eigen 从3.4.0版本升级到5.0.0,解决生命周期问题。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/975 https://gitcode.com/cann/ops-nn/issues/389 ## 测试   ## 文档更新 SECURITY.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:Update Eigen to 5.0.0 See merge request: cann/ops-nn!1152 | 9 months ago | |
[feat] 补充valgrind Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !14047 merge valgrind into master [feat] 补充valgrind Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 本次改动主要为构建脚本补齐 valgrind 相关支持:在 build.sh 中新增 --valgrind 长选项,使 UT 可在 valgrind 下运行,同时处理该选项与 --asan 的互斥关系,并更新帮助说明。 新增 --valgrind 命令行选项: 在 SUPPORTED_LONG_OPTS 数组中增加 "valgrind",使构建脚本能够识别该长选项。 选项解析逻辑: 在 checkopts() 中新增 valgrind 分支,将其置为 ENABLE_VALGRIND=TRUE,并同时设置 ENABLE_UT_EXEC=FALSE,从而关闭直接执行 UT 的行为。 帮助信息更新: 在 usage() 中补充 --valgrind 的说明,提示其用于以 valgrind 运行 UT,且会禁用 asan 并启用 noexec。 ## 关联的Issue [#6536](https://gitcode.com/cann/ops-nn/issues/6536) ## 测试 本地编译成功 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14047 | 9 days ago | |
feat(quant): AscendWeightQuant算子开源支持 Co-authored-by: weiyan_hw<weiyan28@huawei.com> # message auto-generated for no-merge-commit merge: !14182 merge feat/ascend-weight-quant-opdef into master feat(quant): AscendWeightQuant算子开源支持 Created-by: weiyan_hw Commit-by: weiyan_hw Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 新增 quant/ascend_weight_quant/op_host/ascend_weight_quant_def.cpp,以 OpDef 方式为 AscendWeightQuant 算子建立 op_def 注册,承接 canndev 侧 aic-ascend950-ops-info.ini 与 quantize_ops.h 中 REG_OP(AscendWeightQuant) 的迁仓需求。该算子为无 kernel 的图处理算子(opFile=Null),声明 x、offset 两个必选 int8 输入、y 输出以及可选 dst_type 属性,并同时注册 ascend950、ascend960dt、ascend960pr 三个 SOC 配置;同时新增 op_host 的 UT 文件,通过直接包含 def.cpp 对注册内容逐项断言。 主要改动 新增算子定义类与注册入口:新增 AscendWeightQuant : public OpDef 类及 OP_ADD(AscendWeightQuant),在 ops 命名空间内完成算子注册,注释明确其为 opFile=Null 的图处理算子、无 kernel 实现。 输入与输出原型声明:config.Input("x")、config.Input("offset") 均设为 REQUIRED,config.Output("y") 为必选输出,三者 DataType 与 Format 都声明为两组 ge::DT_INT8 / ge::FORMAT_HWCN 组合(含 UnknownShapeFormat)。 属性 dst_type 声明:通过 this->Attr("dst_type").AttrType(OPTIONAL).Int(ge::DT_INT8) 新增可选整型属性,默认值为 DT_INT8。 AICore 能力与 SOC 配置:设置 DynamicCompileStaticFlag、DynamicFormatFlag、DynamicRankSupportFlag、DynamicShapeSupportFlag、NeedCheckSupportFlag 为 false,PrecisionReduceFlag 为 true,并将同一配置通过 AICore().AddConfig 挂载到 ascend950、ascend960dt、ascend960pr。 新增 UT 覆盖注册内容:test_ascend_weight_quant_infershape.cpp 中 AscendWeightQuantDefTest 校验三个 SOC 配置存在、输入名称与 REQUIRED/DT_INT8/FORMAT_HWCN 组合、输出 y 的 dtype/format 组合,以及 dst_type 属性个数与默认值 2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#8700](https://gitcode.com/cann/ops-nn/issues/8700) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> UT 5/5 PASS;三 soc autogen ops-info 条目生成且字段正确;--opkernel --ops=ascend_weight_quant 编译链路通过。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增算子readme文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14182 | 8 days ago | |
docs:修改代码块缺闭合围栏问题 Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !11686 merge master into master docs:修改代码块缺闭合围栏问题 Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6434](https://gitcode.com/cann/ops-nn/issues/6434) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> codearts_check_rule_config.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11686 | 1 month ago | |
docs: add English translations for operator READMEs and repo docs Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13351 merge docs/add-english-docs into master docs: add English translations for operator READMEs and repo docs Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## Description Add English translations for 652 markdown documents: - Repo-level guides: README_en.md, CONTRIBUTING_en.md, SECURITY_en.md, CHANGELOG_en.md, codearts_check_rule_config_en.md - Operator READMEs under activation/, conv/, control/, foreach/, hash/, index/, loss/, matmul/, norm/, optim/, pooling/, quant/, rnn/, vfusion/, etc. - API and design docs under docs/ (aclnn_*, ascendir_*, fusion pass docs) - examples/ and torch_extension/ guides Note: a few cross-reference links whose English targets are not published yet temporarily point to their Chinese counterparts to keep links valid; they will be switched back to the English docs in a follow-up PR after this one is merged. ## Related Issue N/A ## Test - Verified all 1,344 intra-repo markdown links in the added files resolve against master: 0 broken links, 0 missing targets. ## Documentation Update - This PR only adds English documentation files (*_en.md); no existing Chinese documents are modified. ## Type Labels - [ ] Bug fix - [ ] New feature - [ ] Performance optimization - [x] Documentation update - [ ] Other, please describe: ## AI/Agent-Generated Declaration - [x] AI-assisted authoring See merge request: cann/ops-nn!13351 | 18 days ago | |
调整nn仓第三方依赖 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !7845 merge pr_6933 into master 调整nn仓第三方依赖 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 1. 文档声称 install_deps.sh 可一键安装所有列出的基础依赖("上述依赖可通过项目脚本一键安装"),但实际脚本仅安装了 GCC、CMake、pigz、dos2unix、patch,未安装 googletest(文档明确列为基础依赖项之一),开发者需手动下载源码、编译并安装 googletest,与文档"一键安装"的描述不符 2. python requirements多两个不需要的依赖 ### 主要修改 为install_deps.sh 增加了安装gtest的功能 删除requirements中多余的两个依赖 ## 关联的Issue [#4256](https://gitcode.com/cann/ops-nn/issues/4256) [#4154](https://gitcode.com/cann/ops-nn/issues/4154) ## 测试  ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7845 | 3 months ago | |
revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Co-authored-by: cann-robot<cann@cann.team> # message auto-generated for no-merge-commit merge: !11095 merge revert-mr-9924-1790130631176-auto into master revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Created-by: cann-robot Commit-by: cann-robot Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11095 | 1 month ago | |
bugfix: 运行依赖包名统一为连字符(ops_legacy→ops-legacy,ops_math→ops-math) Co-authored-by: gao19871128<1897001@qq.com> # message auto-generated for no-merge-commit merge: !13020 merge master into master bugfix: 运行依赖包名统一为连字符(ops_legacy→ops-legacy,ops_math→ops-math) Created-by: gao19871128 Commit-by: gao19871128 Merged-by: cann-robot Description: ## 描述 运行依赖包名统一为连字符(ops_legacy→ops-legacy,ops_math→ops-math) ## 关联的Issue [#7675](https://gitcode.com/cann/ops-nn/issues/7675) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13020 | 21 days ago |
🔥Latest News
- [2026/05] Optimized the kernel compilation configuration items and reduced the simplified_key and ascendc_config configuration files (!3330).
- [2026/05] Introduced ops-tensor, optimized Cube-class operators based on a layered structure, reduced offset computation, and simplified instruction parameters (!5036).
- [2026/05] Released the accuracy acceptance criteria for ecosystem operators (!4572).
- [2026/03] Open-source operators support the next-generation chip: Ascend950PR (!450).
- [2026/03] Added operator development samples for <<<>>> (!620).
- [2026/03] Low-bit operators and fused operators support more data types, such as fp8/mxfp8/hifp8/mxfp4, and support different quantization modes and combinations, including pertensor/perchannel/pertoken/pergroup/perblock: full quantization fused operator: quant_batch_matmul_v4, pseudo-quantization fused operator: weight_quant_batch_matmul_v2.
- [2026/03] Supported the new homogeneous programming operator implementation for SIMD/SIMT: [MapIndex] (#660), [ScatterSub] (#710).
- [2026/01] Added QuickStart, which guides beginners to get started with operator project deployment from scratch (Docker environment supported) and with the operator development and contribution workflows.
- [2025/12] Open-source operators support the Ascend 950PR&950DT products/KirinX90, and you can develop and debug them with the NPU Simulator simulation tool. Optimization guide documents are improved, focusing on the operator development guide, clarifying the minimum deliverables and key sample code, and providing guidance for migrating operators from the Ascend/samples repository to this project. The newly supported sparse 4:2 quantization matmul operator enables hardware acceleration for sparse matrices.
- [2025/11] Newly supported operators: index_fill, masked_scatter, scatter, tf_scatter_add, fused_cross_entropy_loss_with_max_sum.
- [2025/10] Added the experimental directory and improved the contribution guide, so that developers can debug and contribute custom operators.
- [2025/09] The ops-nn project went online for the first time, with open-source operators supporting the Atlas A2/A3 products.
🚀Overview
ops-nn is a high-level operator library in the CANN (Compute Architecture for Neural Networks) operator library that provides neural network computation capabilities. It includes matmul-class, activation-class, and other operators. The architecture of the operator library is as follows:

📌Version Compatibility
The source code of this project is released together with CANN software versions. For the mapping between CANN software versions and the tags of this project, refer to the corresponding version notes in the release repository. Note that to ensure smooth custom development based on the source code, select a compatible CANN version and GitCode tag source code. Using the master branch may cause version mismatch risks.
🛠️Environment Preparation
Environment deployment is a prerequisite for experiencing the capabilities of this project. Install the NPU driver and CANN package first, and ensure the environment works properly.
⬇️Source Code Download
After the environment is ready, download the branch source code that matches the CANN version. The general command is as follows, where ${tag_version} is replaced with the branch tag name. The following uses the download of the 9.0.0 branch source code as an example:
# General command: git clone -b ${tag_version} https://gitcode.com/cann/ops-nn.git
git clone -b 9.0.0 https://gitcode.com/cann/ops-nn.git
Note: If the matching branch source code already exists in the environment, you can skip this step. For example, CANNLab provides the source code corresponding to the latest CANN version by default.
📖Learning Tutorials
- Quick start: Quickly experience the core basic capabilities of the project from scratch, covering source code compilation, operator invocation, development, debugging, and other operations.
- Advanced tutorials: If you need to deeply understand project compilation and deployment, operator invocation, development, debugging and tuning, and other capabilities, go to the documentation center for detailed guidance.
💬Related Information
PS: The features and documentation of this project are continuously updated and improved. Stay tuned for the latest version.
- Issue feedback: Submit issues through GitCode Issues.
- Community interaction: Join discussions through GitCode Discussions.
- Technical column: Read technical articles, such as serial tutorials and best practices, through GitCode Wiki.