| Files | Last commit | Last update |
|---|---|---|
format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784 | 4 months ago | |
TF plugin修改1 Co-authored-by: sunchun<sunchun4@h-partners.com> # message auto-generated for no-merge-commit merge: !7547 merge nn1 into master TF plugin修改1 Created-by: sunchun Commit-by: sunchun Merged-by: cann-robot Description: ## 描述 TF plugin修改 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/4196 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7547 | 3 months ago | |
nn仓新增支持 AICPU 的 TensorScatterUpdate、GatherV2 和 ScatterElements 算子功能 Co-authored-by: Ding_Jing<dingjing19@huawei.com> # message auto-generated for no-merge-commit merge: !3479 merge op_move_0402 into master nn仓新增支持 AICPU 的 TensorScatterUpdate、GatherV2 和 ScatterElements 算子功能 Created-by: Ding_Jing Commit-by: Ding_Jing Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本PR改动如下: nn仓新增支持 AICPU 的 TensorScatterUpdate、GatherV2 和 ScatterElements 算子功能 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> issue [#1978](https://gitcode.com/cann/ops-nn/issues/1978) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> GatherV2算子功能验证: [2026-04-08 14:45:22] result[0] is: (1.500000, 11.500000) [2026-04-08 14:45:22] result[1] is: (3.500000, 13.500000) [2026-04-08 14:45:22] result[2] is: (6.500000, 16.500000) [2026-04-08 14:45:22] result[3] is: (8.500000, 18.500000) [2026-04-08 14:45:22] result[4] is: (11.500000, 21.500000) [2026-04-08 14:45:22] result[5] is: (13.500000, 23.500000) [2026-04-08 14:45:26] [2026-04-08 14:45:26] ---------------------------------------------------------------- [2026-04-08 14:45:26] Run test_geir_gather_v2 success. [2026-04-08 14:45:26] ---------------------------------------------------------------- [2026-04-08 14:45:26] ScatterElements算子功能验证: [2026-04-08 14:45:51] result[0] is: (1.000000, 1.000000) [2026-04-08 14:45:51] result[1] is: (10.000000, -1.000000) [2026-04-08 14:45:51] result[2] is: (3.000000, 3.000000) [2026-04-08 14:45:51] result[3] is: (20.000000, -2.000000) [2026-04-08 14:45:51] result[4] is: (5.000000, 5.000000) [2026-04-08 14:45:54] [2026-04-08 14:45:54] ---------------------------------------------------------------- [2026-04-08 14:45:54] Run test_geir_scatter_elements success. [2026-04-08 14:45:54] ---------------------------------------------------------------- [2026-04-08 14:45:54] TensorScatterUpdate算子功能验证 [2026-04-08 14:46:40] result[0] is: (100.000000, 10.000000) [2026-04-08 14:46:40] result[1] is: (101.000000, 11.000000) [2026-04-08 14:46:40] result[2] is: (102.000000, 12.000000) [2026-04-08 14:46:40] result[3] is: (103.000000, 13.000000) [2026-04-08 14:46:40] result[4] is: (104.000000, 14.000000) [2026-04-08 14:46:40] result[5] is: (5.000000, -2.500000) [2026-04-08 14:46:40] result[6] is: (6.000000, 3.500000) [2026-04-08 14:46:40] result[7] is: (7.000000, -3.500000) [2026-04-08 14:46:40] result[8] is: (8.000000, 4.500000) [2026-04-08 14:46:40] result[9] is: (9.000000, -4.500000) [2026-04-08 14:46:40] result[10] is: (200.000000, 20.000000) [2026-04-08 14:46:40] result[11] is: (201.000000, 21.000000) [2026-04-08 14:46:40] result[12] is: (202.000000, 22.000000) [2026-04-08 14:46:40] result[13] is: (203.000000, 23.000000) [2026-04-08 14:46:40] result[14] is: (204.000000, 24.000000) [2026-04-08 14:46:43] 2026-04-08 14:46:42,000 - INFO - [XIR]: Start to finalize ir graph session [2026-04-08 14:46:43] 2026-04-08 14:46:43,000 - INFO - [XIR]: Finalize ir graph session success [2026-04-08 14:46:44] [2026-04-08 14:46:44] ---------------------------------------------------------------- [2026-04-08 14:46:44] Run test_geir_tensor_scatter_update success. [2026-04-08 14:46:44] ---------------------------------------------------------------- [2026-04-08 14:46:44] ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了以下文件: docs/zh/op_list.md index/gather_v2/README.md index/scatter_elements/README.md index/tensor_scatter_update/README.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!3479 | 7 months ago | |
对齐 ScatterElements 常量折叠标志并补齐 TensorScatterUpdate 的 RT2 InferShape Co-authored-by: Ding_Jing<dingjing19@huawei.com> # message auto-generated for no-merge-commit merge: !8707 merge tensor_scatter_update_infershape into master 对齐 ScatterElements 常量折叠标志并补齐 TensorScatterUpdate 的 RT2 InferShape Created-by: Ding_Jing Commit-by: Ding_Jing Merged-by: cann-robot Description: ## 描述 对 ops-nn 四个 AICPU 算子(GatherV2 / ScatterElements / SparseSegmentMeanGrad / TensorScatterUpdate)与 canndev 做一致性核对后,修复发现的两处缺口。其余算子核对一致,未改动。 **一、 fix: align ScatterElements opsFlag with canndev** canndev 的 aicpu_kernel.ini 中 ScatterElements 无 opInfo.opsFlag 字段,而本仓 ApplyNnAicpuDefaultCfg() 默认写 OPS_FLAG_CLOSE,该算子未覆盖,导致两仓常量折叠行为不一致。 按 GE 语义(ops_json_file.cc:275 + constant_folding_pass.cc:129,后者为全仓唯一消费点),折叠 pass 仅在 ops_flag == "0" 时 return UNSUPPORTED,故「字段缺失」与 OPS_FLAG_OPEN 等价,本仓当前的 CLOSE 比源侧更严。 改为显式覆盖成 OPS_FLAG_OPEN,写法与同仓 GatherV2 / SparseSegmentMeanGrad / TensorScatterUpdate 一致。未采用「删除字段」是因为 ApplyNnAicpuDefaultCfg 必然写入一次 opsFlag,无法表达「缺失」,而空值会被 aicpu_parser_ini_to_json.py 的 VALID_OPS_FLAGS 校验拒绝。 **二、feat: add RT2 infershape for TensorScatterUpdate** index/tensor_scatter_update/ 无 op_host/,即无 RT2 InferShape;canndev 亦无 IMPL_OP_INFERSHAPE(TensorScatterUpdate),仅有 RT1(matrix_calculation_ops.cc:579)。故将该 RT1 适配为 RT2 落入本仓。 源侧 RT1 逐条对账: | 源侧 RT1 | RT2 落点 | | --- | --- | | td.SetShape(x.GetShape()) | Ops::Base::InferShape4Elewise(只读 input0/output0,unknown rank 原样透传,与源侧「直接拷 shape、无任何 rank/dim 校验」逐字等价) | | td.SetDataType(x.GetDataType()) | 拆出独立的 InferDataType 注册 | | td.SetShapeRange(...) | **有意不迁**(见下) | | IMPLEMT_VERIFIER | 不迁,RT2 生态无 Verify 适配接口,相应校验由 kernel 运行期守卫兜底 | | 源侧对 x 无 rank 守卫 | 不加,迁移目标是等价而非收紧源侧;UT InferShapeScalarXSuccess 钉住该行为 | **有意偏离**:源侧 SetShapeRange(x 的 range) 不迁。RT2 的 shape range 是独立注册点 .InferShapeRange,本仓仅 unique_dim / sparse_slice 这类输出 shape 推不出来的算子才注册;本算子 y 与 x 同形,range 由 GE 按 shape 传播即可。 ## 关联的Issue 关联Issue #4809 ## 测试 验证环境:ascend910b / CANN 9.2.0 / aarch64(另有本地 CANN 8.5.0 / x86_64 交叉验证)。 **1. InferShape 单元测试** 新增 5 条用例:静态 shape、x unknown rank(-2) 透传、局部动态(-1 保持)、rank 0 x 成功返回 rank 0 y、y dtype 跟随 x。 - 本地 rm -rf build 全新配置(排除增量缓存导致的「只编译不执行」):5/5 PASSED - 远端四算子联跑(tensor_scatter_update + gather_v2 + scatter_elements + sparse_segment_mean_grad):16/16 PASSED **2. 反向对照(证明用例非恒真断言)** 新增实现无「修复前」可回退,改用注入回归:将 shape 源由 input0(x) 换成 input2(updates)、dtype 源由 input0(x) 换成 input1(indices)。 预期 4 条转红,InferShapeScalarXSuccess 应保持绿(该用例中 updates 亦为 rank 0,注入不改变结果)。实测恰好 4 FAILED / 1 PASSED,条数与原因均与预测吻合;恢复后 5/5 复绿。 **3. AICPU kernel UT 回归** tensor_scatter_update + scatter_elements:15/15 PASSED。 **4. opsFlag 全链路验证(含对照组)** 完整生产链路走通:_aicpu_def.cpp → opbuild → libaicpu_ops.so → aicpu_kernel.ini → aicpu_opdef_kernel.json → cust_aicpu_kernel.json。 同批构建产出的对照组,证明链路会区分而非恒定输出 OPEN: | 算子 | 期望 | 实际 | | --- | --- | --- | | ScatterElements(本次改动) | OPEN | OPS_FLAG_OPEN | | GatherV2(未改,本就 OPEN) | OPEN | OPS_FLAG_OPEN | | ScatterNdMax(未改,用默认值) | CLOSE | OPS_FLAG_CLOSE | **5. 打包、安装与 GE 注册确认** - 打包产物 libcust_opsproto_rt2.0.so 内含 InferDataTypeForTensorScatterUpdate 符号,确认 RT2 已进包 - 安装后图模式 example 在 910B3 上执行成功,GE 日志确认注册: RegisterOpImplToRegistry: Op type[TensorScatterUpdate] register OP_IMPL : [InferShape][InferDataType] MergeTypesToImpl: op type TensorScatterUpdate infer_shape func registered first. MergeTypesToImpl: op type TensorScatterUpdate infer_datatype func registered first. **6. 冲突排查** - 全仓 IMPL_OP_INFERSHAPE(TensorScatterUpdate) 仅命中本次新增这一处 - CANN 内置 libopmaster_ct.so 中本算子命中 0,无内置 RT2 冲突(libopsproto.so 命中 1,为 RT1,预期内) **已知现状(非本 PR 引入)**:test_geir_* 走 ge::Session + graphRunMode=1 的 RT1 执行通路,日志显示该节点 Call InferShapeFuncV1(全图 V1=4 / V2=0),服务该节点的仍是 CANN 内置 libopsproto.so 中的 RT1,本次新增的 RT2 已注册但当前不被调用。待内置 RT1 移除或走 RT2 执行通路后生效。 ## 文档更新 无。本 PR 不涉及对外接口变更,未改动 README 或 docs。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:配置对齐(ScatterElements 常量折叠标志与 canndev 对齐) ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!8707 | 2 months ago | |
feat(aicpu): AICPU built-in整包准入manifest机制 Co-authored-by: liu-wei<lovline.liuwei@huawei.com> # message auto-generated for no-merge-commit merge: !11655 merge feat/aicpu-builtin-package-manifest into master feat(aicpu): AICPU built-in整包准入manifest机制 Created-by: liu-wei Commit-by: liu-wei Merged-by: cann-robot Description: ## 描述 为 ops-nn 移植 AICPU built-in 整包准入 manifest 机制: 通过白名单控制 AICPU 算子是否准入 built-in 整包,默认全 OFF(与 ops-math 上线口径一致,算子准入由后续 PR 按需登记 xxx=ON),将"隐式排除"显式化为白名单机制。 **主要改动:** - 新增 cmake/config/aicpu_builtin_package_manifest.cmake:准入清单(AICPU_BUILTIN_PACKAGE_FORCE_ALL 默认 OFF + 空 manifest),在进入算子子目录前 include - cmake/func.cmake 新增 check_aicpu_builtin_pkg_allowed() 门控 helper - 23 个 AICPU 算子 op_kernel_aicpu/CMakeLists.txt 的 op_def 收集与 cust obj 编译包进 if (ENABLE_CUSTOM OR _AICPU_BUILTIN_PKG_ALLOWED) 门控 - gen_norm_symbol() 补 built-in 产出接线:NO_AICPU=OFF && ENABLE_PACKAGE=ON 时生成 aicpu_nn.json + libnn_aicpu_kernels.so(安装至 opp/built-in/op_impl/aicpu/{config,kernel}) - 顺手规范化 elu、adaptive_max_pool2d 的变体版权头(master 遗留问题,OAT 合规要求) **不受 manifest 控制(行为不变):** ENABLE_CUSTOM(custom 包直通)、UT(AddAicpuOpTestCase 与收集逻辑解耦)、host 常量折叠(libopconstant_folding_nn.so) **默认行为无回退:** master 上 gen_norm_symbol() 本无 AICPU 产出调用(收集物无消费者),空 manifest 下整包产物与 master 完全一致 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6515 ## 测试 本地 5 组 configure/build 验证: | 场景 | 结果 | |---|---| | 空 manifest 整包(ENABLE_PACKAGE=ON) | 干净跳过,无 aicpu 产物,与 master 一致 | | elu=ON | aicpu_nn.json 仅含 Elu;libnn_aicpu_kernels.so 仅链接 elu_cust_obj;安装路径正确 | | FORCE_ALL=ON | 23 算子全准入,json 含全部 23 个算子定义 | | ENABLE_CUSTOM=ON | 23 算子全收集,产出 cust_aicpu_kernel.json(→ vendors/custom_nn),与 master 无差异 | | UT(UT_TEST_ALL=ON) | 23 个算子 UT 用例正常创建 | pre-commit 全部通过(codespell、OAT 合规等)。 ## 文档更新 无需文档更新(纯构建配置改动) ## 类型标签 - 🐛 Bug修复 - ✅ ✨ 新特性 - ⚡ 性能优化 - ♻️ 重构 - 🧪 测试 - ✅ 📦 构建/CI - 🔧 配置变更 - 📝 文档更新 - ⬆️ 依赖升级 - 🔒 安全修复 - 🧹 代码清理 - ❓ 其他,请描述: See merge request: cann/ops-nn!11655 | 1 month ago | |
fix: 修复 TensorScatterUpdate AICPU 并行分支错误码被吞 Co-authored-by: Ding_Jing<dingjing19@huawei.com> # message auto-generated for no-merge-commit merge: !9125 merge tensor_scatter_update_parallel_error into master fix: 修复 TensorScatterUpdate AICPU 并行分支错误码被吞 Created-by: Ding_Jing Commit-by: Ding_Jing Merged-by: cann-robot Description: ## 描述 TensorScatterUpdate AICPU 算子的 UpdateOutput 在 info.updates_nums > kSplitSize(64*1024 个元素)时走 CpuKernelUtils::ParallelFor 多线程分支,该分支存在两个问题。 **1. 错误码必现丢失(功能缺陷)** worker 通过按引用捕获的 ret 上报状态,但随后 ret = CpuKernelUtils::ParallelFor(...) 用其返回值覆盖了 ret。CpuKernelUtils::ParallelFor 在 device/sharder 非空时无条件 return KERNEL_STATUS_OK,且其内部 barrier 保证所有 worker 先于该赋值完成,因此 worker 上报的 PARAM_INVALID / INNER_ERROR **100% 被覆盖为 OK**,与线程交错无关。 由此产生行为不一致:同一份越界 indices 输入,updates 元素数 <= 65536 走串行分支正确返回 PARAM_INVALID;> 65536 则静默返回 OK 并输出错误数据。 **2. 数据竞争** ret 为非原子 uint32_t,被多个 worker 并发读(:196/:201)写(:200)。同文件 InitializeOutput(:131) 以及 scatter_elements_aicpu.cpp:250、scatter_nd_max_aicpu.cpp:79 的同构实现均使用 std::atomic<uint32_t>,此处为遗漏。 ### 修改内容 - ret 改为 std::atomic<uint32_t> work_ret,与同仓同类实现对齐; - 循环内改用局部变量 one_ret 承接单次结果,仅在出错时写 work_ret; - ParallelFor 的返回值不再覆盖 work_ret,仅在派发失败时写入。 ### 顺带的性能收益 原实现每次迭代都写共享的 ret(:200 在内层循环内),所有核在同一 cache line 上反复搬运。改后热路径无共享写。x86 微基准(1M updates,模拟 inner_shape_nums==1): | 线程数 | 修改前 | 修改后 | |---|---|---| | 1 | 13.91 ms | 13.63 ms | | 2 | **21.74 ms** | 7.13 ms | | 4 | 20.24 ms | 3.77 ms | | 8 | 15.10 ms | 3.71 ms | 注意修改前 2 线程反而慢于 1 线程,即该并行分支原本基本没有加速比;修改后恢复线性扩展。该数据来自 x86 开发机,非 NPU 实测,仅用于说明量级与方向。 ## 关联的Issue 关联Issue #5084 ## 测试 **1. 单元测试(tests/ut/op_kernel_aicpu/test_tensor_scatter_update.cpp)** 此前 11 个用例全部为小张量,UpdateOutput 的并行分支零覆盖。本 PR 新增 2 例: - PARALLEL_BRANCH_SUCC:updates_nums = 70000 > 65536,合法 indices(逆序置换,让各 shard 写入交错),验证并行分支结果正确; - FAILED_OUT_OF_BOUNDS_INDEX_PARALLEL:同样规模下含单个越界 index,验证返回 KERNEL_STATUS_PARAM_INVALID。 回归对照(bash build.sh --opkernel_aicpu_test --ops=tensor_scatter_update): | | 修改前 | 修改后 | |---|---|---| | 原有 11 例 | 全通过 | 全通过 | | PARALLEL_BRANCH_SUCC | 通过 | 通过 | | FAILED_OUT_OF_BOUNDS_INDEX_PARALLEL | **失败**(ret=0,期望 1) | 通过 | 修改前 12 通过 1 失败,修改后 13/13 全通过。新增用例确实能捕获该缺陷。 **2. 真机验证(Ascend 910B3 + CANN 9.1.0)** 打自定义算子包(bash build.sh --pkg --soc=ascend910b --ops=tensor_scatter_update,确认 tensor_scatter_update_aicpu.cpp.o 编入 libnn_aicpu_kernels.so)后,用 graph example 对照: | 输入 | CANN 9.1.0 内置算子 | 装入本修复后 | |---|---|---| | 越界 index,updates_nums=70000(并行分支) | Run graph success,输出静默错 10 个元素 | Run graph failed(预期) | | 合法 index,updates_nums=70000(并行分支) | — | SELF_CHECK mismatch=0,success | | 仓内原版 updates_nums=10(串行分支) | success | success,数值不变 | 第一行即本 PR 的核心:错误现在能一路传到 session->RunGraph()。UT 覆盖 HostSharder,真机覆盖 DeviceSharder,两条 sharder 路径均已验证。 注:build.sh --run_example 单独执行时不编译 AICPU kernel,链接的是已安装的 opp 包,需打自定义包安装后才能验证算子改动。 **3. 门禁** pre-commit run 全部通过(trailing-whitespace / end-of-file / clang-format / codespell / OAT 等)。 ## 文档更新 无。本 PR 不改变算子对外接口、语义或约束,仅修复并行分支下错误码未上报的实现缺陷,行为向串行分支对齐。 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!9125 | 2 months ago | |
feat(aicpu): enable constant folding for migrated ops Co-authored-by: hid29204727<wangboyu20@huawei.com> # message auto-generated for no-merge-commit merge: !9280 merge codex/aicpu-const-folding into master feat(aicpu): enable constant folding for migrated ops Created-by: hid29204727 Commit-by: hid29204727 Merged-by: cann-robot Description: ## 描述 补充 ops-nn 仓 AICPU host 常量折叠注册通路,并为当前已标记 OPEN_OPS_FLAG 的 18 个迁移算子统一开启常量折叠支持。 主要改动: - 新增仓级 OPS_NN_REGISTER_CPU_KERNELV2 注册包装宏,host 构建优先注册 V2,device/custom/UT 保持 V1 回退。 - 为 add_modules_sources 和 add_all_modules_sources 增加 HOSTCPU 参数及 host OBJECT 收集逻辑。 - 为 18 个 OPEN_OPS_FLAG 算子补充 HOSTCPU TRUE、注册头文件和 V2 注册。 - host OBJECT 汇入 libopconstant_folding_nn.so。 ## 关联的Issue 无。 ## 测试 已完成以下静态验证: - git diff --check 通过。 - 18 个 OPEN_OPS_FLAG 算子均具备 HOSTCPU TRUE。 - 18 个算子均使用 OPS_NN_REGISTER_CPU_KERNELV2,无直接 V1 注册残留。 - 注册头文件、host 编译宏和仓级 so 收集通路检查通过。 当前 Windows 环境缺少 CANN、NPU、CMake 和远端构建桥,未执行 bash build.sh --pkg -j16;完整打包构建及常量折叠功能验证待 CANN Linux 环境/CI 完成。 ## 文档更新 无仓内文档变更。 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!9280 | 2 months ago | |
产品名称修改 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !11292 merge master into master 产品名称修改 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 产品名称修改 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11292 | 1 month ago |
TensorScatterUpdate
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Ascend 950PR&950DT系列产品 | √ |
| Atlas A3系列产品 | √ |
| Atlas A2系列产品 | √ |
| Atlas 200I/500 A2推理产品 | × |
| Atlas推理系列产品 | √ |
| Atlas训练系列产品 | √ |
功能说明
-
算子功能:稀疏更新算子,根据索引更新张量的指定元素或切片。它接受一个输入张量、索引张量和更新值张量,并输出更新后的张量。常用于局部修改、稀疏梯度更新或稀疏数据操作。
-
计算公式: 设输入张量为XXX,索引集合为I={ik}I=\{i_k\}I={ik},更新值为U={uk}U=\{u_k\}U={uk},输出张量为YYY。对任意位置jjj:
Yj={uk,if j=ikXj,otherwiseY_j = \begin{cases} u_k, & \text{if } j = i_k \\ X_j, & \text{otherwise} \end{cases} Yj={uk,Xj,if j=ikotherwise
当位置jjj在索引集合中时使用更新值替换,否则保持原张量的值不变。 其中,kkk表示第kkk个更新项,iki_kik表示该更新项对应的更新位置,uku_kuk表示该更新项对应的更新值。
参数说明
| 参数名 | 输入/输出/属性 | 描述 | 数据类型 | 数据格式 |
|---|---|---|---|---|
| x | 输入 | 公式中的X,待更新的输入张量,提供更新前的基准数据。 | FLOAT16、FLOAT、DOUBLE、INT64、INT32、UINT8、UINT16、UINT32、UINT64、INT8、INT16、BOOL、COMPLEX64、COMPLEX128、QINT8、QUINT8、QINT16、QUINT16、QINT32、BFLOAT16、STRING | ND |
| indices | 输入 | 公式中的索引集合I,用于指定输入张量X中需要被更新的位置。 | INT32、INT64 | ND |
| updates | 输入 | 公式中的更新值集合U,表示写入索引集合I对应位置的更新值,数据类型与x相同,shape与indices相同。 | FLOAT16、FLOAT、DOUBLE、INT64、INT32、UINT8、UINT16、UINT32、UINT64、INT8、INT16、BOOL、COMPLEX64、COMPLEX128、QINT8、QUINT8、QINT16、QUINT16、QINT32、BFLOAT16、STRING | ND |
| y | 输出 | 公式中的Y,表示更新后的输出张量,数据类型与x相同,shape与x相同。 | FLOAT16、FLOAT、DOUBLE、INT64、INT32、UINT8、UINT16、UINT32、UINT64、INT8、INT16、BOOL、COMPLEX64、COMPLEX128、QINT8、QUINT8、QINT16、QUINT16、QINT32、BFLOAT16、STRING | ND |
约束说明
无
调用说明
| 调用方式 | 调用样例 | 说明 |
|---|---|---|
| 图模式调用 | test_geir_tensor_scatter_update | 通过算子IR构图方式调用TensorScatterUpdate算子。 |