cann-robotMicroAPI namespace to Reg for arch35 kernels

文件	最后提交记录	最后更新时间
docs	nn仓打标签 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !8207 merge master into master nn仓打标签 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8207	1 个月前
examples	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
op_api	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
op_graph	fix(quant): quant 系列算子 fallback 日志规范、Attr API 迁移及 aclnn 接口对齐 Co-authored-by: yuanbin_22<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !9000 merge fix/fallback-log-quality into master fix(quant): quant 系列算子 fallback 日志规范、Attr API 迁移及 aclnn 接口对齐 Created-by: yuanbin_22 Commit-by: yuanbin_22 Merged-by: cann-robot Description: ## 描述本 PR 对 4 个 quant 系列算子的 fallback 实现进行统一修复，涵盖日志规范、Attr 访问 API 迁移、aclnn 接口对齐及属性解析补全。 ### 涉及算子 \| 算子 \| 文件 \| +行 \| -行 \| \|------\|------\|-----\|-----\| \| quant_update_scatter \| `index/quant_update_scatter/op_graph/quant_update_scatter_fallback.cpp` \| +55 \| -14 \| \| ascend_anti_quant_v2 \| `quant/ascend_anti_quant_v2/op_graph/ascend_anti_quant_v2_fallback.cpp` \| +17 \| -11 \| \| ascend_quant_v2 \| `quant/ascend_quant_v2/op_graph/ascend_quant_v2_fallback.cpp` \| +23 \| -15 \| \| dynamic_quant \| `quant/dynamic_quant/op_graph/dynamic_quant_fallback.cpp` \| +16 \| -8 \| ### 变更内容 #### 1. 日志规范修复 - 模块标签统一：所有算子的 `OP_LOGE`/`OP_LOGD` 模块标签统一为 `"aclnnfallback <op_name>"` 格式（此前各算子标签不一致，如 `"aclnnfallback"`、`"fallback_dynamic_quant"`、`host_api_ctx->GetNodeName()`） - 拼写修复：`"faild"` → `"failed"` - 格式符修复：`%d` → `%u`（`graphStatus` 为无符号类型，使用 `%d` 存在符号截断风险） - 入口日志统一：各算子入口日志统一为 `"fallback begin"`（此前为 `"Enter XxxFunc."` 或 `"Xxx fallback begin"` 等不一致格式） #### 2. Attr API 迁移将已废弃的 `GetAttrPointer<T>()` 统一替换为类型安全的访问接口： - `GetAttrPointer<int64_t>()` → `GetInt()` - `GetAttrPointer<bool>()` → `GetBool()` - `GetAttrPointer<char>()` → `GetStr()` #### 3. aclnn 接口对齐 - quant_update_scatter：按 `varDtype` 分发——`DT_INT8` 调用 `aclnnInplaceQuantScatter`，其他 dtype 调用 `aclnnInplaceQuantScatterV2`（传入 `roundMode` 参数） - ascend_quant_v2：`aclnnAscendQuant` → `aclnnAscendQuantV3`（新增 `axis` 参数） - dynamic_quant：`aclnnDynamicQuantV2` 调用新增 `dstType` 参数及尾部 `nullptr` 占位 #### 4. 新增属性解析与校验 - quant_update_scatter：新增 `reduce`、`reciprocal_scale`、`round_mode` 属性解析；`reduce` 仅支持 `"update"` 模式；`reciprocal_scale=true` 时报错并返回 `GRAPH_FAILED`（fallback 不支持） - ascend_quant_v2：新增 `ATTR_AXIS_INDEX`（index=3）及 `axis` 属性读取 - dynamic_quant：新增 `ATTR_DSTTYPE_INDEX`（index=0）及 `dstType` 属性读取 ## 关联的Issue 关联Issue #4975 ## 测试 - 各算子 fallback 路径功能验证通过 - 日志输出格式符合规范，模块标签可正确过滤 - `reciprocal_scale=true` 场景正确报错拦截 ## 文档更新无 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!9000	12 天前
op_host	重构 ascend_anti_quant_v2：合并 offset/no-offset 重复代码，提取公共算子到基类 Co-authored-by: yuanbin_22<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !7169 merge refactor/ascend_anti_quant_v2_dedup into master 重构 ascend_anti_quant_v2：合并 offset/no-offset 重复代码，提取公共算子到基类 Created-by: yuanbin_22 Commit-by: yuanbin_22 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 重构 ascend_anti_quant_v2：合并 offset/no-offset 重复代码，提取公共算子到基类；修复 scatter_fusion_pass 代码问题；重构 dynamic_block_quant CalcTilingKey ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/1323 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!7169	1 个月前
op_kernel	MicroAPI namespace to Reg for arch35 kernels Co-authored-by: gcw_DS4cmz2b<1312925094@qq.com> # message auto-generated for no-merge-commit merge: !9267 merge rename into master MicroAPI namespace to Reg for arch35 kernels Created-by: gcw_DS4cmz2b Commit-by: gcw_DS4cmz2b Merged-by: cann-robot Description: ## 描述修改了index,activation,matmul,conv,foreach,optim,experimental,vfusion,hash这几个文件夹内的命名空间，将MicroAPI-->Reg ## 关联的Issue [多个文件夹内的算子命名空间使用的MicroAPI，应改为Reg](https://gitcode.com/cann/ops-nn/issues/5218) ## 测试验证方法严格按四步流程，逐算子验证： 1. Step 1：编译原始代码，保存 baseline binary .o 文件 MD5 2. Step 2：执行 MicroAPI → Reg 替换 3. Step 3：编译替换后代码，保存 after binary .o 文件 MD5 4. Step 4：对比 A_before.md5 与 B_after.md5 平台：ascend950，编译参数：--soc=ascend950 --ops=<op> -j16 验证替换前后 binary 产物 MD5 完全一致。冒烟，代码审查均通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!9267	12 天前
tests	新增算子st用例 Co-authored-by: hw-zhangpanpan<zhangpanpan5@huawei.com> Co-authored-by: yu_qinfei<yuqinfei1@h-partners.com> Co-authored-by: ligen<ligen75@h-partners.com> Co-authored-by: yefeicoding<yefei25@huawei.com> # message auto-generated for no-merge-commit merge: !7825 merge st into master 新增算子st用例 Created-by: yefeicoding Commit-by: yefeicoding;yu_qinfei;hw-zhangpanpan;李根;ligen Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/4269 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：补充st ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!7825	1 个月前
CMakeLists.txt	Arch编码更新 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !1116 merge ut_test into master Arch编码更新 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 Arch编码更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1116	7 个月前
README.md	docs(lamb/scatter): 补齐 16 个算子 README 产品支持表的 A2/A3 标记 Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !9223 merge fix/readme-a2a3-support into master docs(lamb/scatter): 补齐 16 个算子 README 产品支持表的 A2/A3 标记 Created-by: zl_hw Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述这 16 个算子在 A2（ascend910b）与 A3（ascend910_93）上均有可用实现，但各自 README 的「产品支持情况」表把这两行标成了 ×，与事实不符——从资料上看不出这些算子在 A2/A3 可用。本 PR 将这两行订正为 √。判定依据（两条同时成立才改，逐个算子核对）： 1. canndev `ops/built-in/tbe/op_info_cfg/ai_core/{ascend910b,ascend910_93}/aic-*-ops-info.ini` 中存在该 OpType 的注册段； 2. canndev `ops/built-in/tbe/impl/`（或 `impl/dynamic/`）下存在对应的实现文件。涉及算子： - optim：lamb_apply_optimizer_assign、lamb_apply_weight_assign、lamb_next_m_v、lamb_next_m_v_with_decay、lamb_next_right、lamb_update_with_lr、lamb_update_with_lr_v2 - index：scatter、scatter_add、scatter_div、scatter_elements、scatter_max、scatter_min、scatter_mul、scatter_nd、quant_update_scatter 未改动项：仅改「Atlas A3 训练系列产品/Atlas A3 推理系列产品」与「Atlas A2 训练系列产品/Atlas A2 推理系列产品」两行的取值；「Atlas 200I/500 A2 推理产品」（名称中同样含 A2）及其余产品行、README 正文均未改动。一致性说明：同目录下 scatter_nd_sub、scatter_non_aliasing_add、scatter_max_with_argmax 等算子同样是本仓 def 只注册 ascend950、A2/A3 实现在 canndev，其 README 本就标为 √；本次改动与既有写法保持一致。 ## 关联的Issue - 关联Issue #5164 （https://gitcode.com/cann/ops-nn/issues/5164） ## 测试本 PR 仅涉及 README 文档，无代码改动，不涉及编译与用例执行。核对方式： 1. 脚本逐算子比对 canndev 的 ops-info 注册段与 impl 实现文件，确认 16 个算子在 ascend910b/ascend910_93 均命中；改后复跑同一脚本，同类算子中已无遗漏； 2. 核对 `git diff`，被修改的行全部为 `<term>Atlas A2/A3 …</term>` 两行，未触及其他产品行与正文。 ## 文档更新更新了上述 16 个算子目录下的 README.md（每个文件 2 行，共 32 行）。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!9223	13 天前

QuantUpdateScatter

产品支持情况

产品	是否支持
Ascend 950PR/Ascend 950DT	√
Atlas A3 训练系列产品/Atlas A3 推理系列产品	√
Atlas A2 训练系列产品/Atlas A2 推理系列产品	√
Atlas 200I/500 A2 推理产品	×
Atlas 推理系列产品	×
Atlas 训练系列产品	×

功能说明

先将updates在quantAxis轴上进行量化：quantScales对updates做缩放操作，quantZeroPoints做偏移。然后将量化后的updates中的值按指定的轴axis，根据索引张量indices逐个更新selfRef中对应位置的值。

参数说明

selfRef（aclTensor*,计算输入|计算输出）：Device侧的Tensor，源数据张量，数据类型支持INT8，支持3-8维，数据格式支持ND，支持非连续的Tensor。
- Atlas A2 训练系列产品/Atlas A2 推理系列产品、Atlas A3 训练系列产品/Atlas A3 推理系列产品：其最后一维的大小必须32B对齐。
indices（aclTensor*,计算输入）：Device侧的Tensor，索引张量，数据类型支持INT32、INT64类型，仅支持1维或2维，数据格式支持ND，支持非连续的Tensor。
当indices shape为1维时，indices的取值范围为[0, selfRef.shape(axis) - updates.shape(axis))；
当indices shape为2维时，indices每项的第0个数据取值范围[0, selfRef.shape(0))，indices每项的第1个数据取值范围[0, selfRef.shape(axis) - updates.shape(axis))。
updates（aclTensor*,计算输入）：Device侧的Tensor，更新数据张量，updates的维数需要与selfRef的维数一样，其第1维的大小等于indices的第1维的大小，且不大于selfRef的第1维的大小；其axis轴的大小不大于selfRef的axis轴的大小；其余维度的大小要跟selfRef对应维度的大小相等。数据格式支持ND，支持非连续的Tensor。
- Atlas 推理系列产品：数据类型支持FLOAT16。其最后一维的大小必须32B对齐。
- Atlas A2 训练系列产品/Atlas A2 推理系列产品、Atlas A3 训练系列产品/Atlas A3 推理系列产品：数据类型支持BFLOAT16、FLOAT16。其最后一维的大小必须32B对齐。
- Ascend 950PR/Ascend 950DT：数据类型支持BFLOAT16、FLOAT16。
quantScales（aclTensor*,计算输入）：Device侧的Tensor，量化缩放张量，支持1-8维，quantScales的元素个数需要等于updates在quantAxis轴的大小。支持非连续的Tensor，数据格式支持ND。
- Atlas 推理系列产品：数据类型支持FLOAT32。
- Atlas A2 训练系列产品/Atlas A2 推理系列产品、Atlas A3 训练系列产品/Atlas A3 推理系列产品、Ascend 950PR/Ascend 950DT：数据类型支持BFLOAT16、FLOAT32。
quantZeroPoints（aclTensor*,计算输入）：Device侧的Tensor，量化偏移张量，支持1-8维，quantZeroPoints的元素个数需要等于updates在quantAxis轴的大小。支持非连续的Tensor，数据格式支持ND，可选参数。
- Atlas 推理系列产品：数据类型支持INT32。
- Atlas A2 训练系列产品/Atlas A2 推理系列产品、Atlas A3 训练系列产品/Atlas A3 推理系列产品、Ascend 950PR/Ascend 950DT：数据类型支持BFLOAT16、INT32。
axis（int64_t,计算输入）：updates上用来更新的轴，数据类型为INT64，取值范围[-len(updates.shape) + 1, -1)或者[1, len(updates.shape) - 1)。
quantAxis（int64_t,计算输入）：updates上用来量化的轴，数据类型为INT64，取值支持-1或者len(updates.shape) - 1。
reduction（int64_t,计算输入）：指定数据操作方式，数据类型为INT64，取值支持1（update）。

约束说明

indices的维数只能是1维或者2维；如果是2维，其第2维的大小必须是2；不支持索引越界，索引越界不校验；indices映射的selfRef数据段不能重合，若重合则会因为多核并发原因导致多次执行结果不一样。

selfRef，indices，updates，quantScales，quantZeroPoints数据类型输入组合包括：

Atlas 推理系列产品：

selfRef indices updates quantScales quantZeroPoints

INT8 INT32 FLOAT16 FLOAT32 INT32

INT8 INT64 FLOAT16 FLOAT32 INT32

selfRef	indices	updates	quantScales	quantZeroPoints
INT8	INT32	FLOAT16	FLOAT32	INT32
INT8	INT64	FLOAT16	FLOAT32	INT32

Atlas A2 训练系列产品/Atlas A2 推理系列产品、Atlas A3 训练系列产品/Atlas A3 推理系列产品、Ascend 950PR/Ascend 950DT：

selfRef	indices	updates	quantScales	quantZeroPoints
INT8	INT32	BFLOAT16	BFLOAT16	BFLOAT16
INT8	INT64	BFLOAT16	BFLOAT16	BFLOAT16
INT8	INT32	FLOAT16	FLOAT32	INT32
INT8	INT64	FLOAT16	FLOAT32	INT32

调用示例

调用方式	样例代码	说明
aclnn接口	test_aclnn_inplace_quant_scatter	通过aclnnInplaceQuantScatter接口方式调用QuantUpdateScatter算子。