Star872

Star872

cann-robotmodified md files(for readability improvement)

c0b3c3ea创建于 4月2日历史提交

文件	最后提交记录	最后更新时间
docs	modified md files(for readability improvement) Co-authored-by: duhuiping<duhuiping@h-partners.com> # message auto-generated for no-merge-commit merge: !3444 merge 9.0.0 into 9.0.0 modified md files(for readability improvement) Created-by: gitee-duhuiping Commit-by: duhuiping Merged-by: cann-robot Description: ## 描述 modified md files(for readability improvement) ## 关联的Issue NA ## 测试 NA ## 文档更新 md files ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3444	4 个月前
examples	代码同步 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !450 merge master into master 代码同步 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!450	8 个月前
op_host	cleancode重复代码修复 Co-authored-by: Chen_HaoWen<chenhaowen12@huawei.com> # message auto-generated for no-merge-commit merge: !2655 merge master_9.0.0 into 9.0.0 cleancode重复代码修复 Created-by: Chen_HaoWen Commit-by: Chen_HaoWen Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!2655	5 个月前
op_kernel	add kirin9030 ops: norm Co-authored-by: zengjuan<zengjuan2@huawei.com> # message auto-generated for no-merge-commit merge: !1417 merge master into master add kirin9030 ops: norm Created-by: zengjuan Commit-by: zengjuan Merged-by: cann-robot Description: ## 描述 add kirin9030 ops: norm norm/gemma_rms_norm norm/group_norm_silu norm/group_norm_swish norm/inplace_add_layer_norm norm/inplace_add_rms_norm norm/layer_norm_v4 norm/masked_softmax_with_rel_pos_bias norm/quantize_add_layer_norm norm/quantized_batch_norm norm/rms_norm norm/rms_norm_quant ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/723 ## 测试蓝区门禁、黄区门禁、算子二级冒烟 ## 文档更新无 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1417	6 个月前
tests	代码同步 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !450 merge master into master 代码同步 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!450	8 个月前
CMakeLists.txt	Format update: Adjusted the license description format in all relevant files. Co-authored-by: jiangqi<jiangqi47@h-partners.com> # message auto-generated for no-merge-commit merge: !365 merge license5 into master Format update: Adjusted the license description format in all relevant files. Created-by: jiangqi2025 Commit-by: jiangqi Merged-by: turing_project1 Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #123--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!365	8 个月前
README.md	modified md files(for readability improvement) Co-authored-by: duhuiping<duhuiping@h-partners.com> # message auto-generated for no-merge-commit merge: !3444 merge 9.0.0 into 9.0.0 modified md files(for readability improvement) Created-by: gitee-duhuiping Commit-by: duhuiping Merged-by: cann-robot Description: ## 描述 modified md files(for readability improvement) ## 关联的Issue NA ## 测试 NA ## 文档更新 md files ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3444	4 个月前

QuantizedBatchNorm

产品支持情况

产品	是否支持
Ascend 950PR/Ascend 950DT	√
Atlas A3 训练系列产品/Atlas A3 推理系列产品	√
Atlas A2 训练系列产品/Atlas A2 推理系列产品	√
Atlas 200I/500 A2 推理产品	×
Atlas 推理系列产品	×
Atlas 训练系列产品	×
Kirin X90 处理器系列产品	√
Kirin 9030 处理器系列产品	√

功能说明

算子功能：将输入Tensor执行一个反量化的计算，再根据输入的weight、bias、epsilon执行归一化，最后根据输出的outputScale以及outputZeroPoint执行量化。
计算公式：

1.反量化计算：
$x^{'} = (x - i n p u t Z e r o P o i n t) * i n p u t S c a l e$
2.归一化计算：
$=\frac{x' - mean}{\sqrt{var + ϵ}} * γ + β$
3.量化计算：
$round(\frac{y}{outputScale} + outputZeroPoint)$

参数说明

参数名	输入/输出/属性	描述	数据类型	数据格式
x	输入	模型输入的量化后的数据，对应公式中的`x`。	INT8、UINT8、INT32	NCHW
mean	输入	模型输入数据的均值，对应公式中的`mean`。shape维度限制为1维，长度需与输入NCHW中的C相同。	FLOAT32	ND
var	输入	模型输入数据的方差，对应公式中的`var`。shape维度限制为1维，长度需与输入NCHW中的C相同。	FLOAT32	ND
input_scale	输入	输入标量，模型输入数据的缩放系数，对应公式中的`inputScale`。	FLOAT32	ND
input_zero_point	输入	输入标量，模型输入数据的偏置，对应公式中的`inputZeroPoint`。传入值不能超过input对应数据类型的上下边界，例如INT8上下边界为[-128,127]。	INT32	ND
output_scale	输入	输入标量，模型输出数据的缩放系数，对应公式中的`outputScale`。	FLOAT32	ND
output_zero_point	输入	输入标量，模型输出数据的偏置，对应公式中的`outputZeroPoint`。传入值不能超过input对应数据类型的上下边界，例如INT8上下边界为[-128,127]。	FLOAT32	ND
weight	输入	进行批量归一化的权重，对应公式中的`γ`。shape维度限制为1维，长度需与输入参数input的数据格式NCHW中的C相同。	FLOAT32	ND
bias	输入	进行批量归一化的偏置值，对应公式中的`β`。shape维度限制为1维，长度需与输入NCHW中的C相同。	FLOAT32	ND
epsilon	可选属性	添加到方差中的小值以避免除以零，对应公式中的`ε`。默认值为空。	FLOAT32	-
y	输出	模型输出的量化后的数据，对应公式中的`y`。数据类型、数据格式、shape与输入`x`保持一致。	INT8、UINT8、INT32	NCHW

Kirin X90/Kirin 9030处理器系列产品：output_zero_point的数据类型只支持INT32。

约束说明

无

调用说明

调用方式	样例代码	说明
aclnn接口	test_aclnn_quantized_batch_norm	通过aclnnQuantizedBatchNorm接口方式调用QuantizedBatchNorm算子。