Star0

Star0

cann-robotmodified md files(for readability improvement)

ec40a927创建于 3月31日历史提交

文件	最后提交记录	最后更新时间
examples	BatchNormV3/GroupNormGrad/GroupNormV2/LayerNormGrad/LayerNormGradV3/LayerNormV3/LayerNormV4算子支持下一代芯片 Co-authored-by: cai-chengchao<caichengchao1@h-partners.com> # message auto-generated for no-merge-commit merge: !995 merge nn_ops_fix_2 into master BatchNormV3/GroupNormGrad/GroupNormV2/LayerNormGrad/LayerNormGradV3/LayerNormV3/LayerNormV4算子支持下一代芯片 Created-by: cai-chengchao Commit-by: cai-chengchao Merged-by: cann-robot Description: ## 描述 BatchNormV3/GroupNormGrad/GroupNormV2/LayerNormGrad/LayerNormGradV3/LayerNormV3/LayerNormV4算子支持下一代芯片 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!995	7 个月前
op_graph	BatchNormV3/GroupNormGrad/GroupNormV2/LayerNormGrad/LayerNormGradV3/LayerNormV3/LayerNormV4算子支持下一代芯片 Co-authored-by: cai-chengchao<caichengchao1@h-partners.com> # message auto-generated for no-merge-commit merge: !995 merge nn_ops_fix_2 into master BatchNormV3/GroupNormGrad/GroupNormV2/LayerNormGrad/LayerNormGradV3/LayerNormV3/LayerNormV4算子支持下一代芯片 Created-by: cai-chengchao Commit-by: cai-chengchao Merged-by: cann-robot Description: ## 描述 BatchNormV3/GroupNormGrad/GroupNormV2/LayerNormGrad/LayerNormGradV3/LayerNormV3/LayerNormV4算子支持下一代芯片 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!995	7 个月前
op_host	修改GroupNormV2二进制配置项，attr改为null，同时去掉attrs重复项 Co-authored-by: 朱子贤<zhuzixian1@h-partners.com> # message auto-generated for no-merge-commit merge: !1855 merge gn_binary into master 修改GroupNormV2二进制配置项，attr改为null，同时去掉attrs重复项 Created-by: zhuzixian-lr Commit-by: 朱子贤 Merged-by: cann-robot Description: ## 描述修改GroupNormV2二进制配置项，attr改为null，同时去掉attrs重复项因为算子二进制配置可以控制二进制编译文件数量，这里attr不参与二进制编译，原始泛化attr导致算子二进制过多 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试经过测试后，算子二进制编译数量锐减至原来四分之一 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1855	6 个月前
op_kernel	GroupNormGrad和GroupNormV2修改全局偏移为int64类型 Co-authored-by: 朱子贤<zhuzixian1@h-partners.com> # message auto-generated for no-merge-commit merge: !2434 merge gng_dtype into master GroupNormGrad和GroupNormV2修改全局偏移为int64类型 Created-by: zhuzixian-lr Commit-by: 朱子贤 Merged-by: cann-robot Description: ## 描述 ### 问题/功能描述本次PR旨在系统性修复GroupNorm（及其V2变体）算子梯度计算内核中潜在的整数溢出风险。在原有实现中，多个用于计算通道索引、内存偏移量及任务ID的关键变量使用了32位整数类型（uint32_t/int32_t）。当处理通道数、分组数或总元素数极大的大规模张量时，相关乘法或累加运算的结果可能超出32位整数的表示范围，导致溢出，进而引发内存访问错误、数据损坏或计算结果异常。本次修改通过将相关变量升级为64位整数类型，从根本上提升了算子在极端数据规模下的鲁棒性、计算正确性和安全性。 ### 修改方案描述修改方案统一且聚焦：将涉及索引计算、地址寻址及任务调度的关键局部变量、函数参数及部分成员变量的数据类型从uint32_t或int32_t升级为int64_t。具体覆盖了ComputeMode0Dx、ComputeMode1Dx、ComputeMode2Dx、ComputeStage1、Stage1Process等梯度计算函数，以及LoadDataToUb、StoreDxToGm等数据搬运函数和NormalizeAndSwishByChannel等前向计算函数中的偏移量变量。此方案确保了在大规模张量场景下，所有中间计算值均拥有足够的数值范围，有效预防了整数溢出，同时保持了原有算法逻辑和性能不变。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试冒烟和st测试全部通过. ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!2434	5 个月前
tests	Arch编码更新 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !1116 merge ut_test into master Arch编码更新 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 Arch编码更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1116	7 个月前
CMakeLists.txt	修复group_norm_v2 cmakelist里ACLNNTYPE类型错误 Co-authored-by: jzj007<jiangzhijie9@huawei.com> # message auto-generated for no-merge-commit merge: !2809 merge group_norm_v2 into master 修复group_norm_v2 cmakelist里ACLNNTYPE类型错误 Created-by: jzj007 Commit-by: jzj007 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 修复group_norm_v2 cmakelist里ACLNNTYPE类型错误 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/1534 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!2809	5 个月前
README.md	modified md files(for readability improvement) Co-authored-by: duhuiping<duhuiping@h-partners.com> # message auto-generated for no-merge-commit merge: !3264 merge master_md into master modified md files(for readability improvement) Created-by: gitee-duhuiping Commit-by: duhuiping Merged-by: cann-robot Description: ## 描述 modified md files(for readability improvement) ## 关联的Issue NA ## 测试 NA ## 文档更新 md files ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-nn!3264	5 个月前

GroupNormV2

产品支持情况

产品	是否支持
Ascend 950PR/Ascend 950DT	√
Atlas A3 训练系列产品/Atlas A3 推理系列产品	√
Atlas A2 训练系列产品/Atlas A2 推理系列产品	√
Atlas 200I/500 A2 推理产品	×
Atlas 推理系列产品	×
Atlas 训练系列产品	√

功能说明

算子功能：计算输入x的组归一化结果out，均值meanOut，以及标准差的倒数rstdOut。
计算公式：
- GroupNorm: 记 $\bar{x}$ 代表 $x$ 的均值， $\frac{1}{n} * \sum_{i=1}^n(x_i - E[x])^2$ 代表 $x$ 的方差，则
${out=x−E[x]Var[x]+eps∗γ+βmeanOut=E[x]rstdOut=1Var[x]+eps\left\{ \begin{array} {rcl} out& &= \frac{x - E[x]}{\sqrt{Var[x] + eps}} * \gamma + \beta \\ meanOut& &= E[x]\\ rstdOut& &= \frac{1}{\sqrt{Var[x] + eps}}\\ \end{array} \right.$

参数说明

参数名	输入/输出/属性	描述	数据类型	数据格式
x	输入	out计算公式中的x。	FLOAT16、FLOAT、BFLOAT16	ND
gamma	输入	out计算公式中的gamma。	FLOAT16、FLOAT、BFLOAT16	ND
beta	输入	out计算公式中的beta。	FLOAT16、FLOAT、BFLOAT16	ND
group	属性	x的第1维度分为group组。	INT32、INT64	-
data_format	可选属性	输入数据格式，支持"NHWC"。	STRING	-
eps	可选属性	out和rstdOut计算公式中的eps值，默认值为0.00001f。	DOUBLE	-
is_training	可选属性	标记是否训练场景，true表示训练场景，false表示推理场景，默认值为true。	BOOL	-
out	输出	out输出张量。	FLOAT16、FLOAT、BFLOAT16	ND
meanOut	输出	mean输出张量。	FLOAT16、FLOAT、BFLOAT16	ND
rstdOut	输出	rstd输出张量。	FLOAT16、FLOAT、BFLOAT16	ND

约束说明

无

调用说明

调用方式	样例代码	说明
图模式调用	test_geir_group_norm_v2	通过算子IR构图方式调用GroupNormV2算子。