| Files | Last commit | Last update |
|---|---|---|
fix: 修复Quantize示例outHostData初始化越界问题 Co-authored-by: cuijie25<cuijie24@h-partners.com> # message auto-generated for no-merge-commit merge: !11920 merge fix/quantize-examples into master fix: 修复Quantize示例outHostData初始化越界问题 Created-by: cuijie25 Commit-by: cuijie25 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修复 quant/quantize/examples/test_aclnn_quantize.cpp 中 outHostData 初始化导致的 host 侧越界读: - 原代码 std::vector<int32_t> outHostData = {8, 0}; 仅构造 2 个元素(8 字节),而 CreateAclTensor 按 outShape={4, 2} 申请并拷贝 32 字节(8 × int32),aclrtMemcpy 存在 host 侧越界读(未定义行为); - 修改为 std::vector<int32_t> outHostData(8, 0); 构造 8 个元素,消除越界读; - 同时将 docs/aclnnQuantize.md 调用示例代码块的 3 处折行(CreateAclTensor 签名、aclCreateTensor、aclrtMemcpy 调用)对齐 examples cpp 的 clang-format 风格; - 修改后示例代码与 docs/aclnnQuantize.md 调用示例保持**逐字符一致(含折行/缩进等全部格式,git 归一化行尾口径下 155 行 / 6058 字符完全相同)**;文档侧 outHostData 修复参考 !11418。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6660](https://gitcode.com/cann/ops-nn/issues/6660) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - A2(Atlas 910B3,CANN 9.1.0 实卡):示例编译(g++ -Wall 无告警)运行成功,输出 out={2,10,3,10,5,10,2,10},与公式 round(x/scales)+zeroPoints 手算结果逐项一致(如 round(3.1024/1.0)+2=5、round(1.4621/-3.0)+10=10)。 - 一致性核验:aclnnQuantize.md 调用示例代码块与修改后 cpp 逐字符一致(含折行/缩进等全部格式)。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新 docs/aclnnQuantize.md 调用示例代码块的 3 处折行,与 examples cpp 的 clang-format 风格对齐(outHostData 修复内容文档侧已是正确写法,来自 !11418)。 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11920 | 1 month ago | |
fix: 修复Quantize示例outHostData初始化越界问题 Co-authored-by: cuijie25<cuijie24@h-partners.com> # message auto-generated for no-merge-commit merge: !11920 merge fix/quantize-examples into master fix: 修复Quantize示例outHostData初始化越界问题 Created-by: cuijie25 Commit-by: cuijie25 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修复 quant/quantize/examples/test_aclnn_quantize.cpp 中 outHostData 初始化导致的 host 侧越界读: - 原代码 std::vector<int32_t> outHostData = {8, 0}; 仅构造 2 个元素(8 字节),而 CreateAclTensor 按 outShape={4, 2} 申请并拷贝 32 字节(8 × int32),aclrtMemcpy 存在 host 侧越界读(未定义行为); - 修改为 std::vector<int32_t> outHostData(8, 0); 构造 8 个元素,消除越界读; - 同时将 docs/aclnnQuantize.md 调用示例代码块的 3 处折行(CreateAclTensor 签名、aclCreateTensor、aclrtMemcpy 调用)对齐 examples cpp 的 clang-format 风格; - 修改后示例代码与 docs/aclnnQuantize.md 调用示例保持**逐字符一致(含折行/缩进等全部格式,git 归一化行尾口径下 155 行 / 6058 字符完全相同)**;文档侧 outHostData 修复参考 !11418。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6660](https://gitcode.com/cann/ops-nn/issues/6660) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - A2(Atlas 910B3,CANN 9.1.0 实卡):示例编译(g++ -Wall 无告警)运行成功,输出 out={2,10,3,10,5,10,2,10},与公式 round(x/scales)+zeroPoints 手算结果逐项一致(如 round(3.1024/1.0)+2=5、round(1.4621/-3.0)+10=10)。 - 一致性核验:aclnnQuantize.md 调用示例代码块与修改后 cpp 逐字符一致(含折行/缩进等全部格式)。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新 docs/aclnnQuantize.md 调用示例代码块的 3 处折行,与 examples cpp 的 clang-format 风格对齐(outHostData 修复内容文档侧已是正确写法,来自 !11418)。 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11920 | 1 month ago | |
format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784 | 4 months ago | |
fix(quantize): 修正 aclnnQuantize 头文件注释与函数签名不一致 Co-authored-by: cuijie25<cuijie24@h-partners.com> # message auto-generated for no-merge-commit merge: !11674 merge fix/quantize-param-doc into master fix(quantize): 修正 aclnnQuantize 头文件注释与函数签名不一致 Created-by: cuijie25 Commit-by: cuijie25 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修复 issue #6399 第7点: quant/quantize/op_api/aclnn_quantize.h 中 aclnnQuantizeGetWorkspaceSize 的 @param 注释与函数签名不一致: - 注释中 axis 写在 dtype 之前,与签名 (x, scales, zeroPoints, aclDataType dtype, int32_t axis, ...) 顺序相反,且两参数类型不同(int32_t vs aclDataType),按注释顺序做位置传参会编译错误; - 出参 out 零文档。 修复方式(最小化改动,2 行新增 / 1 行删除): - dtype/axis 两行注释交换顺序,文字保持原文不变; - 补齐出参 out 的 @param 文档(数据类型由入参 dtype 指定,shape 与 x 一致),写法对齐同算子 experimental/quant/quantize/op_api/aclnn_quantize.h 的既有注释。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6399](https://gitcode.com/cann/ops-nn/issues/6399)(第7点:quantize 注释 axis/dtype 顺序颠倒、出参 out 零文档) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 纯注释改动,不影响编译产物;注释顺序已与签名 (x, scales, zeroPoints, dtype, axis, out, workspaceSize, executor) 逐参核对一致,out/axis/dtype 约束与 docs/aclnnQuantize.md 及 aclnn_quantize.cpp 参数校验逻辑核对一致;本地 pre-commit 钩子(clang-format、OAT 合规检查等)全部通过。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 无。仅头文件注释修复,docs/aclnnQuantize.md 参数表本就正确,无需改动。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11674 | 1 month ago | |
format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784 | 4 months ago | |
feat: 增加 ascend350 平台支持(25 个激活/量化算子)并重构 SocVersion 判断为 NpuArch Co-authored-by: wenqi_wu<wenqiwu0628@163.com> # message auto-generated for no-merge-commit merge: !9834 merge support-ascend350-activation-ops into master feat: 增加 ascend350 平台支持(25 个激活/量化算子)并重构 SocVersion 判断为 NpuArch Created-by: wenqi_wu Commit-by: wenqi_wu Merged-by: cann-robot Description: ## 描述 为以下 25 个算子增加 ascend350(arch35)平台支持,并将 7 个 aclnn 接口的 SocVersion 判断重构为 NpuArch 判断。 **算子列表(ascend350 支持,25 个):** - 量化类:AscendQuant / AscendAntiQuant / Quantize(quant) - Elu / EluGrad / EluGradV2(activation) - FastGelu / FastGeluGrad - Gelu / GeluGrad / GeluV2 / GeluGradV2 - ReluGrad / ReluGradV2 / ReluV2 - LeakyReluGrad - SigmoidGrad / SiluGrad - Swish / SwishGrad - HardtanhGrad - Mish / MishGrad - LogSigmoid / LogSigmoidGrad 注:LeakyRelu 的 ascend350 支持已由上游先行合入,本 PR 不含其重复改动。 **改动内容:** 1. 算子 CMakeLists.txt:SUPPORT_COMPUTE_UNIT 追加 ascend350,SUPPORT_TILING_DIR 追加对应 arch35; 2. op_host/*_def.cpp:为每个算子追加 this->AICore().AddConfig("ascend350", ...); 3. 新增 op_host/config/ascend350/*_binary.json 二进制配置文件; 4. scripts/kernel/binary_config/ascendc_config.json:为上述算子增加 ascend350 的 compute_units 与 compile_options(AscendAntiQuant 上游本无条目,走默认编译选项); 5. op_api 中 SocVersion → NpuArch 重构(7 处): - aclnn_rrelu_with_noise.cpp:GenerateUniformRandom 中平台判断改为 GetCurNpuArch() == NpuArch::DAV_2201(语义等价,910B/910_93 均对应 DAV_2201); - aclnn_sigmoid_backward.cpp / aclnn_swish_backward.cpp / aclnn_gelu_v2.cpp:CheckSocVersionIsSupportBf16 改为 curArch == NpuArch::DAV_2201 || IsRegbase(curArch); - aclnn_sigmoid.cpp:CheckSocVersionIsSupportBf16 与 GetSelfRefDtypeList 改为 curArch == NpuArch::DAV_2201 || IsRegbase(curArch); - aclnn_binary_cross_entropy_with_logits_target_backward.cpp:GetDtypeSupportList 改为 NpuArch 判断; - aclnn_logsigmoid_backward.cpp:GetInputDtypeSupportList / GetOutputDtypeSupportList 改为 NpuArch 判断。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/5538 ## 测试 <!--TODO--> ## 文档更新 无需更新文档 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其它(请说明) ## AI/Agent辅助编译 - [x] AI辅助编写 See merge request: cann/ops-nn!9834 | 2 months ago | |
将norm,quant目录下 MicroAPI 命名空间统一替换为 Reg Co-authored-by: m0_71149169<1907825139@qq.com> # message auto-generated for no-merge-commit merge: !9291 merge norm-quant-microapi-to-reg into master 将norm,quant目录下 MicroAPI 命名空间统一替换为 Reg Created-by: m0_71149169 Commit-by: m0_71149169 Merged-by: cann-robot Description: ## 描述 MicroAPI → Reg 命名空间迁移: norm,quant CANN 头文件 kernel_macros.h 中存在命名空间别名 namespace MicroAPI = Reg;,MicroAPI 只是 Reg 的别名。为统一命名规范,将 nn 仓所有算子 kernel 代码中的 MicroAPI 替换为 Reg,并通过对比替换前后 binary .o 文件 MD5 验证替换无影响。 覆盖范围 - nn 主仓目录:norm,quant ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 关联Issue [#5098](https://gitcode.com/cann/ops-nn/issues/5098) ## 测试 验证方法 严格按四步流程,逐算子验证: 1. Step 1:编译原始代码,保存 baseline binary .o 文件 MD5 2. Step 2:执行 MicroAPI → Reg 替换 3. Step 3:编译替换后代码,保存 after binary .o 文件 MD5 4. Step 4:对比 A_before.md5 与 B_after.md5 平台:ascend950,编译参数:--soc=ascend950 --ops=<op> -j16 验证替换前后 binary 产物 MD5 完全一致。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: norm,quant目录下MicroAPI → Reg 命名空间迁移 See merge request: cann/ops-nn!9291 | 2 months ago | |
feat: Add aclnn golden functions and test cases Co-authored-by: yanzhi2024<yanzhi@huawei.com> # message auto-generated for no-merge-commit merge: !9487 merge master into master feat: Add aclnn golden functions and test cases Created-by: yanzhi2024 Commit-by: yanzhi2024 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 添加蓝区aclnn用例和golden函数 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/5325 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!9487 | 2 months ago | |
feat: 增加 ascend350 平台支持(25 个激活/量化算子)并重构 SocVersion 判断为 NpuArch Co-authored-by: wenqi_wu<wenqiwu0628@163.com> # message auto-generated for no-merge-commit merge: !9834 merge support-ascend350-activation-ops into master feat: 增加 ascend350 平台支持(25 个激活/量化算子)并重构 SocVersion 判断为 NpuArch Created-by: wenqi_wu Commit-by: wenqi_wu Merged-by: cann-robot Description: ## 描述 为以下 25 个算子增加 ascend350(arch35)平台支持,并将 7 个 aclnn 接口的 SocVersion 判断重构为 NpuArch 判断。 **算子列表(ascend350 支持,25 个):** - 量化类:AscendQuant / AscendAntiQuant / Quantize(quant) - Elu / EluGrad / EluGradV2(activation) - FastGelu / FastGeluGrad - Gelu / GeluGrad / GeluV2 / GeluGradV2 - ReluGrad / ReluGradV2 / ReluV2 - LeakyReluGrad - SigmoidGrad / SiluGrad - Swish / SwishGrad - HardtanhGrad - Mish / MishGrad - LogSigmoid / LogSigmoidGrad 注:LeakyRelu 的 ascend350 支持已由上游先行合入,本 PR 不含其重复改动。 **改动内容:** 1. 算子 CMakeLists.txt:SUPPORT_COMPUTE_UNIT 追加 ascend350,SUPPORT_TILING_DIR 追加对应 arch35; 2. op_host/*_def.cpp:为每个算子追加 this->AICore().AddConfig("ascend350", ...); 3. 新增 op_host/config/ascend350/*_binary.json 二进制配置文件; 4. scripts/kernel/binary_config/ascendc_config.json:为上述算子增加 ascend350 的 compute_units 与 compile_options(AscendAntiQuant 上游本无条目,走默认编译选项); 5. op_api 中 SocVersion → NpuArch 重构(7 处): - aclnn_rrelu_with_noise.cpp:GenerateUniformRandom 中平台判断改为 GetCurNpuArch() == NpuArch::DAV_2201(语义等价,910B/910_93 均对应 DAV_2201); - aclnn_sigmoid_backward.cpp / aclnn_swish_backward.cpp / aclnn_gelu_v2.cpp:CheckSocVersionIsSupportBf16 改为 curArch == NpuArch::DAV_2201 || IsRegbase(curArch); - aclnn_sigmoid.cpp:CheckSocVersionIsSupportBf16 与 GetSelfRefDtypeList 改为 curArch == NpuArch::DAV_2201 || IsRegbase(curArch); - aclnn_binary_cross_entropy_with_logits_target_backward.cpp:GetDtypeSupportList 改为 NpuArch 判断; - aclnn_logsigmoid_backward.cpp:GetInputDtypeSupportList / GetOutputDtypeSupportList 改为 NpuArch 判断。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/5538 ## 测试 <!--TODO--> ## 文档更新 无需更新文档 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其它(请说明) ## AI/Agent辅助编译 - [x] AI辅助编写 See merge request: cann/ops-nn!9834 | 2 months ago | |
修改产品名 Co-authored-by: fwx1169505<fengying27@h-partners.com> # message auto-generated for no-merge-commit merge: !11017 merge master into master 修改产品名 Created-by: fengying555682 Commit-by: fwx1169505 Merged-by: cann-robot Description: ## 描述 修改quant和activation文件夹中的md文档涉及的产品名称 ## 关联的Issue [#6056](https://gitcode.com/cann/ops-nn/issues/6056) ## 测试 已经完成文档语法和链接一致性检测 ## 文档更新 quant和activation文件夹中的md文档 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11017 | 1 month ago |
Quantize
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Ascend 950PR&950DT系列产品 | √ |
| Atlas A3系列产品 | √ |
| Atlas A2系列产品 | √ |
| Atlas 200I/500 A2推理产品 | × |
| Atlas推理系列产品 | √ |
| Atlas训练系列产品 | √ |
功能说明
-
算子功能:对输入张量x进行量化处理。
-
计算公式:
out=round((x/scales)+zeroPoints)out=round((x/scales)+zeroPoints) out=round((x/scales)+zeroPoints)
参数说明
| 参数名 | 输入/输出/属性 | 描述 | 数据类型 | 数据格式 |
|---|---|---|---|---|
| x | 输入 | 公式中的x | FLOAT、FLOAT16、BFLOAT16 | ND |
| scales | 输入 | 公式中的scales | FLOAT、BFLOAT16 | ND |
| zero_points | 输入 | 公式中的zeroPoints | FLOAT、INT32、INT8、UINT8、BFLOAT16 | - |
| y | 输出 | 公式中的输出张量out | INT8、UINT8、INT32、HIFLOAT8、FLOAT8_E5M2、FLOAT8_E4M3FN | ND |
调用说明
| 调用方式 | 样例代码 | 说明 |
|---|---|---|
| aclnn接口 | test_aclnn_quantize.cpp | 通过aclnnQuantize.md接口方式调用算子。 |