master

cann-robot【性能优化】QBMM V3 MX量化场景新增StreamK模板接入

c0d2aa31创建于 7月7日历史提交

文件	最后提交记录	最后更新时间
addmv	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
batch_mat_mul_v3	删除addmm和baddbmm在16in32out场景下的out和bias类型拦截 Co-authored-by: HuangKun8682<huangkun61@huawei.com> # message auto-generated for no-merge-commit merge: !6862 merge personal_addmm_baddbmm_support_bias_out_diff_dtype into master 删除addmm和baddbmm在16in32out场景下的out和bias类型拦截 Created-by: HuangKun8682 Commit-by: HuangKun8682 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> addmm和baddbmm接口支持融合精度计算，现有的16in32out实现中拦截了bias与out tensor类型不一致的场景，需要删除addmm和baddbmm在16in32out场景下的out和bias类型拦截。删除Check16In32OutWithBiasValid校验函数，保持原有addmm和baddbmm接口的入参校验逻辑。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> 关联Issue [#3879](https://gitcode.com/cann/ops-nn/issues/3879) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地原场景自验证通过   rdv全量用例验证通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6862	2 个月前
batch_matmul_quant	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
common	删除addmm和baddbmm在16in32out场景下的out和bias类型拦截 Co-authored-by: HuangKun8682<huangkun61@huawei.com> # message auto-generated for no-merge-commit merge: !6862 merge personal_addmm_baddbmm_support_bias_out_diff_dtype into master 删除addmm和baddbmm在16in32out场景下的out和bias类型拦截 Created-by: HuangKun8682 Commit-by: HuangKun8682 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> addmm和baddbmm接口支持融合精度计算，现有的16in32out实现中拦截了bias与out tensor类型不一致的场景，需要删除addmm和baddbmm在16in32out场景下的out和bias类型拦截。删除Check16In32OutWithBiasValid校验函数，保持原有addmm和baddbmm接口的入参校验逻辑。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> 关联Issue [#3879](https://gitcode.com/cann/ops-nn/issues/3879) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地原场景自验证通过   rdv全量用例验证通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6862	2 个月前
convert_weight_to_int4_pack	runtime接口整改 Co-authored-by: zhangquanxin<zhangquanxin7@h-partners.com> # message auto-generated for no-merge-commit merge: !7013 merge runtime_interface_modify into master runtime接口整改 Created-by: zhangquanxin Commit-by: zhangquanxin Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 此次PR对 aclnn_convert_weight_to_int4_pack.cpp 中的运行时接口进行了整改，将直接调用的底层 rtMemcpy 等 runtime 原生接口统一替换为 ACL（Ascend Computing Language）封装的标准接口，并相应调整了头文件引用、内存拷贝方向常量及返回值判断宏。该改动旨在提升代码的可移植性和接口规范性，使算子实现与 ACL 公共接口层保持一致。 主要改动 新增头文件引用：添加了 #include "acl/acl_rt.h"，为后续使用 aclrtMemcpy 等 ACL 运行时接口提供声明。 内存拷贝函数替换：将两处 rtMemcpy 调用（device→host 和 host→device）统一替换为 aclrtMemcpy，参数签名保持一致，仅函数名变更。 常量与错误码迁移：将内存拷贝方向常量 RT_MEMCPY_DEVICE_TO_HOST 和 RT_MEMCPY_HOST_TO_DEVICE 分别替换为 ACL_MEMCPY_DEVICE_TO_HOST 和 ACL_MEMCPY_HOST_TO_DEVICE；同时将返回值判等宏从 RT_ERROR_NONE 替换为 ACL_SUCCESS。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> issue: https://gitcode.com/cann/ops-nn/issues/3894 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 二级冒烟，本地泛化测试 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7013	2 个月前
dual_level_quant_batch_matmul	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
fused_linear_cross_entropy_loss_grad	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
fused_linear_online_max_sum	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
fused_mat_mul	【FusedMatmul】BMM+add/mul支持融合性能优化&&芯片隔离 Co-authored-by: liweijian16<liweijian16@huawei.com> Co-authored-by: steppecat<liangyu62@huawei.com> Co-authored-by: liangyu (M)<l00938202@china.huawei.com> # message auto-generated for no-merge-commit merge: !6945 merge fmm-batch-add-mul into master 【FusedMatmul】BMM+add/mul支持融合性能优化&&芯片隔离 Created-by: liweijian16 Commit-by: liweijian16;steppecat;liangyu (M) Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 本次改动围绕 FusedMatMul 的 BatchMatMul + Add/Mul 融合能力补齐 host tiling 与 UT 覆盖：IterBatch 模板新增 add/mul 基础 API 路由校验，并覆盖 x3 batch 维广播场景；MergeBatch 模板补充 add/mul 路由能力，覆盖长 K、batch 合并到 M 方向后的融合场景；MatmulAct/ASWT 模板补齐 add/mul 常规 batch 路由覆盖；A FullLoad 与 B FullLoad 模板分别覆盖单侧 L1 全载复用场景下的 add/mul 融合路由。同时补充 aclnn 参数校验用例，覆盖 x3 [B,M,N]、[1,M,N]、[M,N] 支持范围，以及 [B,1,N]、[B,M,1]、非法 batch 等不支持形态。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3798 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - [x] 二级冒烟 - [x] 门槛用例 - [x] 自测用例 - [x] UT ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!6945	2 个月前
fused_quant_mat_mul	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
gemm	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
gemm_v2	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
gemm_v3	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
mat_mul_v3	删除addmm和baddbmm在16in32out场景下的out和bias类型拦截 Co-authored-by: HuangKun8682<huangkun61@huawei.com> # message auto-generated for no-merge-commit merge: !6862 merge personal_addmm_baddbmm_support_bias_out_diff_dtype into master 删除addmm和baddbmm在16in32out场景下的out和bias类型拦截 Created-by: HuangKun8682 Commit-by: HuangKun8682 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> addmm和baddbmm接口支持融合精度计算，现有的16in32out实现中拦截了bias与out tensor类型不一致的场景，需要删除addmm和baddbmm在16in32out场景下的out和bias类型拦截。删除Check16In32OutWithBiasValid校验函数，保持原有addmm和baddbmm接口的入参校验逻辑。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> 关联Issue [#3879](https://gitcode.com/cann/ops-nn/issues/3879) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地原场景自验证通过   rdv全量用例验证通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6862	2 个月前
matmul_compress	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
matmul_v2_compress_dequant	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
mv	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
quant_batch_matmul_inplace_add	feat(qbmmv3): add MX split-M tiling key and kernel entry Co-authored-by: Hu1L1<chenshujian5@huawei.com> # message auto-generated for no-merge-commit merge: !6223 merge mmad_split into master feat(qbmmv3): add MX split-M tiling key and kernel entry Created-by: Hu1L1 Commit-by: Hu1L1 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 本 PR 为 QuantBatchMatmulV3 MX 量化场景新增 MMAD 拆分性能模板的 host/kernel 路由能力。新增 tiling key 与 kernel type，接入 MX MMAD split kernel 入口，并在 Basic API tilingData 中补充 mmadM/mmadN 参数，供 kernel 侧按拆分后的 MMAD shape 执行。 准入规则仅面向 MX per-group 且 cube bound 的性能目标场景，限制输出 dtype 为 FLOAT16/BF16，并要求 N * sizeof(output dtype) 满足 128B 对齐，避免非适配 shape 进入新模板。非准入场景继续复用原有 MX tiling 和 kernel 路由。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3771 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 二级冒烟测试 UT测试 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及nn仓文档 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!6223	2 个月前
quant_batch_matmul_v3	【性能优化】QBMM V3 MX量化场景新增StreamK模板接入 Co-authored-by: guiruoyu<guiruoyu@h-partners.com> # message auto-generated for no-merge-commit merge: !6180 merge codex/qbmm-streamk-runtime-20260610 into master 【性能优化】QBMM V3 MX量化场景新增StreamK模板接入 Created-by: guiruoyu Commit-by: guiruoyu Merged-by: cann-robot Description: ## 描述 本 PR 面向 QuantBatchMatmulV3 的 MX per-group 量化场景，新增独立的 StreamK tiling 与 kernel 接入流程，用于在合适 shape 下通过 K 轴切分提升核利用率，并在部分场景降低 MTE2 重复搬运。 主要改动： - 新增 QBMMV3StreamKTiling，继承 QuantBatchMatmulV3TilingBase，通过独立的 qbmm_streamk_tiling.h/cpp 承载 StreamK tiling 流程，避免影响原有 QBMM ASWT tiling。 - 在 base block 与 L1 calculator 中按规则注册 StreamK 模式，计算 baseM/baseN/baseK、singleCoreK、kL1、scaleKL1、dbL0C 等关键 tiling 参数。 - 新增 StreamK 准入评估：包含 MX per-group、Tensor API、no-batch、deterministic、AIV/AIC 数量关系等 hard gate；收益 gate 覆盖小 MN 补核场景与 MTE2 重复搬运节省场景，并补充 ta0tb1 小 shape 拦截。 - 新增 StreamK tiling data 字段，向 kernel 侧传递 usedCoreNum/singleCoreK/kL1 等 StreamK 调度参数。 - 新增 QBMM MX StreamK Tensor API 模板入口，并在 quant_batch_matmul_v3.cpp 中按 tiling key 接入；原 ASWT 模板保持独立。 - 更新 ops-tensor 依赖 tag 到已合入 StreamK 支持的最新 cann/ops-tensor 提交。 - 补充 QBMM StreamK tiling UT 覆盖。 ## 关联的Issue 暂无。 ## 测试 已完成以下验证： - bash build.sh --ophost --soc=ascend950 -j8 编译通过。 - 在 guiruoyu docker 内替换 libophost_nn.so 后，使用 ops-test-kit 对 MX FP4/FP8、ta0tb0/ta0tb1 单点和手工 case 集进行功能验证。 ## 文档更新 无。本 PR 当前不包含 docs 目录改动。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!6180	2 个月前
quant_batch_matmul_v4	wqbmm golden with ttk Co-authored-by: he_kan<hekan4@huawei.com> # message auto-generated for no-merge-commit merge: !6657 merge wqbmm into master wqbmm golden with ttk Created-by: he_kan Commit-by: he_kan Merged-by: cann-robot Description: ## 描述 新增伪量化类算子的golden函数，适配新的ops-test-kit框架 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3725 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6657	2 个月前
quant_matmul	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
quant_matmul_dequant	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
quant_matmul_reduce_sum	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
rotate_quant	修复rotatequant算子数据类型问题\修复rotatequant算子example双重释放问题 Co-authored-by: 张卓然<zhangzhuoran3@huawei.com> # message auto-generated for no-merge-commit merge: !7084 merge fixrotatequant into master 修复rotatequant算子数据类型问题\修复rotatequant算子example双重释放问题 Created-by: zhangzhuoran3 Commit-by: 张卓然 Merged-by: cann-robot Description: ## 描述 将const int32_t* pDstDtype = attrs->GetAttrPointer<int32_t>(ATTR_INDEX_DST_TYPE);中的int32_t改为int64_t。 删除rotatequant算子中example中多余的资源释放 ## 关联的Issue [#3686](https://gitcode.com/cann/ops-nn/issues/3686) ## 测试 已经本地泛化测试验证修改没有影响到算子的功能 ## 文档更新 无 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7084	2 个月前
sparse4to2quant_matmul	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
sparse_tensor_dense_mat_mul	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
transpose_batch_mat_mul	support bmm iterbatch broadcast Co-authored-by: gaozheng<gaozheng16@huawei.com> Co-authored-by: justsozl<zhaolun3@hisilicon.com> Co-authored-by: y00943198<yangtao363@huawei.com> # message auto-generated for no-merge-commit merge: !7073 merge merge_pr into master support bmm iterbatch broadcast Created-by: justsozl Commit-by: y00943198;gaozheng;justsozl Merged-by: cann-robot Description: ## 描述 BatchMatMul V3 算子新增 ITER_BATCH_BROADCAST 模板，解决BMMV3算子在batch broadcast场景无法做IterBatch(多batch聚合搬入/搬出)的问题，优化BMMV3算子在batch broadcast场景的性能 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3849 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 单算子功能/性能测试 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!7073	2 个月前
transpose_quant_batch_mat_mul	support bmm iterbatch broadcast Co-authored-by: gaozheng<gaozheng16@huawei.com> Co-authored-by: justsozl<zhaolun3@hisilicon.com> Co-authored-by: y00943198<yangtao363@huawei.com> # message auto-generated for no-merge-commit merge: !7073 merge merge_pr into master support bmm iterbatch broadcast Created-by: justsozl Commit-by: y00943198;gaozheng;justsozl Merged-by: cann-robot Description: ## 描述 BatchMatMul V3 算子新增 ITER_BATCH_BROADCAST 模板，解决BMMV3算子在batch broadcast场景无法做IterBatch(多batch聚合搬入/搬出)的问题，优化BMMV3算子在batch broadcast场景的性能 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3849 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 单算子功能/性能测试 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!7073	2 个月前
weight_quant_batch_matmul	format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784	2 个月前
weight_quant_batch_matmul_v2	wqbmm golden with ttk Co-authored-by: he_kan<hekan4@huawei.com> # message auto-generated for no-merge-commit merge: !6657 merge wqbmm into master wqbmm golden with ttk Created-by: he_kan Commit-by: he_kan Merged-by: cann-robot Description: ## 描述 新增伪量化类算子的golden函数，适配新的ops-test-kit框架 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3725 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6657	2 个月前
CMakeLists.txt	Format update: Adjusted the license description format in all relevant files. Co-authored-by: jiangqi<jiangqi47@h-partners.com> # message auto-generated for no-merge-commit merge: !403 merge license7 into master Format update: Adjusted the license description format in all relevant files. Created-by: jiangqi2025 Commit-by: jiangqi Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!403	8 个月前