| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
modify mm/qbmm initbuffer Co-authored-by: liuyufan0725<liuyufan9@huawei.com> # message auto-generated for no-merge-commit merge: !1127 merge init_buffer into master modify mm/qbmm initbuffer Created-by: liuyufan0725 Commit-by: liuyufan0725 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> nn仓matmul目录下部分950算子仍然使用TBuf、TQue来管理内存，通过InitBuffer分配内存，统一整改为直接使用LocalTensor分配内存。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> 关联Issue [#600](https://gitcode.com/cann/ops-nn/issues/600) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 二级冒烟与存量用例均已验证。 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1127 | 6 个月前 | |
add kirin9030 ops: index matmul pooling Co-authored-by: zengjuan<zengjuan2@huawei.com> # message auto-generated for no-merge-commit merge: !1091 merge master into master add kirin9030 ops: index matmul pooling Created-by: zengjuan Commit-by: zengjuan Merged-by: cann-robot Description: ## 描述 add kirin9030 ops: index matmul pooling index/apply_top_k_top_p_with_sorted index/embedding_bag index/gather_elements_v2 index/inplace_index_add_with_sorted index/linear_index index/scatter_add_with_sorted index/scatter_list matmul/batch_mat_mul_v3 matmul/gemm_v2 matmul/mat_mul_v3 matmul/quant_batch_matmul_v3 matmul/quant_batch_matmul_v4 matmul/transpose_batch_mat_mul matmul/weight_quant_batch_matmul_v2 pooling/adaptive_avg_pool3d pooling/adaptive_max_pool3d pooling/avg_pool3_d pooling/max_pool3d_with_argmax_v2 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/723 ## 测试 蓝区门禁、黄区门禁、算子二级冒烟 ## 文档更新 无 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1091 | 6 个月前 | |
add kirin9030 ops: index matmul pooling Co-authored-by: zengjuan<zengjuan2@huawei.com> # message auto-generated for no-merge-commit merge: !1091 merge master into master add kirin9030 ops: index matmul pooling Created-by: zengjuan Commit-by: zengjuan Merged-by: cann-robot Description: ## 描述 add kirin9030 ops: index matmul pooling index/apply_top_k_top_p_with_sorted index/embedding_bag index/gather_elements_v2 index/inplace_index_add_with_sorted index/linear_index index/scatter_add_with_sorted index/scatter_list matmul/batch_mat_mul_v3 matmul/gemm_v2 matmul/mat_mul_v3 matmul/quant_batch_matmul_v3 matmul/quant_batch_matmul_v4 matmul/transpose_batch_mat_mul matmul/weight_quant_batch_matmul_v2 pooling/adaptive_avg_pool3d pooling/adaptive_max_pool3d pooling/avg_pool3_d pooling/max_pool3d_with_argmax_v2 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/723 ## 测试 蓝区门禁、黄区门禁、算子二级冒烟 ## 文档更新 无 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1091 | 6 个月前 | |
【qbmm】mxfp8 支持weightnz Co-authored-by: fengxingpan1<fengxingpan@h-partners.com> # message auto-generated for no-merge-commit merge: !1144 merge weightnz into master 【qbmm】mxfp8 支持weightnz Created-by: fengxingpan1 Commit-by: fengxingpan1 Merged-by: cann-robot Description: ## 描述 QuantBatchMatmul算子 aclnnQuantMatmulWeightNz新接口支持mxfp8 weightNz特性，提升网络推理性能 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/675 ## 测试 二级冒烟验证不影响以往功能 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1144 | 6 个月前 | |
add kirin9030 ops: index matmul pooling Co-authored-by: zengjuan<zengjuan2@huawei.com> # message auto-generated for no-merge-commit merge: !1091 merge master into master add kirin9030 ops: index matmul pooling Created-by: zengjuan Commit-by: zengjuan Merged-by: cann-robot Description: ## 描述 add kirin9030 ops: index matmul pooling index/apply_top_k_top_p_with_sorted index/embedding_bag index/gather_elements_v2 index/inplace_index_add_with_sorted index/linear_index index/scatter_add_with_sorted index/scatter_list matmul/batch_mat_mul_v3 matmul/gemm_v2 matmul/mat_mul_v3 matmul/quant_batch_matmul_v3 matmul/quant_batch_matmul_v4 matmul/transpose_batch_mat_mul matmul/weight_quant_batch_matmul_v2 pooling/adaptive_avg_pool3d pooling/adaptive_max_pool3d pooling/avg_pool3_d pooling/max_pool3d_with_argmax_v2 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/723 ## 测试 蓝区门禁、黄区门禁、算子二级冒烟 ## 文档更新 无 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1091 | 6 个月前 | |
编译优化：减小mm算子的头文件包含，提高编译速度 Co-authored-by: chen-shuai<chenshuai96@huawei.com> # message auto-generated for no-merge-commit merge: !848 merge replace_matmul_head into master 编译优化：减小mm算子的头文件包含，提高编译速度 Created-by: chen-shuai Commit-by: chen-shuai Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 减小matmul算子的头文件包含，提高编译速度 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/429 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!848 | 6 个月前 | |
编译优化：减小mm算子的头文件包含，提高编译速度 Co-authored-by: chen-shuai<chenshuai96@huawei.com> # message auto-generated for no-merge-commit merge: !848 merge replace_matmul_head into master 编译优化：减小mm算子的头文件包含，提高编译速度 Created-by: chen-shuai Commit-by: chen-shuai Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 减小matmul算子的头文件包含，提高编译速度 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/429 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!848 | 6 个月前 | |
新增FusedQuantMatmul算子 Co-authored-by: rueenov11<zhuruyi@huawei.com> # message auto-generated for no-merge-commit merge: !749 merge add_fqmm into master 新增FusedQuantMatmul算子 Created-by: rueenov11 Commit-by: rueenov11 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 新增FusedQuantMatmul算子，融合Gelu后处理，A2A3平台支持A8W8/A4W4 pertoken+perchannel/pertensor。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!749 | 7 个月前 | |
编译优化：减小mm算子的头文件包含，提高编译速度 Co-authored-by: chen-shuai<chenshuai96@huawei.com> # message auto-generated for no-merge-commit merge: !848 merge replace_matmul_head into master 编译优化：减小mm算子的头文件包含，提高编译速度 Created-by: chen-shuai Commit-by: chen-shuai Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 减小matmul算子的头文件包含，提高编译速度 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/429 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!848 | 6 个月前 | |
编译优化：减小mm算子的头文件包含，提高编译速度 Co-authored-by: chen-shuai<chenshuai96@huawei.com> # message auto-generated for no-merge-commit merge: !848 merge replace_matmul_head into master 编译优化：减小mm算子的头文件包含，提高编译速度 Created-by: chen-shuai Commit-by: chen-shuai Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 减小matmul算子的头文件包含，提高编译速度 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/429 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!848 | 6 个月前 | |
新增FusedQuantMatmul算子 Co-authored-by: rueenov11<zhuruyi@huawei.com> # message auto-generated for no-merge-commit merge: !749 merge add_fqmm into master 新增FusedQuantMatmul算子 Created-by: rueenov11 Commit-by: rueenov11 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 新增FusedQuantMatmul算子，融合Gelu后处理，A2A3平台支持A8W8/A4W4 pertoken+perchannel/pertensor。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!749 | 7 个月前 | |
add kirin9030 ops: index matmul pooling Co-authored-by: zengjuan<zengjuan2@huawei.com> # message auto-generated for no-merge-commit merge: !1091 merge master into master add kirin9030 ops: index matmul pooling Created-by: zengjuan Commit-by: zengjuan Merged-by: cann-robot Description: ## 描述 add kirin9030 ops: index matmul pooling index/apply_top_k_top_p_with_sorted index/embedding_bag index/gather_elements_v2 index/inplace_index_add_with_sorted index/linear_index index/scatter_add_with_sorted index/scatter_list matmul/batch_mat_mul_v3 matmul/gemm_v2 matmul/mat_mul_v3 matmul/quant_batch_matmul_v3 matmul/quant_batch_matmul_v4 matmul/transpose_batch_mat_mul matmul/weight_quant_batch_matmul_v2 pooling/adaptive_avg_pool3d pooling/adaptive_max_pool3d pooling/avg_pool3_d pooling/max_pool3d_with_argmax_v2 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/723 ## 测试 蓝区门禁、黄区门禁、算子二级冒烟 ## 文档更新 无 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1091 | 6 个月前 | |
代码同步 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !450 merge master into master 代码同步 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!450 | 8 个月前 | |
编译优化：减小mm算子的头文件包含，提高编译速度 Co-authored-by: chen-shuai<chenshuai96@huawei.com> # message auto-generated for no-merge-commit merge: !848 merge replace_matmul_head into master 编译优化：减小mm算子的头文件包含，提高编译速度 Created-by: chen-shuai Commit-by: chen-shuai Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 减小matmul算子的头文件包含，提高编译速度 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/429 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!848 | 6 个月前 | |
新增FusedQuantMatmul算子 Co-authored-by: rueenov11<zhuruyi@huawei.com> # message auto-generated for no-merge-commit merge: !749 merge add_fqmm into master 新增FusedQuantMatmul算子 Created-by: rueenov11 Commit-by: rueenov11 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 新增FusedQuantMatmul算子，融合Gelu后处理，A2A3平台支持A8W8/A4W4 pertoken+perchannel/pertensor。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!749 | 7 个月前 | |
优化QBMM pertoken decode性能 Co-authored-by: wuyi_huawei<wuyi36@hisilicon.com> # message auto-generated for no-merge-commit merge: !1225 merge master into master 优化QBMM pertoken decode性能 Created-by: wuyi_huawei Commit-by: wuyi_huawei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 将m<=256的KC走入pertoken增量优化模板： 1.不带batch/bias； 2.M<=256（1~256）； 3.K/N都64对齐（64~16K）的A false, Weight-ND时btrans=true/Weight-NZ时btrans=false用例； 4.每个核上只处理一个baseM ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000-->Issue #415 <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 测试2900个用例，新走进优化模板精度pass，性能收益：在大shape下收益5.5%，N<=4096下收益12%。 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。-->NA ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1225 | 6 个月前 | |
add kirin9030 ops: index matmul pooling Co-authored-by: zengjuan<zengjuan2@huawei.com> # message auto-generated for no-merge-commit merge: !1091 merge master into master add kirin9030 ops: index matmul pooling Created-by: zengjuan Commit-by: zengjuan Merged-by: cann-robot Description: ## 描述 add kirin9030 ops: index matmul pooling index/apply_top_k_top_p_with_sorted index/embedding_bag index/gather_elements_v2 index/inplace_index_add_with_sorted index/linear_index index/scatter_add_with_sorted index/scatter_list matmul/batch_mat_mul_v3 matmul/gemm_v2 matmul/mat_mul_v3 matmul/quant_batch_matmul_v3 matmul/quant_batch_matmul_v4 matmul/transpose_batch_mat_mul matmul/weight_quant_batch_matmul_v2 pooling/adaptive_avg_pool3d pooling/adaptive_max_pool3d pooling/avg_pool3_d pooling/max_pool3d_with_argmax_v2 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/723 ## 测试 蓝区门禁、黄区门禁、算子二级冒烟 ## 文档更新 无 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1091 | 6 个月前 | |
编译优化：减小mm算子的头文件包含，提高编译速度 Co-authored-by: chen-shuai<chenshuai96@huawei.com> # message auto-generated for no-merge-commit merge: !848 merge replace_matmul_head into master 编译优化：减小mm算子的头文件包含，提高编译速度 Created-by: chen-shuai Commit-by: chen-shuai Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 减小matmul算子的头文件包含，提高编译速度 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/429 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!848 | 6 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 6 个月前 | ||
| 6 个月前 | ||
| 6 个月前 | ||
| 6 个月前 | ||
| 6 个月前 | ||
| 6 个月前 | ||
| 6 个月前 | ||
| 7 个月前 | ||
| 6 个月前 | ||
| 6 个月前 | ||
| 7 个月前 | ||
| 6 个月前 | ||
| 8 个月前 | ||
| 6 个月前 | ||
| 7 个月前 | ||
| 6 个月前 | ||
| 6 个月前 | ||
| 6 个月前 |