| DualLevelQuantBatchMatmul算子资料 Co-authored-by: renzetao<renzetao2@huawei.com> # message auto-generated for no-merge-commit merge: !1285 merge a4w4data into master DualLevelQuantBatchMatmul算子资料 Created-by: renzetao Commit-by: renzetao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> DualLevelQuantBatchMatmul算子资料: 1. 资料README.md 2. aclnn资料:aclnnDualLevelQuantMatmulWeightNz.md 3. aclnn调式示例:test_aclnn_dual_level_quant_matmul_weight_nz.cpp ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#724](https://gitcode.com/cann/ops-nn/issues/724) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> examples中的aclnn调用示例本地编译验证无误 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 1. README.md 2. aclnnDualLevelQuantMatmulWeightNz.md 3. op_api_list.md 4. op_list.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1285 | 6 个月前 |
| DualLevelQuantBatchMatmul算子资料 Co-authored-by: renzetao<renzetao2@huawei.com> # message auto-generated for no-merge-commit merge: !1285 merge a4w4data into master DualLevelQuantBatchMatmul算子资料 Created-by: renzetao Commit-by: renzetao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> DualLevelQuantBatchMatmul算子资料: 1. 资料README.md 2. aclnn资料:aclnnDualLevelQuantMatmulWeightNz.md 3. aclnn调式示例:test_aclnn_dual_level_quant_matmul_weight_nz.cpp ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#724](https://gitcode.com/cann/ops-nn/issues/724) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> examples中的aclnn调用示例本地编译验证无误 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 1. README.md 2. aclnnDualLevelQuantMatmulWeightNz.md 3. op_api_list.md 4. op_list.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1285 | 6 个月前 |
| A4W4 二级量化vector+cube部分 Co-authored-by: renzetao<renzetao2@huawei.com> Co-authored-by: chaoying-zhang<zhangchaoying@huawei.com> # message auto-generated for no-merge-commit merge: !1141 merge A4W4 into master A4W4 二级量化vector+cube部分 Created-by: renzetao Commit-by: renzetao;chaoying-zhang Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> dual_level_quant_batch_matmul算子a4w4 cube + vector部分实现 1. cube_compute_tools: 实现mte1、mmad和fixp 2. cube_cumpte: 实现buffer初始化、mte2、mmad、和同步等cube计算功能 3. tool_arch35: 公共方法 4. vector部分的代码实现 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#603](https://gitcode.com/cann/ops-nn/issues/603) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 算子网络用例 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 无 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1141 | 6 个月前 |
| DualLevelQuantBatchMatmul SocVersion整改代码合入 Co-authored-by: sunduiyang<sunduiyang@huawei.com> # message auto-generated for no-merge-commit merge: !1940 merge 9.0.0-beta.1_socversion into 9.0.0-beta.1 DualLevelQuantBatchMatmul SocVersion整改代码合入 Created-by: sunduiyang Commit-by: sunduiyang Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> DualLevelQuantBatchMatmul tiling中不再依赖SocVersion,仅使用NpuArch。代码合入。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#1068](https://gitcode.com/cann/ops-nn/issues/1068) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地UT已验证通过。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:代码整改,不影响功能 See merge request: cann/ops-nn!1940 | 6 个月前 |
| DualLevelQuantBatchMatmul提高代码规范性 Co-authored-by: sunduiyang<sunduiyang@huawei.com> # message auto-generated for no-merge-commit merge: !1309 merge dlqbmm_revise into master DualLevelQuantBatchMatmul提高代码规范性 Created-by: sunduiyang Commit-by: sunduiyang Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 规范化DualLevelQuantBatchMatmul算子的tiling部分的编码,主要修改如下: 1. LOG使用context打印算子信息而不是opName,能够在日志中打出opName和opType;tiling核心计算逻辑与GE数据结构解耦,不使用context。 2. 改善tiling校验不通过时提示信息的可读性。 3. 使用新的tiling注册接口。 4. 删除不必要的代码,简化代码逻辑。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 关联Issue [#686](https://gitcode.com/cann/ops-nn/issues/686) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 代码改动不影响功能,本地已验证通过。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:代码规范化 See merge request: cann/ops-nn!1309 | 6 个月前 |
| bmm ut补充修复性能问题 Co-authored-by: huangkejie1647<huangkejie3@huawei.com> # message auto-generated for no-merge-commit merge: !1198 merge fix_bmm_ut into master bmm ut补充修复性能问题 Created-by: huangkejie1647 Commit-by: huangkejie1647 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> bmm ut补充修复 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> Issue [#644](https://gitcode.com/cann/ops-nn/issues/644) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 本地验证成功 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ✅] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1198 | 6 个月前 |
| A4W4 二级量化vector+cube部分 Co-authored-by: renzetao<renzetao2@huawei.com> Co-authored-by: chaoying-zhang<zhangchaoying@huawei.com> # message auto-generated for no-merge-commit merge: !1141 merge A4W4 into master A4W4 二级量化vector+cube部分 Created-by: renzetao Commit-by: renzetao;chaoying-zhang Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> dual_level_quant_batch_matmul算子a4w4 cube + vector部分实现 1. cube_compute_tools: 实现mte1、mmad和fixp 2. cube_cumpte: 实现buffer初始化、mte2、mmad、和同步等cube计算功能 3. tool_arch35: 公共方法 4. vector部分的代码实现 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#603](https://gitcode.com/cann/ops-nn/issues/603) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 算子网络用例 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 无 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1141 | 6 个月前 |
| DualLevelQuantBatchMatmul算子资料 Co-authored-by: renzetao<renzetao2@huawei.com> # message auto-generated for no-merge-commit merge: !1285 merge a4w4data into master DualLevelQuantBatchMatmul算子资料 Created-by: renzetao Commit-by: renzetao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> DualLevelQuantBatchMatmul算子资料: 1. 资料README.md 2. aclnn资料:aclnnDualLevelQuantMatmulWeightNz.md 3. aclnn调式示例:test_aclnn_dual_level_quant_matmul_weight_nz.cpp ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#724](https://gitcode.com/cann/ops-nn/issues/724) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> examples中的aclnn调用示例本地编译验证无误 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 1. README.md 2. aclnnDualLevelQuantMatmulWeightNz.md 3. op_api_list.md 4. op_list.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1285 | 6 个月前 |