| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
qbmm int4 非对称量化 Co-authored-by: bynshard<zhangbingshuai@huawei.com> # message auto-generated for no-merge-commit merge: !2281 merge qbmm-int4-kcg into master qbmm int4 非对称量化 Created-by: bynshard Commit-by: bynshard Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 补齐A5上QBMM支持int4输入的K-G 非对称量化,A3上有该功能。 A5 上芯片不支持的 int4,所以方案为: 1. workspace计算时多分配一个存放int8 x1x2的空间 2. 新增kernel代码使得int4输入先转化成half再转化成int8 3. 转化成int8之后复用之前的QBMM代码计算 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/1745 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 进行了回归测试 对该功能在的A5 进行了测试,通过门槛用例 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> aclnnQuantMatmulV5.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!2281 | 4 个月前 | |
代码同步 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !450 merge master into master 代码同步 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!450 | 8 个月前 | |
修复qbmmV4perblock kernal流水同步错误和tilingkey拷贝错误 Co-authored-by: HuangKun8682<huangkun61@huawei.com> # message auto-generated for no-merge-commit merge: !3430 merge personal_fix_qbmmv4_releaseEventId into master 修复qbmmV4perblock kernal流水同步错误和tilingkey拷贝错误 Created-by: HuangKun8682 Commit-by: HuangKun8682 Merged-by: cann-robot Description: ## 描述 修复quant_batch_matmul_v4中重复releaseEventId和未releaseEventId问题 修复compute函数中设置错误的eventId,导致无限等待的情况 修复qbmmV4perblock tiling拷贝二级指针的bug ## 关联的Issue issue [#1607](https://gitcode.com/cann/ops-nn/issues/1607) ## 测试 添加example覆盖qbmmv4算子perblock 冒烟 ## 文档更新 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!3430 | 4 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 4 个月前 | ||
| 8 个月前 | ||
| 4 个月前 |