Star0
0
代码
代码
Issues
Pull Requests
Actions
项目讨论
Wiki
分析
Star0
0
cann-robotcann-robotmatmul类算子kernel入口添加InitSocState初始化寄存器状态
99385ac2创建于 6月23日历史提交
文件最后提交记录最后更新时间
arch35
新增FlatQuant算子dst_type_max参数支持 Co-authored-by: fbbccc<fangbochen@huawei.com> # message auto-generated for no-merge-commit merge: !3707 merge FQ into master 新增FlatQuant算子dst_type_max参数支持 Created-by: fbbccc Commit-by: fbbccc Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 量化算子增加MaxValue输入，提升数据量化精度。增加MaxValue输入，作为数据格式的最大值，用来计算缩放因子，从而提升数据量化精度。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/2279 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ttk、aclnn、torch、静态图 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 更新了aclnnFlatQuantV2.md文件。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3707
5 个月前
flat_quant.cpp
FlatQuant性能优化、新增FP4类型 Co-authored-by: chenhaijie1423<chenhaijie2@h-partners.com> # message auto-generated for no-merge-commit merge: !940 merge master into master FlatQuant性能优化、新增FP4类型 Created-by: chenhaijie1423 Commit-by: chenhaijie1423 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!940
8 个月前
flat_quant_apt.cpp
matmul类算子kernel入口添加InitSocState初始化寄存器状态 Co-authored-by: y00943198<yangtao363@huawei.com> # message auto-generated for no-merge-commit merge: !6195 merge master into master matmul类算子kernel入口添加InitSocState初始化寄存器状态 Created-by: AlbertYoung192 Commit-by: y00943198 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 当前存在部分算子计算过程中，kernel内修改硬件寄存器状态且使用后未还原，引发后续算子计算过程中未知错误的问题。在算子kernel入口添加InitSocState，重置硬件寄存器状态，规避上述问题。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3488 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地自验证、二级冒烟 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!6195
3 个月前
flat_quant_cube.h
FlatQuant修复大shape内存检测问题 Co-authored-by: chenhaijie1423<chenhaijie2@h-partners.com> # message auto-generated for no-merge-commit merge: !3989 merge master into master FlatQuant修复大shape内存检测问题 Created-by: chenhaijie1423 Commit-by: chenhaijie1423 Merged-by: cann-robot Description: ## 描述 FlatQuant修复大shape内存检测问题 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/2172 ## 测试 用单算子OOM包验证1400条泛化用例，功能和精度全部OK ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3989
5 个月前
flat_quant_cube_one.h
FlatQuant修复大shape内存检测问题 Co-authored-by: chenhaijie1423<chenhaijie2@h-partners.com> # message auto-generated for no-merge-commit merge: !3989 merge master into master FlatQuant修复大shape内存检测问题 Created-by: chenhaijie1423 Commit-by: chenhaijie1423 Merged-by: cann-robot Description: ## 描述 FlatQuant修复大shape内存检测问题 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/2172 ## 测试 用单算子OOM包验证1400条泛化用例，功能和精度全部OK ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3989
5 个月前
flat_quant_high.h
代码同步 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !450 merge master into master 代码同步 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!450
9 个月前
flat_quant_vec.h
修复FlatQuant内存检测问题+精度问题 Co-authored-by: chenhaijie1423<chenhaijie2@h-partners.com> # message auto-generated for no-merge-commit merge: !3935 merge master into master 修复FlatQuant内存检测问题+精度问题 Created-by: chenhaijie1423 Commit-by: chenhaijie1423 Merged-by: cann-robot Description: ## 描述 修复FlatQuant内存检测问题+精度问题 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/2152 ## 测试 用单算子OOM包验证1400条泛化用例，功能和精度全部OK ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3935
5 个月前
flat_quant_vec_one.h
修复FlatQuant内存检测问题+精度问题 Co-authored-by: chenhaijie1423<chenhaijie2@h-partners.com> # message auto-generated for no-merge-commit merge: !3935 merge master into master 修复FlatQuant内存检测问题+精度问题 Created-by: chenhaijie1423 Commit-by: chenhaijie1423 Merged-by: cann-robot Description: ## 描述 修复FlatQuant内存检测问题+精度问题 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/2152 ## 测试 用单算子OOM包验证1400条泛化用例，功能和精度全部OK ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3935
5 个月前
tensor_utils.h
修复FlatQuant内存检测问题+精度问题 Co-authored-by: chenhaijie1423<chenhaijie2@h-partners.com> # message auto-generated for no-merge-commit merge: !3935 merge master into master 修复FlatQuant内存检测问题+精度问题 Created-by: chenhaijie1423 Commit-by: chenhaijie1423 Merged-by: cann-robot Description: ## 描述 修复FlatQuant内存检测问题+精度问题 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/2152 ## 测试 用单算子OOM包验证1400条泛化用例，功能和精度全部OK ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3935
5 个月前