9.1.0

cann-robot修复dynamic_quant精度问题

2b47f6a0创建于 4月3日历史提交

文件	最后提交记录	最后更新时间
CMakeLists.txt	修复dynamic_quant精度问题 Co-authored-by: cuijie25<cuijie24@h-partners.com> # message auto-generated for no-merge-commit merge: !1047 merge dynamic_quant_310p into master 修复dynamic_quant精度问题 Created-by: cuijie25 Commit-by: cuijie25 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 代码中存在单个指令处理时数据溢出的问题，当单个指令数据溢出，切分处理数据 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> 关联issue [#546](https://gitcode.com/cann/ops-nn/issues/546) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。-->  ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1047	6 个月前
dynamic_quant_tiling_def.h	修复dynamic_quant精度问题 Co-authored-by: cuijie25<cuijie24@h-partners.com> # message auto-generated for no-merge-commit merge: !3450 merge master_fix into master 修复dynamic_quant精度问题 Created-by: cuijie25 Commit-by: cuijie25 Merged-by: cann-robot Description: ## 描述 dynamic_quant 在arch2002上跑特定shape(117,9216)时精度会失败，经定位问题为特定尾轴时，取scale值未增加初始偏移量，增加初始偏移量后精度pass <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> 管理Issue #1883 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 全量精度测试总计1309条用例pass ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3450	4 个月前
test_dynamic_quant.cpp	修复dynamic_quant精度问题 Co-authored-by: cuijie25<cuijie24@h-partners.com> # message auto-generated for no-merge-commit merge: !3450 merge master_fix into master 修复dynamic_quant精度问题 Created-by: cuijie25 Commit-by: cuijie25 Merged-by: cann-robot Description: ## 描述 dynamic_quant 在arch2002上跑特定shape(117,9216)时精度会失败，经定位问题为特定尾轴时，取scale值未增加初始偏移量，增加初始偏移量后精度pass <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> 管理Issue #1883 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 全量精度测试总计1309条用例pass ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3450	4 个月前
test_dynamic_quant_dav_2002.cpp	修复dynamic_quant精度问题 Co-authored-by: cuijie25<cuijie24@h-partners.com> # message auto-generated for no-merge-commit merge: !1047 merge dynamic_quant_310p into master 修复dynamic_quant精度问题 Created-by: cuijie25 Commit-by: cuijie25 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 代码中存在单个指令处理时数据溢出的问题，当单个指令数据溢出，切分处理数据 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> 关联issue [#546](https://gitcode.com/cann/ops-nn/issues/546) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。-->  ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!1047	6 个月前