| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
fix dst type max in dynamciquant Co-authored-by: transformer910<tianye82@h-partners.com> # message auto-generated for no-merge-commit merge: !2607 merge br_0305quant into master fix dst type max in dynamciquant Created-by: transformer910 Commit-by: transformer910 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> HIFloat8量化场景下，dynamic_quant_v2将输入量化后的值域范围会接近hifloat8的边界值。由于hif8是动态精度，在边界值时表示的精度较低。如果输入的数据范围不大，支持新增 dst_type_max参数，将量化后的结果范围限制在精度较高的范围内。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> Issue [#1680](https://gitcode.com/cann/ops-nn/issues/1680) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地验证通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> quant/dynamic_quant/docs/aclnnDynamicQuantV4.md quant/dynamic_quant_v2/README.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!2607 | 4 个月前 | |
修复dynamicquant算子dst_type_max取值错误导致的功能问题 Co-authored-by: transformer910<tianye82@h-partners.com> # message auto-generated for no-merge-commit merge: !3355 merge br_0330_codecheck into master 修复dynamicquant算子dst_type_max取值错误导致的功能问题 Created-by: transformer910 Commit-by: transformer910 Merged-by: cann-robot Description: ## 描述 1. dynamicquant在Ascend950上dst_type_max取值错误导致计算结果有误，修复精度问题。 2. 部分魔鬼数字整改 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/1884 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地验证通过, ST、冒烟执行通过。 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3355 | 4 个月前 | |
修复dynamicquant算子dst_type_max取值错误导致的功能问题 Co-authored-by: transformer910<tianye82@h-partners.com> # message auto-generated for no-merge-commit merge: !3355 merge br_0330_codecheck into master 修复dynamicquant算子dst_type_max取值错误导致的功能问题 Created-by: transformer910 Commit-by: transformer910 Merged-by: cann-robot Description: ## 描述 1. dynamicquant在Ascend950上dst_type_max取值错误导致计算结果有误，修复精度问题。 2. 部分魔鬼数字整改 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/1884 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地验证通过, ST、冒烟执行通过。 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3355 | 4 个月前 | |
修复dynamicquant算子dst_type_max取值错误导致的功能问题 Co-authored-by: transformer910<tianye82@h-partners.com> # message auto-generated for no-merge-commit merge: !3355 merge br_0330_codecheck into master 修复dynamicquant算子dst_type_max取值错误导致的功能问题 Created-by: transformer910 Commit-by: transformer910 Merged-by: cann-robot Description: ## 描述 1. dynamicquant在Ascend950上dst_type_max取值错误导致计算结果有误，修复精度问题。 2. 部分魔鬼数字整改 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/1884 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地验证通过, ST、冒烟执行通过。 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3355 | 4 个月前 | |
修复dynamicquant算子dst_type_max取值错误导致的功能问题 Co-authored-by: transformer910<tianye82@h-partners.com> # message auto-generated for no-merge-commit merge: !3355 merge br_0330_codecheck into master 修复dynamicquant算子dst_type_max取值错误导致的功能问题 Created-by: transformer910 Commit-by: transformer910 Merged-by: cann-robot Description: ## 描述 1. dynamicquant在Ascend950上dst_type_max取值错误导致计算结果有误，修复精度问题。 2. 部分魔鬼数字整改 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/1884 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地验证通过, ST、冒烟执行通过。 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3355 | 4 个月前 | |
修复dynamicquant算子dst_type_max取值错误导致的功能问题 Co-authored-by: transformer910<tianye82@h-partners.com> # message auto-generated for no-merge-commit merge: !3355 merge br_0330_codecheck into master 修复dynamicquant算子dst_type_max取值错误导致的功能问题 Created-by: transformer910 Commit-by: transformer910 Merged-by: cann-robot Description: ## 描述 1. dynamicquant在Ascend950上dst_type_max取值错误导致计算结果有误，修复精度问题。 2. 部分魔鬼数字整改 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/1884 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地验证通过, ST、冒烟执行通过。 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3355 | 4 个月前 | |
修复dynamicquant算子dst_type_max取值错误导致的功能问题 Co-authored-by: transformer910<tianye82@h-partners.com> # message auto-generated for no-merge-commit merge: !3355 merge br_0330_codecheck into master 修复dynamicquant算子dst_type_max取值错误导致的功能问题 Created-by: transformer910 Commit-by: transformer910 Merged-by: cann-robot Description: ## 描述 1. dynamicquant在Ascend950上dst_type_max取值错误导致计算结果有误，修复精度问题。 2. 部分魔鬼数字整改 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/1884 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地验证通过, ST、冒烟执行通过。 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3355 | 4 个月前 | |
dynamic_quant_v2算子新增pertensor量化模式的groupIndex支持 Co-authored-by: LiWeiJian16<liweijian16@huawei.com> # message auto-generated for no-merge-commit merge: !3976 merge dynamic_quant_moe_pertensor into master dynamic_quant_v2算子新增pertensor量化模式的groupIndex支持 Created-by: liweijian16 Commit-by: liweijian16;LiWeiJian16 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 本次PR扩展了动态量化算子对MoE（Mixture of Experts）模型场景的支持，核心解决了算子原有pertensor（按张量）量化模式无法处理分组索引（group_index）的问题。通过本次修改，动态量化算子能够正确支持MoE架构下按张量进行全局缩放因子计算的量化需求，从而满足更复杂模型的量化任务。 修改方案描述 修改方案分为框架层和内核实现层。在框架层，移除了输入校验中对pertensor模式不支持group_index的限制，并新增了TPL_MOE_PER_TENSOR_FULL_LOAD和TPL_MOE_PER_TENSOR_LARGE_SHAPE两种量化模式枚举，扩展了内核分发逻辑以支持新模式。在内核实现层，新增了两个针对MoE场景优化的高性能量化内核：DynamicQuantRegbaseMoeFullLoadPertensor和DynamicQuantMoeLargeShapePertensor。它们均采用向量化指令优化，支持分组平滑，通过分阶段计算全局缩放因子和偏移量，并最终完成数据量化输出，以高效处理不同数据规模的MoE模型。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/2281 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - [x] 泛化用例 （500条） - [x] 网络用例 （92条） - [x] 二级冒烟 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3976 | 3 个月前 | |
修复dynamicquant算子dst_type_max取值错误导致的功能问题 Co-authored-by: transformer910<tianye82@h-partners.com> # message auto-generated for no-merge-commit merge: !3355 merge br_0330_codecheck into master 修复dynamicquant算子dst_type_max取值错误导致的功能问题 Created-by: transformer910 Commit-by: transformer910 Merged-by: cann-robot Description: ## 描述 1. dynamicquant在Ascend950上dst_type_max取值错误导致计算结果有误，修复精度问题。 2. 部分魔鬼数字整改 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/1884 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地验证通过, ST、冒烟执行通过。 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3355 | 4 个月前 | |
dynamic_quant_v2算子新增pertensor量化模式的groupIndex支持 Co-authored-by: LiWeiJian16<liweijian16@huawei.com> # message auto-generated for no-merge-commit merge: !3976 merge dynamic_quant_moe_pertensor into master dynamic_quant_v2算子新增pertensor量化模式的groupIndex支持 Created-by: liweijian16 Commit-by: liweijian16;LiWeiJian16 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 本次PR扩展了动态量化算子对MoE（Mixture of Experts）模型场景的支持，核心解决了算子原有pertensor（按张量）量化模式无法处理分组索引（group_index）的问题。通过本次修改，动态量化算子能够正确支持MoE架构下按张量进行全局缩放因子计算的量化需求，从而满足更复杂模型的量化任务。 修改方案描述 修改方案分为框架层和内核实现层。在框架层，移除了输入校验中对pertensor模式不支持group_index的限制，并新增了TPL_MOE_PER_TENSOR_FULL_LOAD和TPL_MOE_PER_TENSOR_LARGE_SHAPE两种量化模式枚举，扩展了内核分发逻辑以支持新模式。在内核实现层，新增了两个针对MoE场景优化的高性能量化内核：DynamicQuantRegbaseMoeFullLoadPertensor和DynamicQuantMoeLargeShapePertensor。它们均采用向量化指令优化，支持分组平滑，通过分阶段计算全局缩放因子和偏移量，并最终完成数据量化输出，以高效处理不同数据规模的MoE模型。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/2281 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - [x] 泛化用例 （500条） - [x] 网络用例 （92条） - [x] 二级冒烟 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3976 | 3 个月前 | |
修复dynamicquant算子dst_type_max取值错误导致的功能问题 Co-authored-by: transformer910<tianye82@h-partners.com> # message auto-generated for no-merge-commit merge: !3355 merge br_0330_codecheck into master 修复dynamicquant算子dst_type_max取值错误导致的功能问题 Created-by: transformer910 Commit-by: transformer910 Merged-by: cann-robot Description: ## 描述 1. dynamicquant在Ascend950上dst_type_max取值错误导致计算结果有误，修复精度问题。 2. 部分魔鬼数字整改 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/1884 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地验证通过, ST、冒烟执行通过。 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3355 | 4 个月前 | |
修复dynamicquantv2 warning提示 Co-authored-by: zhouliang<zhouliang88@huawei.com> # message auto-generated for no-merge-commit merge: !3640 merge master into master 修复dynamicquantv2 warning提示 Created-by: zhou-liang1027 Commit-by: zhouliang Merged-by: cann-robot Description: ## 描述 DynamicQuantV2算子在perchannel场景执行时会有warning提示 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/2000 ## 测试 1、算子包编译成功，部署成功，单算子执行无warning提示 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3640 | 3 个月前 | |
fix dst type max in dynamciquant Co-authored-by: transformer910<tianye82@h-partners.com> # message auto-generated for no-merge-commit merge: !2607 merge br_0305quant into master fix dst type max in dynamciquant Created-by: transformer910 Commit-by: transformer910 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> HIFloat8量化场景下，dynamic_quant_v2将输入量化后的值域范围会接近hifloat8的边界值。由于hif8是动态精度，在边界值时表示的精度较低。如果输入的数据范围不大，支持新增 dst_type_max参数，将量化后的结果范围限制在精度较高的范围内。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> Issue [#1680](https://gitcode.com/cann/ops-nn/issues/1680) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地验证通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> quant/dynamic_quant/docs/aclnnDynamicQuantV4.md quant/dynamic_quant_v2/README.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!2607 | 4 个月前 | |
fix dst type max in dynamciquant Co-authored-by: transformer910<tianye82@h-partners.com> # message auto-generated for no-merge-commit merge: !2607 merge br_0305quant into master fix dst type max in dynamciquant Created-by: transformer910 Commit-by: transformer910 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> HIFloat8量化场景下，dynamic_quant_v2将输入量化后的值域范围会接近hifloat8的边界值。由于hif8是动态精度，在边界值时表示的精度较低。如果输入的数据范围不大，支持新增 dst_type_max参数，将量化后的结果范围限制在精度较高的范围内。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> Issue [#1680](https://gitcode.com/cann/ops-nn/issues/1680) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地验证通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> quant/dynamic_quant/docs/aclnnDynamicQuantV4.md quant/dynamic_quant_v2/README.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!2607 | 4 个月前 | |
dynamic_quant_v2算子新增pertensor量化模式的groupIndex支持 Co-authored-by: LiWeiJian16<liweijian16@huawei.com> # message auto-generated for no-merge-commit merge: !3976 merge dynamic_quant_moe_pertensor into master dynamic_quant_v2算子新增pertensor量化模式的groupIndex支持 Created-by: liweijian16 Commit-by: liweijian16;LiWeiJian16 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 本次PR扩展了动态量化算子对MoE（Mixture of Experts）模型场景的支持，核心解决了算子原有pertensor（按张量）量化模式无法处理分组索引（group_index）的问题。通过本次修改，动态量化算子能够正确支持MoE架构下按张量进行全局缩放因子计算的量化需求，从而满足更复杂模型的量化任务。 修改方案描述 修改方案分为框架层和内核实现层。在框架层，移除了输入校验中对pertensor模式不支持group_index的限制，并新增了TPL_MOE_PER_TENSOR_FULL_LOAD和TPL_MOE_PER_TENSOR_LARGE_SHAPE两种量化模式枚举，扩展了内核分发逻辑以支持新模式。在内核实现层，新增了两个针对MoE场景优化的高性能量化内核：DynamicQuantRegbaseMoeFullLoadPertensor和DynamicQuantMoeLargeShapePertensor。它们均采用向量化指令优化，支持分组平滑，通过分阶段计算全局缩放因子和偏移量，并最终完成数据量化输出，以高效处理不同数据规模的MoE模型。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/2281 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - [x] 泛化用例 （500条） - [x] 网络用例 （92条） - [x] 二级冒烟 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 不涉及文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!3976 | 3 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 4 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 3 个月前 | ||
| 4 个月前 | ||
| 3 个月前 | ||
| 4 个月前 | ||
| 3 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 3 个月前 |