9.1.0

cann-robot新增RadixTopK算子实现

41992fe3创建于 6月9日历史提交

文件	最后提交记录	最后更新时间
ut	新增RadixTopK算子实现 Co-authored-by: huang-wei-chen<chenhuangwei1@huawei.com> # message auto-generated for no-merge-commit merge: !3183 merge radix_top_k into master 新增RadixTopK算子实现 Created-by: huang-wei-chen Commit-by: huang-wei-chen Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 长序列TopK内存优化 x(1, 617025600), k=3179520，以该case为例，算子额外申请内存变化：18G→144M ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#1905](https://gitcode.com/cann/ops-math/issues/1905) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 500+用例精度通过 简单测试脚本如下： python import torch, torch_npu batch_list = [1, 2, 3, 4, 5, 6, 7, 8] for batch in batch_list: x = torch.randn(batch, 617025600, dtype=torch.bfloat16) values_npu, indices_npu = torch.topk(x.npu(), k=3179520, sorted=True, largest=True) values_cpu, indices_cpu = torch.topk(x, k=3179520, sorted=True, largest=True) values_match = torch.equal(values_npu.cpu(), values_cpu) print(f"batch={batch}: values_match={values_match}") ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3183	2 个月前
CMakeLists.txt	新增RadixTopK算子实现 Co-authored-by: huang-wei-chen<chenhuangwei1@huawei.com> # message auto-generated for no-merge-commit merge: !3183 merge radix_top_k into master 新增RadixTopK算子实现 Created-by: huang-wei-chen Commit-by: huang-wei-chen Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 长序列TopK内存优化 x(1, 617025600), k=3179520，以该case为例，算子额外申请内存变化：18G→144M ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#1905](https://gitcode.com/cann/ops-math/issues/1905) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 500+用例精度通过 简单测试脚本如下： python import torch, torch_npu batch_list = [1, 2, 3, 4, 5, 6, 7, 8] for batch in batch_list: x = torch.randn(batch, 617025600, dtype=torch.bfloat16) values_npu, indices_npu = torch.topk(x.npu(), k=3179520, sorted=True, largest=True) values_cpu, indices_cpu = torch.topk(x, k=3179520, sorted=True, largest=True) values_match = torch.equal(values_npu.cpu(), values_cpu) print(f"batch={batch}: values_match={values_match}") ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-math!3183	2 个月前