master

cann-robot修改A2/A3blockSize范围

20cb8019创建于 4月7日历史提交

文件	最后提交记录	最后更新时间
blitz_sparse_attention	doc Tools工具扫描问题修改 Co-authored-by: gitee-yanglulu<yanglulul@h-partners.com> # message auto-generated for no-merge-commit merge: !3443 merge master into master doc Tools工具扫描问题修改 Created-by: gitee-yanglulu Commit-by: gitee-yanglulu Merged-by: cann-robot Description: doc Tools工具扫描问题修改 See merge request: cann/ops-transformer!3443	5 个月前
common	将kernel_event.h和kernel_macros.h的引用改成kernel_operator.h Co-authored-by: hblnb<huangbolin3@huawei.com> # message auto-generated for no-merge-commit merge: !3043 merge kernel_event_h into master 将kernel_event.h和kernel_macros.h的引用改成kernel_operator.h Created-by: hblnb Commit-by: hblnb Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!3043	6 个月前
fused_infer_attention_score	修改A2/A3blockSize范围 Co-authored-by: linengyao<linengyao@huawei.com> # message auto-generated for no-merge-commit merge: !3785 merge modify_block_size_obp into master 修改A2/A3blockSize范围 Created-by: linengyao Commit-by: linengyao Merged-by: cann-robot Description: ## 描述 修改A2/A3 blockSize所支持的范围，修改如下： 1、GQA非量化、Q_S>1,、QKD=VD≠64/128,blockSize需要128对齐，∈[128,512] 2、MLA情况/GQA，QKD=VD=64下,blockSize需要16对齐，∈[16,1024] 3、GQA非量化、Q_S=1,、QKD=VD≠64/128,blockSize需要16对齐，∈[16,512] ## 关联的Issue [#1718](https://gitcode.com/cann/ops-transformer/issues/1718) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!3785	5 个月前
nsa_compress_attention_infer	【NSA算子性能优化】importance score计算性能优化 Co-authored-by: d00477216<dingxu7@huawei.com> # message auto-generated for no-merge-commit merge: !2615 merge opt_nsa into master 【NSA算子性能优化】importance score计算性能优化 Created-by: xdnjust Commit-by: d00477216 Merged-by: cann-robot Description: ## 描述 针对NSA算子的importance score计算流程进行的性能优化 ## 关联的Issue Issue [#1104](https://gitcode.com/cann/ops-transformer/issues/1104) ## 测试 精度泛化测试完成：  性能测试：  ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [x] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!2615	5 个月前
quant_sals_indexer	SALS V1 Co-authored-by: ChengjiaWu<wuchengjia1@h-partners.com> # message auto-generated for no-merge-commit merge: !3711 merge master into master SALS V1 Created-by: mayafei Commit-by: ChengjiaWu Merged-by: cann-robot Description: ## 描述 SALS实践：Quant Sals Indexer and Sparse Flash Attention Antiquant ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/1684 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!3711	5 个月前
quant_sals_indexer_metadata	SALS V1 Co-authored-by: ChengjiaWu<wuchengjia1@h-partners.com> # message auto-generated for no-merge-commit merge: !3711 merge master into master SALS V1 Created-by: mayafei Commit-by: ChengjiaWu Merged-by: cann-robot Description: ## 描述 SALS实践：Quant Sals Indexer and Sparse Flash Attention Antiquant ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/1684 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!3711	5 个月前
sparse_flash_attention_antiquant	SALS V1 Co-authored-by: ChengjiaWu<wuchengjia1@h-partners.com> # message auto-generated for no-merge-commit merge: !3711 merge master into master SALS V1 Created-by: mayafei Commit-by: ChengjiaWu Merged-by: cann-robot Description: ## 描述 SALS实践：Quant Sals Indexer and Sparse Flash Attention Antiquant ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/1684 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!3711	5 个月前
sparse_flash_attention_antiquant_metadata	SALS V1 Co-authored-by: ChengjiaWu<wuchengjia1@h-partners.com> # message auto-generated for no-merge-commit merge: !3711 merge master into master SALS V1 Created-by: mayafei Commit-by: ChengjiaWu Merged-by: cann-robot Description: ## 描述 SALS实践：Quant Sals Indexer and Sparse Flash Attention Antiquant ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/1684 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!3711	5 个月前
typhoon_mla	doc Tools工具扫描问题修改 Co-authored-by: gitee-yanglulu<yanglulul@h-partners.com> # message auto-generated for no-merge-commit merge: !3432 merge master into master doc Tools工具扫描问题修改 Created-by: gitee-yanglulu Commit-by: gitee-yanglulu Merged-by: cann-robot Description: doc Tools工具扫描问题修改 See merge request: cann/ops-transformer!3432	5 个月前
CMakeLists.txt	Capability enhancement: noaicpu option is supported. Co-authored-by: huang-chuhong<huangchuhong1@h-partners.com> # message auto-generated for no-merge-commit merge: !1595 merge master into master Capability enhancement: noaicpu option is supported. Created-by: huang-chuhong Commit-by: huang-chuhong Merged-by: cann-robot Description: ## 描述 Capability enhancement: noaicpu option is supported. 问题背景：mc62cm12a 场景是不需要用到毕昇编译器的，因此构建时并没有安装毕昇编译器的任何东西，但aicpu(包括tiling下沉)因为涉及device侧运行，需要用到毕昇的交叉工具链，所以会报错工具链找不到。 解决方案：因为mc62cm12a 不需要执行aicpu算子，且不支持跑aicpu算子，因此利用--noaicpu参数选项，在构建aicpu算子的时候进行kernel隔离。 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/774 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!1595	7 个月前