0
代码
代码
Issues
Pull Requests
讨论
Wiki
分析
0
cann-robotcann-robotscatterPaKvCache aclnn support unContiguous
4758ede7创建于 4 天前历史提交
文件最后提交记录最后更新时间
arch35
scatterPaKvCache aclnn support unContiguous Co-authored-by: yu_qinfei<yuqinfei1@h-partners.com> # message auto-generated for no-merge-commit merge: !5130 merge ScatterPaKvCache_support_unContiguous into master scatterPaKvCache aclnn support unContiguous Created-by: yu_qinfei Commit-by: yu_qinfei Merged-by: cann-robot Description: ## 描述 ScatterPaKvCache 增加kernel内非连续处理特性 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/2740 ## 测试 算子白盒用例，st用例已跑过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!51304 天前
scatter_pa_kv_cache.cpp
新增reshape_and_cache模式，head在第2维block_size在第三维 Co-authored-by: jisongyuan@h-partners.com<jisongyuan@h-partners.com> # message auto-generated for no-merge-commit merge: !3212 merge reshape into master 新增reshape_and_cache模式，head在第2维block_size在第三维 Created-by: ji-songyuan Commit-by: jisongyuan@h-partners.com Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 新增reshape_and_cache模式，head在第2维block_size在第三维 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 200个泛化case已经完成 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!32122 个月前
scatter_pa_kv_cache_apt.cpp
scatterPaKvCache aclnn support unContiguous Co-authored-by: yu_qinfei<yuqinfei1@h-partners.com> # message auto-generated for no-merge-commit merge: !5130 merge ScatterPaKvCache_support_unContiguous into master scatterPaKvCache aclnn support unContiguous Created-by: yu_qinfei Commit-by: yu_qinfei Merged-by: cann-robot Description: ## 描述 ScatterPaKvCache 增加kernel内非连续处理特性 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/2740 ## 测试 算子白盒用例，st用例已跑过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!51304 天前
scatter_pa_kv_cache_common.h
修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Co-authored-by: wy519<wangyang519@huawei.com> # message auto-generated for no-merge-commit merge: !1615 merge nz_5dims into master 修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Created-by: wy519 Commit-by: wy519 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1、修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出，重构相关代码逻辑并修改相关文档描述 2、修正gatherPaKvCache的文档描述的支持设备 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/778 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 泛化测试了2100个case，精度性能都没有问题 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!16153 个月前
scatter_pa_kv_cache_compress_alibi.h
修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Co-authored-by: wy519<wangyang519@huawei.com> # message auto-generated for no-merge-commit merge: !1615 merge nz_5dims into master 修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Created-by: wy519 Commit-by: wy519 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1、修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出，重构相关代码逻辑并修改相关文档描述 2、修正gatherPaKvCache的文档描述的支持设备 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/778 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 泛化测试了2100个case，精度性能都没有问题 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!16153 个月前
scatter_pa_kv_cache_compress_common.h
修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Co-authored-by: wy519<wangyang519@huawei.com> # message auto-generated for no-merge-commit merge: !1615 merge nz_5dims into master 修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Created-by: wy519 Commit-by: wy519 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1、修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出，重构相关代码逻辑并修改相关文档描述 2、修正gatherPaKvCache的文档描述的支持设备 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/778 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 泛化测试了2100个case，精度性能都没有问题 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!16153 个月前
scatter_pa_kv_cache_compress_omni.h
修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Co-authored-by: wy519<wangyang519@huawei.com> # message auto-generated for no-merge-commit merge: !1615 merge nz_5dims into master 修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Created-by: wy519 Commit-by: wy519 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1、修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出，重构相关代码逻辑并修改相关文档描述 2、修正gatherPaKvCache的文档描述的支持设备 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/778 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 泛化测试了2100个case，精度性能都没有问题 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!16153 个月前
scatter_pa_kv_cache_compress_rope.h
修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Co-authored-by: wy519<wangyang519@huawei.com> # message auto-generated for no-merge-commit merge: !1615 merge nz_5dims into master 修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Created-by: wy519 Commit-by: wy519 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1、修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出，重构相关代码逻辑并修改相关文档描述 2、修正gatherPaKvCache的文档描述的支持设备 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/778 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 泛化测试了2100个case，精度性能都没有问题 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!16153 个月前
scatter_pa_kv_cache_nhsd.h
新增reshape_and_cache模式，head在第2维block_size在第三维 Co-authored-by: jisongyuan@h-partners.com<jisongyuan@h-partners.com> # message auto-generated for no-merge-commit merge: !3212 merge reshape into master 新增reshape_and_cache模式，head在第2维block_size在第三维 Created-by: ji-songyuan Commit-by: jisongyuan@h-partners.com Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 新增reshape_and_cache模式，head在第2维block_size在第三维 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 200个泛化case已经完成 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!32122 个月前
scatter_pa_kv_cache_normal.h
修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Co-authored-by: wy519<wangyang519@huawei.com> # message auto-generated for no-merge-commit merge: !1615 merge nz_5dims into master 修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Created-by: wy519 Commit-by: wy519 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1、修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出，重构相关代码逻辑并修改相关文档描述 2、修正gatherPaKvCache的文档描述的支持设备 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/778 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 泛化测试了2100个case，精度性能都没有问题 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!16153 个月前
scatter_pa_kv_cache_normal_common.h
修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Co-authored-by: wy519<wangyang519@huawei.com> # message auto-generated for no-merge-commit merge: !1615 merge nz_5dims into master 修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Created-by: wy519 Commit-by: wy519 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1、修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出，重构相关代码逻辑并修改相关文档描述 2、修正gatherPaKvCache的文档描述的支持设备 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/778 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 泛化测试了2100个case，精度性能都没有问题 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!16153 个月前
scatter_pa_kv_cache_normal_nz_fully_load.h
修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Co-authored-by: wy519<wangyang519@huawei.com> # message auto-generated for no-merge-commit merge: !1615 merge nz_5dims into master 修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Created-by: wy519 Commit-by: wy519 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1、修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出，重构相关代码逻辑并修改相关文档描述 2、修正gatherPaKvCache的文档描述的支持设备 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/778 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 泛化测试了2100个case，精度性能都没有问题 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!16153 个月前
scatter_pa_kv_cache_normal_nz_not_fully_load.h
修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Co-authored-by: wy519<wangyang519@huawei.com> # message auto-generated for no-merge-commit merge: !1615 merge nz_5dims into master 修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Created-by: wy519 Commit-by: wy519 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1、修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出，重构相关代码逻辑并修改相关文档描述 2、修正gatherPaKvCache的文档描述的支持设备 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/778 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 泛化测试了2100个case，精度性能都没有问题 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!16153 个月前
scatter_pa_kv_cache_normal_siso.h
修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Co-authored-by: wy519<wangyang519@huawei.com> # message auto-generated for no-merge-commit merge: !1615 merge nz_5dims into master 修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出 Created-by: wy519 Commit-by: wy519 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1、修改scatterPaKvCache的tiling校验以支持cacheMode为pa_nz时cache的5维输入/输出，重构相关代码逻辑并修改相关文档描述 2、修正gatherPaKvCache的文档描述的支持设备 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/778 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 泛化测试了2100个case，精度性能都没有问题 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!16153 个月前