| Files | Last commit | Last update |
|---|---|---|
mxfp8支持D=192 Co-authored-by: liaoxinyuan<liaoxinyuan3@huawei.com> # message auto-generated for no-merge-commit merge: !15200 merge master into master mxfp8支持D=192 Created-by: liaoxinyuan Commit-by: liaoxinyuan Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!15200 | 6 days ago | |
fix(quant_flash_attn): 修复静态编译路径下 v_tail 紧凑 stride 校验误判与错误步长下发 Co-authored-by: yang-zhipeng19<yangzhipeng19@huawei.com> # message auto-generated for no-merge-commit merge: !15489 merge fix/qfa-vtail-compact-stride into master fix(quant_flash_attn): 修复静态编译路径下 v_tail 紧凑 stride 校验误判与错误步长下发 Created-by: yang-zhipeng19 Commit-by: yang-zhipeng19 Merged-by: cann-robot Description: ## 描述 GE 静态编译路径（aclgraph 等静态图场景）对完全连续的张量只下发一维 stride {1}（紧凑写法），表示整体连续。这带来两处问题，本 PR 一并修复。 ### 1. 连续性校验误判（CheckTensorContiguous） QfaBaseChecker::CheckTensorContiguous 原先按 tensorDimNum 逐维比较 stride，在 stride 只有一维时读到未下发的维度会取到默认值 0，从而把连续的 v_tail 误判为“非连续轴越界”，导致 tiling 阶段被拒绝。 修复方式：在逐维比较前，先识别 {1} 紧凑写法并按连续放行。其余形态（含只填 dim_num 但数组值真实的截断写法）沿用原有逐维比较逻辑，最内轴非连续等非法输入仍会被拦截。 ### 2. tiling 下发错误步长（SetQFATilingData） 仅放行校验还不够：tiling 直接读取 GetStride(0) / GetStride(1) 会得到 bnStride = 1、n2Stride = 0。kernel 侧 GmLayout<PA_BnNBsD> / GmLayout<PA_NZ> 对两个 stride 是分别判 0 的（if (bn2stride != 0) bnStride = bn2stride;），bnStride = 1 会被当作真实值使用，GetOffset 中 blockIdx * GetStrideBlockNum() 按 block 寻址时错位，v_tail 读到错误数据。 修复方式：arch35 / arch92 的 SetQFATilingData 增加 GetDimNum() >= 2 保护，stride 不足以描述 bn/n2 两轴时保持 0/0，由 kernel 按连续布局推算。 改动文件： - attention/quant_flash_attn/op_host/checkers/base_checker.cpp - attention/quant_flash_attn/op_host/arch35/quant_flash_attn_tiling_mxfp8.cpp - attention/quant_flash_attn/op_host/arch92/quant_flash_attn_tiling_mxfp8.cpp ## 关联的Issue #7230 https://gitcode.com/cann/ops-transformer/issues/7230 ## 测试 - make ophost_transformer_tiling_obj 编译通过（含 arch35 源文件）。 - arch92 源文件未纳入该 target，使用同一套编译参数单独 -c 编译验证通过。 ## 文档更新 无 ## 类型标签 - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!15489 | 6 days ago | |
mxfp8支持D=192 Co-authored-by: liaoxinyuan<liaoxinyuan3@huawei.com> # message auto-generated for no-merge-commit merge: !15200 merge master into master mxfp8支持D=192 Created-by: liaoxinyuan Commit-by: liaoxinyuan Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!15200 | 6 days ago | |
fused_infer_attention_score/quant_flash_attn support ascend350 Co-authored-by: wangke293<wangke293@huawei.com> # message auto-generated for no-merge-commit merge: !14662 merge fused_infer_attention_score_quant_flash_attn_support_ascend350 into master fused_infer_attention_score/quant_flash_attn support ascend350 Created-by: wangke293 Commit-by: wangke293 Merged-by: cann-robot Description: ## 描述 https://gitcode.com/cann/ops-transformer/issues/6973 为 fused_infer_attention_score 和 quant_flash_attn 适配 Ascend350。 Ascend350 与 Ascend950 同为 NpuArch DAV_3510（arch35），此前两算子仅注册了 ascend950 的 AICore 配置，在 350 上算子信息缺失 **主要改动** - attention/fused_infer_attention_score/op_host/fused_infer_attention_score_def.cpp：复用 aicore_config_95 增加 AddConfig("ascend350", aicore_config_95) - attention/quant_flash_attn/op_host/quant_flash_attn_def.cpp：复用 aicore_config_95 增加 AddConfig("ascend350", aicore_config_95) - 两算子 op_host/CMakeLists.txt 增加 ascend350 编译分支（COMPUTE_UNIT Ascend350_355e，选项与 ascend950 分支一致） ## 测试 本地Pytest验证FIA全量化，QFA算子功能正常 RDV验证通过 ## 类型标签 - ✨ 新特性 - 🔧 配置变更 See merge request: cann/ops-transformer!14662 | 15 days ago | |
[QFA][HIF4]代码回蓝 Co-authored-by: wangyijing<wangyijing12@huawei.com> Co-authored-by: eddie-han-dong<donghan12@huawei.com> Co-authored-by: gcw_y7jrbx71<liao28@huawei.com> # message auto-generated for no-merge-commit merge: !13144 merge huilan930 into master [QFA][HIF4]代码回蓝 Created-by: eddie-han-dong Commit-by: wangyijing;gcw_y7jrbx71;eddie-han-dong Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> A4C4_QKV_HiF4_P_FP8_E4M3_PER_TENSOR_SOFTMAX_FP16模板回主线 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> 关联Issue https://gitcode.com/cann/ops-transformer/issues/5918 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> * CI流水线通过 * NPU冒烟验证通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13144 | 1 month ago | |
[QFA][MXFP8] layout support BNSD/BSND Co-authored-by: shen_weiling<shenweiling@huawei.com> # message auto-generated for no-merge-commit merge: !10890 merge dev_bnsd into master [QFA][MXFP8] layout support BNSD/BSND Created-by: shen_weiling Commit-by: shen_weiling Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> [QFA][MXFP8] layout support BNSD/BSND ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/6226 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> RDV已过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 已更新 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!10890 | 25 days ago | |
gereplace Co-authored-by: yangxh1203<yangxinhao7@huawei.com> # message auto-generated for no-merge-commit merge: !14093 merge gereplace into master gereplace Created-by: yangxh1203 Commit-by: yangxh1203 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> - 替换quant_flash_attn的ge数据类型为算子仓自定义数据类型 - 添加宏，兼容旧编译器 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/6423 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 二级冒烟 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!14093 | 25 days ago | |
[QFA][HIF4]代码回蓝 Co-authored-by: wangyijing<wangyijing12@huawei.com> Co-authored-by: eddie-han-dong<donghan12@huawei.com> Co-authored-by: gcw_y7jrbx71<liao28@huawei.com> # message auto-generated for no-merge-commit merge: !13144 merge huilan930 into master [QFA][HIF4]代码回蓝 Created-by: eddie-han-dong Commit-by: wangyijing;gcw_y7jrbx71;eddie-han-dong Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> A4C4_QKV_HiF4_P_FP8_E4M3_PER_TENSOR_SOFTMAX_FP16模板回主线 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> 关联Issue https://gitcode.com/cann/ops-transformer/issues/5918 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> * CI流水线通过 * NPU冒烟验证通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13144 | 1 month ago | |
gereplace Co-authored-by: yangxh1203<yangxinhao7@huawei.com> # message auto-generated for no-merge-commit merge: !14093 merge gereplace into master gereplace Created-by: yangxh1203 Commit-by: yangxh1203 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> - 替换quant_flash_attn的ge数据类型为算子仓自定义数据类型 - 添加宏，兼容旧编译器 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/6423 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 二级冒烟 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!14093 | 25 days ago | |
fix(pre-commit): 全仓代码规范整改——attention 3/4 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13596 merge common into master fix(pre-commit): 全仓代码规范整改——attention 3/4 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5939 ## 描述 全仓代码规范整改系列——attention 拆分 **3/4**（第 3 批 26 个算子目录：mixed_quant_sparse_flash_mla_metadata ~ quant_lightning_indexer_v2_metadata，按目录字母序均分）。基于仓库 pre-commit 门禁对存量代码做一次性规范收敛： - clang-format 按 .clang-format 统一格式（列宽 120、指针左对齐 T* p、引用对齐 T& r 等） - 行尾空白、文件末尾换行修复 - 规模：513 个文件，+16217/-14903 行，纯格式化改动语义等价，无逻辑变更 - op_graph/*_proto.h、op_host/*_def.cpp、op_api/aclnn*.h 等接口文件及 OWNERS 不在本 PR 改动范围 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5939（全仓整改总跟踪） ## 测试 - pre-commit 全部钩子本地通过 - CI 流水线（compile/UT）验证 See merge request: cann/ops-transformer!13596 | 1 month ago | |
fix(pre-commit): 全仓代码规范整改——attention 3/4 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13596 merge common into master fix(pre-commit): 全仓代码规范整改——attention 3/4 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5939 ## 描述 全仓代码规范整改系列——attention 拆分 **3/4**（第 3 批 26 个算子目录：mixed_quant_sparse_flash_mla_metadata ~ quant_lightning_indexer_v2_metadata，按目录字母序均分）。基于仓库 pre-commit 门禁对存量代码做一次性规范收敛： - clang-format 按 .clang-format 统一格式（列宽 120、指针左对齐 T* p、引用对齐 T& r 等） - 行尾空白、文件末尾换行修复 - 规模：513 个文件，+16217/-14903 行，纯格式化改动语义等价，无逻辑变更 - op_graph/*_proto.h、op_host/*_def.cpp、op_api/aclnn*.h 等接口文件及 OWNERS 不在本 PR 改动范围 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5939（全仓整改总跟踪） ## 测试 - pre-commit 全部钩子本地通过 - CI 流水线（compile/UT）验证 See merge request: cann/ops-transformer!13596 | 1 month ago | |
fused_infer_attention_score/quant_flash_attn support ascend350 Co-authored-by: wangke293<wangke293@huawei.com> # message auto-generated for no-merge-commit merge: !14662 merge fused_infer_attention_score_quant_flash_attn_support_ascend350 into master fused_infer_attention_score/quant_flash_attn support ascend350 Created-by: wangke293 Commit-by: wangke293 Merged-by: cann-robot Description: ## 描述 https://gitcode.com/cann/ops-transformer/issues/6973 为 fused_infer_attention_score 和 quant_flash_attn 适配 Ascend350。 Ascend350 与 Ascend950 同为 NpuArch DAV_3510（arch35），此前两算子仅注册了 ascend950 的 AICore 配置，在 350 上算子信息缺失 **主要改动** - attention/fused_infer_attention_score/op_host/fused_infer_attention_score_def.cpp：复用 aicore_config_95 增加 AddConfig("ascend350", aicore_config_95) - attention/quant_flash_attn/op_host/quant_flash_attn_def.cpp：复用 aicore_config_95 增加 AddConfig("ascend350", aicore_config_95) - 两算子 op_host/CMakeLists.txt 增加 ascend350 编译分支（COMPUTE_UNIT Ascend350_355e，选项与 ascend950 分支一致） ## 测试 本地Pytest验证FIA全量化，QFA算子功能正常 RDV验证通过 ## 类型标签 - ✨ 新特性 - 🔧 配置变更 See merge request: cann/ops-transformer!14662 | 15 days ago | |
gereplace Co-authored-by: yangxh1203<yangxinhao7@huawei.com> # message auto-generated for no-merge-commit merge: !14093 merge gereplace into master gereplace Created-by: yangxh1203 Commit-by: yangxh1203 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> - 替换quant_flash_attn的ge数据类型为算子仓自定义数据类型 - 添加宏，兼容旧编译器 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/6423 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 二级冒烟 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!14093 | 25 days ago | |
fix(pre-commit): 全仓代码规范整改——attention 3/4 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13596 merge common into master fix(pre-commit): 全仓代码规范整改——attention 3/4 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5939 ## 描述 全仓代码规范整改系列——attention 拆分 **3/4**（第 3 批 26 个算子目录：mixed_quant_sparse_flash_mla_metadata ~ quant_lightning_indexer_v2_metadata，按目录字母序均分）。基于仓库 pre-commit 门禁对存量代码做一次性规范收敛： - clang-format 按 .clang-format 统一格式（列宽 120、指针左对齐 T* p、引用对齐 T& r 等） - 行尾空白、文件末尾换行修复 - 规模：513 个文件，+16217/-14903 行，纯格式化改动语义等价，无逻辑变更 - op_graph/*_proto.h、op_host/*_def.cpp、op_api/aclnn*.h 等接口文件及 OWNERS 不在本 PR 改动范围 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5939（全仓整改总跟踪） ## 测试 - pre-commit 全部钩子本地通过 - CI 流水线（compile/UT）验证 See merge request: cann/ops-transformer!13596 | 1 month ago | |
fix(pre-commit): 全仓代码规范整改——attention 3/4 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13596 merge common into master fix(pre-commit): 全仓代码规范整改——attention 3/4 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5939 ## 描述 全仓代码规范整改系列——attention 拆分 **3/4**（第 3 批 26 个算子目录：mixed_quant_sparse_flash_mla_metadata ~ quant_lightning_indexer_v2_metadata，按目录字母序均分）。基于仓库 pre-commit 门禁对存量代码做一次性规范收敛： - clang-format 按 .clang-format 统一格式（列宽 120、指针左对齐 T* p、引用对齐 T& r 等） - 行尾空白、文件末尾换行修复 - 规模：513 个文件，+16217/-14903 行，纯格式化改动语义等价，无逻辑变更 - op_graph/*_proto.h、op_host/*_def.cpp、op_api/aclnn*.h 等接口文件及 OWNERS 不在本 PR 改动范围 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5939（全仓整改总跟踪） ## 测试 - pre-commit 全部钩子本地通过 - CI 流水线（compile/UT）验证 See merge request: cann/ops-transformer!13596 | 1 month ago | |
[QFA][MXFP8]decode/prefill支持v_tail尾块高精窗口 Co-authored-by: yang-zhipeng19<yangzhipeng19@huawei.com> # message auto-generated for no-merge-commit merge: !13087 merge vtail-highprec-window into master [QFA][MXFP8]decode/prefill支持v_tail尾块高精窗口 Created-by: yang-zhipeng19 Commit-by: yang-zhipeng19 Merged-by: cann-robot Description: ## 特性: v_tail 尾块高精窗口 (quant_flash_attn 15输入 -> 18输入) ### op_api - aclnn 签名扩展 vTailOptional / blockTableTailOptional / sequsedKvTailOptional 三件套 - 新增 l0op 直调层 (quant_flash_attn.h/cpp) 与 aclnn inner 头 ### op_kernel - 模板加 hasVTail; 尾 task 强制 ND 范式 (cube 侧 IterateBmm1Nd 重装载 Q + vec 侧 ProcessVec1VfDnTailMxfp8 的 VF bf16 直出) - L1 KV 轮转扩为 BuffersPolicy4buff (主体 bf16/fp8 与尾块 bf16 共用, 新增 GetPre()) - vf 层新增 DN 尾 task NoUpdate/Update VF: 非量化 bf16 几何 + Mxfp8 状态机 (ln2 格点化 max / preLoop 三件套 / e8m0 pScale) + 尾窗 causal 掩码 ### op_host - tiling key 扩展 hasVTail 字段; vtail checker (KV 尾块 bf16 直存契约) See merge request: cann/ops-transformer!13087 | 1 month ago | |
mxfp8支持D=192 Co-authored-by: liaoxinyuan<liaoxinyuan3@huawei.com> # message auto-generated for no-merge-commit merge: !15200 merge master into master mxfp8支持D=192 Created-by: liaoxinyuan Commit-by: liaoxinyuan Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!15200 | 6 days ago | |
fix(pre-commit): 全仓代码规范整改——attention 3/4 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13596 merge common into master fix(pre-commit): 全仓代码规范整改——attention 3/4 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5939 ## 描述 全仓代码规范整改系列——attention 拆分 **3/4**（第 3 批 26 个算子目录：mixed_quant_sparse_flash_mla_metadata ~ quant_lightning_indexer_v2_metadata，按目录字母序均分）。基于仓库 pre-commit 门禁对存量代码做一次性规范收敛： - clang-format 按 .clang-format 统一格式（列宽 120、指针左对齐 T* p、引用对齐 T& r 等） - 行尾空白、文件末尾换行修复 - 规模：513 个文件，+16217/-14903 行，纯格式化改动语义等价，无逻辑变更 - op_graph/*_proto.h、op_host/*_def.cpp、op_api/aclnn*.h 等接口文件及 OWNERS 不在本 PR 改动范围 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5939（全仓整改总跟踪） ## 测试 - pre-commit 全部钩子本地通过 - CI 流水线（compile/UT）验证 See merge request: cann/ops-transformer!13596 | 1 month ago |
| Files | Last commit | Last update |
|---|---|---|
| 6 days ago | ||
| 6 days ago | ||
| 6 days ago | ||
| 15 days ago | ||
| 1 month ago | ||
| 25 days ago | ||
| 25 days ago | ||
| 1 month ago | ||
| 25 days ago | ||
| 1 month ago | ||
| 1 month ago | ||
| 15 days ago | ||
| 25 days ago | ||
| 1 month ago | ||
| 1 month ago | ||
| 1 month ago | ||
| 6 days ago | ||
| 1 month ago |