| Files | Last commit | Last update |
|---|---|---|
fix(attention): 对齐 FlashAttn/FlashMla TTK 适配和双输出精度标准 Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge: !14474 merge fix/attention_ttk_adapter_contract into master fix(attention): 对齐 FlashAttn/FlashMla TTK 适配和双输出精度标准 Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 修正 FlashAttn/FlashMla TTK 适配中的参考计算、比较标准与 metadata 预处理:FlashAttn 的 sink 在 P 舍入前参与归一化;MLA 按当前 arch35 内核的 112-token KV 块保留 P 舍入。此前同一批实测输出中的 BF16 两方精度误报,修正参考后消失,未改输入范围或放宽容差。 普通比较使用 TTK 原生实现,attention/LSE 的容差分别写入 CSV;三方使用独立 FP32 数值基准,返回 PASS/FAIL 指标和原生失败诊断。比较中的 NaN 强制失败。动态 metadata 在 H2D 后生成,具体 metadata 不重建;删除输入补齐、旧入口和兼容导入。每个算子的 impl 整理为 7 个文件。 补齐 MLA mask_mode=4、PA_BNBD 的性能计数及显式 sinks/page table 值透传。原始 PA fixture 明确声明 seqused_kv,默认 84 条用例可完整生成。窗口等整数属性禁止将 None 或非整数值静默修复。 按要求不新增正常功能用例:FlashAttn 原有 CSV 名称保持不变,MLA coverage 保留原有 52 条。两算子仅各新增 4 条 metadata 存在性/dtype/rank/空 Tensor 拦截用例;本次功能验证矩阵保存在仓库外。 三方 PASS 指标落盘依赖 TTK 配套修复:https://gitcode.com/cann/ops-test-kit/merge_requests/511。该框架修复不改变数值判定。 ## 关联的Issue fixes #6579 https://gitcode.com/cann/ops-transformer/issues/6579 ## 测试 - FlashAttn 真机抽测:close 36/36,cross_check 36/36。包含 FP16/BF16、D/Dv=192/128、72/72、非零 sinks、mask_mode=0/4,有限窗口及 -1 无界窗口。 - FlashMla 真机抽测:close 46/46,cross_check 46/46。包含 BSND/BNSD/TND、PA_BBND/PA_BNBD/PA_NZ、非零 sinks、mask_mode=4 的有限及无界窗口,以及原有 mask_mode=0/3 用例。 - 独立 FP64 核验:FlashAttn 928 个临时组合、MLA 46 个临时组合,FP32 基准最大绝对误差分别约 3.44e-7、1.59e-7;NaN、比较失败和 CSV 标准控制检查通过。 - 两算子的窗口可见点计数与小规模穷举公式一致;性能计数可解析全部原有功能组合。 - staged 和相对 upstream/master 的完整 PR 文件 pre-commit 检查通过,包括 OAT;合并预演无冲突。 - 配套 TTK comparison/ACLNN 单测 240 passed,真机 PASS 指标确认落盘。 环境:Ascend 950PR_9579 / arch35,CANN 9.3.0~weekly.20261014.01,sink conda 环境。使用现有 FlashAttn 20261021、MLA review5387 f710da751 20261022 custom 包;未修改或重编算子内核。其他架构、ACLGraph 未实测。 支持范围说明:FlashAttn 的 D=72 不适用于 PA_NZ,后者要求 D 轴 16 对齐;MLA 按自身固定 QK=576、V=512 的规格验证。 ## 文档更新 删除两算子的冗余对比说明,以及 MLA 独立运行脚本。 ## 类型标签 - [x] 🐛 Bug修复 - [x] ♻️ 重构 - [x] 🧪 测试 - [x] 🧹 代码清理 See merge request: cann/ops-transformer!14474 | 23 days ago | |
docs: add English translations for markdown files Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !15306 merge docs/add-english-translations into master docs: add English translations for markdown files Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## 描述 新增仓库Markdown文档英文译稿(第一批,共42个被其他译稿引用的文件):根README_en.md、CONTRIBUTING_en.md、SECURITY_en.md;各算子设计文档英文版(ChunkKdaFwd/FA/FAG/MlaProlog/FFN/AllGatherAdd等design文档)及ascendir系列接口文档;examples系列说明(含fast_kernel_launch_example、mc2/all_gather_add、flash_attn L0_minimal等);以及gmm/grouped_matmul_activation、attention/nsa_compress_attention_infer、attention/nsa_compress_with_cache、attention/recurrent_kda、ffn/ffn、mhc/mhc_sinkhorn、posembedding/partial_rotary_mul_quant共7个算子的README译稿与相关测试/示例说明。 本批为后续批量英文文档提交做前置:本批文件合入master后,其余281篇译稿中的仓内链接(均指向master已有文件或本批文件)即可生效,避免链接失效拦截。7个算子相关文档已全部集中于本批提交,未拆散。 ## 关联的Issue 无 ## 测试 文档类变更,无需算子测试;已通过链接有效性校验(第一批内全部相对链接仅指向master已有文件或本批新增文件),并完成逐篇翻译规范自查与语义校对(含支持状态表、限定词、术语、数值符号核对)。 ## 文档更新 新增41个英文译稿文件,重命名1个中文设计文档(ffn/ffn/docs/FFN算子设计介绍.md → FFN_design.md),不修改其他任何现有文件。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer!15306 | 10 days ago | |
flash_attn DN不合轴模板 s2BaseSize 切换为 256 Co-authored-by: jiang-lirui<jianglirui1@huawei.com> # message auto-generated for no-merge-commit merge: !15177 merge flash_attn_s2base256 into master flash_attn DN不合轴模板 s2BaseSize 切换为 256 Created-by: jiang-lirui Commit-by: jiang-lirui Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> flash_attn DN不合轴模板 s2BaseSize 切换为 256 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> Issue [#7137](https://gitcode.com/cann/ops-transformer/issues/7137) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [x] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!15177 | 10 days ago | |
fix(pre-commit): 全仓OAT合规整改——许可证/版权头存量修复与豁免策略对齐 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13363 merge fix_3 into master fix(pre-commit): 全仓OAT合规整改——许可证/版权头存量修复与豁免策略对齐 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5885 ## 描述 全仓 OAT 合规整改( pre-commit run oat-check --all-files 从 200 条问题清零): **1. OAT.xml 豁免策略对齐**(仅新增 6 行 filteritem,零删除): - experimental/.*:孵化目录豁免 license/copyright/binary 三类检查(含 swiglu_gated_mlp 等第三方 Apache-2.0 双版权贡献代码,策略上不归管) - *.jpg:文档图片豁免二进制拦截(与已有 *.png 一致) - LICENSE:许可证正文本身,豁免许可证头检查 - Third_Party_Open_Source_Software_Notice:第三方声明文件,豁免版权头检查 **2. 文件头修复(167 个源文件)**: - 旧版许可证头(redistribute it and/or modify. 句式,2026-03 入库、04-03 OAT 上线前时间差遗留)→ 标准 CANN V2 头 - 变体错别字:Copyend (c)、You can not use、in in compliance、free software; 分号、CANN 1.0 许可证等 - 无头文件补标准头(如 golden.py、executor_aclnnMoeFusedTopk.py) - 版权年保留各文件原有年份;CRLF/混合行尾文件逐字节保持原行尾,diff 仅头部 **3. 历史遗留原因**:存量问题多经网页端合并(不触发本地钩子)或 OAT 上线前入库积累。 ## 验证 - pre-commit run oat-check --all-files:9 个批次全部 0 issue,Passed - git pc HEAD~1 + 显式 pre-commit run --files 复核收敛,第 2 笔为 clang-format/ruff/end-of-files 自动修复 - py/sh 语法、OAT.xml XML 合法性校验通过 基线 master:d9d81a50a See merge request: cann/ops-transformer!13363 | 1 month ago |
| Files | Last commit | Last update |
|---|---|---|
| 23 days ago | ||
| 10 days ago | ||
| 10 days ago | ||
| 1 month ago |