| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
[FIA][master] 修复 MLA 下沉模板注册和旧模板转置偏移 Co-authored-by: PerrySkywalker<wangmingkang1@huawei.com> # message auto-generated for no-merge-commit merge: !11804 merge fix/fia_mla_sink_transpose_master into master [FIA][master] 修复 MLA 下沉模板注册和旧模板转置偏移 Created-by: PerrySkywalker Commit-by: PerrySkywalker Merged-by: cann-robot Description: ## 描述 修复非量化 MLA TND_NTD 场景 eager 通过但 tiling 下沉精度失败的问题。 - 将 arch35/fia_tiling_nonquant_mla.cpp 加入设备侧 tiling 编译列表,使 priority=5 的新 MLA 模板能够注册。此前 Host 包含该模板,设备库遗漏该文件,下沉运行时会选择旧模板。 - 修复旧模板 CalcAIVMlaAttentionOutOffset 在 gSize<=32 时遗漏起始 head 余数的问题。G=5、M=64 时,正确起点为 (head=4, token=12);补算 cubeSOuterOffset % gSize,并保留后续第二个 AIV 的偏移计算。 ## 关联的Issue 关联 #5226:https://gitcode.com/cann/ops-transformer/issues/5226 ## 测试 - pre-commit 全部 Passed/Skipped,git diff --check 通过。 - 直接抽取并编译修改前后的 C++ 地址计算函数,覆盖 G=1..32、64、128,T=1/3/19/52/65,batch 前缀偏移 0/17,两个 AIV、尾块及三种 SG 转置输出布局,共 20,046 组。修复前 10,662 组失败,修复后全部通过。 - 新增 MLA tiling 源文件通过 AArch64 交叉编译并生成目标文件。 - 修复前 CANN_0828 上板复现:B=1、T=52、Nq=5、Nkv=1、D=512、RoPE=64、actual_seq=[52]、共享 K/V、causal mask。TND_NTD eager/普通图最大绝对误差约 0.00104,下沉约 2.21648;TND 下沉通过且转置后与 eager 完全一致。 - 验证限制:完整设备库构建被本地依赖缺少 op_host/util/op_const_def.h 阻断,尚未完成修复后的整包上板精度验证,需 CI/配套依赖环境继续验证。 ## 文档更新 无。 ## 类型标签 - [x] 🐛 Bug修复 - [x] 📦 构建/CI See merge request: cann/ops-transformer!11804 | 9 天前 | |
Pre-Commit 规范整改 — 公共 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !5305 merge refactor into master Pre-Commit 规范整改 — 公共 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: pre-commit是一个Git Hooks框架,用于在 git commit时自动运行代码检查和格式化工具。: | Hook | 功能 | 说明 | |------|------|------| | **clang-format** | C/C++ 代码格式化 | 自动格式化代码,保持风格一致 | | **OAT Check** | 开源合规检查 | 检测许可证头、禁止二进制文件提交 | 本PR对于公共文件进行了pre-commit检查 See merge request: cann/ops-transformer!5305 | 2 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 9 天前 | ||
| 2 个月前 |