fix_2

Files	Last commit	Last update
flash_attn_perf_analysis.md	flash_attn新增D=256基本块选择的理论性能建模文档 Co-authored-by: linengyao<linengyao@huawei.com> # message auto-generated for no-merge-commit merge: !11747 merge flash_attn-perf-md into master flash_attn新增D=256基本块选择的理论性能建模文档 Created-by: linengyao Commit-by: linengyao Merged-by: cann-robot Description: ## 描述 新增 Flash Attention D=256 基本块 (M, N) 选择的理论性能建模文档，纯理论分析，不含代码实现细节。 ## 改动 - 新增 attention/flash_attn/docs/flash_attn_perf_analysis.md，建模思路： - 目标：Cube Bound（Cube 计算不可压缩，性能上界即 Cube 满流水，其余阶段被遮挡） - 达成条件：T_cube > T_mte2 推出 M 下限 M > 8192/Mix_bw（84~271，与 D/N 无关）；T_cube > T_fixpipe 推出 N 下限 N > 8192/(UB_bw - 8192/D) - 空间约束：L0C（MN <= 16384、bmm2 按 dV 分块后 M <= 128）、L1（4MD+6MN+4ND <= 512K）、UB（分离缓冲 7MN+6MD+54M+512 <= 248K） - D=256 代入得 (M,N) 可行域（不等式）：分离缓冲下 N=128 仅 (84,102]，常规档位无 cube bound 解 - M/N 影响分析：M 在可行域内越大越好（唯一算术强度旋钮）；N 与 M 在 L0C 共享预算、优先保 M - 缓冲冗余发现：bmm1/bmm2 结果生命周期错开可共用 slot，UB 公式变为 3MN+6MD+...，可行域扩为 (84,128]，M=128 档位进入，L2 命中率要求从 73% 降至 49% - 纯文档新增，不涉及代码改动，不影响原有行为 ## 关联的Issue #5194 ## 测试 - 纯文档变更，无需测试 ## 类型标签 - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11747	1 month ago
flash_attn_perf_analysis_en.md	docs: add English translations for markdown files Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !15372 merge docs/add-english-translations into master docs: add English translations for markdown files Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## 描述 新增仓库Markdown文档英文译稿（第二批，共275个文件），为第一批（已合入）之外的其余全部译稿： - 新增263个英文译稿文件（含上游新增算子 attention/flash_kda_grad 的README与测试说明2篇，及14篇基于最新源文档的增量更新） - 重命名12个中文设计文档为英文名（Xxx算子设计介绍.md → Xxx_design.md，与第一批FFN_design.md策略一致） - 更新7个README中的设计文档引用链接 - 更新.pre-commit-config.yaml中codespell忽略词表 本批内全部仓内链接均指向master已有文件（含第一批已合入的42篇译稿），合入后本仓英文文档全部就位、链接完整生效。 ## 关联的Issue 无 ## 测试 文档类变更，无需算子测试；已通过链接有效性校验、残留中文/全角标点扫描、EOF换行规范检查，并完成逐篇翻译规范自查与独立语义审查（含支持状态表、限定词、术语、数值符号核对）。 ## 文档更新 新增263个英文译稿文件、重命名12个中文设计文档、更新8个现有文件，不修改算子源码。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!15372	8 days ago
torchapi_flash_attn.md	修改master分支的aidd问题 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !13821 merge master into master 修改master分支的aidd问题 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述 aidd扫描问题修改master分支 ## 关联的Issue 关联issue [#3309](https://gitcode.com/cann/ops-math/issues/3309) ## 测试 md文档更新不涉及测试 ## 文档更新 主要是attention文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13821	30 days ago
torchapi_flash_attn_en.md	master英文合入 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !14969 merge master into master master英文合入 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述 商发的英文文档合入 ## 关联的Issue 关联Issue [#6488](https://gitcode.com/cann/ops-transformer/issues/6488) <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!14969	14 days ago