| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
SFA/LI系列算子修复文档参数和接口不一致问题 Co-authored-by: j60100428<jingsong5@h-partners.com> # message auto-generated for no-merge-commit merge: !13709 merge master into master SFA/LI系列算子修复文档参数和接口不一致问题 Created-by: SH_jingsong Commit-by: j60100428 Merged-by: cann-robot Description: ## 描述 修复 SFA/LI 系列算子文档与头文件参数不一致问题（issue #5879）。 主要改动： - 以头文件声明为准，修正文档中不一致的参数名，如 layout_key → layout_kv、output → attention_out、sparseIndices → sparseIndicesOut、sparseValues → sparseValuesOut 等； - 将实际为可选的入参/属性由"输入/属性"统一更正为"可选输入/可选属性"，涉及 key_dequant_scale、value_dequant_scale、block_table、actual_seq_lengths_query、actual_seq_lengths_kv、sinks、sparse_block_size、layout_query、layout_kv、sparse_mode、pre_tokens、next_tokens、attention_mode、quant_scale_repo_mode、tile_size、rope_head_dim 等参数； - 同步修订 KV Quant Sparse Flash Attention V1/V2、LightningIndexer V1/V2/Metadata、Quant/MixedQuant Sparse Flash MLA 及 Metadata、Sparse Flash Attention/MLA 及 Metadata 等算子的 README 与 aclnn/torchapi 接口文档，补充缺失的参数与约束说明； - 修正 aclnn_sparse_flash_attention.h、aclnn_sparse_flash_attention_v2.h 中与接口功能不符的函数原型注释。 ## 关联的Issue https://atomgit.com/cann/ops-transformer/issues/5879 ## 测试 - 本次为文档与头文件注释修订，不涉及算子计算逻辑变更； - 已逐项与头文件声明核对参数名及 Input/Attribute 类型，README 表格及链接检查通过。 ## 文档更新 - 更新 attention 目录下 SFA/LI 系列算子的 README 与 docs 接口文档，以及相关头文件注释。 ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13709 | 12 天前 | |
SFA/LI系列算子修复文档参数和接口不一致问题 Co-authored-by: j60100428<jingsong5@h-partners.com> # message auto-generated for no-merge-commit merge: !13709 merge master into master SFA/LI系列算子修复文档参数和接口不一致问题 Created-by: SH_jingsong Commit-by: j60100428 Merged-by: cann-robot Description: ## 描述 修复 SFA/LI 系列算子文档与头文件参数不一致问题（issue #5879）。 主要改动： - 以头文件声明为准，修正文档中不一致的参数名，如 layout_key → layout_kv、output → attention_out、sparseIndices → sparseIndicesOut、sparseValues → sparseValuesOut 等； - 将实际为可选的入参/属性由"输入/属性"统一更正为"可选输入/可选属性"，涉及 key_dequant_scale、value_dequant_scale、block_table、actual_seq_lengths_query、actual_seq_lengths_kv、sinks、sparse_block_size、layout_query、layout_kv、sparse_mode、pre_tokens、next_tokens、attention_mode、quant_scale_repo_mode、tile_size、rope_head_dim 等参数； - 同步修订 KV Quant Sparse Flash Attention V1/V2、LightningIndexer V1/V2/Metadata、Quant/MixedQuant Sparse Flash MLA 及 Metadata、Sparse Flash Attention/MLA 及 Metadata 等算子的 README 与 aclnn/torchapi 接口文档，补充缺失的参数与约束说明； - 修正 aclnn_sparse_flash_attention.h、aclnn_sparse_flash_attention_v2.h 中与接口功能不符的函数原型注释。 ## 关联的Issue https://atomgit.com/cann/ops-transformer/issues/5879 ## 测试 - 本次为文档与头文件注释修订，不涉及算子计算逻辑变更； - 已逐项与头文件声明核对参数名及 Input/Attribute 类型，README 表格及链接检查通过。 ## 文档更新 - 更新 attention 目录下 SFA/LI 系列算子的 README 与 docs 接口文档，以及相关头文件注释。 ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13709 | 12 天前 | |
docs(attention): 增加Attention算子Ascend IR图模式资料与GEIR调用示例 Co-authored-by: huang-chuhong<huangchuhong1@h-partners.com> # message auto-generated for no-merge-commit merge: !13207 merge docs/attention-ascendir-geir into master docs(attention): 增加Attention算子Ascend IR图模式资料与GEIR调用示例 Created-by: huang-chuhong Commit-by: huang-chuhong Merged-by: cann-robot Description: ## 描述 为 4 个 Attention 算子（flash_attention_score、flash_attention_score_grad、fused_infer_attention_score、sparse_flash_attention）补充 Ascend IR（GEIR）图模式资料与 GE 构图调用示例。 ### 改动原因 4 个算子此前仅有 aclnn 调用方式的文档与示例，缺少 Ascend IR（图模式）资料：sparse_flash_attention 无 op_graph IR 定义头文件，所有算子均无 GE 构图调用示例，README 缺图模式调用入口，无法指导用户通过 Ascend IR 构图方式调用算子。 ### 改动方法 1. **新增 op_graph IR 定义头文件** ： - sparse_flash_attention/op_graph/sparse_flash_attention_proto.h（与 CANN 包 fusion_ops.h 及仓库 op def 一致） 2. **新增 GE 图模式调用示例 ×4**（GE 构图 + Session::RunGraph + CPU 参考实现数值校验）： - test_geir_flash_attention_score.cpp（SBH fp32） - test_geir_flash_attention_score_grad.cpp（SBH fp16，含正向中间量构造与反向 golden） - test_geir_fused_infer_attention_score.cpp（BNSD fp16，key/value 动态输入用 create_dynamic_input_byindex_* 按 IR 定义位置注册） - test_geir_sparse_flash_attention.cpp（MLA-absorb TND fp16） 3. **Ascendir 文档 ×4**：sparse IR 定义改引 op_graph proto.h 并同步 REG_OP；4 份调用示例补充完整 GEIR 代码；FIA 文档注明动态输入需按 IR 定义位置注册（create_dynamic_input_byindex_*）；修正跨文档相对链接。 4. **README ×4**：补充图模式（Ascend IR）调用入口。 ## 关联的Issue #5735 ## 测试 - Ascend950PR 实测：bash build.sh --pkg --soc=ascend950 --ops=flash_attention_score,flash_attention_score_grad,fused_infer_attention_score,sparse_flash_attention -j24 编译安装后，4 个示例 bash build.sh --run_example <op> graph 编译+运行+数值校验全部 PASS（FA 误差 1e-8 级、FAG 2e-6 级、FIA 2.9e-4、SFA 在 fp16 归约噪声内且 softmax 统计量与 CPU 参考吻合至 1e-4） - 文档相对链接全量校验有效；代码行宽均 ≤120 字符 - 不涉及算子功能逻辑变更 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13207 | 20 天前 | |
fix product master2 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !13074 merge master into master fix product master2 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> AI处理器对应的产品型号名称更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#3258](https://gitcode.com/cann/ops-math/issues/3258) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ok ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> *.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!13074 | 30 天前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 12 天前 | ||
| 12 天前 | ||
| 20 天前 | ||
| 30 天前 |