本项目是CANN提供的transformer类大模型算子库，实现网络在NPU上加速计算。
| Files | Last commit | Last update |
|---|---|---|
master Co-authored-by: weixin_46515057<lidaoshuai@h-partners.com> Co-authored-by: dwx616901<duguangyuan2@h-partners.com> # message auto-generated for no-merge-commit merge: !13711 merge master into master master Created-by: dwx616901 Commit-by: dwx616901;weixin_46515057 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13711 | 27 days ago | |
fix(slig): rename arch92 headers so basenames stay unique Co-authored-by: ThunLoilu<202313410048@nuist.edu.cn> # message auto-generated for no-merge-commit merge: !13780 merge fix/slig-arch92-unique-headers into master fix(slig): rename arch92 headers so basenames stay unique Created-by: ThunLoilu Commit-by: ThunLoilu Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 重命名重名文件 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13780 | 26 days ago | |
cmake适配hifp4数据类型 Co-authored-by: luoyun<luoyun38@huawei.com> # message auto-generated for no-merge-commit merge: !13579 merge hifp4 into master cmake适配hifp4数据类型 Created-by: luoyun-6 Commit-by: luoyun Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13579 | 27 days ago | |
feat: routing-map 系列及 RingAttentionUpdate 算子适配 ascend960dt Co-authored-by: xftxyz<pangxiaoyu@h-partners.com> # message auto-generated for no-merge-commit merge: !13662 merge feat/ascend960dt-routing-map-ring into master feat: routing-map 系列及 RingAttentionUpdate 算子适配 ascend960dt Created-by: xftxyz Commit-by: xftxyz Merged-by: cann-robot Description: ## 描述 为四个 routing-map 算子和 RingAttentionUpdate 新增 ascend960dt 支持。 - 目标算子：moe_token_permute_with_routing_map、moe_token_permute_with_routing_map_grad、moe_token_unpermute_with_routing_map、moe_token_unpermute_with_routing_map_grad、ring_attention_update。 - 复用现有 950 配置与计算实现，新增 960DT 注册、CMake elseif 编译分支和 RingAttentionUpdate 二进制配置。 - 公共 Host tiling / ACLNN regbase helper 加入 DAV_9201；保留特定 3510/9201 分发及 Kernel 编译期判断。 - 补齐开放项目调用链依赖 MoeMaskedScatter、MoeInplaceIndexAdd、MoeInplaceIndexAddWithSorted 的注册、分发和构建选项。 ## 关联的Issue 关联 #5990 ## 测试 本地未编译及真机验证（环境无 CANN 依赖）。 ## 文档更新 无。 ## 类型标签 - [x] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [x] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13662 | 26 days ago | |
docs: fix BlitzSparseAttention types and documentation typos Co-authored-by: zzzzzzyf_<zhouyunfei10@huawei.com> # message auto-generated for no-merge-commit merge: !13770 merge fix/documentation-issues-20261013 into master docs: fix BlitzSparseAttention types and documentation typos Created-by: zzzzzzyf_ Commit-by: zzzzzzyf_ Merged-by: cann-robot Description: ## 描述 合并修复当前指派给贡献者的 9 个文档 Issue。共修改 26 个 Markdown 文件，新增 49 行、删除 50 行；修正错字、重复文字、标题层级、术语及 BlitzSparseAttention 量化参数表。 参数类型按源码注册核对；将 quantScale2/quantOffset2 表对齐为 FLOAT32/BFLOAT16，保留产品与输入场景约束。空 Tensor 处理按实际 aclnn 实现描述，不机械替换成 AscendCL。 不改算子实现、编译脚本或计算逻辑。文档 C++ 示例仅统一 gama/gamma 变量拼写，benchmark 示例仅补全注释。 ## 关联的Issue - [#5853](https://gitcode.com/cann/ops-transformer/issues/5853)：修正 BlitzSparseAttention 量化参数表，与当前 OpDef 对齐并保留场景限制。 - [#5969](https://gitcode.com/cann/ops-transformer/issues/5969)：修正指定 attention 文档的拼写、重复词、标点和标题层级。 - [#5977](https://gitcode.com/cann/ops-transformer/issues/5977)：修正指定 docs/zh 文档的术语、拼写及重复描述。 - [#5981](https://gitcode.com/cann/ops-transformer/issues/5981)：补全 BNSD 注释，修正空 Tensor 处理的 aclnn 表述。 - [#6003](https://gitcode.com/cann/ops-transformer/issues/6003)：修正 rope_matrix 文档三处英文拼写。 - [#6038](https://gitcode.com/cann/ops-transformer/issues/6038)：修正 combine_add_rms_norm 文档的错字和冗余文字。 - [#6041](https://gitcode.com/cann/ops-transformer/issues/6041)：修正 dispatch 文档的量化参数列举、默认值及重复词。 - [#6073](https://gitcode.com/cann/ops-transformer/issues/6073)：修正 lightning_indexer 测试文档标题层级及重复条目。 - [#6075](https://gitcode.com/cann/ops-transformer/issues/6075)：修正 PromptFlashAttention 的 AI Core 和 aclnn 表述。 本轮另核查 #6045、#5733：#6045 原问题段落已从 master 移除，无需修改；#5733 涉及编译目标兼容性，不纳入纯文档提交。 ## 测试 - 38 组定向修改均核对旧文本与匹配次数；确认仅包含目标 Markdown 文件。 - 修改前后链接目标、代码块数量与语言标记不变；示例除变量一致性重命名、注释及围栏中的说明文字外不变。 - 参数表与当前 OpDef、空 Tensor 处理代码核对。 - 保留原文件换行方式； git -c core.whitespace=cr-at-eol diff --check 通过。 - 按 CI 同版本 pre-commit-hooks v4.6.0 对全部 26 个文档执行 trailing-whitespace（保留 Markdown 双空格换行）和 end-of-file-fixer，均通过；修正 benchmark README 原有的单个行尾空格。 - 未编译文档示例或执行 NPU 测试，本次为静态文档核查。 ## 文档更新 涉及 attention、docs/zh、experimental 与 mc2 下的指定 README 和接口文档。 ## 类型标签 - [x] 📝 文档更新 See merge request: cann/ops-transformer!13770 | 27 days ago | |
docs(quant_compressor, moe_distribute_combine): 修正文档措辞、约束和链接 Co-authored-by: zzzzzzyf_<zhouyunfei10@huawei.com> # message auto-generated for no-merge-commit merge: !13784 merge fix/documentation-issues-round2-20261013 into master docs(quant_compressor, moe_distribute_combine): 修正文档措辞、约束和链接 Created-by: zzzzzzyf_ Commit-by: zzzzzzyf_ Merged-by: cann-robot Description: ## 描述 修正文档中的重复词句、错别字、重复参数约束和无法跳转的链接。包含 QuantCompressor、QuantReduceScatter、MoeDistributeCombineV2/V3，以及 #6081 清单涉及的算子文档。 - #6034：为 TyphoonMLA 论文链接补充 https，修正 aclnnMoeFinalizeRoutingV3 的源码目录链接。 - #6039：修正空指针措辞，删除重复的 constExpertNum 条件和 shared_expert_num 参数。 - #6049：修正必选参数说明及两处条件句。 - #6076：删除重复的“要求”和“长度”。 - #6081：核对清单37项，修复34项；SECURITY.md 按要求保留原文。constrait、constrait_ 是源码实际标识符，保留原拼写以与实现一致。 共39个Markdown文件，新增56行、删除57行。没有修改算子实现或构建逻辑。 ## 关联的Issue 关联 #6034、#6039、#6049、#6076、#6081。 ## 测试 - 对照定向修改清单检查差异、Markdown代码围栏及链接，检查通过。 - 使用 pre-commit-hooks 4.6.0 的 trailing-whitespace（保留Markdown换行）和 end-of-file-fixer 检查全部39个文件，通过。 - git diff --check 通过，按已有CRLF格式检查。 - 文档修改未执行NPU用例。 ## 文档更新 更新算子README、Torch API/ACLNN接口文档、测试说明；修复3个文档原有的空白格式问题。 #6081 附件下载返回401，使用此前用户提供的校对表定位，其37项黑色字体记录与Issue文件清单对应。 ## 类型标签 - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13784 | 26 days ago | |
修改master分支的aidd问题 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !13821 merge master into master 修改master分支的aidd问题 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述 aidd扫描问题修改master分支 ## 关联的Issue 关联issue [#3309](https://gitcode.com/cann/ops-math/issues/3309) ## 测试 md文档更新不涉及测试 ## 文档更新 主要是attention文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13821 | 26 days ago | |
ffn worker batching去除ut无效特殊处理 Co-authored-by: cpy_123456<chenpengyi@huawei.com> # message auto-generated for no-merge-commit merge: !13792 merge 1013 into master ffn worker batching去除ut无效特殊处理 Created-by: cpy_123456 Commit-by: cpy_123456 Merged-by: cann-robot Description: ## 描述 ffn worker batching去除ut无效特殊处理 layernum字段统一赋值即可，无需特殊处理 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/6107 ## 测试 ut ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [x] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13792 | 26 days ago | |
修改master分支的aidd问题 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !13821 merge master into master 修改master分支的aidd问题 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述 aidd扫描问题修改master分支 ## 关联的Issue 关联issue [#3309](https://gitcode.com/cann/ops-math/issues/3309) ## 测试 md文档更新不涉及测试 ## 文档更新 主要是attention文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13821 | 26 days ago | |
fix(pre-commit): 全仓代码规范整改——ffn/gmm/mamba/mhc Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13533 merge other into master fix(pre-commit): 全仓代码规范整改——ffn/gmm/mamba/mhc Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5939 ## 描述 全仓代码规范整改系列——ffn/gmm/mamba/mhc/posembedding 目录。基于仓库 pre-commit 门禁对存量代码做一次性规范收敛： - clang-format 按 .clang-format 统一格式（列宽 120、指针左对齐等），ruff 格式化 Python - 行尾空白、文件末尾换行修复，少量文档笔误修正 - 规模：1391 个文件，+32218/-31168 行，纯格式化改动语义等价，无逻辑变更 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5939（全仓整改总跟踪） ## 测试 - pre-commit 全部钩子本地通过 - CI 流水线（compile/UT）验证 See merge request: cann/ops-transformer!13533 | 29 days ago | |
Engram训练正向算子修改token发送粒度 Co-authored-by: liuyibin<liuyibin5@huawei.com> # message auto-generated for no-merge-commit merge: !13753 merge sk into master Engram训练正向算子修改token发送粒度 Created-by: liuyibin Commit-by: liuyibin Merged-by: cann-robot Description: ## 描述 Engram 训练正向算子 EngramFetchTrainArch35::LocalReadTableAndSendRemote（mc2/engram_fetch/op_kernel/arch35/engram_fetch_train_arch35.h）中，单次远程发送行数 chunkLen 此前仅受索引Buffer容量（indicesBufCap）与 slot 尾部剩余空间（spaceToEnd）制约，剩余发送量较大时单次 WriteWithNotifyNbi 会一次性发送过大数据块，通信链路占用时间长，收发交错与流水重叠变差，影响整体通信效率。 本 PR 收窄 token 发送粒度： - 新增发送分块粒度常量 constexpr uint32_t ENGRAM_SEND_CHUNK_ROWS = 128U，作为单次发送行数上限； - 在 LocalReadTableAndSendRemote 中，chunkLen 经 spaceToEnd 限制后追加截断：当 chunkLen > ENGRAM_SEND_CHUNK_ROWS 时置为 ENGRAM_SEND_CHUNK_ROWS，使后续 DataCopyExtParams 索引搬运长度及单次远程写均不超过 128 行，将原先可能较大的发送块切分为固定粒度的小块发送，提升收发交错与流水效率。 ## 关联的Issue 关联Issue #6082 ## 测试 Engram Fetch 训练正向场景 ST/精度测试通过，发送分块后功能与精度均符合预期。 ## 文档更新 无（不涉及对外接口与使用方式变更）。 ## 类型标签 - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [x] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13753 | 26 days ago | |
docs(quant_compressor, moe_distribute_combine): 修正文档措辞、约束和链接 Co-authored-by: zzzzzzyf_<zhouyunfei10@huawei.com> # message auto-generated for no-merge-commit merge: !13784 merge fix/documentation-issues-round2-20261013 into master docs(quant_compressor, moe_distribute_combine): 修正文档措辞、约束和链接 Created-by: zzzzzzyf_ Commit-by: zzzzzzyf_ Merged-by: cann-robot Description: ## 描述 修正文档中的重复词句、错别字、重复参数约束和无法跳转的链接。包含 QuantCompressor、QuantReduceScatter、MoeDistributeCombineV2/V3，以及 #6081 清单涉及的算子文档。 - #6034：为 TyphoonMLA 论文链接补充 https，修正 aclnnMoeFinalizeRoutingV3 的源码目录链接。 - #6039：修正空指针措辞，删除重复的 constExpertNum 条件和 shared_expert_num 参数。 - #6049：修正必选参数说明及两处条件句。 - #6076：删除重复的“要求”和“长度”。 - #6081：核对清单37项，修复34项；SECURITY.md 按要求保留原文。constrait、constrait_ 是源码实际标识符，保留原拼写以与实现一致。 共39个Markdown文件，新增56行、删除57行。没有修改算子实现或构建逻辑。 ## 关联的Issue 关联 #6034、#6039、#6049、#6076、#6081。 ## 测试 - 对照定向修改清单检查差异、Markdown代码围栏及链接，检查通过。 - 使用 pre-commit-hooks 4.6.0 的 trailing-whitespace（保留Markdown换行）和 end-of-file-fixer 检查全部39个文件，通过。 - git diff --check 通过，按已有CRLF格式检查。 - 文档修改未执行NPU用例。 ## 文档更新 更新算子README、Torch API/ACLNN接口文档、测试说明；修复3个文档原有的空白格式问题。 #6081 附件下载返回401，使用此前用户提供的校对表定位，其37项黑色字体记录与Issue文件清单对应。 ## 类型标签 - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13784 | 26 days ago | |
feat: routing-map 系列及 RingAttentionUpdate 算子适配 ascend960dt Co-authored-by: xftxyz<pangxiaoyu@h-partners.com> # message auto-generated for no-merge-commit merge: !13662 merge feat/ascend960dt-routing-map-ring into master feat: routing-map 系列及 RingAttentionUpdate 算子适配 ascend960dt Created-by: xftxyz Commit-by: xftxyz Merged-by: cann-robot Description: ## 描述 为四个 routing-map 算子和 RingAttentionUpdate 新增 ascend960dt 支持。 - 目标算子：moe_token_permute_with_routing_map、moe_token_permute_with_routing_map_grad、moe_token_unpermute_with_routing_map、moe_token_unpermute_with_routing_map_grad、ring_attention_update。 - 复用现有 950 配置与计算实现，新增 960DT 注册、CMake elseif 编译分支和 RingAttentionUpdate 二进制配置。 - 公共 Host tiling / ACLNN regbase helper 加入 DAV_9201；保留特定 3510/9201 分发及 Kernel 编译期判断。 - 补齐开放项目调用链依赖 MoeMaskedScatter、MoeInplaceIndexAdd、MoeInplaceIndexAddWithSorted 的注册、分发和构建选项。 ## 关联的Issue 关联 #5990 ## 测试 本地未编译及真机验证（环境无 CANN 依赖）。 ## 文档更新 无。 ## 类型标签 - [x] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [x] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13662 | 26 days ago | |
修改master分支的aidd问题 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !13821 merge master into master 修改master分支的aidd问题 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述 aidd扫描问题修改master分支 ## 关联的Issue 关联issue [#3309](https://gitcode.com/cann/ops-math/issues/3309) ## 测试 md文档更新不涉及测试 ## 文档更新 主要是attention文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13821 | 26 days ago | |
fix(pre-commit): 全仓代码规范整改——公共 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13532 merge common into master fix(pre-commit): 全仓代码规范整改——公共 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5939 ## 描述 全仓代码规范整改系列——公共目录（common/、examples/、tests/、scripts/ 等）。基于仓库 pre-commit 门禁对存量代码做一次性规范收敛： - clang-format 按 .clang-format 统一格式（列宽 120、指针左对齐等），ruff 格式化 Python - 行尾空白、文件末尾换行修复，少量文档笔误修正 - 规模：280 个文件，+4708/-5785 行，纯格式化改动语义等价，无逻辑变更 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5939（全仓整改总跟踪） ## 测试 - pre-commit 全部钩子本地通过 - CI 流水线（compile/UT）验证 See merge request: cann/ops-transformer!13532 | 29 days ago | |
修复graph的UT编译报错 Co-authored-by: lixiawei<lixiawei2@h-partners.com> # message auto-generated for no-merge-commit merge: !13571 merge asan_build into master 修复graph的UT编译报错 Created-by: lixiawei Commit-by: lixiawei Merged-by: cann-robot Description: ## 描述 修复graph的UT编译报错 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/6035 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13571 | 27 days ago | |
[QFA][HIF4]代码回蓝 Co-authored-by: wangyijing<wangyijing12@huawei.com> Co-authored-by: eddie-han-dong<donghan12@huawei.com> Co-authored-by: gcw_y7jrbx71<liao28@huawei.com> # message auto-generated for no-merge-commit merge: !13144 merge huilan930 into master [QFA][HIF4]代码回蓝 Created-by: eddie-han-dong Commit-by: wangyijing;gcw_y7jrbx71;eddie-han-dong Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> A4C4_QKV_HiF4_P_FP8_E4M3_PER_TENSOR_SOFTMAX_FP16模板回主线 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> 关联Issue https://gitcode.com/cann/ops-transformer/issues/5918 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> * CI流水线通过 * NPU冒烟验证通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13144 | 27 days ago | |
feat(pre-commit): 拦截类钩子报告统一落盘 pre-commit_reports + 健壮性与策略对齐 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !12834 merge fix_2 into master feat(pre-commit): 拦截类钩子报告统一落盘 pre-commit_reports + 健壮性与策略对齐 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5016 ## 描述 #### 🐛 Bug 修复 / ✨ 特性增强 围绕既有 pre-commit 体系的三处完善（8 文件 +38/-12，1 笔提交）：**拦截类钩子报告落盘**、**脚本健壮性修复**、**策略与文档对齐**。全部经 --all-files 全量实测校准。 ### 一、拦截类钩子报告统一落盘 pre-commit_reports/（不入 git） | 改动 | 内容 | |---|---| | scripts/run_codespell.sh（新增） | codespell 输出 tee 到 pre-commit_reports/codespell.log（entry 覆写仍跑托管 venv，PIPESTATUS 保退出码） | | .pre-commit-config.yaml | codespell entry 指向包装脚本 | | scripts/oat_check.sh | 报告落点 oat_reports/result.txt → pre-commit_reports/oat_result.txt（单文件与批量两条写路径同步） | | .gitignore | oat_reports/ → pre-commit_reports/ | | docs/zh/develop/pre-commit_guide.md | 失败排查节补报告位置说明 | 自动修类钩子（clang-format/ruff）直接改好文件无需报告；拼写/合规须人工处理，报告落盘便于复查与喂给 agent 修复。 ### 二、健壮性修复（姊妹仓全量实测暴露的同款隐患） | 改动 | 内容 | |---|---| | scripts/oat_check.sh | eval 拼接改数组传参 + -f 加引——文件名含 ()/&/[]/空格时 eval 会打断 shell 致扫描假死/假过（本仓当前 0 此类文件名，防御性修复） | | scripts/format_cpp.sh | 目录不存在时原仅打印提示仍继续执行，改为报错退出（exit 1） | ### 三、策略与文档对齐 | 改动 | 内容 | |---|---| | OAT.xml | 豁免 requirements*.txt（依赖清单，双过滤器）、*.info（cmake help，双过滤器）——全量扫描 250→240，残留均为真实缺头债（增量消化） | | trailing-whitespace | 补 --markdown-linebreak-ext=md（防静默剥掉 md 双空格硬换行语法，实测：双空格保留、三空格收敛、单空格照删） | | .clang-format | PointerAlignment 改 **Left**（int* p 指针随类型，领导确认口径；引用 & 同规则）；年份 2025→2026 | ## 测试 - 全量 OAT 16 批真实扫描（无双误退出码）；缺头 py 拦截有效、豁免类型放行 - md 双空格保留实测通过；codespell 命中落盘、OAT 报告落盘且目录不被 git 跟踪 - 本提交自身过全部钩子（含 OAT）；yaml/xml/bash 语法全过 ## 留作仓主决策（本 PR 不动） - ruff --ignore 现行清单含 F841,F821,F401 等 F 系列——skills-dev 口径为「F 系列全启用抓真 bug」，两仓策略不同，建议仓主确认后另行统一 - third_party/catlass、third_party/opbase 下同名 oat_check.sh 为上游副本，未动 ## 类型标签 - [x] 🐛 Bug 修复 - [x] ✨ 特性增强 See merge request: cann/ops-transformer!12834 | 1 month ago | |
产品文档png文件名改为英文名 Co-authored-by: gitcode-chenjiao<chenjiao31@huawei.com> # message auto-generated for no-merge-commit merge: !9654 merge master into master 产品文档png文件名改为英文名 Created-by: gitcode-chenjiao Commit-by: gitcode-chenjiao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 产品文档中的png图片名由中文改为英文 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#3899](https://gitcode.com/cann/ops-transformer/issues/3899) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> NA ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> png和相关的link md ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!9654 | 3 months ago | |
feat(pre-commit): 拦截类钩子报告统一落盘 pre-commit_reports + 健壮性与策略对齐 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !12834 merge fix_2 into master feat(pre-commit): 拦截类钩子报告统一落盘 pre-commit_reports + 健壮性与策略对齐 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5016 ## 描述 #### 🐛 Bug 修复 / ✨ 特性增强 围绕既有 pre-commit 体系的三处完善（8 文件 +38/-12，1 笔提交）：**拦截类钩子报告落盘**、**脚本健壮性修复**、**策略与文档对齐**。全部经 --all-files 全量实测校准。 ### 一、拦截类钩子报告统一落盘 pre-commit_reports/（不入 git） | 改动 | 内容 | |---|---| | scripts/run_codespell.sh（新增） | codespell 输出 tee 到 pre-commit_reports/codespell.log（entry 覆写仍跑托管 venv，PIPESTATUS 保退出码） | | .pre-commit-config.yaml | codespell entry 指向包装脚本 | | scripts/oat_check.sh | 报告落点 oat_reports/result.txt → pre-commit_reports/oat_result.txt（单文件与批量两条写路径同步） | | .gitignore | oat_reports/ → pre-commit_reports/ | | docs/zh/develop/pre-commit_guide.md | 失败排查节补报告位置说明 | 自动修类钩子（clang-format/ruff）直接改好文件无需报告；拼写/合规须人工处理，报告落盘便于复查与喂给 agent 修复。 ### 二、健壮性修复（姊妹仓全量实测暴露的同款隐患） | 改动 | 内容 | |---|---| | scripts/oat_check.sh | eval 拼接改数组传参 + -f 加引——文件名含 ()/&/[]/空格时 eval 会打断 shell 致扫描假死/假过（本仓当前 0 此类文件名，防御性修复） | | scripts/format_cpp.sh | 目录不存在时原仅打印提示仍继续执行，改为报错退出（exit 1） | ### 三、策略与文档对齐 | 改动 | 内容 | |---|---| | OAT.xml | 豁免 requirements*.txt（依赖清单，双过滤器）、*.info（cmake help，双过滤器）——全量扫描 250→240，残留均为真实缺头债（增量消化） | | trailing-whitespace | 补 --markdown-linebreak-ext=md（防静默剥掉 md 双空格硬换行语法，实测：双空格保留、三空格收敛、单空格照删） | | .clang-format | PointerAlignment 改 **Left**（int* p 指针随类型，领导确认口径；引用 & 同规则）；年份 2025→2026 | ## 测试 - 全量 OAT 16 批真实扫描（无双误退出码）；缺头 py 拦截有效、豁免类型放行 - md 双空格保留实测通过；codespell 命中落盘、OAT 报告落盘且目录不被 git 跟踪 - 本提交自身过全部钩子（含 OAT）；yaml/xml/bash 语法全过 ## 留作仓主决策（本 PR 不动） - ruff --ignore 现行清单含 F841,F821,F401 等 F 系列——skills-dev 口径为「F 系列全启用抓真 bug」，两仓策略不同，建议仓主确认后另行统一 - third_party/catlass、third_party/opbase 下同名 oat_check.sh 为上游副本，未动 ## 类型标签 - [x] 🐛 Bug 修复 - [x] ✨ 特性增强 See merge request: cann/ops-transformer!12834 | 1 month ago | |
ci(compile): 新增 build.sh --PR_COMPILE 编译范围推导机制（白名单优先 + depends反向闭包 + def SoC过滤） Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13100 merge test into master ci(compile): 新增 build.sh --PR_COMPILE 编译范围推导机制（白名单优先 + depends反向闭包 + def SoC过滤） Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 描述 新增 PR 编译范围推导机制，替代原先由 tests/test_config.yaml（example 看护规则）间接决定编译范围的方式。**本 PR 为纯新增：不改任何现有逻辑/任务，UT 维持原状，master 上无 --PR_COMPILE 调用方，对现存 CI 零影响。** ### 1. 推导流程（cmake/scripts/parse_compile_scope.py） 变更文件 → 映射为 <domain>/<op> 键（仅认 attention/ffn/gmm/mamba/mc2/mhc/moe/posembedding 八个大目录；docs/、.md/.json/.ini 跳过）→ 按以下顺序决定编译清单： 1. **白名单优先**：直接变更的算子命中 tests/compile_scope_whitelist.yaml 时，按其 impact（完整编译清单）+ soc（必填，加载即校验，缺失直接报错）选定。当前收录 18 条目：attention/*_metadata（impact=自身+对应无后缀算子，soc 按无后缀 def 推导）、AICPU 算子 attention_worker_scheduler/ffn_worker_scheduler（仅 ascend910b）、mhc/mhc_sinkhorn_common（impact 为 mhc_sinkhorn 正反向，ascend950）。 2. **未命中走正规流程**：op_host/CMakeLists.txt 的 *_depends（兼容 PARENT_SCOPE 与 CACHE INTERNAL 标记）反向闭包，拉出所有声明依赖变更算子的下游；再按 *def.cpp 的 AICore AddConfig 做目标 SoC 过滤。 3. **域内 common/3rd**：变更映射为共享键（如 mc2/common），经 depends 反向闭包触发所有依赖它的算子（如改 mc2/common @910b → 17 个 mc2 算子）。 ### 2. SoC 依据 唯一依据为 def.cpp AddConfig（支持 ascend 短名/长名互认）；op_host/config/<soc> 目录已废弃不作依据。def 中宏/变量等非常规写法的识别待 def 规范化后加强。 ### 3. build.sh 集成 新增 --PR_COMPILE <pr_filelist> 选项（注意 --soc 需在其前传）：推导为空时打印提示并 exit 200（CI 侧约定 200=跳过成功）；非空时设为 ascend_op_name 并进入 custom pkg 编译（出 kernel bin）。 ### 4. 白名单自检 python3 cmake/scripts/parse_compile_scope.py --check：校验白名单条目（算子存在、impact 目标存在、soc 合法、impact 为列表、soc 必填），有错非零退出逐条打印。已挂 pre-commit compile-scope-whitelist-check（仅白名单文件变更时触发）。 ### 5. 已确认的边界（不在本 PR 处理） - ascend310p/ascend350 暂不编译（后续单独出方案）；多 SoC 单构建不支持（CI 走单 SoC 命令）； - 框架级变更（根目录脚本/cmake 公共件）不触发编译范围，由改动方自行验证； - UT 逻辑完全不动（test_soc_config.yaml/get_soc_version.py 保留原样）。 ## 关联的Issue 关联Issue #5732；配套 CI 任务拆分（arch22/arch35）见 #13016（依赖本 PR，需后合入）。 ## 测试 - 语法：bash -n / py_compile / yaml / ruff 全过，pre-commit 全绿； - 推导用例：metadata 白名单（@950→flash_attn+metadata）、AICPU 白名单（@910b 命中、@950 空）、mhc_sinkhorn_common（@950→正反向）、mc2/common 闭包（@910b→17 算子）、dispatch_v2 闭包（@arch22→7 算子）、框架变更空范围； - 端到端：build.sh --soc=ascend950 --PR_COMPILE 实编成功（kernel bin 产出），空范围 exit 200。 ## 后续（另起 PR） depends drift 持续看护、def.cpp AddConfig 写法规范化、#13016 的 CI 任务拆分接入。 See merge request: cann/ops-transformer!13100 | 1 month ago | |
chore: replace gitcode.com links with atomgit.com Co-authored-by: qzzzy1<qiziyu2@huawei.com> # message auto-generated for no-merge-commit merge: !12664 merge master into master chore: replace gitcode.com links with atomgit.com Created-by: qzzzy1 Commit-by: qzzzy1 Merged-by: cann-robot Description: ## 描述 transformer仓gitcode.com改成atomgit.com ## 关联的Issue 关联Issue 5667 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!12664 | 1 month ago | |
支持线上CI编译960dt Co-authored-by: yangyajie<yangyajie3@huawei.com> # message auto-generated for no-merge-commit merge: !13423 merge master into master 支持线上CI编译960dt Created-by: yangyajie Commit-by: yangyajie Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13423 | 30 days ago | |
chore: replace gitcode.com links with atomgit.com Co-authored-by: qzzzy1<qiziyu2@huawei.com> # message auto-generated for no-merge-commit merge: !12664 merge master into master chore: replace gitcode.com links with atomgit.com Created-by: qzzzy1 Commit-by: qzzzy1 Merged-by: cann-robot Description: ## 描述 transformer仓gitcode.com改成atomgit.com ## 关联的Issue 关联Issue 5667 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!12664 | 1 month ago | |
Pre-Commit 规范整改 — 公共 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !5305 merge refactor into master Pre-Commit 规范整改 — 公共 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: pre-commit是一个Git Hooks框架，用于在 git commit时自动运行代码检查和格式化工具。： | Hook | 功能 | 说明 | |------|------|------| | **clang-format** | C/C++ 代码格式化 | 自动格式化代码，保持风格一致 | | **OAT Check** | 开源合规检查 | 检测许可证头、禁止二进制文件提交 | 本PR对于公共文件进行了pre-commit检查 See merge request: cann/ops-transformer!5305 | 3 months ago | |
fix(pre-commit): 全仓OAT合规整改——许可证/版权头存量修复与豁免策略对齐 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13363 merge fix_3 into master fix(pre-commit): 全仓OAT合规整改——许可证/版权头存量修复与豁免策略对齐 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5885 ## 描述 全仓 OAT 合规整改（ pre-commit run oat-check --all-files 从 200 条问题清零）： **1. OAT.xml 豁免策略对齐**（仅新增 6 行 filteritem，零删除）： - experimental/.*：孵化目录豁免 license/copyright/binary 三类检查（含 swiglu_gated_mlp 等第三方 Apache-2.0 双版权贡献代码，策略上不归管） - *.jpg：文档图片豁免二进制拦截（与已有 *.png 一致） - LICENSE：许可证正文本身，豁免许可证头检查 - Third_Party_Open_Source_Software_Notice：第三方声明文件，豁免版权头检查 **2. 文件头修复（167 个源文件）**： - 旧版许可证头（redistribute it and/or modify. 句式，2026-03 入库、04-03 OAT 上线前时间差遗留）→ 标准 CANN V2 头 - 变体错别字：Copyend (c)、You can not use、in in compliance、free software; 分号、CANN 1.0 许可证等 - 无头文件补标准头（如 golden.py、executor_aclnnMoeFusedTopk.py） - 版权年保留各文件原有年份；CRLF/混合行尾文件逐字节保持原行尾，diff 仅头部 **3. 历史遗留原因**：存量问题多经网页端合并（不触发本地钩子）或 OAT 上线前入库积累。 ## 验证 - pre-commit run oat-check --all-files：9 个批次全部 0 issue，Passed - git pc HEAD~1 + 显式 pre-commit run --files 复核收敛，第 2 笔为 clang-format/ruff/end-of-files 自动修复 - py/sh 语法、OAT.xml XML 合法性校验通过 基线 master：d9d81a50a See merge request: cann/ops-transformer!13363 | 30 days ago | |
chore: replace gitcode.com links with atomgit.com Co-authored-by: qzzzy1<qiziyu2@huawei.com> # message auto-generated for no-merge-commit merge: !12664 merge master into master chore: replace gitcode.com links with atomgit.com Created-by: qzzzy1 Commit-by: qzzzy1 Merged-by: cann-robot Description: ## 描述 transformer仓gitcode.com改成atomgit.com ## 关联的Issue 关联Issue 5667 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!12664 | 1 month ago | |
chore: replace gitcode.com links with atomgit.com Co-authored-by: qzzzy1<qiziyu2@huawei.com> # message auto-generated for no-merge-commit merge: !12664 merge master into master chore: replace gitcode.com links with atomgit.com Created-by: qzzzy1 Commit-by: qzzzy1 Merged-by: cann-robot Description: ## 描述 transformer仓gitcode.com改成atomgit.com ## 关联的Issue 关联Issue 5667 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!12664 | 1 month ago | |
支持按模板参数编译算子kernel、支持编译入参调试异常与调优参数 Co-authored-by: lidongsheng<lidongsheng43@huawei.com> Co-authored-by: 吴剑飞<wujianfei15@huawei.com> # message auto-generated for no-merge-commit merge: !2170 merge 910_lds into master 支持按模板参数编译算子kernel、支持编译入参调试异常与调优参数 Created-by: qq_46353993 Commit-by: 吴剑飞;lidongsheng Merged-by: cann-robot Description: ## 描述 本次修改支持用户通过build.sh的编译入口传入模板参数--kernel_template_input后按tilingkey编译、传入--bisheng_flags进行调试异常 ## 关联的Issue [支持按模板参数指定编译kernel](https://gitcode.com/cann/ops-transformer/issues/1036) [支持编译入参新增调试异常和调优参数](https://gitcode.com/cann/ops-transformer/issues/1044) ## 测试 二级冒烟、指定模板参数编译并执行测试用例 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!2170 | 8 months ago | |
Pre-Commit 规范整改 — 公共 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !5305 merge refactor into master Pre-Commit 规范整改 — 公共 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: pre-commit是一个Git Hooks框架，用于在 git commit时自动运行代码检查和格式化工具。： | Hook | 功能 | 说明 | |------|------|------| | **clang-format** | C/C++ 代码格式化 | 自动格式化代码，保持风格一致 | | **OAT Check** | 开源合规检查 | 检测许可证头、禁止二进制文件提交 | 本PR对于公共文件进行了pre-commit检查 See merge request: cann/ops-transformer!5305 | 3 months ago | |
修复不设置出包时仍进行打包，并构建preinstall目标，导致编译时间增加的bug Co-authored-by: waker<lizhengjun7@h-partners.com> # message auto-generated for no-merge-commit merge: !13587 merge cpack-fix into master 修复不设置出包时仍进行打包，并构建preinstall目标，导致编译时间增加的bug Created-by: wanker Commit-by: waker Merged-by: cann-robot Description: ## 描述 原因：修复不设置出包时仍进行打包，并构建preinstall目标，导致编译时间增加的bug 改动：将编译脚本修改为 根据是否设置出包 走不同的代码分支 ## 测试 编排通过 ## 类型标签 <!-- [x] 表示选中 --> - [x ] 🐛 Bug修复 - [x ] ⚡ 性能优化 See merge request: cann/ops-transformer!13587 | 28 days ago | |
mqfa to blue Co-authored-by: luoyun<luoyun38@huawei.com> # message auto-generated for no-merge-commit merge: !13088 merge only_to_blue into master mqfa to blue Created-by: luoyun-6 Commit-by: luoyun Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/5826 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13088 | 1 month ago | |
update cmake minimum required to 3.18.4 Co-authored-by: poorwill<wangbing110@huawei.com> # message auto-generated for no-merge-commit merge: !9634 merge master into master update cmake minimum required to 3.18.4 Created-by: wangbing110 Commit-by: poorwill Merged-by: cann-robot Description: update cmake minimum required to 3.18.4 See merge request: cann/ops-transformer!9634 | 3 months ago | |
Pre-Commit 规范整改 — 公共 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !5305 merge refactor into master Pre-Commit 规范整改 — 公共 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: pre-commit是一个Git Hooks框架，用于在 git commit时自动运行代码检查和格式化工具。： | Hook | 功能 | 说明 | |------|------|------| | **clang-format** | C/C++ 代码格式化 | 自动格式化代码，保持风格一致 | | **OAT Check** | 开源合规检查 | 检测许可证头、禁止二进制文件提交 | 本PR对于公共文件进行了pre-commit检查 See merge request: cann/ops-transformer!5305 | 3 months ago | |
升级 ops-transformer 版本至 9.2.0 Co-authored-by: wang-minbo<wangminbo1@hisilicon.com> # message auto-generated for no-merge-commit merge: !11465 merge master into master 升级 ops-transformer 版本至 9.2.0 Created-by: wang-minbo Commit-by: wang-minbo Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000-->https://gitcode.com/cann/ops-transformer/issues/5083 <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11465 | 2 months ago | |
check_compile_version Co-authored-by: 吴剑飞<wujianfei15@huawei.com> # message auto-generated for no-merge-commit merge: !2085 merge check_version into master check_compile_version Created-by: hid81635372 Commit-by: 吴剑飞 Merged-by: cann-robot Description: ## 描述 工程上支持在编译时对子包版本进行校验 ## 关联的Issue https://gitcode.com/cann/ops-transformer/pull/2085 ## 测试 功能上可以在子包版本低于构建依赖时进行告警，RDV已通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述： 工程能力增加编译时版本校验功能 See merge request: cann/ops-transformer!2085 | 8 months ago |
🔥Latest News
- [2026/08] 仓内集成pre-commit代码检查框架，配置后
git commit时自动检查并修复格式问题，将规范问题拦截在提交阶段、提升代码合入效率，详见pre-commit配置指导书。 - [2026/07] A5上新支持算子quant_flash_attn，Dense Attention全量化场景专用，以及experimental目录新增同名算子支持A5的MxFP4全量化；chunk_gated_delta_rule算子支持A5；A5新增DSV4 dense训练阶段TopK筛选反向算子dense_lightning_indexer_grad_kl_loss、dense_lightning_indexer_softmax_lse；mc2新支持算子engram_fetch_grad。
- [2026/06] A5上新增支持sparse_flash_mla、mixed_quant_sparse_flash_mla以及对应的metadata算子，用于DSV4场景稀疏Attention计算。新增lightning_indexer_v2、quant_lightning_indexer_v2以及对应的metadata算子，用于DSV4场景TopK筛选。A5新增DSV4 sparse训练阶段Attention反向算子sparse_flash_mla_grad、sparse_lightning_indexer_kl_loss_grad；mc2新支持算子engram_fetch、engram_fetch_wait。
- [2026/05] fused_infer_attention_score算子A5上支持MxFP8全量化；A5上新支持算子flash_attn，Dense Attention非量化场景专用。
- [2026/04] mc2新支持算子mega_moe。
- [2026/03] recurrent_gated_delta_rule算子支持A5。
- [2026/02] 新支持算子mhc_post、mhc_pre、mhc_res。
- [2026/01] 新支持算子grouped_matmul<<<>>>调用示例，方便用户自定义使用。
- [2026/01] 新支持算子fused_floyd_attention、fused_floyd_attention_grad、matmul_allto_all。
- [2025/12] 新增QuickStart，指导新手零基础入门算子项目部署（支持Docker环境）、算子开发和贡献流程。
- [2025/12] 优化指南类文档，聚焦算子开发指南，明确最小交付件和关键示例代码，针对Ascend/samples仓算子提供迁移本项目的指导。
- [2025/12] 支持transformer类onnx算子插件，包括NPUFlashAttention、NPUMultiHeadAttention、NPUMoeComputeExpertTokens等。
- [2025/12] 新支持算子kv_rms_norm_rope_cache、attention_update、attention_worker_scheduler、gather_pa_kv_cache、kv_quant_sparse_flash_attention、lightning_indexer_grad、mla_preprocess、mla_preprocess_v2、grouped_matmul_swiglu_quant_v2、attention_to_ffn、ffn_to_attention。
- [2025/12] 开源算子支持NPU Simulator仿真工具开发调试。
- [2025/12] 开源算子支持Ascend 950PR&950DT系列产品/KirinX90系列产品。
- [2025/11] 新支持算子kv_quant_sparse_flash_attention、lightning_indexer、quant_lightning_indexer、sparse_flash_attention。
- [2025/11] 新支持示例算子rope_matrix和all_gather_add。
- [2025/11] 新增算子开发工程模板NpuOpsTransformerExt，无缝集成PyTorch张量操作，支持自动微分和GPU/NPU统一接口。
- [2025/10] 新增experimental目录，完善贡献指南，支持开发者调试并贡献自定义算子。
- [2025/09] ops-transformer项目首次上线，开源算子支持Atlas A2/A3系列产品。
🚀概述
ops-transformer是CANN（Compute Architecture for Neural Networks）算子库中提供transformer类大模型计算的进阶算子库，包括attention类、moe类、mc2类等，覆盖各类attention、MoE计算、通算融合等场景，算子库在架构图中的位置如下。
📌版本配套
本项目源码会跟随CANN软件版本发布，关于CANN软件版本与本项目标签的对应关系请参阅release仓库中的相应版本说明。 请注意，为确保您的源码定制开发顺利进行，请选择配套的CANN版本与Gitcode标签源码，使用master分支可能存在版本不匹配的风险。
🛠️环境准备
环境部署是体验本项目能力的前提，请先完成NPU驱动、CANN包安装等，确保环境正常。
⬇️源码下载
环境准备好后，下载与CANN版本配套的分支源码，通用命令如下，${tag_version}替换为分支标签名。以9.0.0分支源码下载为例：
# 通用命令：git clone -b ${tag_version} https://atomgit.com/cann/ops-transformer.git
git clone -b 9.0.0 https://atomgit.com/cann/ops-transformer.git
说明：若环境中已存在配套分支源码，可跳过本步骤，例如CANNLab默认已提供最新版本CANN对应的源码。
📖学习教程
💬相关信息
PS：本项目功能和文档正在持续更新和完善中，欢迎您关注最新版本。