本项目是CANN提供的transformer类大模型算子库，实现网络在NPU上加速计算。

文件	最后提交记录	最后更新时间
.gitcode	fix(ci): 增加UT超时时长限制 Co-authored-by: tanghaoran7<tanghaoran7@huawei.com> # message auto-generated for no-merge-commit merge: !11119 merge master into master fix(ci): 增加UT超时时长限制 Created-by: tanghaoran7 Commit-by: tanghaoran7 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11119	6 天前
attention	quant_compressor，aclnn和e2e使用一份bin Co-authored-by: caizhengyang<caizhengyang1@huawei.com> # message auto-generated for no-merge-commit merge: !11452 merge 0907 into master quant_compressor，aclnn和e2e使用一份bin Created-by: caizhengyang Commit-by: caizhengyang Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> quant_compressor，aclnn和e2e使用一份bin ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/5066 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11452	50 分钟前
cmake	MoeDistributeDispatchSetup&MoeDistributeDispatchTeardown补充rt2.0注册和信息库实现 Co-authored-by: qzzzy1<qiziyu2@huawei.com> # message auto-generated for no-merge-commit merge: !11210 merge master into master MoeDistributeDispatchSetup&MoeDistributeDispatchTeardown补充rt2.0注册和信息库实现 Created-by: qzzzy1 Commit-by: qzzzy1 Merged-by: cann-robot Description: ## 描述补充MoeDistributeDispatchSetup/Teardown RT2.0 infershape与inferdatatype ## 关联的Issue 4932 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [x] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11210	1 小时前
common	fix: 修复 EXEC_OPAPI_CMD 宏错误路径 break 跳过 ReleaseConvertTypes 导致的内存泄漏 Co-authored-by: weihao18<weihao16@h-partners.com> # message auto-generated for no-merge-commit merge: !11218 merge fix-issue-4796 into master fix: 修复 EXEC_OPAPI_CMD 宏错误路径 break 跳过 ReleaseConvertTypes 导致的内存泄漏 Created-by: weihao18 Commit-by: weihao18 Merged-by: cann-robot Description: ## 描述 fix: 修复 EXEC_OPAPI_CMD 宏错误路径 break 跳过 ReleaseConvertTypes 导致的内存泄漏 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4796 ## 测试编排构建 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11218	1 天前
docs	ascend950_op_list文档补充MhcPreSinkhorn算子说明 Co-authored-by: taochangmin<taochangmin@huawei.com> # message auto-generated for no-merge-commit merge: !11429 merge mhc_docs_fix into master ascend950_op_list文档补充MhcPreSinkhorn算子说明 Created-by: taochangmin Commit-by: taochangmin Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1. 补充ascend950_op_list文档中MhcPreSinkhorn算子的说明 2. 补充op_api_list.md中MhcPreSinkhorn的确定性说明 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/5048 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 格式检查 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> docs/zh/ascend950_op_list.md docs/zh/op_api_list.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11429	20 小时前
examples	整改仓内+安装重名头文件 Co-authored-by: chenyifan<chenyifan66@h-partners.com> # message auto-generated for no-merge-commit merge: !11266 merge clear_h into master 整改仓内+安装重名头文件 Created-by: mutex_lock Commit-by: chenyifan Merged-by: cann-robot Description: ## 描述整改仓内及安装场景下的重名头文件冲突，避免同名头文件在编译包含路径或安装打包时互相覆盖。改动原因 - 仓内 `attention/`、`gmm/`、示例工程等存在 basename 相同的头文件，易在统一 include 搜索路径下发生错误包含。 - 与 `third_party`（如 catlass）及主仓多算子之间存在安装侧重名，可能覆盖安装产物。采取的方法 1. 仓内重名（`637b7145f`）：对易冲突头文件按模块加前缀消歧，并同步更新引用，例如： - BSA / GBSA：`block_epilogue_` / `block_mmad_` → `bsa_` / `gbsa_` - recurrent_kda：`recurrent_kda.h` → `recurrent_kda_arch22.h` / `recurrent_kda_arch35.h` - grouped_matmul：`grouped_matmul_kernel.h` → `grouped_matmul_kernel_arch35.h` / `fkl_grouped_matmul_kernel.h` 等 - metadata：`generic_block_sparse_attention_metadata.h` → `generic_block_sparse_attention_metadata_tiling.h` 2. 安装重名（`975ffde47`）：对 GBSA/BSA/GMM 基础设施头文件统一加模块前缀（`gbsa_` / `bsa_` / `gmm_`，epilogue/gemm/tla 再细分），`git mv` 后批量更新 `#include`；不改 `experimental/` 与 `third_party/`。 3. 同步调整 `scripts/check_duplicate_headers.sh` 等相关引用。范围说明：本次仅为头文件重命名与 include 路径同步，无业务逻辑变更（约 151 个文件，增删对等）。 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5037 ## 测试 ## 文档更新 ## 类型标签 - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [x] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11266	21 小时前
experimental	overwrite experimental/bsa Co-authored-by: wangchao661<wangchao661@huawei.com> # message auto-generated for no-merge-commit merge: !11443 merge master into master overwrite experimental/bsa Created-by: wangchao661 Commit-by: wangchao661 Merged-by: cann-robot Description: ## 描述 experimental目录下BSA算子对齐attention目录实现 ## 关联的Issue 关联issue：https://gitcode.com/cann/ops-transformer/issues/5063 ## 测试蓝区编译门禁 ## 文档更新 aclnnBlockSparseAttention.md、aclnnBlockSparseAttentionV2.md、aclnnBlockSparseAttentionV3.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [x] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11443	8 小时前
ffn	test: 清理 Worker Scheduler UT 冗余 ut_stub.h 引用 Co-authored-by: Ding_Jing<dingjing19@huawei.com> # message auto-generated for no-merge-commit merge: !11441 merge test/remove-worker-scheduler-ut-stub-include into master test: 清理 Worker Scheduler UT 冗余 ut_stub.h 引用 Created-by: Ding_Jing Commit-by: Ding_Jing Merged-by: cann-robot Description: ## 描述删除以下四个 Worker Scheduler UT 文件中冗余的 `#include "ut_stub.h"`： - `test_aclnn_ffn_worker_scheduler.cpp` - `test_ffn_worker_scheduler.cpp` - `test_aclnn_attention_worker_scheduler.cpp` - `test_attention_worker_scheduler.cpp` 同时按仓库 pre-commit 要求，对上述四个文件应用 clang-format、EOF 换行和尾随空格修复。本次不修改测试逻辑或其他代码。 ## 关联的Issue 关联Issue #5059 ## 测试 - `pre-commit run --files <4 files>`：通过 - 四个源文件独立 `g++ -fsyntax-only`：通过 - `git diff --check origin/master`：通过 - 仓库原生 op-api UT：未执行（本机 CANN 8.5 与最新主线在 CMake 配置阶段存在 `tikicpulib` 重复 ALIAS target 环境问题） ## 文档更新无文档更新。 ## 类型标签 - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [x] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11441	1 小时前
gmm	perf(gmmaq): fit epilogue UB double buffer for target shape Co-authored-by: zhoushaolong<zhoushaolong3@huawei.com> # message auto-generated for no-merge-commit merge: !11198 merge perf/gmmaq-epilogue-ub-db-basem-224-20260903 into master perf(gmmaq): fit epilogue UB double buffer for target shape Created-by: zhoushaolong Commit-by: zhoushaolong Merged-by: cann-robot Description: ## 描述针对 Ascend950 arch35 的 GroupedMatmulActivationQuant（GMMAQ）tiling，增加 epilogue UB 双缓冲的空间适配逻辑。主要改动如下： - 新增 epilogue UB 空间估算，综合计算中间结果、量化结果、scale 以及双缓冲所需的 UB 空间。 - 在 `baseM` 经过基础 tiling 计算和 UB 上限约束后，检查当前分块是否能够容纳 epilogue 双缓冲。 - 当 UB 空间不足时，按照 `GmmConstant::CUBE_BLOCK` 步长递减搜索可用的 `baseM`。 - 仅在调整后的平均分块数量不增加时更新 `baseM`，避免引入额外的分块开销。 - 在执行 L1 tiling 前完成 `baseM` 调整，确保后续 tiling 参数基于最终分块尺寸计算。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/4955 ## 测试本次未新增或修改测试文件。现有 `grouped_matmul_activation_quant` host UT 包含对 epilogue 每个 AIV 的元素数量上限校验，但当前 PR 未提供具体测试执行记录，需补充相关测试结果。 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 无。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [x] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11198	6 小时前
mamba	torch extension整改成分布式 Co-authored-by: hblnb<huangbolin3@huawei.com> # message auto-generated for no-merge-commit merge: !9712 merge torch_extension_split into master torch extension整改成分布式 Created-by: hblnb Commit-by: hblnb Merged-by: cann-robot Description: ## 描述 ops-transformer仓支持各个算子独立编译torch_extention，并将torch_extension从集中式改成分布式（算子的文件分布到算子源码目录下新建的torch_extension文件夹） ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4502 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [x] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!9712	15 天前
mc2	fix(mega_moe): align activation validation and documentation Co-authored-by: zhujun116<zhujun116@huawei.com> # message auto-generated for no-merge-commit merge: !11390 merge master into master fix(mega_moe): align activation validation and documentation Created-by: OblivionZHU Commit-by: zhujun116 Merged-by: cann-robot Description: ## 描述 ## 修改内容 ### 代码整改 - 统一 Atlas A2/A3 和 Ascend 950PR/950DT 的 SiTUGLU 参数校验： - `beta` 必须为大于 0 的有限值。 - 显式配置的 `linear_beta` 必须为大于 0 的有限值。 - 修正现有 UT 中 SiTUGLU 的合法参数取值及相关注释，未新增测试用例。 - “Ascend 950PR/Ascend 950DT”说明整改。 ### 激活流程资料整改 - 将流程、公式和共享专家计算中泛指激活阶段的“SwiGLU”统一改为“Activation/激活”，避免与新增激活类型冲突。 - 补充 `swiglu`、`swiglustep`、`swigluoai` 和 `situglu` 的参数配套及取值约束。 - 明确不同产品上 SiTUGLU 的默认参数和必选规则。 - 修正 A8W4-FP 场景中的公式格式问题。 - 修正符号含义： - `E_local` 表示本 Rank 的路由 MoE 专家数。 - 新增 `m_e` 表示专家本次实际接收的 Token 数。 ### MXFP量化说明整改 - 明确 A8W8-FP 场景激活量化类型与 Dispatch 阶段一致，支持 `FLOAT8_E5M2` 或 `FLOAT8_E4M3FN`。 - 明确 A8W4-FP 场景 Dispatch 和激活量化均使用 `FLOAT8_E4M3FN`。 - 明确 A4W4-FP 场景： - Dispatch 阶段量化为 `FLOAT4_E2M1`。 - 第一层矩阵乘后的激活结果量化为 `FLOAT8_E4M3FN`。 - 第二层矩阵乘实际为 A8W4。 - 删除资料中对内部类型变量 `SwigluQuantOutType` 的直接描述，改为面向用户的量化行为说明。 - 保留 `l1_weights_sf`、`l2_weights_sf` 的“可选”属性，在参数说明中明确 MXFP 量化场景下必须输入。 ### 权重及TensorList约束整改 - 将 Ascend 950PR/950DT 路由专家相关维度统一为 `local_moe_expert_num`。 - 补充 `l1_weights_sf`、`l2_weights_sf` 在 Ascend 950PR/950DT 上的 TensorList 长度： - 逐专家布局长度为 `local_moe_expert_num`。 - 堆叠布局长度为 1。 - 明确权重及权重缩放因子的逐专家布局、堆叠布局及一致性要求。 - 补充 FP4 权重在 PyTorch 侧以 `uint8` 打包传入的说明： - 每个 `uint8` 打包两个 `FLOAT4_E2M1` 元素。 - 表格中的 shape 为物理载体的实际传入 shape。 - 通过 `weight1_type`、`weight2_type` 指定逻辑数据类型。 - 补充 A8W8-FP E4M3 权重的 FRACTAL_NZ 格式支持。 - 删除无对应实现的 A4W4-FP `weight1` ND 格式说明，并明确： - A8W4-FP 的 `weight1` 使用 `FORMAT_FRACTAL_NZ_C0_32`。 - A4W4-FP 的 `weight1` 仅支持 `FRACTAL_NZ`。 - 两种场景的 `weight2` 使用 `FORMAT_FRACTAL_NZ_C0_32`。 - 共享专家权重格式需与对应路由专家权重一致。 - 将“普通MTE权重格式”等内部表述改为 A8W8-FP、A8W4-FP、A4W4-FP 等用户可理解的场景描述。 ### 通信及组网约束整改 - 将“通信域和组网约束”拆分为“通信域约束”和“组网约束”两个独立小节。 - 修正 Ascend 950PR/950DT 约束中混入 Atlas A2/A3 组网说明的问题。 - 删除 `topo_type` 和 `topk_weights_type` 中“当前暂不支持URMA通信方式”的过期说明。 - 明确 URMA 拓扑下暂不支持 `swiglustep` 和 `swigluoai` 激活算法。 - “Ascend 950PR/Ascend 950DT”说明整改。 ### 资料同步以上修改已同步至： - `mc2/mega_moe/README.md` - `torch_extension/cann_ops_transformer/docs/zh/mega_moe.md` ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新以上修改已同步至： - `mc2/mega_moe/README.md` - `torch_extension/cann_ops_transformer/docs/zh/mega_moe.md` ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11390	1 小时前
mhc	fix: refine BlockAttentionResidualsGrad validation and empty tensor handling Co-authored-by: zzzzzzyf_<zhouyunfei10@huawei.com> # message auto-generated for no-merge-commit merge: !11416 merge master_kimi_mhc into master fix: refine BlockAttentionResidualsGrad validation and empty tensor handling Created-by: zzzzzzyf_ Commit-by: zzzzzzyf_ Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 1.block_attention_residuals算子正反向接口关联 2.修改反向算子场景valid_block_num默认值为-1 3.MicroAPI写法整改 4.增加valid_block_num无效值校验 5.修改接口文档中不合理写法 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11416	3 小时前
moe	MoeGatingTopKBackward算子VF累加改进 Co-authored-by: wkyan<yanwenkai@huawei.com> # message auto-generated for no-merge-commit merge: !11459 merge 0907_sum into master MoeGatingTopKBackward算子VF累加改进 Created-by: wkyan Commit-by: wkyan Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> MoeGatingTopKBackward算子VF累加改进 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/5084 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 本地ttk测试验证通过，经过累加改进后，精度得到一定提升。 David冒烟已通过。 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11459	1 小时前
posembedding	docs(rotary_position_embedding): 补充 aclnnRotaryPositionEmbedding 第一段接口报错场景表 Co-authored-by: alfengyuan<yyfgdut@gmail.com> # message auto-generated for no-merge-commit merge: !11489 merge fix/rope-v1-error-table into master docs(rotary_position_embedding): 补充 aclnnRotaryPositionEmbedding 第一段接口报错场景表 Created-by: alfengyuan Commit-by: alfengyuan Merged-by: cann-robot Description: ## 背景文档反馈 issue：https://gitcode.com/cann/ops-transformer/issues/5103 ## 修改内容 `aclnnRotaryPositionEmbedding.md` 的 `aclnnRotaryPositionEmbeddingGetWorkspaceSize` 段"返回值"补充第一段接口报错场景表，与同算子 V2/grad 文档（`aclnnRotaryPositionEmbeddingV2.md`、`aclnnRotaryPositionEmbeddingGrad.md`）保持一致： \| 返回码 \| 错误码 \| 描述 \| \|---\|---\|---\| \| ACLNN_ERR_PARAM_NULLPTR \| 161001 \| 传入的x、cos、sin或out是空指针 \| \| ACLNN_ERR_PARAM_INVALID \| 161002 \| 传入的x、cos、sin、out的数据类型和格式不在支持的范围内 \| \| ACLNN_ERR_INNER_TILING_ERROR \| 561002 \| shape不匹配 / mode不在支持的范围内（两条描述，rowspan=2） \| ## 说明 - V1 接口无 rotate 参数（`aclnnRotaryPositionEmbeddingGetWorkspaceSize(x, cos, sin, mode, out, ...)`），故表中不含 rotate 相关项（V2 的 161002 描述含 rotate，V1 不含）。 - 表格格式、错误码与 V2/grad 完全一致，仅描述参数范围按 V1 实际入参裁剪。 - 纯文档改动，无代码/行为变更。 See merge request: cann/ops-transformer!11489	1 小时前
scripts	统一配置ops-transformer安装目录及文件权限 Co-authored-by: q00889097<qinhan10@huawei.com> # message auto-generated for no-merge-commit merge: !11232 merge master into master 统一配置ops-transformer安装目录及文件权限 Created-by: qinhan123 Commit-by: q00889097 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 本 PR 主要统一了 ops-transformer 安装流程中安装目录及文件的权限配置：移除散落在各脚本中的冗余 chmod/chown 操作，同时升级了 cann-cmake 第三方依赖版本, 规范权限统一的操作在cmake中实现。整体以减少冗余权限设置、统一权限基准为主，不涉及安装流程的业务逻辑改动。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/5019 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [x] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11232	7 小时前
tests	SoftmaxTilingMocker增加默认version，补充打桩函数 Co-authored-by: chenyifan<chenyifan66@h-partners.com> # message auto-generated for no-merge-commit merge: !11477 merge fix_softmax into master SoftmaxTilingMocker增加默认version，补充打桩函数 Created-by: mutex_lock Commit-by: chenyifan Merged-by: cann-robot Description: ## 描述 - 加GetSoftMaxMaxTmpSize打桩 - SoftmaxTilingMocker::GetSocVersion()用ascend910b兜底 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5087 ## 测试 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [x] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [x] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11477	3 小时前
torch_extension	feat: flash_attn支持qk!=v (192/128) Co-authored-by: jiang-lirui<jianglirui1@huawei.com> # message auto-generated for no-merge-commit merge: !11255 merge flash_attn_qk192_v128 into master feat: flash_attn支持qk!=v (192/128) Created-by: jiang-lirui Commit-by: jiang-lirui Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> flash_attn支持QK_D=192、V_D=128 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> Issue [#5068](https://gitcode.com/cann/ops-transformer/issues/5068) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 二级冒烟PASS ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> 已更新算子README.md和torch接口文档 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11255	1 小时前
.clang-format	pre-commit: set AllowShortFunctionsOnASingleLine to Empty Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !10461 merge fix_2 into master pre-commit: set AllowShortFunctionsOnASingleLine to Empty Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!10461	15 天前
.gitattributes	产品文档png文件名改为英文名 Co-authored-by: gitcode-chenjiao<chenjiao31@huawei.com> # message auto-generated for no-merge-commit merge: !9654 merge master into master 产品文档png文件名改为英文名 Created-by: gitcode-chenjiao Commit-by: gitcode-chenjiao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 产品文档中的png图片名由中文改为英文 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#3899](https://gitcode.com/cann/ops-transformer/issues/3899) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> NA ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> png和相关的link md ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!9654	1 个月前
.gitignore	Pre-Commit 规范整改 — 公共 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !5305 merge refactor into master Pre-Commit 规范整改 — 公共 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: pre-commit是一个Git Hooks框架，用于在`git commit`时自动运行代码检查和格式化工具。： \| Hook \| 功能 \| 说明 \| \|------\|------\|------\| \| clang-format \| C/C++ 代码格式化 \| 自动格式化代码，保持风格一致 \| \| OAT Check \| 开源合规检查 \| 检测许可证头、禁止二进制文件提交 \| 本PR对于公共文件进行了pre-commit检查 See merge request: cann/ops-transformer!5305	1 个月前
.pre-commit-config.yaml	Pre_commit新增重名头文件拦截规则 Co-authored-by: chenyifan<chenyifan66@h-partners.com> # message auto-generated for no-merge-commit merge: !11057 merge pre_commit_repeat_h into master Pre_commit新增重名头文件拦截规则 Created-by: mutex_lock Commit-by: chenyifan Merged-by: cann-robot Description: ## 描述新增 pre-commit 本地拦截规则，避免仓内出现同名头文件 basename（`.h` / `.hpp`）。 - 在 `.pre-commit-config.yaml` 增加 hook `duplicate-header-check`，调用 `scripts/check_duplicate_headers.sh`。 - 仅检查暂存区中「新增(A)/重命名(R)」的头文件；对每个 basename 在仓库内 `find`，非白名单命中数 > 1 则拦截并输出英文报错、命名指引与推荐名。 - 白名单默认跳过 `build/`、`build_out/`（find 直接 prune）；支持按路径前缀扩展。 - 设计为只在本地 commit 生效：CI 通过 `pre-commit run --files` 且无可用 A/R 暂存时脚本自动 skip，不影响线上流水线。 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4865 ## 测试本地构造 11 个场景验证，均符合预期，包括： - 无暂存 A/R 头文件时 skip - 唯一 `.h` / `.hpp` 新增通过 - 与仓内已有 basename 冲突时拦截（含重命名 R） - 仅修改(M)已有头文件不拦截 - 白名单路径跳过 / prune - 推荐名生成与冲突回退 ## 文档更新无 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [x] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11057	5 天前
CHANGELOG.md	fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !9326 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 修改AIDD扫描的核心资料问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#3995](https://gitcode.com/cann/ops-transformer/issues/3995) ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> torch_api_list.md op_list.md ascend950_op_list.md aclnn返回码.md 互推导关系.md ... ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!9326	1 个月前
CMakeLists.txt	修改cann包下算子kernel源码的路径，多加一级op_kernel Co-authored-by: hblnb<huangbolin3@huawei.com> # message auto-generated for no-merge-commit merge: !10920 merge add_opkernel_path into master 修改cann包下算子kernel源码的路径，多加一级op_kernel Created-by: hblnb Commit-by: hblnb Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [x] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!10920	5 天前
CONTRIBUTING.md	产品文档png文件名改为英文名 Co-authored-by: gitcode-chenjiao<chenjiao31@huawei.com> # message auto-generated for no-merge-commit merge: !9654 merge master into master 产品文档png文件名改为英文名 Created-by: gitcode-chenjiao Commit-by: gitcode-chenjiao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 产品文档中的png图片名由中文改为英文 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#3899](https://gitcode.com/cann/ops-transformer/issues/3899) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> NA ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> png和相关的link md ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!9654	1 个月前
LICENSE	Pre-Commit 规范整改 — 公共 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !5305 merge refactor into master Pre-Commit 规范整改 — 公共 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: pre-commit是一个Git Hooks框架，用于在`git commit`时自动运行代码检查和格式化工具。： \| Hook \| 功能 \| 说明 \| \|------\|------\|------\| \| clang-format \| C/C++ 代码格式化 \| 自动格式化代码，保持风格一致 \| \| OAT Check \| 开源合规检查 \| 检测许可证头、禁止二进制文件提交 \| 本PR对于公共文件进行了pre-commit检查 See merge request: cann/ops-transformer!5305	1 个月前
OAT.xml	feat: add BlockAttnResPrepare tiling and kernel Co-authored-by: zhaoyingchao<zhaoyingchao1@hisilicon.com> # message auto-generated for no-merge-commit merge: !10972 merge codex/block-attn-res-prepare-core into master feat: add BlockAttnResPrepare tiling and kernel Created-by: zhaoyingchao2 Commit-by: zhaoyingchao Merged-by: cann-robot Description: ## 关联 Issue 关联 [#4749](https://gitcode.com/cann/ops-transformer/issues/4749) ## 描述新增 BlockAttnResPrepare 的算子原型、InferShape、host tiling 与 Ascend 950 kernel： - tiling key 1000：纯 AIV 小规格回退路径。 - tiling key 2000：1 AIC : 2 AIV mixed 路径，调用 ops-tensor 公共 kernel 模板。 - 固定 OPTENSOR_TAG_ID 到已合入的公共模板提交。 - 补充 InferShape、host tiling、opkernel UT、TTK CSV 和 golden。 ## 测试 - clang-format 18.1.8：通过。 - Ruff 0.14.14：通过。 - git diff --check：通过。 - PR 分支包含 host/kernel UT，可独立执行线上 compile 门禁。 ## 拆分关系本 PR 是 aclnn 与 torch 两个后续 PR 的前置核心实现。 See merge request: cann/ops-transformer!10972	7 天前
README.md	docs: README Latest News新增2026/08 pre-commit集成动态 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11231 merge fix_3 into master docs: README Latest News新增2026/08 pre-commit集成动态 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 描述为 README.md「Latest News」板块补充 2026/08 月度动态：本仓库于本月集成 pre-commit 代码检查框架，进一步完善工程化质量保障体系。背景与价值随着社区贡献规模增长，代码风格不一致、许可证头缺失等问题易在 CI 阶段才被发现，造成贡献者反复返工。本次集成将质量检查前移至本地提交环节： - 提交即检查：完成一次性环境配置后，`git commit` 自动执行代码检查与格式修复，包括 C/C++ 与 Python 代码格式化（clang-format / ruff）、拼写检查（codespell）以及开源合规检查（OAT：许可证头校验、二进制文件拦截） - 降低贡献门槛：规范问题在提交前自动拦截并修复，减少贡献者返工，提升代码合入效率与社区协作体验 - 历史提交可补查：`git pc HEAD~x` 支持对既有提交的变更文件补跑检查，与 CI `codecheck_precommit` 门禁保持一致详细配置步骤与常见问题请参考 [pre-commit 配置指导书](docs/zh/develop/pre-commit_guide.md)。 ## 测试 - 纯文档变更（README.md 单行新增），不涉及代码逻辑 - 已通过 pre-commit 本地检查 ## 文档更新 - README.md Latest News 新增 2026/08 条目，链接指向仓内已有指导文档 See merge request: cann/ops-transformer!11231	4 天前
SECURITY.md	修复文档链接跳转失效问题 Co-authored-by: weihao18<weihao16@h-partners.com> # message auto-generated for no-merge-commit merge: !8061 merge fix_security_md into master 修复文档链接跳转失效问题 Created-by: weihao18 Commit-by: weihao18 Merged-by: cann-robot Description: ## 描述修复SECURITY.md文档 [A-文件（夹）各场景权限管控推荐最大值] 链接跳转失效问题 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/3373 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!8061	2 个月前
Third_Party_Open_Source_Software_List.yaml	支持按模板参数编译算子kernel、支持编译入参调试异常与调优参数 Co-authored-by: lidongsheng<lidongsheng43@huawei.com> Co-authored-by: 吴剑飞<wujianfei15@huawei.com> # message auto-generated for no-merge-commit merge: !2170 merge 910_lds into master 支持按模板参数编译算子kernel、支持编译入参调试异常与调优参数 Created-by: qq_46353993 Commit-by: 吴剑飞;lidongsheng Merged-by: cann-robot Description: ## 描述本次修改支持用户通过build.sh的编译入口传入模板参数--kernel_template_input后按tilingkey编译、传入--bisheng_flags进行调试异常 ## 关联的Issue [支持按模板参数指定编译kernel](https://gitcode.com/cann/ops-transformer/issues/1036) [支持编译入参新增调试异常和调优参数](https://gitcode.com/cann/ops-transformer/issues/1044) ## 测试二级冒烟、指定模板参数编译并执行测试用例 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!2170	6 个月前
Third_Party_Open_Source_Software_Notice	Pre-Commit 规范整改 — 公共 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !5305 merge refactor into master Pre-Commit 规范整改 — 公共 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: pre-commit是一个Git Hooks框架，用于在`git commit`时自动运行代码检查和格式化工具。： \| Hook \| 功能 \| 说明 \| \|------\|------\|------\| \| clang-format \| C/C++ 代码格式化 \| 自动格式化代码，保持风格一致 \| \| OAT Check \| 开源合规检查 \| 检测许可证头、禁止二进制文件提交 \| 本PR对于公共文件进行了pre-commit检查 See merge request: cann/ops-transformer!5305	1 个月前
build.sh	用例修复 &文档问题修改 Co-authored-by: cpy_123456<chenpengyi@huawei.com> # message auto-generated for no-merge-commit merge: !11233 merge cpy_3 into master 用例修复 &文档问题修改 Created-by: cpy_123456 Commit-by: cpy_123456 Merged-by: cann-robot Description: ## 描述 moe&ffn用例问题修复 &文档问题修改 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4989 ## 测试通过build.sh验证用例文件 ## 文档更新 moe/moe_init_routing_v3/README.md moe/moe_init_routing_v3/docs/aclnnMoeInitRoutingV3.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [x] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11233	3 天前
classify_rule.yaml	修改transformer-2的责任田文件 Co-authored-by: j60100428<jingsong5@h-partners.com> # message auto-generated for no-merge-commit merge: !11125 merge master into master 修改transformer-2的责任田文件 Created-by: SH_jingsong Commit-by: j60100428 Merged-by: cann-robot Description: ## 描述修改transformer-2的责任田文件 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4897 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11125	6 天前
install_deps.sh	update cmake minimum required to 3.18.4 Co-authored-by: poorwill<wangbing110@huawei.com> # message auto-generated for no-merge-commit merge: !9634 merge master into master update cmake minimum required to 3.18.4 Created-by: wangbing110 Commit-by: poorwill Merged-by: cann-robot Description: update cmake minimum required to 3.18.4 See merge request: cann/ops-transformer!9634	1 个月前
requirements.txt	Pre-Commit 规范整改 — 公共 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !5305 merge refactor into master Pre-Commit 规范整改 — 公共 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: pre-commit是一个Git Hooks框架，用于在`git commit`时自动运行代码检查和格式化工具。： \| Hook \| 功能 \| 说明 \| \|------\|------\|------\| \| clang-format \| C/C++ 代码格式化 \| 自动格式化代码，保持风格一致 \| \| OAT Check \| 开源合规检查 \| 检测许可证头、禁止二进制文件提交 \| 本PR对于公共文件进行了pre-commit检查 See merge request: cann/ops-transformer!5305	1 个月前
version.cmake	升级 ops-transformer 版本至 9.2.0 Co-authored-by: wang-minbo<wangminbo1@hisilicon.com> # message auto-generated for no-merge-commit merge: !11465 merge master into master 升级 ops-transformer 版本至 9.2.0 Created-by: wang-minbo Commit-by: wang-minbo Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000-->https://gitcode.com/cann/ops-transformer/issues/5083 <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11465	6 小时前
version.info	check_compile_version Co-authored-by: 吴剑飞<wujianfei15@huawei.com> # message auto-generated for no-merge-commit merge: !2085 merge check_version into master check_compile_version Created-by: hid81635372 Commit-by: 吴剑飞 Merged-by: cann-robot Description: ## 描述工程上支持在编译时对子包版本进行校验 ## 关联的Issue https://gitcode.com/cann/ops-transformer/pull/2085 ## 测试功能上可以在子包版本低于构建依赖时进行告警，RDV已通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：工程能力增加编译时版本校验功能 See merge request: cann/ops-transformer!2085	6 个月前

ops-transformer

🔥Latest News

[2026/08] 仓内集成pre-commit代码检查框架，配置后git commit时自动检查并修复格式问题，将规范问题拦截在提交阶段、提升代码合入效率，详见pre-commit配置指导书。
[2026/07] A5上新支持算子quant_flash_attn，Dense Attention全量化场景专用，以及experimental目录新增同名算子支持A5的MxFP4全量化；chunk_gated_delta_rule算子支持A5；A5新增DSV4 dense训练阶段TopK筛选反向算子dense_lightning_indexer_grad_kl_loss、dense_lightning_indexer_softmax_lse；mc2新支持算子engram_fetch_grad。
[2026/06] A5上新增支持sparse_flash_mla、mixed_quant_sparse_flash_mla以及对应的metadata算子，用于DSV4场景稀疏Attention计算。新增lightning_indexer_v2、quant_lightning_indexer_v2以及对应的metadata算子，用于DSV4场景TopK筛选。A5新增DSV4 sparse训练阶段Attention反向算子sparse_flash_mla_grad、sparse_lightning_indexer_kl_loss_grad；mc2新支持算子engram_fetch、engram_fetch_wait。
[2026/05] fused_infer_attention_score算子A5上支持MxFP8全量化；A5上新支持算子flash_attn，Dense Attention非量化场景专用。
[2026/04] mc2新支持算子mega_moe。
[2026/03] recurrent_gated_delta_rule算子支持A5。
[2026/02] 新支持算子mhc_post、mhc_pre、mhc_res。
[2026/01] 新支持算子grouped_matmul<<<>>>调用示例，方便用户自定义使用。
[2026/01] 新支持算子fused_floyd_attention、fused_floyd_attention_grad、matmul_allto_all。
[2025/12] 新增QuickStart，指导新手零基础入门算子项目部署（支持Docker环境）、算子开发和贡献流程。
[2025/12] 优化指南类文档，聚焦算子开发指南，明确最小交付件和关键示例代码，针对Ascend/samples仓算子提供迁移本项目的指导。
[2025/12] 支持transformer类onnx算子插件，包括NPUFlashAttention、NPUMultiHeadAttention、NPUMoeComputeExpertTokens等。
[2025/12] 新支持算子kv_rms_norm_rope_cache、attention_update、attention_worker_scheduler、gather_pa_kv_cache、kv_quant_sparse_flash_attention、lightning_indexer_grad、mla_preprocess、mla_preprocess_v2、grouped_matmul_swiglu_quant_v2、attention_to_ffn、ffn_to_attention。
[2025/12] 开源算子支持NPU Simulator仿真工具开发调试。
[2025/12] 开源算子支持Ascend 950PR/Ascend 950DT/KirinX90系列产品。
[2025/11] 新支持算子kv_quant_sparse_flash_attention、lightning_indexer、quant_lightning_indexer、sparse_flash_attention。
[2025/11] 新支持示例算子rope_matrix和all_gather_add。
[2025/11] 新增算子开发工程模板NpuOpsTransformerExt，无缝集成PyTorch张量操作，支持自动微分和GPU/NPU统一接口。
[2025/10] 新增experimental目录，完善贡献指南，支持开发者调试并贡献自定义算子。
[2025/09] ops-transformer项目首次上线，开源算子支持Atlas A2/A3系列产品。

🚀概述

ops-transformer是CANN（Compute Architecture for Neural Networks）算子库中提供transformer类大模型计算的进阶算子库，包括attention类、moe类、mc2类等，覆盖各类attention、MoE计算、通算融合等场景，算子库在架构图中的位置如下。

架构图

📌版本配套

本项目源码会跟随CANN软件版本发布，关于CANN软件版本与本项目标签的对应关系请参阅release仓库中的相应版本说明。请注意，为确保您的源码定制开发顺利进行，请选择配套的CANN版本与Gitcode标签源码，使用master分支可能存在版本不匹配的风险。

🛠️环境准备

环境部署是体验本项目能力的前提，请先完成NPU驱动、CANN包安装等，确保环境正常。

⬇️源码下载

环境准备好后，下载与CANN版本配套的分支源码，通用命令如下，${tag_version}替换为分支标签名。以9.0.0分支源码下载为例：

# 通用命令：git clone -b ${tag_version} https://gitcode.com/cann/ops-transformer.git
git clone -b 9.0.0 https://gitcode.com/cann/ops-transformer.git

说明：若环境中已存在配套分支源码，可跳过本步骤，例如CANNLab默认已提供最新版本CANN对应的源码。

📖学习教程

快速入门：从零开始快速体验项目核心基础能力，涵盖源码编译、算子调用、开发与调试等操作。
进阶教程：如需深入了解项目编译部署、算子调用、开发、调试调优等能力，请查阅文档中心获取详细指引。

💬相关信息

目录结构
贡献指南
安全声明
许可证
所属SIG
[联系我们] 微信名：Clark_Dan

PS：本项目功能和文档正在持续更新和完善中，欢迎您关注最新版本。

问题反馈：通过GitCode【Issues】提交问题。
社区互动：通过GitCode【讨论】参与交流。
技术专栏：通过GitCode【Wiki】获取技术文章，如系列化教程、优秀实践等。

项目介绍

本项目是CANN提供的transformer类大模型算子库，实现网络在NPU上加速计算。

ops-transformer:基于 CANN 的 transformer 类大模型算子库项目