| Files | Last commit | Last update |
|---|---|---|
master英文合入 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !14969 merge master into master master英文合入 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述 商发的英文文档合入 ## 关联的Issue 关联Issue [#6488](https://gitcode.com/cann/ops-transformer/issues/6488) <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!14969 | 10 days ago | |
docs: fix BlitzSparseAttention types and documentation typos Co-authored-by: zzzzzzyf_<zhouyunfei10@huawei.com> # message auto-generated for no-merge-commit merge: !13770 merge fix/documentation-issues-20261013 into master docs: fix BlitzSparseAttention types and documentation typos Created-by: zzzzzzyf_ Commit-by: zzzzzzyf_ Merged-by: cann-robot Description: ## 描述 合并修复当前指派给贡献者的 9 个文档 Issue。共修改 26 个 Markdown 文件，新增 49 行、删除 50 行；修正错字、重复文字、标题层级、术语及 BlitzSparseAttention 量化参数表。 参数类型按源码注册核对；将 quantScale2/quantOffset2 表对齐为 FLOAT32/BFLOAT16，保留产品与输入场景约束。空 Tensor 处理按实际 aclnn 实现描述，不机械替换成 AscendCL。 不改算子实现、编译脚本或计算逻辑。文档 C++ 示例仅统一 gama/gamma 变量拼写，benchmark 示例仅补全注释。 ## 关联的Issue - [#5853](https://gitcode.com/cann/ops-transformer/issues/5853)：修正 BlitzSparseAttention 量化参数表，与当前 OpDef 对齐并保留场景限制。 - [#5969](https://gitcode.com/cann/ops-transformer/issues/5969)：修正指定 attention 文档的拼写、重复词、标点和标题层级。 - [#5977](https://gitcode.com/cann/ops-transformer/issues/5977)：修正指定 docs/zh 文档的术语、拼写及重复描述。 - [#5981](https://gitcode.com/cann/ops-transformer/issues/5981)：补全 BNSD 注释，修正空 Tensor 处理的 aclnn 表述。 - [#6003](https://gitcode.com/cann/ops-transformer/issues/6003)：修正 rope_matrix 文档三处英文拼写。 - [#6038](https://gitcode.com/cann/ops-transformer/issues/6038)：修正 combine_add_rms_norm 文档的错字和冗余文字。 - [#6041](https://gitcode.com/cann/ops-transformer/issues/6041)：修正 dispatch 文档的量化参数列举、默认值及重复词。 - [#6073](https://gitcode.com/cann/ops-transformer/issues/6073)：修正 lightning_indexer 测试文档标题层级及重复条目。 - [#6075](https://gitcode.com/cann/ops-transformer/issues/6075)：修正 PromptFlashAttention 的 AI Core 和 aclnn 表述。 本轮另核查 #6045、#5733：#6045 原问题段落已从 master 移除，无需修改；#5733 涉及编译目标兼容性，不纳入纯文档提交。 ## 测试 - 38 组定向修改均核对旧文本与匹配次数；确认仅包含目标 Markdown 文件。 - 修改前后链接目标、代码块数量与语言标记不变；示例除变量一致性重命名、注释及围栏中的说明文字外不变。 - 参数表与当前 OpDef、空 Tensor 处理代码核对。 - 保留原文件换行方式； git -c core.whitespace=cr-at-eol diff --check 通过。 - 按 CI 同版本 pre-commit-hooks v4.6.0 对全部 26 个文档执行 trailing-whitespace（保留 Markdown 双空格换行）和 end-of-file-fixer，均通过；修正 benchmark README 原有的单个行尾空格。 - 未编译文档示例或执行 NPU 测试，本次为静态文档核查。 ## 文档更新 涉及 attention、docs/zh、experimental 与 mc2 下的指定 README 和接口文档。 ## 类型标签 - [x] 📝 文档更新 See merge request: cann/ops-transformer!13770 | 27 days ago | |
[Docs]Metadata算子开发指南 Co-authored-by: ChengjiaWu<wuchengjia1@h-partners.com> # message auto-generated for no-merge-commit merge: !14856 merge master into master [Docs]Metadata算子开发指南 Created-by: ChengjiaWu Commit-by: ChengjiaWu Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 添加Metadata算子开发指南，提供原理解释和开发指导 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> Issue [#6912](https://gitcode.com/cann/ops-transformer/issues/6912) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!14856 | 10 days ago | |
[Docs]Metadata算子开发指南 Co-authored-by: ChengjiaWu<wuchengjia1@h-partners.com> # message auto-generated for no-merge-commit merge: !14856 merge master into master [Docs]Metadata算子开发指南 Created-by: ChengjiaWu Commit-by: ChengjiaWu Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 添加Metadata算子开发指南，提供原理解释和开发指导 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> Issue [#6912](https://gitcode.com/cann/ops-transformer/issues/6912) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!14856 | 10 days ago | |
960芯片型号支持 Co-authored-by: yangyajie<yangyajie3@huawei.com> # message auto-generated for no-merge-commit merge: !14638 merge master into master 960芯片型号支持 Created-by: yangyajie Commit-by: yangyajie Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!14638 | 11 days ago | |
chore: replace gitcode.com links with atomgit.com Co-authored-by: qzzzy1<qiziyu2@huawei.com> # message auto-generated for no-merge-commit merge: !12664 merge master into master chore: replace gitcode.com links with atomgit.com Created-by: qzzzy1 Commit-by: qzzzy1 Merged-by: cann-robot Description: ## 描述 transformer仓gitcode.com改成atomgit.com ## 关联的Issue 关联Issue 5667 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!12664 | 1 month ago | |
feat(gmm): 新增A4W4场景 GroupedMatmulActivation 新算子 Co-authored-by: jayshu<shuhaojie@huawei.com> # message auto-generated for no-merge-commit merge: !13929 merge jayshu-gmmactivation-independent-def into master feat(gmm): 新增A4W4场景 GroupedMatmulActivation 新算子 Created-by: jayshu Commit-by: jayshu Merged-by: cann-robot Description: ## 描述 新增独立 GroupedMatmulActivation 算子及 GroupedMatmulActivationWeightNz ACLNN、grouped_matmul_activation TorchExtension 接口，支持 MXFP4 E2M1 A4W4、WeightNZ 权重、E8M0 scale，直接输出单个 BF16 y，不进行输出 MX 量化，不创建、不传入、不写回 yScale。 主要改动： - 新增独立 gmm/grouped_matmul_activation 模块，包含 def、proto、infershape、tiling、kernel、ACLNN/Torch 接口、文档及测试，复用现有 TensorAPI/Blaze concat-N 实现。 - 新增 aclnnGroupedMatmulActivationWeightNzGetWorkspaceSize / aclnnGroupedMatmulActivationWeightNz，支持转置和非转置权重视图。actType 为字符串，仅支持 "swiglu"；bias 为动态 TensorList，当前要求为空。 - 新接口仅支持 SwiGLU mode 2，执行前后分半分支、clamp、alpha/bias 和最终 BF16 转换。旧 WeightNzV3 的 A4W4 BF16 mode 0/2 路径保留兼容处理，不将 mode 0 宣传为新接口支持范围。 - 补充独立 op_def 类型组合、tiling 路由及 kernel 的直接 BF16 epilogue 接入；A4W4 的 K/N 均要求按 128 对齐。内部 transpose 属性由 ACLNN 从 stride 推导，生成转置/非转置两个模板 key（0/1）。恢复旧 V2 def，保留旧 V2 FP4 mode 0 的量化输出路由。 - 修复转置权重在视图归一化前错误比较 K 的问题，在归一化后检查矩阵维度，并校验权重与 scale 视图一致性。 - 新增仓内 TorchExtension 封装，统一 Meta 与实际接口的维度、TensorList 数量和 K/N 对齐要求，检查设备一致性，保留 CPU group_list 支持；Torch 层检查后将 CPU group_list 复制到 NPU，原始 ACLNN 要求 device group_list。 - 修复 Torch act_type.c_str() 临时值的 JIT 编译问题，空 bias 使用零元素 BF16 descriptor 完成 binary 选择。 本 PR 依赖 ops-tensor PR 448 的直接 BF16 epilogue 支持。新增行为按 A4W4/BF16 类型组合启用，既有 MXFP8 输出路径保持原输出语义；测试结果不等同于旧场景全量回归结论。 ## 关联的Issue 关联需求 Issue：https://gitcode.com/cann/ops-transformer/issues/6217 ## 测试 二级冒烟+泛化验证 ## 文档更新 - 新增 gmm/grouped_matmul_activation/docs/aclnnGroupedMatmulActivationWeightNz.md，描述 ACLNN 参数、计算公式、数据类型、格式及约束。 - 新增 gmm/grouped_matmul_activation/docs/torchapi_grouped_matmul_activation.md，描述 TorchExtension 调用、计算公式、Meta 行为和打包输入约定。 - 新增独立算子 README、op_api 头文件及接口声明。 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 重构 - [ ] 测试 - [ ] 构建/CI - [ ] 配置变更 - [ ] 文档更新 - [ ] 依赖升级 - [ ] 安全修复 - [ ] 代码清理 - [ ] 其他，请描述： See merge request: cann/ops-transformer!13929 | 17 days ago | |
fix doc and block_size change to pool_block_size Co-authored-by: zhengyuhao3<zhengyuhao3@huawei.com> # message auto-generated for no-merge-commit merge: !14932 merge master-fix_msa_doc into master fix doc and block_size change to pool_block_size Created-by: zhengyuhao3 Commit-by: zhengyuhao3 Merged-by: cann-robot Description: ## 描述 1. 修改msaIndexScore的文档规范，取消中英文中的空格，调整芯片描述顺序，以及在op_list中补充接口的链接 2. 调整torch_extension中block_size命名为pool_block_size，与aclnn接口语义对齐，表示打分块大小 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/6933 ## 测试 接口测试通过cann_ops_transformer.ops.attention.msa_index_score.msa_index_score_v2接口测试用例12/12，功能与精度通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!14932 | 10 days ago | |
fix doc and block_size change to pool_block_size Co-authored-by: zhengyuhao3<zhengyuhao3@huawei.com> # message auto-generated for no-merge-commit merge: !14932 merge master-fix_msa_doc into master fix doc and block_size change to pool_block_size Created-by: zhengyuhao3 Commit-by: zhengyuhao3 Merged-by: cann-robot Description: ## 描述 1. 修改msaIndexScore的文档规范，取消中英文中的空格，调整芯片描述顺序，以及在op_list中补充接口的链接 2. 调整torch_extension中block_size命名为pool_block_size，与aclnn接口语义对齐，表示打分块大小 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/6933 ## 测试 接口测试通过cann_ops_transformer.ops.attention.msa_index_score.msa_index_score_v2接口测试用例12/12，功能与精度通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!14932 | 10 days ago | |
fix doc and block_size change to pool_block_size Co-authored-by: zhengyuhao3<zhengyuhao3@huawei.com> # message auto-generated for no-merge-commit merge: !14932 merge master-fix_msa_doc into master fix doc and block_size change to pool_block_size Created-by: zhengyuhao3 Commit-by: zhengyuhao3 Merged-by: cann-robot Description: ## 描述 1. 修改msaIndexScore的文档规范，取消中英文中的空格，调整芯片描述顺序，以及在op_list中补充接口的链接 2. 调整torch_extension中block_size命名为pool_block_size，与aclnn接口语义对齐，表示打分块大小 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/6933 ## 测试 接口测试通过cann_ops_transformer.ops.attention.msa_index_score.msa_index_score_v2接口测试用例12/12，功能与精度通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!14932 | 10 days ago | |
新增MegaMhc Co-authored-by: Vivia<liusiwei5@huawei.com> Co-authored-by: l84379646<liu.zicheng1@huawei.com> Co-authored-by: zhangzhuoran3<zhangzhuoran3@huawei.com> Co-authored-by: liweijian16<liweijian16@huawei.com> Co-authored-by: steppecat<liangyu62@huawei.com> Co-authored-by: ZhangWei1176<zhangwei1176@huawei.com> # message auto-generated for no-merge-commit merge: !13064 merge mega_mhc into master 新增MegaMhc Created-by: liweijian16 Commit-by: liweijian16;zhangzhuoran3;Vivia;l84379646;ZhangWei1176;steppecat Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> 新增MegaMhc算子，融合rms_norm_0、MHC Post、可选rms_norm_mid、MHC Pre和rms_norm_1，计算下一层输入、新的Post/Res系数及残差状态，减少中间Tensor读写和算子下发开销。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/6161 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> - [x] 算子泛化 - [x] 网络shape性能测试 - [x] 压力测试 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> docs/zh/menu_torch_api.md docs/zh/menu_aclnn_api.md docs/zh/op_list.md docs/zh/op_api_list.md docs/zh/torch_api_list.md mhc/mega_mhc/README.md mhc/mega_mhc/docs/aclnnMegaMhc.md mhc/mega_mhc/docs/torchapi_mega_mhc.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13064 | 12 days ago | |
fix doc and block_size change to pool_block_size Co-authored-by: zhengyuhao3<zhengyuhao3@huawei.com> # message auto-generated for no-merge-commit merge: !14932 merge master-fix_msa_doc into master fix doc and block_size change to pool_block_size Created-by: zhengyuhao3 Commit-by: zhengyuhao3 Merged-by: cann-robot Description: ## 描述 1. 修改msaIndexScore的文档规范，取消中英文中的空格，调整芯片描述顺序，以及在op_list中补充接口的链接 2. 调整torch_extension中block_size命名为pool_block_size，与aclnn接口语义对齐，表示打分块大小 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/6933 ## 测试 接口测试通过cann_ops_transformer.ops.attention.msa_index_score.msa_index_score_v2接口测试用例12/12，功能与精度通过 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!14932 | 10 days ago |
| Files | Last commit | Last update |
|---|---|---|
| 10 days ago | ||
| 27 days ago | ||
| 10 days ago | ||
| 10 days ago | ||
| 11 days ago | ||
| 1 month ago | ||
| 17 days ago | ||
| 10 days ago | ||
| 10 days ago | ||
| 10 days ago | ||
| 12 days ago | ||
| 10 days ago |