| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第1批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !4878 merge compile into master pre-commit修复attention目录.h/.hpp历史格式问题(第1批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!4878 | 3 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第1批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !4878 merge compile into master pre-commit修复attention目录.h/.hpp历史格式问题(第1批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!4878 | 3 天前 | |
fix(attention): use double epsilon in block residual APIs Co-authored-by: zhaoyingchao2<zhaoyingchao1@hisilicon.com> # message auto-generated for no-merge-commit merge: !11053 merge fix/block-attn-res-epsilon-double into master fix(attention): use double epsilon in block residual APIs Created-by: zhaoyingchao2 Commit-by: zhaoyingchao2 Merged-by: cann-robot Description: ## 描述 将 BlockAttnResPrepare 和 BlockAttnResUpdate 的 Torch 扩展、ACLNN 与 L0 接口中的 eps 统一为 double,移除 Torch 入口处显式转换为 float 的逻辑。算子注册属性仍保持 Float,由 OP_ATTR/GE 属性绑定阶段完成 double 到 float 的转换;tiling data 与 kernel 继续使用 float。 同步更新 ACLNN 文档、示例和 UT 用例中的 eps 类型及 CSV 解析方式。 ## 关联的Issue #4880 ## 测试 - bash build.sh --ops=block_attn_res_prepare,block_attn_res_update --opapi_test -j16 - 70/70 通过(BlockAttnResPrepare 10 条,BlockAttnResUpdate 60 条) - bash build.sh --torch_extension --ops=block_attn_res_prepare,block_attn_res_update -j8 - Torch extension wheel 构建成功 - bash build.sh --pkg --ops=block_attn_res_prepare,block_attn_res_update --soc=ascend950 -j8 - 未完成:线上 ops-tensor 的 asc_simd.h 引用了未随构建产物带入的 utils/base/helpers.h;另有一个并行编译进程因内存压力返回 137。本次修改不涉及 kernel 或 tensor API 文件。 ## 文档更新 更新 aclnnBlockAttnResPrepare.md 和 aclnnBlockAttnResUpdate.md 的 epsilon 类型、函数签名与示例。 ## 类型标签 - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [x] 🧪 测试 See merge request: cann/ops-transformer!11053 | 3 天前 | |
fix(attention): use double epsilon in block residual APIs Co-authored-by: zhaoyingchao2<zhaoyingchao1@hisilicon.com> # message auto-generated for no-merge-commit merge: !11053 merge fix/block-attn-res-epsilon-double into master fix(attention): use double epsilon in block residual APIs Created-by: zhaoyingchao2 Commit-by: zhaoyingchao2 Merged-by: cann-robot Description: ## 描述 将 BlockAttnResPrepare 和 BlockAttnResUpdate 的 Torch 扩展、ACLNN 与 L0 接口中的 eps 统一为 double,移除 Torch 入口处显式转换为 float 的逻辑。算子注册属性仍保持 Float,由 OP_ATTR/GE 属性绑定阶段完成 double 到 float 的转换;tiling data 与 kernel 继续使用 float。 同步更新 ACLNN 文档、示例和 UT 用例中的 eps 类型及 CSV 解析方式。 ## 关联的Issue #4880 ## 测试 - bash build.sh --ops=block_attn_res_prepare,block_attn_res_update --opapi_test -j16 - 70/70 通过(BlockAttnResPrepare 10 条,BlockAttnResUpdate 60 条) - bash build.sh --torch_extension --ops=block_attn_res_prepare,block_attn_res_update -j8 - Torch extension wheel 构建成功 - bash build.sh --pkg --ops=block_attn_res_prepare,block_attn_res_update --soc=ascend950 -j8 - 未完成:线上 ops-tensor 的 asc_simd.h 引用了未随构建产物带入的 utils/base/helpers.h;另有一个并行编译进程因内存压力返回 137。本次修改不涉及 kernel 或 tensor API 文件。 ## 文档更新 更新 aclnnBlockAttnResPrepare.md 和 aclnnBlockAttnResUpdate.md 的 epsilon 类型、函数签名与示例。 ## 类型标签 - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [x] 🧪 测试 See merge request: cann/ops-transformer!11053 | 3 天前 | |
【BSA】【A5】fp8 perTile量化模板性能优化 Co-authored-by: chenyizhou<chenyizhou6@huawei.com> # message auto-generated for no-merge-commit merge: !11145 merge master_fp8_512_opt into master 【BSA】【A5】fp8 perTile量化模板性能优化 Created-by: chenyizhou Commit-by: chenyizhou Merged-by: cann-robot Description: ## 描述 在fp8 perTile量化下,采用zN softmax和S/P共用空间策略,优化了vector性能表现,提高了量化下的单算子性能收益 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ x] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11145 | 3 小时前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
[FIA] delete useless func Co-authored-by: shen_weiling<shenweiling@huawei.com> # message auto-generated for no-merge-commit merge: !11230 merge dev_0903 into master [FIA] delete useless func Created-by: shen_weiling Commit-by: shen_weiling Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 删除matmul.h无用接口 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/3042 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> RDV已过 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [x] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11230 | 1 天前 | |
compressor assets目录aclnn和e2e使用同一组bin文件 Co-authored-by: caizhengyang<caizhengyang1@huawei.com> # message auto-generated for no-merge-commit merge: !11168 merge 0902 into master compressor assets目录aclnn和e2e使用同一组bin文件 Created-by: caizhengyang Commit-by: caizhengyang Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> compressor,e2e和aclnn输出数量不一致,导致当前无法使用同一份生成的Bin文件测试,修改适配ttk改动,修复相关问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/4915 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11168 | 1 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第1批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !4878 merge compile into master pre-commit修复attention目录.h/.hpp历史格式问题(第1批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!4878 | 3 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
【FAG】log fix Co-authored-by: coder_linx<linzhu3@huawei.com> # message auto-generated for no-merge-commit merge: !10770 merge david_0827_log_fix into master 【FAG】log fix Created-by: coder_linx Commit-by: coder_linx Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10770 | 1 天前 | |
【FAG】log fix Co-authored-by: coder_linx<linzhu3@huawei.com> # message auto-generated for no-merge-commit merge: !10770 merge david_0827_log_fix into master 【FAG】log fix Created-by: coder_linx Commit-by: coder_linx Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10770 | 1 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
【FAG】log fix Co-authored-by: coder_linx<linzhu3@huawei.com> # message auto-generated for no-merge-commit merge: !10770 merge david_0827_log_fix into master 【FAG】log fix Created-by: coder_linx Commit-by: coder_linx Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10770 | 1 天前 | |
【FAG】log fix Co-authored-by: coder_linx<linzhu3@huawei.com> # message auto-generated for no-merge-commit merge: !10770 merge david_0827_log_fix into master 【FAG】log fix Created-by: coder_linx Commit-by: coder_linx Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10770 | 1 天前 | |
fix(flash_attention_score): support mode2 invalid lines without mask Co-authored-by: inspirations<wangke201@huawei.com> # message auto-generated for no-merge-commit merge: !11039 merge fix_inf_inner_precise2_v2 into master fix(flash_attention_score): support mode2 invalid lines without mask Created-by: inspirations Commit-by: inspirations Merged-by: cann-robot Description: ## 描述 修复FA正向算子在高精度不使能mask时候不判断无效行的问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11039 | 2 小时前 | |
【FAG】log fix Co-authored-by: coder_linx<linzhu3@huawei.com> # message auto-generated for no-merge-commit merge: !10770 merge david_0827_log_fix into master 【FAG】log fix Created-by: coder_linx Commit-by: coder_linx Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10770 | 1 天前 | |
docs(flash_attn): 补充从运行日志查找 tiling key 的方法 Co-authored-by: huang-chuhong<huangchuhong1@h-partners.com> # message auto-generated for no-merge-commit merge: !11273 merge docs/flash-attn-tiling-key-guide into master docs(flash_attn): 补充从运行日志查找 tiling key 的方法 Created-by: huang-chuhong Commit-by: huang-chuhong Merged-by: cann-robot Description: ## 描述 flash_attn README.md 中 --tiling_key 编译参数段落缺少「如何从运行日志中查找 tiling key」的操作指引,用户不知道如何获取当前用例对应的 tiling key 值。 ## 改动 - 在 attention/flash_attn/README.md 的 --tiling_key 说明处补充查找方法 - 方法一:开启 ASCEND DEBUG 日志(ASCEND_SLOG_PRINT_TO_STDOUT=1 + ASCEND_GLOBAL_LOG_LEVEL=0),搜索最后一次 kernel_name=FlashAttn_,格式为 FlashAttn_<hash>_<tiling_key>,末尾数字即为 tiling key - 方法二(辅助确认):搜索 GenTilingKey 日志,直接打印 tiling key 值 ## 关联的Issue #4962 ## 测试 - 文档变更,不影响代码逻辑 - 不传 --tiling_key 时原有全量编译行为不受影响 ## 类型标签 - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11273 | 1 天前 | |
refactor(flash_attn): 合并冗余 op_api 头文件与 inner 实现 Co-authored-by: 张海杰<zhanghaijie4@hisilicon.com> # message auto-generated for no-merge-commit merge: !11078 merge refactor/flash-attn-op-api-merge-headers into master refactor(flash_attn): 合并冗余 op_api 头文件与 inner 实现 Created-by: haijie_699874 Commit-by: 张海杰 Merged-by: cann-robot Description: ## 描述 flash_attn / flash_attn_metadata 的 op_api 目录存在多个冗余 .h/.cpp 文件,仅被各自 .cpp 内部引用、无外部消费方。将 inner 实现、helper 函数、extern 声明合并进 aclnn_flash_attn.cpp,删除不再需要的头文件与冗余源文件。 ## 改动 - flash_attn/op_api: 将 aclnn_flash_attn_inner.{h,cpp} 的 helper 函数与 extern 声明合并进 aclnn_flash_attn.cpp - 删除 5 个冗余文件: aclnn_flash_attn.h / aclnn_flash_attn_inner.h / aclnn_flash_attn_inner.cpp / flash_attn.h / flash_attn.cpp - flash_attn_metadata/op_host/op_api: 将 aclnn_flash_attn_metadata.h 声明合并进 .cpp(visibility 属性内联),删除 .h - 清理 CMakeLists.txt 中已失效的 SKIP_HEADER 缓存变量 - 更新 README.md 接口层文件表格 ## 关联的Issue ## 测试 - 删除的头文件仅在各自 .cpp 内部引用,无外部 include 消费方 - aclnnInnerFlashAttn 由框架自动生成,extern 声明已内联 - metadata 函数 visibility 属性保留,符号导出行为不变 ## 类型标签 - [x] ♻️ 重构 - [x] 🧹 代码清理 See merge request: cann/ops-transformer!11078 | 1 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !10422 merge graph into master pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!10422 | 3 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !10422 merge graph into master pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!10422 | 3 天前 | |
fia_tiling&page_attn部分errmsg更正 Co-authored-by: qq_38343928<1192428849@qq.com> # message auto-generated for no-merge-commit merge: !10687 merge master into master fia_tiling&page_attn部分errmsg更正 Created-by: qq_38343928 Commit-by: qq_38343928 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> attention/common/op_host/fia_tiling_shape.cpp 主要对拦截错误日志相关代码进行修改,共四处,使用外部错误码。 attention/flash_attn/op_host/checkers/paged_attention_checker.cpp 格式修改。 主要对拦截错误日志相关代码进行修改,共两处,使用外部错误码。 attention/flash_attn/op_host/checkers/paged_attention_checker.cpp 主要对拦截错误日志相关代码进行修改,共三处,使用外部错误码。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10687 | 2 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !10422 merge graph into master pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!10422 | 3 天前 | |
gbsa support flashdecoding Co-authored-by: lilongwei_hw<lilongwei11@huawei.com> # message auto-generated for no-merge-commit merge: !11183 merge migrate/gbsa-metadata-fd into master gbsa support flashdecoding Created-by: lilongwei_hw Commit-by: lilongwei_hw Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> gbsa 算子新增带cost model 的FD 特性 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11183 | 1 天前 | |
add_generic_sparse_attention_grad Co-authored-by: cjz_<chenjunzhuo@huawei.com> # message auto-generated for no-merge-commit merge: !11003 merge add_generic_sparse_attention_grad into master add_generic_sparse_attention_grad Created-by: cjz_ Commit-by: cjz_ Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 新增 GenericBlockSparseAttentionGrad算子 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/4886 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11003 | 8 小时前 | |
add_generic_sparse_attention_grad Co-authored-by: cjz_<chenjunzhuo@huawei.com> # message auto-generated for no-merge-commit merge: !11003 merge add_generic_sparse_attention_grad into master add_generic_sparse_attention_grad Created-by: cjz_ Commit-by: cjz_ Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 新增 GenericBlockSparseAttentionGrad算子 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/4886 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11003 | 8 小时前 | |
Fix generic_block_sparse_attention_metadata op Co-authored-by: lijiamin2025<lijiamin24@huawei.com> # message auto-generated for no-merge-commit merge: !11271 merge fixmsa into master Fix generic_block_sparse_attention_metadata op Created-by: lijiamin2025 Commit-by: lijiamin2025 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 1.修复codecheck问题 2.TND场景校验maxQSeqlen/maxKvSeqlen为可选输入。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/4987 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11271 | 23 小时前 | |
fix: 补充不规范的CANN-2.0版权许可头(修复OAT License Header Invalid) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11026 merge clean into master fix: 补充不规范的CANN-2.0版权许可头(修复OAT License Header Invalid) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4835 ## 描述 全仓 .h/.hpp 文件 OAT 扫描发现 55 个文件存在 License Header Invalid(版权头语序/内容与标准 CANN-2.0 模板不符,如 Copyright 被挪到中间、插入额外说明语句等),这些文件在后续做 pre-commit 格式化 PR 时会触发 CI 的 OAT 检查失败。本 PR 提前统一修复,为标准 CANN-2.0 许可头: /** * Copyright (c) YYYY Huawei Technologies Co., Ltd. * This program is free software, you can redistribute it and/or modify it under the terms and conditions of * CANN Open Software License Agreement Version 2.0 (the "License"). * Please refer to the License for details. You may not use this file except in compliance with the License. * THIS SOFTWARE IS PROVIDED ON AN "AS IS" BASIS, WITHOUT WARRANTIES OF ANY KIND, EITHER EXPRESS OR IMPLIED, * INCLUDING BUT NOT LIMITED TO NON-INFRINGEMENT, MERCHANTABILITY, OR FITNESS FOR A PARTICULAR PURPOSE. * See LICENSE in the root of the software repository for the full text of the License. */ ### 修复说明 - 仅替换文件头部的许可注释块,保留原版权年份(2025/2026),不改动任何代码 - 共 39 个文件:mc2(19)、attention(11)、gmm(5)、tests(3)、mhc(1) - 以下文件不在本次修复范围,后续单独处理: - examples、experimental 目录下 13 个文件 - mamba/causal_conv1d/op_api/ 3 个文件(该算子 UT 在上游基线已有失败,本 PR 不引入关联变更,另见 Issue #4836) - tests/ut/framework_normal/common/rt_soc_spec_mocker.h(GPL-2.0 外部代码,另见 Issue #4836) - 修复后同步过一遍 pre-commit(trailing-whitespace / EOF / clang-format),无冲突 ## 测试 - 全仓 5182 个 .h/.hpp 文件 OAT 分组扫描,定位 55 个 Invalid 文件 - 本次修复的 39 个文件 bash scripts/oat_check.sh 验证全部通过(All checks passed) - pre-commit 各 hook 复跑收敛,无 Failed See merge request: cann/ops-transformer!11026 | 4 天前 | |
test(indexer_quant_cache): add TTK golden asset Co-authored-by: chendunyang<chendunyang1@huawei.com> # message auto-generated for no-merge-commit merge: !11325 merge test/indexer-quant-cache-golden into master test(indexer_quant_cache): add TTK golden asset Created-by: qq_37913898 Commit-by: chendunyang Merged-by: cann-robot Description: ## 描述 为 IndexerQuantCache 补充仓库标准 TTK Python golden 入口 tests/assets/golden.py。通过 __spec__ 同时注册 kernel 名称和 aclnn 名称,CPU golden 覆盖 quantMode 0(MXFP8)、1(Normal)、2(HiFloat8)、3(MXFP4),包含 cache/scale 原地更新、slot 跳过、roundScale 开关、FP16/BF16 以及特殊值处理。 本 PR 只新增测试资产,不修改算子 kernel、host、API 或 GEIR 实现,也不改动此前 PR。 ## 测试 - pre-commit:全部通过(ruff-check、ruff-format、codespell、OAT 等) - 直接数值回归:quantMode 0/1/2/3 全部通过;Normal 模式关键字节与 scale 编码已核对;slot=-1 跳过逻辑已核对 - TTK CSV 校验:282/282 valid,0 invalid - TTK 小规模实跑:4 个代表用例(每种 quantMode 1 个)4/4 PASS ## 文档更新 无。 ## 类型标签 - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [x] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11325 | 8 小时前 | |
fused_causal_conv1d / inplace_fused_causal_conv1d / lightning_indexer_v2 docs update Co-authored-by: wangyinchu<wangyinchu1@huawei.com> # message auto-generated for no-merge-commit merge: !10838 merge fused_causal_conv1d-docs-update into master fused_causal_conv1d / inplace_fused_causal_conv1d / lightning_indexer_v2 docs update Created-by: wangyinchu1 Commit-by: wangyinchu Merged-by: cann-robot Description: ## 描述 fused_causal_conv1d / inplace_fused_causal_conv1d / lightning_indexer_v2 docs update & example fix ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4855 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10838 | 3 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !10422 merge graph into master pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!10422 | 3 天前 | |
v2复用v1的tiling和kernel Co-authored-by: changlei24<changlei24@huawei.com> # message auto-generated for no-merge-commit merge: !11022 merge v1v2 into master v2复用v1的tiling和kernel Created-by: changlei24 Commit-by: changlei24 Merged-by: cann-robot Description: ## 描述 v2复用v1的tiling和kernel ## 关联的Issue 关联Issue #4973 <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11022 | 23 小时前 | |
v2复用v1的tiling和kernel Co-authored-by: changlei24<changlei24@huawei.com> # message auto-generated for no-merge-commit merge: !11022 merge v1v2 into master v2复用v1的tiling和kernel Created-by: changlei24 Commit-by: changlei24 Merged-by: cann-robot Description: ## 描述 v2复用v1的tiling和kernel ## 关联的Issue 关联Issue #4973 <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11022 | 23 小时前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
A5新增支持LIG Co-authored-by: xuanyuandy<dingyong19@huawei.com> # message auto-generated for no-merge-commit merge: !11146 merge lig_detail into master A5新增支持LIG Created-by: xuanyuandy Commit-by: xuanyuandy Merged-by: cann-robot Description: ## 描述 A5新增支持LIG ## 关联的Issue 关联Issue [#4906](https://gitcode.com/cann/ops-transformer/issues/4906) <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 更新了LightningIndexerGrad算子README.md和aclnn文档 ## 类型标签 <!-- [x] 表示选中 --> - [] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11146 | 2 天前 | |
torch extension整改成分布式 Co-authored-by: hblnb<huangbolin3@huawei.com> # message auto-generated for no-merge-commit merge: !9712 merge torch_extension_split into master torch extension整改成分布式 Created-by: hblnb Commit-by: hblnb Merged-by: cann-robot Description: ## 描述 ops-transformer仓支持各个算子独立编译torch_extention,并将torch_extension从集中式改成分布式(算子的文件分布到算子源码目录下新建的torch_extension文件夹) ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4502 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [x] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!9712 | 12 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
修复示例代码注释问题 Co-authored-by: qq_32807861<handongchen2@huawei.com> # message auto-generated for no-merge-commit merge: !11133 merge master into master 修复示例代码注释问题 Created-by: qq_32807861 Commit-by: qq_32807861 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11133 | 2 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
修复示例代码注释问题 Co-authored-by: qq_32807861<handongchen2@huawei.com> # message auto-generated for no-merge-commit merge: !11133 merge master into master 修复示例代码注释问题 Created-by: qq_32807861 Commit-by: qq_32807861 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11133 | 2 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !10422 merge graph into master pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!10422 | 3 天前 | |
【Docs】修复 aclnnMlaPreprocess 文档示例及参数描述错误 Co-authored-by: HuangKun8682<huangkun61@huawei.com> # message auto-generated for no-merge-commit merge: !10712 merge personal_fix_doc_problem into master 【Docs】修复 aclnnMlaPreprocess 文档示例及参数描述错误 Created-by: HuangKun8682 Commit-by: HuangKun8682 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 修复 aclnnMlaPreprocess.md 中多处影响文档易用性和正确性的问题: - 修正示例注释及 LOG_PRINT 中的算子名拼写。 - 修正 ReadFile 失败分支的布尔返回值。 - 将 qNopeScaleShape 从 {headNum} 修正为 {1}。 - 将 qRopeDim 和 kRopeDim 修正为 64。 - 将 wdqDim 修正为 1536。 - 将 workspaceSize 的来源接口修正为 aclnnMlaPreprocessGetWorkspaceSize。 - 将 deScale0 支持的数据类型修正为 INT64、FLOAT。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> Issue [#4639](https://gitcode.com/cann/ops-transformer/issues/4639) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 修复 aclnnMlaPreprocess.md 中多处影响文档易用性和正确性的问题: ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10712 | 7 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !10422 merge graph into master pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!10422 | 3 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !10422 merge graph into master pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!10422 | 3 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !10422 merge graph into master pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!10422 | 3 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !10422 merge graph into master pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!10422 | 3 天前 | |
修改AIDD扫描链接问题 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !11051 merge master into master 修改AIDD扫描链接问题 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描链接问题 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4879 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 修改文档中AIDD扫描出来的连接问题 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11051 | 3 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !10422 merge graph into master pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!10422 | 3 天前 | |
trans规范整改打标签 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !9417 merge master into master trans规范整改打标签 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述 打标签attention文件 ## 关联的Issue 关联Issue [#4040](https://gitcode.com/cann/ops-transformer/issues/4040) <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!9417 | 1 个月前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !10422 merge graph into master pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!10422 | 3 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !10422 merge graph into master pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!10422 | 3 天前 | |
fix nsa_selected_attention_grad Co-authored-by: guomingce<guomingce@huawei.com> # message auto-generated for no-merge-commit merge: !11196 merge master into master fix nsa_selected_attention_grad Created-by: guomc9 Commit-by: guomingce Merged-by: cann-robot Description: ## 描述 问题: NsaSelectedAttentionGrad 算子在确定性计算模式下(ACL_OPT_DETERMINISTIC=1 / torch.use_deterministic_algorithms(True)),相同输入多次执行,dq/dk/dv 输出仍存在 run 间不一致(fp16/bf16、sparse_mode=0/2 均可复现)。 原因: attention/nsa_selected_attention_grad/op_kernel/nsa_selected_attention_grad_bs1.h 的 Init() 中,AtomicClean() 对 GM 上的输出/工作区做原子清零后缺少全局同步。多核场景下,部分核可能在其他核的清零尚未完成时就进入计算,残留的上次运行数据被累加进结果,导致输出依赖内存先前状态,表现为 run 间不确定。 修改内容(仅 1 处,kernel 侧, attention/nsa_selected_attention_grad/op_kernel/nsa_selected_attention_grad_bs1.h): cpp // attention/nsa_selected_attention_grad/op_kernel/nsa_selected_attention_grad_bs1.h, Init() InitWorkspace(workspace); AtomicClean(); SyncAll(); // 新增:保证所有核完成清零后再开始计算 InitUB(pipe); ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [SelectAttentionGrad算子存在确定性问题](https://gitcode.com/cann/ops-transformer/issues/4924) ## 测试 ## 文档更新 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11196 | 2 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !10422 merge graph into master pre-commit修复attention目录.h/.hpp历史格式问题(第2批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!10422 | 3 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第3批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !9331 merge test into master pre-commit修复attention目录.h/.hpp历史格式问题(第3批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!9331 | 3 天前 | |
compressor、quant_compressor算子cleancode Co-authored-by: myy268<moyunyang@huawei.com> # message auto-generated for no-merge-commit merge: !11105 merge cp_cleancode into master compressor、quant_compressor算子cleancode Created-by: myy268 Commit-by: myy268;莫允扬 Merged-by: cann-robot Description: ## 描述 compressor, quant_compressor算子cleancode:normal模板和fullload模板合并kernel、cube文件,提取vec基类。 tilingkey增加组合约束,限制不可能的tilingkey组合。 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [x] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11105 | 1 天前 | |
qfa quantmode=6放开拦截&资料同步修改 Co-authored-by: wangke293<wangke293@huawei.com> # message auto-generated for no-merge-commit merge: !11201 merge master into master qfa quantmode=6放开拦截&资料同步修改 Created-by: wangke293 Commit-by: wangke293 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> qfa quantmode=6放开拦截&资料同步修改 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/4934 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 二级冒烟 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> torch_extension/cann_ops_transformer/docs/zh/quant_flash_attn.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11201 | 1 小时前 | |
fix def and mutex id bug Co-authored-by: llwy0320<liwenyu23@huawei.com> # message auto-generated for no-merge-commit merge: !11088 merge 902_quantFAG into master fix def and mutex id bug Created-by: llwy0320 Commit-by: llwy0320 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修复quantFAG算子mutex ID重复问题 修复quantFAG算子def文件未指定quant_mode的dtype ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> #4878 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11088 | 3 天前 | |
qfa quantmode=6放开拦截&资料同步修改 Co-authored-by: wangke293<wangke293@huawei.com> # message auto-generated for no-merge-commit merge: !11201 merge master into master qfa quantmode=6放开拦截&资料同步修改 Created-by: wangke293 Commit-by: wangke293 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> qfa quantmode=6放开拦截&资料同步修改 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/4934 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 二级冒烟 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> torch_extension/cann_ops_transformer/docs/zh/quant_flash_attn.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11201 | 1 小时前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
fix: qli_v2 batch一致性验证增补quant_mode Co-authored-by: j60100428<jingsong5@h-partners.com> # message auto-generated for no-merge-commit merge: !11297 merge master into master fix: qli_v2 batch一致性验证增补quant_mode Created-by: SH_jingsong Commit-by: j60100428 Merged-by: cann-robot Description: ## 描述 扩展了 attention/quant_lightning_indexer_v2/tests/assets/impl/batch_consistency.py 中批量一致性测试对 quant_mode 的支持范围:新增 HIFLOAT8_QUANT_MODE = 4 与 SUPPORTED_QUANT_MODES = (1, 2, 3, 4, 5) 常量,将 IndexerBatchInputNormalizer.apply 中原本仅支持 quant_mode 1/2 的限制放宽到 1–5,并针对 mode 4(HiFloat8)的 scale 张量形状为 (1,) 的特点做了特殊处理:跳过按批次填充/散列 query_dequant_scale、key_dequant_scale,改为通过 fill_hifloat8_scales() 统一填充为稳定全局 scale。 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4990 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11297 | 22 小时前 | |
修复示例代码注释问题 Co-authored-by: qq_32807861<handongchen2@huawei.com> # message auto-generated for no-merge-commit merge: !11133 merge master into master 修复示例代码注释问题 Created-by: qq_32807861 Commit-by: qq_32807861 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11133 | 2 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第3批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !9331 merge test into master pre-commit修复attention目录.h/.hpp历史格式问题(第3批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!9331 | 3 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第3批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !9331 merge test into master pre-commit修复attention目录.h/.hpp历史格式问题(第3批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!9331 | 3 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
trans规范整改打标签 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !9417 merge master into master trans规范整改打标签 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述 打标签attention文件 ## 关联的Issue 关联Issue [#4040](https://gitcode.com/cann/ops-transformer/issues/4040) <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!9417 | 1 个月前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第3批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !9331 merge test into master pre-commit修复attention目录.h/.hpp历史格式问题(第3批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!9331 | 3 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
【FAG】log fix Co-authored-by: coder_linx<linzhu3@huawei.com> # message auto-generated for no-merge-commit merge: !10770 merge david_0827_log_fix into master 【FAG】log fix Created-by: coder_linx Commit-by: coder_linx Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10770 | 1 天前 | |
smla v0 scalar,同步mqsmla优化方案 Co-authored-by: wangzhe123456789<wangzhe92@huawei.com> # message auto-generated for no-merge-commit merge: !11289 merge master into master smla v0 scalar,同步mqsmla优化方案 Created-by: wangzhe123456789 Commit-by: wangzhe123456789 Merged-by: cann-robot Description: ## 描述 smla v0 scalar,同步mqsmla优化方案 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11289 | 2 小时前 | |
【FAG】log fix Co-authored-by: coder_linx<linzhu3@huawei.com> # message auto-generated for no-merge-commit merge: !10770 merge david_0827_log_fix into master 【FAG】log fix Created-by: coder_linx Commit-by: coder_linx Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10770 | 1 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第3批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !9331 merge test into master pre-commit修复attention目录.h/.hpp历史格式问题(第3批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!9331 | 3 天前 | |
修复示例代码注释问题 Co-authored-by: qq_32807861<handongchen2@huawei.com> # message auto-generated for no-merge-commit merge: !11133 merge master into master 修复示例代码注释问题 Created-by: qq_32807861 Commit-by: qq_32807861 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!11133 | 2 天前 | |
【feature】sparse_flash_mla_softmax_l1_norm_metadata参数校验迁移至Host并优化图模式调用样例 Co-authored-by: ThunLoilu<202313410048@nuist.edu.cn> # message auto-generated for no-merge-commit merge: !10281 merge smla_metadata_check_migration into master 【feature】sparse_flash_mla_softmax_l1_norm_metadata参数校验迁移至Host并优化图模式调用样例 Created-by: ThunLoilu Commit-by: ThunLoilu Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 1. **校验迁移**:当前全部参数校验集中在 AICPU 侧 ParamsCheck(),非法参数需要下沉到 AICPU 执行阶段才报错。参照 sparse_lightning_indexer_kl_loss_grad_metadata(SLIKIG),将可前置的 16 项校验迁移至 Host 侧,并补充 3 项与主算子 tiling 约束对齐的数据校验。 2. **图模式样例修复**:sparse_flash_mla_softmax_l1_norm 的 TorchAir 图模式调用样例执行 coredump,需修正图内算子调用方式。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10281 | 2 天前 | |
【feature】sparse_flash_mla_softmax_l1_norm_metadata参数校验迁移至Host并优化图模式调用样例 Co-authored-by: ThunLoilu<202313410048@nuist.edu.cn> # message auto-generated for no-merge-commit merge: !10281 merge smla_metadata_check_migration into master 【feature】sparse_flash_mla_softmax_l1_norm_metadata参数校验迁移至Host并优化图模式调用样例 Created-by: ThunLoilu Commit-by: ThunLoilu Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 1. **校验迁移**:当前全部参数校验集中在 AICPU 侧 ParamsCheck(),非法参数需要下沉到 AICPU 执行阶段才报错。参照 sparse_lightning_indexer_kl_loss_grad_metadata(SLIKIG),将可前置的 16 项校验迁移至 Host 侧,并补充 3 项与主算子 tiling 约束对齐的数据校验。 2. **图模式样例修复**:sparse_flash_mla_softmax_l1_norm 的 TorchAir 图模式调用样例执行 coredump,需修正图内算子调用方式。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10281 | 2 天前 | |
【FAG】log fix Co-authored-by: coder_linx<linzhu3@huawei.com> # message auto-generated for no-merge-commit merge: !10770 merge david_0827_log_fix into master 【FAG】log fix Created-by: coder_linx Commit-by: coder_linx Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10770 | 1 天前 | |
【FAG】log fix Co-authored-by: coder_linx<linzhu3@huawei.com> # message auto-generated for no-merge-commit merge: !10770 merge david_0827_log_fix into master 【FAG】log fix Created-by: coder_linx Commit-by: coder_linx Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10770 | 1 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第3批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !9331 merge test into master pre-commit修复attention目录.h/.hpp历史格式问题(第3批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!9331 | 3 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
MicroAPI替换为Reg(attention) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !11128 merge fix_3 into master MicroAPI替换为Reg(attention) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4908 ## 描述 CANN 头文件中 MicroAPI 是 Reg 命名空间的别名(impl/basic_api/kernel_macros.h 中定义 namespace MicroAPI = Reg;,仅在 __NPU_ARCH__ 为 3510/5102/3003/3113 时生效)。随着 CANN 版本演进,官方推荐直接使用 Reg 命名空间。 本 PR 将 attention 目录算子源码中的 MicroAPI 统一替换为 Reg(共 191 个文件),包括: - MicroAPI::RegTensor → Reg::RegTensor、MicroAPI::DataCopy → Reg::DataCopy 等 API 调用 - using namespace MicroAPI; → using namespace Reg; - namespace MicroAPI = AscendC::MicroAPI; → namespace Reg = AscendC::Reg; ### 提交结构(两笔) | 提交 | 内容 | |---|---| | 第1笔 | 纯文本替换 MicroAPI → Reg(191 文件,12443 增/12443 删,逐行校验一一对应) | | 第2笔 | git pc HEAD~1 补查后 pre-commit 自动修复(clang-format 因 Reg 缩短行宽对 126 个文件重排,2993 增/3818 删) | ### 改动说明 - **纯文本等价替换**,不改变任何计算逻辑和函数签名;第2笔仅为 clang-format 空白重排,无语义变化 - 替换代码位于 arch35/arch38 路径或 __NPU_ARCH__ == 3510 宏保护内,仅 A5(及 Regbase 新核心)生效;A2/A3(arch22,Membase API)不受影响 - examples、experimental 目录不在本次范围;mc2 已提 #11112;moe/gmm/mhc/posembedding/ffn 后续提交;mamba 待 UT 修复后单独提交 ### 验证 - 逐行脚本校验:第1笔 diff 中 removed/added 行数一致,且每对行满足 新行 == 旧行.replace('MicroAPI', 'Reg') - pre-commit 全量 hook 收敛(trailing-whitespace / EOF / clang-format 均 Passed) - OAT 合规扫描 191 个文件全部通过(bash scripts/oat_check.sh All checks passed) - 语义等价性由 CANN 头文件中的命名空间别名定义保证 See merge request: cann/ops-transformer!11128 | 2 天前 | |
pre-commit修复attention目录.h/.hpp历史格式问题(第3批) Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !9331 merge test into master pre-commit修复attention目录.h/.hpp历史格式问题(第3批) Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: ## 关联的Issue 关联Issue https://gitcode.com/cann/ops-transformer/issues/4850 ## 描述 对仓内算子源码提前做 pre-commit 历史格式问题清理,为后续功能改动(如 Regbase API 替换等)扫清钩子障碍,避免后续 PR 因格式问题被大面积格式化污染 diff。 处理方式: find <目录> -type f \( -name '*.h' -o -name '*.hpp' \) | xargs pre-commit run --files,多轮执行直到所有 hook 收敛(无 Failed / 无自动修复)。 修复内容(仅格式,不改任何代码语义): - 尾随空白(trailing whitespace) - 文件末尾换行(end of file) - clang-format 代码重排(换行、缩进、对齐,遵循仓内 .clang-format) ### 排除范围(不做格式化) - *_def.cpp 算子定义文件(排版由开发者自行维护,另见 PR #11041) - */op_api/aclnn*.h、*/op_graph/*_proto.h、*/op_host/op_api/aclnn*.h 接口/原型头文件(排版由开发者自行维护) - mamba/ 目录(该目录 causal_conv1d 算子 UT 上游基线存在失败,见 Issue #4840,本批不涉及) - examples/、experimental/ 目录 ### PR 拆分说明 全仓 .h/.hpp 清理共 2362 个文件,按场景目录拆分为 6 个 PR(分支不同、内容互不重叠,可独立 review 合入): | PR | 分支 | 范围 | |---|---|---| | #4878 | compile | attention 第1批(按算子字母序前段) | | #10422 | graph | attention 第2批(按算子字母序中段) | | #9331 | test | attention 第3批(按算子字母序后段) | | #10991 | fix | mc2 | | #11020 | fix_2 | moe、gmm | | #11021 | fix_3 | posembedding、mhc、ffn、common、tests、torch_extension | ## 测试 - 纯格式化改动:不改变任何代码语义,逐文件 diff 均为空白/换行/clang-format 重排 - pre-commit 全量 hook 收敛验证:多轮执行后 trailing-whitespace / end-of-file-fixer / clang-format 均 Passed - 建议合入前对相关算子做一次编译验证 See merge request: cann/ops-transformer!9331 | 3 天前 | |
Capability enhancement: noaicpu option is supported. Co-authored-by: huang-chuhong<huangchuhong1@h-partners.com> # message auto-generated for no-merge-commit merge: !1595 merge master into master Capability enhancement: noaicpu option is supported. Created-by: huang-chuhong Commit-by: huang-chuhong Merged-by: cann-robot Description: ## 描述 Capability enhancement: noaicpu option is supported. 问题背景:mc62cm12a 场景是不需要用到毕昇编译器的,因此构建时并没有安装毕昇编译器的任何东西,但aicpu(包括tiling下沉)因为涉及device侧运行,需要用到毕昇的交叉工具链,所以会报错工具链找不到。 解决方案:因为mc62cm12a 不需要执行aicpu算子,且不支持跑aicpu算子,因此利用--noaicpu参数选项,在构建aicpu算子的时候进行kernel隔离。 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/774 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer!1595 | 6 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 2 天前 | ||
| 3 天前 | ||
| 3 天前 | ||
| 3 天前 | ||
| 3 天前 | ||
| 3 小时前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 1 天前 | ||
| 1 天前 | ||
| 3 天前 | ||
| 2 天前 | ||
| 1 天前 | ||
| 1 天前 | ||
| 2 天前 | ||
| 1 天前 | ||
| 1 天前 | ||
| 2 小时前 | ||
| 1 天前 | ||
| 1 天前 | ||
| 1 天前 | ||
| 2 天前 | ||
| 3 天前 | ||
| 3 天前 | ||
| 2 天前 | ||
| 3 天前 | ||
| 1 天前 | ||
| 8 小时前 | ||
| 8 小时前 | ||
| 23 小时前 | ||
| 4 天前 | ||
| 8 小时前 | ||
| 3 天前 | ||
| 3 天前 | ||
| 23 小时前 | ||
| 23 小时前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 12 天前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 3 天前 | ||
| 7 天前 | ||
| 2 天前 | ||
| 3 天前 | ||
| 3 天前 | ||
| 3 天前 | ||
| 3 天前 | ||
| 3 天前 | ||
| 3 天前 | ||
| 1 个月前 | ||
| 3 天前 | ||
| 3 天前 | ||
| 2 天前 | ||
| 3 天前 | ||
| 3 天前 | ||
| 1 天前 | ||
| 1 小时前 | ||
| 3 天前 | ||
| 1 小时前 | ||
| 2 天前 | ||
| 22 小时前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 3 天前 | ||
| 3 天前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 1 个月前 | ||
| 2 天前 | ||
| 3 天前 | ||
| 2 天前 | ||
| 1 天前 | ||
| 2 小时前 | ||
| 1 天前 | ||
| 3 天前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 1 天前 | ||
| 1 天前 | ||
| 3 天前 | ||
| 2 天前 | ||
| 2 天前 | ||
| 3 天前 | ||
| 6 个月前 |