| Files | Last commit | Last update |
|---|---|---|
topkvaluemode2 Co-authored-by: zzzyh22<zhangyaohui22@huawei.com> # message auto-generated for no-merge-commit merge: !11625 merge master into master topkvaluemode2 Created-by: wangzhaonan Commit-by: zzzyh22 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> A5支持topk_value_mode2 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#5772](https://gitcode.com/cann/ops-transformer/issues/5772) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11625 | 1 month ago | |
fix(mixed-quant-smla): disambiguate arch headers Co-authored-by: wangbin207<wangbin207@huawei.com> # message auto-generated for no-merge-commit merge: !12817 merge master-fix1 into master fix(mixed-quant-smla): disambiguate arch headers Created-by: wangbin207 Commit-by: wangbin207 Merged-by: cann-robot Description: ## 描述 修复 mixed_quant_sparse_flash_mla 算子 arch22 与 arch35 目录下 tiling 头文件重名问题。 主要改动： - arch22 头文件增加 _arch22 后缀。 - arch35 头文件增加 _arch35 后缀。 - 同步更新文件内 \file、include guard 及所有引用路径。 - 未修改算子功能和业务逻辑。 ## 关联的Issue 无。 ## 测试 - duplicate-header-check 检查通过。 - clang-format 检查通过。 - git diff --check 检查通过。 - 旧文件名引用检查通过，确认无遗漏引用。 - ascend910b 单算子目标完整编译通过。 - ascend950 host tiling 编译通过。 ## 文档更新 不涉及文档更新。 ## 类型标签 - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [x] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!12817 | 1 month ago | |
fix(pre-commit): 全仓代码规范整改——attention 2/4 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13595 merge moe into master fix(pre-commit): 全仓代码规范整改——attention 2/4 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5939 ## 描述 全仓代码规范整改系列——attention 拆分 **2/4**（第 2 批 26 个算子目录：fused_floyd_attention ~ mixed_quant_sparse_flash_mla，按目录字母序均分）。基于仓库 pre-commit 门禁对存量代码做一次性规范收敛： - clang-format 按 .clang-format 统一格式（列宽 120、指针左对齐 T* p、引用对齐 T& r 等） - 行尾空白、文件末尾换行修复 - 规模：735 个文件，+27423/-26835 行，纯格式化改动语义等价，无逻辑变更 - op_graph/*_proto.h、op_host/*_def.cpp、op_api/aclnn*.h 等接口文件及 OWNERS 不在本 PR 改动范围 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5939（全仓整改总跟踪） ## 测试 - pre-commit 全部钩子本地通过 - CI 流水线（compile/UT）验证 See merge request: cann/ops-transformer!13595 | 1 month ago | |
fix(mixed-quant-smla): migrate TurboQuant fixes and AICPU packaging Co-authored-by: wangbin207<wangbin207@huawei.com> # message auto-generated for no-merge-commit merge: !13492 merge master-fix3 into master fix(mixed-quant-smla): migrate TurboQuant fixes and AICPU packaging Created-by: wangbin207 Commit-by: wangbin207 Merged-by: cann-robot Description: ## 描述 将稳定的MixedQuantSparseFlashMla 的 TurboQuant 后续修复和部署配置对齐master与9.2.0分支，补齐已有 arch22 quant_mode=3 路径。 - 修复原始 KV 子块偏移、压缩 KV 尾块及反量化范围、稀疏索引 padding mask 和缓冲区同步，优化 BF16 byte LUT 初始化。 - 对齐 A2/A3 TurboQuant Metadata 的 S2 分块大小，补充 mode 3 的 Torch dtype 校验和 Meta 输出约定。 - 补齐 Metadata AICPU 库生成、注册及安装配置，启用 RELRO/BIND_NOW 安全链接选项。 - 保留 master 的 arch35 quant_mode=1/2、topk_value_mode=2、TilingKey 和跨核归约实现。 ## 关联的Issue 无。 ## 测试 - CANN 9.2.0：A2/A3 FP16、BF16 四组内核编译通过；A5 八组代表性模板编译通过，覆盖量化模式 1/2、普通/batch 一致性及 top-k 模式 1/2。 - Host/ACLNN 共享库、独立 Metadata AICPU 库编译通过；Torch C++ 扩展编译、链接及加载通过。 - 35 项 Host UT、6 项 ACLNN API UT、2 项 Metadata UT、94 项 Python 接口契约测试、12 项 TurboQuant 数值测试及 4 项 C++ dtype 校验用例通过。 - 两处 AICPU 安装副本及注册配置一致；ELF 的 GNU_RELRO、BIND_NOW/NOW 和不可执行栈检查通过。 - Ruff、仓库配置下的 codespell、改动行 clang-format、差异及配置文件检查通过。 验证限制：整文件 clang-format 在 5 个文件上仍存在 master 已有的格式问题；OAT 因工具依赖无法下载未完成；完整 .run 打包因 Eigen 依赖缺失且下载不可达未完成。未执行 NPU 实机精度和性能回归。 ## 文档更新 更新算子 README、ACLNN/Torch 接口文档及源码构建安装说明，补充 TurboQuant 输入约束、量化布局和 Metadata 部署方式。 ## 类型标签 - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [x] 🧪 测试 - [x] 📦 构建/CI - [x] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13492 | 1 month ago | |
fix(mixed-quant-smla): migrate TurboQuant fixes and AICPU packaging Co-authored-by: wangbin207<wangbin207@huawei.com> # message auto-generated for no-merge-commit merge: !13492 merge master-fix3 into master fix(mixed-quant-smla): migrate TurboQuant fixes and AICPU packaging Created-by: wangbin207 Commit-by: wangbin207 Merged-by: cann-robot Description: ## 描述 将稳定的MixedQuantSparseFlashMla 的 TurboQuant 后续修复和部署配置对齐master与9.2.0分支，补齐已有 arch22 quant_mode=3 路径。 - 修复原始 KV 子块偏移、压缩 KV 尾块及反量化范围、稀疏索引 padding mask 和缓冲区同步，优化 BF16 byte LUT 初始化。 - 对齐 A2/A3 TurboQuant Metadata 的 S2 分块大小，补充 mode 3 的 Torch dtype 校验和 Meta 输出约定。 - 补齐 Metadata AICPU 库生成、注册及安装配置，启用 RELRO/BIND_NOW 安全链接选项。 - 保留 master 的 arch35 quant_mode=1/2、topk_value_mode=2、TilingKey 和跨核归约实现。 ## 关联的Issue 无。 ## 测试 - CANN 9.2.0：A2/A3 FP16、BF16 四组内核编译通过；A5 八组代表性模板编译通过，覆盖量化模式 1/2、普通/batch 一致性及 top-k 模式 1/2。 - Host/ACLNN 共享库、独立 Metadata AICPU 库编译通过；Torch C++ 扩展编译、链接及加载通过。 - 35 项 Host UT、6 项 ACLNN API UT、2 项 Metadata UT、94 项 Python 接口契约测试、12 项 TurboQuant 数值测试及 4 项 C++ dtype 校验用例通过。 - 两处 AICPU 安装副本及注册配置一致；ELF 的 GNU_RELRO、BIND_NOW/NOW 和不可执行栈检查通过。 - Ruff、仓库配置下的 codespell、改动行 clang-format、差异及配置文件检查通过。 验证限制：整文件 clang-format 在 5 个文件上仍存在 master 已有的格式问题；OAT 因工具依赖无法下载未完成；完整 .run 打包因 Eigen 依赖缺失且下载不可达未完成。未执行 NPU 实机精度和性能回归。 ## 文档更新 更新算子 README、ACLNN/Torch 接口文档及源码构建安装说明，补充 TurboQuant 输入约束、量化布局和 Metadata 部署方式。 ## 类型标签 - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [x] 🧪 测试 - [x] 📦 构建/CI - [x] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13492 | 1 month ago | |
fix(mixed-quant-smla): migrate TurboQuant fixes and AICPU packaging Co-authored-by: wangbin207<wangbin207@huawei.com> # message auto-generated for no-merge-commit merge: !13492 merge master-fix3 into master fix(mixed-quant-smla): migrate TurboQuant fixes and AICPU packaging Created-by: wangbin207 Commit-by: wangbin207 Merged-by: cann-robot Description: ## 描述 将稳定的MixedQuantSparseFlashMla 的 TurboQuant 后续修复和部署配置对齐master与9.2.0分支，补齐已有 arch22 quant_mode=3 路径。 - 修复原始 KV 子块偏移、压缩 KV 尾块及反量化范围、稀疏索引 padding mask 和缓冲区同步，优化 BF16 byte LUT 初始化。 - 对齐 A2/A3 TurboQuant Metadata 的 S2 分块大小，补充 mode 3 的 Torch dtype 校验和 Meta 输出约定。 - 补齐 Metadata AICPU 库生成、注册及安装配置，启用 RELRO/BIND_NOW 安全链接选项。 - 保留 master 的 arch35 quant_mode=1/2、topk_value_mode=2、TilingKey 和跨核归约实现。 ## 关联的Issue 无。 ## 测试 - CANN 9.2.0：A2/A3 FP16、BF16 四组内核编译通过；A5 八组代表性模板编译通过，覆盖量化模式 1/2、普通/batch 一致性及 top-k 模式 1/2。 - Host/ACLNN 共享库、独立 Metadata AICPU 库编译通过；Torch C++ 扩展编译、链接及加载通过。 - 35 项 Host UT、6 项 ACLNN API UT、2 项 Metadata UT、94 项 Python 接口契约测试、12 项 TurboQuant 数值测试及 4 项 C++ dtype 校验用例通过。 - 两处 AICPU 安装副本及注册配置一致；ELF 的 GNU_RELRO、BIND_NOW/NOW 和不可执行栈检查通过。 - Ruff、仓库配置下的 codespell、改动行 clang-format、差异及配置文件检查通过。 验证限制：整文件 clang-format 在 5 个文件上仍存在 master 已有的格式问题；OAT 因工具依赖无法下载未完成；完整 .run 打包因 Eigen 依赖缺失且下载不可达未完成。未执行 NPU 实机精度和性能回归。 ## 文档更新 更新算子 README、ACLNN/Torch 接口文档及源码构建安装说明，补充 TurboQuant 输入约束、量化布局和 Metadata 部署方式。 ## 类型标签 - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [x] 🧪 测试 - [x] 📦 构建/CI - [x] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13492 | 1 month ago |
| Files | Last commit | Last update |
|---|---|---|
| 1 month ago | ||
| 1 month ago | ||
| 1 month ago | ||
| 1 month ago | ||
| 1 month ago | ||
| 1 month ago |