Star987

Star987

cann-robot修改torch_npu产品名称和doc tools修改

36c13d05创建于 2 天前历史提交

文件	最后提交记录	最后更新时间
docs	修改torch_npu产品名称和doc tools修改 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !9049 merge master into master 修改torch_npu产品名称和doc tools修改 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述修改torch_npu产品、doctools和api手册名称修改 ## 关联的Issue 关联Issue [#3706](https://gitcode.com/cann/ops-transformer/issues/3706) <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 README.md attention docs examples / mc2 / all_gather_add / docs experimental ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!9049	2 天前
examples	pre-commit 补充license Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !5437 merge err_msg into master pre-commit 补充license Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: # ops-transformer 仓库 License 合规整改总结 ## 背景 ops-transformer 仓库在 `pre-commit` 流程中引入了 OAT（Open Source Audit Tool）合规性检查，用于扫描提交文件是否包含合规的 CANN License 头。在实际提交过程中，OAT 检查发现多个文件缺少 License 头，导致 commit 被阻断。为此进行了两笔提交来完成整改。 ## 提交记录 \| 序号 \| Commit \| 提交信息 \| 修改文件数 \| 变更量 \| \|------\|--------\|----------\|-----------\|--------\| \| 1 \| `7ad5476c9` \| pre-commit 规则修改 \| 1 \| +10 / -1 \| \| 2 \| `84b25cd9d` \| 补充license \| 94 \| +4399 / -3521 \| ## 提交一：pre-commit 规则修改 ### 修改内容对 `.pre-commit-config.yaml` 做了两处修改： 1. 补充 CANN License 头 — 该文件本身缺少 License，导致 OAT 检查报错 `License Header Invalid` 2. codespell 排除范围扩展 — 在 `--skip` 参数中新增 `.md`，避免对 Markdown 文档进行拼写检查（文档中包含大量技术术语和中文内容，误报率高） ### 触发原因首次提交时 OAT 扫描结果： `[OAT] Found 1 compliance issue(s): - Invalid File Type: 0 - License Header Invalid: 1 → .pre-commit-config.yaml (NoLicenseHeader)` ## 提交二：补充 License ### 统计概览 - 涉及文件: 94 个 - 文件类型分布: \| 类型 \| 数量 \| License 格式 \| \|------\|------\|-------------\| \| `.py` \| 62 \| `#` 注释风格 \| \| `.sh` \| 14 \| `#` 注释风格 \| \| `.cpp` \| 8 \| `//` 注释风格 \| \| `.h` \| 5 \| `//` 注释风格 \| \| `.yml` \| 4 \| `#` 注释风格 \| \| `.yaml` \| 1 \| `#` 注释风格 \| - 模块分布: \| 模块 \| 文件数 \| \|------\|--------\| \| attention \| 37 \| \| experimental \| 31 \| \| examples \| 7 \| \| .gitcode \| 5 \| \| tests \| 3 \| \| posembedding \| 3 \| \| mc2 \| 3 \| \| mhc \| 2 \| \| torch_extension \| 1 \| \| scripts \| 1 \| \| ffn \| 1 \| ### License 头格式 #### Hash 风格（`.sh` / `.py` / `.yaml` / `.yml`） # ----------------------------------------------------------------------------------------------------------- # Copyright (c) 2025 Huawei Technologies Co., Ltd. # This program is free software, you can redistribute it and/or modify it under the terms and conditions of # CANN Open Software License Agreement Version 2.0 (the "License"). # Please refer to the License for details. You may not use this file except in compliance with the License. # THIS SOFTWARE IS PROVIDED ON AN "AS IS" BASIS, WITHOUT WARRANTIES OF ANY KIND, EITHER EXPRESS OR IMPLIED, # INCLUDING BUT NOT LIMITED TO NON-INFRINGEMENT, MERCHANTABILITY, OR FITNESS FOR A PARTICULAR PURPOSE. # See LICENSE in the root of the software repository for the full text of the License. # ----------------------------------------------------------------------------------------------------------- #### C 风格（`.cpp` / `.c` / `.h` / `.hpp`） c /* * Copyright (c) 2025 Huawei Technologies Co., Ltd. * This program is free software, you can redistribute it and/or modify it under the terms and conditions of * CANN Open Software License Agreement Version 2.0 (the "License"). * Please refer to the License for details. You may not use this file except in compliance with the License. * THIS SOFTWARE IS PROVIDED ON AN "AS IS" BASIS, WITHOUT WARRANTIES OF ANY KIND, EITHER EXPRESS OR IMPLIED, * INCLUDING BUT NOT LIMITED TO NON-INFRINGEMENT, MERCHANTABILITY, OR FITNESS FOR A PARTICULAR PURPOSE. * See LICENSE in the root of the software repository for the full text of the License. / ### 处理规则 \| 场景 \| 处理方式 \| \|------\|---------\| \| 普通文件无 License \| 在文件顶部添加 License 头 \| \| 文件有 shebang（`#!/bin/bash`） \| License 插入在 shebang 之后 \| \| 文件有编码声明（`# -- coding: utf-8 --`） \| License 插入在编码声明之后 \| \| License 最后一行与代码之间 \| 保留一个空行分隔 \| \| C 风格 `/` 后 \| 保留一个空行分隔 \| \| 空 `__init__.py`（0 字节） \| 不添加 License，保持原样 \| \| 已有小写 `copyright` 的文件 \| 不重复添加（识别为已有 License） \| ### 额外修复 #### 1. 双 License 清理以下 3 个文件原本同时包含 CANN License 和 Apache 2.0 License，删除了 Apache 2.0 部分： - `scripts/util/insert_op_info.py` - `examples/add_example/op_kernel_aicpu/add_example_aicpu.cpp` - `examples/add_example/op_kernel_aicpu/add_example_aicpu.h` #### 2. 格式规范化 - 所有 C 风格文件 `/` 后确保有空行 - 所有 Hash 风格文件 License 块 `# ---` 后确保有空行 - 修复了 2 个文件（`golden.py`、`golden_src.py`）License 后的空格行替换为真正的空行 ### 排除范围以下目录/文件未做修改： - `build/` — 构建产物 - `.git/` — Git 内部文件 - `third_party/` — 第三方依赖 - `/3rd/` — 第三方子模块 - `oat_reports/` — OAT 扫描报告 - `torch_extension/build/` — 构建产物 - 空 `__init__.py`（0 字节）— Python 包标识文件，无需 License ## 验证结果整改完成后，对提交中所有 94 个文件进行了 5 项检查： \| 检查项 \| 结果 \| \|--------\|------\| \| 1. 是否包含 Copyright Huawei 标识 \| 全部通过 \| \| 2. 是否存在重复 Copyright \| 全部通过 \| \| 3. C 风格 `*/` 后是否有空行 \| 全部通过 \| \| 4. Hash 风格 `# ---` 后是否有空行 \| 全部通过 \| \| 5. shebang/encoding 是否保持在第 1 行 \| 全部通过 \| See merge request: cann/ops-transformer!5437	3 天前
op_host	sklig metadata support A5 + add smlag metadata Co-authored-by: qq_32807861<handongchen2@huawei.com> # message auto-generated for no-merge-commit merge: !7857 merge master into master sklig metadata support A5 + add smlag metadata Created-by: qq_32807861 Commit-by: qq_32807861 Merged-by: cann-robot Description: ## 描述 sliklg metadata算子支持A5，新增smlag metadata算子； ## 关联的Issue 关联Issue #3513 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!7857	24 天前
op_kernel_aicpu	dsv4 metadata功能泛化 Co-authored-by: qq_32807861<handongchen2@huawei.com> # message auto-generated for no-merge-commit merge: !8829 merge master into master dsv4 metadata功能泛化 Created-by: qq_32807861 Commit-by: qq_32807861 Merged-by: cann-robot Description: ## 描述 qli_v2 metadata增加FD开关条件 li_v2 metadata修改s1BaseSize mqsmla metadata支持全稀疏 smla metadata支持全稀疏 smlag metadata增加layout拦截 sliklg metadata增加layout拦截 ## 关联的Issue 关联Issue #3819 ## 测试二级冒烟、编译触发 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!8829	3 天前
CMakeLists.txt	[QLI/LI AICPU] 新增QLI/LI V2前置AICPU metadata算子 Co-authored-by: qq_32807861<handongchen2@huawei.com> # message auto-generated for no-merge-commit merge: !5054 merge checkpoint_515 into master [QLI/LI AICPU] 新增QLI/LI V2前置AICPU metadata算子 Created-by: ChengjiaWu Commit-by: qq_32807861 Merged-by: cann-robot Description: ## 描述添加quant_lightning_indexer_v2和lightning_indexer_v2的前置AICPU metadata算子，为后置算子计算负载均衡，实现完整功能流。 ## 关联的Issue [#2403](https://gitcode.com/cann/ops-transformer/issues/2403) <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新新增QLI_V2_METADTA, LI_V2_METADATA的aclnn 接口文档 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!5054	2 个月前
README.md	修改torch_npu产品名称和doc tools修改 Co-authored-by: caiwenwen<caiwenwen6@h-partners.com> # message auto-generated for no-merge-commit merge: !9049 merge master into master 修改torch_npu产品名称和doc tools修改 Created-by: caiwenwen Commit-by: caiwenwen Merged-by: cann-robot Description: ## 描述修改torch_npu产品、doctools和api手册名称修改 ## 关联的Issue 关联Issue [#3706](https://gitcode.com/cann/ops-transformer/issues/3706) <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 README.md attention docs examples / mc2 / all_gather_add / docs experimental ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!9049	2 天前

LightningIndexerV2Metadata

产品支持情况

产品	是否支持
Ascend 950PR/Ascend 950DT	√
Atlas A3 训练系列产品/Atlas A3 推理系列产品	√
Atlas A2 训练系列产品/Atlas A2 推理系列产品	√
Atlas 200I/500 A2 推理产品	×
Atlas 推理系列产品	×
Atlas 训练系列产品	×

功能说明

算子功能：LightningIndexerV2Metadata算子旨在生成一个任务列表，包含每个AIcore的Attention计算任务的起止点的Batch、Head、以及Q和K的分块的索引，供后续LightningIndexerV2算子使用。

参数说明

参数名	输入/输出/属性	描述	数据类型	数据格式
cu_seqlens_q	可选输入	表示不同Batch中Query的有效Sequence Length，shape为(B+1, )，仅layout_q为TND场景下必传，第一个值固定为0。	INT32	ND
cu_seqlens_k	可选输入	表示不同Batch中Key的有效Sequence Length，shape为(B+1, )，仅layout_k为TND场景下必传，第一个值固定为0。	INT32	ND
seqused_q	可选输入	表示不同Batch中Query实际参与运算的Sequence Length，shape为(B, )。	INT32	ND
seqused_k	可选输入	表示不同Batch中Key实际参与运算的Sequence Length，shape为(B, )。	INT32	ND
cmp_residual_k	可选输入	表示不同Batch中cmp_kv压缩后Sequence Length的余数，配合cmp_ratio实现cmp_kv部分的mask和负载计算，shape为(B, )。cmp_ratio不为1且mask_mode为3场景下必传。	INT32	ND
num_heads_q	属性	表示Query的head个数，当前仅支持32/64。	INT32	-
num_heads_k	属性	表示Key的head个数，当前仅支持1。	INT32	-
head_dim	属性	表示注意力头的维度，当前仅支持128。	INT32	-
topk	属性	表示从Query中筛选出的关键稀疏token的个数，当前仅支持[1, 2048]	INT32	-
batch_size	可选属性	表示Batch数量，默认值为0。	INT32	-
max_seqlen_q	可选属性	表示Query的最长Sequence Length，-1表示任意可能长度，默认值为-1。	INT32	-
max_seqlen_k	可选属性	表示Key的最长Sequence Length，-1表示任意可能长度，默认值为-1。	INT32	-
layout_q	可选属性	表示Query的排列格式，支持BSND、TND，默认值为BSND。	STRING	-
layout_k	可选属性	表示Key的排列格式，支持BSND、TND、PA_BBND，默认值为BSND。	STRING	-
mask_mode	可选属性	表示sparse模式，0表示No mask，3表示rightDownCausal模式，默认值为0。	INT32	-
cmp_ratio	可选属性	表示Key的压缩率，取值范围[1, 128]，默认值为1，表示无压缩。	INT32	-
metadata	输出	表示负载均衡结果输出，shape固定为[1024]。	INT32	ND

约束说明

LightningIndexerV2Metadata算子需要与LightningIndexerV2算子配套使用。
B（Batch）表示输入样本批量大小。
参数cu_seqlens_q、cu_seqlens_k要求其值为当前Batch与前序Batch有效token数的累加值，后一个元素的值必须大于等于前一个元素的值。
参数seqused_q、seqused_k要求其值表示每个Batch中的有效token数。
参数cmp_residual_k需满足cmp_residual_k[i] < cmp_ratio。
mask_mode所表示的mask模式的详细介绍见sparse_mode参数说明。

调用说明

调用方式	样例代码	说明
aclnn API	test_aclnn_lightning_indexer_v2_metadata	通过aclnnLightningIndexerV2Metadata接口调用LightningIndexerV2Metadata算子
PyTorch API	test_torch_lightning_indexer_v2_metadata	通过lightning_indexer_metadata接口调用LightningIndexerV2Metadata算子