| feat(index): add UnionSparseGen for A2/A5 sparse attention metadata Co-authored-by: bartonfang<fangziyang1@huawei.com> # message auto-generated for no-merge-commit merge: !14010 merge feat/union-sparse-gen-a2-a5-20261109 into master feat(index): add UnionSparseGen for A2/A5 sparse attention metadata Created-by: bartonfang Commit-by: bartonfang Merged-by: cann-robot Description: ## 描述 新增 UnionSparseGen,将同一请求内相邻 query 选择的稀疏 KV 块合并,输出升序去重的 unionSparseIdx、有效数量 unionSparseCount,以及保留逐 query 可见关系的 exactMask。提供 ACLNN、Torch 接口和 A2 SIMD / A5 SIMT 实现,用于稀疏 attention 的 metadata 前处理。 ### 接口与行为 - 当前支持 block_shape=[1,128]、union_size=8、有序输入、layout_sparse_pattern=4、显式块列表 residual_block_mode=0。 - mask_type=0 为默认非因果模式,1 为右下对齐 causal;两种模式均保留 query membership 和有效 KV 边界,并集和 count 不因 mask 类型改变。三个输出均为 INT32,idx padding 为 -1,mask padding 为 0。 - Q/KV 各自按 cu 是否存在定位:cu 为 INT64 前缀,seqUsed 为 INT32 有效长度且优先使用;无 cuQ 时使用等宽槽位,要求 seqUsedQ、正数 maxQ 和 T=B×maxQ;无 cuKV 时要求 seqUsedKV。 - G=Σceil(effectiveQ/8),Lmax=max(1,max ceil(effectiveKV/128)),容量 U=min(8K,Lmax)。GE 可省略 G/Lmax,以 -1 请求按长度值推导;ACLNN和低层 Torch 继续提供准确几何,公共 Python 入口自动计算。 ### 实现与边界检查 A2 使用有序归并及批量向量资源布局,A5 使用 WarpMerge 和 Packed membership 协作处理;host 按资源与工作量选择 tilingkey。实现包括独立请求分组、partial group、空任务、KV 尾部、重复块、地址与字节数溢出检查,以及可选输入组合和属性合法性校验。CMake 采用仓库标准注册入口,保留 AUTO_SYNC=false。 ## 关联的Issue 关联 [Issue #8776:新增 UnionSparseGen 算子需求](https://gitcode.com/cann/ops-nn/issues/8776)。 ## 测试 | 验证项 | A2 | A5 | |---|---|---| | 原生 Host UT,含 GE 自动几何 | 29项通过 | 29项通过 | | 完整 Python 用例 | 410 passed,1项历史对照按条件跳过 | 相同 | | ATK 泛化,三个完整输出逐位一致 | 200/200 | 200/200 | | 每个可达 key 的确定性 | 50次通过 | 50次通过 | | ACLNN 非法参数拦截及 C++ 示例 | 75项及示例通过 | 相同 | | GE 非法属性/长度拦截及报错后恢复 | 26项通过 | 26项通过 | | 真正 Device 输入、同图动态长度及完整输出 | 56次通过 | 56次通过 | | 模型同规模几何和设备输出分配 | 3项通过 | 3项通过 | | memcheck / initcheck | 各44项、77次kernel,0错误0告警 | 相同 | | synccheck | 16项、22次kernel,0错误;保留既有5512次冗余wait和1020次冗余set告警 | 16项、22次kernel,0错误0告警 | 上述设备测试对应 7c098a2c95 的实现;其 [CI #19463](https://gitcode.com/cann/ops-nn/actions/runs/f47bd97b56474af59ae0f47deb49d05e) **73/73项全部通过**,实际 checkout 已核实。本次评审修订 3a2d8e0baf 仅补齐 ACLNN/GE 头文件参数说明并整理 InferAuto UT 常量,计算实现和接口签名未改;29项原生 Host UT、参数文档完整性、格式及 OAT 检查通过,新提交 [CI #19472](https://gitcode.com/cann/ops-nn/actions/runs/8c37b553326b454d8a6f0decab301cf9) **73/73项通过**,实际 checkout 已核实为 3a2d8e0baf。PR仍保留一个功能提交。 最新格式修订 71c3b33a82:OpDef 改为仓内常用的构造函数直接注册;输入/输出/属性顺序、默认值和平台配置逐项等价。ACLNN 中英文产品支持说明与 RepeatInterleave 一致,使用 npu/id 标记和支持/不支持列表。格式、OAT、A2 SDK 原生语法编译及注册等价检查通过;新提交 [CI #19474](https://gitcode.com/cann/ops-nn/actions/runs/470c9b6feb704901bd6f9c9c3fce2a8e) **73/73项通过**,实际 checkout 已核实为 71c3b33a82。 ## 文档更新 提供中英文 README、ACLNN、Torch API 文档,并更新仓库算子/API 索引。正式目录保留实现、样例及标准 Host UT;完整 ST/ATK 交付件和原始验证证据保存在本地。 ## 类型标签 - [x] 新特性 - [x] 性能优化 - [x] 文档更新 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14010 | 7 days ago |
| feat(index): add UnionSparseGen for A2/A5 sparse attention metadata Co-authored-by: bartonfang<fangziyang1@huawei.com> # message auto-generated for no-merge-commit merge: !14010 merge feat/union-sparse-gen-a2-a5-20261109 into master feat(index): add UnionSparseGen for A2/A5 sparse attention metadata Created-by: bartonfang Commit-by: bartonfang Merged-by: cann-robot Description: ## 描述 新增 UnionSparseGen,将同一请求内相邻 query 选择的稀疏 KV 块合并,输出升序去重的 unionSparseIdx、有效数量 unionSparseCount,以及保留逐 query 可见关系的 exactMask。提供 ACLNN、Torch 接口和 A2 SIMD / A5 SIMT 实现,用于稀疏 attention 的 metadata 前处理。 ### 接口与行为 - 当前支持 block_shape=[1,128]、union_size=8、有序输入、layout_sparse_pattern=4、显式块列表 residual_block_mode=0。 - mask_type=0 为默认非因果模式,1 为右下对齐 causal;两种模式均保留 query membership 和有效 KV 边界,并集和 count 不因 mask 类型改变。三个输出均为 INT32,idx padding 为 -1,mask padding 为 0。 - Q/KV 各自按 cu 是否存在定位:cu 为 INT64 前缀,seqUsed 为 INT32 有效长度且优先使用;无 cuQ 时使用等宽槽位,要求 seqUsedQ、正数 maxQ 和 T=B×maxQ;无 cuKV 时要求 seqUsedKV。 - G=Σceil(effectiveQ/8),Lmax=max(1,max ceil(effectiveKV/128)),容量 U=min(8K,Lmax)。GE 可省略 G/Lmax,以 -1 请求按长度值推导;ACLNN和低层 Torch 继续提供准确几何,公共 Python 入口自动计算。 ### 实现与边界检查 A2 使用有序归并及批量向量资源布局,A5 使用 WarpMerge 和 Packed membership 协作处理;host 按资源与工作量选择 tilingkey。实现包括独立请求分组、partial group、空任务、KV 尾部、重复块、地址与字节数溢出检查,以及可选输入组合和属性合法性校验。CMake 采用仓库标准注册入口,保留 AUTO_SYNC=false。 ## 关联的Issue 关联 [Issue #8776:新增 UnionSparseGen 算子需求](https://gitcode.com/cann/ops-nn/issues/8776)。 ## 测试 | 验证项 | A2 | A5 | |---|---|---| | 原生 Host UT,含 GE 自动几何 | 29项通过 | 29项通过 | | 完整 Python 用例 | 410 passed,1项历史对照按条件跳过 | 相同 | | ATK 泛化,三个完整输出逐位一致 | 200/200 | 200/200 | | 每个可达 key 的确定性 | 50次通过 | 50次通过 | | ACLNN 非法参数拦截及 C++ 示例 | 75项及示例通过 | 相同 | | GE 非法属性/长度拦截及报错后恢复 | 26项通过 | 26项通过 | | 真正 Device 输入、同图动态长度及完整输出 | 56次通过 | 56次通过 | | 模型同规模几何和设备输出分配 | 3项通过 | 3项通过 | | memcheck / initcheck | 各44项、77次kernel,0错误0告警 | 相同 | | synccheck | 16项、22次kernel,0错误;保留既有5512次冗余wait和1020次冗余set告警 | 16项、22次kernel,0错误0告警 | 上述设备测试对应 7c098a2c95 的实现;其 [CI #19463](https://gitcode.com/cann/ops-nn/actions/runs/f47bd97b56474af59ae0f47deb49d05e) **73/73项全部通过**,实际 checkout 已核实。本次评审修订 3a2d8e0baf 仅补齐 ACLNN/GE 头文件参数说明并整理 InferAuto UT 常量,计算实现和接口签名未改;29项原生 Host UT、参数文档完整性、格式及 OAT 检查通过,新提交 [CI #19472](https://gitcode.com/cann/ops-nn/actions/runs/8c37b553326b454d8a6f0decab301cf9) **73/73项通过**,实际 checkout 已核实为 3a2d8e0baf。PR仍保留一个功能提交。 最新格式修订 71c3b33a82:OpDef 改为仓内常用的构造函数直接注册;输入/输出/属性顺序、默认值和平台配置逐项等价。ACLNN 中英文产品支持说明与 RepeatInterleave 一致,使用 npu/id 标记和支持/不支持列表。格式、OAT、A2 SDK 原生语法编译及注册等价检查通过;新提交 [CI #19474](https://gitcode.com/cann/ops-nn/actions/runs/470c9b6feb704901bd6f9c9c3fce2a8e) **73/73项通过**,实际 checkout 已核实为 71c3b33a82。 ## 文档更新 提供中英文 README、ACLNN、Torch API 文档,并更新仓库算子/API 索引。正式目录保留实现、样例及标准 Host UT;完整 ST/ATK 交付件和原始验证证据保存在本地。 ## 类型标签 - [x] 新特性 - [x] 性能优化 - [x] 文档更新 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14010 | 7 days ago |
| fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago |
| 修复 ops-nn QUICKSTART.md 文档扫描问题(11处) Co-authored-by: liujing987913<liujing407@h-partners.com> # message auto-generated for no-merge-commit merge: !14314 merge docs/quickstart-fix into master 修复 ops-nn QUICKSTART.md 文档扫描问题(11处) Created-by: liujing987913 Commit-by: liujing987913 Merged-by: cann-robot Description: ## 描述 - 背景:AIDD/文档质量扫描发现 ops-nn 仓 docs/QUICKSTART.md 文档问题 11 处 - 修改分类:代码块语言标签 1、参数名/括号 1、行内代码标记 1、引导句标点 3、漏字 1、术语大小写 3(Kernel/Tensor/Host+Vector) - 涉及文件:docs/QUICKSTART.md(1 个文件,11 处) - 验证:git diff 确认为纯文本修改,无代码内容误改;已人工核对 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/8705 ## 测试 ## 文档更新 本次 PR 更新 ops-nn docs/QUICKSTART.md,修正标点/术语/行内代码格式问题 11 处,详见 diff。 ## 类型标签 - 文档更新 See merge request: cann/ops-nn!14314 | 9 days ago |
| torch资料入口 Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !9678 merge torch into master torch资料入口 Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 torch资料入口补充 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/3384 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 docs/README.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!9678 | 2 months ago |