| Files | Last commit | Last update |
|---|---|---|
fix(pre-commit): 全仓代码规范整改——attention 3/4 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13596 merge common into master fix(pre-commit): 全仓代码规范整改——attention 3/4 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5939 ## 描述 全仓代码规范整改系列——attention 拆分 **3/4**(第 3 批 26 个算子目录:mixed_quant_sparse_flash_mla_metadata ~ quant_lightning_indexer_v2_metadata,按目录字母序均分)。基于仓库 pre-commit 门禁对存量代码做一次性规范收敛: - clang-format 按 .clang-format 统一格式(列宽 120、指针左对齐 T* p、引用对齐 T& r 等) - 行尾空白、文件末尾换行修复 - 规模:513 个文件,+16217/-14903 行,纯格式化改动语义等价,无逻辑变更 - op_graph/*_proto.h、op_host/*_def.cpp、op_api/aclnn*.h 等接口文件及 OWNERS 不在本 PR 改动范围 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5939(全仓整改总跟踪) ## 测试 - pre-commit 全部钩子本地通过 - CI 流水线(compile/UT)验证 See merge request: cann/ops-transformer!13596 | 1 month ago | |
compressor km Co-authored-by: myy268<moyunyang@huawei.com> # message auto-generated for no-merge-commit merge: !13268 merge feat/compressor-920r1-km-split-pr12538 into master compressor km Created-by: myy268 Commit-by: myy268 Merged-by: cann-robot Description: ## 描述 本 PR 对 compressor / quant_compressor 的 K/M 轴叠加切分与调度做了一轮对齐和修复,主要改动如下: 1. **切分决策由 kernel 上移到 host tiling**:新增 mGroupNum 字段,M 组数、K 段数、coreGroupNum、kBaseNum、kBaseSize 统一在 host 推导;kernel 删除 SplitK 中遍历 batch 累加 seqLen 现场统计 mSize 的逻辑,改为直接读取 tiling。NORMAL 与 FULL_LOAD 分别按 coreGroupNum / mBaseNum 推导 K 段数,量化路径的 kBaseSize 按 32 对齐。 2. **明确超范围核与闲置组的处理**:curGroupIdx >= mGroupNum * kBaseNum 的核 dealKSize 置 0,闲置组的 m/k 区间一并清零,compressor 与 quant_compressor 判据保持一致;CheckBlockDimConstrain 移到 SetInnerSplitInfo 之后执行,FULL_LOAD 下按 dBaseNum * mGroupNum 校验最小核数,并删除原先 host 侧“核数向下取整砍核”的规避逻辑。 3. **NORMAL 模板主循环改为 cube 侧按压缩行(T 轴)驱动**:新增 GetBatchByTIdx(利用 T 轴单调性二分定位 batch)、CalcTotalDataSize(本轮回退到 batch 压缩窗口分界)、CalcCubeParamsByTIdx、GetLoopTimesByTIdx,与 vector 侧仍按 batch 轴推进解耦;删除不再使用的 GetLoopTimes、UpdateMRange(空操作)以及 mStart/mEnd 相关偏移。 4. **FULL_LOAD 模板**:主循环收敛为单轮,新增 Warmup 按核上任务范围预取 block_table 到 dcache(RING_BUFFER / 非 RING_BUFFER 分别处理);取消 host 砍核,M 段切分对模板透明;workspace 与 cube 输出偏移改用全局行基址 mRowBase 定位,去掉 mm1ResMOffset_;tmpBuff1/tmpBuff2 扩到 64K,修复 local 越界导致 kv 覆盖 score 的问题;vector 侧任务划分改为按 aiCoreNum / batchSize 计算。 5. **UB 缓冲口径统一与搬运修复**:AddMultiDataToUb 改为按行切分、以 32K 为单位双缓冲(新增 inputQue3),修正 repeat offset 的初始化位置;搬运窗口统一到 64K 口径;quant_compressor 的 descale 搬运复用 inputQue2、删除冗余的 outputQue2,压缩结果直接在 score 缓冲上原地处理,APE 缓冲口径还原到与非量化一致。修复 M×K 叠加下超范围核 vector 侧 TC 份额无人处理的问题。 6. **VF 与杂项**:VF 循环计数器统一为 uint16_t;修正 K 归约 MultiAdd512VFImpl 跨 K 段的步长(统一使用 repeatOffset);kernel 入口改用指针方式获取 tiling data;文件 clang-format 格式化。 ## 关联的Issue #6332 ## 测试 ## 文档更新 ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [x] ⚡ 性能优化 - [x] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!13268 | 27 days ago | |
dup-header mod Co-authored-by: m0_59336986<wulei154@huawei.com> # message auto-generated for no-merge-commit merge: !13271 merge master into master dup-header mod Created-by: m0_59336986 Commit-by: m0_59336986 Merged-by: cann-robot Description: ## 描述 compressor,qcompressor 重复头文件增加arch92后缀 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5768 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!13271 | 1 month ago | |
cmp and qcmp sync Co-authored-by: m0_59336986<wulei154@huawei.com> # message auto-generated for no-merge-commit merge: !12538 merge master into master cmp and qcmp sync Created-by: m0_59336986 Commit-by: m0_59336986 Merged-by: cann-robot Description: ## 描述 compressor,qcompressor回合主线 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!12538 | 1 month ago | |
fix(pre-commit): 全仓代码规范整改——attention 3/4 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13596 merge common into master fix(pre-commit): 全仓代码规范整改——attention 3/4 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5939 ## 描述 全仓代码规范整改系列——attention 拆分 **3/4**(第 3 批 26 个算子目录:mixed_quant_sparse_flash_mla_metadata ~ quant_lightning_indexer_v2_metadata,按目录字母序均分)。基于仓库 pre-commit 门禁对存量代码做一次性规范收敛: - clang-format 按 .clang-format 统一格式(列宽 120、指针左对齐 T* p、引用对齐 T& r 等) - 行尾空白、文件末尾换行修复 - 规模:513 个文件,+16217/-14903 行,纯格式化改动语义等价,无逻辑变更 - op_graph/*_proto.h、op_host/*_def.cpp、op_api/aclnn*.h 等接口文件及 OWNERS 不在本 PR 改动范围 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5939(全仓整改总跟踪) ## 测试 - pre-commit 全部钩子本地通过 - CI 流水线(compile/UT)验证 See merge request: cann/ops-transformer!13596 | 1 month ago | |
fix(pre-commit): 全仓代码规范整改——attention 3/4 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13596 merge common into master fix(pre-commit): 全仓代码规范整改——attention 3/4 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5939 ## 描述 全仓代码规范整改系列——attention 拆分 **3/4**(第 3 批 26 个算子目录:mixed_quant_sparse_flash_mla_metadata ~ quant_lightning_indexer_v2_metadata,按目录字母序均分)。基于仓库 pre-commit 门禁对存量代码做一次性规范收敛: - clang-format 按 .clang-format 统一格式(列宽 120、指针左对齐 T* p、引用对齐 T& r 等) - 行尾空白、文件末尾换行修复 - 规模:513 个文件,+16217/-14903 行,纯格式化改动语义等价,无逻辑变更 - op_graph/*_proto.h、op_host/*_def.cpp、op_api/aclnn*.h 等接口文件及 OWNERS 不在本 PR 改动范围 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5939(全仓整改总跟踪) ## 测试 - pre-commit 全部钩子本地通过 - CI 流水线(compile/UT)验证 See merge request: cann/ops-transformer!13596 | 1 month ago |
| Files | Last commit | Last update |
|---|---|---|
| 1 month ago | ||
| 27 days ago | ||
| 1 month ago | ||
| 1 month ago | ||
| 1 month ago | ||
| 1 month ago |