| Files | Last commit | Last update |
|---|---|---|
fix(ttk): compressor/quant_compressor 测试资产判据与 graph 通路修复,并补 tiling 空输入防护 Co-authored-by: myy268<moyunyang@huawei.com> # message auto-generated for no-merge-commit merge: !15838 merge fix/ttk-assets-compare-and-graph-op into master fix(ttk): compressor/quant_compressor 测试资产判据与 graph 通路修复,并补 tiling 空输入防护 Created-by: myy268 Commit-by: myy268 Merged-by: cann-robot Description: ## 描述 修复 compressor / quant_compressor 的 ttk 测试资产与算子语义/ttk 判定口径不一致的问题,并补上 tiling 的空输入防护,使 e2e 通路恢复为可用的精度验收手段。 改动范围:9 个提交、12 个文件(+201 / −235)——测试资产 7 个文件(attention/{compressor,quant_compressor}/tests/assets),算侧 op_host 5 个文件。 1. **判据口径(spec.py / impl/compare.py)** - Spec.tolerance 显式声明 "float32": {"standard": "stat_rel_err"}(compressor 2 处、quant_compressor 3 处):此前未声明时,输出里的 float32 槽位会回落到 ttk 浮点族默认的 mix_tolerance,该 token 属于 PROMOTE_GOLDEN_TOKENS(触发 golden 升精度)且会先请求三方 XPU 基准、取不到才退化两方;hifloat8 输入在 Promote 时会因跨 numpy/torch 原生边界直接 GOLDEN_FAILURE。 - _tensor_compare 的阈值档改为在 as_numpy(会把 bf16/fp16 抬成 float32)之前按原始 dtype 选取:此前取的是 cast 之后的 dtype,bf16 用例一直按 fp16 档(0.005 / 2.5e-5)判定,比 bf16 档(0.0078125 / 1e-4)更严。 - aclnn 通路去掉比对前多余的 .to(torch.float32),仅保留 cross_check 分支必要的转换。 2. **graph 通路(compressor/impl/graph.py)** - 不再在资产内自建与 cann_ops_transformer 包同名的 torch.library.custom_op(形参顺序与真包不同:真包 cmp_ratio 在第 6 位),统一复用 torch 侧已注册的 cann_ops_transformer::_compressor_forward_graph,避免重复注册覆盖 torch 侧 schema、同进程多 case / eager 与 aclgraph 交替时参数错绑或报错。 3. **golden 的 import stub(impl/golden.py)** - stub 安装改为“临时安装 + 严格还原”:用 sentinel 区分“原本不存在”,退出时还原 sys.modules / sys.path / numpy 随机状态,避免把 op 名占成 module 导致 e2e 解析 callable 时报 'module' object is not callable。 4. **tiling 防护(op_host)** - compressor / quant_compressor 的 arch35、arch92 与 compressor_grad 的 tiling:M 轴基数 mBaseNum 为 0 时跳过 M/K 叠加切分,避免除零。 - 补充 cu_seqlens 首维校验(dim0 >= 1),避免 batchSize = 首维 - 1 下溢后报出与入参无关的错误。 ## 关联的Issue 关联 Issue #7512(https://gitcode.com/cann/ops-transformer/issues/7512) ## 测试 <!-- 待补充 --> ## 文档更新 无文档变更(仅测试资产与 tiling 校验、op_host 防护逻辑)。 ## 类型标签 - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [x] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!15838 | 5 days ago | |
fix(pre-commit): 全仓代码规范整改——attention 3/4 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13596 merge common into master fix(pre-commit): 全仓代码规范整改——attention 3/4 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5939 ## 描述 全仓代码规范整改系列——attention 拆分 **3/4**(第 3 批 26 个算子目录:mixed_quant_sparse_flash_mla_metadata ~ quant_lightning_indexer_v2_metadata,按目录字母序均分)。基于仓库 pre-commit 门禁对存量代码做一次性规范收敛: - clang-format 按 .clang-format 统一格式(列宽 120、指针左对齐 T* p、引用对齐 T& r 等) - 行尾空白、文件末尾换行修复 - 规模:513 个文件,+16217/-14903 行,纯格式化改动语义等价,无逻辑变更 - op_graph/*_proto.h、op_host/*_def.cpp、op_api/aclnn*.h 等接口文件及 OWNERS 不在本 PR 改动范围 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5939(全仓整改总跟踪) ## 测试 - pre-commit 全部钩子本地通过 - CI 流水线(compile/UT)验证 See merge request: cann/ops-transformer!13596 | 1 month ago |
| Files | Last commit | Last update |
|---|---|---|
| 5 days ago | ||
| 1 month ago |