| Files | Last commit | Last update |
|---|---|---|
fix(compressor): 修复 ttk 三方判据链路并适配 golden Promote Co-authored-by: myy268<moyunyang@huawei.com> # message auto-generated for no-merge-commit merge: !13666 merge fix/compressor-ttk-default-mix-tolerance into master fix(compressor): 修复 ttk 三方判据链路并适配 golden Promote Created-by: myy268 Commit-by: myy268 Merged-by: cann-robot Description: ## 描述 compressor 的 ttk 测试资产( attention/compressor/tests/assets/)在最新 ttk 上存在多处失效与不匹配,本 MR 一并修复: 1. **三方(cross_check)链路此前实际未生效**:impl/compare.py、impl/golden.py 引用的是 ttk 重构前的旧模块路径——ttk.utilities.container_utils.get_global_storage 已不存在,ttk.core_modules.comparison.{cross_check,resolve} 已迁移至 ttk.core_modules.common.comparison.*。前者导入失败使 _get_compare_method() 恒为 None,后者使 is_cross_check_available() 恒为 False,导致 --compare cross_check 被静默降级为两方 isclose。已改为 ttk.switches.get_global_storage 与 ttk.core_modules.common.comparison.*。 2. **golden Promote 适配**:ttk 对 cross_check / mixed / mix_tolerance 判据会自动把自定义 golden 的输入抬精度(fp16/bf16→fp32、fp32→fp64),输出侧沿用抬升后的 dtype。三方里 golden 槽是高精度 bench、third_party 槽必须是"同精度"标杆,因此在 _split_aclnn_outputs / _split_e2e_outputs 中把插件返回的 golden 按 NPU 输出 dtype 压回(输入抬升均为精确转换,压回即精确还原原生同精度结果),避免 mare/mere/rmse 分母被抬精度后判据被稀释。同时修正 gradEnabled 下 bench 取值(bench_outputs[-1] 取 state、1/2 取 softmax/kv)与三方子输出空值判断(npu/golden/bench 三者齐全才参与比对)。 3. **spec 默认判据**:CompressorSpec / AclnnCompressorSpec 的 float16 / bfloat16 standard 由 cross_check 调整为 stat_rel_err。compressor 实际走插件自定义 compare,standard token 只影响 ttk 的 need_3party 与 golden Promote;cross_check 会在无 XPU 时打错误级日志,stat_rel_err 既非 cross_check 也不在 PROMOTE_GOLDEN_TOKENS,默认通路不再误触发。显式 --compare cross_check 仍可正常工作,spec 中 level / mare_ratio 等参数保留供其复用。 4. **batch 一致性缓存串扰**(对应 #13716):_BATCH_CONSISTENCY_CACHE 原为模块级全局字典,会跨用例持久化,使 batch 一致性比较基准泄漏到后续 case;改为在 _batch_consistency_check 内每次调用新建局部 cache。 ## 关联的Issue 关联 Issue #5987 ## 测试 ## 文档更新 无 ## 类型标签 - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!13666 | 1 month ago | |
compressor torchapi接入TTK Co-authored-by: xujiuxu<xujiuxu1@huawei.com> Co-authored-by: yeeyanghsia<xiayiyang@huawei.com> Co-authored-by: caizhengyang<caizhengyang1@huawei.com> # message auto-generated for no-merge-commit merge: !8568 merge ttk_code into master compressor torchapi接入TTK Created-by: caizhengyang Commit-by: caizhengyang;yeeyanghsia;xujiuxu Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> compressor torchapi接入TTK ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/3989 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!8568 | 3 months ago | |
compressor torchapi接入TTK Co-authored-by: xujiuxu<xujiuxu1@huawei.com> Co-authored-by: yeeyanghsia<xiayiyang@huawei.com> Co-authored-by: caizhengyang<caizhengyang1@huawei.com> # message auto-generated for no-merge-commit merge: !8568 merge ttk_code into master compressor torchapi接入TTK Created-by: caizhengyang Commit-by: caizhengyang;yeeyanghsia;xujiuxu Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> compressor torchapi接入TTK ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/3989 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!8568 | 3 months ago | |
fix(compressor): 修复 ttk 三方判据链路并适配 golden Promote Co-authored-by: myy268<moyunyang@huawei.com> # message auto-generated for no-merge-commit merge: !13666 merge fix/compressor-ttk-default-mix-tolerance into master fix(compressor): 修复 ttk 三方判据链路并适配 golden Promote Created-by: myy268 Commit-by: myy268 Merged-by: cann-robot Description: ## 描述 compressor 的 ttk 测试资产( attention/compressor/tests/assets/)在最新 ttk 上存在多处失效与不匹配,本 MR 一并修复: 1. **三方(cross_check)链路此前实际未生效**:impl/compare.py、impl/golden.py 引用的是 ttk 重构前的旧模块路径——ttk.utilities.container_utils.get_global_storage 已不存在,ttk.core_modules.comparison.{cross_check,resolve} 已迁移至 ttk.core_modules.common.comparison.*。前者导入失败使 _get_compare_method() 恒为 None,后者使 is_cross_check_available() 恒为 False,导致 --compare cross_check 被静默降级为两方 isclose。已改为 ttk.switches.get_global_storage 与 ttk.core_modules.common.comparison.*。 2. **golden Promote 适配**:ttk 对 cross_check / mixed / mix_tolerance 判据会自动把自定义 golden 的输入抬精度(fp16/bf16→fp32、fp32→fp64),输出侧沿用抬升后的 dtype。三方里 golden 槽是高精度 bench、third_party 槽必须是"同精度"标杆,因此在 _split_aclnn_outputs / _split_e2e_outputs 中把插件返回的 golden 按 NPU 输出 dtype 压回(输入抬升均为精确转换,压回即精确还原原生同精度结果),避免 mare/mere/rmse 分母被抬精度后判据被稀释。同时修正 gradEnabled 下 bench 取值(bench_outputs[-1] 取 state、1/2 取 softmax/kv)与三方子输出空值判断(npu/golden/bench 三者齐全才参与比对)。 3. **spec 默认判据**:CompressorSpec / AclnnCompressorSpec 的 float16 / bfloat16 standard 由 cross_check 调整为 stat_rel_err。compressor 实际走插件自定义 compare,standard token 只影响 ttk 的 need_3party 与 golden Promote;cross_check 会在无 XPU 时打错误级日志,stat_rel_err 既非 cross_check 也不在 PROMOTE_GOLDEN_TOKENS,默认通路不再误触发。显式 --compare cross_check 仍可正常工作,spec 中 level / mare_ratio 等参数保留供其复用。 4. **batch 一致性缓存串扰**(对应 #13716):_BATCH_CONSISTENCY_CACHE 原为模块级全局字典,会跨用例持久化,使 batch 一致性比较基准泄漏到后续 case;改为在 _batch_consistency_check 内每次调用新建局部 cache。 ## 关联的Issue 关联 Issue #5987 ## 测试 ## 文档更新 无 ## 类型标签 - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!13666 | 1 month ago |