已合并
Revert "[Feature]: align ra_compress package layout with attention_mse (impl.py + __init__.py re-export)" #865
tanxiangyuu创建于 8月24日
Revert "[Feature]: align ra_compress package layout with attention_mse (impl.py + __init__.py re-export)" #865
已合并
tanxiangyuu创建于 8月24日
tanxiangyuu
tanxiangyuu成员
8月24日

PR 提交说明

提交前请阅读 贡献指南,开发者文档:模型接入指南

PR 标题前缀:[Feature]、[Bugfix]、[Doc]、[Test](与 CONTRIBUTING 一致)

1. 影响面评估

接口变更(按需): 无

备注:若无变更请保留「无」;涉及 CLI、API、YAML 等请在此项补充说明。

输出件变更(按需): 无

备注:若无变更请保留「无」;涉及导出格式、产物路径等请在此项补充说明。

非兼容变更(按需): 无

备注:若无变更请保留「无」;若有非兼容变更请说明迁移方式。

SIG 评审结论(按需): 无

提醒:非兼容、安全风险等高危 PR 须经 SIG 评审后合入;无则保留「无」。

2. 修改描述

修改背景(可选):(问题现象、使用场景等)

修改目的:(本 PR 要达成什么目标)

修改内容:(按「概念 - 变化」分条,示例:core/算法:新增 SmoothQuant 离群值抑制)

(在此填写)

概念域参考(填写提示):

  • cli:命令行 quant / analyze / tune
  • app:最佳实践量化、量化分析、精度反馈自动调优等
  • core:算法、量化服务、调度、张量量化、调优策略、最佳实践、上下文等
  • infra:模型适配、调优计划/历史/缓存、测评服务等
  • utils:日志、错误处理、插件等

3. 功能验证

冒烟由 CI 门禁检查,无需填写「冒烟是否通过」。

复现步骤(可选):

# 在此粘贴可复现命令

4. 自检(请逐项确认,不适用标 N/A)

典型安全编码问题

DT

likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 tanxiangyuu 的贡献)
atomgit-bot
atomgit-bot
8月24日 评论:

变更摘要

本 PR 是一个回滚(Revert),撤销此前「对齐 ra_compress 与 attention_mse 的包结构(impl.py + __init__.py 再导出)」的改动:删除 impl.py,将 RaCompressAnalysisMethod 的完整实现及 DUMMY_INPUT_LENGTH(2500)、REPET_TIMES(4)常量移回 __init__.py 内联定义,恢复单文件包布局。核心分析逻辑不变,仍是通过 Hook 捕获 Q/K/QKV 投影层输出、重建 attention softmax 矩阵并计算 prefix/copying 分数来选择压缩 head。

主要改动

  • 删除 impl.py:原承载 RaCompressAnalysisMethod 实现的 impl.py 整文件被删除(-540 行),实现不再独立存放。
  • __init__.py 内联实现:__init__.py 移除 __all__ 列表及 from .impl import DUMMY_INPUT_LENGTH, REPET_TIMES, RaCompressAnalysisMethod 的再导出,改为直接在本文件中定义 DUMMY_INPUT_LENGTH、REPET_TIMES 和完整的 RaCompressAnalysisMethod 类(含 get_target_layers、compute_score、get_compress_heads、_select_top_heads 等),并保留从 .interface、..base、methods_base 的导入。
  • 分析逻辑保持不变:induction head 前 14%(_DEFAULT_INDUCTION_HEAD_RATIO = 0.14)与 echo head 前 1%(_DEFAULT_ECHO_HEAD_RATIO = 0.01)的 head 筛选、GQA 分组取 max(_max_every_group)及分数计算逻辑在搬迁后与原实现一致,仅变更代码位置。
likedislike
不准确?
atomgit-bot
atomgit-bot
8月24日 评论:

代码审查

✅ 未发现问题

likedislike
不准确?
ascend-robotascend-robot成员
8月24日 添加了label:ascend-cla/yes
ascend-robot
ascend-robot成员
8月24日 评论:

Thanks for your pull-request.
The full list of commands accepted by me can be found at here.
You can get sig-info at here.
You can self-configure the PR merge rules for this repository. For more details, please refer to Here.


PR Approval Progress

✅ Congratulations! All modules have met the lgtm and approve requirements.

Module Approval Details

module lgtm status approve status
repo-Ascend/msmodelslim ✅ rookie_hongchuan, 王建新 (2/2) ✅ 王建新 (1/1)

💡 Tip:

  • Committer can comment /approve or /lgtm
  • Commenting /approve implies both code review (lgtm) and intent to merge (approve)

CLA Signature Pass

tanxiangyuu, thanks for your pull request. All authors of the commits have signed the CLA. 👍

likedislike
此处折叠了90条消息 查看更多
ascend-robotascend-robot成员
8月24日 添加了label:lgtm
AtlasAccountAtlasAccount成员
8月24日 删除了label:ci-pipeline-running
AtlasAccountAtlasAccount成员
8月24日 添加了label:ci-pipeline-passed
AtlasAccount
AtlasAccount成员
8月24日 评论:
流水线 PR-pipeline_msmodelslim#2321 [ commitID:e7470293 ] 已完成
>>>代码风格自动修复执行成功(无修复内容)
阶段 任务名 状态 详情
编译构建 Build_msmodelslim ✅ >>>
恶意代码检查 Antipoison_MindStudio-ModelSlim ✅ >>>
编码安全与规范检查 codecheck_pre-commit ✅ >>>
md_check md_check ✅ >>>
pre-commit ✅ >>>
开源片段检查 SCA_MindStudio-ModelSlim ✅ >>>
开发者测试 UT_msmodelslim ✅ >>>
PreSmoke_msmodelslim ✅ >>>
流水线 PR-pipeline_msmodelslim ✅ >>>
此流水线已支持下列评论快捷指令,仅PR创建者和白名单成员[A1streomeria, xyxin_006, libarry, joejoezhou, xiaoheng181, rookie_hongchuan]评论有效
  • compile : 运行流水线
  • retry : 重试流水线所有失败子任务
  • retry <任务名> : 仅重试指定失败子任务
  • stop : 停止流水线
likedislike
ascend-robotascend-robot成员
8月24日 合入了pull request