已合并
Revert "[Feature]: align ra_compress package layout with attention_mse (impl.py + __init__.py re-export)" #865
tanxiangyuu创建于 21 小时前
Revert "[Feature]: align ra_compress package layout with attention_mse (impl.py + __init__.py re-export)" #865
已合并
tanxiangyuu创建于 21 小时前
tanxiangyuu
tanxiangyuu成员
21 小时前

PR 提交说明

提交前请阅读 贡献指南,开发者文档:模型接入指南

PR 标题前缀:[Feature]、[Bugfix]、[Doc]、[Test](与 CONTRIBUTING 一致)

1. 影响面评估

接口变更(按需):

备注:若无变更请保留「无」;涉及 CLI、API、YAML 等请在此项补充说明。

输出件变更(按需):

备注:若无变更请保留「无」;涉及导出格式、产物路径等请在此项补充说明。

非兼容变更(按需):

备注:若无变更请保留「无」;若有非兼容变更请说明迁移方式。

SIG 评审结论(按需):

提醒:非兼容、安全风险等高危 PR 须经 SIG 评审后合入;无则保留「无」。

2. 修改描述

修改背景(可选):(问题现象、使用场景等)

修改目的:(本 PR 要达成什么目标)

修改内容:(按「概念 - 变化」分条,示例:core/算法:新增 SmoothQuant 离群值抑制)

(在此填写)

概念域参考(填写提示):

  • cli:命令行 quant / analyze / tune
  • app:最佳实践量化、量化分析、精度反馈自动调优等
  • core:算法、量化服务、调度、张量量化、调优策略、最佳实践、上下文等
  • infra:模型适配、调优计划/历史/缓存、测评服务等
  • utils:日志、错误处理、插件等

3. 功能验证

冒烟由 CI 门禁检查,无需填写「冒烟是否通过」。

复现步骤(可选):

# 在此粘贴可复现命令

4. 自检(请逐项确认,不适用标 N/A)

典型安全编码问题

DT

likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 tanxiangyuu 的贡献)
atomgit-bot
atomgit-bot
21 小时前 评论:

变更摘要

本 PR 是一个回滚(Revert),撤销此前「对齐 ra_compressattention_mse 的包结构(impl.py + __init__.py 再导出)」的改动:删除 impl.py,将 RaCompressAnalysisMethod 的完整实现及 DUMMY_INPUT_LENGTH(2500)、REPET_TIMES(4)常量移回 __init__.py 内联定义,恢复单文件包布局。核心分析逻辑不变,仍是通过 Hook 捕获 Q/K/QKV 投影层输出、重建 attention softmax 矩阵并计算 prefix/copying 分数来选择压缩 head。

主要改动

  • 删除 impl.py:原承载 RaCompressAnalysisMethod 实现的 impl.py 整文件被删除(-540 行),实现不再独立存放。
  • __init__.py 内联实现__init__.py 移除 __all__ 列表及 from .impl import DUMMY_INPUT_LENGTH, REPET_TIMES, RaCompressAnalysisMethod 的再导出,改为直接在本文件中定义 DUMMY_INPUT_LENGTHREPET_TIMES 和完整的 RaCompressAnalysisMethod 类(含 get_target_layerscompute_scoreget_compress_heads_select_top_heads 等),并保留从 .interface..basemethods_base 的导入。
  • 分析逻辑保持不变:induction head 前 14%(_DEFAULT_INDUCTION_HEAD_RATIO = 0.14)与 echo head 前 1%(_DEFAULT_ECHO_HEAD_RATIO = 0.01)的 head 筛选、GQA 分组取 max(_max_every_group)及分数计算逻辑在搬迁后与原实现一致,仅变更代码位置。
likedislike
AtlasAccount
AtlasAccount成员
21 小时前 评论:
atomgit-bot
atomgit-bot
21 小时前 评论:

代码审查

✅ 未发现问题

likedislike
ascend-robotascend-robot成员
21 小时前 添加了label:ascend-cla/yes
ascend-robot
ascend-robot成员
21 小时前 评论:

Thanks for your pull-request.
The full list of commands accepted by me can be found at here.
You can get sig-info at here.
You can self-configure the PR merge rules for this repository. For more details, please refer to Here.


PR Approval Progress

Congratulations! All modules have met the lgtm and approve requirements.

Module Approval Details

module lgtm status approve status
repo-Ascend/msmodelslim rookie_hongchuan, 王建新 (2/2) 王建新 (1/1)

💡 Tip:

  • Committer can comment /approve or /lgtm
  • Commenting /approve implies both code review (lgtm) and intent to merge (approve)

CLA Signature Pass

tanxiangyuu, thanks for your pull request. All authors of the commits have signed the CLA. 👍

likedislike
此处折叠了90条消息 查看更多
ascend-robotascend-robot成员
20 小时前 添加了label:lgtm
AtlasAccountAtlasAccount成员
20 小时前 删除了label:ci-pipeline-running
AtlasAccountAtlasAccount成员
20 小时前 添加了label:ci-pipeline-passed
AtlasAccount
AtlasAccount成员
20 小时前 评论:
流水线 PR-pipeline_msmodelslim#2321 [ commitID:e7470293 ] 已完成
>>>代码风格自动修复执行成功(无修复内容)
阶段 任务名 状态 详情
编译构建 Build_msmodelslim >>>
恶意代码检查 Antipoison_MindStudio-ModelSlim >>>
编码安全与规范检查 codecheck_pre-commit >>>
md_check md_check >>>
pre-commit >>>
开源片段检查 SCA_MindStudio-ModelSlim >>>
开发者测试 UT_msmodelslim >>>
PreSmoke_msmodelslim >>>
流水线 PR-pipeline_msmodelslim >>>
此流水线已支持下列评论快捷指令,仅PR创建者和白名单成员[A1streomeria, xyxin_006, libarry, joejoezhou, xiaoheng181, rookie_hongchuan]评论有效
  • compile : 运行流水线
  • retry : 重试流水线所有失败子任务
  • retry <任务名> : 仅重试指定失败子任务
  • stop : 停止流水线
likedislike
ascend-robotascend-robot成员
20 小时前 合入了pull request