已合并
Revert "[Feature]: align ra_compress package layout with attention_mse (impl.py + __init__.py re-export)" #865
tanxiangyuu创建于 21 小时前
Revert "[Feature]: align ra_compress package layout with attention_mse (impl.py + __init__.py re-export)" #865
已合并
Pull Request已成功合入, 合并人@ascend-robot
(感谢 tanxiangyuu 的贡献)atomgit-bot
21 小时前 评论:
21 小时前 评论:
变更摘要
本 PR 是一个回滚(Revert),撤销此前「对齐 ra_compress 与 attention_mse 的包结构(impl.py + __init__.py 再导出)」的改动:删除 impl.py,将 RaCompressAnalysisMethod 的完整实现及 DUMMY_INPUT_LENGTH(2500)、REPET_TIMES(4)常量移回 __init__.py 内联定义,恢复单文件包布局。核心分析逻辑不变,仍是通过 Hook 捕获 Q/K/QKV 投影层输出、重建 attention softmax 矩阵并计算 prefix/copying 分数来选择压缩 head。
主要改动
- 删除
impl.py:原承载RaCompressAnalysisMethod实现的impl.py整文件被删除(-540 行),实现不再独立存放。 __init__.py内联实现:__init__.py移除__all__列表及from .impl import DUMMY_INPUT_LENGTH, REPET_TIMES, RaCompressAnalysisMethod的再导出,改为直接在本文件中定义DUMMY_INPUT_LENGTH、REPET_TIMES和完整的RaCompressAnalysisMethod类(含get_target_layers、compute_score、get_compress_heads、_select_top_heads等),并保留从.interface、..base、methods_base的导入。- 分析逻辑保持不变:induction head 前 14%(
_DEFAULT_INDUCTION_HEAD_RATIO = 0.14)与 echo head 前 1%(_DEFAULT_ECHO_HEAD_RATIO = 0.01)的 head 筛选、GQA 分组取 max(_max_every_group)及分数计算逻辑在搬迁后与原实现一致,仅变更代码位置。


AtlasAccount
21 小时前 评论:
21 小时前 评论:
atomgit-bot
21 小时前 评论:
21 小时前 评论:
21 小时前 添加了label:ascend-cla/yes
ascend-robot
21 小时前 评论:
21 小时前 评论:
Thanks for your pull-request.
The full list of commands accepted by me can be found at here.
You can get sig-info at here.
You can self-configure the PR merge rules for this repository. For more details, please refer to Here.
PR Approval Progress
✅ Congratulations! All modules have met the lgtm and approve requirements.
Module Approval Details
| module | lgtm status | approve status |
|---|---|---|
| repo-Ascend/msmodelslim | ✅ rookie_hongchuan, 王建新 (2/2) | ✅ 王建新 (1/1) |
💡 Tip:
- Committer can comment
/approveor/lgtm- Commenting
/approveimplies both code review (lgtm) and intent to merge (approve)
CLA Signature Pass
tanxiangyuu, thanks for your pull request. All authors of the commits have signed the CLA. 👍


此处折叠了90条消息 查看更多
20 小时前 添加了label:lgtm
20 小时前 删除了label:ci-pipeline-running
20 小时前 添加了label:ci-pipeline-passed
AtlasAccount
20 小时前 评论:
20 小时前 评论:
流水线 PR-pipeline_msmodelslim#2321 [ commitID:e7470293 ] 已完成
>>>代码风格自动修复执行成功(无修复内容)
| 阶段 | 任务名 | 状态 | 详情 |
|---|---|---|---|
| 编译构建 | Build_msmodelslim | ✅ | >>> |
| 恶意代码检查 | Antipoison_MindStudio-ModelSlim | ✅ | >>> |
| 编码安全与规范检查 | codecheck_pre-commit | ✅ | >>> |
| md_check | md_check | ✅ | >>> |
| pre-commit | ✅ | >>> | |
| 开源片段检查 | SCA_MindStudio-ModelSlim | ✅ | >>> |
| 开发者测试 | UT_msmodelslim | ✅ | >>> |
| PreSmoke_msmodelslim | ✅ | >>> | |
| 流水线 | PR-pipeline_msmodelslim | ✅ | >>> |
- compile : 运行流水线
- retry : 重试流水线所有失败子任务
- retry <任务名> : 仅重试指定失败子任务
- stop : 停止流水线


20 小时前 合入了pull request
PR 提交说明
提交前请阅读 贡献指南,开发者文档:模型接入指南
PR 标题前缀:[Feature]、[Bugfix]、[Doc]、[Test](与 CONTRIBUTING 一致)
1. 影响面评估
接口变更(按需): 无
输出件变更(按需): 无
非兼容变更(按需): 无
SIG 评审结论(按需): 无
2. 修改描述
修改背景(可选):(问题现象、使用场景等)
修改目的:(本 PR 要达成什么目标)
修改内容:(按「概念 - 变化」分条,示例:core/算法:新增 SmoothQuant 离群值抑制)
(在此填写)
概念域参考(填写提示):
3. 功能验证
冒烟由 CI 门禁检查,无需填写「冒烟是否通过」。
复现步骤(可选):
# 在此粘贴可复现命令4. 自检(请逐项确认,不适用标 N/A)
典型安全编码问题
DT