Star61
136
代码
代码
Issues44
Pull Requests58
流水线
讨论
Wiki
分析
Star61
136
ascend-robotascend-robot【FEAT】新增根目录 build.py 作为部门统一构建/测试入口
7a5d974d创建于 9 小时前历史提交
文件最后提交记录最后更新时间
build
【FEAT】新增根目录 build.py 作为部门统一构建/测试入口 Co-authored-by: liujiawang<anonymousdev@163.com> # message auto-generated for no-merge-commit merge: !485 merge build_all_in_one into master 【FEAT】新增根目录 build.py 作为部门统一构建/测试入口 Created-by: AvadaKedavrua Commit-by: liujiawang Merged-by: ascend-robot Description: ## 修改原因 部门工具仓规范要求仓库根目录提供统一 build.py 入口。msmodeling 需在本地与 CI 中以稳定 CLI 委托现有 scripts/build.sh（构建 wheel）与 scripts/run_ci_gate.sh（增量门禁测试），并支持 -v 指定制品版本且与 uv build 日志一致。 ## 修改内容 - 新增根目录 [build.py](build.py) 及 [scripts/helpers/build/](scripts/helpers/build/)（argv.py 参数解析、main.py 流程编排） - 默认构建：委托 bash scripts/build.sh，wheel 输出到 artifacts/wheels/，写入 artifacts/build-manifest.json - python build.py test：委托 bash scripts/run_ci_gate.sh，日志/摘要写入 artifacts/test-reports/ - -v/--version：构建前 uv version <ver> --frozen 临时写入 pyproject.toml，finally 恢复原版本；不再仅重命名 whl - fail-fast：uv 不在 PATH、test_map_path 非文件时提前退出；version staging / restore 失败有明确退出码 - local token 解析但无行为分支（纯 Python 仓规范兼容） - 新增 tests/regression/scripts/helpers/build/ 回归（41 用例）；gate_policy.yaml 增加 build.py 配置触发项；.gitignore 忽略 artifacts/ - 更新 [scripts/README.md](scripts/README.md) 说明入口与 uv run python build.py -v 用法 ## 自验证 ### 回归测试 目的：验证 build 模块参数解析、版本 staging/restore、fail-fast 与委托逻辑。 步骤： 1. 运行 build 回归套件 bash uv run pytest tests/regression/scripts/helpers/build/ -q --tb=short 结果： text ......................................... [100%] 41 passed in 0.26s ### 指定版本构建 wheel 目的：验证 -v 时 uv build 日志与 whl 文件名均为指定版本，且 pyproject.toml 构建后恢复。 步骤： 1. 清理并构建 bash rm -rf artifacts/wheels/* uv run python build.py -v 26.1.2 2. 检查 pyproject 版本 bash grep '^version' pyproject.toml 结果： text INFO 06-30 10:05:56.446 [main.py:66] setting project version to 26.1.2 msmodeling 0.2.0 => 26.1.2 INFO 06-30 10:05:56.463 [main.py:84] running: bash /root/workspace/gitcode/msmodeling-test/scripts/build.sh Building wheel... Successfully built artifacts/wheels/msmodeling-26.1.2-py3-none-any.whl Built wheel: /root/workspace/gitcode/msmodeling-test/artifacts/wheels/msmodeling-26.1.2-py3-none-any.whl INFO 06-30 10:05:57.534 [main.py:182] restoring project version to 0.2.0 INFO 06-30 10:05:57.534 [main.py:66] setting project version to 0.2.0 msmodeling 26.1.2 => 0.2.0 version = "0.2.0" ### test 模式 fail-fast 目的：未提供 test_map 时应在启动 ci_gate 前失败。 步骤： 1. 无 test_map 运行 test bash uv run python build.py test 结果： text ERROR 06-30 10:06:04.247 [main.py:222] test requires test_map_path via --extra test_map_path=... or MSMODELING_TEST_MAP_PATH exit=1 See merge request: Ascend/msmodeling!485
9 小时前
ci_gate
【FEAT】新增根目录 build.py 作为部门统一构建/测试入口 Co-authored-by: liujiawang<anonymousdev@163.com> # message auto-generated for no-merge-commit merge: !485 merge build_all_in_one into master 【FEAT】新增根目录 build.py 作为部门统一构建/测试入口 Created-by: AvadaKedavrua Commit-by: liujiawang Merged-by: ascend-robot Description: ## 修改原因 部门工具仓规范要求仓库根目录提供统一 build.py 入口。msmodeling 需在本地与 CI 中以稳定 CLI 委托现有 scripts/build.sh（构建 wheel）与 scripts/run_ci_gate.sh（增量门禁测试），并支持 -v 指定制品版本且与 uv build 日志一致。 ## 修改内容 - 新增根目录 [build.py](build.py) 及 [scripts/helpers/build/](scripts/helpers/build/)（argv.py 参数解析、main.py 流程编排） - 默认构建：委托 bash scripts/build.sh，wheel 输出到 artifacts/wheels/，写入 artifacts/build-manifest.json - python build.py test：委托 bash scripts/run_ci_gate.sh，日志/摘要写入 artifacts/test-reports/ - -v/--version：构建前 uv version <ver> --frozen 临时写入 pyproject.toml，finally 恢复原版本；不再仅重命名 whl - fail-fast：uv 不在 PATH、test_map_path 非文件时提前退出；version staging / restore 失败有明确退出码 - local token 解析但无行为分支（纯 Python 仓规范兼容） - 新增 tests/regression/scripts/helpers/build/ 回归（41 用例）；gate_policy.yaml 增加 build.py 配置触发项；.gitignore 忽略 artifacts/ - 更新 [scripts/README.md](scripts/README.md) 说明入口与 uv run python build.py -v 用法 ## 自验证 ### 回归测试 目的：验证 build 模块参数解析、版本 staging/restore、fail-fast 与委托逻辑。 步骤： 1. 运行 build 回归套件 bash uv run pytest tests/regression/scripts/helpers/build/ -q --tb=short 结果： text ......................................... [100%] 41 passed in 0.26s ### 指定版本构建 wheel 目的：验证 -v 时 uv build 日志与 whl 文件名均为指定版本，且 pyproject.toml 构建后恢复。 步骤： 1. 清理并构建 bash rm -rf artifacts/wheels/* uv run python build.py -v 26.1.2 2. 检查 pyproject 版本 bash grep '^version' pyproject.toml 结果： text INFO 06-30 10:05:56.446 [main.py:66] setting project version to 26.1.2 msmodeling 0.2.0 => 26.1.2 INFO 06-30 10:05:56.463 [main.py:84] running: bash /root/workspace/gitcode/msmodeling-test/scripts/build.sh Building wheel... Successfully built artifacts/wheels/msmodeling-26.1.2-py3-none-any.whl Built wheel: /root/workspace/gitcode/msmodeling-test/artifacts/wheels/msmodeling-26.1.2-py3-none-any.whl INFO 06-30 10:05:57.534 [main.py:182] restoring project version to 0.2.0 INFO 06-30 10:05:57.534 [main.py:66] setting project version to 0.2.0 msmodeling 26.1.2 => 0.2.0 version = "0.2.0" ### test 模式 fail-fast 目的：未提供 test_map 时应在启动 ci_gate 前失败。 步骤： 1. 无 test_map 运行 test bash uv run python build.py test 结果： text ERROR 06-30 10:06:04.247 [main.py:222] test requires test_map_path via --extra test_map_path=... or MSMODELING_TEST_MAP_PATH exit=1 See merge request: Ascend/msmodeling!485
9 小时前
common
【FEAT】新增根目录 build.py 作为部门统一构建/测试入口 Co-authored-by: liujiawang<anonymousdev@163.com> # message auto-generated for no-merge-commit merge: !485 merge build_all_in_one into master 【FEAT】新增根目录 build.py 作为部门统一构建/测试入口 Created-by: AvadaKedavrua Commit-by: liujiawang Merged-by: ascend-robot Description: ## 修改原因 部门工具仓规范要求仓库根目录提供统一 build.py 入口。msmodeling 需在本地与 CI 中以稳定 CLI 委托现有 scripts/build.sh（构建 wheel）与 scripts/run_ci_gate.sh（增量门禁测试），并支持 -v 指定制品版本且与 uv build 日志一致。 ## 修改内容 - 新增根目录 [build.py](build.py) 及 [scripts/helpers/build/](scripts/helpers/build/)（argv.py 参数解析、main.py 流程编排） - 默认构建：委托 bash scripts/build.sh，wheel 输出到 artifacts/wheels/，写入 artifacts/build-manifest.json - python build.py test：委托 bash scripts/run_ci_gate.sh，日志/摘要写入 artifacts/test-reports/ - -v/--version：构建前 uv version <ver> --frozen 临时写入 pyproject.toml，finally 恢复原版本；不再仅重命名 whl - fail-fast：uv 不在 PATH、test_map_path 非文件时提前退出；version staging / restore 失败有明确退出码 - local token 解析但无行为分支（纯 Python 仓规范兼容） - 新增 tests/regression/scripts/helpers/build/ 回归（41 用例）；gate_policy.yaml 增加 build.py 配置触发项；.gitignore 忽略 artifacts/ - 更新 [scripts/README.md](scripts/README.md) 说明入口与 uv run python build.py -v 用法 ## 自验证 ### 回归测试 目的：验证 build 模块参数解析、版本 staging/restore、fail-fast 与委托逻辑。 步骤： 1. 运行 build 回归套件 bash uv run pytest tests/regression/scripts/helpers/build/ -q --tb=short 结果： text ......................................... [100%] 41 passed in 0.26s ### 指定版本构建 wheel 目的：验证 -v 时 uv build 日志与 whl 文件名均为指定版本，且 pyproject.toml 构建后恢复。 步骤： 1. 清理并构建 bash rm -rf artifacts/wheels/* uv run python build.py -v 26.1.2 2. 检查 pyproject 版本 bash grep '^version' pyproject.toml 结果： text INFO 06-30 10:05:56.446 [main.py:66] setting project version to 26.1.2 msmodeling 0.2.0 => 26.1.2 INFO 06-30 10:05:56.463 [main.py:84] running: bash /root/workspace/gitcode/msmodeling-test/scripts/build.sh Building wheel... Successfully built artifacts/wheels/msmodeling-26.1.2-py3-none-any.whl Built wheel: /root/workspace/gitcode/msmodeling-test/artifacts/wheels/msmodeling-26.1.2-py3-none-any.whl INFO 06-30 10:05:57.534 [main.py:182] restoring project version to 0.2.0 INFO 06-30 10:05:57.534 [main.py:66] setting project version to 0.2.0 msmodeling 26.1.2 => 0.2.0 version = "0.2.0" ### test 模式 fail-fast 目的：未提供 test_map 时应在启动 ci_gate 前失败。 步骤： 1. 无 test_map 运行 test bash uv run python build.py test 结果： text ERROR 06-30 10:06:04.247 [main.py:222] test requires test_map_path via --extra test_map_path=... or MSMODELING_TEST_MAP_PATH exit=1 See merge request: Ascend/msmodeling!485
9 小时前
nightly
【REFACTOR】重构 CI gate 与 test_map 同步基础设施 Co-authored-by: AvadaKedavrua<anonymousdev@163.com> # message auto-generated for no-merge-commit merge: !394 merge fix into master 【REFACTOR】重构 CI gate 与 test_map 同步基础设施 Created-by: AvadaKedavrua Commit-by: liujiawang;AvadaKedavrua Merged-by: ascend-robot Description: ## 修改原因 CI gate 的 diff 分类、策略校验、PR 评论、test_map 同步等逻辑耦合在 gate_policy.py 等单体模块中，难以独立演进与单测；test_map 缺少独立同步入口；ast_utils / test_map_loader / nightly 报告链路也需要与 gate 策略对齐。本 PR 仅包含 commit 82757732b6b6beb79b7083f6046e9cd9c72005f3（refactor），不涉及 wheel/CLI/OptiX 变更。 --- ## test_map schema 重构：背景与收益 ### 背景 旧 test_map 以**产品源文件**为顶层 key，value 为 symbol → [test_nodes]： json { "tensor_cast/foo.py": { "Widget::run": ["tests/regression/.../test_x.py::test_foo"] } } 新 test_map 改为以 **pytest node id** 为顶层 key，value 为 source_file → [symbols]，与 coverage.py --cov-context=test 的采集方向一致： json { "tests/regression/.../test_x.py::test_foo": { "tensor_cast/foo.py": ["Widget::run"] } } 两者存的是同一张「测试节点 ↔ (源文件, symbol)」二部图，仅主键方向相反；边数相同，语义不变。 ### 为何行数变多、体积反而更小 | 指标 | 旧 schema（source-oriented） | 新 schema（node-oriented） | |------|------------------------------|----------------------------| | JSON 行数 | ~7 万行 | ~10 万行 | | 文件/内存占用 | **8,355,104 B（~8.0 MB）** | **3,748,221 B（~3.6 MB，约 -55%）** | 行数不是体积的可靠 proxy。旧格式在每个 symbol 下重复存储完整 pytest node id（tests/regression/.../test_xxx.py::Class::test_yyy，通常 60–80 字符）；同一 test 覆盖 N 个 symbol 时，该长字符串出现 N 次。新格式每个 test node id 只作为顶层 key 出现一次，数组里存的是短 canonical symbol（如 Widget::run、%），边数 E 不变但**长字符串重复次数从 O(E) 降到 O(T)**（T = 有覆盖的 test 数，T ≪ E）。 典型场景：大量 smoke/regression 用例通过 import 共享 tensor_cast/、cli/ 等模块的 module symbol %——旧格式在单个 symbol 下聚合成千上万条 test id；新格式每个 test 只记一次短 symbol，整体字节数显著下降。 ### 工程收益 1. **构建零 pivot**：build_test_map.collect_from_coverage 直接按 coverage context（test node）聚合 by_test[nid][source].add(symbol)，与 nightly phase1 采集路径一致。 2. **增量 sync 更自然**：sync.apply_incremental_test_map_update 对 touched test 文件整 node 替换、对 touched product 文件按 (test_node, source_path) 合并，无需在两种索引间来回转换。 3. **删 test / 冗余检测更直接**：gate_deleted_tests、detect_redundant_cases 按 test footprint 遍历；test_map_loader 强制顶层为 tests/...::...，可拒绝误写成 source key 的脏数据。 4. **CI gate 查询无退化**：symbol → tests 反向查询通过 build_test_map_index 一次 O(N) 建索引，与旧 schema 运行时等价。 5. **存储与传输更轻**：实测文件体积约减半，OBS 下载与 json.loads 内存峰值更低。 --- ## 修改内容 ### CI gate 模块拆分 - gate_policy.py 瘦身：策略加载/校验迁入 policy.py，diff 分类迁入 classifier.py，GitCode PR 评论迁入 comments.py，test_map 查询迁入 test_map_query.py - 新增 sync.py + scripts/run_test_map_sync.sh：按目标分支 HEAD 维护权威 test_map（--once / --watch） - diff.py 精简，仅保留 git diff 与分支检出能力 - main.py / rules.py / models.py / errors.py 适配新模块边界 - tests/.ci/gate_policy.yaml 策略字段同步调整 ### 公共 helpers 增强 - _config.py：手写 env 解析改为 pydantic-settings，统一校验与错误信息 - ast_utils.py：扩展符号提取能力，支撑 test_map 粒度映射 - build_test_map.py / test_map_loader.py：重构收集与加载逻辑（node-oriented schema） - 新增 test_map_report.py：test_map 覆盖率汇总、过期豁免检测 - coverage_symbol_check.py / pytest_runner.py / test_map_config.py 对齐新数据结构 - common/_logging.py：补充 log_env_audit 环境审计日志 ### nightly 报告链路 - report_builder.py / pytest_parser.py / main.py：适配 node-oriented test_map 报告 - report_models.py / feishu_notifier.py 小幅对齐 ### symbol 校验与 exemption 漂移（新增） - **last-wins canonical symbols**：重复 def foo 仅 gate 最后一个定义；shadowed def 发非 blocking GitCode 评论 - **def _ 消歧**：无 decorator → _；有 decorator → _@<suffix> - **exemption 校验**：path::symbol 整串须为 AST canonical name；coverage omit 路径禁止写入 exemptions.sources - **exemption 漂移 blocking**：PR 删/改名 product/test 文件时，未同步更新 gate_policy.yaml → [ED] 硬阻断 + GitCode 评论 - **Expected/Got**：Config / policy / loader 类型与值错误统一格式 - **文档**：scripts/README.md 补充 build.sh、MSMODELING_WHEEL_OUTPUT_DIR；tests/README.md 补充 symbol 契约 ### 其他 - scripts/run_ci_gate.sh：入口参数对齐 - scripts/prefetch_model_configs.py：适配新 config 加载 - tests/README.md / tests/SKILL.md：文档同步 - 新增/更新回归测试：test_classifier.py、test_comments.py、test_policy.py、test_sync.py、test_test_map_query.py、test_test_map_report.py 等 --- ## 自验证 ### CI gate / test_map / nightly 回归测试 目的：确认模块拆分后行为不变，新模块有单测覆盖 步骤： 1. 在仓库根目录执行： sh uv run pytest tests/regression/scripts/helpers/ci_gate/ \ tests/regression/scripts/helpers/common/test_ast_utils.py \ tests/regression/scripts/helpers/common/test_test_map_loader.py \ tests/regression/scripts/helpers/nightly/test_report_builder.py -q 2. 检查退出码与通过数 结果： 206 passed, 7 warnings in 0.43s ### symbol 校验 / exemption 漂移回归 sh uv run pytest tests/regression/scripts/helpers/ci_gate/ \ tests/regression/scripts/helpers/common/test_ast_utils.py \ tests/regression/scripts/helpers/common/test_test_map_loader.py \ tests/regression/scripts/helpers/test_config.py -q 结果： 239 passed, 8 warnings in 1.05s ### test_map 同步入口 目的：确认 run_test_map_sync.sh 可正常拉起 sync.py 步骤： 1. 设置 MSMODELING_TEST_MAP_PATH 指向有效 test_map JSON 2. 执行 bash scripts/run_test_map_sync.sh --once 结果：脚本入口与 sync.py CLI 已随 PR 提交；完整同步需 CI/nightly 环境提供有效 test_map 文件 See merge request: Ascend/msmodeling!394
7 天前
__init__.py
【同步】【非开发代码】代码从 develop 同步到 master Co-authored-by: yydyzr<liuyuncong1@huawei.com> Co-authored-by: gcw_61YBRfIt<chuzhenxing@huawei.com> Co-authored-by: 孔炳翔<1120200577@qq.com> Co-authored-by: zhengxinqian<qianzhengxin@huawei.com> Co-authored-by: hw_whx<wanghexiang7@huawei.com> Co-authored-by: jgong5<steven.gong@gmail.com> Co-authored-by: hw_whx<2952154980@qq.com> # message auto-generated for no-merge-commit merge: !330 merge master into master 【同步】【非开发代码】代码从 develop 同步到 master Created-by: AvadaKedavrua Commit-by: liujiawang;ascend-robot;AvadaKedavrua;lutean;Horacehxw;eveyin1;minghang_c;zwt__;tt0cool;elrond-g;jia_ya_nan;zhenyu_zhang;ChenHuiwen;wangshen001;Hudingyi;wendellX;Secluded_Ocean;jhon-117;yaohan404;jiangruitao;zhenghaojie;stormchasingg;panyj1993;cmh1056291129;yuyinkai1;sunguozhong;genius52;liu_jiaxu;HongMaoShuiGuai;zhengxinqian;weixin_43368449;jsez-li-bin;jgong5;wqh17101;w00609794;yydyzr;JieZhang679;sppedforcy;gcw_61YBRfIt;Jiong Gong;hw_whx;gongjiong;孔炳翔 Merged-by: ascend-robot Description: 代码从 develop 同步到 master，后续基于 master 演进，并支持打包 See merge request: Ascend/msmodeling!330
18 天前
conftest.py
【REFACTOR】重构 CI gate 与 test_map 同步基础设施 Co-authored-by: AvadaKedavrua<anonymousdev@163.com> # message auto-generated for no-merge-commit merge: !394 merge fix into master 【REFACTOR】重构 CI gate 与 test_map 同步基础设施 Created-by: AvadaKedavrua Commit-by: liujiawang;AvadaKedavrua Merged-by: ascend-robot Description: ## 修改原因 CI gate 的 diff 分类、策略校验、PR 评论、test_map 同步等逻辑耦合在 gate_policy.py 等单体模块中，难以独立演进与单测；test_map 缺少独立同步入口；ast_utils / test_map_loader / nightly 报告链路也需要与 gate 策略对齐。本 PR 仅包含 commit 82757732b6b6beb79b7083f6046e9cd9c72005f3（refactor），不涉及 wheel/CLI/OptiX 变更。 --- ## test_map schema 重构：背景与收益 ### 背景 旧 test_map 以**产品源文件**为顶层 key，value 为 symbol → [test_nodes]： json { "tensor_cast/foo.py": { "Widget::run": ["tests/regression/.../test_x.py::test_foo"] } } 新 test_map 改为以 **pytest node id** 为顶层 key，value 为 source_file → [symbols]，与 coverage.py --cov-context=test 的采集方向一致： json { "tests/regression/.../test_x.py::test_foo": { "tensor_cast/foo.py": ["Widget::run"] } } 两者存的是同一张「测试节点 ↔ (源文件, symbol)」二部图，仅主键方向相反；边数相同，语义不变。 ### 为何行数变多、体积反而更小 | 指标 | 旧 schema（source-oriented） | 新 schema（node-oriented） | |------|------------------------------|----------------------------| | JSON 行数 | ~7 万行 | ~10 万行 | | 文件/内存占用 | **8,355,104 B（~8.0 MB）** | **3,748,221 B（~3.6 MB，约 -55%）** | 行数不是体积的可靠 proxy。旧格式在每个 symbol 下重复存储完整 pytest node id（tests/regression/.../test_xxx.py::Class::test_yyy，通常 60–80 字符）；同一 test 覆盖 N 个 symbol 时，该长字符串出现 N 次。新格式每个 test node id 只作为顶层 key 出现一次，数组里存的是短 canonical symbol（如 Widget::run、%），边数 E 不变但**长字符串重复次数从 O(E) 降到 O(T)**（T = 有覆盖的 test 数，T ≪ E）。 典型场景：大量 smoke/regression 用例通过 import 共享 tensor_cast/、cli/ 等模块的 module symbol %——旧格式在单个 symbol 下聚合成千上万条 test id；新格式每个 test 只记一次短 symbol，整体字节数显著下降。 ### 工程收益 1. **构建零 pivot**：build_test_map.collect_from_coverage 直接按 coverage context（test node）聚合 by_test[nid][source].add(symbol)，与 nightly phase1 采集路径一致。 2. **增量 sync 更自然**：sync.apply_incremental_test_map_update 对 touched test 文件整 node 替换、对 touched product 文件按 (test_node, source_path) 合并，无需在两种索引间来回转换。 3. **删 test / 冗余检测更直接**：gate_deleted_tests、detect_redundant_cases 按 test footprint 遍历；test_map_loader 强制顶层为 tests/...::...，可拒绝误写成 source key 的脏数据。 4. **CI gate 查询无退化**：symbol → tests 反向查询通过 build_test_map_index 一次 O(N) 建索引，与旧 schema 运行时等价。 5. **存储与传输更轻**：实测文件体积约减半，OBS 下载与 json.loads 内存峰值更低。 --- ## 修改内容 ### CI gate 模块拆分 - gate_policy.py 瘦身：策略加载/校验迁入 policy.py，diff 分类迁入 classifier.py，GitCode PR 评论迁入 comments.py，test_map 查询迁入 test_map_query.py - 新增 sync.py + scripts/run_test_map_sync.sh：按目标分支 HEAD 维护权威 test_map（--once / --watch） - diff.py 精简，仅保留 git diff 与分支检出能力 - main.py / rules.py / models.py / errors.py 适配新模块边界 - tests/.ci/gate_policy.yaml 策略字段同步调整 ### 公共 helpers 增强 - _config.py：手写 env 解析改为 pydantic-settings，统一校验与错误信息 - ast_utils.py：扩展符号提取能力，支撑 test_map 粒度映射 - build_test_map.py / test_map_loader.py：重构收集与加载逻辑（node-oriented schema） - 新增 test_map_report.py：test_map 覆盖率汇总、过期豁免检测 - coverage_symbol_check.py / pytest_runner.py / test_map_config.py 对齐新数据结构 - common/_logging.py：补充 log_env_audit 环境审计日志 ### nightly 报告链路 - report_builder.py / pytest_parser.py / main.py：适配 node-oriented test_map 报告 - report_models.py / feishu_notifier.py 小幅对齐 ### symbol 校验与 exemption 漂移（新增） - **last-wins canonical symbols**：重复 def foo 仅 gate 最后一个定义；shadowed def 发非 blocking GitCode 评论 - **def _ 消歧**：无 decorator → _；有 decorator → _@<suffix> - **exemption 校验**：path::symbol 整串须为 AST canonical name；coverage omit 路径禁止写入 exemptions.sources - **exemption 漂移 blocking**：PR 删/改名 product/test 文件时，未同步更新 gate_policy.yaml → [ED] 硬阻断 + GitCode 评论 - **Expected/Got**：Config / policy / loader 类型与值错误统一格式 - **文档**：scripts/README.md 补充 build.sh、MSMODELING_WHEEL_OUTPUT_DIR；tests/README.md 补充 symbol 契约 ### 其他 - scripts/run_ci_gate.sh：入口参数对齐 - scripts/prefetch_model_configs.py：适配新 config 加载 - tests/README.md / tests/SKILL.md：文档同步 - 新增/更新回归测试：test_classifier.py、test_comments.py、test_policy.py、test_sync.py、test_test_map_query.py、test_test_map_report.py 等 --- ## 自验证 ### CI gate / test_map / nightly 回归测试 目的：确认模块拆分后行为不变，新模块有单测覆盖 步骤： 1. 在仓库根目录执行： sh uv run pytest tests/regression/scripts/helpers/ci_gate/ \ tests/regression/scripts/helpers/common/test_ast_utils.py \ tests/regression/scripts/helpers/common/test_test_map_loader.py \ tests/regression/scripts/helpers/nightly/test_report_builder.py -q 2. 检查退出码与通过数 结果： 206 passed, 7 warnings in 0.43s ### symbol 校验 / exemption 漂移回归 sh uv run pytest tests/regression/scripts/helpers/ci_gate/ \ tests/regression/scripts/helpers/common/test_ast_utils.py \ tests/regression/scripts/helpers/common/test_test_map_loader.py \ tests/regression/scripts/helpers/test_config.py -q 结果： 239 passed, 8 warnings in 1.05s ### test_map 同步入口 目的：确认 run_test_map_sync.sh 可正常拉起 sync.py 步骤： 1. 设置 MSMODELING_TEST_MAP_PATH 指向有效 test_map JSON 2. 执行 bash scripts/run_test_map_sync.sh --once 结果：脚本入口与 sync.py CLI 已随 PR 提交；完整同步需 CI/nightly 环境提供有效 test_map 文件 See merge request: Ascend/msmodeling!394
7 天前
gate_policy_writer.py
【REFACTOR】重构 CI gate 与 test_map 同步基础设施 Co-authored-by: AvadaKedavrua<anonymousdev@163.com> # message auto-generated for no-merge-commit merge: !394 merge fix into master 【REFACTOR】重构 CI gate 与 test_map 同步基础设施 Created-by: AvadaKedavrua Commit-by: liujiawang;AvadaKedavrua Merged-by: ascend-robot Description: ## 修改原因 CI gate 的 diff 分类、策略校验、PR 评论、test_map 同步等逻辑耦合在 gate_policy.py 等单体模块中，难以独立演进与单测；test_map 缺少独立同步入口；ast_utils / test_map_loader / nightly 报告链路也需要与 gate 策略对齐。本 PR 仅包含 commit 82757732b6b6beb79b7083f6046e9cd9c72005f3（refactor），不涉及 wheel/CLI/OptiX 变更。 --- ## test_map schema 重构：背景与收益 ### 背景 旧 test_map 以**产品源文件**为顶层 key，value 为 symbol → [test_nodes]： json { "tensor_cast/foo.py": { "Widget::run": ["tests/regression/.../test_x.py::test_foo"] } } 新 test_map 改为以 **pytest node id** 为顶层 key，value 为 source_file → [symbols]，与 coverage.py --cov-context=test 的采集方向一致： json { "tests/regression/.../test_x.py::test_foo": { "tensor_cast/foo.py": ["Widget::run"] } } 两者存的是同一张「测试节点 ↔ (源文件, symbol)」二部图，仅主键方向相反；边数相同，语义不变。 ### 为何行数变多、体积反而更小 | 指标 | 旧 schema（source-oriented） | 新 schema（node-oriented） | |------|------------------------------|----------------------------| | JSON 行数 | ~7 万行 | ~10 万行 | | 文件/内存占用 | **8,355,104 B（~8.0 MB）** | **3,748,221 B（~3.6 MB，约 -55%）** | 行数不是体积的可靠 proxy。旧格式在每个 symbol 下重复存储完整 pytest node id（tests/regression/.../test_xxx.py::Class::test_yyy，通常 60–80 字符）；同一 test 覆盖 N 个 symbol 时，该长字符串出现 N 次。新格式每个 test node id 只作为顶层 key 出现一次，数组里存的是短 canonical symbol（如 Widget::run、%），边数 E 不变但**长字符串重复次数从 O(E) 降到 O(T)**（T = 有覆盖的 test 数，T ≪ E）。 典型场景：大量 smoke/regression 用例通过 import 共享 tensor_cast/、cli/ 等模块的 module symbol %——旧格式在单个 symbol 下聚合成千上万条 test id；新格式每个 test 只记一次短 symbol，整体字节数显著下降。 ### 工程收益 1. **构建零 pivot**：build_test_map.collect_from_coverage 直接按 coverage context（test node）聚合 by_test[nid][source].add(symbol)，与 nightly phase1 采集路径一致。 2. **增量 sync 更自然**：sync.apply_incremental_test_map_update 对 touched test 文件整 node 替换、对 touched product 文件按 (test_node, source_path) 合并，无需在两种索引间来回转换。 3. **删 test / 冗余检测更直接**：gate_deleted_tests、detect_redundant_cases 按 test footprint 遍历；test_map_loader 强制顶层为 tests/...::...，可拒绝误写成 source key 的脏数据。 4. **CI gate 查询无退化**：symbol → tests 反向查询通过 build_test_map_index 一次 O(N) 建索引，与旧 schema 运行时等价。 5. **存储与传输更轻**：实测文件体积约减半，OBS 下载与 json.loads 内存峰值更低。 --- ## 修改内容 ### CI gate 模块拆分 - gate_policy.py 瘦身：策略加载/校验迁入 policy.py，diff 分类迁入 classifier.py，GitCode PR 评论迁入 comments.py，test_map 查询迁入 test_map_query.py - 新增 sync.py + scripts/run_test_map_sync.sh：按目标分支 HEAD 维护权威 test_map（--once / --watch） - diff.py 精简，仅保留 git diff 与分支检出能力 - main.py / rules.py / models.py / errors.py 适配新模块边界 - tests/.ci/gate_policy.yaml 策略字段同步调整 ### 公共 helpers 增强 - _config.py：手写 env 解析改为 pydantic-settings，统一校验与错误信息 - ast_utils.py：扩展符号提取能力，支撑 test_map 粒度映射 - build_test_map.py / test_map_loader.py：重构收集与加载逻辑（node-oriented schema） - 新增 test_map_report.py：test_map 覆盖率汇总、过期豁免检测 - coverage_symbol_check.py / pytest_runner.py / test_map_config.py 对齐新数据结构 - common/_logging.py：补充 log_env_audit 环境审计日志 ### nightly 报告链路 - report_builder.py / pytest_parser.py / main.py：适配 node-oriented test_map 报告 - report_models.py / feishu_notifier.py 小幅对齐 ### symbol 校验与 exemption 漂移（新增） - **last-wins canonical symbols**：重复 def foo 仅 gate 最后一个定义；shadowed def 发非 blocking GitCode 评论 - **def _ 消歧**：无 decorator → _；有 decorator → _@<suffix> - **exemption 校验**：path::symbol 整串须为 AST canonical name；coverage omit 路径禁止写入 exemptions.sources - **exemption 漂移 blocking**：PR 删/改名 product/test 文件时，未同步更新 gate_policy.yaml → [ED] 硬阻断 + GitCode 评论 - **Expected/Got**：Config / policy / loader 类型与值错误统一格式 - **文档**：scripts/README.md 补充 build.sh、MSMODELING_WHEEL_OUTPUT_DIR；tests/README.md 补充 symbol 契约 ### 其他 - scripts/run_ci_gate.sh：入口参数对齐 - scripts/prefetch_model_configs.py：适配新 config 加载 - tests/README.md / tests/SKILL.md：文档同步 - 新增/更新回归测试：test_classifier.py、test_comments.py、test_policy.py、test_sync.py、test_test_map_query.py、test_test_map_report.py 等 --- ## 自验证 ### CI gate / test_map / nightly 回归测试 目的：确认模块拆分后行为不变，新模块有单测覆盖 步骤： 1. 在仓库根目录执行： sh uv run pytest tests/regression/scripts/helpers/ci_gate/ \ tests/regression/scripts/helpers/common/test_ast_utils.py \ tests/regression/scripts/helpers/common/test_test_map_loader.py \ tests/regression/scripts/helpers/nightly/test_report_builder.py -q 2. 检查退出码与通过数 结果： 206 passed, 7 warnings in 0.43s ### symbol 校验 / exemption 漂移回归 sh uv run pytest tests/regression/scripts/helpers/ci_gate/ \ tests/regression/scripts/helpers/common/test_ast_utils.py \ tests/regression/scripts/helpers/common/test_test_map_loader.py \ tests/regression/scripts/helpers/test_config.py -q 结果： 239 passed, 8 warnings in 1.05s ### test_map 同步入口 目的：确认 run_test_map_sync.sh 可正常拉起 sync.py 步骤： 1. 设置 MSMODELING_TEST_MAP_PATH 指向有效 test_map JSON 2. 执行 bash scripts/run_test_map_sync.sh --once 结果：脚本入口与 sync.py CLI 已随 PR 提交；完整同步需 CI/nightly 环境提供有效 test_map 文件 See merge request: Ascend/msmodeling!394
7 天前
test_config.py
【REFACTOR】重构 CI gate 与 test_map 同步基础设施 Co-authored-by: AvadaKedavrua<anonymousdev@163.com> # message auto-generated for no-merge-commit merge: !394 merge fix into master 【REFACTOR】重构 CI gate 与 test_map 同步基础设施 Created-by: AvadaKedavrua Commit-by: liujiawang;AvadaKedavrua Merged-by: ascend-robot Description: ## 修改原因 CI gate 的 diff 分类、策略校验、PR 评论、test_map 同步等逻辑耦合在 gate_policy.py 等单体模块中，难以独立演进与单测；test_map 缺少独立同步入口；ast_utils / test_map_loader / nightly 报告链路也需要与 gate 策略对齐。本 PR 仅包含 commit 82757732b6b6beb79b7083f6046e9cd9c72005f3（refactor），不涉及 wheel/CLI/OptiX 变更。 --- ## test_map schema 重构：背景与收益 ### 背景 旧 test_map 以**产品源文件**为顶层 key，value 为 symbol → [test_nodes]： json { "tensor_cast/foo.py": { "Widget::run": ["tests/regression/.../test_x.py::test_foo"] } } 新 test_map 改为以 **pytest node id** 为顶层 key，value 为 source_file → [symbols]，与 coverage.py --cov-context=test 的采集方向一致： json { "tests/regression/.../test_x.py::test_foo": { "tensor_cast/foo.py": ["Widget::run"] } } 两者存的是同一张「测试节点 ↔ (源文件, symbol)」二部图，仅主键方向相反；边数相同，语义不变。 ### 为何行数变多、体积反而更小 | 指标 | 旧 schema（source-oriented） | 新 schema（node-oriented） | |------|------------------------------|----------------------------| | JSON 行数 | ~7 万行 | ~10 万行 | | 文件/内存占用 | **8,355,104 B（~8.0 MB）** | **3,748,221 B（~3.6 MB，约 -55%）** | 行数不是体积的可靠 proxy。旧格式在每个 symbol 下重复存储完整 pytest node id（tests/regression/.../test_xxx.py::Class::test_yyy，通常 60–80 字符）；同一 test 覆盖 N 个 symbol 时，该长字符串出现 N 次。新格式每个 test node id 只作为顶层 key 出现一次，数组里存的是短 canonical symbol（如 Widget::run、%），边数 E 不变但**长字符串重复次数从 O(E) 降到 O(T)**（T = 有覆盖的 test 数，T ≪ E）。 典型场景：大量 smoke/regression 用例通过 import 共享 tensor_cast/、cli/ 等模块的 module symbol %——旧格式在单个 symbol 下聚合成千上万条 test id；新格式每个 test 只记一次短 symbol，整体字节数显著下降。 ### 工程收益 1. **构建零 pivot**：build_test_map.collect_from_coverage 直接按 coverage context（test node）聚合 by_test[nid][source].add(symbol)，与 nightly phase1 采集路径一致。 2. **增量 sync 更自然**：sync.apply_incremental_test_map_update 对 touched test 文件整 node 替换、对 touched product 文件按 (test_node, source_path) 合并，无需在两种索引间来回转换。 3. **删 test / 冗余检测更直接**：gate_deleted_tests、detect_redundant_cases 按 test footprint 遍历；test_map_loader 强制顶层为 tests/...::...，可拒绝误写成 source key 的脏数据。 4. **CI gate 查询无退化**：symbol → tests 反向查询通过 build_test_map_index 一次 O(N) 建索引，与旧 schema 运行时等价。 5. **存储与传输更轻**：实测文件体积约减半，OBS 下载与 json.loads 内存峰值更低。 --- ## 修改内容 ### CI gate 模块拆分 - gate_policy.py 瘦身：策略加载/校验迁入 policy.py，diff 分类迁入 classifier.py，GitCode PR 评论迁入 comments.py，test_map 查询迁入 test_map_query.py - 新增 sync.py + scripts/run_test_map_sync.sh：按目标分支 HEAD 维护权威 test_map（--once / --watch） - diff.py 精简，仅保留 git diff 与分支检出能力 - main.py / rules.py / models.py / errors.py 适配新模块边界 - tests/.ci/gate_policy.yaml 策略字段同步调整 ### 公共 helpers 增强 - _config.py：手写 env 解析改为 pydantic-settings，统一校验与错误信息 - ast_utils.py：扩展符号提取能力，支撑 test_map 粒度映射 - build_test_map.py / test_map_loader.py：重构收集与加载逻辑（node-oriented schema） - 新增 test_map_report.py：test_map 覆盖率汇总、过期豁免检测 - coverage_symbol_check.py / pytest_runner.py / test_map_config.py 对齐新数据结构 - common/_logging.py：补充 log_env_audit 环境审计日志 ### nightly 报告链路 - report_builder.py / pytest_parser.py / main.py：适配 node-oriented test_map 报告 - report_models.py / feishu_notifier.py 小幅对齐 ### symbol 校验与 exemption 漂移（新增） - **last-wins canonical symbols**：重复 def foo 仅 gate 最后一个定义；shadowed def 发非 blocking GitCode 评论 - **def _ 消歧**：无 decorator → _；有 decorator → _@<suffix> - **exemption 校验**：path::symbol 整串须为 AST canonical name；coverage omit 路径禁止写入 exemptions.sources - **exemption 漂移 blocking**：PR 删/改名 product/test 文件时，未同步更新 gate_policy.yaml → [ED] 硬阻断 + GitCode 评论 - **Expected/Got**：Config / policy / loader 类型与值错误统一格式 - **文档**：scripts/README.md 补充 build.sh、MSMODELING_WHEEL_OUTPUT_DIR；tests/README.md 补充 symbol 契约 ### 其他 - scripts/run_ci_gate.sh：入口参数对齐 - scripts/prefetch_model_configs.py：适配新 config 加载 - tests/README.md / tests/SKILL.md：文档同步 - 新增/更新回归测试：test_classifier.py、test_comments.py、test_policy.py、test_sync.py、test_test_map_query.py、test_test_map_report.py 等 --- ## 自验证 ### CI gate / test_map / nightly 回归测试 目的：确认模块拆分后行为不变，新模块有单测覆盖 步骤： 1. 在仓库根目录执行： sh uv run pytest tests/regression/scripts/helpers/ci_gate/ \ tests/regression/scripts/helpers/common/test_ast_utils.py \ tests/regression/scripts/helpers/common/test_test_map_loader.py \ tests/regression/scripts/helpers/nightly/test_report_builder.py -q 2. 检查退出码与通过数 结果： 206 passed, 7 warnings in 0.43s ### symbol 校验 / exemption 漂移回归 sh uv run pytest tests/regression/scripts/helpers/ci_gate/ \ tests/regression/scripts/helpers/common/test_ast_utils.py \ tests/regression/scripts/helpers/common/test_test_map_loader.py \ tests/regression/scripts/helpers/test_config.py -q 结果： 239 passed, 8 warnings in 1.05s ### test_map 同步入口 目的：确认 run_test_map_sync.sh 可正常拉起 sync.py 步骤： 1. 设置 MSMODELING_TEST_MAP_PATH 指向有效 test_map JSON 2. 执行 bash scripts/run_test_map_sync.sh --once 结果：脚本入口与 sync.py CLI 已随 PR 提交；完整同步需 CI/nightly 环境提供有效 test_map 文件 See merge request: Ascend/msmodeling!394
7 天前