已关闭
[Feature]: add MindSpeed-LLM st skill #31
Rostellaria创建于  6月30日关闭于  7月8日
Rostellaria
Rostellaria
6月30日 创建

提交提案之前,请先检索仓库内是否已有相同的提案,如已有请在同一提案中进行讨论。

💻 需求背景、当前现状、期望实现的功能内容、具体的设计方案、以及测试方案

需求背景 MindSpeed-LLM 的 FSDP2 框架支持的模型持续增加,每个模型都需配套 pretrain 系统测试(ST)用例来验证数值稳定性并固化 CI 回归基线。但目前补 ST 全靠人工,流程重复且易错。

当前现状 ST 用例分散在 tests/pipeline/st/ 和 tests/st/shell_scripts/ 两个路径,需对照 model_registry.py 人工排查缺失;YAML 配置要逐模型参考官方 example 调参,漏切模块(如 MoE experts、ngram)直接 OOM;权重未开源的模型(如 mamba3)还要特殊处理;三次执行+基线入库全手工。经扫描,当前 mamba3、qwen3_moe 两个模型缺失 FSDP2 ST 用例。

期望实现 沉淀一个 Agent Skill,端到端自动完成:识别缺失模型 → 检查权重/数据集 → 生成规范的 .sh/.yaml → 8 卡三次执行生成基线,并在关键节点设人工确认卡点。

设计方案 Skill 五步工作流:①读注册表+扫两路径识别缺失;②查权重数据集,缺失按 HF下载→自生成 处理;③生成用例,YAML 优先跟随官方 example,复用已有模型子目录;④包装脚本 cd 到项目根目录三次执行,比对 lm loss/grad norm/吞吐量稳定性后入库 baseline;⑤pytest 验证。内置 mamba3、longcat_flash、qwen3_moe 等模型的差异化配置指南。

替代方案

补充说明

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
ascend-robotascend-robot成员
6月30日 添加了label:feature
RostellariaRostellaria
7月8日 issue状态由 TODO 改变为 DONE
RostellariaRostellaria
7月8日 关闭了 issue
ascend-robotascend-robot成员
7月8日 添加了label:resolved