Part 3 — hyper_parallel/components/ 训练组件 Configurable 化

把现散落在 BaseTrainer._build_*（trainer/base.py:555-700）的"过程式 build"抽成 Configurable 子类。新组件类是旧 _build_* 的等价封装，旧 trainer 代码 0 改动。

1. 目标

让 optimizer / lr_scheduler / loss / tokenizer / dataloader / checkpoint / profiler / metrics 都变成 Configurable 组件，每个 __init__(self, config) 接受自己的 Config，config.build(...) 即构造。

2. 任务边界（新增文件）

新增包目录 hyper_parallel/components/：

3. 核心设计点

3.1 组件 Config 字段名 = 旧 yaml 字段名

例如 OptimizersContainer.Config 的字段必须包含 lr / weight_decay / eps / betas / foreach，与 trainer/config.py:195 OptimizerConfig 字段一致 —— 这样 M2 的 _legacy_to_trainer_config 能一对一映射。

3.2 新旧路径共享同一份"算法实现"

M3 的实现就是把 _build_* 函数体搬到组件 __init__；M5 中旧 BaseTrainer._build_optimizer 改为：

def _build_optimizer(self):
    if isinstance(self.args, HyperTrainer.Config):     # 新路径
        self.optimizer = self.args.optimizer.build(model_parts=[self.model])
    else:                                              # 旧路径
        # base.py:555-604 原逻辑保持不变
        ...

3.3 示例：OptimizersContainer

class OptimizersContainer(Configurable):
    @dataclass(kw_only=True, slots=True)
    class Config(Configurable.Config):
        lr: float = 1e-4
        betas: tuple[float, float] = (0.9, 0.999)
        eps: float = 1e-8
        weight_decay: float = 0.01
        foreach: bool | None = None
        fused: bool | None = None
        decay_keywords: tuple[str, ...] = ("bias", "layernorm", "norm", "rmsnorm")
        loss_aggregation: str = "token_weighted"

    def __init__(self, cfg: "OptimizersContainer.Config", *, model_parts: list):
        # 直接搬 base.py:566-600 的逻辑：
        decay_params, no_decay_params = [], []
        seen = set()
        for m in model_parts:
            for n, p in m.named_parameters():
                if not p.requires_grad or id(p) in seen:
                    continue
                seen.add(id(p))
                lname = n.lower()
                bucket = no_decay_params if any(k in lname for k in cfg.decay_keywords) else decay_params
                bucket.append(p)
        param_groups = [
            {"params": decay_params, "weight_decay": cfg.weight_decay},
            {"params": no_decay_params, "weight_decay": 0.0},
        ]
        self._optimizer = torch.optim.AdamW(
            param_groups, lr=cfg.lr, betas=cfg.betas, eps=cfg.eps, foreach=cfg.foreach,
        )

    def step(self): self._optimizer.step()
    def zero_grad(self): self._optimizer.zero_grad()
    # ... 实现 .state_dict / .load_state_dict 等接口

4. 与 torchtitan 接口差异说明

5. 开发步骤（每个组件 0.5 d）

按依赖顺序：optimizer → lr_scheduler → loss → tokenizer → dataloader → checkpoint → profiler → metrics。

每个组件统一流程：

1. 把旧 _build_<x> 函数体逐行复制到 <X>Container.__init__。
2. 把对 self.args.train.<x> 的访问改为 self.config.<field>。
3. 加 1 个 1-card UT：构造 Config()、build(...) 后与旧 _build_<x> 同种子 + 同输入下产物 bit-exact。

6. 验证标准

新建 tests/torch/ut/components/，每个组件 1 个对照测试：

通过门槛：

• 8 个 UT 全绿、bit-exact。
• 旧 BaseTrainer._build_*（base.py:555-700）0 修改。
• 存量训练 0 受影响。

7. 工期 & 依赖