Pull Request已成功合入, 合并人@CANN-robot
(感谢 zhoujian 的贡献)变更摘要
本次 PR 对 Wordle RL 训练教程文档进行了全面刷新,主要基于新一批实验结果更新了默认超参数、训练指标、验证协议和调参方法论。核心变化包括:环境安装新增 CANN / ATB 前置检查步骤;将默认 entropy_coeff 从 0.002 调整为 0.004、train_batch_size 从 64 调整为 128、训练总步数从 155 步调整为 75 步(5 epoch);验证指标从单次采样 @1 改为 5 次采样 @5,并将 val-core/wordle/correct/mean@5 提升为验证核心指标;调参指导从"固定推荐值"转向强调短程实验、固定其他参数、联合观察 entropy / KL / 验证 correct / response_length 的方法论。所有章节的练习题也同步更新以匹配新内容。
主要改动
-
环境安装新增前置检查:在
01.02_install_verl_and_vllm_ascend.ipynb中新增 2.1 节"环境检查",要求在安装训练组件前验证CANN和ATB环境脚本可用,并简化了后续 vLLM-Ascend 安装单元格中的环境加载逻辑。 -
默认超参数全面更新:
entropy_coeff从0.002调整为0.004,train_batch_size从64调整为128,lr_warmup_steps从比例值改为固定值5;训练总步数从 155 步降为 75 步(对应 5 个 epoch),验证频率明确为每 5 步一次100条 rollout 采样。 -
验证协议与核心指标变更:验证指标从
@1(单次采样)统一改为@5(每个测试词采样 5 次),val-core/wordle/correct/mean@5取代val-aux/wordle/correct/mean@1成为验证核心指标;训练曲线和性能基准数据(单步耗时约 350s、吞吐约 1300 token/s)同步更新以反映新的硬件和参数配置。 -
调参方法论转向短程实验与联合观察:在
04.02_hyperparameter_tuning.ipynb和04.03_training_collapse_analysis.ipynb中,将超参数建议从"推荐固定组合"改为"固定其他参数、只改变entropy_coeff、跑 25~30 步短程实验、同时观察entropy、KL、验证correct和response_length",修复方案也从具体数值改为方法论导向的针对性调整策略。


代码审查
审查完毕 — Closing Summary
| 优先级 | 数量 |
|---|---|
| P0 | 0 |
| P1 | 0 |
| P2 | 0 |
| P3 | 1 |
总体风险判断:低。 这是一次文档刷新,所有参数更新、指标名称变更、quiz 问答在 17 个文件间保持一致,无安全或正确性缺陷。唯一发现是 01.02 安装脚本中的一处轻微健壮性回退。
逐文件审查确认
| 文件 | 结论 |
|---|---|
01_environment_setup/01.02_install_verl_and_vllm_ascend.ipynb |
1 个 P3 发现(上述) |
01_environment_setup/01.03_verl_framework_overview.ipynb |
无问题 |
02_rl_core_concepts/02.04_kl_and_stability.ipynb |
无问题 |
02_rl_core_concepts/answer/02.04_answer.txt |
无问题 |
02_rl_core_concepts/answer/02.05_answer.txt |
无问题 |
03_wordle_rl_training/03.04_run_training_and_metrics.ipynb |
无问题 |
03_wordle_rl_training/03.05_chapter_practice.ipynb |
无问题 |
03_wordle_rl_training/answer/03.04_answer.txt |
无问题 |
03_wordle_rl_training/answer/03.05_answer.txt |
无问题 |
04_tuning_and_troubleshooting/04.01_chapter_intro.ipynb |
无问题 |
04_tuning_and_troubleshooting/04.02_hyperparameter_tuning.ipynb |
无问题 |
04_tuning_and_troubleshooting/04.03_training_collapse_analysis.ipynb |
无问题 |
04_tuning_and_troubleshooting/04.04_chapter_practice.ipynb |
无问题 |
04_tuning_and_troubleshooting/answer/04.02_answer.txt |
无问题 |
04_tuning_and_troubleshooting/answer/04.03_answer.txt |
无问题 |
04_tuning_and_troubleshooting/answer/04.04_answer.txt |
无问题 |
README.md |
无问题 |
⚠️ 已识别出整体风险,但无法提取行内评论,请参考整体评估。


Thanks for your pull-request.
The full list of commands accepted by me can be found at here。
You can get sig-info at here
PR Approval Progress
✅ Congratulations! All modules have met the lgtm and approve requirements.
Module Approval Details
| module | lgtm status | approve status |
|---|---|---|
| repo-cann/cann-learning-hub | ✅ 张德鹏, waimaidaole (2/2) | ✅ 张德鹏 (1/1) |
💡 Tip:
- Committer can comment
/approveor/lgtm- Commenting
/approveimplies both code review (lgtm) and intent to merge (approve)
CLA Signature Pass
qianbi1999, thanks for your pull request. All authors of the commits have signed the CLA. 👍


The dependent pull request is not merged, you can not merge this pull request
If you want to solve this problem, you can click here to do it in the FAQs.


描述
refresh Wordle RL training guidance
关联的Issue
测试
文档更新
类型标签
其他信息