已合并
docs: refresh Wordle RL training guidance #455
docs: refresh Wordle RL training guidance #455
已合并
zhoujian创建于 7月28日
Pull Request已成功合入, 合并人@CANN-robot
(感谢 zhoujian 的贡献)
zhoujianzhoujian成员
7月28日 创建了 pull request,commit 73d49f43
atomgit-bot
atomgit-bot
7月28日 评论:

变更摘要

本次 PR 对 Wordle RL 训练教程文档进行了全面刷新,主要基于新一批实验结果更新了默认超参数、训练指标、验证协议和调参方法论。核心变化包括:环境安装新增 CANN / ATB 前置检查步骤;将默认 entropy_coeff0.002 调整为 0.004train_batch_size64 调整为 128、训练总步数从 155 步调整为 75 步(5 epoch);验证指标从单次采样 @1 改为 5 次采样 @5,并将 val-core/wordle/correct/mean@5 提升为验证核心指标;调参指导从"固定推荐值"转向强调短程实验、固定其他参数、联合观察 entropy / KL / 验证 correct / response_length 的方法论。所有章节的练习题也同步更新以匹配新内容。

主要改动

  • 环境安装新增前置检查:在 01.02_install_verl_and_vllm_ascend.ipynb 中新增 2.1 节"环境检查",要求在安装训练组件前验证 CANNATB 环境脚本可用,并简化了后续 vLLM-Ascend 安装单元格中的环境加载逻辑。

  • 默认超参数全面更新entropy_coeff0.002 调整为 0.004train_batch_size64 调整为 128lr_warmup_steps 从比例值改为固定值 5;训练总步数从 155 步降为 75 步(对应 5 个 epoch),验证频率明确为每 5 步一次 100 条 rollout 采样。

  • 验证协议与核心指标变更:验证指标从 @1(单次采样)统一改为 @5(每个测试词采样 5 次),val-core/wordle/correct/mean@5 取代 val-aux/wordle/correct/mean@1 成为验证核心指标;训练曲线和性能基准数据(单步耗时约 350s、吞吐约 1300 token/s)同步更新以反映新的硬件和参数配置。

  • 调参方法论转向短程实验与联合观察:在 04.02_hyperparameter_tuning.ipynb04.03_training_collapse_analysis.ipynb 中,将超参数建议从"推荐固定组合"改为"固定其他参数、只改变 entropy_coeff、跑 25~30 步短程实验、同时观察 entropyKL、验证 correctresponse_length",修复方案也从具体数值改为方法论导向的针对性调整策略。

likedislike
atomgit-bot
atomgit-bot
7月28日 评论:

代码审查

审查完毕 — Closing Summary

优先级 数量
P0 0
P1 0
P2 0
P3 1

总体风险判断:低。 这是一次文档刷新,所有参数更新、指标名称变更、quiz 问答在 17 个文件间保持一致,无安全或正确性缺陷。唯一发现是 01.02 安装脚本中的一处轻微健壮性回退。

逐文件审查确认

文件 结论
01_environment_setup/01.02_install_verl_and_vllm_ascend.ipynb 1 个 P3 发现(上述)
01_environment_setup/01.03_verl_framework_overview.ipynb 无问题
02_rl_core_concepts/02.04_kl_and_stability.ipynb 无问题
02_rl_core_concepts/answer/02.04_answer.txt 无问题
02_rl_core_concepts/answer/02.05_answer.txt 无问题
03_wordle_rl_training/03.04_run_training_and_metrics.ipynb 无问题
03_wordle_rl_training/03.05_chapter_practice.ipynb 无问题
03_wordle_rl_training/answer/03.04_answer.txt 无问题
03_wordle_rl_training/answer/03.05_answer.txt 无问题
04_tuning_and_troubleshooting/04.01_chapter_intro.ipynb 无问题
04_tuning_and_troubleshooting/04.02_hyperparameter_tuning.ipynb 无问题
04_tuning_and_troubleshooting/04.03_training_collapse_analysis.ipynb 无问题
04_tuning_and_troubleshooting/04.04_chapter_practice.ipynb 无问题
04_tuning_and_troubleshooting/answer/04.02_answer.txt 无问题
04_tuning_and_troubleshooting/answer/04.03_answer.txt 无问题
04_tuning_and_troubleshooting/answer/04.04_answer.txt 无问题
README.md 无问题

⚠️ 已识别出整体风险,但无法提取行内评论,请参考整体评估。

likedislike
CANN-robotCANN-robot成员
7月28日 添加了label:stat/needs-squash
CANN-robotCANN-robot成员
7月28日 添加了label:cann-cla/yes
CANN-robot
CANN-robot成员
7月28日 评论:

Thanks for your pull-request.
The full list of commands accepted by me can be found at here
You can get sig-info at here


PR Approval Progress

Congratulations! All modules have met the lgtm and approve requirements.

Module Approval Details

module lgtm status approve status
repo-cann/cann-learning-hub 张德鹏, waimaidaole (2/2) 张德鹏 (1/1)

💡 Tip:

  • Committer can comment /approve or /lgtm
  • Commenting /approve implies both code review (lgtm) and intent to merge (approve)

CLA Signature Pass

qianbi1999, thanks for your pull request. All authors of the commits have signed the CLA. 👍

likedislike
zhoujianzhoujian成员
7月30日 关联了issue:[Course-Feedback|课程反馈]: 04.02/04.03/04.04 答案解析推荐 entropy_coeff=0.005,与正确选项(0.002)、课程实验数据(0.005 飙升停止)及推荐值矛盾
此处折叠了9条事件消息 查看更多
zhoujianzhoujian成员
7月30日 update merge request[project id: 9260575, iid: 455, commit_id: 297081522b5061ce2481e648258a9955659dffcb] virtual merging success
meme成员
7月31日 评论:

/lgtm
/approve

likedislike
CANN-robotCANN-robot成员
7月31日 添加了label:approved
张德鹏成员
28 天前 评论:

/lgtm
/approve

likedislike
CANN-robotCANN-robot成员
28 天前 添加了label:lgtm
CANN-robot
CANN-robot成员
28 天前 评论:

The dependent pull request is not merged, you can not merge this pull request

If you want to solve this problem, you can click here to do it in the FAQs.

likedislike
zhoujianzhoujian成员
28 天前 update merge request[project id: 9260575, iid: 455, commit_id: 3c54e5202237821deb8338774542dd6f34d66b18] virtual merging success
zhoujianzhoujian成员
28 天前 推送  28 个提交:9aa4ae9f-27 commits from branch test4161af13-Merge branch 'rl-training-refresh' of git@gitcode.com:mystri/cann-learning-hub.git into 'test'
zhoujianzhoujian成员
28 天前 update merge request[project id: 9260575, iid: 455, commit_id: b056e0469fc377d937e8a9c6ee5797dabfea4963] virtual merging success
CANN-robotCANN-robot成员
28 天前 删除了label:cann-cla/yes
CANN-robotCANN-robot成员
28 天前 删除了label:lgtmapproved
CANN-robot
CANN-robot成员
28 天前 评论:

Notice

New code changes of the pull request are detected and remove these labels lgtm, approved. 😳

likedislike
CANN-robotCANN-robot成员
28 天前 添加了label:cann-cla/yes
张德鹏成员
27 天前 评论:

/approve

likedislike
CANN-robotCANN-robot成员
27 天前 添加了label:approved
meme成员
27 天前 评论:

/lgtm

likedislike
CANN-robotCANN-robot成员
27 天前 添加了label:lgtm
CANN-robotCANN-robot成员
27 天前 合入了pull request
zhoujianzhoujian成员
26 天前 修改了pull request 的描述