已合并
[mindspeed-rl] grpo与ppo算法配置说明readme优化 #786
张健翔创建于 2025年12月4日
[mindspeed-rl] grpo与ppo算法配置说明readme优化 #786
已合并
张健翔创建于 2025年12月4日
张健翔成员
2025年12月4日

grpo与ppo算法配置说明readme优化

likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 张健翔 的贡献)
张健翔成员
2025年12月4日 创建了 pull request,commit 6e14dff0
ascend-robot
ascend-robot成员
2025年12月4日 评论:

Thank your for your pull-request.

The full list of commands accepted by me can be found at here.

You can get sig-info at here

likedislike
AtlasAccount
AtlasAccount成员
2025年12月4日 评论:
ascend-robot
ascend-robot成员
2025年12月4日 评论:

以下是根据您提交的修改文件推荐的Reviewer和Committer序列,需各模块评审通过后方可合入

Module List Reviewers Committers
repo-Ascend/MindSpeed-RL Hcm03, PIPIXIU, weixin_44917616, fengliangjun, guo-xinjie-1 fengliangjun, zhoubeirong, elvinp, wucong25, sz19991010
likedislike
ascend-robotascend-robot成员
2025年12月4日 添加了label:ascend-cla/no
张健翔成员
2025年12月4日 评论:

/check-cla

likedislike
张健翔成员
2025年12月4日 评论:

/check-cla

likedislike
ascend-robotascend-robot成员
2025年12月4日 删除了label:ascend-cla/no
ascend-robotascend-robot成员
2025年12月4日 添加了label:ascend-cla/yes
ascend-robot
ascend-robot成员
2025年12月4日 评论:

CLA Signature Pass

@McFlurry100, thanks for your pull request. All authors of the commits have signed the CLA. 👍

likedislike
张健翔成员
2025年12月4日 评论:

compile

likedislike
AtlasAccount
AtlasAccount成员
2025年12月4日 评论:

已进入队列,请勿重复触发

likedislike
AtlasAccount
AtlasAccount成员
2025年12月4日 评论:

预计 2025-12-04 19:16:38 开始,等待时长:145.52min,排队位置:5

likedislike
wucong25成员2025年12月4日进行代码检视2
docs/algorithms/grpo.md
已过期
@@ -153,4 +137,0 @@
153-| `actor/ppo_kl` | PPO算法的实际 KL 散度 |
154-| `grad_norm` | 梯度范数,表示当前反向传播中参数梯度的整体幅度 |
155-| `{verifier_function}_rewards/mean` | 规则奖励打分的平均总奖励值 |
156-| `actor/lr` | 学习率,优化器当前使用的学习率 |
wucong252025年12月4日评论:

这些为啥都删掉了

likedislike
张健翔成员
2025年12月5日 评论:

grpo_yaml和ppo_yaml里面有大量的重复的内容,提取日志打点具体内容文档进行说明,避免冗余

wucong25成员2025年12月4日进行代码检视2
docs/algorithms/grpo.md
@@ -125,4 +129,0 @@
125-| `timing/rollout` | 一次迭代中actor model进行rollout耗时 |
126-| `timing/old_log_p` | 一次迭代中actor model计算logp耗时 |
127-| `timing/reference_model` | 一次迭代中reference model计算logp耗时 |
128-| `timing/resharding_to_train` | 权重转到训练mode耗时 |
wucong252025年12月4日评论:

这个也删掉了 是统一挪到log_megrics文件里面去了么

likedislike
张健翔成员
2025年12月5日 评论:

是的,避免冗余

wucong25成员2025年12月4日进行代码检视2
docs/features/runtime_env.md
@@ -0,0 +8,4 @@
8+| `PYTORCH_NPU_ALLOC_CONF` | 设置缓存分配器行为 |
9+| `HCCL_CONNECT_TIMEOUT` | HCCL 连接超时时间 |
10+| `HCCL_EXEC_TIMEOUT` | HCCL 执行超时时间 |
11+| `HCCL_IF_BASE_PORT` | HCCL 通信端口 |
wucong252025年12月4日评论:

新建一个runtime_env.md的目的是什么

likedislike
张健翔成员
2025年12月5日 评论:

grpo_yaml和ppo_yaml里面有大量的runtime_env的冗余,runtime_env也不属于grpo_yaml/ppo_yaml的内容范围

ascend-robot
ascend-robot成员
2025年12月4日 评论:

流水线任务触发成功,正在执行,请稍候。 任务链接[28d957f9213846efbee691e283a8f92b]

likedislike
ascend-robotascend-robot成员
2025年12月4日 添加了label:ci-pipeline-running
ascend-robot
ascend-robot成员
2025年12月4日 评论:

get-log

likedislike
ascend-robotascend-robot成员
2025年12月4日 删除了label:ci-pipeline-running
ascend-robotascend-robot成员
2025年12月4日 添加了label:ci-pipeline-running
ascend-robotascend-robot成员
2025年12月4日 删除了label:ci-pipeline-running
ascend-robotascend-robot成员
2025年12月4日 添加了label:ci-pipeline-passed
ascend-robot
ascend-robot成员
2025年12月4日 评论:
检查项 状态 日志
code_check >>>
sca >>>
anti_poison >>>
UT >>>
openlibing链接 点此跳转
likedislike
ascend-robotascend-robot成员
2025年12月4日 删除了label:ci-pipeline-passed
ascend-robotascend-robot成员
2025年12月4日 添加了label:ci-pipeline-passed
wucong25成员
2025年12月4日 评论:

/lgtm
/approve

likedislike
ascend-robotascend-robot成员
2025年12月4日 添加了label:approved
may_feimei
2025年12月8日 评论:

/lgtm

likedislike
ascend-robotascend-robot成员
2025年12月8日 添加了label:lgtm
ascend-robot
ascend-robot成员
2025年12月8日 评论:

Review Guide

This Pull-Request Passes Review.
Committers who writed a comment of /approve are: wucong25.
Reviewers who writed a comment of /lgtm are: wucong25, may_feimei.

likedislike
ascend-robot
ascend-robot成员
2025年12月8日 评论:

Review Guide

This Pull-Request Passes Review.
Committers who writed a comment of /approve are: wucong25.
Reviewers who writed a comment of /lgtm are: may_feimei, wucong25.

likedislike
ascend-robotascend-robot成员
2025年12月8日 合入了pull request