【R1-Zero-qwen复现 Part1】GRPO+多reward-MindSpeed-LLM-AtomGit

已合并

【R1-Zero-qwen复现 Part1】GRPO+多reward #2216

AtomGit-Bot创建于 2025年2月13日从refs/pull/2216/head 合入到 master

【R1-Zero-qwen复现 Part1】GRPO+多reward #2216

已合并

AtomGit-Bot创建于 2025年2月13日

从refs/pull/2216/head合入到master

2025年2月13日

GRPO+多reward

（感谢 AtomGit-Bot 的贡献）

panchenyixxx2025年2月14日进行代码检视1

mindspeed_llm/inference/text_generation/generation.py

panchenyixxx2025年2月14日评论：

删掉是否会影响仓上的其他功能

panchenyixxx2025年2月14日进行代码检视1

configs/rlxf/grpo_trainer_qwen25_7b.yaml

65+ model: qwen25-7b

66+ verifier: true

67+ tensor_model_parallel_size: 2

68+ pipeline_model_parallel_size: 1

panchenyixxx2025年2月14日评论：

要和R1的复现参数格式协调

panchenyixxx2025年2月15日进行代码检视1

preprocess_data.py

115+ 'chatml_de', 'qwen', 'qwen_r1', "qwen_math_r1", 'llama3', 'llama2', 'mistral', 'mixtral', 'gemma', 'alpaca',

116116 'deepseek2', 'deepseek2-lite', 'cpm', 'baichuan2', 'deepseek3', 'intern2'],

117117 help='Which template to use for constructing prompts in training.'

118118 'e.g., "qwen"')

panchenyixxx2025年2月15日评论：

图片需要按照Qwen2.5-7B-instruct重新更新一下

2025年2月17日添加了   ci-pipeline-running 标签

2025年2月17日移除了   ci-pipeline-failed 标签

此处折叠了378条消息查看更多

2025年2月16日添加了   ci-pipeline-running 标签

2025年2月16日添加了   ci-pipeline-running 标签

2025年2月16日移除了   ci-pipeline-failed 标签

2025年2月17日移除了   ci-pipeline-failed 标签

2025年2月17日添加了   ci-pipeline-running 标签