已合并
完善确定性计算文档说明 master #777
chengminhua创建于 2025年12月3日
完善确定性计算文档说明 master #777
已合并
从已删除 :master合入到Ascend/MindSpeed-RLmaster
共 1 个文件变更+6-4
| @@ -10,24 +10,26 @@ | |||
| 10 | 10 | ||
| 11 | ### 1. 数据输入一致 | 11 | ### 1. 数据输入一致 |
| 12 | - 1.1 设置shuffle参数 | 12 | - 1.1 设置shuffle参数 |
| 13 | + | ||
| 13 | > **注意**：在训练前删除数据集目录下后缀为.npy的缓存文件 | 14 | > **注意**：在训练前删除数据集目录下后缀为.npy的缓存文件 |
| 14 | 15 | ||
| 15 | 两次计算的数据输入需要保持一致，可以在训练脚本的yaml文件megatron_training参数中加入控制数据集输入 | 16 | 两次计算的数据输入需要保持一致，可以在训练脚本的yaml文件megatron_training参数中加入控制数据集输入 |
| 16 | MindSpeed RL 提供两个参数进行控制 | 17 | MindSpeed RL 提供两个参数进行控制 |
| 18 | + | ||
| 17 | ``` | 19 | ``` |
| 18 | no_shuffle # 是否按epoch对数据进行shuffle, 默认为False, 对每个epoch进行shuffle，可用seed控制shuffle随机性 | 20 | no_shuffle # 是否按epoch对数据进行shuffle, 默认为False, 对每个epoch进行shuffle，可用seed控制shuffle随机性 |
| 19 | full_shuffle_instruction_dataset # 是否在处理完所有epoch之后对完整的数据再进行shuffle，默认为False，不进行全局shuffle | 21 | full_shuffle_instruction_dataset # 是否在处理完所有epoch之后对完整的数据再进行shuffle，默认为False，不进行全局shuffle |
| 20 | ``` | 22 | ``` |
| 21 | 所以当前仓上保证两次数据一致可设置以下参数 | 23 | 所以当前仓上保证两次数据一致可设置以下参数 |
| 22 | 24 | ||
| 23 | - 不开shuffle： | 25 | + 不开shuffle（即保证数据读取的一致性，不进行任何数据重排）： |
| 24 | - | 26 | + |
| 25 | ``` | 27 | ``` |
| 26 | no_shuffle: true | 28 | no_shuffle: true |
| 27 | full_shuffle_instruction_dataset: false | 29 | full_shuffle_instruction_dataset: false |
| 28 | ``` | 30 | ``` |
| 29 | - | 31 | + |
| 30 | - 开启shuffle并保证跑两次数据一致： | 32 | + 开启shuffle并保证跑两次数据一致（即对数据进行随机洗牌，但是通过固定种子保证每次运行的数据顺序一致）： |
| 31 | ``` | 33 | ``` |
| 32 | no_shuffle: false | 34 | no_shuffle: false |
| 33 | seed: 1234 # 如果有就不用再加 | 35 | seed: 1234 # 如果有就不用再加 |