网络中部分参数采取不切，将这部分参数传给replicate_params，拉起训练，第一个step grad nrom较大。其他参数配置不改
不报错，grad norm异常，baseline grad norm是28.97633362。传replicate_params参数时训练的grad norm是48.47068405
该问题是怎么引起的？
网络中部分参数采取不切，将这部分参数传给replicate_params，拉起训练，第一个step grad nrom较大。其他参数配置不改
重现步骤
报错信息
不报错，grad norm异常，baseline grad norm是28.97633362。传replicate_params参数时训练的grad norm是48.47068405