对于没有转换成DTensor的Parameter(例如fully_shard的ignored_params),拿不到layout信息,后续的相关操作(权重转换)无法正常处理。
给layout一个默认值None,而不是跳过处理。后续get到None时,Tensor当做没切分处理。
当前问题:
对于没有转换成DTensor的Parameter(例如fully_shard的ignored_params),拿不到layout信息,后续的相关操作(权重转换)无法正常处理。
解决办法:
给layout一个默认值None,而不是跳过处理。后续get到None时,Tensor当做没切分处理。