Star136
193
代码
代码
Issues272
Pull Requests179
项目讨论
Wiki
分析
Star136
193
已开启
panguvl7B模型 开重计算+混精有异常 #32
songjiaqi创建于  3月4日
songjiaqi
songjiaqi成员
3月4日 创建

问题现象

panguvl7B模型

  1. 开重计算，开混精，use_reentrant=False HSDP会报错
  2. 开重计算，开混精，use_reentrant=True HSDPVision部分求导精度与FSDP2不对齐
likedislike
songjiaqisongjiaqi成员
3月4日 issue类型由 需求 改变为 Bug
fengyixingfengyixing成员
3月4日 关联了pull request：parallel run case