已关闭
[Bug]: TP并行行切embedding接口存在精度问题 #2213
yule100创建于  3月2日关闭于  3月28日
yule100成员
3月2日 创建

Checklist


[x] 1. 我已经搜索过相关问题,但没有得到预期的帮助.

[x] 2. 最新版本中该错误尚未修复.

[x] 3. 请注意,如果您提交的Bug描述缺少相应的环境信息和最小可复现的demo,我们将很难复现和解决该问题,从而降低收到反馈的可能性,甚至该问题将被关闭.

🐞 问题详细描述

(
        {"use_local_output": False, "parallel_style": "RowwiseParallel", "input_layouts": "Replicate()",
         "output_layouts": "Shard(1)", "input_type": "local_tensor"},
        {"output": "output_only"},
        False,
        2
),

当前用例精度没法对齐单卡

详细的环境信息描述

mf master + hyper-parallel master

其他辅助信息

版本信息

master

Thanks for contributing 🎉!

likedislike
Yyule100成员
3月2日 添加了label:bug
Yyule100成员
3月2日 关联组件 由 [] 改变为 [B-SIG-MindFormers-Train]
Yyule100成员
3月2日 问题后端类型 由 [] 改变为 [Ascend]
Yyule100成员
3月2日 关联分支 由 [] 改变为 [master]
niujunhao成员
3月28日 评论:

问题根因:

  1. hp没有适配embedding算子的并行计算
  2. 通过gather进行替换进行并行计算

修复PR:
https://gitcode.com/mindspore/mindformers/pull/8169

likedislike
Yyule100成员
3月28日 将 yule100 设为负责人
Yyule100成员
3月28日 issue状态由 TODO 改变为 ACCEPTED
Yyule100成员
3月28日 issue状态由 ACCEPTED 改变为 WIP
Yyule100成员
3月28日 issue状态由 WIP 改变为 DONE
Yyule100成员
3月28日 关闭了 issue