已关闭
[Requirement|需求建议]: Ascend950支持InplaceApplyMomentum算子 #4361
牛康创建于  7月27日关闭于  7月29日
牛康
牛康
7月27日 创建

Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.

Backgroud(背景信息)

  • 算子功能:
    根据动量方案更新变量"var"。若设置use_nesterov=True,则使用Nesterov动量。

  • 计算公式:

    accum=accum×momentum+gradaccum = accum \times momentum + grad

    • 若use_nesterov = True:

      var=var−(grad×lr+accum×momentum×lr)var = var - (grad \times lr + accum \times momentum \times lr)

    • 若use_nesterov = False:

      var=var−lr×accumvar = var - lr \times accum

Origin(信息来源)

长尾算子

Benefit / Necessity (价值/作用)

Design(设计方案)

likedislike
yuning_chenyuning_chen成员
7月27日 将 niukang_hw 设为负责人
CANN-robotCANN-robot成员
7月29日 关闭了 issue
CANN-robotCANN-robot成员
7月29日 添加了label:resolved