文件最后提交记录最后更新时间
18 天前
2 天前
18 天前
18 天前
18 天前
2 天前
5 个月前
3 个月前
README

ApplyGradientDescent

产品支持情况

产品 是否支持
Ascend 950PR/Ascend 950DT
Atlas A3 训练系列产品/Atlas A3 推理系列产品
Atlas A2 训练系列产品/Atlas A2 推理系列产品
Atlas 200I/500 A2 推理产品 ×
Atlas 推理系列产品s
Atlas 训练系列产品

功能说明

  • 算子功能:用于在梯度下降训练过程中更新模型参数。

  • 计算公式:

    var=var−alpha×deltavar = var - alpha \times delta

    其中,var表示待更新的模型参数,alpha表示学习率,delta表示参数的梯度。

参数说明

参数名 输入/输出/属性 描述 数据类型 数据格式
var 输入 待更新的模型参数,公式中的var。 FLOAT、FLOAT16、BFLOAT16 ND
alpha 输入 学习率,控制参数更新的步长,公式中的alpha。 FLOAT、FLOAT16、BFLOAT16 ND
delta 输入 对应参数var的梯度值,公式中的delta。 FLOAT、FLOAT16、BFLOAT16 ND
var 输出 更新后的模型参数,公式中的var。 FLOAT、FLOAT16、BFLOAT16 ND

约束说明

调用说明

调用方式 调用样例 说明
图模式调用 test_geir_apply_gradient_descent 通过算子IR构图方式调用ApplyGradientDescent算子。