文件最后提交记录最后更新时间
30 天前
13 天前
30 天前
30 天前
30 天前
30 天前
1 个月前
1 个月前
README

AdamApplyOneAssign

产品支持情况

产品 是否支持
Ascend 950PR/Ascend 950DT
Atlas A3 训练系列产品/Atlas A3 推理系列产品 ×
Atlas A2 训练系列产品/Atlas A2 推理系列产品 ×
Atlas 200I/500 A2 推理产品 ×
Atlas 推理系列产品 ×
Atlas 训练系列产品 ×

功能说明

  • 算子功能:执行Adam优化器的一次参数更新,10输入3输出,支持broadcast。

  • 计算公式:

out_input1=input1×mul2_x+input0²×mul3_xout\_input1 = input1 × mul2\_x + input0² × mul3\_x

out_input2=mul0_x×input2+mul1_x×input0out\_input2 = mul0\_x × input2 + mul1\_x × input0

out_input3=input3−out_input2/(sqrt(out_input1)+add2_y)×input4out\_input3 = input3 - out\_input2 / (sqrt(out\_input1) + add2\_y) × input4

  • 支持broadcast:所有输入shape需满足broadcast关系,输出shape为广播后的最大值shape。

参数说明

参数名 输入/输出/属性 描述 数据类型 数据格式
input0 输入 公式中输入张量input0。 FLOAT、FLOAT16 ND
input1 输入 公式中输入张量input1。 FLOAT、FLOAT16 ND
input2 输入 公式中输入张量input2。 FLOAT、FLOAT16 ND
input3 输入 公式中输入张量input3。 FLOAT、FLOAT16 ND
input4 输入 公式中输入张量input4。 FLOAT、FLOAT16 ND
mul0_x 输入 公式中输入张量mul0_x。 FLOAT、FLOAT16 ND
mul1_x 输入 公式中输入张量mul1_x。 FLOAT、FLOAT16 ND
mul2_x 输入 公式中输入张量mul2_x。 FLOAT、FLOAT16 ND
mul3_x 输入 公式中输入张量mul3_x。 FLOAT、FLOAT16 ND
add2_y 输入 公式中输入张量add2_y。 FLOAT、FLOAT16 ND
input1 输出 公式中输出张量out_input1。 FLOAT、FLOAT16 ND
input2 输出 公式中输出张量out_input2。 FLOAT、FLOAT16 ND
input3 输出 公式中输出张量out_input3。 FLOAT、FLOAT16 ND

约束说明

  • 输入shape维度最大为8。
  • 所有输入和输出的数据类型必须一致。

调用说明

调用方式 调用样例 说明
图模式调用 test_geir_adam_apply_one_assign 通过算子IR构图方式调用AdamApplyOneAssign算子。