FilesLast commitLast update
24 days ago
4 months ago
2 months ago
1 month ago
23 days ago
1 month ago
2 months ago
2 months ago
1 month ago
1 month ago
README

Mish

产品支持情况

产品 是否支持
Ascend 950PR&950DT系列产品 √
Atlas A3系列产品 √
Atlas A2系列产品 √
Atlas 200I/500 A2推理产品 ×
Atlas推理系列产品 ×
Atlas训练系列产品 √

功能说明

  • 算子功能:一个自正则化的非单调神经网络激活函数。

  • 计算公式:

outi=selfi×tanh⁡(Softplus(selfi))out_i = self_i \times \tanh(\mathrm{Softplus}(\mathrm{self}_i))

其中,Softplus(selfi)=ln⁡(1+exp⁡(selfi))\mathrm{Softplus}(self_i) = \ln{(1 + \exp{(self_i)})}

参数说明

参数名 输入/输出/属性 描述 数据类型 数据格式
self 输入 待进行Mish激活计算的入参,对应计算公式中的self。 FLOAT、FLOAT16、BFLOAT16 ND
out 输出 Mish激活计算的出参,对应计算公式中的out。 FLOAT、FLOAT16、BFLOAT16 ND
  • Atlas训练系列产品:数据类型支持FLOAT、FLOAT16。

约束说明

  • 输入shape限制:输入维度不能超过8维,仅支持0-8维。

调用说明

调用方式 调用样例 说明
aclnn调用 test_aclnn_mish 通过aclnnMish&aclnnInplaceMish接口方式调用Mish算子。
aclnn调用 test_aclnn_inplace_mish 通过aclnnMish&aclnnInplaceMish接口方式调用Mish算子。
图模式 - 通过算子IR构图方式调用Mish算子。