| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 14 天前 | ||
| 1 个月前 | ||
| 1 个月前 | ||
| 1 个月前 | ||
| 1 个月前 | ||
| 2 个月前 | ||
| 2 个月前 |
Gelu
产品支持情况
|| 产品 | 是否支持 | || :----------------------------------------------------------- | :------: | || Atlas A2 训练系列产品/Atlas 800I A2推理产品 | √ |
功能说明
- 算子功能:逐元素计算张量的Gelu(Gaussian Error Linear Unit)激活函数。
- 计算公式为:
Gelu(x)=x⋅Φ(x)=x2[1+erf(x2)]\text{Gelu}(x) = x \cdot \Phi(x) = \frac{x}{2} \left[ 1 + \text{erf}\left(\frac{x}{\sqrt{2}}\right) \right]
近似计算公式(Tanh近似):
Gelu(x)≈x1+exp(−1.595769122⋅(x+0.0455399241⋅x3))\text{Gelu}(x) \approx \frac{x}{1 + \exp\left(-1.595769122 \cdot (x + 0.0455399241 \cdot x^3)\right)}
参数说明
| 参数名 | 输入/输出/属性 | 描述 | 数据类型 | 数据格式 |
|---|---|---|---|---|
| x | 输入 | 公式中的输入张量x | FLOAT、FLOAT16、BFLOAT16 | ND |
| y | 输出 | 公式中的输出张量y | FLOAT、FLOAT16、BFLOAT16 | ND |
调用说明
|| 调用方式 | 调用样例 | 说明 | ||--------------|------------------------------------------------------------------------|----------------------------------------------------------------| || aclnn调用 | test_aclnn_gelu | 通过aclnnGelu接口方式调用Gelu算子。 |
贡献说明
|| 贡献者 | 贡献方 | 贡献算子 | 贡献时间 | 贡献内容 | || ---- | ---- | ---- | ---- | ---- | || fulltower | 个人开发者 | Gelu | 2026/05/18 | 新增Gelu算子 |