已关闭
[Requirement|需求建议]: nn仓新增MishGrad支持Ascend950实现 #1051
gaomingyuan创建于 2月12日关闭于 2月26日
2月12日 修改了issue 的描述
gaomingyuan
2月12日 评论：
2月12日 评论：
/assign
2月12日 将 qq_52874943 设为负责人
2月26日 issue状态由 进行中 改变为 已完成
2月26日 关闭了 issue
2月26日 添加了label：Accepted
3月20日 添加了label：resolved
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud（背景信息）
nn仓新增mishgrad算子支持Ascend950实现，支持二输入和三输入两种情况，支持bfloat16，float16，float32三种数据类型，开放aclnn通路支持Ascend950实现
Origin（信息来源）
Vector
Benefit / Necessity （价值/作用）
在神经网络训练时，MishGrad 负责计算 Mish 激活层的梯度，是反向传播的核心环节，相比 ReLU 的梯度（硬截断），MishGrad 梯度更平滑，能缓解梯度消失问题。
Design（设计方案）
MishGrad(x) = tanh(softplus(x)) + x * (1 - tanh²(softplus(x))) * sigmoid(x)