SetFixPipeClipRelu
产品支持情况
功能说明
DataCopy(CO1->GM)过程中进行随路量化后,通过调用该接口设置ClipRelu操作的最大值。
ClipRelu计算公式为min(clipReluMaxVal,srcData),clipReluMaxVal为通过该接口设置的最大值,srcData为源数据。
函数原型
__aicore__ inline void SetFixPipeClipRelu(uint64_t config)
参数说明
表 1 参数说明
clipReluMaxVal,ClipRelu操作中的最大值。clipReluMaxVal只占用0-15bit,必须大于0,不能为INF/NAN。 |
约束说明
使能Relu的情况下,先进行Relu操作,之后再进行ClipRelu。
返回值说明
无
调用示例
// 使能Relu的情况下,先进行Relu操作,之后再进行ClipRelu。value 1, half类型转换成uint64_t类型
uint64_t clipReluMaxVal = 0x3c00;
SetFixPipeClipRelu(clipReluMaxVal);