asc_float2e5m2

产品支持情况

产品 是否支持
Ascend 950PR/Ascend 950DT

功能说明

将float类型数据转换为fp8_e5m2类型。

  • 非饱和模式:
    • 输入数据超过输出类型最值时,结果被截断为目标格式的数据宽度。
    • 输入数据为+/-inf时,返回输出类型的最值。
    • 输入数据为nan时,返回0。
  • 饱和模式:
    • 输入数据超过输出类型最值时,返回输出类型的对应最值。
    • 输入数据为+/-inf时,返回输出类型的最值。
    • 输入数据为nan时,返回0。

函数原型

// RINT舍入模式,非饱和模式,数据写入索引为0的位置
__simd_callee__ inline void asc_float2e5m2_rn(vector_fp8_e5m2_t& dst, vector_float src, vector_bool mask)
// RINT舍入模式,非饱和模式,数据写入索引为1的位置
__simd_callee__ inline void asc_float2e5m2_rn_v2(vector_fp8_e5m2_t& dst, vector_float src, vector_bool mask)
// RINT舍入模式,非饱和模式,数据写入索引为2的位置
__simd_callee__ inline void asc_float2e5m2_rn_v3(vector_fp8_e5m2_t& dst, vector_float src, vector_bool mask)
// RINT舍入模式,非饱和模式,数据写入索引为3的位置
__simd_callee__ inline void asc_float2e5m2_rn_v4(vector_fp8_e5m2_t& dst, vector_float src, vector_bool mask)
// RINT舍入模式,饱和模式,数据写入索引为0的位置
__simd_callee__ inline void asc_float2e5m2_rn_sat(vector_fp8_e5m2_t& dst, vector_float src, vector_bool mask)
// RINT舍入模式,饱和模式,数据写入索引为1的位置
__simd_callee__ inline void asc_float2e5m2_rn_sat_v2(vector_fp8_e5m2_t& dst, vector_float src, vector_bool mask)
// RINT舍入模式,饱和模式,数据写入索引为2的位置
__simd_callee__ inline void asc_float2e5m2_rn_sat_v3(vector_fp8_e5m2_t& dst, vector_float src, vector_bool mask)
// RINT舍入模式,饱和模式,数据写入索引为3的位置
__simd_callee__ inline void asc_float2e5m2_rn_sat_v4(vector_fp8_e5m2_t& dst, vector_float src, vector_bool mask)

参数说明

参数名 输入/输出 描述
dst 输出 目的操作数(矢量数据寄存器)。
src 输入 源操作数(矢量数据寄存器)。
mask 输入 源操作数掩码(掩码寄存器),用于指示在计算过程中哪些元素参与计算。对应位置为1时参与计算,为0时不参与计算。mask未筛选的元素在输出中置零。

矢量数据寄存器和掩码寄存器的详细说明请参见reg数据类型定义.md

返回值说明

流水类型

PIPE_V

约束说明

  • 开启饱和模式和非饱和模式时,需配置ctrl寄存器,ctrl寄存器的详细说明请参见asc_set_ctrl.md

调用示例

vector_fp8_e5m2_t dst;
vector_float src;
vector_bool mask = asc_create_mask_b32(PAT_ALL);
asc_loadalign(src, src_addr); // src_addr是外部输入的UB内存空间地址。
asc_float2e5m2_rn(dst, src, mask);