舍入模式与饱和模式

概述

在进行数据类型转换时，Ascend C API支持多种舍入模式和饱和模式。这些模式决定了当源数据类型转换为不同精度或范围的目标数据类型时，如何处理数值的舍入和溢出问题。

• 舍入模式：主要用于浮点数之间的转换或浮点数转整数时，确定如何将高精度数值舍入到低精度表示。
• 饱和模式/非饱和模式：处理数值超出目标数据类型表示范围时的溢出行为。

舍入模式说明

Ascend C API支持以下舍入模式：

舍入模式	函数后缀	说明	示例
RINT	_rn	四舍六入五成双舍入（Banker's Rounding）。当小数部分为0.5时，舍入到最近的偶数。	1.5 → 2, 2.5 → 2, 3.5 → 4
ROUND	_rna	四舍五入舍入。小数部分≥0.5时向上舍入，<0.5时向下舍入。	1.4 → 1, 1.5 → 2, 1.6 → 2
FLOOR	_rd	向负无穷方向舍入。总是向下取整。	1.7 → 1, -1.3 → -2
CEIL	_ru	向正无穷方向舍入。总是向上取整。	1.3 → 2, -1.7 → -1
TRUNC	_rz	向零方向舍入。直接截断小数部分。	1.7 → 1, -1.7 → -1
ODD	_ro	最近邻奇数舍入。舍入到最近的奇数。	1.5 → 1, 2.5 → 3, 3.5 → 3
HYBRID	_rh	混合舍入模式。特指输出结果为hifloat8_t数据时使用的一种随机舍入模式。	-

舍入模式详细说明

RINT（四舍六入五成双）

也称为"银行家舍入法"，是一种统计学上最无偏的舍入方法。

• 当小数部分小于0.5时，向下舍入
• 当小数部分大于0.5时，向上舍入
• 当小数部分等于0.5时，舍入到最近的偶数

示例：

1.4 → 1  (小数部分 < 0.5，向下)
1.5 → 2  (小数部分 = 0.5，舍入到偶数)
2.5 → 2  (小数部分 = 0.5，舍入到偶数)
3.5 → 4  (小数部分 = 0.5，舍入到偶数)
-1.5 → -2 (小数部分 = 0.5，舍入到偶数)

ROUND（四舍五入）

最常用的舍入方法，符合日常习惯。

• 当小数部分小于0.5时，向下舍入
• 当小数部分大于等于0.5时，向上舍入

示例：

1.4 → 1  (小数部分 < 0.5)
1.5 → 2  (小数部分 ≥ 0.5)
1.6 → 2  (小数部分 ≥ 0.5)
-1.5 → -2 (向绝对值更大的方向舍入)

FLOOR（向下取整）

始终向负无穷方向舍入，即使结果变小。

示例：

1.7 → 1   (向下)
-1.3 → -2 (向负无穷方向，变得更小)

CEIL（向上取整）

始终向正无穷方向舍入，即使结果变大。

示例：

1.3 → 2   (向上)
-1.7 → -1 (向正无穷方向，变得更大)

TRUNC（向零截断）

直接截断小数部分，向零方向舍入。

示例：

1.7 → 1   (向零方向)
-1.7 → -1 (向零方向)

ODD（奇数舍入）

舍入到最近的奇数，主要用于某些特殊的数值计算场景。

示例：

1.5 → 1  (最近的奇数)
2.5 → 3  (最近的奇数)
3.5 → 3  (最近的奇数)

饱和模式与非饱和模式说明

当数据类型转换时，源数据的值可能超出目标数据类型的表示范围，此时需要通过饱和模式或非饱和模式来处理溢出。

非饱和模式（Non-Saturation Mode）

在非饱和模式下，当数据超出目标类型范围时：

整型转换

• 结果被截断：保留最低有效位（LSB），高位直接丢弃
• 二进制截断示例：将int32转换为int8时，只保留低8位

二进制截断示例（int32 → int8）：

输入值（int32）:  0x000001FF (511)
二进制表示:       0000 0000 0000 0000 0000 0001 1111 1111
截断后（int8）:   1111 1111 (0xFF, -1)
说明：只保留低8位，高位丢弃

输入值（int32）:  0x00000100 (256)
二进制表示:       0000 0000 0000 0000 0000 0001 0000 0000
截断后（int8）:   0000 0000 (0x00, 0)
说明：只保留低8位，高位丢弃

输入值（int32）:  0xFFFFFF00 (-256)
二进制表示:       1111 1111 1111 1111 1111 1111 0000 0000
截断后（int8）:   0000 0000 (0x00, 0)
说明：只保留低8位，高位丢弃

浮点数转换

• 超出范围：返回输出类型的对应符号inf值（正/负无穷）
• ±inf输入：返回±inf
• NaN输入：返回NaN

示例（float → half）：

输入值: 70000.0 (超出half范围)
输出值: +inf

输入值: -70000.0
输出值: -inf

输入值: NaN
输出值: NaN

浮点转整型

• 超出范围：结果被截断至目标格式的数据宽度
• ±inf输入：返回输出类型的最值
• NaN输入：返回0

示例（float → int16）：

输入值: 100000.5 (超出int16范围)
非饱和模式: 结果被截断（具体值取决于二进制表示）

输入值: +inf
输出值: 32767 (int16最大值)

输入值: NaN
输出值: 0

饱和模式（Saturation Mode）

在饱和模式下，当数据超出目标类型范围时，结果被限制在目标类型的可表示范围内：

整型转换

• 超出范围：返回目标类型的最大值或最小值
• 保持数值安全：不会出现因截断导致的意外结果

示例（int32 → int8）：

输入值: 511 (超出int8范围)
饱和输出: 127 (int8最大值)

输入值: -300 (超出int8范围)
饱和输出: -128 (int8最小值)

输入值: 100 (在int8范围内)
饱和输出: 100 (保持不变)

示例（int32 → uint8）：

输入值: 500 (超出uint8范围)
饱和输出: 255 (uint8最大值)

输入值: -10 (超出uint8范围)
饱和输出: 0 (uint8最小值)

输入值: 100 (在uint8范围内)
饱和输出: 100 (保持不变)

浮点数转换

• 超出范围：返回输出类型的对应最值
• ±inf输入：返回输出类型的对应最值
• NaN输入：返回0

示例（float → half）：

输入值: 70000.0 (超出half范围)
饱和输出: 65504.0 (half最大值)

输入值: -70000.0
饱和输出: -65504.0 (half最小值)

输入值: +inf
饱和输出: 65504.0 (half最大值)

输入值: NaN
饱和输出: 0

浮点转整型

• 超出范围：返回输出类型的对应最值
• ±inf输入：返回输出类型的对应最值
• NaN输入：返回0

示例（float → int16）：

输入值: 100000.5 (超出int16范围)
饱和输出: 32767 (int16最大值)

输入值: -50000.0
饱和输出: -32768 (int16最小值)

输入值: +inf
饱和输出: 32767

输入值: NaN
饱和输出: 0

模式对比总结

场景	非饱和模式	饱和模式
整型转整型（溢出）	截断低位，高位丢弃	返回目标类型最值
浮点转浮点（超出范围）	返回±inf	返回目标类型最值
浮点转整型（超出范围）	截断至目标宽度	返回目标类型最值
浮点转整型（±inf）	返回目标类型最值	返回目标类型最值
浮点转浮点（±inf）	返回±inf	返回目标类型最值
NaN输入	返回NaN或0	返回0

配置方法

开启饱和模式和非饱和模式时，需配置ctrl寄存器。ctrl寄存器的详细说明请参见asc_set_ctrl接口。