asc_repeat_reduce_max
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Atlas A3 训练系列产品/Atlas A3 推理系列产品 | √ |
| Atlas A2 训练系列产品/Atlas A2 推理系列产品 | √ |
功能说明
对每个Repeat内所有元素求最大值,以及Repeat内的首个最大值元素在当前Repeat中的索引index。一次Repeat计算256字节。
index_value 接口:表示index位于低半部,返回结果存储顺序为[index, value]。输入数据类型为half时,index数据类型为uint16;输入数据类型为float时,index数据类型为uint32。 value_index 接口:表示value位于低半部,返回结果存储顺序为[value, index]。输入数据类型为half时,index数据类型为uint16;输入数据类型为float时,index数据类型为uint32。 only_value 接口:表示只返回最值,返回结果存储顺序为[value]。 only_index 接口:表示只返回最值索引,返回结果存储顺序为[index]。index数据类型固定为uint32
执行此接口后,可以继续执行asc_get_reduce_max_cnt获取全部repeat内的最大值,以及第一个最大值时的索引。
函数原型
-
前n个数据计算
__aicore__ inline void asc_repeat_reduce_max_index_value(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count) __aicore__ inline void asc_repeat_reduce_max_index_value(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count) __aicore__ inline void asc_repeat_reduce_max_value_index(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count) __aicore__ inline void asc_repeat_reduce_max_value_index(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count) __aicore__ inline void asc_repeat_reduce_max_only_value(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count) __aicore__ inline void asc_repeat_reduce_max_only_value(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count) __aicore__ inline void asc_repeat_reduce_max_only_index(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count) __aicore__ inline void asc_repeat_reduce_max_only_index(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count) -
高维切分计算
__aicore__ inline void asc_repeat_reduce_max_index_value(__ubuf__ half* dst, __ubuf__ half* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride) __aicore__ inline void asc_repeat_reduce_max_index_value(__ubuf__ float* dst, __ubuf__ float* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride) __aicore__ inline void asc_repeat_reduce_max_value_index(__ubuf__ half* dst, __ubuf__ half* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride) __aicore__ inline void asc_repeat_reduce_max_value_index(__ubuf__ float* dst, __ubuf__ float* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride) __aicore__ inline void asc_repeat_reduce_max_only_value(__ubuf__ half* dst, __ubuf__ half* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride) __aicore__ inline void asc_repeat_reduce_max_only_value(__ubuf__ float* dst, __ubuf__ float* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride) __aicore__ inline void asc_repeat_reduce_max_only_index(__ubuf__ half* dst, __ubuf__ half* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride) __aicore__ inline void asc_repeat_reduce_max_only_index(__ubuf__ float* dst, __ubuf__ float* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride) -
同步计算
__aicore__ inline void asc_repeat_reduce_max_index_value_sync(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count) __aicore__ inline void asc_repeat_reduce_max_index_value_sync(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count) __aicore__ inline void asc_repeat_reduce_max_value_index_sync(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count) __aicore__ inline void asc_repeat_reduce_max_value_index_sync(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count) __aicore__ inline void asc_repeat_reduce_max_only_value_sync(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count) __aicore__ inline void asc_repeat_reduce_max_only_value_sync(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count) __aicore__ inline void asc_repeat_reduce_max_only_index_sync(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count) __aicore__ inline void asc_repeat_reduce_max_only_index_sync(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count)
参数说明
表1 参数说明
| 参数名 | 输入/输出 | 描述 |
|---|---|---|
| dst | 输出 | 目的操作数(矢量)的起始地址。 |
| src | 输入 | 源操作数(矢量)的起始地址。 |
| count | 输入 | 参与计算的元素个数。 |
| repeat | 输入 | 迭代次数。 |
| dst_repeat_stride | 输入 | 目的操作数相邻迭代间的地址步长,单位为一个repeat计算后的长度,具体如下: 返回最值和索引时,若输出数据类型为T,则单位为sizeof(T)*2。 仅返回最值且输入类型为T时,单位为sizeof(T)。 仅返回索引时,单位为4字节(sizeof(uint32)) |
| src_block_stride | 输入 | 源操作数单次迭代内不同DataBlock间地址步长。 |
| src_repeat_stride | 输入 | 源操作数相邻迭代间相同DataBlock的地址步长。 |
返回值说明
无
流水类型
PIPE_V
约束说明
- 输出中的索引index的数据是按照dst的数据类型进行存储,比如float输出的index数据应该为uint32,则读取时需要将float重新解释为uint32。
- 操作数地址重叠约束请参考通用地址重叠约束。
- dst的起始地址,输入类型为half时需要4字节对齐,输入类型为float时需要8字节对齐。
- src的起始地址需要32字节对齐。
调用示例
// 示例计算256个half的最大值和索引,分2次迭代完成,计算结果为2组value_index
constexpr uint32_t total_length = 256;
__ubuf__ half src[total_length];
constexpr uint32_t dst_length = 4;
__ubuf__ half dst[dst_length];
uint8_t repeat = 2;
// 单位为 sizeof(half)*2 = 4字节,连续存放
uint16_t dst_repeat_stride = 1;
uint16_t src_block_stride = 1;
uint16_t src_repeat_stride = 8;
asc_repeat_reduce_max_value_index(dst, src, repeat, dst_repeat_stride, src_block_stride, src_repeat_stride);
结果示例:
输入数据src:[1, 2, 3, ..., 128, 129, ..., 256]
输出数据dst:[128, 7.6e-6, 256, 7.6e-6]
输出说明:half类型7.6e-6的二进制是0x007F,重新解释为uint32后即为最大值索引127