asc_repeat_reduce_max

产品支持情况

产品 是否支持
Atlas A3 训练系列产品/Atlas A3 推理系列产品
Atlas A2 训练系列产品/Atlas A2 推理系列产品

功能说明

对每个Repeat内所有元素求最大值,以及Repeat内的首个最大值元素在当前Repeat中的索引index。一次Repeat计算256字节。

index_value 接口:表示index位于低半部,返回结果存储顺序为[index, value]。输入数据类型为half时,index数据类型为uint16;输入数据类型为float时,index数据类型为uint32。 value_index 接口:表示value位于低半部,返回结果存储顺序为[value, index]。输入数据类型为half时,index数据类型为uint16;输入数据类型为float时,index数据类型为uint32。 only_value 接口:表示只返回最值,返回结果存储顺序为[value]。 only_index 接口:表示只返回最值索引,返回结果存储顺序为[index]。index数据类型固定为uint32

执行此接口后,可以继续执行asc_get_reduce_max_cnt获取全部repeat内的最大值,以及第一个最大值时的索引。

函数原型

  • 前n个数据计算

    __aicore__ inline void asc_repeat_reduce_max_index_value(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count)
    __aicore__ inline void asc_repeat_reduce_max_index_value(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count)
    __aicore__ inline void asc_repeat_reduce_max_value_index(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count)
    __aicore__ inline void asc_repeat_reduce_max_value_index(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count)
    __aicore__ inline void asc_repeat_reduce_max_only_value(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count)
    __aicore__ inline void asc_repeat_reduce_max_only_value(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count)
    __aicore__ inline void asc_repeat_reduce_max_only_index(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count)
    __aicore__ inline void asc_repeat_reduce_max_only_index(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count)
    
  • 高维切分计算

    __aicore__ inline void asc_repeat_reduce_max_index_value(__ubuf__ half* dst, __ubuf__ half* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride)
    __aicore__ inline void asc_repeat_reduce_max_index_value(__ubuf__ float* dst, __ubuf__ float* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride)
    __aicore__ inline void asc_repeat_reduce_max_value_index(__ubuf__ half* dst, __ubuf__ half* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride)
    __aicore__ inline void asc_repeat_reduce_max_value_index(__ubuf__ float* dst, __ubuf__ float* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride)
    __aicore__ inline void asc_repeat_reduce_max_only_value(__ubuf__ half* dst, __ubuf__ half* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride)
    __aicore__ inline void asc_repeat_reduce_max_only_value(__ubuf__ float* dst, __ubuf__ float* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride)
    __aicore__ inline void asc_repeat_reduce_max_only_index(__ubuf__ half* dst, __ubuf__ half* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride)
    __aicore__ inline void asc_repeat_reduce_max_only_index(__ubuf__ float* dst, __ubuf__ float* src, uint8_t repeat, uint16_t dst_repeat_stride, uint16_t src_block_stride, uint16_t src_repeat_stride)
    
  • 同步计算

    __aicore__ inline void asc_repeat_reduce_max_index_value_sync(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count)
    __aicore__ inline void asc_repeat_reduce_max_index_value_sync(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count)
    __aicore__ inline void asc_repeat_reduce_max_value_index_sync(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count)
    __aicore__ inline void asc_repeat_reduce_max_value_index_sync(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count)
    __aicore__ inline void asc_repeat_reduce_max_only_value_sync(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count)
    __aicore__ inline void asc_repeat_reduce_max_only_value_sync(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count)
    __aicore__ inline void asc_repeat_reduce_max_only_index_sync(__ubuf__ half* dst, __ubuf__ half* src, uint32_t count)
    __aicore__ inline void asc_repeat_reduce_max_only_index_sync(__ubuf__ float* dst, __ubuf__ float* src, uint32_t count)
    

参数说明

表1 参数说明

参数名 输入/输出 描述
dst 输出 目的操作数(矢量)的起始地址。
src 输入 源操作数(矢量)的起始地址。
count 输入 参与计算的元素个数。
repeat 输入 迭代次数。
dst_repeat_stride 输入 目的操作数相邻迭代间的地址步长,单位为一个repeat计算后的长度,具体如下:
返回最值和索引时,若输出数据类型为T,则单位为sizeof(T)*2。
仅返回最值且输入类型为T时,单位为sizeof(T)。
仅返回索引时,单位为4字节(sizeof(uint32))
src_block_stride 输入 源操作数单次迭代内不同DataBlock间地址步长。
src_repeat_stride 输入 源操作数相邻迭代间相同DataBlock的地址步长。

返回值说明

流水类型

PIPE_V

约束说明

  • 输出中的索引index的数据是按照dst的数据类型进行存储,比如float输出的index数据应该为uint32,则读取时需要将float重新解释为uint32。
  • 操作数地址重叠约束请参考通用地址重叠约束
  • dst的起始地址,输入类型为half时需要4字节对齐,输入类型为float时需要8字节对齐。
  • src的起始地址需要32字节对齐。

调用示例

// 示例计算256个half的最大值和索引,分2次迭代完成,计算结果为2组value_index
constexpr uint32_t total_length = 256;
__ubuf__ half src[total_length];
constexpr uint32_t dst_length = 4;
__ubuf__ half dst[dst_length];

uint8_t repeat = 2;
// 单位为 sizeof(half)*2 = 4字节,连续存放
uint16_t dst_repeat_stride = 1;
uint16_t src_block_stride = 1;
uint16_t src_repeat_stride = 8;
asc_repeat_reduce_max_value_index(dst, src, repeat, dst_repeat_stride, src_block_stride, src_repeat_stride);

结果示例:

输入数据src:[1, 2, 3, ..., 128, 129, ..., 256]
输出数据dst:[128, 7.6e-6, 256, 7.6e-6]
输出说明:half类型7.6e-6的二进制是0x007F,重新解释为uint32后即为最大值索引127