shfl_up

产品支持情况

  • Ascend 950PR/Ascend 950DT:支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
  • Atlas 200I/500 A2 推理产品:不支持
  • Atlas 推理系列产品AI Core:不支持
  • Atlas 推理系列产品Vector Core:不支持
  • Atlas 训练系列产品:不支持

功能说明

获取thread_block_tile组内当前线程向前偏移delta的线程的数据。

函数原型

template <typename T>
T shfl_up(T var, unsigned int delta) const

参数说明

表 1 参数说明

参数名 输入/输出 描述
var 输入 线程用于交换的输入操作数。支持的数据类型为:half、int32_t、uint32_t、float、half2、int64_t、uint64_t。
delta 输入 期望获取的var值所在线程在组内相对当前线程的向前偏移值。

返回值说明

协作组内当前线程向前偏移delta的线程输入的var值。若偏移后超出组范围,返回当前线程输入的var值。

约束说明

调用示例

以4个线程为一组划分线程块,获取协作组内当前线程向前偏移delta的线程输入的var值。

图 1 shfl_up接口返回结果示意图

  • SIMT编程场景:

    using namespace cooperative_groups;
    __global__ void simt_kernel(...)
    {
        ...
        thread_block block = this_thread_block();
        auto tile4 = tiled_partition<4>(block);
        uint32_t result = tile4.shfl_up(threadIdx.x + 100, 2);
        ...
    }
    
  • SIMD与SIMT混合编程场景:

    using namespace cooperative_groups;
    __simt_vf__ inline void simt_kernel(...)
    {
        ...
        thread_block block = this_thread_block();
        auto tile4 = tiled_partition<4>(block);
        uint32_t result = tile4.shfl_up(threadIdx.x + 100, 2);
        ...
    }