asc_atomic_dec

产品支持情况

  • Ascend 950PR/Ascend 950DT:支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
  • Atlas 200I/500 A2 推理产品:不支持
  • Atlas 推理系列产品AI Core:不支持
  • Atlas 推理系列产品Vector Core:不支持
  • Atlas 训练系列产品:不支持

功能说明

对Unified Buffer或Global Memory上address的数值进行原子减1操作,如果address上的数值等于0或大于指定数值val,则对address赋值为val,否则将address上数值减1。

函数原型

inline uint32_t asc_atomic_dec(uint32_t *address, uint32_t val)
inline uint64_t asc_atomic_dec(uint64_t *address, uint64_t val)

参数说明

表 1 参数说明

参数名 输入/输出 描述
address 输出 Unified Buffer或Global Memory的地址。
val 输入 源操作数。

不同数据类型支持的内存范围说明如下:

表 2 不同数据类型支持的内存范围

参数数据类型 支持的内存空间
uint32_t Unified Buffer、Global Memory
uint64_t Global Memory

返回值说明

Unified Buffer或Global Memory上的初始数据。

约束说明

需要包含的头文件

使用该接口需要包含"simt_api/device_atomic_functions.h"头文件。

#include "simt_api/device_atomic_functions.h"

调用示例

示例场景为:多个线程从高到低循环分配槽位,使用asc_atomic_dec接口获取更新前的旧计数。当旧值为0时,计数器会回绕到指定上界capacity - 1。输入参数说明如下:

名称 说明
ticket Global Memory中的反向环形计数器,kernel启动前初始化。
slots 保存每个线程获得的槽位编号。
capacity 环形队列容量。
n 需要分配槽位的线程数。

核心代码实现如下:

  • SIMT编程场景:

    __global__ __launch_bounds__(256) void allocate_reverse_ring_slot(uint32_t *ticket,
                                                                    uint32_t *slots,
                                                                    uint32_t capacity,
                                                                    uint32_t n)
    {
        uint32_t idx = blockIdx.x * blockDim.x + threadIdx.x;
        if (idx >= n) {
            return;
        }
    
        uint32_t old_ticket = asc_atomic_dec(ticket, capacity - 1U);
        slots[idx] = old_ticket;
    }
    
  • SIMD与SIMT混合编程场景:

    SIMD与SIMT混合编程场景,需要显式使用地址空间限定符表示地址空间:__gm__表示Global Memory内存空间,__ubuf__表示Unified Buffer内存空间。

    __simt_vf__ __launch_bounds__(1024) inline void allocate_reverse_ring_slot(__gm__ uint32_t *ticket,
                                                                             __gm__ uint32_t *slots,
                                                                             uint32_t capacity,
                                                                             uint32_t n)
    {
        uint32_t idx = blockIdx.x * blockDim.x + threadIdx.x;
        if (idx >= n) {
            return;
        }
    
        uint32_t old_ticket = asc_atomic_dec(ticket, capacity - 1U);
        slots[idx] = old_ticket;
    }
    

输出结果示例如下:

ticket before: 0
capacity: 4
n: 6
slots: 0, 3, 2, 1, 0, 3 // 顺序由实际原子执行顺序决定
ticket after: 2