Scatter兼容性样例

概述

本样例演示数据离散功能,可根据输入张量和目的地址偏移张量,将输入张量分散到结果张量中。

通过编译时宏隔离不同硬件实现:

  • Atlas A2/A3:不支持Scatter指令,使用标量搬出方式(GetValue/SetValue循环)实现。
  • Ascend 950PR/Ascend 950DT:直接调用Scatter指令实现。

本样例支持的产品及CANN软件版本

产品 CANN软件版本
Ascend 950PR/Ascend 950DT >= CANN 9.1.0
Atlas A3 训练系列产品/Atlas A3 推理系列产品 >= CANN 9.0.0
Atlas A2 训练系列产品/Atlas A2 推理系列产品 >= CANN 9.0.0

目录结构介绍

├── scatter
│   ├── scripts
│   │   ├── gen_data.py         // 输入数据和真值数据生成脚本
│   │   └── verify_result.py    // 验证输出数据和真值数据是否一致
│   ├── CMakeLists.txt          // 编译工程文件
│   ├── data_utils.h            // 数据读入写出函数
│   ├── scatter_custom.asc      // Ascend C样例实现 & 调用样例
│   └── README.md               // 样例说明文档

样例规格

样例规格表
类别nameshapedata typeformat
样例输入 src[1, 128]halfND
dst_offset[1, 128]uint32ND
样例输出dst[1, 128]halfND
核函数名scatter_custom

样例实现

  • Atlas A2/A3:不支持Scatter指令,使用标量GetValue/SetValue循环逐元素读取偏移地址和源数据,将源数据写入目标位置,实现数据离散。
  • Ascend 950PR/Ascend 950DT:调用Scatter指令将源数据按偏移地址离散写入目标张量。

编译运行

在本样例根目录下执行如下步骤,编译并执行样例。

  • 配置环境变量

    请根据当前环境上CANN开发套件包的安装方式,配置环境变量。

    source ${install_path}/cann/set_env.sh
    

    说明: ${install_path} 为CANN包安装目录,未指定安装目录时默认安装至 /usr/local/Ascend 下。

  • 样例执行

    在本样例目录下执行如下命令。

    mkdir -p build && cd build;
    cmake -DCMAKE_ASC_ARCHITECTURES=dav-2201 ..;make -j;
    python3 ../scripts/gen_data.py
    ./demo
    python3 ../scripts/verify_result.py output/output.bin output/golden.bin
    

    使用CPU调试或NPU仿真模式时,添加-DCMAKE_ASC_RUN_MODE=cpu-DCMAKE_ASC_RUN_MODE=sim参数即可。

    示例如下:

    cmake -DCMAKE_ASC_RUN_MODE=cpu -DCMAKE_ASC_ARCHITECTURES=dav-2201 ..;make -j; # CPU调试模式
    cmake -DCMAKE_ASC_RUN_MODE=sim -DCMAKE_ASC_ARCHITECTURES=dav-2201 ..;make -j; # NPU仿真模式
    

    注意: 切换编译模式前需清理cmake缓存,可在build目录下执行rm CMakeCache.txt后重新cmake。

  • 编译选项说明

    选项 可选值 说明
    CMAKE_ASC_RUN_MODE npu(默认)、cpusim 运行模式:NPU运行、CPU调试、NPU仿真
    CMAKE_ASC_ARCHITECTURES dav-2201(默认)、dav-3510 NPU 架构:dav-2201 对应 Atlas A2 训练系列产品/Atlas A2 推理系列产品和 Atlas A3 训练系列产品/Atlas A3 推理系列产品,dav-3510 对应 Ascend 950PR/Ascend 950DT
  • 执行结果

    执行结果如下,说明精度对比成功:

    test pass!