0_simple_stream

描述

本样例展示单 Stream 任务下发流程，包括默认 Stream 下发任务、新建 Stream 下发任务，以及在同一 Stream 多次下发任务后查询 Stream 状态。

产品支持情况

本样例支持以下产品：

产品	是否支持
Ascend 950PR/Ascend 950DT	√
Atlas A3 训练系列产品/Atlas A3 推理系列产品	√
Atlas A2 训练系列产品/Atlas A2 推理系列产品	√

编译运行

1.下载样例代码至安装CANN软件的环境，切换到样例目录。

cd ${git_clone_path}/example/1_basic_features/stream/0_simple_stream

2.设置环境变量。

# ${install_root} 替换为 CANN 安装根目录，默认安装在`/usr/local/Ascend`目录
source ${install_root}/cann/set_env.sh
export ASCEND_INSTALL_PATH=${install_root}/cann

# 设置 SOC_VERSION 和 ASCENDC_CMAKE_DIR
# -SOC_VERSION: 昇腾AI处理器的型号，如 Ascend910_9362，Ascend910B2等
# -ASCENDC_CMAKE_DIR: 样例中涉及调用AscendC算子，需配置AscendC编译器 ascendc.cmake 路径，如 /usr/local/Ascend/cann/x86_64-linux/tikcpp/ascendc_kernel_cmake
source ${git_clone_path}/example/set_sample_env.sh

3.执行以下命令运行样例。

bash run.sh

CANN RUNTIME API

在该Sample中，涉及的关键功能点及其关键接口，如下所示：

• 初始化
  • 调用 aclInit 接口进行初始化配置。
  • 调用 aclFinalize 接口实现去初始化。
• Device 管理
  • 调用 aclrtSetDevice 接口指定用于运算的 Device。
  • 调用 aclrtResetDeviceForce 接口强制复位当前运算的 Device，回收 Device 上的资源。
• Context 管理
  • 调用 aclrtCreateContext 接口创建 Context。
  • 调用 aclrtDestroyContext 接口销毁 Context。
• Stream 管理
  • 调用 aclrtCreateStream 接口创建 Stream。
  • 调用 aclrtSynchronizeStream 接口可以阻塞等待 Stream 上任务的完成。
  • 调用 aclrtSetStreamFailureMode 接口可以设置 Stream 执行任务遇到错误的操作，默认为遇错继续，可以设置为遇错即停。
  • 调用 aclrtStreamQuery 接口获取 Stream 完成的状态。
  • 调用 aclrtDestroyStreamForce 接口强制销毁 Stream，丢弃所有任务。
• 内存管理
  • 调用 aclrtMalloc 接口申请 Device 上的内存。
  • 调用 aclrtFree 接口释放 Device 上的内存。
• 数据传输
  • 调用 aclrtMemcpy 接口通过内存复制的方式实现数据传输。

示例输出

[INFO]  Use default stream assigning task.
[INFO]  Applied resource successfully, beging assigning task.
[INFO]  After assigning the task through the default stream, the current result is: 1.
[INFO]  Use created stream assigning task.
[INFO]  After assigning the task through the created stream, the current result is: 2.
[INFO]  Begin 3000 task.
[INFO]  After synchronize, stream status is: 0.
[INFO]  After loop, the current result is: 3002.
[INFO]  Resource cleanup completed.