cann-robotReplace blockDim with numBlocks

文件	最后提交记录	最后更新时间
scripts	add examples_cpudebug	4 个月前
CMakeLists.txt	add examples_cpudebug	4 个月前
README.md	add examples_cpudebug	4 个月前
add.cpp	Replace blockDim with numBlocks	4 个月前
data_utils.h	add examples_cpudebug	4 个月前

CPU Debug直调样例说明

概述

本样例通过Ascend C编程语言实现了Add算子的CPU Debug调测。

支持的产品

Atlas A2 训练系列产品/Atlas A2 推理系列产品
Atlas A3 训练系列产品/Atlas A3 推理系列产品

目录结构介绍

├── 03_cpudebug
│   ├── scripts
│   │   ├── gen_data.py         // 输入数据和真值数据生成脚本
│   │   └── verify_result.py    // 验证输出数据和真值数据是否一致的验证脚本
│   ├── data_utils.h            // 数据读入写出函数
│   ├── CMakeLists.txt          // 编译工程文件
│   └── add.cpp                 // Ascend C算子实现 & 调用样例

算子描述

算子功能：
CPU Debug介绍 CPU Debug功能支持对CPU执行过程中的运行状态进行调试，主要通过GDB工具实现。GDB调试支持设置断点、查看寄存器和内存状态、单步执行、查看调用栈等常用调试操作，并支持多线程程序的调试。
- Add算子介绍 Add算子实现了两个数据相加，返回相加结果的功能。对应的数学表达式为：
```
z = x + y
```
算子规格：
Add算子：

算子类型(OpType) Add

算子输入 name shape data type format

x 8 * 2048 float ND

y 8 * 2048 float ND

算子输出 z 8 * 2048 float ND

核函数名 add_custom
算子实现：

Add算子：

本样例中实现的是固定shape为8*2048的Add算子，同时添加DumpTensor用于Dump指定Tensor的内容。
- kernel实现
  
  Add算子的数学表达式为：
```
z = x + y
```
  计算逻辑是：Ascend C提供的矢量计算接口的操作元素都为LocalTensor，输入数据需要先搬运进片上存储，然后使用计算接口完成两个输入参数相加，得到最终结果，再搬出到外部存储上。
  
  Add算子的实现流程分为3个基本任务：CopyIn，Compute，CopyOut。CopyIn任务负责将Global Memory上的输入Tensor xGm和yGm搬运到Local Memory，分别存储在xLocal、yLocal，Compute任务负责对xLocal、yLocal执行加法操作，计算结果存储在zLocal中，CopyOut任务负责将输出数据从zLocal搬运至Global Memory上的输出Tensor zGm中。

编译运行

在本样例根目录下执行如下步骤，编译并执行算子。

配置环境变量
请根据当前环境上CANN开发套件包的安装方式，选择对应配置环境变量的命令。
- 默认路径，root用户安装CANN软件包
```
source /usr/local/Ascend/cann/set_env.sh
```
- 默认路径，非root用户安装CANN软件包
```
source $HOME/Ascend/cann/set_env.sh
```
- 指定路径install_path，安装CANN软件包
```
source ${install_path}/cann/set_env.sh
```
```
# 选择芯片型号
soc_version=${1:-soc_version}
```
- soc_version：昇腾AI处理器型号，如果无法确定具体的soc_version，则在安装昇腾AI处理器的服务器执行npu-smi info命令进行查询，在查询到的“Name”前增加Ascend信息，例如“Name”对应取值为xxxyy，实际配置的soc_version值为Ascendxxxyy。

样例执行

mkdir -p build && cd build;
cmake .. -Dsoc_version=${soc_version}; make -j
python3 ../scripts/gen_data.py
./add
python3 ../scripts/verify_result.py output.bin golden.bin

执行结果如下，说明精度对比成功。

test pass!

进入gdb模式调试在上述指令中"./add"前加入"gdb --args"，再次执行指令即可进入gdb模式。

mkdir -p build && cd build;
cmake .. -Dsoc_version=${soc_version}; make -j
python3 ../scripts/gen_data.py
gdb --args ./add
python3 ../scripts/verify_result.py output.bin golden.bin

算子类型(OpType)	Add
算子输入	name	shape	data type	format
	x	8 * 2048	float	ND
	y	8 * 2048	float	ND
算子输出	z	8 * 2048	float	ND
核函数名	add_custom