Exp样例
概述
本样例基于Exp高阶API实现自然指数计算功能,支持按元素计算exe^x。Exp高阶API可以设置泰勒展开项数,取值范围[0,255],当泰勒展开项数为0时表示不使用泰勒公式进行计算。本样例默认设置泰勒展开项数为10项。
本样例支持的产品及CANN软件版本
| 产品 | CANN软件版本 |
|---|---|
| Ascend 950PR/Ascend 950DT | >= CANN 9.1.0 |
| Atlas A3 训练系列产品/Atlas A3 推理系列产品 | >= CANN 9.0.0 |
| Atlas A2 训练系列产品/Atlas A2 推理系列产品 | >= CANN 9.0.0 |
目录结构介绍
├── exp
│ ├── scripts
│ │ └── gen_data.py // 输入数据和真值数据生成脚本
│ ├── CMakeLists.txt // 编译工程文件
│ ├── data_utils.h // 数据读入写出函数
│ ├── exp.asc // Ascend C算子实现 & 调用样例
│ └── README.md // 样例说明文档
样例描述
-
样例功能:
按元素取自然指数,用户可以选择是否使用泰勒展开公式进行计算,计算公式如下:dstLocali=Exp(srcLocali)dstLocal_i = Exp(srcLocal_i)
设置泰勒展开项数为0,即不使用泰勒展开公式进行计算,公式如下:
Exp(x)=exExp(x) = e^x
设置泰勒展开项数不为0,即使用泰勒展开公式进行计算,公式如下:
Exp(x)=exAi∗exBiExp(x) = e^{x A_{i}} * e^{x B_{i}}
xAixA_i代表源操作数的整数部分,该值通过floor(x)获取。xBixB_i代表源操作数的小数部分。
泰勒展开公式如下:
exBi=1+xBi+...+xBinn!e^{x B_i} = 1 + xB_i +... + \frac{xB_i^n}{n!}
-
样例规格:
表1:样例输入输出规格 样例类型(OpType) exp 样例输入 name shape data type format src [1, 8192] float ND 样例输出 dst [1, 8192] float ND 核函数名 exp_custom -
样例实现:
本样例中实现的是固定shape为输入src[1, 8192],输出dst[1, 8192]的exp_custom样例。-
Kernel实现
使用Exp高阶API计算自然指数,可选择使用泰勒展开公式和临时buffer提高精度
-
Tiling实现
Host侧通过GetExpMaxMinTmpSize获取Exp接口计算所需的最大和最小临时空间。
-
调用实现
使用内核调用符<<<>>>调用核函数。
-
编译运行
在本样例根目录下执行如下步骤,编译并执行算子。
-
配置环境变量
请根据当前环境上CANN开发套件包的安装方式,配置环境变量。source ${install_path}/cann/set_env.sh说明:
${install_path}为CANN包安装目录,未指定安装目录时默认安装至/usr/local/Ascend下。 -
样例执行
在本样例目录下执行如下命令。
mkdir -p build && cd build; # 创建并进入build目录 cmake -DCMAKE_ASC_ARCHITECTURES=dav-2201 ..;make -j; # 编译工程,默认npu模式 python3 ../scripts/gen_data.py # 生成测试输入数据 ./demo # 执行编译生成的可执行程序,执行样例使用 CPU调试 或 NPU仿真 模式时,添加
-DCMAKE_ASC_RUN_MODE=cpu或-DCMAKE_ASC_RUN_MODE=sim参数即可。示例如下:
cmake -DCMAKE_ASC_RUN_MODE=cpu -DCMAKE_ASC_ARCHITECTURES=dav-2201 ..;make -j; # cpu调试模式 cmake -DCMAKE_ASC_RUN_MODE=sim -DCMAKE_ASC_ARCHITECTURES=dav-2201 ..;make -j; # NPU仿真模式注意: 切换编译模式前需清理 cmake 缓存,可在 build 目录下执行
rm CMakeCache.txt后重新 cmake。 -
编译选项说明
选项 可选值 说明 CMAKE_ASC_RUN_MODEnpu(默认)、cpu、sim运行模式:NPU 运行、CPU调试、NPU仿真 CMAKE_ASC_ARCHITECTURESdav-2201(默认)、dav-3510NPU 架构:dav-2201 对应 Atlas A2 训练系列产品/Atlas A2 推理系列产品和 Atlas A3 训练系列产品/Atlas A3 推理系列产品,dav-3510 对应 Ascend 950PR/Ascend 950DT -
执行结果
执行结果如下,说明精度对比成功。
test pass!