Fma样例
概述
本样例基于Fma高阶API实现按元素计算两个输入相乘后与第三个输入相加的功能。
本样例支持的产品及CANN软件版本
| 产品 | CANN软件版本 |
|---|---|
| Ascend 950PR/Ascend 950DT | >= CANN 9.1.0 |
目录结构介绍
├── fma
│ ├── scripts
│ │ └── gen_data.py // 输入数据和真值数据生成脚本
│ ├── CMakeLists.txt // 编译工程文件
│ ├── data_utils.h // 数据读入写出函数
│ ├── fma.asc // Ascend C样例实现 & 调用样例
│ └── README.md // 样例说明文档
样例描述
-
样例功能:
按元素计算两个输入相乘后与第三个输入相加的结果。计算公式如下:
dsti=Fma(src0i,src1i,src2i)dst_i = Fma(src0_i, src1_i, src2_i)
Fma(src0i,src1i,src2i)=src0i∗src1i+src2iFma(src0_i, src1_i, src2_i) = src0_i * src1_i + src2_i
-
样例规格:
样例类型(OpType) fma 样例输入 name shape data type format src0 [1, 128] float ND src1 [1, 128] float ND src2 [1, 128] float ND 样例输出 dst [1, 128] float ND 核函数名 fma_custom -
样例实现:
本样例中实现的是固定shape为输入src0[1, 128]、src1[1, 128]、src2[1, 128],输出dst[1, 128]的fma_custom样例。-
Kernel实现
使用Fma高阶API计算 src0 * src1 + src2,可选择使用临时buffer
-
Tiling实现
Host侧通过GetFmaMaxMinTmpSize获取Fma接口计算所需的最大和最小临时空间。
-
调用实现
使用内核调用符<<<>>>调用核函数。
-
编译运行
在本样例根目录下执行如下步骤,编译并执行样例。
-
配置环境变量
请根据当前环境上CANN开发套件包的安装方式,配置环境变量。source ${install_path}/cann/set_env.sh说明:
${install_path}为CANN包安装目录,未指定安装目录时默认安装至/usr/local/Ascend下。 -
样例执行
在本样例目录下执行如下命令。
mkdir -p build && cd build; # 创建并进入build目录 cmake -DCMAKE_ASC_ARCHITECTURES=dav-3510 ..;make -j; # 编译工程,默认npu模式 python3 ../scripts/gen_data.py # 生成测试输入数据 ./demo # 执行编译生成的可执行程序,执行样例使用 CPU调试 或 NPU仿真 模式时,添加
-DCMAKE_ASC_RUN_MODE=cpu或-DCMAKE_ASC_RUN_MODE=sim参数即可。示例如下:
cmake -DCMAKE_ASC_RUN_MODE=cpu -DCMAKE_ASC_ARCHITECTURES=dav-3510 ..;make -j; # cpu调试模式 cmake -DCMAKE_ASC_RUN_MODE=sim -DCMAKE_ASC_ARCHITECTURES=dav-3510 ..;make -j; # NPU仿真模式注意: 切换编译模式前需清理 cmake 缓存,可在 build 目录下执行
rm CMakeCache.txt后重新 cmake。 -
编译选项说明
选项 可选值 说明 CMAKE_ASC_RUN_MODEnpu(默认)、cpu、sim运行模式:NPU 运行、CPU调试、NPU仿真 CMAKE_ASC_ARCHITECTURESdav-3510(默认)NPU 架构:dav-3510 对应 Ascend 950PR/Ascend 950DT -
执行结果
执行结果如下,说明精度对比成功。
test pass!