加速库LinearParallelOperation C++ Demo
介绍
该目录下为加速库LinearParallelOperation C++调用示例。
使用说明
-
首先source 对应的CANN和nnal包的安装路径
- source [cann安装路径]/set_env.sh 默认：source /usr/local/Ascend/ascend-toolkit/set_env.sh
- source [nnal安装路径]/set_env.sh
默认：source /usr/local/Ascend/nnal/atb/set_env.sh
①. 如果使用加速库源码编译，source [加速库源码路径]/output/atb/set_env.sh
例如： source ./ascend-transformer-boost/output/atb/set_env.sh
-
运行demo
bash build.sh注意：
-
使用cxx_abi=0（默认）时，设置
D_GLIBCXX_USE_CXX11_ABI为0，即：g++ -D_GLIBCXX_USE_CXX11_ABI=0 -I ... -
使用cxx_abi=1时，更改
D_GLIBCXX_USE_CXX11_ABI为1，即：g++ -D_GLIBCXX_USE_CXX11_ABI=1 -I ... -
提供的build脚本仅用于编译和运行linear_parallel_demo.cpp，如需编译其他demo，需要替换“linear_parallel_demo”为对应的cpp文件名
-
额外说明
示例中生成的数据不代表实际场景，如需数据生成参考请查看根目录下的python用例目录： tests/apitest/opstest/python/operations/linear/
产品支持情况
本op仅支持Atlas A2 训练系列产品/Atlas A2 推理系列产品、Atlas A3 训练系列产品/Atlas A3 推理系列产品。
场景说明
提供demo分别对应，编译运行时需要对应更改build脚本：
- 基础场景：
linear_parallel_demo.cpp
- 默认编译脚本可编译运行
- 量化场景：
linear_parallel_demo.cpp
- 即更改编译脚本为：
g++ -D_GLIBCXX_USE_CXX11_ABI=$cxx_abi -I "${ATB_HOME_PATH}/include" -I "${ASCEND_HOME_PATH}/include" -L "${ATB_HOME_PATH}/lib" -L "${ASCEND_HOME_PATH}/lib64" linear_parallel_demo.cpp demo_util.h -l atb -l ascendcl -o linear_parallel_demo - 运行时调用：
./linear_parallel_demo
- 即更改编译脚本为：