加速库AllReduceOperation C++ Demo
介绍
该目录下为加速库AllReduceOperation C++调用示例。
使用说明
-
首先source 对应的CANN和nnal包的安装路径
- source [cann安装路径]/set_env.sh 默认:source /usr/local/Ascend/ascend-toolkit/set_env.sh
- source [nnal安装路径]/set_env.sh
默认:source /usr/local/Ascend/nnal/atb/set_env.sh
①. 如果使用加速库源码编译,source [加速库源码路径]/output/atb/set_env.sh
例如: source ./ascend-transformer-boost/output/atb/set_env.sh
-
运行demo
bash build.sh注意:
-
使用cxx_abi=0(默认)时,设置
D_GLIBCXX_USE_CXX11_ABI为0,即:g++ -D_GLIBCXX_USE_CXX11_ABI=0 -I ... -
使用cxx_abi=1时,更改
D_GLIBCXX_USE_CXX11_ABI为1,即:g++ -D_GLIBCXX_USE_CXX11_ABI=1 -I ...
-
额外说明
示例中生成的数据不代表实际场景,如需数据生成参考请查看根目录下的python用例目录: tests/apitest/opstest/python/operations/all_reduce/
产品支持情况
本op在Atlas A2/A3系列和Atlas 推理系列产品上实现有所区别。
all_reduce_demo.cpp:该demo仅支持在Atlas A2/A3系列产品上运行。