perf-reference-ascend:基于华为昇腾的模型与数据预混淆处理SDK项目

昇腾基础性能测试参考设计。提供perftest、xpu-perf等社区基础性能测试项目在昇腾NPU上适配参考。

分支2Tags18
文件最后提交记录最后更新时间
10 天前
6 天前
7 天前
3 天前
3 个月前
7 天前
1 个月前

项目介绍

华为昇腾基础性能测试参考设计工具

NDR:全称 NPU Direct RDMA,通过在host侧驱动使能RDMA网卡直接读写NPU显存,消除了CPU拷贝开销,能够显著提高NPU数据传输效率

NDA:全称 NPU Direct Async,通过NPU算子实现,在NPU侧驱动使能RDMA网卡直接读写NPU显存,同时支持NPU侧调用网卡API,消除了CPU拷贝&调用网卡API的开销,进一步提高NPU数据传输效率

特性介绍

测试工具具体特性介绍如下:

特性名称 介绍 Released
NDA算子 link
NDA/NDR性能测试工具 link

仓库结构

├─ nda-offline-operator    # NDA 打流算子
   ├─ cmake                
   │  ├─ util                             
   ├─ framework
   │     ├─ tf_plugin
   ├─ op_host              
   ├─ op_kernel
   ├─ scripts

├─ rdma-perftest           # NDR/NDA 测试框架
   ├─ perftest
   │  ├─ debian
   │  ├─ man
   │  ├─ src
   │      ├─ canninterface
   ├─ perftest_hyper_roce
   │  ├─ hyper_roce.c
   │  ├─ hyper_roce.h                   

贡献声明

  • 贡献前,请先签署开放项目贡献者许可协议(CLA)
  • 如果您遇到bug,请提交issue
  • 如果您计划贡献新特性、功能,请先创建issue与我们讨论。写明需求背景/目的,如何设计,对现有API等的影响。未经讨论提交PR可能会导致请求被拒绝,因为项目演进方向可能与您的想法存在偏差。

项目介绍

昇腾基础性能测试参考设计。提供perftest、xpu-perf等社区基础性能测试项目在昇腾NPU上适配参考。

https://gitcode.com/Ascend/perf-reference-ascend定制我的领域