SmallMatmul Example Readme

代码组织

├── 31_small_matmul
│   ├── CMakeLists.txt   # CMake编译文件
│   ├── README.md
│   └── small_matmul.cpp # 主文件

功能介绍

  • 该算子针对小shape场景,在basic_matmul的基础上减少不必要的scalar计算开销
  • 要求切分基本块数不超过cube核数,即ceilDiv(m, L1TileShape::M) * ceilDiv(n, L1TileShape::N) <= aicCoreNum
  • 要求k轴不超过L1TileShape::K

使用示例

  • 获取代码之后编译相应的算子可执行文件,可参考quickstart
  • 执行算子
# 编译指定用例
bash scripts/build.sh 31_small_matmul
cd output/bin
# 可执行文件名 |矩阵m轴|n轴|k轴|Device ID
# Device ID可选,默认为0
./31_small_matmul 256 1024 256 0

执行结果如下,说明精度比对成功。

Compare success.