文件最后提交记录最后更新时间
!195 纯Cube算子编译选项调整为-cube;修复msdebug模式出现链接重定义 Merge pull request !195 from yuantao/cmake 9 个月前
!177 更新Docs指南 Merge pull request !177 from 徐天昊/docs 10 个月前
!99 Add device-layer feature to master in 06_optimized_matmul, 07_grouped_matmul_slice_m_per_token_dequant_moe, 08_grouped_matmul * example 06 07 08 add device-layer 1 年前
README.md

GroupedMatmul Example Readme

代码组织

├── 08_grouped_matmul
│   ├── CMakeLists.txt     # CMake编译文件
│   ├── README.md
│   └── grouped_matmul.cpp # 主文件

示例说明

  • 本grouped_matmul为通用kernel,示例内部为切k情况下的使用

使用示例

  • 获取代码之后编译相应的算子可执行文件,可参考quickstart
  • 执行算子
# 编译指定用例
bash scripts/build.sh 08_grouped_matmul
# cd [代码仓路径]/output/bin
# 可执行文件名 group数量|m轴|n轴|k轴|Device ID
./08_grouped_matmul 128 512 1024 2048 0

执行结果如下,说明精度比对成功。

Compare success.