CATLASS 项目文档

1 Practice

代码实践,指导开发者按步骤上手CATLASS各层级代码开发和使用,逐渐具备完整算子开发、测试、调优、模型使用的能力。

2 Design

  • 00_project_overview:项目介绍、分层模块化设计、代码仓结构设计
  • 01_kernel_design:算法设计
    • 00_basics(folder):CATLASS开发前置基础知识
    • 01_example_design:库上样例设计文档一览(将各样例文档放到样例文件夹内,此处只做归纳、牵引)
    • 02_swizzle:对模板库中Swizzle策略的基本介绍,这影响了AI Core上计算基本块间的顺序。
    • 03_dispatch_policies:对模板库在Block层面上BlockMmad中的一个重要模板参数DispatchPolicy的介绍。
    • 04_matmul_summary:对模板库的examples目录内已有的matmul模板设计进行介绍,包含样例模板清单、理论模板清单、工程优化清单、模板应用浅述,可用于matmul性能调优时参考。
    • 05_aswt:自适应滑窗tiling策略说明
    • 06_quant_summary:低精度专题(待贡献)
  • 02_tla:
    • 01_layout:TLA设计的layout结构和相关接口说明
    • 02_layout_tag:RowMajor、ColumnMajor、zN、nZ等layoutTag介绍和接口说明,即旧版layout结构
    • 03_tensor:tensor结构体
  • 03_evg
    • 01_evg_design:EVG 的定位、分层关系、执行模型与图组织方式
    • 02_evg_extension:EVG 的扩展规范,说明何时加 ComputeFn、何时加节点,以及实现时的约束
    • 03_evg_quick_start:以 Matmul + Add 为例说明 EVG 的基础接入流程

3 API

Appendix

外部开源文章、视频