FilesLast commitLast update
16 days ago
4 days ago
README.md

ops-transformer SIG

算子transformer领域相关的兴趣小组,负责transformer相关融合算子,如FlashAttention、MoE(Mixture of Experts)等算子。

工作目标

  • 1、负责transformer 算子领域技术路线规划和落地;
  • 2、组织transformer 算子领域例会,引导技术讨论和决策;
  • 3、负责周边组织沟通协调,推动落地相关项目;
  • 4、负责SIG 仓库权限和邮件列表等基础设施的管理;
  • 5、负责社区Bug、issue和邮件列表等渠道反馈的问题分发处理。

职责与范围

本SIG主要负责ops-transformer 仓库的开发与维护:

  • ops-transformer(transformer算子)
    • 定位:提供transformer相关常用算子
    • 功能:开发和管理以下类别的算子:
      • attention:对应各类attention 推理和训练算子
      • moe:对应MoE计算中,topk计算,合并MoE FFN的输出结果计算和routing计算等算子
      • gmm:对应实现分组矩阵乘计算等算子
      • mc2:对应通算并行算子和MOE 通信dispatch和combine算子
      • posembedding:对应旋转位置编码计算算子
      • ffn:对应MoeFFN和FFN等相关计算算子

社区运作

组织会议:

两周一次例会,每单周周三下午15:30点-17:30点

贡献指南

成员

Maintainer列表

Committer列表

细分领域:

moe committer列表:

mc2 committer列表:

ffn committer列表:

gmm committer列表:

posembedding committer列表:

attention committer列表:

资料 committer列表:

SIG订阅

仓库清单

仓库地址: