OpenBOAT_2363:基于 Ascend Toolkit 的 AI 算子库项目

Archived

全称:Open Base Operator for Ascend Toolkit,哈尔滨工业大学AISS团队基于Ascend C打造的高性能昇腾算子库。

Branch2Tags0
FilesLast commitLast update
9 months ago
9 months ago
11 months ago
9 months ago
11 months ago
9 months ago
11 months ago
11 months ago
9 months ago

OpenBOAT

OpenBOAT:Open Base Operator for Ascend Toolkit

OpenBOAT商标

目标:以 40个核心算子层 为骨架,构建 9 个基础算子库层 与 行业应用算子库层,面向国产化 AI 生态提供开箱即用、易测易调优的高性能算子实现与工程模板。

Last updated / 最近更新:2026-01-07,当前版本v0.4.0


1. 背景与愿景

  • OpenBOAT 的总体路线:

    1. 依据真实使用统计,抽象出 40 种算子类型并沉淀为“AscendCoreOps”;
    2. 在此基础上扩展为 9 个基础算子库(AscendBasicOps);
    3. 面向自动驾驶、具身智能等场景提供 行业应用算子库(AscendIndustryOps)。
      OpenBOAT架构图
  • 面向开发者:

    • 工程化模板:统一的单算子工程结构与交付物,降低入门门槛;
    • 一体化测试:结合 AscendOpTest(配套工具)实现 精度 + 性能 一体化验证;
    • 社区共建:公开 backlog、以标准化 issue 标签驱动协作(status:available → status:in-progress → status:check → status:done)。

2. 分层架构总览

OpenBOAT算子库具体分层结构如下图所示 OpenBOAT具体分层架构

快速开始

2.1 核心算子层:AscendCoreOps(目标:40 个)

从主流模型与任务中归纳 40 类“基础原语”,覆盖:逐元素/点算、归约/规范化、张量重排、选择/掩码、激活、采样/插值、池化/聚合、矩阵/频域等。
目标是:每一类 → 1 个高质量“参考核心算子”。核心算子列表如下: 40个核心算子列表

2.2 基础算子库层:AscendBasicOps(9 个库)

  • AscendVectorMath:向量/标量代数、特殊函数等(对标 BLAS 中向量部分);计划开发数量:50+
  • AscendTensorOps:张量重排、形状变换、索引/Gather/Scatter;计划开发数量:30+
  • AscendSpatialSignal:空间域信号处理(滤波、边缘检测、形态学);计划开发数量:20+
  • AscendPoolingNorm:池化、归一化(对标 cuDNN 中 Pooling/Normalization);计划开发数量:20+
  • AscendMatrixOps:矩阵运算、分解、求解(对标 BLAS/cuSOLVER);计划开发数量:50+
  • AscendFrequencySignal:频域变换与谱操作(对标 FFT 类);计划开发数量:10+
  • AscendDataGen:随机数与分布采样(对标 cuRAND);计划开发数量:20+
  • AscendDLBasics:卷积/连接/激活组合等深度学习基本构件;计划开发数量:20+
  • AscendActivations:常用激活函数族及其变体;计划开发数量:40+

2.3 行业应用算子库层:AscendIndustryOps

  • AscendAutoDriving:满足自动驾驶前沿计算需求(如 BEV 特征融合、代价体构建等);
  • AscendEmbod:面向具身智能的前沿算子(如分割/跟踪、运动学控制等);
  • ……(更多行业库将逐步扩展)。

3. 仓库结构

本仓库架构如下

OpenBOAT/
├─ AscendBasicOps/                 # 9 个基础算子库层
│  ├─ AscendActivations/             # 激活函数库
│  ├─ AscendDLBasics/                # 深度学习基础库
│  ├─ AscendDataGen/                 # 数据生成库
│  ├─ AscendFrequencySignal/         # 频域信号处理库
│  ├─ AscendMatrixOps/               # 矩阵运算库
│  ├─ AscendPoolingNorm/             # 池化与归一化库
│  ├─ AscendSpatialSignal/           # 空间域信号处理库
│  ├─ AscendTensorOps/               # 张量操作库
│  └─ AscendVectorMath/              # 向量数学运算库
├─ AscendCoreOps/                  # 40个核心算子库层
├─ AscendIndustryOps/              # 行业应用算子库层
├─ docs/                           # 相关开发文档
├─ CHANGELOG.md                    # 版本更新日志
├─ CONTRIBUTTING.md                # 贡献说明
└─ README.md                       # 本README文件

每一个算子目录下,都采用统一工程骨架,便于从最简到工程化逐级演进。


4. 单个算子工程结构与交付物

随着算子开发工程经验增加,舍弃掉原有的“三段式”开发,单算子直接提供最终的FrameworkLaunch工程即可 OpenBOAT单算子交付件格式

<OP_NAME>/
├─ <OP_NAME>FrameworkLaunch/       # 工程化:对接框架/接口
└─ README                          # 功能、类型/格式支持、开发计划、更新日志

算子整体介绍模版请见:算子整体README模版;

OP_NAME>FrameworkLaunch交付件详情请见:README模版,交付件解读;

算子研发过程允许进行多轮迭代与持续优化,但在最终验收环节,基础指标必须满足以下要求:

  1. 支持多种数据类型,常见场景下至少应覆盖 ge::DT_FLOAT、ge::DT_FLOAT16、ge::DT_INT32、ge::DT_INT16 四类(特殊算子按其特性另行处理)。
  2. 必须能够正确处理非对齐数据格式。
  3. 实现层面应尽量采用多核并行并优先使用向量化计算,减少 SetValue / GetValue 的使用。
  4. 面向自主硬件亲和的大模型定制算子,其高性能分块算法执行时间应小于 20 μs。
  5. 对于矩阵计算类核函数,硬件 Cube 利用率应高于 70%。

5. 贡献与协作(Contribution)

  • 请关注本仓库的 Issues 以认领任务:

      • 本项目相关issue的所有标签:status:available,status:in-progress,status:check,status:done
    • 找到带有 status:available 标签的 issue;
    • 在该 issue 下评论:留下 个人 ID 与 认领日期;
    • 维护者会将标签更新为 status:in-progress
    • 开发者提交PR后,进入审核阶段,标签更新为status:check
    • PR 合并后改为 status:done。
    • 为确保有序协作,标签更新由维护者执行。
  • ⚠️ PR 基本要求:参考issue中的说明,按照标准三段式进行开发(资深开发者可以仅提交Framework工程),并提交自检报告(配合AscendOpTest工具使用,下文有说明)。

  • 更多贡献信息详见:贡献方式


6. 更新规划

(1)架构演进
围绕算子库架构将开展阶段性重构:在保持现有“单算子编译/部署/调用”工作流可用的前提下,逐步引入库级一体化的集成编译与部署能力,提供统一构建入口、依赖管理与版本化发布机制,最终实现对全库的集成构建与一致的运行时调用接口。

(2)算子路线图与迭代
各子算子库将陆续公布计划开发算子清单、优先级与里程碑;相关需求、设计与使用文档会在对应子库与 Issue 中持续补全与更新。全库遵循标准的 Issue → PR 工作流推进单个算子的开发与合并,进度与变更以 Issue 粒度进行跟踪。同时针对已经存在的算子,会进行格式清理,修改不规范的文档/代码格式。

(3)测试与验证
算子正确性测试当前将集中采用 AscendOpTest 工具(https://gitcode.com/HIT1920/AscendOpTest)执行与复现,后续将完善覆盖率、基准集合与性能评测规范。欢迎社区开发者体验并反馈该工具的使用建议。

(4)社区协作与发布
鼓励以 Issue 提报需求与问题、以 PR 提交实现与修复;每个 PR 应关联对应 Issue 并遵循仓库的代码/提交规范。项目将按里程碑发布版本与变更日志,滚动交付新算子与架构能力。

7. 致谢与团队

OpenBOAT 由 哈尔滨工业大学苏统华教授团队 发起,与产业伙伴共同建设,感谢 Huawei CANN/Ascend 社区的生态支持。

如需合作与交流,欢迎邮件联系:24s003110@stu.hit.edu.cn。

Introduction

全称:Open Base Operator for Ascend Toolkit,哈尔滨工业大学AISS团队基于Ascend C打造的高性能昇腾算子库。

Customize your domain