akg:基于深度学习的算子优化与自动生成项目

AKG(Auto Kernel Generator) is an optimizer for operators in Deep Learning Networks, which provides the ability to automatically fuse ops with specific patterns.

分支20Tags12
文件最后提交记录最后更新时间
update template 1 个月前
Merge br_schedule into master 8 天前
Resolve static code check 19 天前
!2135 merge gpu into br_schedule [scheduler] fixed cpu and gpu compile pipeline Created-by: corleoneliu Commit-by: liuchao Merged-by: corleoneliu Description: <!-- Thanks for sending a pull request! Here are some tips for you: If this is your first time, please read our contributor guidelines: https://github.com/mindspore-ai/mindspore/blob/master/CONTRIBUTING.md --> **What type of PR is this?** > Uncomment only one /kind <> line, hit enter to put that in a new line, and remove leading whitespaces from that line: > /kind bug</br> > /kind task</br> > /kind feature</br> **What does this PR do / why do we need it**: fixed cpu and gpu compile pipeline and clean code **Which issue(s) this PR fixes**: <!-- *Automatically closes linked issue when PR is merged. Usage: Fixes #<issue number>, or Fixes (paste link of issue). --> Fixes [#417](https://gitcode.com/mindspore/akg/issues/417) **Special notes for your reviewers**: See merge request: mindspore/akg!21359 天前
update README 1 个月前
update akg master 6 个月前
Change pybind11 version 19 天前
update akg master 6 个月前
update akg master 6 个月前
Add MFusion project 20 天前
refactor: unify benchmark downloads and remove submodules 1 个月前
Update the codeowners for mfusion 20 天前
init 5 年前
init 5 年前
update akg master 6 个月前
update akg master 6 个月前
update README 1 个月前
update README 1 个月前
remove ncurses dependency 1 个月前
update akg master 6 个月前

Auto Kernel Generator (AKG)

项目简介

AKG(Auto Kernel Generator)是一个深度学习编译器,用以对深度神经网络中的算子进行优化,并提供特定模式下的算子自动融合功能。 从 2.4 版本之后,我们对 AKG 进行了全新升级,当前的 AKG 项目中,包含了 AKG-AGENT、AKG-MLIR 2个子项目,支持 CPU、NVIDIA、V100/A100、Atlas 800T A2/A3、300I DUO 等多硬件后端的算子自动生成。

  • AKG-AGENT: AKG-AGENT是我们最新孵化的一款大模型驱动的算子生成工具,提供了基于 Multi-agent 的算子自动生成框架、AscendKernelBench 评测平台、以及算子知识库。当前支持通过 LLM 的方式,生成 Triton-Ascend(Atalas A2/A3)以及 SWFT(300I DUO)的 DSL,并完成算子 kernel 编译。
  • AKG-MLIR: 基于 MLIR 开源项目演进的深度学习编译器,提供了 CPU/GPU/Ascend 上完整的算子编译 Pipeline。当前包含了 MindSpore Dialect 图编译方言,并对 Linalg、Affine、GPU 等方言进行了扩展,增强了循环融合调度能力。此外,AKG-MLIR 对接了 AscendNPU IR,支持昇腾后端融合算子生成。

安装及使用说明

AKG 代码仓中的各个子项目,都支持独立安装构建,请参考各子项目使用说明。

贡献

欢迎您的贡献,具体细节请参考MindSpore 贡献者 Wiki

版本说明

版本说明详见RELEASE

许可证

Apache License 2.0

AKG SIG 交流微信群

项目介绍

AKG(Auto Kernel Generator)是深度学习网络中算子的优化器,具备自动融合特定模式算子的能力。【此简介由AI生成】

定制我的领域

下载使用量

0

项目总下载次数(含Clone、Pull、 zip 包及 release 下载),每日凌晨更新

语言类型

Python58.04%
C++30.96%
MLIR7.57%
Jinja1.76%
CMake0.9%