English Version

框架架构

1. 概述

AKG Agents 是一个面向 AI Infra 与高性能计算场景的 LLM 多 Agent 协作框架,致力于通过智能 Agent 协同提升高性能代码的开发与优化效率。

框架提供完整的 Agent 基础设施:可扩展的 Skill / Tools / Sub-agent 机制、LangGraph 工作流编排、树状 Trace 追踪系统,以及统一的配置与注册体系。

2. 架构图

┌─────────────────────────────────────────────────────────────────┐
│                         AKG Agents                              │
├─────────────────────────────────────────────────────────────────┤
│                                                                 │
│  ┌──────────┐  ┌──────────┐  ┌──────────┐  ┌───────────────┐  │
│  │  Agents   │  │  Skills   │  │  Tools   │  │   Workflows   │  │
│  │          │  │          │  │          │  │  (LangGraph)  │  │
│  │ AgentBase │  │ Registry │  │ Executor │  │  BaseWorkflow │  │
│  │ ReAct    │  │ Loader   │  │ Basic    │  │  BaseTask     │  │
│  │ Plan     │  │ Selector │  │ Domain   │  │  Router       │  │
│  │ Registry │  │ Hierarchy│  │          │  │  Visualizer   │  │
│  └────┬─────┘  └────┬─────┘  └────┬─────┘  └──────┬────────┘  │
│       │              │             │               │            │
│  ┌────┴──────────────┴─────────────┴───────────────┴────────┐  │
│  │                     Trace System                          │  │
│  │  TraceSystem · FileSystemState · ActionCompressor         │  │
│  └──────────────────────────┬────────────────────────────────┘  │
│                             │                                   │
│  ┌──────────────────────────┴────────────────────────────────┐  │
│  │                    LLM Layer                               │  │
│  │  LLMProvider · LLMClient · Embedding                      │  │
│  └──────────────────────────┬────────────────────────────────┘  │
│                             │                                   │
│  ┌──────────────────────────┴────────────────────────────────┐  │
│  │                    配置系统                                 │  │
│  │  AKGSettings · ModelConfig · EmbeddingConfig               │  │
│  └───────────────────────────────────────────────────────────┘  │
│                                                                 │
├─────────────────────────────────────────────────────────────────┤
│                       场景层                                     │
│  ┌───────────────────┐  ┌────────────────┐  ┌──────────────┐  │
│  │  Kernel Agent (op) │  │  Common Agent  │  │  更多 ...     │  │
│  │  多后端             │  │                │  │              │  │
│  │  多 DSL            │  │                │  │              │  │
│  └───────────────────┘  └────────────────┘  └──────────────┘  │
└─────────────────────────────────────────────────────────────────┘

3. 模块概览

模块 说明
Agents Agent 基类(AgentBaseReActAgent)、Agent 注册与发现机制。详见 Agent 体系
Skills Skill 管理系统:元数据、加载、注册、层级关系、LLM 驱动选择、版本管理。详见 Skill 系统
Tools 工具执行框架:内置工具(文件读写、Shell)、领域工具(算子验证、性能分析)、参数解析器。详见 Tools 体系
Workflows 基于 LangGraph 的工作流编排:BaseWorkflowBaseLangGraphTask、路由器、可视化。详见 工作流
Trace 树状推理追踪系统:多分叉、状态持久化、断点续跑。详见 Trace 系统
LLM LLM 接入层:OpenAI 兼容 Provider、带 Token 计数和流式输出的 Client、Embedding 模型。详见 LLM 接入
配置系统 统一配置管理:settings.json、环境变量、多层级优先级。详见 配置系统

4. 场景:Kernel Agent

当前已落地场景为 AI 算子代码生成 —— 通过 LLM 规划与多 Agent 协同,实现多后端、多 DSL 的高性能算子自动生成与优化。

详见 Kernel Agent

5. CLI

AKG Agents 提供命令行工具(akg_cli)用于交互式使用。详见 AKG CLI

6. 其他模块(v1 文档)

以下模块自 v1 以来未发生变更,文档保留在 v1 目录中:

模块 说明 文档链接
RAG 向量检索增强生成模块 RAG (EN) / RAG (CN)
Database 数据库基类与算子专用存储 Database (EN) / Database (CN)
服务化架构 Client-Server-Worker 架构 ServerArchitecture (EN) / ServerArchitecture (CN)
DevicePool 设备池管理(Ascend / CUDA / CPU) DevicePool (EN) / DevicePool (CN)
TaskPool 异步任务池管理 TaskPool (EN) / TaskPool (CN)