English Version

AKG CLI

⚠️ 已废弃:CLI 模块(akg_cli)已停止维护,后续不再演进。

1. 概述

akg_cli 是 AKG Agents 的命令行工具,提供对框架所有能力的交互式访问。

安装与基础配置请参考 README

2. 命令总览

命令 说明
akg_cli op Kernel Agent — 多后端、多 DSL 算子生成。详见 Kernel Agent
akg_cli common Common Agent — 通用 ReAct Agent(演示)。
akg_cli worker --start 启动 Worker Service,用于分布式执行。
akg_cli worker --stop 停止 Worker Service。
akg_cli sessions 列出所有带 trace 历史的会话。
akg_cli resume <session_id> 恢复之前的会话。
akg_cli list 列出支持的子命令。

3. akg_cli op

AI 算子代码生成的主命令。

必需参数

参数 说明 示例
--framework 计算框架 torchmindspore
--backend 硬件后端 ascendcudacpu
--arch 硬件架构 ascend910b2ascend910b4a100x86_64
--dsl 目标 DSL triton_ascendtriton_cudacudatilelang_cudacpp

可选参数

参数 默认值 说明
--intent None 直接提供需求文本(跳过交互式输入)
--task-file None 读取任务描述文件(KernelBench 格式)
--devices None 本地设备列表,逗号分隔(如 0,1,2,3
--worker-url None Worker Service 地址,逗号分隔
--stream/--no-stream --stream 启用/关闭 LLM 流式输出
--rag/--no-rag --no-rag 启用/关闭 RAG 检索
--resume None 通过 ID 恢复之前的会话
-y False 自动确认所有提示

示例

# Ascend 910B2 + Triton
akg_cli op --framework torch --backend ascend --arch ascend910b2 \
  --dsl triton_ascend --devices 0,1,2,3,4,5,6,7

# CUDA A100 + Triton
akg_cli op --framework torch --backend cuda --arch a100 \
  --dsl triton_cuda --devices 0,1,2,3,4,5,6,7

# 直接指定需求
akg_cli op --framework torch --backend cuda --arch a100 \
  --dsl triton_cuda --devices 0 --intent "帮我生成一个 relu 算子"

# 使用 KernelBench 任务文件
akg_cli op --framework torch --backend cuda --arch a100 \
  --dsl triton_cuda --devices 0 --task-file path/to/task.py

4. Worker Service

用于跨多台机器的分布式执行:

# 在每台机器上启动 worker
akg_cli worker --start --port 9001

# 从客户端连接
akg_cli op --framework torch --backend cuda --arch a100 \
  --dsl triton_cuda --worker-url machine1:9001,machine2:9002

5. 会话管理

# 列出所有会话
akg_cli sessions list

# 恢复会话
akg_cli resume <session_id>