title: MindIE Motor 文档 description: MindIE Motor 中文文档首页(与 Read the Docs 的 /zh-cn/latest/ 挂载根一致)

MindIE Motor

🔥 Latest News

[2025/12] MindIE Motor 正式宣布开源并面向公众开放!会议日历

🚀 简介

MindIE Motor 是面向通用模型场景的推理服务化框架,通过开放、可扩展的推理服务化平台架构提供推理服务化能力,支持对接业界主流推理框架接口,满足大语言模型的高性能推理需求。

以下是两个 MindIE Motor 代码仓库智能体,只需点击「Ask AI」徽章,即可进入其专属页面,缓解源码阅读成本,便于学习与排错。

Zread     DeepWiki

🔍 目录结构

├── docs                                     # 项目文档
├── mindie_motor                             # 服务框架总模块
│   ├── python                               # Python 封装与脚本
│   ├── src                                  # 服务管理模块
│   │   ├── common                           # 公共代码
│   │   ├── config                           # 配置文件
│   │   ├── controller                       # 控制器
│   │   ├── coordinator                      # 调度器
│   │   ├── example                          # 部署与样例
│   │   ├── http_client_ctl                  # HTTP 客户端与管控
│   │   ├── node_health_management           # 节点状态探针
│   │   └── test                             # 单元测试
├── module                                   # MindIE-LLM 推理引擎模块
├── third_party                              # 第三方依赖
└── README.md

⚡️ 版本说明

MindIE 软件版本 CANN 版本兼容性
2.3.0 8.5.0

⚡️ 环境部署

通过软件包或镜像方式安装 MindIE Motor,请参见 安装指南

通过拉取最新代码编译安装 MindIE Motor,请参见 编译安装指南

⚡️ 快速入门

快速体验启动服务、接口调用、精度与性能测试和停止服务全流程,请参见 快速入门

📝 学习文档

  • 集群服务部署:介绍 MindIE Motor 集群服务部署方式,包括单机(非分布式)服务部署和 PD 分离单、多机服务部署。
  • 集群管理组件:介绍 MindIE Motor 集群管理组件,包括 Controller 与 Coordinator。
  • 服务化接口:介绍 MindIE Motor 提供的用户侧接口和集群内通信接口。
  • 配套工具:介绍 MindIE Motor 提供的配套工具,包括性能/精度测试工具、MindIE 探针工具、服务化调优工具、CertTools、OM Adapter 和 Node Manager。

📝 免责声明

版权所有 © 2025 MindIE Project.

您对「本文档」的复制、使用、修改及分发受知识共享(Creative Commons)署名——相同方式共享 4.0 国际公共许可协议(以下简称「CC BY-SA 4.0」)的约束。为了方便用户理解,您可以通过访问此链接了解 CC BY-SA 4.0 的概要(但不是替代)。CC BY-SA 4.0 的完整协议内容您可以访问此链接获取。

📝 贡献指南

  1. 提交错误报错:如果您在 MindIE Motor 中发现了一个不存在安全问题的漏洞,请在 MindIE Motor 仓库中的 Issues 中搜索,以防该漏洞被重复提交,如果找不到漏洞可以创建一个新的 Issues。如果发现了一个安全问题请不要将其公开,请参阅安全问题处理方式。提交错误报告时应该包含完整信息。
  2. 安全问题处理:本项目中对安全问题处理的形式,请通过邮箱通知项目核心人员确认编辑。
  3. 解决现有问题:通过查看仓库的 Issues 列表可以发现需要处理的问题信息,可以尝试解决其中的某个问题。
  4. 如何提供新功能:请使用 Issues 的 Feature 标签进行标记,我们会定期处理和确认开发。
  5. 开始贡献:
    1. Fork 本项目的仓库。
    2. Clone 到本地。
    3. 创建开发分支。
    4. 本地测试:提交前请通过所有单元测试,包括新增的测试用例。
    5. 提交代码。
    6. 新建 Pull Request。
    7. 代码检视:您需要根据评审意见修改代码,并重新提交更新。此流程可能涉及多轮迭代。
    8. 当您的 PR 获得足够数量的检视者批准后,Committer 会进行最终审核。
    9. 审核和测试通过后,CI 会将您的 PR 合并到项目的主干分支。

更多贡献相关文档请参见仓库 贡献指南

📝 相关信息