title: MindIE Motor 文档 description: MindIE Motor 中文文档首页(与 Read the Docs 的 /zh-cn/latest/ 挂载根一致)
MindIE Motor
🔥 Latest News
[2025/12] MindIE Motor 正式宣布开源并面向公众开放!会议日历
🚀 简介
MindIE Motor 是面向通用模型场景的推理服务化框架,通过开放、可扩展的推理服务化平台架构提供推理服务化能力,支持对接业界主流推理框架接口,满足大语言模型的高性能推理需求。
以下是两个 MindIE Motor 代码仓库智能体,只需点击「Ask AI」徽章,即可进入其专属页面,缓解源码阅读成本,便于学习与排错。
🔍 目录结构
├── docs # 项目文档
├── mindie_motor # 服务框架总模块
│ ├── python # Python 封装与脚本
│ ├── src # 服务管理模块
│ │ ├── common # 公共代码
│ │ ├── config # 配置文件
│ │ ├── controller # 控制器
│ │ ├── coordinator # 调度器
│ │ ├── example # 部署与样例
│ │ ├── http_client_ctl # HTTP 客户端与管控
│ │ ├── node_health_management # 节点状态探针
│ │ └── test # 单元测试
├── module # MindIE-LLM 推理引擎模块
├── third_party # 第三方依赖
└── README.md
⚡️ 版本说明
| MindIE 软件版本 | CANN 版本兼容性 |
|---|---|
| 2.3.0 | 8.5.0 |
⚡️ 环境部署
通过软件包或镜像方式安装 MindIE Motor,请参见 安装指南。
通过拉取最新代码编译安装 MindIE Motor,请参见 编译安装指南。
⚡️ 快速入门
快速体验启动服务、接口调用、精度与性能测试和停止服务全流程,请参见 快速入门。
📝 学习文档
- 集群服务部署:介绍 MindIE Motor 集群服务部署方式,包括单机(非分布式)服务部署和 PD 分离单、多机服务部署。
- 集群管理组件:介绍 MindIE Motor 集群管理组件,包括 Controller 与 Coordinator。
- 服务化接口:介绍 MindIE Motor 提供的用户侧接口和集群内通信接口。
- 配套工具:介绍 MindIE Motor 提供的配套工具,包括性能/精度测试工具、MindIE 探针工具、服务化调优工具、CertTools、OM Adapter 和 Node Manager。
📝 免责声明
版权所有 © 2025 MindIE Project.
您对「本文档」的复制、使用、修改及分发受知识共享(Creative Commons)署名——相同方式共享 4.0 国际公共许可协议(以下简称「CC BY-SA 4.0」)的约束。为了方便用户理解,您可以通过访问此链接了解 CC BY-SA 4.0 的概要(但不是替代)。CC BY-SA 4.0 的完整协议内容您可以访问此链接获取。
📝 贡献指南
- 提交错误报错:如果您在 MindIE Motor 中发现了一个不存在安全问题的漏洞,请在 MindIE Motor 仓库中的 Issues 中搜索,以防该漏洞被重复提交,如果找不到漏洞可以创建一个新的 Issues。如果发现了一个安全问题请不要将其公开,请参阅安全问题处理方式。提交错误报告时应该包含完整信息。
- 安全问题处理:本项目中对安全问题处理的形式,请通过邮箱通知项目核心人员确认编辑。
- 解决现有问题:通过查看仓库的 Issues 列表可以发现需要处理的问题信息,可以尝试解决其中的某个问题。
- 如何提供新功能:请使用 Issues 的 Feature 标签进行标记,我们会定期处理和确认开发。
- 开始贡献:
- Fork 本项目的仓库。
- Clone 到本地。
- 创建开发分支。
- 本地测试:提交前请通过所有单元测试,包括新增的测试用例。
- 提交代码。
- 新建 Pull Request。
- 代码检视:您需要根据评审意见修改代码,并重新提交更新。此流程可能涉及多轮迭代。
- 当您的 PR 获得足够数量的检视者批准后,Committer 会进行最终审核。
- 审核和测试通过后,CI 会将您的 PR 合并到项目的主干分支。
更多贡献相关文档请参见仓库 贡献指南。