学习向导

读者对象

本文档用于指导开发者如何使用单边通信库的C++接口实现集群间的数据传输，构建大模型推理分离式框架，从而提高大模型推理系统的吞吐性能。

本文档需要读者具备以下方面的知识，会有助于更好地理解文档：

如果您对单边通信库不太了解，或者首次阅读本文档。建议先阅读表1，帮助您快速了解手册内容，按需访问对应章节。

表1 阅读向导

场景	对应章节	内容说明
我想了解什么是单边通信库及单边通信库能做什么	概述	本章介绍了单边通信库的基本概念、作用及优势，并介绍了单边通信库的使用场景。
我想体验基于单边通信库构建大模型推理分离式框架的开发过程	快速入门	本章介绍了利用单边通信库进行大模型推理分离式框架的整体开发流程，环境准备，并且给出了简单参考样例。
我想了解单边通信库的接口能力	功能介绍	本章介绍了单边通信库的接口功能，并给出了功能实现。
我想了解单边通信库的更多特性	专题	本章介绍了如何基于单边通信库构建大模型推理分离式框架的高级特性，例如角色切换。
我想了解本文档涉及的一些扩展知识	附录	本章介绍了文档中提及一些扩展知识，包括基本概念、大模型推理等。
使用单边通信库进行应用开发时，遇到问题怎么办	错误码	本章介绍了接口错误码，以及原因分析和处理措施。