已合并
[docs]: 补充 SGLang PD 分离部署指导 #893
chaofengdev创建于 5 天前
[docs]: 补充 SGLang PD 分离部署指导 #893
已合并
Pull Request已成功合入, 合并人@tobking
(感谢 chaofengdev 的贡献)5 天前 关联了issue:[Documentation|文档反馈]: 新增 sglang 部署相关的文档
5 天前 添加了label:stat/needs-squash
5 天前 添加了label:ascend-cla/yes
ascend-robot
5 天前 评论:
5 天前 评论:
Thanks for your pull-request.
The full list of commands accepted by me can be found at here.
You can get sig-info at here.
You can self-configure the PR merge rules for this repository. For more details, please refer to Here.
PR Approval Progress
✅ Congratulations! All modules have met the lgtm and approve requirements.
Module Approval Details
| module | lgtm status | approve status |
|---|---|---|
| repo-Ascend/MindIE-Motor | ✅ 王君, 韩依伦 (2/2) | ✅ 王君 (1/1) |
💡 Tip:
- Committer can comment
/approveor/lgtm- Commenting
/approveimplies both code review (lgtm) and intent to merge (approve)
CLA Signature Pass
qq_40172610, thanks for your pull request. All authors of the commits have signed the CLA. 👍


5 天前 添加了label:ci-pipeline-running
此处折叠了59条消息 查看更多
tobking
2 天前 评论:
2 天前 评论:
/approve


2 天前 添加了label:approvedlgtm
2 天前 解决了最后一个问题
2 天前 关闭了关联的issue
2 天前 合入了pull request
1. 合入背景
Fixes:#562
MindIE Motor 已支持以 SGLang 作为原生推理引擎后端(
engine_type: sglang),并完成 AR1 云原生 PD 分离服务化联调。但用户指南侧仍以 vLLM 的 PD 分离部署文档为主,缺少一份面向 SGLang 的独立部署指导:读者难以区分 bootstrap / MF Store / 生成式健康探测等与 vLLM 的差异,也不知道应使用哪套examples/infer_engines/sglang/典配。本 PR 补齐 SGLang K8s PD 分离部署用户资料,并挂到用户手册与引擎支持说明入口,降低对外试用与 SIG/社区落地成本。属资料变更;与前序「SGLang 服务化后端」能力合入配套,不引入新的运行时行为。
2. 修改内容
本 PR 为用户指南资料更新,无控制面 / 数据面代码逻辑变更。
新增
docs/zh/user_guide/deployment/k8s/pd_disaggregation_sglang.mddeploy.py拉起 / 冒烟 / 卸载。engine_type、bootstrap 协议与端口、MF Store、生成式/health、参数透传风格、暂无脚本自动转换工具。examples/infer_engines/sglang/目录结构。入口与互链
menu_user_manual.md:增加「基于 K8s 的 SGLang PD 分离部署」菜单项。deployment/README.md、deployment/k8s/README.md:在 K8s / PD 分离说明中指向新文档。pd_disaggregation_deployment.md:文首增加「引擎为 SGLang 时优先参阅」提示。supported_inference_engines.md:SGLang 小节增加部署步骤与典配路径链接。组件交互(资料描述范围,非本 PR 新实现):
Deployer 读
user_config.json/env.json→ 生成并 apply K8s 资源(含 MF Store)→ NodeManager 拉起sglang.launch_server→ Coordinator 经 SGLang bootstrap Adapter 调度 PD 请求;客户端只访问 Coordinator 北向接口。3. 资料变更
涉及。
docs/zh/user_guide/deployment/k8s/pd_disaggregation_sglang.mddocs/zh/user_guide/menu_user_manual.mddocs/zh/user_guide/deployment/README.mddocs/zh/user_guide/deployment/k8s/README.mddocs/zh/user_guide/deployment/k8s/pd_disaggregation_deployment.mddocs/zh/user_guide/features/supported_inference_engines.md4. 接口变更
不涉及。
不新增 / 修改北向业务接口、管理接口或跨仓 API;文档仅描述既有
engine_type: sglang部署方式与配置约定。5. 测试结果
deploy.py --config_dir ../infer_engines/sglang/models/glm5.1/A3GET /v1/models、POST /v1/chat/completions经 Coordinator 正常6. CheckList
[x] 代码注释完备(本 PR 无代码变更,不涉及)
[x] 正确记录维测日志(本 PR 无代码变更,不涉及)
[x] 是否有UT用例(本 PR 为资料变更,不涉及)
[x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题(本 PR 不涉及)