已开启
【RFC】InferNex 一键部署 Skill(infernex-deploy) #153
xinhongchen创建于 8月21日
8月21日 添加了label:sig/sig-ai-inference
openFuyao-bot
8月21日 评论:
8月21日 评论:
欢迎来到 openFuyao 社区
Hey @xinhongchen , 感谢你对社区的贡献.
机器人使用手册
有关指令的使用,可以点击 此处 查看详情。开发人员可以在每个PR或Issue下方评论特定指令来触发机器人任务。
联系指引
有疑问可以联系 SIG: sig-ai-inference ,
维护者是: @foxbit, @regandy ,
审核者是: @ShiroChen, @piamposer-li, @qinwenzh .


8月21日 修改了issue 的描述
此处折叠了28条事件消息 查看更多
Xxinhongchen
2 天前 关联了pull request:fix(skills): precipitate full inference-backend service scaffold per model profile
2 天前 关联了pull request:fix(skills): precipitate full inference-backend service scaffold per model profile
1. 背景与动机
InferNex 基于 K8s 和 Helm 部署,涉及多个组件及复杂的依赖与拓扑关系,整体部署流程较长,组件就绪状态也存在一定的时序要求。当前部署过程对使用者的 K8s、Helm 及 InferNex 组件知识要求较高,遇到部署异常时还需要结合日志、状态及组件依赖进行排查,手工操作成本较高。
本 RFC 提议提供AI 辅助部署 InferNex Skill,将 InferNex 的部署流程、组件依赖、配置要求及常见问题处理方式进行结构化封装,为 AI 辅助部署、状态检查与问题排查提供统一能力,降低 InferNex 的部署门槛。
2. 目标
提供 AI 辅助 InferNex 全生命周期管理能力,覆盖预检验、安装部署、升级与卸载:
3. Skill 框架
生命周期:预检 → 安装/升级 → 验证;独立 卸载 路径。具体步骤见 skill 内流程文档。
3.1 预检/部署/升级
sequenceDiagram actor User as 用户 participant Agent as AI Agent participant System as InferNex / K8s User->>Agent: 部署 / 升级请求 Note over User,Agent: 配置准备与确认 Agent->>User: 准备配置 + 用户确认 User-->>Agent: 确认 Note over Agent,System: 预检验 Agent->>System: 执行预检 System-->>Agent: 预检报告 Agent-->>User: 返回预检报告 alt 预检通过 User->>Agent: 确认继续 Note over Agent,System: 安装 / 升级 Agent->>System: 安装 / 升级 Note over Agent,System: 等待就绪与验证 Agent->>System: 等待就绪 + 推理验证 System-->>Agent: 验证结果 Agent-->>User: 返回安装 / 升级结果报告 User->>Agent: 确认结果正确 else 预检未通过 Agent-->>User: 返回问题报告 + 修复建议 User->>Agent: 修复 / 取消 end Note over User,System: 长耗时阶段支持 checkpoint,中断后可续跑3.2 卸载
sequenceDiagram actor User as 用户 participant Agent as AI Agent participant System as InferNex / K8s User->>Agent: 卸载请求 Note over User,Agent: 选择卸载范围与确认 Agent->>User: 展示可清理资源 / 卸载范围 User-->>Agent: 选择范围 + 确认 Note over Agent,System: 执行卸载 Agent->>System: 按确认范围执行卸载 System-->>Agent: 卸载结果 Agent-->>User: 返回卸载结果要点:
4. 设计原则
5. 演进与共建
社区可扩展:更多预检维度、离线部署、更多模型部署规格映射等。