Closed
[Bug] intelli_router: 显式 id=None 的多个部署共用状态 key,一次失败清空全部候选(AllDeploymentsFailed) #85
庄昭雄Add on  20 days agoClosed at  16 days ago
庄昭雄
庄昭雄
20 days ago Create

Paired: GitHub #164 ↔ GitCode #85

现象

intelli_router 的 Deployment.id 文档写的是「可选,缺省时自动生成」,但 dataclass 的 default_factory 只在省略参数时生效;配置层会把缺省值原样透传成 id=None("id": dep_cfg.get("route_id") or dep_cfg.get("id"))。多个部署因此共享 id=None:

  • ReliableRouter 的状态(deployment_status / consecutive_failures / cooldown_until)以 d.id 为 key → 全部折叠到 "null",互相覆盖;
  • 失败后 available = [d for d in available if d.id != selected.id] 中 None != None 为假 → 一次清空所有 None-id 候选,健康的备用部署一次都不会被请求,直接抛 AllDeploymentsFailed。

复现(基线 f70ae82)

两个 Deployment(..., id=None)、strategy="ordered-failover",mock 第一个端点返回 500:

bad = Deployment(model_name="m", api_key="k", api_base="http://bad", id=None)
good = Deployment(model_name="m", api_key="k", api_base="http://good", id=None)
router = ReliableRouter(deployments=[bad, good], strategy="ordered-failover", num_retries=2)
# 期望:bad 失败后 fallback 到 good
# 实际:AllDeploymentsFailed: All deployments failed for model 'm'

期望

id 缺省或显式传 None 时都应自动生成唯一 id(与文档及 default_factory 语义一致),fallback 能正常使用健康备用部署。

修复

MR !343 在 Deployment.__post_init__ 补全 id is None 的缺省语义(并校验类型/空白字符串)。
已用路由级回归用例固化本 issue 的症状:修复前失败(AllDeploymentsFailed),修复后通过。

likedislike
OopenJiuwen-botCollaborators
20 days ago Added label: sig/sig-agent-protocol
openJiuwen-botCollaborators
20 days ago Comments:

欢迎来到 openJiuwen 社区

Hey @grandocean , 感谢你对社区的贡献.

机器人使用手册

有关指令的使用,可以点击 此处 查看详情。开发人员可以在每个PR或Issue下方评论特定指令来触发机器人任务。

联系指引

有疑问可以联系 SIG: sig-agent-protocol ,
维护者是: @YiyangShao, @xinyu-jiuwen ,
审核者是: @gcw_hx9prznZ, @mingo007 .

likedislike
Oopenjiuwen-syncCollaborators
20 days ago Modify description of issue
OopenJiuwen-botCollaborators
16 days ago Close issue
OopenJiuwen-botCollaborators
16 days ago changed custom state from TODO to DONE