已开启
[Documentation|文档反馈]: 需要补充服务限流特性说明文档 #2
LinWei100创建于  26 天前
LinWei100
LinWei100成员
26 天前 创建

在您提交issue前,请确认以下信息:

文档链接

上游正式 issue:https://gitcode.com/Ascend/MindIE-Motor/issues/311

当前仓库缺少独立的服务限流特性文档,现有入口仅见简要配置片段:

docs/zh/user_guide/features/ 下无 rate_limiting.md

问题文档片段

PD 分离部署文档「服务限流」小节仅给出最小配置示例,配置参考也只列出字段名与默认值,未说明生效范围、热更新、多 Worker 令牌桶、OLC 降级、429/413 及拥堵告警。

存在的问题

  1. 特性指南中无法检索到服务限流的完整配置方法、原理与排障指引。
  2. 未说明限流仅作用于 Coordinator 推理面,且 simple 限流器按每个推理 Worker 独立维护令牌桶。
  3. 未说明 provider: olc 的安装/规则目录要求,以及加载失败时自动降级为 simple
  4. 未说明 max_request_body_size 超限返回 HTTP 413、限流超限返回 HTTP 429。
  5. 未说明配置热更新仅在启动时已创建 simple 限流器时生效。
  6. simple 限流器拥堵告警用剩余令牌 available 判定,空载满桶会误报;文档也未按已用额度说明。
  7. max_request_body_size 口径不完整:运行时 0 表示不限制,负数会在部署校验失败。
likedislike
LinWei100LinWei100成员
26 天前 添加了label:documentation
LinWei100LinWei100成员
25 天前 修改了issue 的描述