上游正式 issue:https://gitcode.com/Ascend/MindIE-Motor/issues/311
当前仓库缺少独立的服务限流特性文档,现有入口仅见简要配置片段:
docs/zh/user_guide/features/ 下无 rate_limiting.md。
docs/zh/user_guide/features/
rate_limiting.md
PD 分离部署文档「服务限流」小节仅给出最小配置示例,配置参考也只列出字段名与默认值,未说明生效范围、热更新、多 Worker 令牌桶、OLC 降级、429/413 及拥堵告警。
simple
provider: olc
max_request_body_size
available
0
在您提交issue前,请确认以下信息:
文档链接
上游正式 issue:https://gitcode.com/Ascend/MindIE-Motor/issues/311
当前仓库缺少独立的服务限流特性文档,现有入口仅见简要配置片段:
docs/zh/user_guide/features/下无rate_limiting.md。问题文档片段
PD 分离部署文档「服务限流」小节仅给出最小配置示例,配置参考也只列出字段名与默认值,未说明生效范围、热更新、多 Worker 令牌桶、OLC 降级、429/413 及拥堵告警。
存在的问题
simple限流器按每个推理 Worker 独立维护令牌桶。provider: olc的安装/规则目录要求,以及加载失败时自动降级为simple。max_request_body_size超限返回 HTTP 413、限流超限返回 HTTP 429。simple限流器时生效。simple限流器拥堵告警用剩余令牌available判定,空载满桶会误报;文档也未按已用额度说明。max_request_body_size口径不完整:运行时0表示不限制,负数会在部署校验失败。