已关闭
[Bug]: 推理报错:状态码429,内容返回model is overloaded #64
chen_pengyu创建于 5月26日关闭于 5月27日
5月26日 添加了label:bug
5月26日 添加了label:triaged
wangyongjun
5月27日 评论:
5月27日 评论:
你好,请参考如下分析,进行配置MAX_CONCURRENT_REQUESTS环境变量,具体含义参考链接



5月27日 issue状态由 TODO 改变为 DONE
5月27日 关闭了 issue
在提交新问题之前,请确保您已经在社区中搜索过相关问题,并使用了社区中提供的资源/工具后,仍未找到满意的解决方式。
⚠️ 安全信息提醒:请仔细检查提供的文本内容,确保其不包含敏感数据信息,包括但不限于:
在分享配置信息或代码示例时,请将敏感信息脱敏处理,或使用
<TOKEN>等占位符替代原有内容。环境信息
推理镜像:使用mis-tei 26.0镜像 https://www.hiascend.com/developer/ascendhub/detail/07a016975cc341f3a5ae131f2b52399d****
硬件:Atlas 800I A2推理产品(910B2)
🐛 问题描述
推理返回报错:

日志打印:

代码内相关描述:
662a28d5fa8a43cab585d3f790792dc1.png
启动命令:
欢迎加入社区,感谢您对社区的贡献 🎉!