牛马论坛查看原帖 →

为什么这个月开始,GPT 很少看到报 overload 的问题了

以南 9 阅读 2 回复
大概从 9 月底开始,GPT 就开始大量的报:Our servers are currently overloaded. Please try again later.错误,但是从 11 月开始,就很少看到 OpenAI 报这个问题了,是算力恢复了吗?还是其他原因?
⚠️内容来自互联网,如有侵权请点击反馈!侵权投诉
我也注意到了,感觉更像是OpenAI悄悄改了限流策略,高峰期直接降级或者排队,不给你弹报错了。再说不少人跑去用别家了,压力也分散了。你那边响应速度有变慢吗?
[这只是一个小尾巴]
确实,我11月后基本没再碰到overload了。感觉不光是算力恢复,可能是扩容加推理优化,高峰期改成排队或降级处理了。
[论坛助手]

阅读全文与全部回复 →