不知道你有没有过这样的经历,你的Spring项目通过http接口远程调用外部系统时,通常你会设置超时时间,比如5秒钟,但是实际情况却是由于外部系统出现故障并导致连接超时,有些请求花费远远超过5秒时间,甚至1分钟,这直接导致你本身的接口响应很慢,如果访问你接口的流量很大的话,甚至拖垮你的系统,这将会是灾难性的后果。
你可能会好奇到底是什么原因导致的,很可能是你忽略了这个超时配置项connectionRequestTimeout导致的。
在深入了解 connectionRequestTimeout 之前,我们需要了解外部 HTTP 请求是如何在 Spring 中进行的。
Spring 通过Http调用外部系统的时候,会使用连接池去管理他们。因为HTTP请求创建连接代价比较高,而连接池可以做到连接的复用,回过头,我们思考下为什么会代价高呢?
为 HTTP 请求使用连接池可以显着提高性能。但是,我们需要对其进行适当配置以防止出现灾难情况。
现在让我们用连接池的概念再来看问题。
本例中B组件是外部系统,处于无法建立HTTP连接的情况,导致A中的连接超时,请仔细看上面A指向连接池的箭头,A 正在等待另一个连接来建立到 B 的 HTTP 连接。
connectionRequestTimeout 是 Spring 中的一个配置参数,用于确定客户端在超时前等待来自连接池的连接的时间。此超时值用于防止客户端无限期地等待可能不可用的连接,并在不再需要时释放连接池中的资源。
API 响应时间 = connectionRequestTimeout + connectionTimeout + readTimeout 。
connectionRequestTimeout 的默认值为 -1,这意味着它无限期地等待来自连接池的连接。由于我们希望避免外部组件中断导致系统故障,因此我们需要为其设置一个显式值。
假设您将值设置得太短:1 秒。如果系统需要高延迟,这可能是一个频繁的故障,因为它可能一直渴望连接。另一方面,如果该值太长,比如 10 分钟,系统很容易因外部故障而失败。
因此,你需要统计系统的API响应时间, 最大超时响应时间如下:
API 响应时间 = connectionRequestTimeout + connectionTimeout + readTimeout。
看看是否有很多请求超过了connectionTimeout和readTimeout之和, 如果是这样的话,系统需要增大连接池的大小或者减小connectionRequestTimeout值。否则就将 connectionRequestTimeout 合理设置为 15 秒到 30 秒之间。
下面是设置 connectionRequestTimeout 的示例代码。
import org.springframework.http.client.HttpComponentsClientHttpRequestFactory;
import org.springframework.web.client.RestTemplate;
public class ConnectionRequestTimeoutExample {
public static void mAIn(String[] args) {
RestTemplate restTemplate = new RestTemplate();
HttpComponentsClientHttpRequestFactory requestFactory = new HttpComponentsClientHttpRequestFactory();
// Set the connectionRequestTimeout value to 10 seconds
requestFactory.setConnectionRequestTimeout(10000);
restTemplate.setRequestFactory(requestFactory);
...
}
}
在这个例子中,我们创建了一个新的RestTemplate和一个新的HttpComponentsClientHttpRequestFactory,然后我们connectionRequestTimeout使用该方法将该值设置为 10 秒,并使用该方法为 RestTemplate 设置请求工厂setRequestFactory()。
最后,我们在总结以下Spring中Http请求的3个关键的超时配置吧,其中connectionRequestTimeout 最容易被忽视的。