您当前的位置:首页 > 电脑百科 > 网络技术 > 网络知识

影响TCP连接吞吐量的致命因素:HOL

时间:2019-08-20 09:28:44  来源:  作者:

1、什么是HOL

HOL是Head of line blocking的意思,在互联网领域,包括HTTP head of line blocking和 TCP head of line blocking。

1.1 HTTP Head of line blocking

Wikipedia对HTTP HOL的解释如下:

影响TCP连接吞吐量的致命因素:HOL (干货)

 

虽然HTTP/2解决了HTTP/1.1的HOL问题,但由于是建立在TCP基础上,所以仍然存在TCP层面的HOL问题。

1.2%20TCP%20Head%20of%20line%20blocking

TCP%20HOL定义如下:

 

例如在TCP接收缓冲区,请求的第一个数据包由于某种原因一直未到达,缓冲区里面的后续数据包就无法传递给上层应用,只能处于等待中,直到第一个数据包过来,才能一起传递给上层应用。

TCP%20HOL带来的问题具有普遍性。只要利用TCP,就有这方面的问题,因此影响范围非常广泛。

2、案例分析

2.1%20Network%20switches

 

上图展示了网络交换机中不同input队列是如何因为HOL等待的。

第一个和第三个input队列,都在竞争使用Output 4。如果交换机选择传递第三个input队列的数据包,那么第一个input队列的数据包只能选择等待。第一个input队列中的序号3数据包因为HOL只能等待,虽然output 3是空闲的。

2.2 单个连接 vs 多个连接实验

下面是并发为1的吞吐量,为153.60 reqs/sec。

影响TCP连接吞吐量的致命因素:HOL (干货)

 


影响TCP连接吞吐量的致命因素:HOL (干货)

 

下面是并发为10的吞吐量,为145.08 reqs/sec。

影响TCP连接吞吐量的致命因素:HOL (干货)

 


影响TCP连接吞吐量的致命因素:HOL (干货)

 

这里10个并发比1个并发吞吐量还低,是因为测试环境是Docker环境,硬件配置差所导致。

上面测试是在无丢包网络环境下进行的,那么在网络丢包情况下会怎么样?

我们模拟丢包率1%的网络环境。

影响TCP连接吞吐量的致命因素:HOL (干货)

 

并发为1的吞吐量下降为37.41 reqs/sec。

影响TCP连接吞吐量的致命因素:HOL (干货)

 

并发为10的吞吐量为132.20 reqs/sec。

影响TCP连接吞吐量的致命因素:HOL (干货)

 

我们发现在丢包情况下,多个并发效果更好。这是因为多个并发情况下,HOL blocking问题得到了一定的缓解,而单个连接,则因为HOL blocking问题显得很明显。

2.3 tcpcopyintercept交互

很长一段时间内,tcpcopyintercept的交互只用了一个连接。当测试压力比较大的时候,网络会恶化,很容易出现丢包或者来不及接收数据的状况,从而导致大量信息被阻塞住。

后来为了解决单个连接导致HOL的问题,采用了多个连接,性能得到了极大提升。

2.4 JAVA netty游戏框架

下图展示了一个Java netty框架。

影响TCP连接吞吐量的致命因素:HOL (干货)

 

一个线程既用来处理读数据,又用来写数据,线程一会儿忙于处理读事件,一会儿处理写事件。集中处理读事件的时候,待写的数据被阻塞了,而集中处理写事件的时候,读事件被阻塞了。压力一大,延迟就会变得很大。

3、HOL blocking带来的问题

影响TCP连接吞吐量的致命因素:HOL (干货)

 

4、总结

程序架构中,尽量采用多个连接的方式来处理各种事件,否则很容易遇到TCP的HOL阻塞问题。



Tags:TCP连接   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
TCP握手的时候维护的队列 半连接队列(SYN队列) 全连接队列(accepted队列)半连接队列是什么?服务器收到客户端SYN数据包后,Linux内核会把该连接存储到半连接队列中,并响应SYN+ACK报...【详细内容】
2021-12-21  Tags: TCP连接  点击:(10)  评论:(0)  加入收藏
想必大家已经知道我的niao性,搞个标题,就是不喜欢立马回答。就是要搞一大堆原理性的东西,再回答标题的问题。说这个是因为我这次会把问题的答案就放到开头吗?不!我就不!但是大家可...【详细内容】
2021-09-13  Tags: TCP连接  点击:(72)  评论:(0)  加入收藏
下面是一个简单的echo服务程序:#include <stdio.h>#include <stdlib.h>#include <sys/types.h>#include <sys/socket.h>#include <netinet/in.h>#include <unistd.h>#include...【详细内容】
2021-06-21  Tags: TCP连接  点击:(117)  评论:(0)  加入收藏
这明显是进入了思维的误区,65535是指可用的端口总数,并不代表服务器同时只能接受65535个并发连接。举个例子:我们做了一个网站,绑定的是TCP的80端口,结果是所有访问这个网站的用...【详细内容】
2021-04-08  Tags: TCP连接  点击:(309)  评论:(0)  加入收藏
在互联网领域,客户端和服务端之间通常需要建立和保持TCP长连接。所谓长连接,就是通信双方在建立TCP连接后进行数据通信,一次或若干次通信交互完成之后,不主动断开连接,而是保持TC...【详细内容】
2020-06-21  Tags: TCP连接  点击:(89)  评论:(0)  加入收藏
一道经典的面试题是从 URL 在浏览器被输入到页面展现的过程中发生了什么,大多数回答都是说请求响应之后 DOM 怎么被构建,被绘制出来。 图片来自 Pexels 但是你有没有想过,收到...【详细内容】
2020-02-16  Tags: TCP连接  点击:(70)  评论:(0)  加入收藏
之前我写了篇关于 HTTP 的文章,文章中讲述了 HTTP的特点,HTTP 的报文,HTTP 的请求方式等知识,接下来,深入了,我们就关于 HTTP 引发的面试题来进行入手,一起来看一下吧!1. HTTP 是如...【详细内容】
2020-01-28  Tags: TCP连接  点击:(72)  评论:(0)  加入收藏
前言1:负载均衡技术简介 2:谈谈HTTP优化和加速特性带来的益处 负载均衡技术简介现代企业信息化应用越来越多的采用B/S应用架构来承载企业的关键业务,因此,确保这些任务的可靠运...【详细内容】
2019-12-31  Tags: TCP连接  点击:(68)  评论:(0)  加入收藏
一道经典的面试题是从 URL 在浏览器被输入到页面展现的过程中发生了什么,大多数回答都是说请求响应之后 DOM 怎么被构建,被绘制出来。 图片来自 Pexels 但是你有没有想过,收到...【详细内容】
2019-12-23  Tags: TCP连接  点击:(114)  评论:(0)  加入收藏
1、什么是HOLHOL是Head of line blocking的意思,在互联网领域,包括HTTP head of line blocking和 TCP head of line blocking。1.1 HTTP Head of line blockingWikipedia对HTT...【详细内容】
2019-08-20  Tags: TCP连接  点击:(346)  评论:(0)  加入收藏
▌简易百科推荐
以京训钉开发平台接口文档为例,使用HttpClient类请求调用其接口,对数据进行增删改查等操作。 文档地址: https://www.yuque.com/bjjnts/jxd/bo1oszusing System;using System.C...【详细内容】
2021-12-28  Wednes    Tags:HttpClient   点击:(1)  评论:(0)  加入收藏
阿里云与爱快路由安装组网教程一、开通好阿里云轻量服务器之后在服务器运维-远程连接处进行远程 二、进入控制台后在root权限下根据需要安装的固件位数复制下面命令。32位:wg...【详细内容】
2021-12-28  ikuai    Tags:组网   点击:(1)  评论:(0)  加入收藏
HTTP 报文是在应用程序之间发送的数据块,这些数据块将通过以文本形式的元信息开头,用于 HTTP 协议交互。请求端(客户端)的 HTTP 报文叫做请求报文,响应端(服务器端)的叫做响应...【详细内容】
2021-12-27  程序员蛋蛋    Tags:HTTP 报文   点击:(5)  评论:(0)  加入收藏
一 网络概念:1.带宽: 标识网卡的最大传输速率,单位为 b/s,比如 1Gbps,10Gbps,相当于马路多宽2.吞吐量: 单位时间内传输数据量大小单位为 b/s 或 B/s ,吞吐量/带宽,就是网络的使用率...【详细内容】
2021-12-27  码农世界    Tags:网络   点击:(3)  评论:(0)  加入收藏
1.TCP/IP 网络模型有几层?分别有什么用? TCP/IP网络模型总共有五层 1.应用层:我们能接触到的就是应用层了,手机,电脑这些这些设备都属于应用层。 2.传输层:就是为应用层提供网络...【详细内容】
2021-12-22  憨猪哥08    Tags:TCP/IP   点击:(35)  评论:(0)  加入收藏
TCP握手的时候维护的队列 半连接队列(SYN队列) 全连接队列(accepted队列)半连接队列是什么?服务器收到客户端SYN数据包后,Linux内核会把该连接存储到半连接队列中,并响应SYN+ACK报...【详细内容】
2021-12-21  DifferentJava    Tags:TCP   点击:(10)  评论:(0)  加入收藏
你好,这里是科技前哨。 随着“元宇宙”概念的爆火,下一代互联网即将到来,也成了互联网前沿热议的话题,12月9日美国众议院的听证会上,共和党议员Patrick McHenry甚至宣称,要调整现...【详细内容】
2021-12-17  王煜全    Tags:Web3   点击:(14)  评论:(0)  加入收藏
一、demopublic static void main(String[] args) throws Exception { RetryPolicy retryPolicy = new ExponentialBackoffRetry( 1000, 3);...【详细内容】
2021-12-15  程序员阿龙    Tags:Curator   点击:(22)  评论:(0)  加入收藏
一、计算机网络概述 1.1 计算机网络的分类按照网络的作用范围:广域网(WAN)、城域网(MAN)、局域网(LAN);按照网络使用者:公用网络、专用网络。1.2 计算机网络的层次结构 TCP/IP四层模...【详细内容】
2021-12-14  一口Linux    Tags:网络知识   点击:(31)  评论:(0)  加入收藏
无论是在外面还是在家里,许多人都习惯了用手机连接 WiFi 进行上网。不知道大家有没有遇到过这样一种情况, 明明已经显示成功连接 WiFi,却仍然提示“网络不可用”或“不可上网”...【详细内容】
2021-12-14  UGREEN绿联    Tags:WiFi   点击:(25)  评论:(0)  加入收藏
相关文章
    无相关信息
最新更新
栏目热门
栏目头条