您当前的位置:首页 > 电脑百科 > 站长技术 > 服务器

websocket连接太多导致服务器卡顿怎么办?一招轻松实现横向扩展

时间:2020-05-04 16:02:35  来源:  作者:

前言

项目中有即时聊天的需求,经过调研我们采用了socket.io自己实现了一个聊天服务器。

开始的一段时间由于用户不是很多,消息的发送接收都还算流畅,最近随着在线用户数量飙升,每过一段时间就会发生发送消息卡顿和接收消息延时的问题,最后只能通过重启socket服务来暂时解决问题。

那有没有办法从根本上解决这个问题呢?

目录

  1. 什么是socket.io
  2. socket.io实现一个简易的即时聊天应用
  3. socket.io支持分布式部署吗?
  4. 总结

什么是socket.io?

在介绍什么是socket.io之前,不得不先提一下WebSocket

我们都知道HTTP协议是一种单向的网络通信协议,服务端只能被动响应来自客户端的请求,却不能主动向客户端推送数据。

WebSocket技术没有出现之前,如果要开发一个需要实时获取服务端数据的Web应用,常见有以下两种方式:ajax轮询Long Polling。

  • ajax轮询的原理其实很简单,就是让客户端每隔一小段时间就主动向服务端发送一次请求,如果有新数据客户端就把它显示出来。
  • 可以看出不管有没有新数据,ajax轮询都会定时向服务端发起请求,这会导致服务端不必要的性能消耗,Long Polling就是对ajax轮询的一种改进。客户端向服务端发送请求,服务端不会立即就响应客户端而是会先保持住此次连接,直到有新的数据时才会返回,客户端接收到数据之后再立即发送一个新的请求给服务端,并不断得重复这一过程。

可以看出这两种方式都需要不断的建立连接,但是建立连接是一个比较消耗性能的操作,这个时候如果有一个新的通信协议可以支持客户端和服务端双向通信就好了,所以WebSocket应运而生。

websocket连接太多导致服务器卡顿怎么办?一招轻松实现横向扩展
 
 
 

WebSocket是html5新增的一种通信协议。WebSocket协议是一种支持双向通信的协议,它和HTTP协议一样通过TCP来进行数据传输,但是WebSocket又不同于HTTP:

  • WebSocket是一种支持双向通信的协议,双方在建立连接后都能主动向对方发送或接收数据。
  • 客户端和服务端要想进行WebSocket通信必须先握手交换信息,成功之后才能进行通信。

说了这么多,那么WebSocket跟socket.io又是什么关系呢?

一直以来我都以为socket.io只是WebSocket协议的一种实现而已,深入之后才发现这种观点不完全正确。

socket.io是一个基于Node.js技术和WebSocket协议开发的实时的,可双向通信的和基于事件的的开源通信框架

WebSocke是HTML5新推出的协议,主流浏览器对它的支持还不是很完善,所以socket.io不仅仅实现了WebSocket协议,除此之外它还支持一些其他的通信方式,比如前面我们提到的ajax轮询和Long Polling等,可以根据浏览器的支持程度切换不同的通信方式。

用socket.io实现一个简易的即时聊天应用

接下来我们就是使用socket.io来实现一个简易的即时聊天的web应用。

先来看一下效果:

websocket连接太多导致服务器卡顿怎么办?一招轻松实现横向扩展
 
 
 

下面简单介绍一下实现方式,主要分为客户端和服务端两个部分。

服务端核心代码:

websocket连接太多导致服务器卡顿怎么办?一招轻松实现横向扩展
 
 
 

服务端主要定义了3个监听事件,分别用来监听客户端的加入群聊、发送消息和离开群聊事件,服务端在监听到事件后会再通过broadcast.emit方法将消息向全体用户广播。

客户端核心代码:

websocket连接太多导致服务器卡顿怎么办?一招轻松实现横向扩展
 
 
 

主要流程:

  1. 向socket服务端请求连接;
  2. 自己向服务端发送加入群聊请求;
  3. 监听服务端广播的其他用户加入群聊消息;
  4. 监听服务端广播的用户聊天信息;
  5. 监听服务端广播的用户离开群聊消息;

socket.io支持分布式部署吗?

socket服务端维护连接是一个十分消耗性能的操作,那么大量的连接必然会给服务器带来非常大的性能压力,当单台socket服务器支撑不了时该怎么办呢?

解决方案其实也很简单:分而治之,我们可以将多个socket服务端组成负载均衡集群,再将连接平均分配到每个服务端。

有人也许会提出疑问:多个socket服务端之间怎么通信?比如用户1连接到了socket服务端1,用户2连接到了socket服务端2,那么用户1发的消息怎么广播到socket服务端2呢?

这里就需要提一下redis了,对你没看错,就是那个用作缓存的Redis。

其实Redis除了当作缓存使用之外,它还有一个非常厉害的功能:发布/订阅

Redis的发布订阅机制包括三个部分:发布者、订阅者和频道。 发布者将消息发送到某个频道,那么Redis服务器就会主动将消息推送到订阅了这个频道的所有订阅者。

socket.io正式利用Redis的发布订阅机制来支持分布式部署的:

websocket连接太多导致服务器卡顿怎么办?一招轻松实现横向扩展
 
 
 

当客户端1通过emit触发了一个事件到socket服务端1,socket服务端1将这个消息发送到Redis的某个频道,订阅了这个频道的socket服务端2就会收到这个消息,socket服务端2再向连接它的用户广播就行了。

代码增加reidssocket.io-redis模块:

websocket连接太多导致服务器卡顿怎么办?一招轻松实现横向扩展
 
 
 

总结

socket.io是一个基于Node.js技术和WebSocket协议开发的实时的,可双向通信的和基于事件的的开源通信框架。除此之外它还兼容ajax轮询和Long Polling等前后端通信方式,我们可以根据浏览器的支持程度进行自由切换。

socket.io非常适合客户端和服务端需要进行实时通信的场景,它利用Redis的发布订阅机制可以实现分布式部署,这让socket服务端横向扩展变得很加容易。

 



Tags:服务器   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
Windows操作系统和Linux操作系统有何区别?Windows操作系统:需支付版权费用,(华为云已购买正版版权,在华为云购买云服务器的用户安装系统时无需额外付费),界面化的操作系统对用户使...【详细内容】
2021-12-21  Tags: 服务器  点击:(6)  评论:(0)  加入收藏
以下是服务器安全加固的步骤,本文以腾讯云的CentOS7.7版本为例来介绍,如果你使用的是秘钥登录服务器1-5步骤可以跳过。1、设置复杂密码服务器设置大写、小写、特殊字符、数字...【详细内容】
2021-12-20  Tags: 服务器  点击:(7)  评论:(0)  加入收藏
转自: https://kermsite.com/p/wt-ssh/由于格式问题,部分链接、表格可能会失效,若失效请访问原文密码登录 以及 通过密钥实现免密码登录Dec 15, 2021阅读时长: 6 分钟简介Windo...【详细内容】
2021-12-17  Tags: 服务器  点击:(16)  评论:(0)  加入收藏
简介在之前的文章中,我们提到了在netty的客户端通过使用Http2FrameCodec和Http2MultiplexHandler可以支持多路复用,也就是说在一个连接的channel基础上创建多个子channel,通过...【详细内容】
2021-12-14  Tags: 服务器  点击:(8)  评论:(0)  加入收藏
阿里云和腾讯云都是非常好的云服务器平台,大多数用户完全不用纠结腾讯云还是阿里云,特别是微信开发用户,自然是首选腾讯云,其次是学生或个人以及财政紧张的小公司微型业务,腾讯云...【详细内容】
2021-12-14  Tags: 服务器  点击:(14)  评论:(0)  加入收藏
今日总监说32 服务器 磁盘占用率 超过80%多了 。不对啊 之前才清理过df -h 查看了一番 果然40g 用了33g。看了下历史会爆目录 也就5.3G 之前是服务生成临时下载的附件多。...【详细内容】
2021-12-10  Tags: 服务器  点击:(17)  评论:(0)  加入收藏
在Linux系统下如何分享文件呢,你可能会想到用scp、rsync此类的命令,但都需要给出服务器密码,不安全。或者搭建一个ftp、nfs或samba的服务,分配个账号或划分个权限给其它人共享文...【详细内容】
2021-12-08  Tags: 服务器  点击:(17)  评论:(0)  加入收藏
域名系统是最重要的互联网服务之一,没有它,我们将无法访问在线内容,甚至无法发送电子邮件。每当我们尝试连接到其他网站或在线服务时,根 DNS 服务器都会帮助我们的计算机找到并...【详细内容】
2021-11-25  Tags: 服务器  点击:(35)  评论:(0)  加入收藏
实验拓扑 图 1-1实验需求 在深圳总部的 AF 上,配置 DDOS 防护,防止服务器区的服务器被 DDOS 攻击 在深圳总部的 AF 上,配置 IPS,对服务器区的服务器实现入侵检测和入侵防御实验...【详细内容】
2021-11-23  Tags: 服务器  点击:(26)  评论:(0)  加入收藏
服务器日志(server log)是一个或多个由服务器自动创建和维护的日志文件,其中包含其所执行活动的列表简单来说,服务器的日记就是记录网站被访问的全过程,什么时间到什么时间有哪...【详细内容】
2021-11-11  Tags: 服务器  点击:(42)  评论:(0)  加入收藏
▌简易百科推荐
阿里云镜像源地址及安装网站地址https://developer.aliyun.com/mirror/centos?spm=a2c6h.13651102.0.0.3e221b111kK44P更新源之前把之前的国外的镜像先备份一下 切换到yumcd...【详细内容】
2021-12-27  干程序那些事    Tags:CentOS7镜像   点击:(1)  评论:(0)  加入收藏
前言在实现TCP长连接功能中,客户端断线重连是一个很常见的问题,当我们使用netty实现断线重连时,是否考虑过如下几个问题: 如何监听到客户端和服务端连接断开 ? 如何实现断线后重...【详细内容】
2021-12-24  程序猿阿嘴  CSDN  Tags:Netty   点击:(12)  评论:(0)  加入收藏
一. 配置yum源在目录 /etc/yum.repos.d/ 下新建文件 google-chrome.repovim /etc/yum.repos.d/google-chrome.repo按i进入编辑模式写入如下内容:[google-chrome]name=googl...【详细内容】
2021-12-23  有云转晴    Tags:chrome   点击:(7)  评论:(0)  加入收藏
一. HTTP gzip压缩,概述 request header中声明Accept-Encoding : gzip,告知服务器客户端接受gzip的数据 response body,同时加入以下header:Content-Encoding: gzip:表明bo...【详细内容】
2021-12-22  java乐园    Tags:gzip压缩   点击:(9)  评论:(0)  加入收藏
yum -y install gcc automake autoconf libtool makeadduser testpasswd testmkdir /tmp/exploitln -s /usr/bin/ping /tmp/exploit/targetexec 3< /tmp/exploit/targetls -...【详细内容】
2021-12-22  SofM    Tags:Centos7   点击:(7)  评论:(0)  加入收藏
Windows操作系统和Linux操作系统有何区别?Windows操作系统:需支付版权费用,(华为云已购买正版版权,在华为云购买云服务器的用户安装系统时无需额外付费),界面化的操作系统对用户使...【详细内容】
2021-12-21  卷毛琴姨    Tags:云服务器   点击:(6)  评论:(0)  加入收藏
参考资料:Hive3.1.2安装指南_厦大数据库实验室博客Hive学习(一) 安装 环境:CentOS 7 + Hadoop3.2 + Hive3.1 - 一个人、一座城 - 博客园1.安装hive1.1下载地址hive镜像路径 ht...【详细内容】
2021-12-20  zebra-08    Tags:Hive   点击:(9)  评论:(0)  加入收藏
以下是服务器安全加固的步骤,本文以腾讯云的CentOS7.7版本为例来介绍,如果你使用的是秘钥登录服务器1-5步骤可以跳过。1、设置复杂密码服务器设置大写、小写、特殊字符、数字...【详细内容】
2021-12-20  网安人    Tags:服务器   点击:(7)  评论:(0)  加入收藏
项目中,遇到了一个问题,就是PDF等文档不能够在线预览,预览时会报错。错误描述浏览器的console中,显示如下错误:nginx代理服务报Mixed Content: The page at ******** was loaded...【详细内容】
2021-12-17  mdong    Tags:Nginx   点击:(7)  评论:(0)  加入收藏
转自: https://kermsite.com/p/wt-ssh/由于格式问题,部分链接、表格可能会失效,若失效请访问原文密码登录 以及 通过密钥实现免密码登录Dec 15, 2021阅读时长: 6 分钟简介Windo...【详细内容】
2021-12-17  LaLiLi    Tags:SSH连接   点击:(16)  评论:(0)  加入收藏
最新更新
栏目热门
栏目头条