您当前的位置:首页 > 互联网百科 > 百科

大型互联网架构概述

时间:2019-04-29 09:59:52  来源:  作者:

1. 大型网站系统的特点

  • 高并发、大流量
  • 高可用
  • 海量数据
  • 用户分布广泛,网络情况复杂
  • 安全环境恶劣
  • 需求快速变更,迭代频繁
  • 渐进式发展

2. 大型网站架构演化历程

2.1. 初始阶段架构

问题:网站运营初期,访问用户少,一台服务器绰绰有余。

特征:应用程序、数据库、文件等所有的资源都在一台服务器上。

描述:通常服务器操作系统使用 linux,应用程序使用 php 开发,然后部署在 Apache 上,数据库使用 MySQL,通俗称为 LAMP。汇集各种免费开源软件以及一台廉价服务器就可以开始系统的发展之路了。

大型互联网架构概述,看完文章又涨知识了

 

2.2. 应用服务和数据服务分离

问题:越来越多的用户访问导致性能越来越差,越来越多的数据导致存储空间不足,一台服务器已不足以支撑。

特征:应用服务器、数据库服务器、文件服务器分别独立部署。

描述:三台服务器对性能要求各不相同:应用服务器要处理大量业务逻辑,因此需要更快更强大的 CPU;数据库服务器需要快速磁盘检索和数据缓存,因此需要更快的硬盘和更大的内存;文件服务器需要存储大量文件,因此需要更大容量的硬盘。

大型互联网架构概述,看完文章又涨知识了

 

2.3. 使用缓存改善性能

问题:随着用户逐渐增多,数据库压力太大导致访问延迟。

特征:由于网站访问和财富分配一样遵循二八定律:80% 的业务访问集中在 20% 的数据上。将数据库中访问较集中的少部分数据缓存在内存中,可以减少数据库的访问次数,降低数据库的访问压力。

描述:缓存分为两种:应用服务器上的本地缓存和分布式缓存服务器上的远程缓存,本地缓存访问速度更快,但缓存数据量有限,同时存在与应用程序争用内存的情况。分布式缓存可以采用集群方式,理论上可以做到不受内存容量限制的缓存服务。

大型互联网架构概述,看完文章又涨知识了

 

2.4. 使用应用服务器集群

问题:使用缓存后,数据库访问压力得到有效缓解。但是单一应用服务器能够处理的请求连接有限,在访问高峰期,成为瓶颈。

特征:多台服务器通过负载均衡同时向外部提供服务,解决单一服务器处理能力和存储空间不足的问题。

描述:使用集群是系统解决高并发、海量数据问题的常用手段。通过向集群中追加资源,提升系统的并发处理能力,使得服务器的负载压力不再成为整个系统的瓶颈。

大型互联网架构概述,看完文章又涨知识了

 

2.5. 数据库读写分离

问题:网站使用缓存后,使绝大部分数据读操作访问都可以不通过数据库就能完成,但是仍有一部分读操作和全部的写操作需要访问数据库,在网站的用户达到一定规模后,数据库因为负载压力过高而成为网站的瓶颈。

特征:目前大部分的主流数据库都提供主从热备功能,通过配置两台数据库主从关系,可以将一台数据库服务器的数据更新同步到一台服务器上。网站利用数据库的主从热备功能,实现数据库读写分离,从而改善数据库负载压力。

描述:应用服务器在写操作的时候,访问主数据库,主数据库通过主从复制机制将数据更新同步到从数据库。这样当应用服务器在读操作的时候,访问从数据库获得数据。为了便于应用程序访问读写分离后的数据库,通常在应用服务器端使用专门的数据访问模块,使数据库读写分离的对应用透明。

大型互联网架构概述,看完文章又涨知识了

 

2.6. 反向代理和 CDN 加速

问题:中国网络环境复杂,不同地区的用户访问网站时,速度差别也极大。

特征:采用 CDN 和反向代理加快系统的静态资源访问速度。

描述:CDN 和反向代理的基本原理都是缓存,区别在于 CDN 部署在网络提供商的机房,使用户在请求网站服务时,可以从距离自己最近的网络提供商机房获取数据;而反向代理则部署在网站的中心机房,当用户请求到达中心机房后,首先访问的服务器时反向代理服务器,如果反向代理服务器中缓存着用户请求的资源,就将其直接返回给用户。

大型互联网架构概述,看完文章又涨知识了

 

2.7. 分布式文件系统和分布式数据库

问题:随着大型网站业务持续增长,数据库经过读写分离,从一台服务器拆分为两台服务器,依然不能满足需求。

特征:数据库采用分布式数据库,文件系统采用分布式文件系统。

描述:分布式数据库是数据库拆分的最后方法,只有在单表数据规模非常庞大的时候才使用。不到不得已时,更常用的数据库拆分手段是业务分库,将不同的业务数据库部署在不同的物理服务器上。

大型互联网架构概述,看完文章又涨知识了

 

2.8. 使用 NoSQL 和搜索引擎

问题:随着网站业务越来越复杂,对数据存储和检索的需求也越来越复杂。

特征:系统引入 NoSQL 数据库及搜索引擎。

描述:NoSQL 数据库及搜索引擎对可伸缩的分布式特性具有更好的支持。应用服务器通过统一数据访问模块访问各种数据,减轻应用程序管理诸多数据源的麻烦。

大型互联网架构概述,看完文章又涨知识了

 

2.9. 业务拆分

问题:大型网站的业务场景日益复杂,分为多个产品线。

特征:采用分而治之的手段将整个网站业务分成不同的产品线。系统上按照业务进行拆分改造,应用服务器按照业务区分进行分别部署。

描述:应用之间可以通过超链接建立关系,也可以通过消息队列进行数据分发,当然更多的还是通过访问同一个数据存储系统来构成一个关联的完整系统。

纵向拆分:将一个大应用拆分为多个小应用,如果新业务较为独立,那么就直接将其设计部署为一个独立的 Web 应用系统。纵向拆分相对较为简单,通过梳理业务,将较少相关的业务剥离即可。

横向拆分:将复用的业务拆分出来,独立部署为分布式服务,新增业务只需要调用这些分布式服务横向拆分需要识别可复用的业务,设计服务接口,规范服务依赖关系。

大型互联网架构概述,看完文章又涨知识了

 

2.10. 分布式服务

问题:随着业务越拆越小,存储系统越来越庞大,应用系统整体复杂程度呈指数级上升,部署维护越来越困难。由于所有应用要和所有数据库系统连接,最终导致数据库连接资源不足,拒绝服务。

特征:公共业务提取出来,独立部署。由这些可复用的业务连接数据库,通过分布式服务提供共用业务服务。

大型互联网架构概述,看完文章又涨知识了

 

3. 大型网站架构模式

3.1. 分层

大型网站架构中常采用分层结构,将软件系统分为应用层、服务层、数据层:

  • 应用层 - 负责具体业务和视图展示。如网站首页及搜索输入和结果展示。
  • 服务层 - 为应用层提供服务支持。如用户管理服务、购物车服务等。
  • 应用层 - 提供数据存储访问服务。如数据库、缓存、文件、搜索引擎等。

分层架构的约束:禁止跨层次的调用(应用层直接调用数据层)及逆向调用(数据层调用服务层,或者服务层调用应用层)。

分层结构内部还可以继续分层,如应用可以再细分为视图层和业务逻辑层;服务层也可以细分为数据接口层和逻辑处理层。

3.2. 分割

将不同的功能和服务分割开来,包装成高内聚低耦合的模块单元。这有助于软件的开发和维护,便于不同模块的分布式部署,提高网站的并发处理能力和功能扩展能力。

3.3. 分布式

大于大型网站,分层和分割的一个主要目的是为了切分后的模块便于分布式部署,即将不同模块部署在不同的服务器上,通过远程调用协同工作。

分布式意味可以用更多的机器工作,那么 CPU、内存、存储资源也就更丰富,能够处理的并发访问和数据量就越大,进而能够为更多的用户提供服务。

分布式也引入了一些问题:

  • 服务调用必须通过网络,网络延迟会影响性能
  • 服务器越多,宕机概率也越大,是可用性降低
  • 数据一致性非常困难,分布式事务也难以保证
  • 网站依赖错综复杂,开发管理维护困难

常用的分布式方案:

  • 分布式应用和服务
  • 分布式静态资源
  • 分布式数据和存储
  • 分布式计算

3.4. 集群

集群即多台服务器部署相同应用构成一个集群,通过负载均衡设备共同对外提供服务。

集群需要具备伸缩性和故障转移机制:伸缩性是指可以根据用户访问量向集群添加或减少机器;故障转移是指,当某台机器出现故障时,负载均衡设备或失效转移机制将请求转发到集群中的其他机器上,从而不影响用户使用。

3.5. 缓存

缓存就是将数据存放在距离最近的位置以加快处理速度。缓存是改善软件性能的第一手段。

网站应用中,缓存除了可以加快数据访问速度以外,还可以减轻后端应用和数据存储的负载压力。

常见缓存手段:

  • CDN
  • 反向代理
  • 本地缓存
  • 分布式缓存

使用缓存有两个前提:

  • 数据访问热点不均匀,频繁访问的数据应该放在缓存中
  • 数据在某个时间段有效,不过很快过期,否则缓存数据会因已经失效而产生脏读

3.6. 异步

软件发展的一个重要目标和驱动力是降低软件耦合性。事物之间直接关系越少,彼此影响就越小,也就更容易独立发展。

大型网站架构中,系统解耦的手段除了分层、分割、分布式等,还有一个重要手段——异步。

业务间的消息传递不是同步调用,而是将一个业务操作拆分成多阶段,每个阶段间通过共享数据的方式异步执行进行协作。

  • 在单一服务器内部可通过多线程共享内存队列的方式实现异步,处在业务操作前面的线程将操作输出到队列,后面的线程从队列中读取数据进行处理;
  • 在分布式系统中,多个服务器集群通过分布式消息队列实现异步。

异步架构是典型的生产者消费模式,二者不存在直接调用。异步消息队列还有如下特性:

  • 提高系统可用性
  • 加快响应速度
  • 消除并发访问高峰

3.7. 冗余

大型网站,出现服务器宕机是必然事件。要保证部分服务器宕机的情况下网站依然可以继续服务,不丢失数据,就需要一定程度的服务器冗余运行,数据冗余备份。这样当某台服务器宕机是,可以将其上的服务和数据访问转移到其他机器上。

访问和负载很小的服务也必须部署 至少两台服务器构成一个集群,目的就是通过冗余实现服务高可用。数据除了定期备份,存档保存,实现 冷备份 外;为了保证在线业务高可用,还需要对数据库进行主从分离,实时同步实现 热备份。

为了抵御地震、海啸等不可抗因素导致的网站完全瘫痪,某些大型网站会对整个数据中心进行备份,全球范围内部署 灾备数据中心。网站程序和数据实时同步到多个灾备数据中心。

3.8. 自动化

大型网站架构的自动化架构设计主要集中在发布运维方面:

  • 发布过程自动化
  • 自动化代码管理
  • 自动化测试
  • 自动化安全监测
  • 自动化部署
  • 运维自动化
  • 自动化监控
  • 自动化报警
  • 自动化失效转移
  • 自动化失效恢复
  • 自动化降级
  • 自动化分配资源

3.9. 安全

  • 密码 和 手机校验码 进行身份认证
  • 登录、交易等重要操作需要对网络通信进行 加密,存储的敏感数据如用户信息等也进行加密处理
  • 防止机器人程序攻击网站,使用 验证码 进行识别
  • 对常见用于 攻击 网站的 XSS 攻击、SQL 注入、进行编码转换等相应处理
  • 对垃圾信息、敏感信息进行 过滤
  • 对交易转账等重要操作根据交易模式和交易信息进行 风险控制

4. 大型网站核心架构要素

架构 的一种通俗说法是:最高层次的规划,难以改变的决定。

除了系统功能需求外,架构还需要关注以下架构要素:

4.1. 性能

性能问题无处不在,所以网站性能优化手段也十分繁多:

  • 前端
  • 浏览器缓存
  • 静态资源压缩
  • 合理布局页面
  • 减少 cookie 传输
  • CDN
  • 应用服务器
  • 本地缓存
  • 分布式缓存
  • 异步消息队列
  • 集群
  • 代码层面:使用多线程、改善内存管理
  • 数据库
  • 索引
  • 数据库缓存
  • SQL 优化

4.2. 可用性

可用性指部分服务器出现故障时,还能否对用户提供服务

  • 冗余自动化:通过预发布验证、自动化测试、自动化发布、灰度发布等手段,减少将故障引入线上环境的可能
  • 通过负载均衡设备建立集群共同对外提供服务
  • 数据存储在多台服务器,互相备份

4.3. 伸缩性

衡量伸缩的标准就是是否可以用多台服务器构建集群,是否容易向集群中增删服务器节点。增删服务器节点后是否可以提供和之前无差别的服务。集群中可容纳的总服务器数是否有限制。

  • 应用服务器集群 - 只要服务器上保存数据,则所有服务器都是对等的,通过负载均衡设备向集群中不断加入服务器即可
  • 缓存服务器集群 - 加入新的服务器可能会导致缓存路由失效,进而导致集群中的大部分缓存数据都无法访问。虽然缓存数据可以通过数据库重新加载,但是如果应用严重依赖缓存,可能会导致网站崩溃。需要改进缓存路由算法保证缓存数据的可访问性。
  • 关系型数据库集群 - 关系型数据库虽然支持数据复制,主从热备等机制,但是很难做到大规模集群的可伸缩性,因此关系型数据库的集群伸缩性方案必须在数据库之外实现,通过路由分区等手段将部署有多个数据库的服务器组成一个集群。
  • NOSql 数据库集群 - 由于先天就是为了应对海量数据而产生,因此对伸缩性的支持通常都非常好。

4.4. 扩展性

衡量扩展性的标准就是增加新的业务产品时,是否可以实现对现有产品透明无影响,不需要任何改动或很少改动,既有功能就可以上线新产品。主要手段有:事件驱动架构和分布式服务。

4.5. 安全性

安全性保护网站不受恶意攻击,保护网站重要数据不被窃取。

欢迎工作一到五年的JAVA工程师朋友们加入Java程序员开发: 721575865

群内提供免费的Java架构学习资料(里面有高可用、高并发、高性能及分布式、Jvm性能调优、Spring源码,MyBatis.NETty,redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多个知识点的架构资料)合理利用自己每一分每一秒的时间来学习提升自己,不要再用"没有时间“来掩饰自己思想上的懒惰!趁年轻,使劲拼,给未来的自己一个交代!



Tags:互联网 架构   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
大型互联网架构概述
1. 大型网站系统的特点 高并发、大流量 高可用 海量数据 用户分布广泛,网络情况复杂 安全环境恶劣 需求快速变更,迭代频繁 渐进式发展2. 大型网站架构演化历程2.1. 初始阶段架...【详细内容】
2019-04-29  Search: 互联网 架构  点击:(547)  评论:(0)  加入收藏
▌简易百科推荐
社交网络与Web3:数字社交的演进
在数字化时代的浪潮下,社交网络已成为人们日常生活的重要组成部分。从早期的在线论坛到如今的社交媒体平台,社交网络已经成为人们交流、分享和获取信息的主要渠道。然而,随着区...【详细内容】
2024-04-12  Rory罗昊在数字化时代的浪潮下,社交网络已成为人们日常生活    Tags:Web3   点击:(5)  评论:(0)  加入收藏
数字化社交的引擎:解析Facebook的影响力
随着数字技术的飞速发展,社交网络已成为人们日常生活中不可或缺的一部分。而在这个数字化社交的世界中,Facebook作为最具影响力和知名度的平台之一,其所扮演的角色越发重要。本...【详细内容】
2024-04-12  田田甜字格    Tags:Facebook   点击:(6)  评论:(0)  加入收藏
年轻人修习“网络隐身术” 透明头像成社交新密语?
空白头像空白名字 保护隐私降低存在感 年轻人修习“网络隐身术”透明头像成社交新密语?标准的头像,统一的昵称,逐渐占领年轻人的社交账号。“momo”大军逐渐形成规模,并在不断地...【详细内容】
2024-04-12    北京青年报  Tags:透明头像   点击:(5)  评论:(0)  加入收藏
虚拟情绪商品走俏网络 花小钱买开心,究竟值不值?
“好运喷雾”“心灵树洞”“爱因斯坦的脑子”……虚拟情绪商品走俏网络花小钱买开心,究竟值不值?本报记者 陈曦《工人日报》(2024年04月11日 03版)分手后下单一份...【详细内容】
2024-04-11    工人日报  Tags:虚拟情绪商品   点击:(6)  评论:(0)  加入收藏
数字社交的新典范:解析Facebook的成功密码
在当今数字化时代,社交媒体已经成为人们日常生活的重要组成部分,而Facebook作为最知名的社交媒体平台之一,其成功之处备受瞩目。本文将深入解析Facebook的成功密码,探讨其在数字...【详细内容】
2024-04-10  清晨张大鹏    Tags:Facebook   点击:(8)  评论:(0)  加入收藏
为什么黄色网站能免费观看?靠什么获利?小心掉入这几个圈套
有一句话叫做,不要轻易靠近免费的东西,它免费的原因是你暂时还没看懂代价!为什么市面上很多黄色网站能让你免费观看?为什么能平白无故给你福利?其实是你想多了,天下没有免费的午餐...【详细内容】
2024-04-10  星星点灯FF    Tags:网站   点击:(6)  评论:(0)  加入收藏
视频号,从抖音挖来一个“一姐”?
文|王亚琪编辑|斯问“你说你要尊严,一个月5000块钱的合同工资,能体现你的尊严吗?”“我那么多的人脉和资源,你如果够聪明的话,你踩着我肩膀往上爬不是更快吗?你拿着我每个月收来的房...【详细内容】
2024-04-09    电商在线  Tags:视频号   点击:(6)  评论:(0)  加入收藏
Web3如何颠覆传统互联网
随着科技的迅速发展,Web3正逐渐成为人们关注的焦点。与传统的Web2相比,Web3代表了一种全新的互联网模式,其潜力和影响力引发了人们对未来的期待和探索。本文将深入探讨Web3如何...【详细内容】
2024-03-29  清晨少少年    Tags:Web3   点击:(9)  评论:(0)  加入收藏
批量生产的俄罗斯美女,正在收割咱爸
南风窗消息,Olga Loiek是一名乌克兰网红,金发碧眼,面容精致,她的视频,多以芭比娃娃气质的造型做封面,内容形式相对单调——对着镜头,分享自己的生命感悟。作为一个名不见...【详细内容】
2024-03-22    上游新闻  Tags:俄罗斯美女   点击:(18)  评论:(0)  加入收藏
内容IP,流量生意之外的另一条道路
来源 | Tech星球文 | 陈桥辉腾讯视频一开年就出了王炸。作为一部在播出前,全网总预约数超过了800万的绝对大热剧,由赵丽颖、林更新主演的仙偶大剧《与凤行》在3月18日首播,开播...【详细内容】
2024-03-20  Tech星球    Tags:内容IP   点击:(18)  评论:(0)  加入收藏
站内最新
站内热门
站内头条