大型网站技术架构-入门梳理（建议收藏）

前言

• 本文是对《大型网站架构设计》(李智慧 著)一书的梳理，类似文字版的“思维导图”
• 全文主要围绕“性能，可用性，伸缩性，扩展性，安全”这五个要素
• 性能，可用性，伸缩性这几个要素基本都涉及到应用服务器，缓存服务器，存储服务器这几个方面

概述

• 三个纬度：演化、模式、要素
• 五个要素： 性能，可用性，伸缩性，扩展性，安全

演化历程

大型网站架构演化历程：

1. 初始阶段的网站架构：一台服务器，上面同时拥有应用程序，数据库，文件，等所有资源。例如 LAMP 架构
2. 应用和数据服务分离：三台服务器（硬件资源各不相同），分别是应用服务器，文件服务器和数据库服务器
3. 使用缓存改善网站性能：分为两种，缓存在应用服务器上的本地缓存和缓存在专门的分布式缓存服务器的远程缓存
4. 使用应用服务器集群改善网站并发处理能力：通过负载均衡调度服务器来将访问请求分发到应用服务器集群中的任何一台机器
5. 数据库读写分离：数据库采用主从热备，应用服务器在写数据时访问主数据库，主数据库通过主从复制机制将数据更新同步到从数据库。应用服务器使用专门的数据访问模块从而对应用透明
6. 使用反向代理和 CDN 加速网站响应：这两者基本原理都是缓存。反向代理部署在网站的中心机房，CDN 部署在网络提供商的机房
7. 使用分布式文件系统和分布式数据库系统：数据库拆分的最后手段，更常用的是业务分库
8. 使用 NoSQL 和搜索引擎：对可伸缩的分布式有更好的支持
9. 业务拆分：将整个网站业务拆分成不同的应用，每个应用独立部署维护，应用之间通过超链接建立联系/消息队列进行数据分发/访问同一数据存储系统
10. 分布式服务：公共业务提取出来独立部署

架构演化-分布式服务

演化的价值观

• 大型网站架构的核心价值是随网站所需灵活应对
• 驱动大型网站技术发展的主要力量是网站的业务发展

误区

• 一味追随大公司的解决方案
• 为了技术而技术
• 企图用技术解决所有问题

架构模式

模式的关键在于模式的可重复性

• 分层：横向切分
• 分割：纵向切分
• 分布式：分层和分割的主要目的是为了切分后的模块便于分布式部署。常用方案：分布式应用和服务分布式静态资源分布式数据和存储分布式计算分布式配置，分布式锁，分布式文件，等等
• 集群：多台服务器部署相同的应用构成一个集群，通过负载均衡设备共同对外提供服务
• 缓存：将数据放距离计算最近的位置加快处理速度，改善性能第一手段，可以加快访问速度，减小后端负载压力。使用缓存 两个前提条件 ：1.数据访问热点不均衡；2.数据某时段内有效，不会很快过期CDN反向代理本地缓存分布式缓存
• 异步：旨在系统解耦。异步架构是典型的消费者生产者模式，特性如下：提高系统可用性加快网站访问速度消除并发访问高峰
• 冗余：实现高可用。数据库的冷备份和热备份
• 自动化：包括发布过程自动化，自动化代码管理，自动化测试，自动化安全检测，自动化部署，自动化监控，自动化报警，自动化失效转移，自动化失效恢复，自动化降级，自动化分配资源
• 安全：密码，手机校验码，加密，验证码，过滤，风险控制

核心要素

架构是“最高层次的规划，难以改变的规定”。主要关注五个要素：

• 性能
• 可用性(Availability)
• 伸缩性(Scalability)
• 扩展性(Extensibility)
• 安全性

架构

下面依次对这五个要素进行归纳

高性能

性能的测试指标主要有：

• 响应时间：指应用执行一个操作需要的时间
• 并发数：指系统能够同时处理请求的数目
• 吞吐量：指单位时间内系统处理的请求数量
• 性能计数器：描述服务器或者操作系统性能的一些数据指标

性能测试方法：

• 性能测试
• 负载测试
• 压力测试
• 稳定性测试

性能测试曲线

性能优化,根据网站分层架构，可以分为三大类：

• Web 前端性能优化浏览器访问优化减少 http 请求使用浏览器缓存启用压缩css 放在页面最上面，JAVAScript 放在页面最下面减少 Cookie 传输CDN 加速：本质是一个缓存，一般缓存静态资源反向代理保护网站安全通过配置缓存功能加速 Web 请求实现负载均衡
• 应用服务器性能优化：主要手段有 缓存、集群、异步分布式缓存(网站性能优化第一定律：优化考虑使用缓存优化性能)异步操作(消息队列，削峰作用)使用集群代码优化多线程(设计为无状态，使用局部对象，并发访问资源使用锁)资源复用(单例，对象池)数据结构垃圾回收
• 存储服务器性能优化机械硬盘 vs. 固态硬盘B+ 树 vs. LSM 树RAID vs. HDFS

高可用

• 高可用的网站架构：目的是保证服务器硬件故障时服务依然可用、数据依然保存并能够被访问，主要手段数据和服务的冗余备份及失效转移
• 高可用的应用：显著特点是应用的无状态性通过负载均衡进行无状态服务的失效转移应用服务器集群的 Session 管理Session 复制Session 绑定利用 Cookie 记录 SessionSession 服务器
• 高可用的服务：无状态的服务，可使用类似负载均衡的失效转移策略，此外还有如下策略分级管理超时设置异步调用服务降级幂等性设计
• 高可用的数据：主要手段是数据备份和失效转移机制CAP 原理数据一致性(Consisitency)数据可用性(Availibility)分区耐受性(Partition Tolerance)数据备份冷备：缺点是不能保证数据最终一致和数据可用性热备：分为异步热备和同步热备失效转移：由以下三部分组成失效确认访问转移数据恢复
• 高可用网站的软件质量保证网站发布自动化测试预发布验证代码控制主干开发、分支发布分支开发、主干发布自动化发布灰度发布
• 网站运行监控监控数据采集用户行为日志采集（服务器端和客户端）服务器性能监控运行数据报告监控管理警报系统失效转移自动优雅降级

伸缩性

大型网站的“大型”是指：

• 用户层面：大量用户及大量访问
• 功能方面：功能庞杂，产品众多
• 技术层面：网站需要部署大量的服务器

伸缩性的分为如下几个方面

• 网站架构的伸缩性设计不同功能进行物理分离实现伸缩纵向分离(分层后分离)横向分离(业务分割后分离)单一功能通过集群规模实现伸缩
• 应用服务器集群的伸缩性设计HTTP 重定向负载均衡DNS 域名解析负载均衡反向代理负载均衡(在 HTTP 协议层面，应用层负载均衡)IP 负载均衡(在内核进程完成数据分发)数据链路层负载均衡(数据链路层修改 mac 地址，三角传输模式，LVS)负载均衡算法轮询(Round Robin, RR)加权轮询(Weighted Round Robin, WRR)随机(Random)最少链接(Least Connections)源地址散列(Source Hashing)
• 分布式缓存集群的伸缩性设计Memcached 分布式缓存集群的访问模型Memcached 客户端（包括 API，路由算法，服务器列表，通信模块）Memcached 服务器集群Memcached 分布式缓存集群的伸缩性挑战分布式缓存的一致性 Hash 算法(一致性 Hash 环，虚拟层)
• 数据存储服务集群的伸缩性设计关系数据库集群的伸缩性设计NoSQL 数据库的伸缩性设计

可扩展

系统架构设计层面的“开闭原则”

• 构建可扩展的网站架构
• 利用分布式消息队列降低耦合性事件驱动架构(Event Driven Architecture)分布式消息队列
• 利用分布式服务打造可复用的业务平台Web Service 与企业级分布式服务大型网站分布式服务的特点分布式服务框架设计(Thrift, Dubbo)
• 可扩展的数据结构(如 ColumnFamily 设计)
• 利用开放平台建设网站生态圈

安全

XSS 攻击和 SQL 注入攻击是构成网站应用攻击最主要的两种手段，此外还包括 CSRF,Session 劫持等手段。

• 攻击与防御XSS 攻击：跨站点脚本攻击（Cross Site Script）反射型持久型XSS 防御手段消毒(即对某些 html 危险字符转义)HttpOnly注入攻击SQL 注入攻击OS 注入攻击注入防御避免被猜到数据库表结构信息消毒参数绑定CSRF 攻击：跨站点请求伪造（Cross Site Request Forgery）CSRF 防御：主要手段是识别请求者身份表单 Token验证码Referer Check其他攻击和漏洞Error CodeHTML 注释文件上传路径遍历Web 应用防火墙（ModSecurity）网站安全漏洞扫描
• 信息加密技术及密钥安全管理单向散列加密：不同输入长度的信息通过散列计算得到固定长度的输出不可逆，非明文可加盐(salt)增加安全性输入的微小变化会导致输出完全不同对称加密：加密和解密使用同一个密钥非对称加密信息传输：公钥加密，私钥解密数字签名：私钥加密，公钥解密密钥安全管理：信息安全传输是靠密钥保证的，改善手段有：把密钥和算法放在一个独立的服务器上将加解密算法放在应用系统中，密钥放在独立服务器
• 信息过滤与反垃圾文本匹配分类算法黑名单