您当前的位置:首页 > 电脑百科 > 数据库 > 百科

分库分表精辟解读

时间:2021-06-28 10:48:29  来源:  作者:从孩子开始学编程

分库分表介绍:

分库分表的目的是为了系统高并发、高可用。分库和年发表是两回事,两个概念,都是为了防止数据库服务因为同一时间内访问量过大导致宕机而设计的一种应对策略。

一、为什么要分库:

参考:
https://www.cnblogs.com/yanggb/p/11214339.html

一般经验来说,单库支持的最大并发量到2000,最好的运行是1000。如果更高的并发量需求,就需要考虑扩容,将一个库的数据拆分到多个库中,访问的时候根据一定条件访问单库,缓解单库的性能压力。

二、为什么要分表:

分表也是考虑到性能,单表数据量太大的时候sql的执行性能就降低。分表就是按照一定的策略将单表的数据拆分到多表中,查询也按照一定的策略去查询,这样查询的数据范围就缩小了,比如按照用户id来分表,通过id确定哪个表,把表的数据量控制在一定范围内,提升sql语句执行性能。

选型介绍:

参考:

https://www.it610.com/article/1281542839301324800.htm

https://blog.csdn.net/xuheng8600/article/details/80336094

一、三个问题:

1.事务一致性:比如更新10张表,最后一张失败,怎样保证事务

2.字典表问题:字典表维护一个库影响效率,多个库存储出现事务一致性、冗余问题

3.分页查询问题:如果使用mycat,进行分页的时候会面临数据量大的问题

二、中间件对比:

中间件

说明

备注

Atlas

不能实现分布式分表,所有的子表必须在同一台DB的同一个database里且所有的子表必须事先建好,Atlas没有自动建表的功能。

 

Cobar

必须将拆分后的表分别放入不同的库来实现分布式。

扩展性的问题放弃

TDDL

阿里,功能强大,过于复杂,部分开源。需要评估使用情况,防止过剩。

阿里系

Mycat

国内开源,从入门到放

名气大,已经到头了

heisenberg

百度开源,相对简单,易于管理。

现在不维护了

Oceanus

功能强大,开源,简化开发和配置成功。但产品还不成熟。

 

vitess

google产品,集群基于ZooKeeper管理,通过RPC方式进行数据处理,可支撑高流量,它还添加了一个连接池,具有基于行的高速缓存,重写SQL查询,更安全

 

OneProxy

中国厂商产品,稳定性待确认。

 

Sharding-JDBC

当当最新开源,jdbc层面操作

靠谱

sharding-jdbc这种client层的有点在于不用部署,运维成本就比较低。同时不需要代理层二次转发请求,性能高。缺点是:遇到升级的话,各个系统都重新升级版本再发布,因为各个系统都需要耦合sharding-jdbc依赖。
mycat这种proxy方案缺点在于需要部署,因此运维成本增加。但是优点是各个项目是解耦的,升级的话就是处理中间件就行。

三、概念介绍:

概念

介绍

总结

水平拆分

水平拆分的意思,就是把一个表的数据拆分到多个库的多个表里面去。这里面的每个库的表结构都是一样的,只不过是表中存放的数据不一样,每个库表的数据汇总起来就是全部数据。水平拆分的意义在于将数据均匀地存放在各个库表里,依靠多个库来杠更高的并发,而且还能借助多个库的存储容量来进行扩容

表结构一样、扩容、高并发

垂直拆分

垂直拆分的意思,就是把一个有很多字段的表给拆分成多个表或者多个库上面去,每个库表的结构都不一样,每个库表都包含部分字段。一般来说,会将较少的访问频率很高的字段放到一个表里面去,然后将较多的访问频率很低的字段放到另外一个表里面去。因为数据库是有缓存的,你访问频率高的行字段越少,就可以在缓存里面缓存更多的行,性能也就越好。这个一般在表层面做的较多一些。

拆分字段、利用缓存提升性能

四、两种方案:

方案

优点

缺点

按照range区分

比较常用的是按照时间划分,扩容简单,下个月自动写入库

热点数据会请求到同一个表,起不到高并发

按照hash分发

按照字段hash值均匀分布,平均分配每个库表的数据量和请求压力

扩容麻烦,数据迁移需要重新计算hash值并重新分配



Tags:分库分表   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
分库分表介绍:分库分表的目的是为了系统高并发、高可用。分库和年发表是两回事,两个概念,都是为了防止数据库服务因为同一时间内访问量过大导致宕机而设计的一种应对策略。一、...【详细内容】
2021-06-28  Tags: 分库分表  点击:(103)  评论:(0)  加入收藏
Sharding-JDBC背景:出于工作的需要,非常需要详细了解数据库分表分库的内容,这样便于选择版本,了解原理及性能,做出更好的选择。Sharding-JDBC是ShardingSphere的第一个产品,也是Sh...【详细内容】
2021-05-14  Tags: 分库分表  点击:(212)  评论:(0)  加入收藏
在文章开头先抛几个问题: 什么时候才需要分库分表呢?我们的评判标准是什么? 一张表存储了多少数据的时候,才需要考虑分库分表? 数据增长速度很快,每天产生多少数据,才需要考虑做分...【详细内容】
2021-04-07  Tags: 分库分表  点击:(200)  评论:(0)  加入收藏
分库分表的文章网上非常多,但是大多内容比较零散,以讲解知识点为主,没有完整地说明一个大表的切分、新架构设计、上线的完整过程。因此,我结合去年做的一个大型分库分表项目,来复...【详细内容】
2020-11-19  Tags: 分库分表  点击:(176)  评论:(0)  加入收藏
1、场景描述例如订单库进行了分库分表,其实例如下图所示: 现在的需求是希望创建一个任务就将数据同步到MQ集群,而不是为每一个数据库实例单独创建一个任务,将其数据导入到MQ集...【详细内容】
2020-11-16  Tags: 分库分表  点击:(308)  评论:(0)  加入收藏
《sharding-jdbc 分库分表的 4种分片策略》 中我们介绍了 sharding-jdbc 4种分片策略的使用场景,可以满足基础的分片功能开发,这篇我们来看看分库分表后,应该如何为分片表生成...【详细内容】
2020-11-10  Tags: 分库分表  点击:(148)  评论:(0)  加入收藏
在之前写过一篇关于mysql分库分表的文章,那篇文章只是给大家提供了一个思路,但是回复下面有很多说是细节问题没有提到。所以咔咔就在出了这篇文章。...【详细内容】
2020-08-18  Tags: 分库分表  点击:(70)  评论:(0)  加入收藏
随着互联网的迅速发展,会导致产生海量的数据,在数据量还比较小的时候,传统的处理方式是将数据存储在关系或者非关系型数据库中,但是随着数据量逐渐增加,单个数据库的表已经很难容...【详细内容】
2020-06-12  Tags: 分库分表  点击:(72)  评论:(0)  加入收藏
0x01:TDDL(Taobao Distributed Data Layer)框架淘宝根据自己的业务特点开发了TDDL(Taobao Distributed Data Layer)框架,主要解决了分库分表对应用的透明化以及异构数据库之间的数...【详细内容】
2020-05-03  Tags: 分库分表  点击:(69)  评论:(0)  加入收藏
数据库瓶颈不管是IO瓶颈还是CPU瓶颈,最终都会导致数据库的活跃连接数增加,进而逼近甚至达到数据库可承载的活跃连接数的阈值。在业务service来看, 就是可用数据库连接少甚至无...【详细内容】
2020-03-26  Tags: 分库分表  点击:(74)  评论:(0)  加入收藏
▌简易百科推荐
1增1.1【插入单行】insert [into] <表名> (列名) values (列值)例:insert into Strdents (姓名,性别,出生日期) values (&#39;开心朋朋&#39;,&#39;男&#39;,&#39;1980/6/15&#3...【详细内容】
2021-12-27  快乐火车9d3    Tags:SQL   点击:(1)  评论:(0)  加入收藏
最近发现还有不少做开发的小伙伴,在写存储过程的时候,在参考已有的不同的写法时,往往很迷茫, 不知道各种写法孰优孰劣,该选用哪种写法,以及各种写法的优缺点,本文以一个简单的查询...【详细内容】
2021-12-23  linux上的码农    Tags:sql   点击:(9)  评论:(0)  加入收藏
《开源精选》是我们分享Github、Gitee等开源社区中优质项目的栏目,包括技术、学习、实用与各种有趣的内容。本期推荐的HasorDB 是一个全功能数据库访问工具,提供对象映射、丰...【详细内容】
2021-12-22  GitHub精选    Tags:HasorDB   点击:(5)  评论:(0)  加入收藏
作者丨Rafal Grzegorczyk译者丨陈骏策划丨孙淑娟【51CTO.com原创稿件】您是否还在手动对数据库执行各种脚本?您是否还在浪费时间去验证数据库脚本的正确性?您是否还需要将...【详细内容】
2021-12-22    51CTO  Tags:Liquibase   点击:(3)  评论:(0)  加入收藏
场景描述:由于生产环境的表比较复杂,字段很多。这里我们做下简化,只为说明今天要聊的问题。有两张表 tab1,tab2: tab1 数据如下: tab2 数据如下: 然后给你看下,我用来统计 name=&#3...【详细内容】
2021-12-20  Bald    Tags:SQL   点击:(5)  评论:(0)  加入收藏
前言知识无底,学海无涯,知识点虽然简单,但是比较多,所以将MySQL的基础写出来,方便自己以后查找,还有就是分享给大家。一、SQL简述1.SQL的概述Structure Query Language(结构化查...【详细内容】
2021-12-16  谣言止于独立思考    Tags:SQL基础   点击:(13)  评论:(0)  加入收藏
前言作为一名测试工程师,工作中在对测试结果进行数据比对的时候,或多或少要和数据库打交道的,要和数据库打交道,那么一些常用的 SQL 查询语法必须要掌握。最近有部分做测试小伙...【详细内容】
2021-12-14  柠檬班软件测试    Tags:SQL   点击:(15)  评论:(0)  加入收藏
话说C是面向内存的编程语言。数据要能存得进去,取得出来,且要考虑效率。不管是顺序存储还是链式存储,其寻址方式总是很重要。顺序存储是连续存储。同质结构的数组通过其索引表...【详细内容】
2021-12-08  小智雅汇    Tags:数据存储   点击:(17)  评论:(0)  加入收藏
概述DBConvert Studio 是一款强大的跨数据库迁移和同步软件,可在不同数据库格式之间转换数据库结构和数据。它将成熟、稳定、久经考验的 DBConvert 和 DBSync 核心与改进的现...【详细内容】
2021-11-17  雪竹聊运维    Tags:数据库   点击:(26)  评论:(0)  加入收藏
一、前言 大家好,我是小诚,《从0到1-全面深刻理解MySQL系列》已经来到第四章,这一章节的主要从一条SQL执行的开始,由浅入深的解析SQL语句由客户端到服务器的完整执行流程,最...【详细内容】
2021-11-09  woaker    Tags:SQL   点击:(35)  评论:(0)  加入收藏
最新更新
栏目热门
栏目头条