您当前的位置:首页 > 电脑百科 > 数据库 > 百科

分布式数据库的几个事实,你知道了吗?

时间:2023-05-26 13:40:20  来源:微信公众号  作者:白鳝的洞穴

分布式数据库一定能提高交易性能吗?我们先来看看RAC,两个节点的环境,大体上会对交易量提升有帮助,而对于交易延时的提升就不一定了,在少数情况下,如果原有系统存在较为严重的资源争用,那么可能RAC会缓解这种争用,提高单一交易性能。不过在大多数情况下,集群是有开销的,单笔交易的延时反而会增加。

今天出差,在高铁上想起前几天和一个客户交流的事情,于是利用高铁上这段时间,慢慢写一篇吧。最近这几天在外面出差,可能不一定有时间发文章了。

这是一个金融客户,他们企业的业务覆盖面不大,每秒钟大概交易量是500笔左右。目前用了两台IBM小机跑ORACLE 11.2.0.4 RAC,节点负载比较均衡,CPU使用率高峰期不超过20%。

他们经过分析后认为如果上国产数据库,必须用分布式的。我问他为什么,他说主要是考虑今后业务量的问题,三五年后有可能交易量翻翻。我就和他算了一下每秒1000笔核心交易大致的负载,相当于一分钟三万六千笔。虽然说银行核心交易和TPMC没有直接换算公式,不过在目前的一台两路PC服务器上,BENCHMARK轻轻松松就可以跑60万的今天,这确实也不算个事儿了。因此对于此类用户,甚至说对大多数用户来说,怕单机处理能力不足是没必要的。

分布式数据库一定能提高交易性能吗?我们先来看看RAC,两个节点的环境,大体上会对交易量提升有帮助,而对于交易延时的提升就不一定了,在少数情况下,如果原有系统存在较为严重的资源争用,那么可能RAC会缓解这种争用,提高单一交易性能。不过在大多数情况下,集群是有开销的,单笔交易的延时反而会增加。去年有个客户和我交流,他们想把核心交易的RAC拆成HA,因为网联对交易延时监控太狠了,他们想进一步缩短单笔交易的延时,他们分析了大量核心交易的SQL,发现RAC上消耗的时间占了接近10%。

RAC如此,分布式数据库也是如此,跨节点的事务和SQL,肯定是有成本低。对于银行核心交易这类大多数只是简单的单表操作的交易,哪怕优化的再好,集群的成本也不可能变成负数。分布式数据库上的提高交易并发能力的案例大多数是可信的,而减少交易时间的案例大多数不太靠谱,往往是在某些不太常见的条件下测试出来的。

综上所述,我今天要说的关于分布式数据库的前两个事实是:1.大多数业务系统的负载并不至于单机集中式数据库处理不过来,哪怕真出现类似情况,做些简单的数据库分拆,只分库,或者分离一些大开销负载的统计分析到只读备机上,就能搞得定。这种拆分,应用开发商都能轻松搞定。 2.分布式数据库能带来交易并发能力的提升(基于1的原因,这个能力不足以让我们必须选分布式数据库),但是大多数情况下无法提升单笔交易的性能,反而在大多数情况下会略加大单笔交易的延时。

有人问,分布式数据库在高可用上对于集中式数据库有没有优势?这是我今天要讨论的分布式数据库的第三个事实,我可以十分肯定的回答,是的,分布式数据库从底层架构上具有极强的容错能力,在高可用上是有优势的。不过,这个事实也是有条件的。现在数据库市场十分混乱,分布式数据库产品质量也参差不齐。高可用架构设计出来不难,做好不易。因此我们在选择产品的时候还是要小心,有些数据库产品在底层故障切换时,并不总是很平稳的,底层故障切换时整个库都会有较大影响,而且你无法干预,也不知道问题出在哪,这时候你可能会希望这是个集中式数据库多好。

分布式数据库的第四个事实是,有时候一群流氓不一定干得过猛男。分布式数据库刚刚出来的时候,我是很期待的,其中最期待的是分布式数据库能解决大开销的复杂查询。在单机集中式数据库上,这些SQL已经跑到极限了,还是无法满足客户的需求。我以前在帮助一个客户优化几个大型报备应用的时候,启用了跨节点并行查询,还取得了不错的效果,因此我刚开始也坚信分布式数据库在这方面会做得很好。很多分布式数据库厂商也拿着很多对比测试的结果宣布自己在大查询上性能比O记高几倍到几十倍。这些测试结果没问题,有问题的的,测试仅仅是测试,你的生产环境不是由这些测试用例组成的。而这个关于分布式数据库的事实是,群殴虽然是一种好方法,不过有些群殴是专业的军队打的,有章法有配合,有些群殴是街头小混混,没啥技术含量。分布式数据库的群殴也是如此,要想有好的SQL性能,CBO优化器,分布式调度,分布式执行器的水平必须高,一个比较糟糕的分布式执行计划,可能会让SQL性能远低于在一个单机上跑,因此选择适合你业务场景的分布式数据库十分关键。而这个事实更深的一面是,现在的分布式数据库的技术水平参差不齐,哪怕顶流的分布式数据库,在某些常用的复杂SQL的性能上,都还不一定干得过ORACLE跑在一个没有明显瓶颈的服务器上。

分布式数据库很易于管理,可以减轻企业数据库运维的压力,这是我今天要讲的第五个关于分布式数据库的事实。事实是如此吗?借用开篇那位RACSIG大佬的话,MAYBE。分布式数据库是十分复杂的,在大多数情况下很稳定,DBA也貌似没啥可干的,但是出问题的时候,DBA也好像没啥事可干的,因为他根本不知道怎么干。运维团队没有掌握分布式数据库运维的时候,很难定位与分析问题,往往只能等着数据库自动恢复。这对于核心业务系统来说就是灾难。这时候可能会想这要是集中式数据库多好,大不了我关了重启。

为企业的核心业务选择数据库是十分复杂的事情,关系到企业的IT规划,企业领导的喜好,商务因素,运维团队的能力,资金,研发能力等诸多因素,因此今天的文章里我并没有写该如何选型,这也不是我能说了算的。我的文章只是给大家在思考这些问题点是提供一些素材,一些我的观点,也许有些观点并不正确或者并不全面,当个参考吧。



Tags:数据库   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
向量数据库落地实践
本文基于京东内部向量数据库vearch进行实践。Vearch 是对大规模深度学习向量进行高性能相似搜索的弹性分布式系统。详见: https://github.com/vearch/zh_docs/blob/v3.3.X/do...【详细内容】
2024-04-03  Search: 数据库  点击:(5)  评论:(0)  加入收藏
如何正确选择NoSQL数据库
译者 | 陈峻审校 | 重楼Allied Market Research最近发布的一份报告指出,业界对于NoSQL数据库的需求正在持续上升。2022年,全球NoSQL市场的销售额已达73亿美元,预计到2032年将达...【详细内容】
2024-03-28  Search: 数据库  点击:(14)  评论:(0)  加入收藏
为什么数据库连接池不采用 IO 多路复用?
这是一个非常好的问题。IO多路复用被视为是非常好的性能助力器。但是一般我们在使用DB时,还是经常性采用c3p0,tomcat connection pool等技术来与DB连接,哪怕整个程序已经变成以...【详细内容】
2024-03-27  Search: 数据库  点击:(13)  评论:(0)  加入收藏
过去一年,我看到了数据库领域的十大发展趋势
作者 | 朱洁策划 | 李冬梅过去一年,行业信心跌至冰点2022 年中,红衫的一篇《适应与忍耐》的报告,对公司经营提出了预警,让各个公司保持现金流,重整团队,想办法增加盈利。这篇报告...【详细内容】
2024-03-12  Search: 数据库  点击:(27)  评论:(0)  加入收藏
让数据库和缓存数据保持一致的三种策略
如何保证缓存和数据库的一致性,这算得上是个老生常谈的话题啦,看到好多技术新人在写更新缓存数据代码,采用了非常复杂甚至“诡异”的方案,甚为不解。一、背景目前随着缓存架构方...【详细内容】
2024-02-20  Search: 数据库  点击:(37)  评论:(0)  加入收藏
MySQL数据库如何生成分组排序的序号
经常进行数据分析的小伙伴经常会需要生成序号或进行数据分组排序并生成序号。在MySQL8.0中可以使用窗口函数来实现,可以参考历史文章有了这些函数,统计分析事半功倍进行了解。...【详细内容】
2024-01-30  Search: 数据库  点击:(54)  评论:(0)  加入收藏
一篇文章,彻底理解数据库操作语言:DDL、DML、DCL、TCL
本篇文章以具体的SQL语句讲解了数据库SQL语言四大分类(数据定义语言DDL,数据操作语言DML,数据查询语言DQL,数据控制语言DCL),同时也介绍了事务控制语言TCL。最近与开发和运维讨论...【详细内容】
2024-01-30  Search: 数据库  点击:(43)  评论:(0)  加入收藏
一文读懂:什么是数据库,它到底有啥用?
提到数据库,可能很多人会很陌生。但据库其实已经渗入我们生活的方方面面,像网上购物、扫码点餐、抢红包等等应用背后都离不开数据库的支持。可以说数据库是支撑各类应用软件运...【详细内容】
2024-01-25  Search: 数据库  点击:(43)  评论:(0)  加入收藏
oracle数据库基础学习
在当今数字化时代,数据库已成为企业运营的关键要素。而Oracle数据库,作为全球领先的企业级数据库管理系统,更是备受推崇。本文将带您深入了解Oracle数据库的基础知识,帮助您从零...【详细内容】
2024-01-20  Search: 数据库  点击:(90)  评论:(0)  加入收藏
一个流行的支持超多数据库的ORM库
Sequelize 是一个流行的 Node.js ORM(对象关系映射)库,用于在 Node.js 中操作关系型数据库。它支持多种数据库系统,如 PostgreSQL、MySQL、SQLite 和 MSSQL,并提供了简单易用的 A...【详细内容】
2024-01-15  Search: 数据库  点击:(77)  评论:(0)  加入收藏
▌简易百科推荐
向量数据库落地实践
本文基于京东内部向量数据库vearch进行实践。Vearch 是对大规模深度学习向量进行高性能相似搜索的弹性分布式系统。详见: https://github.com/vearch/zh_docs/blob/v3.3.X/do...【详细内容】
2024-04-03  京东云开发者    Tags:向量数据库   点击:(5)  评论:(0)  加入收藏
原来 SQL 函数是可以内联的!
介绍在某些情况下,SQL 函数(即指定LANGUAGE SQL)会将其函数体内联到调用它的查询中,而不是直接调用。这可以带来显著的性能提升,因为函数体可以暴露给调用查询的规划器,从而规划器...【详细内容】
2024-04-03  红石PG  微信公众号  Tags:SQL 函数   点击:(4)  评论:(0)  加入收藏
如何正确选择NoSQL数据库
译者 | 陈峻审校 | 重楼Allied Market Research最近发布的一份报告指出,业界对于NoSQL数据库的需求正在持续上升。2022年,全球NoSQL市场的销售额已达73亿美元,预计到2032年将达...【详细内容】
2024-03-28    51CTO  Tags:NoSQL   点击:(14)  评论:(0)  加入收藏
为什么数据库连接池不采用 IO 多路复用?
这是一个非常好的问题。IO多路复用被视为是非常好的性能助力器。但是一般我们在使用DB时,还是经常性采用c3p0,tomcat connection pool等技术来与DB连接,哪怕整个程序已经变成以...【详细内容】
2024-03-27  dbaplus社群    Tags:数据库连接池   点击:(13)  评论:(0)  加入收藏
八个常见的数据可视化错误以及如何避免它们
在当今以数据驱动为主导的世界里,清晰且具有洞察力的数据可视化至关重要。然而,在创建数据可视化时很容易犯错误,这可能导致对数据的错误解读。本文将探讨一些常见的糟糕数据可...【详细内容】
2024-03-26  DeepHub IMBA  微信公众号  Tags:数据可视化   点击:(7)  评论:(0)  加入收藏
到底有没有必要分库分表,如何考量的
关于是否需要进行分库分表,可以根据以下考量因素来决定: 数据量和负载:如果数据量巨大且负载压力较大,单一库单一表可能无法满足性能需求,考虑分库分表。 数据增长:预估数据增长...【详细内容】
2024-03-20  码上遇见你  微信公众号  Tags:分库分表   点击:(15)  评论:(0)  加入收藏
在 SQL 中写了 in 和 not in,技术总监说要炒了我……
WHY?IN 和 NOT IN 是比较常用的关键字,为什么要尽量避免呢?1、效率低项目中遇到这么个情况:t1表 和 t2表 都是150w条数据,600M的样子,都不算大。但是这样一句查询 ↓select *...【详细内容】
2024-03-18  dbaplus社群    Tags:SQL   点击:(6)  评论:(0)  加入收藏
应对慢SQL的致胜法宝:7大实例剖析+优化原则
大促备战,最大的隐患项之一就是慢SQL,对于服务平稳运行带来的破坏性最大,也是日常工作中经常带来整个应用抖动的最大隐患,在日常开发中如何避免出现慢SQL,出现了慢SQL应该按照什...【详细内容】
2024-03-14  京东云开发者    Tags:慢SQL   点击:(5)  评论:(0)  加入收藏
过去一年,我看到了数据库领域的十大发展趋势
作者 | 朱洁策划 | 李冬梅过去一年,行业信心跌至冰点2022 年中,红衫的一篇《适应与忍耐》的报告,对公司经营提出了预警,让各个公司保持现金流,重整团队,想办法增加盈利。这篇报告...【详细内容】
2024-03-12    InfoQ  Tags:数据库   点击:(27)  评论:(0)  加入收藏
SQL优化的七个方法,你会哪个?
一、插入数据优化 普通插入:在平时我们执行insert语句的时候,可能都是一条一条数据插入进去的,就像下面这样。INSERT INTO `department` VALUES(1, '研发部(RD)', &#39...【详细内容】
2024-03-07  程序员恰恰  微信公众号  Tags:SQL优化   点击:(20)  评论:(0)  加入收藏
站内最新
站内热门
站内头条