您当前的位置:首页 > 电脑百科 > 数据库 > 百科

如何为分布式系统设计数据库

时间:2023-10-16 12:18:09  来源:51CTO  作者:

译者 | 李睿

审校 | 重楼

数据库设计是微服务和云原生解决方案中的一个关键因素,因为基于微服务的架构会导致出现分布式数据。多个进程可以操作数据,而不是在单个进程中进行数据管理。云计算的兴起使得数据更加分散。

如何为分布式系统设计数据库

为了应对这种复杂性,针对微服务和云原生解决方案的数据管理已经出现了几种模式。本文将介绍可以帮助企业在分布式环境中管理数据的重要模式。

面向微服务和云的数据库设计的挑战

在深入研究具体的数据管理模式之前,先了解微服务和云数据库设计面临的关键挑战:

  • 在微服务架构中,数据分布在不同的节点上。其中一些节点可能位于世界各地完全不同地理区域的不同数据中心。在这种情况下,很难保证跨所有节点的数据一致性。在任何给定的时间点,不同节点之间的数据状态可能存在差异。这也被称为最终一致性问题。
  • 由于数据是分布式的,因此没有像单节点整体系统那样的中央机构来管理数据。对于各个参与系统来说,使用一种机制(例如共识算法)进行数据管理是很重要的。
  • 在微服务架构中,恶意行为者的攻击面更大,因为有多个活动部分。这意味着开发人员需要在构建微服务时建立一个更健壮的安全态势。
  • 微服务和云计算的主要承诺是可扩展性。虽然扩展应用程序进程变得更容易,但横向扩展数据库节点就不那么容易了。如果没有适当的可扩展性,数据库可能会变成性能瓶颈。

深入研究数据管理模式

考虑到相关的挑战,有几种模式可用于管理微服务和云原生应用程序中的数据。这些模式的主要工作是帮助开发人员解决以下提到的各种挑战。以下逐一看看这些模式。

1.每个微服务的数据库

顾名思义,这种模式建议每个微服务管理自己的数据。这意味着没有其他微服务可以直接访问或操作由另一个微服务管理的数据。任何数据交换或操作都只能通过使用一组定义良好的API来完成。下图显示了每个微服务的数据库模式的示例。

如何为分布式系统设计数据库图1每个微服务数据库模式

从表面上看,这个模式似乎很简单。当从一个全新的应用程序开始时,它可以相对容易地实现。然而,当将现有的单片应用程序迁移到微服务架构时,服务之间的界限就不那么清晰了。

大多数功能都是以一种方式编写的,即系统的不同部分可以非正式地从其他部分访问数据。

在使用数据库服务模式时,需要关注两个主要方面:

  • 为每个微服务定义有界场景。
  • 管理跨多个微服务的业务事务。

2.共享数据库

下一个重要的模式是共享数据库模式。尽管这一模式支持微服务架构,但它采用了一种更为宽松的方法,即使用可被多个微服务访问的共享数据库。对于正在向微服务架构过渡的现有应用程序,这是一种更安全的模式,因为可以在不改变数据库设计的情况下慢慢地发展应用层。然而,这种方法剥夺了微服务的一些好处:

  • 跨团队的开发人员需要协调表的模式更改。
  • 当多个服务试图访问相同的数据库资源时,可能会出现运行时冲突。

3.CQRS和事件溯源

在命令-查询-责任分离(CQRS)模式中,应用程序侦听来自其他微服务的域事件,并更新单独的数据库以支持视图和查询。然后,可以从这个单独的数据库中提供复杂的聚合查询,同时优化性能并根据需要进行扩展。

事件溯源通过将实体或聚合的状态存储为事件序列而更进一步。每当对对象进行更新或插入操作时,就会创建一个新事件并将其存储在事件存储库中。你可以一起使用CQRS和事件溯源来解决事件处理和维护独立查询数据方面的许多挑战。这样,就可以根据各自的需求分别扩展写操作和读操作。

如何为分布式系统设计数据库图2事件溯源和CQRS一起行动

对于大多数开发人员来说,不利的一面是,这是一种不熟悉的构建应用程序的风格,并且需要管理更多的活动部分。

4.Saga模式

Saga模式是跨多个微服务处理业务事务的另一种解决方案。例如,在快餐配送应用程序上下订单是一种商业交易。在Saga模式中,将这一业务事务分解为由不同服务处理的本地事务序列。对于每个本地事务,执行该事务的服务都会发布一个事件。

该事件触发另一个服务中的后续事务,该链将会继续,直到整个业务事务完成。如果链中的任何特定事务失败,则通过执行一系列补偿事务来回滚,这些事务撤消所有先前事务的影响。

有两种类型的Saga实现:

  • 基于编配的Saga
  • 基于Choreography的Saga

5.分片

分片有助于构建云原生应用程序。它涉及到将一个表的行分成多个不同的表。这也被称为水平分区,但是当分区位于不同的节点上时,它们被称为分片。分片帮助开发人员提高数据库的读写可扩展性。此外,它还提高了查询的性能,因为由于分片,特定查询必须处理更少的记录。

6.复制

复制是一种非常重要的数据管理模式。它涉及到创建数据库的多个副本。每个副本都是相同的,并且在不同的服务器或节点上运行。对一个副本所做的更改将传播到其他副本。这就是所谓的复制。有几种类型的复制方法,例如:

  • 单领导者复制
  • 多领导者复制
  • 无领导者复制

复制帮助实现高可用性和提高可靠性,并且它允许扩展读取操作,因为读取请求可以转移到多个服务器。图3显示了分片和复制的组合工作。

如何为分布式系统设计数据库图3同时使用分片和复制

云原生环境中数据库设计的最佳实践

虽然这些模式在解决微服务和云原生架构中的数据管理问题方面大有帮助,但还需要遵循一些最佳实践,以使工作和生活更轻松。

以下是一些最佳实践:

  • 必须设法设计一个具有弹性的解决方案。这是因为故障在微服务架构中是不可避免的,设计应该适应故障,并在不中断业务的情况下从中恢复。
  • 当转换到其中一种模式时必须实现适当的迁移策略。可以评估的一些常见策略是模式优先与数据优先、蓝绿部署或使用扼杀模式。
  • 不要忽视备份和经过良好测试的灾难恢复系统。即使对于单节点数据库,这些也很重要。然而,在分布式数据管理方法中,灾难恢复变得更加重要。
  • 在微服务或云原生应用中,持续监控和可观察性同样重要。例如,分片之类的技术可能导致分区和热点不平衡。如果没有适当的监控解决方案,对这种情况的任何反应都可能来得太晚,并可能使业务面临风险。

结论

因此可以得出结论,良好的数据库设计在微服务和云原生环境中绝对是至关重要的。由于分布式数据固有的复杂性,如果没有适当的设计,应用程序将面临多种问题。有多种数据管理模式能够以更可靠和可扩展的方式处理数据。然而,每种模式都有自己的挑战以及优点和缺点。没有任何一种模式能够适合所有可能的场景,开发人员应该在进行各种权衡之后选择一个特定的模式。

原文标题:Designing Databases for Distributed Systems,作者:Saurabh Dashora



Tags:数据库   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
向量数据库落地实践
本文基于京东内部向量数据库vearch进行实践。Vearch 是对大规模深度学习向量进行高性能相似搜索的弹性分布式系统。详见: https://github.com/vearch/zh_docs/blob/v3.3.X/do...【详细内容】
2024-04-03  Search: 数据库  点击:(4)  评论:(0)  加入收藏
如何正确选择NoSQL数据库
译者 | 陈峻审校 | 重楼Allied Market Research最近发布的一份报告指出,业界对于NoSQL数据库的需求正在持续上升。2022年,全球NoSQL市场的销售额已达73亿美元,预计到2032年将达...【详细内容】
2024-03-28  Search: 数据库  点击:(13)  评论:(0)  加入收藏
为什么数据库连接池不采用 IO 多路复用?
这是一个非常好的问题。IO多路复用被视为是非常好的性能助力器。但是一般我们在使用DB时,还是经常性采用c3p0,tomcat connection pool等技术来与DB连接,哪怕整个程序已经变成以...【详细内容】
2024-03-27  Search: 数据库  点击:(12)  评论:(0)  加入收藏
过去一年,我看到了数据库领域的十大发展趋势
作者 | 朱洁策划 | 李冬梅过去一年,行业信心跌至冰点2022 年中,红衫的一篇《适应与忍耐》的报告,对公司经营提出了预警,让各个公司保持现金流,重整团队,想办法增加盈利。这篇报告...【详细内容】
2024-03-12  Search: 数据库  点击:(26)  评论:(0)  加入收藏
让数据库和缓存数据保持一致的三种策略
如何保证缓存和数据库的一致性,这算得上是个老生常谈的话题啦,看到好多技术新人在写更新缓存数据代码,采用了非常复杂甚至“诡异”的方案,甚为不解。一、背景目前随着缓存架构方...【详细内容】
2024-02-20  Search: 数据库  点击:(35)  评论:(0)  加入收藏
MySQL数据库如何生成分组排序的序号
经常进行数据分析的小伙伴经常会需要生成序号或进行数据分组排序并生成序号。在MySQL8.0中可以使用窗口函数来实现,可以参考历史文章有了这些函数,统计分析事半功倍进行了解。...【详细内容】
2024-01-30  Search: 数据库  点击:(53)  评论:(0)  加入收藏
一篇文章,彻底理解数据库操作语言:DDL、DML、DCL、TCL
本篇文章以具体的SQL语句讲解了数据库SQL语言四大分类(数据定义语言DDL,数据操作语言DML,数据查询语言DQL,数据控制语言DCL),同时也介绍了事务控制语言TCL。最近与开发和运维讨论...【详细内容】
2024-01-30  Search: 数据库  点击:(41)  评论:(0)  加入收藏
一文读懂:什么是数据库,它到底有啥用?
提到数据库,可能很多人会很陌生。但据库其实已经渗入我们生活的方方面面,像网上购物、扫码点餐、抢红包等等应用背后都离不开数据库的支持。可以说数据库是支撑各类应用软件运...【详细内容】
2024-01-25  Search: 数据库  点击:(42)  评论:(0)  加入收藏
oracle数据库基础学习
在当今数字化时代,数据库已成为企业运营的关键要素。而Oracle数据库,作为全球领先的企业级数据库管理系统,更是备受推崇。本文将带您深入了解Oracle数据库的基础知识,帮助您从零...【详细内容】
2024-01-20  Search: 数据库  点击:(86)  评论:(0)  加入收藏
一个流行的支持超多数据库的ORM库
Sequelize 是一个流行的 Node.js ORM(对象关系映射)库,用于在 Node.js 中操作关系型数据库。它支持多种数据库系统,如 PostgreSQL、MySQL、SQLite 和 MSSQL,并提供了简单易用的 A...【详细内容】
2024-01-15  Search: 数据库  点击:(75)  评论:(0)  加入收藏
▌简易百科推荐
向量数据库落地实践
本文基于京东内部向量数据库vearch进行实践。Vearch 是对大规模深度学习向量进行高性能相似搜索的弹性分布式系统。详见: https://github.com/vearch/zh_docs/blob/v3.3.X/do...【详细内容】
2024-04-03  京东云开发者    Tags:向量数据库   点击:(4)  评论:(0)  加入收藏
原来 SQL 函数是可以内联的!
介绍在某些情况下,SQL 函数(即指定LANGUAGE SQL)会将其函数体内联到调用它的查询中,而不是直接调用。这可以带来显著的性能提升,因为函数体可以暴露给调用查询的规划器,从而规划器...【详细内容】
2024-04-03  红石PG  微信公众号  Tags:SQL 函数   点击:(3)  评论:(0)  加入收藏
如何正确选择NoSQL数据库
译者 | 陈峻审校 | 重楼Allied Market Research最近发布的一份报告指出,业界对于NoSQL数据库的需求正在持续上升。2022年,全球NoSQL市场的销售额已达73亿美元,预计到2032年将达...【详细内容】
2024-03-28    51CTO  Tags:NoSQL   点击:(13)  评论:(0)  加入收藏
为什么数据库连接池不采用 IO 多路复用?
这是一个非常好的问题。IO多路复用被视为是非常好的性能助力器。但是一般我们在使用DB时,还是经常性采用c3p0,tomcat connection pool等技术来与DB连接,哪怕整个程序已经变成以...【详细内容】
2024-03-27  dbaplus社群    Tags:数据库连接池   点击:(12)  评论:(0)  加入收藏
八个常见的数据可视化错误以及如何避免它们
在当今以数据驱动为主导的世界里,清晰且具有洞察力的数据可视化至关重要。然而,在创建数据可视化时很容易犯错误,这可能导致对数据的错误解读。本文将探讨一些常见的糟糕数据可...【详细内容】
2024-03-26  DeepHub IMBA  微信公众号  Tags:数据可视化   点击:(6)  评论:(0)  加入收藏
到底有没有必要分库分表,如何考量的
关于是否需要进行分库分表,可以根据以下考量因素来决定: 数据量和负载:如果数据量巨大且负载压力较大,单一库单一表可能无法满足性能需求,考虑分库分表。 数据增长:预估数据增长...【详细内容】
2024-03-20  码上遇见你  微信公众号  Tags:分库分表   点击:(13)  评论:(0)  加入收藏
在 SQL 中写了 in 和 not in,技术总监说要炒了我……
WHY?IN 和 NOT IN 是比较常用的关键字,为什么要尽量避免呢?1、效率低项目中遇到这么个情况:t1表 和 t2表 都是150w条数据,600M的样子,都不算大。但是这样一句查询 ↓select *...【详细内容】
2024-03-18  dbaplus社群    Tags:SQL   点击:(5)  评论:(0)  加入收藏
应对慢SQL的致胜法宝:7大实例剖析+优化原则
大促备战,最大的隐患项之一就是慢SQL,对于服务平稳运行带来的破坏性最大,也是日常工作中经常带来整个应用抖动的最大隐患,在日常开发中如何避免出现慢SQL,出现了慢SQL应该按照什...【详细内容】
2024-03-14  京东云开发者    Tags:慢SQL   点击:(4)  评论:(0)  加入收藏
过去一年,我看到了数据库领域的十大发展趋势
作者 | 朱洁策划 | 李冬梅过去一年,行业信心跌至冰点2022 年中,红衫的一篇《适应与忍耐》的报告,对公司经营提出了预警,让各个公司保持现金流,重整团队,想办法增加盈利。这篇报告...【详细内容】
2024-03-12    InfoQ  Tags:数据库   点击:(26)  评论:(0)  加入收藏
SQL优化的七个方法,你会哪个?
一、插入数据优化 普通插入:在平时我们执行insert语句的时候,可能都是一条一条数据插入进去的,就像下面这样。INSERT INTO `department` VALUES(1, '研发部(RD)', &#39...【详细内容】
2024-03-07  程序员恰恰  微信公众号  Tags:SQL优化   点击:(19)  评论:(0)  加入收藏
站内最新
站内热门
站内头条