您当前的位置:首页 > 电脑百科 > 数据库 > 百科

数据库的数字化运维能力,你了解了吗?

时间:2023-09-27 14:32:56  来源:微信公众号  作者:白鳝的洞穴

随着数字化的不断深入,数据库爆炸式增长已经是一个现实了。如此数量众多,种类繁杂,还包含大量国产数据库的中小型数据库如何运维,是未来摆在每个企业IT部门面前的一道难题。传统的企业IT运维都是抓大放小,关键、核心系统花大价钱招人或者请第三方服务商驻场服务,一些不重要的,小型的的数据库就放任不管,出了问题再去解决。不过随着数字化转型的不断深入,大量的不能放任不管的中小系统又摆在运维人员面前了。再加上以前一套Oracle数据库干的事情,现在可能需要分解为多套国产数据库来干。

以前虽然Oracle运维起来难度大一些,不过关键系统数量有限,人还是干得过来的。现在的国产、开源数据库虽然比Oracle简单多了,不过原来运维Oracle的模式似乎也不大灵光了。平时不出问题的时候人工去监控也没多大价值,出了问题,人工去处理似乎也经常发挥不出啥作用。再加上面对如此庞大的数量,总是觉得力不从心。

确实如此,Oracle时代行之有效的运维模式到了现在国产、开源数据库时代似乎不大好使了。转变思路,转变工作模式迫在眉睫。实际上既然业务都在数字化转型,IT运维也应该数字化转型了。今天我们就来讨论一下数据库的数字化运维能力是如何构建出来的。

数据库的数字化运维能力,你了解了吗?图片

数据库的数字化能力来源是数据库产品自身的可观测性接口。通用数据库的可观测性接口一般来说还是比较丰富的,一些开源的专用数据库(比如clickhouse、mongodb等)相对少一些。一般来说,面对场景的复杂性和多样性越多的数据库产品就需要越多的可观测性能力来支撑其运维。上面的图中左侧是数据库需要对外提供的可观测性能力,右侧是IT部门需要构建的数字化运维能力。可观测性是数据库提供给运维的基础数据,数字化运维能力是IT部门建设的自动化分析与处置能力。

IT部门对于数字化运维能力的终极目标是自动化处置与故障自愈,不过这个要求很高,可以在一个组织内部,通过对自己运维对象与运维流程的深入理解不断的演进与完善。不过个性化定制的工程量很大,极难做成通用产品去销售。前阵子和蚂蚁的同学做了一次深入的交流,观看了他们支付宝的运维管理平台,他们的业务自动限流、SQL自动优化、故障自动隔离等方面的能力已经做得很强大了。我当时看得十分眼馋,问他们这部分能力能不能开放到OCP里。他们很坦诚的告诉我,这些能力都是基于对他们的系统充分了解的基础上构建起来的,甚至和他们的关键业务系统的代码都是关联的,想要开放成通用功能是有一定难度的。

虽然构建高级目标是需要长时间积累的,不过饭可以一口一口的吃,先把基础能力构建起来还是可以做的。不过要想构建基础的数字化运维能力也还是有一定的基础条件的。数据库的可观测性接口的能力强弱限制了数字化运维能力的建设。传统的数据库监控是网管理念的监控,数据库的几个关键指标合理,不宕机就行了,因为判断系统是否存在问题主要还是靠人。数字化运维是要考算法来判断系统是否存在问题 ,那么所需要的监控指标就复杂多了。

举个例子,哪怕是最简单的配置信息,如果是人工运维时代,那么很多配置信息记录在系统里或者保存在文档里还问题不大,大不了人工去检查。而如果要数字化运维,那么数据库的备份策略,备份作业的完成情况等配置信息都必须要数字化了。这方面Oracle数据库的完备程度是十分高的,值得国产数据库去学习。通过系统视图,我们可以知道大量的数据库运行于配置变更的细节,这对于数字化运维和最终实现数据库自治十分重要。

活跃会话历史(ASH)是数据库数字化运维高级阶段不可缺少的数据支撑。精准的故障预警和根因分析都需要ASH数据的支持才能实现。因此ASH也是很多数据库故障自愈能力构建的基础。数据库要提供ASH的能力并不简单,需要在数据库核心代码中能够将大量的会话活动数据转储出来,最终固化到系统表中。为了实现更精准的分析,ASH要求的采样频率一般是1秒钟,这对于数据库内核也是一个巨大的考验。目前应有一些国产数据库已经开始提供ASH数据了,比如openGauss、Polardb、KingbaseES等。

Top SQL的发现与分析是另外一种十分关键的可观测能力,在以人为核心的运维时代,对数据库的Top SQL可观测能力要求也不是很高。支持慢SQL输出就够用了。当系统出问题的时候,启动慢SQL日志输出,人工去看日志分析问题就行了。而如果要想实现自动化分析,那么就需要运维平台主动采集系统中的SQL语句。

仅仅分析“慢SQL”可能也不大够用,因为有很多问题并不是“慢SQL”引发的,一条平时执行时间10毫秒的SQL,突变为50毫秒也可能引发一场系统大灾难。而把“慢SQL”的门槛设定在50毫秒肯定是不合理的。

还是那句话,Oracle在Top SQL可观测性方面做得很好,而国产数据库在这方面还差强人意。很多数据库仅仅提供最近执行的SQL的采集接口(条数可以设定,不过设多大才够用呢?),有些数据库虽然在内存中保存着cursor的所有SQL语句,但是无法采集到的SQL的执行计划,而要自动做explAIn又因为参数或者绑定变量的问题而往往无法完成。无法自动采集到这些信息,就无法发现SQL存在的问题,做自愈也就无从谈起了。

本来今天还想多写一点,不过现在已经九点了,暂时先写到这里,明天再继续聊吧。



Tags:数据库   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
向量数据库落地实践
本文基于京东内部向量数据库vearch进行实践。Vearch 是对大规模深度学习向量进行高性能相似搜索的弹性分布式系统。详见: https://github.com/vearch/zh_docs/blob/v3.3.X/do...【详细内容】
2024-04-03  Search: 数据库  点击:(4)  评论:(0)  加入收藏
如何正确选择NoSQL数据库
译者 | 陈峻审校 | 重楼Allied Market Research最近发布的一份报告指出,业界对于NoSQL数据库的需求正在持续上升。2022年,全球NoSQL市场的销售额已达73亿美元,预计到2032年将达...【详细内容】
2024-03-28  Search: 数据库  点击:(13)  评论:(0)  加入收藏
为什么数据库连接池不采用 IO 多路复用?
这是一个非常好的问题。IO多路复用被视为是非常好的性能助力器。但是一般我们在使用DB时,还是经常性采用c3p0,tomcat connection pool等技术来与DB连接,哪怕整个程序已经变成以...【详细内容】
2024-03-27  Search: 数据库  点击:(12)  评论:(0)  加入收藏
过去一年,我看到了数据库领域的十大发展趋势
作者 | 朱洁策划 | 李冬梅过去一年,行业信心跌至冰点2022 年中,红衫的一篇《适应与忍耐》的报告,对公司经营提出了预警,让各个公司保持现金流,重整团队,想办法增加盈利。这篇报告...【详细内容】
2024-03-12  Search: 数据库  点击:(26)  评论:(0)  加入收藏
让数据库和缓存数据保持一致的三种策略
如何保证缓存和数据库的一致性,这算得上是个老生常谈的话题啦,看到好多技术新人在写更新缓存数据代码,采用了非常复杂甚至“诡异”的方案,甚为不解。一、背景目前随着缓存架构方...【详细内容】
2024-02-20  Search: 数据库  点击:(35)  评论:(0)  加入收藏
MySQL数据库如何生成分组排序的序号
经常进行数据分析的小伙伴经常会需要生成序号或进行数据分组排序并生成序号。在MySQL8.0中可以使用窗口函数来实现,可以参考历史文章有了这些函数,统计分析事半功倍进行了解。...【详细内容】
2024-01-30  Search: 数据库  点击:(53)  评论:(0)  加入收藏
一篇文章,彻底理解数据库操作语言:DDL、DML、DCL、TCL
本篇文章以具体的SQL语句讲解了数据库SQL语言四大分类(数据定义语言DDL,数据操作语言DML,数据查询语言DQL,数据控制语言DCL),同时也介绍了事务控制语言TCL。最近与开发和运维讨论...【详细内容】
2024-01-30  Search: 数据库  点击:(41)  评论:(0)  加入收藏
一文读懂:什么是数据库,它到底有啥用?
提到数据库,可能很多人会很陌生。但据库其实已经渗入我们生活的方方面面,像网上购物、扫码点餐、抢红包等等应用背后都离不开数据库的支持。可以说数据库是支撑各类应用软件运...【详细内容】
2024-01-25  Search: 数据库  点击:(42)  评论:(0)  加入收藏
oracle数据库基础学习
在当今数字化时代,数据库已成为企业运营的关键要素。而Oracle数据库,作为全球领先的企业级数据库管理系统,更是备受推崇。本文将带您深入了解Oracle数据库的基础知识,帮助您从零...【详细内容】
2024-01-20  Search: 数据库  点击:(86)  评论:(0)  加入收藏
一个流行的支持超多数据库的ORM库
Sequelize 是一个流行的 Node.js ORM(对象关系映射)库,用于在 Node.js 中操作关系型数据库。它支持多种数据库系统,如 PostgreSQL、MySQL、SQLite 和 MSSQL,并提供了简单易用的 A...【详细内容】
2024-01-15  Search: 数据库  点击:(75)  评论:(0)  加入收藏
▌简易百科推荐
向量数据库落地实践
本文基于京东内部向量数据库vearch进行实践。Vearch 是对大规模深度学习向量进行高性能相似搜索的弹性分布式系统。详见: https://github.com/vearch/zh_docs/blob/v3.3.X/do...【详细内容】
2024-04-03  京东云开发者    Tags:向量数据库   点击:(4)  评论:(0)  加入收藏
原来 SQL 函数是可以内联的!
介绍在某些情况下,SQL 函数(即指定LANGUAGE SQL)会将其函数体内联到调用它的查询中,而不是直接调用。这可以带来显著的性能提升,因为函数体可以暴露给调用查询的规划器,从而规划器...【详细内容】
2024-04-03  红石PG  微信公众号  Tags:SQL 函数   点击:(3)  评论:(0)  加入收藏
如何正确选择NoSQL数据库
译者 | 陈峻审校 | 重楼Allied Market Research最近发布的一份报告指出,业界对于NoSQL数据库的需求正在持续上升。2022年,全球NoSQL市场的销售额已达73亿美元,预计到2032年将达...【详细内容】
2024-03-28    51CTO  Tags:NoSQL   点击:(13)  评论:(0)  加入收藏
为什么数据库连接池不采用 IO 多路复用?
这是一个非常好的问题。IO多路复用被视为是非常好的性能助力器。但是一般我们在使用DB时,还是经常性采用c3p0,tomcat connection pool等技术来与DB连接,哪怕整个程序已经变成以...【详细内容】
2024-03-27  dbaplus社群    Tags:数据库连接池   点击:(12)  评论:(0)  加入收藏
八个常见的数据可视化错误以及如何避免它们
在当今以数据驱动为主导的世界里,清晰且具有洞察力的数据可视化至关重要。然而,在创建数据可视化时很容易犯错误,这可能导致对数据的错误解读。本文将探讨一些常见的糟糕数据可...【详细内容】
2024-03-26  DeepHub IMBA  微信公众号  Tags:数据可视化   点击:(6)  评论:(0)  加入收藏
到底有没有必要分库分表,如何考量的
关于是否需要进行分库分表,可以根据以下考量因素来决定: 数据量和负载:如果数据量巨大且负载压力较大,单一库单一表可能无法满足性能需求,考虑分库分表。 数据增长:预估数据增长...【详细内容】
2024-03-20  码上遇见你  微信公众号  Tags:分库分表   点击:(13)  评论:(0)  加入收藏
在 SQL 中写了 in 和 not in,技术总监说要炒了我……
WHY?IN 和 NOT IN 是比较常用的关键字,为什么要尽量避免呢?1、效率低项目中遇到这么个情况:t1表 和 t2表 都是150w条数据,600M的样子,都不算大。但是这样一句查询 ↓select *...【详细内容】
2024-03-18  dbaplus社群    Tags:SQL   点击:(5)  评论:(0)  加入收藏
应对慢SQL的致胜法宝:7大实例剖析+优化原则
大促备战,最大的隐患项之一就是慢SQL,对于服务平稳运行带来的破坏性最大,也是日常工作中经常带来整个应用抖动的最大隐患,在日常开发中如何避免出现慢SQL,出现了慢SQL应该按照什...【详细内容】
2024-03-14  京东云开发者    Tags:慢SQL   点击:(4)  评论:(0)  加入收藏
过去一年,我看到了数据库领域的十大发展趋势
作者 | 朱洁策划 | 李冬梅过去一年,行业信心跌至冰点2022 年中,红衫的一篇《适应与忍耐》的报告,对公司经营提出了预警,让各个公司保持现金流,重整团队,想办法增加盈利。这篇报告...【详细内容】
2024-03-12    InfoQ  Tags:数据库   点击:(26)  评论:(0)  加入收藏
SQL优化的七个方法,你会哪个?
一、插入数据优化 普通插入:在平时我们执行insert语句的时候,可能都是一条一条数据插入进去的,就像下面这样。INSERT INTO `department` VALUES(1, '研发部(RD)', &#39...【详细内容】
2024-03-07  程序员恰恰  微信公众号  Tags:SQL优化   点击:(19)  评论:(0)  加入收藏
站内最新
站内热门
站内头条