您当前的位置:首页 > 电脑百科 > 数据库 > 百科

将ETL工具整合到您的数据仓库策略中

时间:2019-08-06 10:30:00  来源:  作者:

在这篇文章中,一位大数据专家讨论了使用ETL工具来帮助数据团队更好地使用和管理他们的数据仓库。

管理数据仓库不仅仅是管理数据仓库,如果我们听起来如此陈腐。实际上还有很多需要考虑的问题。例如,数据如何进入您的数据仓库本身就是一个完整的过程 - 具体而言,当数据处于运动状态时会发生什么,以及必须采用的形式才能变得可用。

将ETL工具整合到您的数据仓库策略中

 

这就是ETL工具的用武之地。

ETL - 提取,转换,加载 - 是多个系统的数据(通常由不同供应商,部门或利益相关者开发和支持)组合到单个数据库,数据存储或仓库以用于传统存储或分析的常用范例。

提取是从各种数据源提取数据的过程。转换涉及以适当的格式转换数据以进行查询和分析。最后,当转换的数据被加载到目标数据库,数据存储,数据集市或仓库时,就会发生加载。从本质上讲,ETL可以为您的数据做准备,使其有意义且易于分析。

许多拥有内部IT团队的公司经常考虑使用自动化ETL工具,而不是提出自己的解决方案。他们可能认为他们可以依靠IT人员手动编写“管道”解决方案,但后来发现管道无法处理越来越大或复杂的数据负载。或者如果可以,它只能通过更多的费用,时间和资源来实现。

牺牲?时间,准确性和性能。因此,组织必须要问:如果我们浪费时间和日子来获取商业智能,那么追求商业智能的重点是什么,不能100%肯定我们的结果,并且感觉整个机器可能会在强风中崩溃?

另一方面,自动化ETL工具可以快速,准确,高性能,可扩展且安全。更重要的是,它执行必要的功能,不应该由过度工作或训练不足的IT团队负责监督,特别是当您的数据仓库和您的公司正在寻求的关键答案。

事实上,无论您的IT团队多么熟练,扩展数据需求都将不断给任何组织带来挑战,给员工,设备和预算带来压力,并浪费宝贵的时间在定制的手动配置上,以便跟上。因此,让我们深入了解可用的不同自动化ETL工具以及如何确定哪种工具适合您。

ETL工具的类型

以下是ETL工具的具体类型以及它们可以为您的组织做些什么:

批处理工具:现有的批处理工具可在非工作时间内整合您的数据,因为计算能力的竞争较小。对于较少依赖于速度的数据类型(考虑季度或月度计算,如税收或工资报告),这些工具可在不影响其他地方性能的情况下准备数据。

开源工具:与几乎所有开源解决方案一样,开源ETL是现成的,可以轻松地与其他系统集成,对于基础设施预算有限的公司尤其具有吸引力。而且由于开源开发的协作性,您可以在一定程度上实现问责制,灵活性以及可能与其他解决方案部分缺失的“最新内容”。

基于云的工具:虽然批处理通常是内部部署数据仓库的领域,但现在云中可以使用新的批处理工具。它们提供了与原有旧系统相同的优势,但具有当今的云优势,例如实时支持,内置安全性和合规性以及智能模式检测。

实时工具:如今,大多数公司都使用大量需要实时信息的现代应用程序。实时ETL工具使用与其他选项完全不同的模型,一个基于分布式消息队列 - 解耦或独立应用程序之间的通信 - 流处理或连续数据流。最终结果是公司可以快速查询并获得答案,而不仅仅是在方便系统时。

但是,这些类别没有严格定义。例如,有开源或基于云的工具可以处理实时信息等。

哪种ETL工具适合您?

虽然大多数(如果不是全部)上述工具可以在某种程度上为您的组织提供良好的服务,但每种工具都可以满足某些要求:

  • 现有批次:最适合希望使用内部部署技术和/或现有供应商的组织,并且不太关心实时数据处理。
  • 开源:最适合那些习惯于维护和操作开源技术的组织,或者想要使用开源技术自己构建ETL解决方案的组织。
  • 基于云的:最适合喜欢在云中构建和交付的工具的组织,并且有兴趣通过不必购买或维护设备来降低成本。
  • 实时:最适合寻求现代解决方案来处理大量数据或流数据,根据需要扩展或缩小操作以及实时处理事件的组织。

数据仓库和ETL:无与伦比的匹配

今天的商业智能要求对每个组织都提出了很高的要求。您的独特数据源,结构和集合不应受限于禁止流量和最终用户分析的处理。



Tags:ETL工具   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
在这篇文章中,一位大数据专家讨论了使用ETL工具来帮助数据团队更好地使用和管理他们的数据仓库。管理数据仓库不仅仅是管理数据仓库,如果我们听起来如此陈腐。实际上还有很多...【详细内容】
2019-08-06  Tags: ETL工具  点击:(163)  评论:(0)  加入收藏
▌简易百科推荐
1增1.1【插入单行】insert [into] <表名> (列名) values (列值)例:insert into Strdents (姓名,性别,出生日期) values (&#39;开心朋朋&#39;,&#39;男&#39;,&#39;1980/6/15&#3...【详细内容】
2021-12-27  快乐火车9d3    Tags:SQL   点击:(1)  评论:(0)  加入收藏
最近发现还有不少做开发的小伙伴,在写存储过程的时候,在参考已有的不同的写法时,往往很迷茫, 不知道各种写法孰优孰劣,该选用哪种写法,以及各种写法的优缺点,本文以一个简单的查询...【详细内容】
2021-12-23  linux上的码农    Tags:sql   点击:(9)  评论:(0)  加入收藏
《开源精选》是我们分享Github、Gitee等开源社区中优质项目的栏目,包括技术、学习、实用与各种有趣的内容。本期推荐的HasorDB 是一个全功能数据库访问工具,提供对象映射、丰...【详细内容】
2021-12-22  GitHub精选    Tags:HasorDB   点击:(5)  评论:(0)  加入收藏
作者丨Rafal Grzegorczyk译者丨陈骏策划丨孙淑娟【51CTO.com原创稿件】您是否还在手动对数据库执行各种脚本?您是否还在浪费时间去验证数据库脚本的正确性?您是否还需要将...【详细内容】
2021-12-22    51CTO  Tags:Liquibase   点击:(3)  评论:(0)  加入收藏
场景描述:由于生产环境的表比较复杂,字段很多。这里我们做下简化,只为说明今天要聊的问题。有两张表 tab1,tab2: tab1 数据如下: tab2 数据如下: 然后给你看下,我用来统计 name=&#3...【详细内容】
2021-12-20  Bald    Tags:SQL   点击:(5)  评论:(0)  加入收藏
前言知识无底,学海无涯,知识点虽然简单,但是比较多,所以将MySQL的基础写出来,方便自己以后查找,还有就是分享给大家。一、SQL简述1.SQL的概述Structure Query Language(结构化查...【详细内容】
2021-12-16  谣言止于独立思考    Tags:SQL基础   点击:(13)  评论:(0)  加入收藏
前言作为一名测试工程师,工作中在对测试结果进行数据比对的时候,或多或少要和数据库打交道的,要和数据库打交道,那么一些常用的 SQL 查询语法必须要掌握。最近有部分做测试小伙...【详细内容】
2021-12-14  柠檬班软件测试    Tags:SQL   点击:(15)  评论:(0)  加入收藏
话说C是面向内存的编程语言。数据要能存得进去,取得出来,且要考虑效率。不管是顺序存储还是链式存储,其寻址方式总是很重要。顺序存储是连续存储。同质结构的数组通过其索引表...【详细内容】
2021-12-08  小智雅汇    Tags:数据存储   点击:(17)  评论:(0)  加入收藏
概述DBConvert Studio 是一款强大的跨数据库迁移和同步软件,可在不同数据库格式之间转换数据库结构和数据。它将成熟、稳定、久经考验的 DBConvert 和 DBSync 核心与改进的现...【详细内容】
2021-11-17  雪竹聊运维    Tags:数据库   点击:(26)  评论:(0)  加入收藏
一、前言 大家好,我是小诚,《从0到1-全面深刻理解MySQL系列》已经来到第四章,这一章节的主要从一条SQL执行的开始,由浅入深的解析SQL语句由客户端到服务器的完整执行流程,最...【详细内容】
2021-11-09  woaker    Tags:SQL   点击:(35)  评论:(0)  加入收藏
相关文章
    无相关信息
最新更新
栏目热门
栏目头条