您当前的位置:首页 > 电脑百科 > 数据库 > 百科

数据湖到底是什么湖?

时间:2020-08-10 10:19:21  来源:  作者:
数据湖到底是什么湖?

 

数据作为一项重要资产,已经成为企业的共识,为了更好地存储数据、挖掘数据,企业需要:

· 一个超级大的存储库,对数据进行长期的原样的存储;

· 能够对这些数据高效地管理与集中治理;

· 需要强大的计算能力满足数据处理需求。

假设有这样一种解决方案:在一种技术的支持下,企业在快速实现企业中各类的数据集成的同时,也能轻松获取企业外部数据,打通产业链上下游数据,实现生态化数据整合,实现全貌数据分析。同时,数据存储量大,支持批量历史数据和实时流数据的处理,能够实现数据的快速查询和高级分析。

这样的解决方案,你是否会心动?

其实,这个方案,通过数据湖就能实现。

一、什么是数据湖?

数据湖概念的提出,最早是在2010年,由Pentaho的创始人兼CTO詹姆斯·狄克逊(James Dixon)在纽约Hadoop World大会上提出的,就在当时,发布了如今被大数据界广泛使用的开源框架Hadoop的第一个版本。

近两年,随着大数据、云计算等技术的发展与成熟,数据湖再次被人们提起,人们对原始数据的分析、非结构化数据的分析的应用也越来越多,数据湖开始走向企业的实际应用中。

数据湖到底是什么湖?

 

维基百科对数据湖的定义:数据湖是一个以原始格式(通常是对象块或文件)存储数据的系统或存储库。数据湖通常是所有企业数据的单一存储,用于报告、可视化、高级分析和机器学习等任务。数据湖可以包括来自关系数据库的结构化数据(行和列)、半结构化数据(CSV、日志、XML、JSON)、非结构化数据(电子邮件、文档、pdf)和二进制数据(图像、音频、视频)。

根据网上资料,有一张数据湖的参考架构

数据湖到底是什么湖?

 

从架构上来看,数据湖的主要特征有:

  • 数据接入:数据湖提供各种类型数据的接入,包括数据库中的表、各种格式的文件、数据流、ETL工具转换后的数据、应用API获取的数据等等,并自动生成元数据信息。
  • 数据存储:数据湖存储的数据量大、来源多,并且是以原始格式存储,不同于数据仓库的结构化存储方式,数据湖以自然格式存储数据。
  • 数据处理:支持数据的验证、清洗、聚合、权限管理以及数据安全等。
  • 数据应用:除了BI、报表分析、可视化分析、高级分析外,也适用于机器学习。

数据湖本质上是一套先进的企业数据架构。

2、数据湖和数据仓库有什么区别呢?

在这里,我们拿数据湖和熟知的数据仓库进行对比,方便大家对数据湖进一步理解。

数据湖到底是什么湖?

 

通过对比,我们可以看到数据湖相比于数据仓库,不仅在数据源上更丰富,数据也不需要提前进行定义,在准备使用数据时再定义即可,这提高了数据的灵活性与可扩展性。

数据湖在未来的使用中应用范围更广,使用场景也从批处理、BI扩展到机器学习、高级分析。

三、数据湖能够给企业带来哪些价值?

通过对数据的分析与应用成功创造商业价值的企业,将会在数字化浪潮下越走越远。数据湖的核心价值是为企业带来了数据平台化运营机制,真正帮助企业实现技术转型,应对快速发展的商业环境下层出不穷的新问题。据Aberdeen 的一项调查显示,实施数据湖的组织比同类公司在有机收入增长方面高出 9%。

数据湖对企业的价值主要体现在:

1、保存原始数据,企业数据保真

数据仓库保存的数据都是结构化处理后的数据,而非原始数据,且无用数据不会被纳入。但是目前看来"无用"的数据是否真的没有用处呢?其他格式的数据是否没有价值?有用无用依赖的是我们业务人员的经验来判断的,这明显不符合大数据的原则,而数据湖能够保存原始数据,同时过程数据会不断的完善、演化,以满足业务的需要,保证用户能获取到各个阶段的数据。

数据湖到底是什么湖?

 

2、打破数据孤岛,实现数据互通

有的企业先后上线了ERP系统、CRM系统、OA系统等,企业的数据分别存储在这些系统中,数据之间互不相通,而数据湖可以容纳所有系统的数据,同时也能够充分利用企业外部数据,打破数据孤岛,整合企业全貌数据。

数据湖到底是什么湖?

 

3、支持实时数据,提高运营效率

物联网 (IoT) 引入了更多方式来收集有关制造等流程的数据,包括来自互联网连接设备的实时数据。数据湖支持对实时和高速数据流执行 ETL 功能,并对机器生成的 IoT 数据进行分析,从而能够协助企业发现降低运营成本、提高运营效率的方法。

数据湖到底是什么湖?

 

4、实现数据挖掘,驱动价值增长

数据湖统一管理所有数据,通过数据湖能够轻松实现对数据的搜索、查询、计算和访问,结合机器学习和深度学习能够为企业构建更多优化后的运营模型,进行数据挖掘和数据分析。数据湖还会跟踪和确认数据血统,这有助于确保数据值得信任,还会快速生成可用于数据驱动决策的 BI,提供企业级数据服务,驱动企业的价值增长。

数据湖到底是什么湖?

 

5、灵活可拓展,支持敏捷开发

由于数据湖采用的是分布式架构部署,具有很高的拓展性。相比于传统集中存储式,数据湖具有更高的灵活性和敏捷性,当需要修改或增添新单元时,无需对数据湖进行大规模改变,能够在段时间内(如几天或几周)实现。

数据湖到底是什么湖?

 

四、数据湖的发展前景

目前,数据湖与云计算技术的融合成为一种趋势,由于数据湖的特性与优势,数据湖在企业数据存储、处理和分析上将扮演更重要的角色。

一方面,云计算具有高效的运算能力,在原有服务器基础上增加云计算功能能够使计算速度迅速提高,为企业带来了更多的管理便捷性;

另一方面,云计算采用虚拟化、多租户等技术,将资源放在虚拟资源池中统一管理,在一定程度上优化了物理资源,用户不再需要昂贵、存储空间大的主机,降低企业对IT基础设施的成本,为企业带来了巨大的经济性。

数据湖+云计算,两大技术融合使用,将大数据计算部署在云上,把存储资源与计算资源独立开来,实现计算和数据各自独立扩展,弹性伸缩。

当前,数据湖架构已经在公有云上得到了较完美的实现和应用,企业上云已经成为一种发展趋势,将会有越来越多的企业通过上云服务来提升自己的竞争力。

数钥分析云(Saas版)即将上线,更好地为企业提供一站式大数据解决方案,敬请期待!

文章作者:分析云

文章小编:曹瑞

报表工具:数钥分析云

分析云能提供面向企业业务场景的一站式大数据分析解决方案,基于大数据、移动互联网、人工智能等先进技术,全面支撑企业业务创新,随时随地透视经营,辅助企业科学决策,加速企业数据化转型升级,助力企业进行精准营销、战略管控、风险预警等。



Tags:数据湖   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
目前大数据架构已经走向了数据湖时代,无论是单纯的批处理模式,还是同时支持实时和离线数据处理的Lambda架构都已经过时。均不再适应现在大数据的业务发展需要。一 Lambda架构...【详细内容】
2021-07-21  Tags: 数据湖  点击:(84)  评论:(0)  加入收藏
一 摘要Apache Flink是目前大数据领域最流行的流批一体化计算引擎,而数据湖技术也是互联网时代的产物,以Iceberg、Hudi和Delta为代表的数据湖技术应运而生。Iceberg目前已经提...【详细内容】
2021-07-19  Tags: 数据湖  点击:(136)  评论:(0)  加入收藏
四个大型数据和数据湖的大型Apache系统,Apache Shardingsphere,Apache冰山,Apache Hudi和Apache IotdB 管理大数据所需的许多功能是其中一些是事务,数据突变,数据校正,流媒体支持,...【详细内容】
2021-03-09  Tags: 数据湖  点击:(242)  评论:(0)  加入收藏
这几年的数据领域出现好多的概念,例如:人工智能、物联网、边缘计算、数据治理、数据湖、数据中台……可谓是“百花齐放”!一时间大家都在提新概念,但却不是所有人都...【详细内容】
2021-02-25  Tags: 数据湖  点击:(152)  评论:(0)  加入收藏
大数据文摘出品作者:无谓、铁杰、周皓、亦龙、扬清 “数据湖”正在被越来越多人提起,尽管定义并不统一,但企业们都已纷纷下水实践,无论是AWS还是阿里云、华为。 我们认为:数据湖...【详细内容】
2020-09-25  Tags: 数据湖  点击:(125)  评论:(0)  加入收藏
前言从 2018 年起,整个汽车行业处于相对低迷的状态,无论是政策导向或是外资引入的放宽,这些都在无形中加速国内车企的转型步伐。除此之外,互联网新势力不断加码入场、消费者依赖...【详细内容】
2020-08-14  Tags: 数据湖  点击:(82)  评论:(0)  加入收藏
数据作为一项重要资产,已经成为企业的共识,为了更好地存储数据、挖掘数据,企业需要:· 一个超级大的存储库,对数据进行长期的原样的存储;· 能够对这些数据高效地管...【详细内容】
2020-08-10  Tags: 数据湖  点击:(60)  评论:(0)  加入收藏
作者:蒋晓伟(量仔) 阿里云研究员金晓军(仙隐) 阿里云高级技术专家 摘要数据仓库,数据湖,包括Flink社区提的流批一体,它们到底能解决什么问题?今天将由阿里云研究员从解决业务问题出...【详细内容】
2020-06-23  Tags: 数据湖  点击:(141)  评论:(0)  加入收藏
随着5G、AI、IoT等技术越来越普及,企业数据量增大,新的数据业务层出不穷,企业对数据分析的灵活性、性能、成本要求越来越高,基于传统大数据Hadoop系统搭建的数据分析平台已无法...【详细内容】
2020-06-21  Tags: 数据湖  点击:(83)  评论:(0)  加入收藏
▌简易百科推荐
1增1.1【插入单行】insert [into] <表名> (列名) values (列值)例:insert into Strdents (姓名,性别,出生日期) values (&#39;开心朋朋&#39;,&#39;男&#39;,&#39;1980/6/15&#3...【详细内容】
2021-12-27  快乐火车9d3    Tags:SQL   点击:(1)  评论:(0)  加入收藏
最近发现还有不少做开发的小伙伴,在写存储过程的时候,在参考已有的不同的写法时,往往很迷茫, 不知道各种写法孰优孰劣,该选用哪种写法,以及各种写法的优缺点,本文以一个简单的查询...【详细内容】
2021-12-23  linux上的码农    Tags:sql   点击:(9)  评论:(0)  加入收藏
《开源精选》是我们分享Github、Gitee等开源社区中优质项目的栏目,包括技术、学习、实用与各种有趣的内容。本期推荐的HasorDB 是一个全功能数据库访问工具,提供对象映射、丰...【详细内容】
2021-12-22  GitHub精选    Tags:HasorDB   点击:(5)  评论:(0)  加入收藏
作者丨Rafal Grzegorczyk译者丨陈骏策划丨孙淑娟【51CTO.com原创稿件】您是否还在手动对数据库执行各种脚本?您是否还在浪费时间去验证数据库脚本的正确性?您是否还需要将...【详细内容】
2021-12-22    51CTO  Tags:Liquibase   点击:(3)  评论:(0)  加入收藏
场景描述:由于生产环境的表比较复杂,字段很多。这里我们做下简化,只为说明今天要聊的问题。有两张表 tab1,tab2: tab1 数据如下: tab2 数据如下: 然后给你看下,我用来统计 name=&#3...【详细内容】
2021-12-20  Bald    Tags:SQL   点击:(5)  评论:(0)  加入收藏
前言知识无底,学海无涯,知识点虽然简单,但是比较多,所以将MySQL的基础写出来,方便自己以后查找,还有就是分享给大家。一、SQL简述1.SQL的概述Structure Query Language(结构化查...【详细内容】
2021-12-16  谣言止于独立思考    Tags:SQL基础   点击:(13)  评论:(0)  加入收藏
前言作为一名测试工程师,工作中在对测试结果进行数据比对的时候,或多或少要和数据库打交道的,要和数据库打交道,那么一些常用的 SQL 查询语法必须要掌握。最近有部分做测试小伙...【详细内容】
2021-12-14  柠檬班软件测试    Tags:SQL   点击:(15)  评论:(0)  加入收藏
话说C是面向内存的编程语言。数据要能存得进去,取得出来,且要考虑效率。不管是顺序存储还是链式存储,其寻址方式总是很重要。顺序存储是连续存储。同质结构的数组通过其索引表...【详细内容】
2021-12-08  小智雅汇    Tags:数据存储   点击:(17)  评论:(0)  加入收藏
概述DBConvert Studio 是一款强大的跨数据库迁移和同步软件,可在不同数据库格式之间转换数据库结构和数据。它将成熟、稳定、久经考验的 DBConvert 和 DBSync 核心与改进的现...【详细内容】
2021-11-17  雪竹聊运维    Tags:数据库   点击:(26)  评论:(0)  加入收藏
一、前言 大家好,我是小诚,《从0到1-全面深刻理解MySQL系列》已经来到第四章,这一章节的主要从一条SQL执行的开始,由浅入深的解析SQL语句由客户端到服务器的完整执行流程,最...【详细内容】
2021-11-09  woaker    Tags:SQL   点击:(35)  评论:(0)  加入收藏
最新更新
栏目热门
栏目头条