数据作为一项重要资产,已经成为企业的共识,为了更好地存储数据、挖掘数据,企业需要: · 一个超级大的存储库,对数据进行长期的原样的存储; · 能够对这些数据高效地管理与集中治理; · 需要强大的计算能力满足数据处理需求。 假设有这样一种解决方案:在一种技术的支持下,企业在快速实现企业中各类的数据集成的同时,也能轻松获取企业外部数据,打通产业链上下游数据,实现生态化数据整合,实现全貌数据分析。同时,数据存储量大,支持批量历史数据和实时流数据的处理,能够实现数据的快速查询和高级分析。 这样的解决方案,你是否会心动? 其实,这个方案,通过数据湖就能实现。 一、什么是数据湖?数据湖概念的提出,最早是在2010年,由Pentaho的创始人兼CTO詹姆斯·狄克逊(James Dixon)在纽约Hadoop World大会上提出的,就在当时,发布了如今被大数据界广泛使用的开源框架Hadoop的第一个版本。 近两年,随着大数据、云计算等技术的发展与成熟,数据湖再次被人们提起,人们对原始数据的分析、非结构化数据的分析的应用也越来越多,数据湖开始走向企业的实际应用中。 维基百科对数据湖的定义:数据湖是一个以原始格式(通常是对象块或文件)存储数据的系统或存储库。数据湖通常是所有企业数据的单一存储,用于报告、可视化、高级分析和机器学习等任务。数据湖可以包括来自关系数据库的结构化数据(行和列)、半结构化数据(CSV、日志、XML、JSON)、非结构化数据(电子邮件、文档、pdf)和二进制数据(图像、音频、视频)。 根据网上资料,有一张数据湖的参考架构: 从架构上来看,数据湖的主要特征有:
数据湖本质上是一套先进的企业数据架构。 2、数据湖和数据仓库有什么区别呢?在这里,我们拿数据湖和熟知的数据仓库进行对比,方便大家对数据湖进一步理解。 通过对比,我们可以看到数据湖相比于数据仓库,不仅在数据源上更丰富,数据也不需要提前进行定义,在准备使用数据时再定义即可,这提高了数据的灵活性与可扩展性。 数据湖在未来的使用中应用范围更广,使用场景也从批处理、BI扩展到机器学习、高级分析。 三、数据湖能够给企业带来哪些价值?通过对数据的分析与应用成功创造商业价值的企业,将会在数字化浪潮下越走越远。数据湖的核心价值是为企业带来了数据平台化运营机制,真正帮助企业实现技术转型,应对快速发展的商业环境下层出不穷的新问题。据Aberdeen 的一项调查显示,实施数据湖的组织比同类公司在有机收入增长方面高出 9%。 数据湖对企业的价值主要体现在: 1、保存原始数据,企业数据保真 数据仓库保存的数据都是结构化处理后的数据,而非原始数据,且无用数据不会被纳入。但是目前看来'无用'的数据是否真的没有用处呢?其他格式的数据是否没有价值?有用无用依赖的是我们业务人员的经验来判断的,这明显不符合大数据的原则,而数据湖能够保存原始数据,同时过程数据会不断的完善、演化,以满足业务的需要,保证用户能获取到各个阶段的数据。 2、打破数据孤岛,实现数据互通 有的企业先后上线了ERP系统、CRM系统、OA系统等,企业的数据分别存储在这些系统中,数据之间互不相通,而数据湖可以容纳所有系统的数据,同时也能够充分利用企业外部数据,打破数据孤岛,整合企业全貌数据。 3、支持实时数据,提高运营效率 |
|