从事大数据需要学什么发布时间：2018-07-31已帮助： 97 人来源：广州兄弟连学校 世界包含的多得难以想象的数字化信息变得更多更快……从商业到科学，从政府到艺术，这种影响无处不在。科学家和计算机工程师们给这种现象创造了一个新名词：“大数据”。大数据时代什么意思?大数据概念什么意思?大数据分析什么意思?所谓大数据，他的来源在哪里，讲了那么多，那么数据挖掘是什么呢?以下是小编为你整理的从事大数据需要学什么
大数据下的数据挖掘
数据挖掘：在大型数据库中，通过分析发现有用信息的过程。在前篇文章中说到大数据的存储等问题，面临新的数据集带来的问题时，传统的数据分析技术往往会遇到很多实际困难。下面我们来说一下具体的问题。
可伸缩：如果数据挖掘算法要处理海量数据集，则算法必须是可伸缩的(scalable)许多的数据挖掘算法使用特殊的搜索策略处理指数级搜索问题。为实现可伸缩可能还需要实现新的数据结构，才能有效的访问每个记录。 高维性：现在，常常遇到具有成败上千属性的数据集，而不是几十年前的只具备少量属性的数据集。
异种数据和复杂数据：通常情况下，传统的数据分析方法只处理包含相同类型属性的数据集，或者是连续的，或者是分类的。 随着数据挖掘在商务、科学、医学和其他领域的作用越来越大，越来越需要处理异种属性的技术。近年来，已经出现了更复杂的数据对象。这些非传统的数据类型的 例子有：含有半结构话文本和超链接的Web叶面集、具有序列和三维结构的DNA数据、包含地球表面不同位置上的时间序列测量值的气象数据等等。
数据的所有权与分布：有时，需要分析的数据并非存放在一个站点，或者归属一个机构，而是地理上分布在属于多个机构的资 源中。这就需要开发分布式数据挖掘技术。分布式数据挖掘算法面临的主要挑战包括：(1)如何降低执行分布式计算的通信量?(2)如何有效的同意从多个资源 得到的数据挖掘结果?(3)如何处理数据安全性问题?
非传统的分析：传统的统计方法基于一种假设——检验模式，即提出一种假设，设计实验来收集数据，然后针对假设来进行分析数据。但是，这一过程劳力费神。当前的数据分析人物常常需要产生和评估数千钟假设，因此需要自动地产生和评估假设，这促使人们开发了一些数据挖掘技术。
大数据遭受异常流量攻击
大数据所存储的数据非常巨大，往往采用分布式的方式进行存储，而正是由于这种存储方式，存储的路径视图相对清晰，而数据量过大，导致数据保护，相对简单，黑客较为轻易利用相关漏洞，实施不法操作，造成安全问题。由于大数据环境下终端用户非常多，且受众类型较多，对客户身份的认证环节需要耗费大量处理能力。 由于APT攻击具有很强的针对性，且攻击时间长，一旦攻击成功，大数据分析平台输出的最终数据均会被获取，容易造成的较大的信息安全隐患。
在对大数据进行数据采集和信息挖掘的时候，要注重用户隐私数据的安全问题，在不泄露用户隐私数据的前提下进行数据挖掘。需要考虑的是在分布计算的信息传输和数据交换时保证各个存储点内的用户隐私数据不被非法泄露和使用是当前大数据背景下信息安全的主要问题。同时，当前的大数据数据量并不是固定的，而是在应用过程中动态增加的，但是，传统的数据隐私保护技术大多是针对静态数据的，所以，如何有效地应对大数据动态数据属性和表现形式的数据隐私保护也是要注重的安全问题。最后，大数据的数据远比传统数据复杂，现有的敏感数据的隐私保护是否能够满足大数据复杂的数据信息也是应该考虑的安全问题。
大数据的数据类型和数据结构是传统数据不能比拟的，在大数据的存储平台上，数据量是非线性甚至是指数级的速度增长的，各种类型和各种结构的数据进行数据存储，势必会引发多种应用进程的并发且频繁无序的运行，极易造成数据存储错位和数据管理混乱，为大数据存储和后期的处理带来安全隐患。当前的数据存储管理系统，能否满足大数据背景下的海量数据的数据存储需求，还有待考验。不过，如果数据管理系统没有相应的安全机制升级，出现问题后则为时已晚。
DBA在大数据时代的发展前景 成为一个DBA表面上“仅”需要SQL语言和数据库基础管理的知识，所以造成了从业者良莠不齐，举一个极端的例子，我有一个留级两年的同学勉强拿到毕业证后就从事了DBA。然而理论跟实际相差甚远，模拟的环境根本达不到线上要求的多用户、高并发等压力，仅在课堂上和自学是不能成为一个合格的DBA的，合格的DBA必须在企业中的实战中走出来。一个合格的DBA必须掌握Linux基本命令和操作、数据库备份和恢复、SQL优化、数据库性能优化和至少一门脚本语言(如Python)。
移动互联网时代雨后春笋般诞生的创业公司给人一种DBA的角色性变弱的错觉，其实任何IT公司做大后都离不开DBA这个岗位。DBA的发展前景一直很不错，尤其在大数据的时代里，原本就一直存在的性能问题和安全问题会更加突出，这意味着企业对DBA人才的需求会越来越旺盛，同时这也意味着DBA会面临比以往更多样化的困难和更严峻的挑战。加上近年来的大规模集群和自动化运维，很多以前手工维护的工作现在都可以通过一系列自动工具来完成，尽管让只 会增删改查的DBA看到了自己的可替代性，但也给对技术精益求精的DBA节约出了钻研新技术和新知识的时间，使他们更加专注于解决所前所未有的困难。
大数据时代是一个以数据驱动决策的时代，数据就是企业的生命，掌握公司命脉的DBA的岗位越来越重要，作用也越来越显著，待遇也越来越丰厚，发展前景也越来越明朗。
大数据的应用现在在这领域是最广为人知的。重点是怎样应用大数据更好的了解客户以及他们的喜好和行为。企业极度喜欢搜集社交方面的数据、浏览器的日志、剖析出文本和传感器的数据，为了更加全面的了解客户。在通常情况下，创建出数据模型进行预测。好比美国的著名零售商Target就是通过大数据的剖析，获得有价值的信息，精准得预测到客户在什么时间想要小孩。另外，通过大数据的应用，电信公司可以更好预测出流失的客户，沃尔玛则更加精准的预测哪个产品会大卖，汽车保险行业会了解客户的需求和驾驶水平，政府也能了解到选民的偏好。
大数据也更多的帮助业务流程的优化。可以通过利用社交媒体数据、网络搜索以及天气预告挖掘出有价值的数据，其中大数据的应用最广泛的就是供应链以及配送路线的优化。在这2个方面，地理定位和无线电频率的识别追踪货物和送货车，利用实时交通路线数据制订更加优化的路线。人力资源业务也通过大数据的剖析来进行改良，这其中就包括了人才招聘的优化。
大数据不但单只是应用于企业和政府，同样也适用我们生活当中的每个人。我们可以利用穿着的装备(如智能手表或者智能手环)生成最新的数据，这让我们可以凭据我们热量的消耗以及睡眠模式来进行追踪。而且还利用利用大数据剖析来寻找属于我们的爱情，大多数时间交友网站就是大数据应用工具来帮助需要的人匹配合适的对象。 大数据剖析应用的计算能力可以让我们能够在几分钟内就可以解码整个DNA。而且让我们可以制订出最新的治疗方案。同时可以更好的去理解和预测疾病。就好像人们戴上智能手表等可以形成的数据一样，大数据同样可以帮助病人对于病情进行更好的治疗。大数据技术现在已经在医院应用监视早产婴儿和患病婴儿的情况，通过记录和剖析婴儿的心跳，医生针对婴儿的身体可能会出现不适症状做出预测。这样可以帮助医生更好的救助婴儿。 |
|
|
