分析大量数据只是使大数据分析与以前的数据分析不同的一部分。我们还要了解其它方面。先有数据,然后是大数据。那么,它们有什么区别?
定义大数据
一般而言,大数据是指容量庞大的数据集,大到传统的数据处理软件产品无法在合理的时间内捕获、管理和处理数据。这些大数据集可以包括结构化数据、非结构化数据和半结构化数据,人们可以从每个数据挖掘到洞察。
多大的数据才算得上“大”尚无定论,但它通常可能是几个拍字节(petabyte),并且对于艾字节(exabyte)范围中的最大项目也是如此。
通常,大数据的特点是三个V:
极大的数据量
各种类型的数据
数据得到处理和分析的速度
大数据和分析
真正能从组织所收集的所有大数据中实现价值的东西是应用于数据的分析。没有分析的话,这只是一大堆商业用途十分有限的数据。企业通过将分析应用于大数据就可以看到销售额的增长、客户服务的改善、效率的提高以及竞争力得到全面提升等优势。
数据分析包括检查数据集以获得洞察或得出关于它们包含的内容的结论,例如关于未来活动的趋势和预测。
大数据特有的技术
Hadoop生态系统
Hadoop是其中一项与大数据密切相关的技术。Apache Hadoop项目为可扩展的分布式计算开发开源软件。
Hadoop软件库是一个框架,该框架支持使用简单的编程模型在计算机集群中对大数据集进行分布式处理。它旨在从单个服务器扩展到数千个,每个服务器都提供本地计算和存储。
该项目包括几个模块:
Hadoop Common是支持其它Hadoop模块的通用工具
Hadoop分布式文件系统,它可以为应用程序数据提供高吞吐量的访问
Hadoop YARN是一个作业调度和集群资源管理的框架
Hadoop MapReduce是一个基于YARN的大数据集并行处理系统。
Apache Spark
作为Hadoop生态系统的一部分的Apache Spark是一个开源的集群计算框架,它可充当在Hadoop中处理大数据的引擎。Spark已经成为关键的大数据分布式处理框架之一,而且它可以通过多种方式进行部署。它为Java、Scala、Python(尤其是Natrona Python发行版)和R编程语言(R特别适用于大数据)提供本地绑定,它还支持SQL、流数据、机器学习和图形处理。
大数据技能
大数据和大数据分析工作需要特定的技能,无论这些技能是从组织内部还是外部专家那里获取。这其中有很多技能都与关键的大数据技术组件相关,如Hadoop、Spark、NoSQL数据库,内存数据库和分析软件。其它技能则针对数据科学、数据挖掘、统计和定量分析、数据可视化、通用编程以及数据结构和算法等学科。我们还需要具备全面管理技能的人员来完成大数据项目。
鉴于大数据分析项目的普遍性在以及这一系列技能的人才的短缺,寻找有经验的专业人员可能是组织面临的最大挑战之一。
大数据用例
大数据和分析可以应用于很多业务问题和用例。下面就是几个例子:
客户分析。公司可以检验客户数据以改善客户体验,提高转化率并增加留存率。
运营分析。提高运营绩效并更好地利用企业资产是很多公司的目标。大数据分析可以帮助企业找到更高效地运营的方法,以及提高绩效的方法。
预防诈骗。数据分析有助于发现可能表明出欺诈行为的可疑活动和模式,并有助于降低风险。
价格优化。公司可以使用大数据分析来优化他们为产品和服务收取的价格,从而帮助提高收入。