关于大数据你应该了解的五件事儿

随着科技的发展，目前已经步入了大数据的时代，很多社交媒体和互联网公司也非常关注大数据这一行业。那么对于大数据而言，这里有五件事情是你应该了解的。

1.大数据是什么?

简单地说，大数据指的是通过计算分析大数据集，以揭示与数据某一方面相关的模式或趋势。对于大数据而言，数据量没有一定的要求，只要足够得出可靠的结论即可。

M-brain从以下八个“V”方面说明大数据：

VOLUME：能够发现自己想要的信息吗?

VALUE：当你最需要它的时候你能发现它吗?

VERACITY：处理的是有用信息还是虚假信息?

VISUALISATION：一眼就能看明白吗?它能促进决定吗?

VARIETY：一张图比一千个词更有价值吗?获得的信息均衡吗?

VELOCITY：从信息获得动力，危机和机遇同时存在，未来的前景会如何?

VISCOSITY：是否受到困扰?需要采取进一步行动吗?

VIRALITY：它是否传达了一个可以粘贴到演示文档中的信息

2.如何能够接触大数据?

数据在现实生活中无处不在，而且随着时间的推移会积累的越来越多。通过谷歌搜索就可以使你几乎能够找到所有的数据库。很多人不知道那些已经存在的数据可供访问和分析，如果你不知道的话，可以在KD Nuggets网站上找到可供访问和挖掘的数据列表。如何访问和使用这些数据主要分为以下六个方面：

数据提取

在进行任何事情之前，都需要使用一些数据。现实中可以通过多种方式获得所需要的数据，但通常的做法是通过API调用公司的web服务获得相关数据。

数据存储

大数据面临的主要难题之一是如何存储并管理它，这完全取决于负责建立数据存储的预算和个人具备的专业知识，因为对于大多数数据管理者来说，都需要具备一些编程方面的知识。良好设计的数据库允许用户安全地、直接地存储和查询数据。

数据清洗

不管你喜欢与否，数据集有各种各样的形式和大小。在考虑如何存储数据之前，需要确保它是干净的，且转化成能够被接受的格式。

数据挖掘

数据挖掘是从数据库中洞察一些信息的过程，这样做的目的是根据当前持有的数据提供预测并作出决定。

数据分析

一旦收集了所有的数据后，就需要对其进行相关任务的分析、寻找有趣的模型或趋势。优秀的数据分析师会发现一些不同寻常的东西或其他人之前没有发现的内容。

数据可视化

对于数据处理而言，对其最重要的可能是数据可视化。可视化是在完成所有工作后输出一个能被任何人理解的可视化载体，这可以通过使用编程语言(如Plot.ly、d3.js)或软件(如Tableau)实现。

3.与大数据相关的职业

随着市场对大数据相关需求的增加，与之相关的职业需求数量也在上升。根据相关机构的统计研究，一个大数据工程师每年的平均工资是150000美元。

根据相关研究报道，超过80%的数据科学家有硕士学位，使得他们能够从事这个领域的任何工作。

4.新兴行业

简而言之，大数据行业是一个正在快速成长的行业。很多公司和个人都对大数据非常关注，下图是谷歌趋势图。从下图中可以看到，搜索词“大数据”从2004年到现在的流行程度增长迅猛。

根据IDC提供的数据，“大数据和业务分析(BDA)”在2017年的全球收入达到150.8亿美元，比2016年同比增长12.4%。估计到2020年底，大数据的全球收入可能达到210亿美元。

5.如何学习

大数据是一个宽泛的主题，因此所需要学习的内容涵盖多方面的知识。想要从事该领域工作的人们需要具备一系列的特定技能，包括以下技能中的一个或多个：

掌握一种与数据分析有关的编程语言，比如R、Python、SAS和SQL语言等

对数学和统计学有很好的理解与掌握

具备网页爬虫经验

基本的Excel技能

一些网站提供在线大数据课程，比如Coursera、Simpli Learn等。如果你正在寻找一个大学在线课程，可以从Masters Portal列出的全英国95个数据科学和大数据硕士课程中选择一个适合自己的课程，典型的教学大纲可能包括以下几个方面：

与大数据相关的数学知识

Python脚本

大数据的商业和科学应用

大型数据库和非关系型数据库，包括MongoDb、Cassandra和Neo4j

数据分析、机器学习和使用Weka、R和Scikit-Learn可视化数据

大问题的优化和探索

使用hadoop、Spark、Hive和MapReduce集群计算