写点什么

大数据的 5V 特征分别是什么?

  • 2022-11-22
    北京
  • 本文字数:1782 字

    阅读完需:约 6 分钟

大数据的5V特征分别是什么?

大数据现在并不是一个陌生的名词了,这个词语已经“出圈”了,不仅仅是相关的从业人员对它很了解,即便是完全不懂 IT 技术的人,也都能够说出点大数据的东西来。我们在谈论大数据的时候,避不开的其实是大数据的特征,有些地方会提到大数据有 4V 的特征,而有些地方会提到有 5V 的特征。那么这里所谓的 4V、5V 都是什么呢?

其实这里所谓的 4V、5V,是几个单词的缩写: Volume、Variety、Value、Velocity、Veracity,因为这几个单词的首字母都是 V,因此被我们称为 4V、5V 的特征。在这里,我们就来聊一聊这 5 个 V 都表示什么含义:

Volume

中文翻译是“大量”的意思,顾名思义,就是数据量非常的庞大。而这也是大数据的字面含义。我们知道在表示数据大小的时候,生活中常见的计量单位有 KB、MB、GB、TB 等,但是在此之上还有其他的单位,例如: PB、EB、ZB、YB、BB、NB、DB 等。这些单位之间的换算率都是 1024,也正是因此,人们会把每年的 10 月 24 日定为程序员节。我们每一个人在互联网上进行各种各样的行为,都会留下数据,而这些数据量虽然不算大,但是在庞大的用户基数下,累计起来的还是非常庞大的。在一个中大型企业中,需要处理的数据规模是很容易达到 PB、EB 的级别的,而这也正是大数据的第一个特征: 大量。

Variety

中文翻译是“多样化”的意思。我们知道学习大数据就是来处理庞大的数据集的,那么组成这个庞大的数据集的数据是可以分为不同的类型的。我们把这些数据大致分为三类:结构化的数据、半结构化的数据和非结构化的数据。

结构化的数据,一般指的是关系型数据库中的数据,例如 MySQL、Oracle 中的表中的数据。这些数据中,每一行的数据都保持着相同的数据格式,有规律可循,非常容易处理。

半结构化的数据,指的是有一定的结构性,但是比起关系型数据库表中的结构化的数据来说,结构不是那么清晰,处理起来也比结构化的数据略微麻烦。常见的半结构化的数据有 json、xml、html 等。

非结构化的数据,指的就是没有丝毫结构性可言的数据了。数据没有固定的格式,通常需要我们单独设计程序来处理这些数据,从中提取出来有价值的信息。

而我们在工作中要处理的数据,往往都是以半结构化和非结构化的居多。

Value

中文翻译是“价值”的意思。这里其实有两点体现:价值密度低、商业价值高。

大数据相关的技术体系,需要处理的数据量是非常庞大的,动辄 PB、EB 规模的数据,但是真正具有价值的数据却非常稀少,只有 100M,甚至更少。我们就需要从这么庞大的数据集中提取出来这些密度非常低的有价值的数据进行处理。

但是,也就是这些密度非常低的数据,能够发挥出来巨大的商业价值。这点其实也是来推动大数据发展的重要的特征之一,因为这些大数据相关的技术体系可以给商人带来巨大的利益,老板才愿意培养人来从事这个行业;越来越多的人涌入到这个行业,才能够推动这门技术不断的向前发展。

Velocity

中文翻译是“速度”的意思。我们要处理的数据集在很多情况下,并不是一潭死水,而是在不断增长的。对于一个企业来说,每天都会新增庞大的数据,这些数据可能来自于用户的操作、可能来自于智能家居、可能来自于各种传感器等,数据的来源非常多,而且数据量的增速也是非常可怕的。以淘宝、京东这类的电商来说,每日新增的数据量达到几百个 GB 是很正常的事情。在这样快速的数据增长的情况下,也对我们处理数据的速度有了较高的要求了。我们一定要优化我们的业务逻辑,提高处理的速度,才不会造成数据积压。

Veracity

中文翻译是“真实性”的意思。大规模的数据量,在处理的时候,对技术体系是有较高的要求的。在还没有形成现有的技术体系的年代,人们在处理庞大的数据集的时候,往往束手无策,要么实效性非常差,要么干脆无法处理。那个时代甚至流行一种做法:随机抽样。随机的从庞大的数据集中抽取一部分出来进行处理,以这样的处理结果,作为整个数据集的处理结果。追求真实性的,可能会多随机几次。但是这个结果其实是不准确的,并不能够体现出这些数据完整的价值,甚至还可能得到错误的结论。但是现在大数据的技术体系相对成熟,我们不再使用这样的随机抽样的方式了。我们就是要对所有的数据进行高效的处理,得出的结论自然也是正确的。

以上就是大数据的特征,有人在聊特征的时候会提到 4V 的说法,指的就是 Volume、Variety、Value、Velocity。如果说到 5V 特征的话,那就把 Veracity 加上就可以咯。


帮助到你的话就点个关注吧~

用户头像

还未添加个人签名 2022-10-21 加入

还未添加个人简介

评论

发布
暂无评论
大数据的5V特征分别是什么?_大数据_好程序员IT教育_InfoQ写作社区