大数据的概念炒作一向厉害,很多公司有着海量的数据流,有着大把的客户和资金,技术也足以进行处理大数据,但是大数据之所以能够成功炒作上位,是因为其能动性,一切动不起来的大数据都是发酵中的垃圾。

动不起来的大数据都是发酵中的垃圾

动态数据采集以求真

大数据在数据采集的环节常常忽略实际的数据采集环境问题。尽管在互联网环境中,采集环境很少受到大幅的波动影响,但是一旦涉及行业特征则很难保障。

大数据在行业中应用时会受到协同性、跨尺度、多因素、因果性和机理性等影响,这就使得数据采集时必须入乡随俗,贴切真实的应用场景。而不是简单的从接触到数据采集点时的单一数据,这种数据对于全面分析事件形成原因存在着一定的误差导向因素。

解决这一问题的办法在于行业应用中,针对某一业务目标可以动用整个企业甚至行业链中的相关资源协同助阵,将不同时间尺度的信息集成采集,参考多种可能造成数据改变的因素和产生原因,进行多层次的数据采集并且实现数据来源的真实性和丰富性。

动不起来的大数据都是发酵中的垃圾2

数据采集需要全面

同时,数据的采集不应当是阶段性的,而应该让采集的数据保持动态。一直以来大数据的分析过程都是一个冗长的过程,数据采集、管理、处理、存储、分析到应用的整个流程不仅漫长,而且很难做到实时处理,这样的一个结果就是数据库中的数据很容易被迫过气,导致分析偏差。

动态数据管理以求新

数据的动态管理是很多企业为难的地方,因为采集到的数据集量非常大,而且其中绝大多数都是无意义数据,可是数据的拆分和筛选却需要消耗大量资源才能完成。

动不起来的大数据都是发酵中的垃圾3

数据管理不容易

数据的管理涵盖了数据存储和数据提取等多个步骤,而如何能够高效的管理数据成为影响大数据处理进度的重要一环。数据采集过后,利用关系、键值、文档、图片、多媒体等属性不同进行打标签和归类,预处理后形成数据集在数据库中进行分类存储。

大数据采集之后的存储也不尽相同,有的数据只需要进行短存储就需要提取并进行处理,而多数数据则需要长期存储,因此分类还需要根据用途进行不同方式的区分。暂时性存储的数据需要快速整理,而长久存储的数据需要降低成本和保证调用时的快捷性。

不过,一部分数据库会囿于过去的数据影响,采集到的数据分析结果始终存在过去的数据在过去环境下的加持,从而会使得数据分析的最终结果出现偏差等问题。因此,在数据存储时应当提供区域性和完整性多层数据。

动不起来的大数据都是发酵中的垃圾4

动态的数据管理不仅仅是在数据库层面之中形成动态趋势,而是在整体的数据管理中,利用自动化和区块化的技术将必要数据进行细分和筛选,让数据保持新鲜度,去除旧数据的影响。

动态数据分析以求稳

在采集和分析部分实现动态后,数据分析才是真正的核心存在。毫无疑问,数据分析的核心是算法和数据,而在数据发分析时普遍可以先分为数据处理和分析两个环节。

动不起来的大数据都是发酵中的垃圾5

     数据分析的算法是十分挑剔的,其对于不同的数据要求不同,一般来讲,结构化数据和非结构化数据就是典型的不同种类的数据,其处理方式相差甚远,因此需要先进行数据处理,将不同种类的数据根据分析目的进行异构解析或者压缩,然后进行分析得出指导性理论。

在分析方面,算法对分析结果的影响是十分明显的。从数据中根据分析目的选取不同算法,获得分析结果。但是问题在于,这种以目的驱动的数据分析筛选过程所去除的数据难以确定是否真正的无关,这就导致最终分析出的结果很可能是出现偏差的。

此类问题的解决普遍采用的是利用算法进行分析和精简的,单一算法的偏差难以避免,片面数据的解析同理。而如果全面分析时,静态数据难以保持新鲜度,全面分析计算量过大而且缺乏针对性。

动不起来的大数据都是发酵中的垃圾6

数据分析面临挑战

如果采用动态的实时处理手段则可以避免这些问题,数据及时的处理后得到结果作为一种“数据”进行处理,在需要时进行二次消化,比传统方式要容易一些。而这种方式的问题在于目前的技术限制可能会让实时处理结果依然面临算法单一的挑战。

动态数据应用以求实分析结果的产出还需要最终用于解决企业决策才能够形成价值。只不过数据分析结果的应用也会面临的静态的问题。

一般来讲,数据分析结果是支持企业经营和运行发展方向解决方案的,可是这就意味着前期的巨大投入能够获取的成果应用范畴却十分的狭窄,投入产出比过低导致大多数企业对大数据的应用很难产生兴趣。

动不起来的大数据都是发酵中的垃圾7

数据可视化仅仅只是一部分

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2018-04-16 10:06:05
云资讯 大庆市云计算大数据产业工作会议召开
4月13日,大庆市召开云计算大数据产业工作会议,系统总结大庆市大数据云计算产业发展情况,安排部署下步工作任务。市委常委、常务副市长何忠华出席并讲话,副市长于宸、安 <详情>
2018-04-16 09:34:00
大数据资讯 全国城市农贸代表团参观眉山农业云大数据中心
12日上午,由全国城市农贸中心联合会主办,眉山市商务局、眉山圣丰农产品批发市场投资有限公司承办的第十四届全国农产品批发市场联络员大会在眉山举行,来自全国城市农贸中 <详情>
2018-04-16 09:31:00
大数据资讯 上海市大数据中心揭牌 用“数据跑路”替代“群众跑腿”
上海市大数据中心12日正式揭牌。作为“智慧政府”的基础设施,上海将依托大数据中心这个城市数据枢纽,打破部门“数据孤岛”,推动政务服务从“群众跑腿”向“数据跑路”转 <详情>
2018-04-16 09:28:00
大数据资讯 国家健康医疗大数据中心落户长乐 用地1000亩
福州的大数据产业正加速发展。昨日,国家健康医疗大数据中心与产业园建设试点工程(福州园区)挂牌仪式在长乐举行。 <详情>
2018-04-13 15:06:35
大数据资讯 上海大数据中心揭牌成立 今年建成政务“一网通办”总门户
让群众少跑腿,让数据多跑路,实现从“找部门”到“找政府”的根本转变。上海市政府今天下午发布《全面推进“一网通办”加快建设智慧政府工作方案》。 <详情>