挑战和机遇

大数据技术是在传统数据处理手段无法应对海量数据的实时需求的情况下,采用新的信息技术来应对大数据爆发进行数据处理的技术。大数据技术一般可以包括基础架构支持、数据采集、数据存储、数据计算和数据展现交互等。

大数据技术的分类

大数据技术涵盖的范围十分广阔。基础架构支持方面主要包括了支撑大数据处理的基础架构级数据中心管理、云计算平台、云存储设备及技术、网络技术、资源监控等技术。而为了处理数据,则需要有大规模物理资源的云数据中心和具备高效的调度管理功能的云计算平台的支撑。

数据采集技术方面包含了数据采集的手段和数据处理技术。一般来讲数据采集最基础的需要各类传感器和软硬件设施,然后需要进行ETL(采集、转换和加载)过程,对数据进行清洗、过滤、校验、转换等各种预处理,然后将有效的数据转换成为合适的格式及类型。而部分企业还需要为了应对多源异构的数据采集和存储访问设计数据总线,以便于企业各个应用和服务之间的数据交换及共享。

数据存储技术则是在经历了转换之后,针对海量数据进行存储归档。一般会采用分布式文件系统以及分布式数据库进行存储,将数据分布到多了存储点中,提供备份、安全、访问接口及协议等机制。

大数据技术在不断发展中

而数据计算一般包括了数据查询、统计、分析、预测、挖掘、图谱处理、BI商业智能等各项相关技术,数据计算是数据处理的关键组成,也是大数据技术的核心部分。通过数据计算可以将大数据从数据转换为价值。

数据展现交互是与用户最贴近的一步。由于数据的最终使用者为用户,目标为给生产、运营、规划提供决策支持,因此一般会选择更为直观便捷的方式将数据的价值和内涵展示出来,让用户能够更有效的利用数据发挥价值。这一步出传统的报表和图形之外,当前最流行的手段莫过于可视化工具和人机交互等。

大数据技术面临的挑战

大数据技术在不断的发展过程中并非一帆风顺,其也遇到了不少挑战。

大数据面临问题并不少

在大数据采集方面,如在不损失数据本身价值的情况下尽可能的将数据集的量降低变小是个问题,在数据的清洗和去除过程中,如何有效的处理大数据,让其不损失价值,从一个平面的大数据中提取高附加价值的概念、理论以及知识才是关键。

大数据管理方面则需要面对多种不同类型的数据。由于当前数据以非结构化数据为主,而且这一趋势正在加强,如何面对分布、多态、异构的大数据进行管理,还需要更为有效和快捷的手段。

大数据存储方面,结构化数据尽管存储较为便捷,可是在海量数据的查询、统计和更新方面效率较低;如果面对非结构化数据,如视频、音频、文本、图片等,存储、检索都会存在一定困难,而且占用空间较大。对于半结构化数据,存储、分析都需要进行结构化数据转换,或者按照非结构化数据存储,难度较大而且不利于实时处理。

技术在发展 挑战与机遇并存

数据计算方面,分布式计算与并行计算都可以提供有效的技术支持,但是如何提供有效的利用手段,开战大数据分析处理还需要进一步研究,而且在计算方面尽力“傻瓜式”开发的现在,如何找到切实可靠的理想结果也是一个重点。

大数据应用领域,应用大数据辅助具体行业的落地仍然有待提高,如何快速开展治安防控、警情研判及指挥决策,发掘行业信息资源价值,提高领域大数据的利用率都需要进一步的落地实施。

大数据技术的提高是显而易见的,但是大数据落地是一个重大课题。提高大数据技术,增强大数据应用还会是很长时间里的主旋律。

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2018-04-16 10:06:05
云资讯 大庆市云计算大数据产业工作会议召开
4月13日,大庆市召开云计算大数据产业工作会议,系统总结大庆市大数据云计算产业发展情况,安排部署下步工作任务。市委常委、常务副市长何忠华出席并讲话,副市长于宸、安 <详情>
2018-04-16 09:34:00
大数据资讯 全国城市农贸代表团参观眉山农业云大数据中心
12日上午,由全国城市农贸中心联合会主办,眉山市商务局、眉山圣丰农产品批发市场投资有限公司承办的第十四届全国农产品批发市场联络员大会在眉山举行,来自全国城市农贸中 <详情>
2018-04-16 09:31:00
大数据资讯 上海市大数据中心揭牌 用“数据跑路”替代“群众跑腿”
上海市大数据中心12日正式揭牌。作为“智慧政府”的基础设施,上海将依托大数据中心这个城市数据枢纽,打破部门“数据孤岛”,推动政务服务从“群众跑腿”向“数据跑路”转 <详情>
2018-04-16 09:28:00
大数据资讯 国家健康医疗大数据中心落户长乐 用地1000亩
福州的大数据产业正加速发展。昨日,国家健康医疗大数据中心与产业园建设试点工程(福州园区)挂牌仪式在长乐举行。 <详情>
2018-04-13 15:06:35
大数据资讯 上海大数据中心揭牌成立 今年建成政务“一网通办”总门户
让群众少跑腿,让数据多跑路,实现从“找部门”到“找政府”的根本转变。上海市政府今天下午发布《全面推进“一网通办”加快建设智慧政府工作方案》。 <详情>