中国IDC圈1月3日报道:2015年,大数据市场的发展迅猛,放眼国际,总体市场规模持续增加,随着人工 智能 、 物联网 的发展,几乎所有人将目光瞄准了“数据”产生的价值。行业厂商Cloudera、DataStax以及DataGravity等大数据公司已经投入大量资金研发相关技术,Hadoop供应商Hortonworks与数据 分析 公司New Relic甚至已经上市。而国内,国家也将大数据纳入国策。
我们在年底盘点了2015年大数据行业九大关键词,管窥这一年行业内的发展。
①BI——挑战
2015年对于商业智能(BI)分析市场来说,正由传统的商业智能分析快速进入到敏捷型商业智能时代。以QlikView, Tableau和SpotView为代表的敏捷商业智能产品正在挑战传统的IBM Cognos 、SAP Business Objects等以IT为中心的BI分析平台。敏捷商业智能产品也正在进一步细化功能以达到更敏捷、更方便、适用范围更广的目的。
②国家政策——战略
今年中国政府对于大数据发展不断发文并推进,这标志着大数据已被国家政府纳入创新战略层面,成为国家战略计划的核心任务之一:2015年9月,国务院发布《促进大数据发展行动纲要》,大力促进中国数据技术的发展,数据将被作为战略性资源加以重视;2015年10月26日,在国家“十三五”规划中具体提到实施国家大数据战略。
③深度学习/机器学习——崛起
人工智能如今已变得异常火热,作为机器学习中最接近AI( 人工智能 )的一个领域,深度学习在2015年不再高高在上,很多创新企业已经将其实用化:Facebook开源深度学习工具“Torch”、PayPal使用深度学习监测并对抗诈骗、亚马逊启动机器学习平台、苹果收购机器学习公司Perceptio ……同时在国内,百度、阿里,科大讯飞也在迅速布局和发展深度学习领域的技术。
④Sort benchmark 阿里云 ——最快
阿里云在Sort Benchmark(全球科技公司“计算奥运会”之称)的2015年排序竞赛中用不到7分钟(377秒)就完成了100TB的数据排序,打破了Apache Spark的纪录23.4分钟。
⑤Spark——共存
Spark近几年来越来越受人关注,2015年6月15日,IBM 宣布投入超过3500名研究和开发人员在全球十余个实验室开展与Spark相关的项目。
与Hadoop相比,Spark具有速度方面的优势,但是它本身没有一个分布式存储系统,因此越来越多的企业选择 Hadoop 做 大数据平台 ,而 Spark 是运行于 Hadoop 顶层的内存处理方案。Hadoop 大的用户(包括 eBay 和雅虎)都在 Hadoop 集群中运行着 Spark。Cloudera 和Hortonworks 将 Spark 列为他们 Hadoop发行的一部分。Spark 对于 Hadoop 来说不是挑战和取代相反,Hadoop 是 Spark 成长发展的基础。
⑥Pivotal——开源
2015年2月,Pivotal宣布其大数据套件的三个核心组件开源:基于内存的分布式NoSQL数据库GemFire、基于 Hadoop架构 的大规模并行SQL 分析处理引擎HAWQ、大规模并行处理分析数据库Greenplum。
Pivotal开放其大数据套件核心组件的源代码,最主要原因是Cloud Foundry开源战略成功驱动,部署大数据战场。
⑦Palantir——神秘&多金
2015年7月起Palantir开始发起新一轮融资,达到8.8亿美元,截止目前已经共计融资23.2亿美元,公司估值200亿美元,排名世界第四,仅次于Uber。
Palantir是一家位于加州的大数据科技公司。该公司的技术是在海量信息之间建立联系、寻求有价值的线索,为情报机构提供结论:在摩根大通内部用于定位网络欺诈,在桥水联合基金,Palantir被用来管理1570亿美元的投资基金。该公司曾经帮助美国政府追踪基地组织头目奥萨马·本·拉登。由于其主要客户是政府机构,外界对它的内部状况了解不多。
⑧DBaaS——火爆
随着Oracle 12c R2的推出, 甲骨文 以全新的多租户架构开启了DBaaS(Database-as-a-Service,数据库即服务)新时代,新的数据库让企业可以在单一实体机器中部署多个数据库。在2015年,除了趋势火爆,12c多租户也在运营商、电信等行业投入生产应用。
据分析机构Gartner预测,2012年至2016年公有数据库云的年复合增长率将高达86%,而到2019年数据库云市场规模将达到140亿美元。与传统数据库相比,DBaaS能提供低成本、高敏捷性和高可扩展性等云计算特有的优点。
⑨数据科学家——性感
随着行业的发展,人才显得尤为重要,各公司都期待数据科学专业人才能够挖掘数据信息,来帮助公司开源节流。美国招聘网站Glassdoor的报告称,数据科学家的平均年薪为118709美元(约合人民币737550元),而程序员的平均年薪为64537美元(约合人民币400974元)。
数据科学家能够通过统计变成涉及、开发和调用算法而支持业务决策;管理海量数据;可视化数据以辅助理解。其需要具备三项基本技能:数学/统计、计算机能力、在特定业务领域的知识,被《哈佛商业评论》评委二十一世纪最性感的职业。