在实时数据世界里,为什么我们还这么执着于Hadoop? 根据451 Research调查数据显示,围绕批处理架构的Hadoop仍然是大数据的代表技术,尽管其声誉仍然超过实际部署情况。下面我们来具体了解一下。  

批处理不是重点  

Cloudera的Doug Cutting是一个非常聪明的人,也是开源开发人员,Hadoop、Lucene等大数据工具的开发都有他的功劳。  

虽然Cutting承认实时流媒体技术的重要性,但他并没有否认面向批处理的Hadoop的价值,他表示:  

并不是因为我们觉得批处理是最好的,所以Hadoop围绕批处理而构建。批处理(特别是MapReduce)很自然是第一步,因为它相对容易部署,并提供很重要的价值。在Hadoop之前,没有办法使用开源软件在商品硬件存储和处理千兆字节。Hadoop的MapReduce是很大的进步。  

我们很难说清楚大数据的商品化对这个世界的重要性。这并不是说在Hadoop之前我们没有存储和分析大量数据,而是Hadoop让我们非常廉价地实现这个过程。  

总之,Hadoop民主化了大数据。   转向流数据?   然而,Hadoop并没有让大数据分析变得容易。正如DataStax首席布道者Patrick McFadin表示,从企业数据挖掘价值并没有那么简单:  

我们都听说过存储和分析PB级数据的投资回报率的问题。谷歌、雅虎和Facebook都在从中创造惊人的价值,而大部分企业都在试图研究如何分析所有数据,第一:收集所有数据;第二:……;第三:利润!   在数据收集和利润之间有很多麻烦的步骤。随着企业试图加快对实时数据的分析能力,新技术为他们提供了可能。  

McFadin发现了这个新大数据堆栈的关键要素。首先是一个排队系统,Kafka、RabbitMQ和Kinesis等。然后是流处理层,这可能包括Storm、Spark Streaming或者Samza。对于高速存储,企业经常转向Cassandra、HBase、MongoDB或者MySQL等关系型数据库。  

最有趣的是批处理仍然有用武之地。McFadin表示,批处理现在可用于处理,即汇总和更深入的分析。批处理和实时的融合被称为“Lambda架构”,这涉及让三个元素和谐地共处:批处理、速度和服务。  

换句话说,批处理仍然有用。  

淘汰批处理  

但并不是每个人都同意。Zoomdata公司首席执行官和联合创始人Justin Langseth认为Lambda是“不必要的”,并称,“现在有端到端工具可以从采购、运输、存储到分析和可视化来处理数据,而不需要批处理”。  

在他看来,批处理是大数据过去的遗留物:  

实时数据显然最好应该作为流来处理,而且还可以加载历史数据,正如你的DVR可以加载电影《飘》或者上周的电视节目《美国偶像》到你的电视。这种区别很重要,Zoomdata认为将数据作为流来分析可以增加可扩展性和灵活性,而无论数据是实时还是历史数据。  

然而,超越可扩展性和灵活性好处的可能是将批处理从大数据过程移除所带来的简单性。Langseth认为,“当你不需要担心批处理窗口以及从批处理故障中恢复时,这可以极大地简化大数据架构。”  

流分析取代Hadoop?  

Cutting称,还没有那么快。  

Cutting认为未来Hadoop等技术并不会完全被淘汰,流分析会得以发展,Cloudera的Enterprise Data Hub也是一样。事实上,他不认为会广泛转向流分析,而是为大家带来了又一种选择。   更有趣的是,大数据的大爆炸会让行业催生出一些好方法来应对数据处理。  

我认为我们不会再那么频繁地看到Spark这样的主要技术增加,随着时间的推移,我们将会标准化这些工具,为大多数人提供功能来满足其大数据应用需求。Hadoop带来了技术爆炸,但我们可能会进入比较正常的演化过程,在各行业广泛使用这些技术。  

DataStax社区经理Scott Hirleman同意说:“批处理并不会消失,总是会需要对大量数据的大规模分析。”现在大家对流分析有极大的兴趣,但称现在还不清楚这种趋势对大数据计划的影响。  

总之,流分析完全是关于“和”,而不是“或者”,这是对围绕批处理系统(例如Hadoop)的很好的补充,但这肯定不会完全取代Hadoop。

【凡本网注明来源非中国IDC圈的作品,均转载自其它媒体,目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。】

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2019-08-06 17:07:28
大数据技术 贵州:“弯道取直”驶上快车道
“我们不想总是垫底,我们也要奋力爬高!”贵州省委省政府发出构筑“精神高地”、冲出“经济洼地”的誓言,突破常规、取直弯道,勇闯后发赶超之路。 <详情>
2019-08-06 16:59:35
大数据资讯 浪潮信息与一览群智签署战略合作,“元脑”推进产业AI化进程
浪潮是人工智能计算的领导品牌,中国市场份额始终保持50%以上,并与人工智能领先科技公司保持在系统与应用方面的深入紧密合作,帮助AI客户在语音、图像、视频、搜索、网络等方 <详情>
2019-08-06 14:13:03
大数据资讯 物联网大数据服务商罗克佳华完成首轮问询
物联网大数据服务商罗克佳华日前完成科创板上市首轮问询。首轮问询上交所共对公司提出42个问题,公司是否具备独立研发能力、是否存在通过放松信用政策刺激销售情形等成关注 <详情>
2019-08-06 12:04:44
大数据资讯 吉林省建立“5G+旅游”大数据实验室
记者在吉林省文化和旅游厅了解到,吉林省旅游大数据联合实验室已于近日设立。实验室将依托银联消费大数据、通信客户行为大数据等,在市场规模、游客花费需求、游客行为分析 <详情>
2019-08-06 11:49:00
大数据技术 开通5G基站、引进企业 山西吕梁为大数据发展“赋能”
“煤炭重地”山西吕梁正在布局大数据产业发展。8月5日,记者从“数谷吕梁·智赢未来”第三届吕梁大数据产业发展推进会新闻发布会获悉,该市已开通5G试点基站13个,覆盖重点 <详情>