学生党以及很多没设计过大数据开发的小伙伴呢,都对大数据这么一个领域感到非常非常的好奇非常非常的神秘,我今天就非要戳穿给你们看。

86822ec310fecfc71c0260b90f47ba9d.jpeg-wh_651x-s_2252047527

1、对,我们做大数据的也写普通的 Java 代码,写普通的 SQL。

比如 Java API版的 Spark 程序,长得跟 Java8 的Stream API 一样一样的。

JavaRDD lines = sc.textFile("data.txt");  

JavaRDD lineLengths = lines.map(s -> s.length());  

int totalLength = lineLengths.reduce((a, b) -> a + b); 

再比如,删除一个 Hive 表。

DROP TABLE pokes ;

2、对,Hadoop 、Spark 、Hive 的启动和机器运维都跟一个普通的 Java 应用和数据库没什么区别。

比如启动hdfs

bash ./start-dfs.sh

比如启动yarn

bash ./start-yarn.sh

比如启动hive

bash ./hive

完事了,有啥神秘的????不就是配一堆所有系统都有的配置吗?

3、对不起,没有一门叫数据仓库的技术。

数据仓库是一个集结了某个范围内所有经过清洗的统一的数据存储、分析的地点,并没有一门叫数据仓库的技术。

在实战中,我们一般会使用 Hive 来当数据仓库的载体,在没有大数据基础架构的公司也会使用各种传统 DB 来当数据仓库的载体,所以不要再说什么你要学习数据仓库 ok ? 要学 Hive 就说要学 Hive,要学数据治理就说要学数据治理。

4、对,我们大数据就是死写SQL的,但脑回路跟你们不一样

你们写 SQL 优先想功能,我们写SQL优先想这他妈能不能跑出来。 你们写 SQL 可以一直调一直调,我们写 SQL 要想好久才调一次,连机器是什么跑的都要想清楚。 你们写 SQL 压根不管数据分布,我们写 SQL 第一件事就是他妈不会数据倾斜吧? 你们写 SQL 用都能直接写,我们写 SQL 前要写一万个 SQL 做数据清洗。

5、对,10倍,100倍,100万倍 的数据增长我们就需要一直改方案,改改改。

你的 SQL 在10倍量下能跑,在100万倍下,你可能要付出非常久非常久的思考和努力才能基本跑出来,比如一个简单的去重统计。

你的SQL count(1) group by 一下就出来了。

我的如果写得跟你一样我估计这辈子都出不来结果了。

不解释了,大数据计数系列了解一下。

大数据计数原理1+0=1这你都不会算(十)No.77

6、Spark 很快,但 Spark 也很慢

Spark是纯内存计算,但Spark也是批量计算,其中存在的缺陷你们思考一下,对比一下 FLink 这类纯流式计算。

7、即使你有100T数据,你也不是在做大数据。

第一数据存储占用空间大不代表就是大数据,第二即使你数据量级够思维不对你也不是在做大数据。

8、大数据跟机器学习是一家,压根离不开

你可能永远也不会知道 分而治之,统计学,概率论 在这两个学科的统一性和重要性。

9、对不起,你别以为大数据只有 Hadoop,大数据技术栈广和深得你几乎不可想象。

相关阅读:

 

2018年值得拥有的十大大数据挖掘工具

 

纷繁复杂的数据越多越好

 

听我说,大数据需要学什么?

 

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2018-09-26 11:05:27
大数据资讯 公共服务要有“大数据思维”
深化治理改革、激活治理资源、创新管理手段、提升公共服务,大数据有大用处 <详情>
2018-09-26 10:37:37
大数据资讯 腾讯助力乌鲁木齐市打造数字政府 共建亚欧大数据中心
近日,腾讯公司与乌鲁木齐市政府签订战略合作协议,共建亚欧大数据中心。乌鲁木齐市委副书记、常务副市长高峰,副市长郝建民,腾讯公司副总裁、腾讯云总裁邱跃鹏,腾讯云副 <详情>
2018-09-26 10:23:34
大数据资讯 IDC预测分析:2022年大数据和业务分析解决方案将超2600亿美元
根据IDC全球半年度大数据和分析支出指南的最新预测,到2022年全球大数据和业务分析(BDA)解决方案的收入将达到2600亿美元,2017年到2022年期间的复合年增长率(CAGR)为11.9% <详情>
2018-09-26 10:18:08
大数据技术 纷繁复杂的数据越多越好
如今,我们已生活在信息时代,我们掌握的数据库越来越全面,它不再只包括我们手头现象的一点点可怜的数据,而是包括了与这些现象相关的大量甚至全部数据。我们不再需要那么 <详情>
2018-09-26 09:32:15
大数据资讯 你不知道的那些闪耀云栖大会的阿里AI黑科技
设想一下,当你回到家,房间意识到你在哪里,房间内的智能硬件就会在整体中控指令下给你相应的服务,这是一种多么好的智能家居体验。”机器人科学家科林?安格尔(Colin Ang <详情>