大数据学习路线是什么 Hadoop学习有哪些阶段

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接: https://blog.csdn.net/qq_43958467/article/details/100043168

大数据学习路线是什么?Hadoop学习有哪些阶段?Java基础让我对编程有了更好的认识,Hadoop学习让我走进大数据世界的大门,了解到大数据的用武之地。接下来我简单给大家分享一下Hadoop学习路线。

在学习Hadoop时,主要分为两个阶段:第一阶段基础:Linux、第二阶段:Hadoop生态圈学习。在学习Linux时,第一步就是搭建整个机器的环境,安装centOS系统,安装完成时,有学习有四个要求:1)要熟练操作Linux常用命令以及网络配置;2)熟悉用户以及权限管理操作;3)熟悉软件包以及系统命令管理;4)学习shell编程。

Linux主要内容学习完毕之后,紧接着就是第二个阶段就是学习Hadoop。Hadoop阶段主要分为四个阶段:

想要在大数据这个领域汲取养分,让自己壮大成长。分享方向,行动以前先分享下一个大数据交流分享资源群870097548,欢迎想学习,想转行的,进阶中你加入学习。
 

第一阶段能熟练搭建伪分布式集群以及完全分布式集群了解每个配置的含义。我个人认为先搭建Hadoop环境然后再学习Hadoop这样效果更好。就如同看别人代码一样,我们先把别人代码能跑起来,然后再分析代码,如果代码都跑不起来,何谈代码分析,所以先让Hadoop环境搭建起来,能正常运行wordcount程序,我们才能慢慢分析整个Hadoop生态系统,这样我们能对Hadoop有个整体上的认识。

Hadoop第二阶段就是基于第一阶段的基础上,学习Hadoop核心内容HDFS和Yarn。首先明白什么是hdfs,然后再分析hdfs的优点,然后再了解Hdfs的缺点有哪些,HDFS是如何存储数据的,采用什么样的架构,我们如何实现读取和写入HDFS中的文件,以及了解HDFS副本存放策略,同时熟练掌握HDFS的shell访问和java访问。yarn首先我们要了解Yarn是什么,为什么使用Yarn,Yarn的构架,Yarn的原理。

第三阶段学习MapReduce。MapReduce作为Hadoop核心内容,要先易后难,首先了解Mapper、Reducer、Configuration、job等这些类,熟悉MapReduce流程图,然后写简单的单词统计代码,整体上对MapReduce认识,之后学习MapReduce运行机制,熟练掌握,MapReduce输入格式,MapReduce输出格式,以及MapReduce优化;

第四阶段学习Hadoop另一个核心内容Hadoop生态圈需要的技术:hive数据仓库、HBase实时分布式数据库、Flume日志收集工具、sqoop数据库ETL工具、zookeeper分布式协作服务。

猜你喜欢

转载自blog.csdn.net/qq_43958467/article/details/100043168
今日推荐