初入大数据领域的求学者应该注意哪些hadoop的知识点?

       学习大数据必不可少的就是关于hadoop的知识点,那么对于刚刚接触大数据领域的小白,对于hadoop应该注意哪些呢?又改重点学习哪些知识点呢?


       关于hadoop的核心是mapreduce和hdfs,所以我们就以这两个点来具体分析

       首先、我们了解如何学习mapreduce

       mapreduce是很多人都需要迈过去的槛,它比较难以理解,我们有时候即使写出了mapreduce程序,但是还是摸不着头脑。我们都知道mapreduce是一种编程模型,那么它能干什么,对我有什么用。它的原理是什么,为什么我们编写了map函数,reduce函数就可以在多台机器上运行,这些问题或许都给初学者带来了困扰。

       那么我们就要了解:什么是mapreduce?Mapreduce的工作原理是什么?Mapreduce的工作流程是什么?Mapreduce的编程模型是什么?shuffle是什么?partition是什么?combiner是什麽?map的个数由谁来决定,如何计算?reduce个数由谁来决定,如何计算?

       mapreduce熟悉了,还有一些问题困扰着初学者,虽然有了Java基础,但是我们需要搭建开发环境,该如何搭建开发环境?那么就需要我们学习Windows上如何使用Eclipse远程连接Hadoop并进行程序开发,因为在操作mapredcue过程中伴随着操作hdfs,就像我们传统开发,编程是离不开数据库一样。hdfs可以理解为传统编程的数据库,但是其实他不是,真正的数据库是hadoop data base,也就是hbase。

       其次,我们来了解如何学习hdfs

       关于HDFS:我们至少应该学习这些内容:什么是HDFS及HDFS架构设计?HDFS体系结构简介及优缺点?Hdfs如何存储数据?Hdfs如何读取数据?Hdfs如何写入文件?Hdfs的副本存放策略?如何访问hdfs?Hdfs数据如何复制?Namenode的热备?hadoop生态系统内容还是比较多的,但是最常用的是hive,hbase。 

       当然,Hive是初学者进入大数据(hadoop)行业最好的选择入口,因为它提供了简单的类sql语句,使得不懂得mapreduce程序编写的学员也能够很轻松的进入大数据行业。所以建议大家(尤其是零基础的学员)在学习hadoop的过程中,可以着重加强对hive的学习,尤其是hive语句的熟练操作。当然对于有数据库基础的学员学习hive就更容易一些。

       Hbase是一种nosql数据库,只有当数据量非常大时,比如TB、PB级,hbase才能发挥出很好的效果,所以对于致力于加入大公司的学员,可以深入学习hbase,尤其是hbase表的设计,rowkey的设计,hbase性能的调优,hbase和hive、impala的结合等。

       对于hadoop其他的组件:比如海量日志收集工具flume,数据导入导出工具sqoop,应用程序协调服务zookeeper,学员可以结合实战项目学习其原理,如何使用即可。

       对于想从事数据挖掘的学员,可以深入学习mahout、机器学习、算法等相关知识,根据自己的职业选择和兴趣爱好自主选择,建议零基础的学员最好是先从hive入手。

       Storm是一种基于流的计算框架,spark是基于内存的计算框架,它们是不同于mapreduce的计算框架,但作用都是对数据的处理和分析,建议初学者在学习好mapreduce的前提下,可以对storm和spark进行深入的学习,切记贪多嚼不烂。通而不精。

       如果想更加深入的学习,丰富自己的知识,可以选择性的学习一下shell、python脚本语言,Redis、MongoDB等nosql数据库,如果想做hadoop运维的,也可以学习ganglia和nagios等监控工具。

       大数据学习讲究一个循序渐进的过程,没有人能够一蹴而就,所以,对于求学者尤其是小白而言,最为重要的就是有一颗踏实的心,能够安安静静的学习,一步一步踏踏实实的学习,只有这样,学习大数据才能够更加快速,而自己最终也能够成为大数据界真正的大牛。

本文转自: 海牛学院

猜你喜欢

转载自blog.csdn.net/hainiubuluo/article/details/80679971
今日推荐