什么是HADOOP以及HADOOP生态圈以及各组成部分的简介

什么是HADOOP


1.        HADOOP是apache旗下的一套开源软件平台

2.        HADOOP提供的功能:利用服务器集群,根据用户的自定义业务逻辑,对海量数据进行分布式处理

3.        HADOOP的核心组件有

A.       HDFS(分布式文件系统)

B.       YARN(运算资源调度系统)

C.       MAPREDUCE(分布式运算编程框架)

4.        广义上来说,HADOOP通常是指一个更广泛的概念——HADOOP生态圈


HADOOP生态圈以及各组成部分的简介


重点组件:

HDFS:分布式文件系统

MAPREDUCE:分布式运算程序开发框架

HIVE:基于大数据技术(文件系统+运算框架)的SQL数据仓库工具

HBASE:基于HADOOP的分布式海量数据库

ZOOKEEPER:分布式协调服务基础组件

Mahout:基于mapreduce/spark/flink等分布式运算框架的机器学习算法库

Oozie:工作流调度框架

Sqoop:数据导入导出工具

Flume:日志数据采集框架





猜你喜欢

转载自blog.csdn.net/peng_0129/article/details/80526905
今日推荐