大数据--hadoop 伪分布式环境搭建

1.安装JDK

1.1下载JDK

1.2解压jdk

• 创建文件夹：mkdir /usr/java
• 解压：tar -zxvf jdk-7u55-linux-i586.tar.gz -C /usr/java/

1.3将java添加到环境变量中

vim /etc/profile
在文件最后添加
export JAVA_HOME=/usr/java/jdk1.7.0_55
export PATH=$PATH:$JAVA_HOME/bin

1.4 刷新配置

source /etc/profile

2.安装hadoop

在hadoop的etc文件下配置5个配置文件：

2.1 hadoop-env.sh

vim hadoop-env.sh
在configuration中加入JAVA_HOME的地址：
在命令行中找到之前输入的地址：
echo $JAVA_HOME复制粘贴
export JAVA_HOME=/usr/java/jdk1.7.0_65

2.2 core-site.xml

core-site.xml中配置两个属性，vim core-site.xml

<!-- 制定HDFS的NameNode的地址 -->
<property>
    <name>fs.defaultFS</name>
    <value>hdfs://itcast01:9000</value>
</property>
<!-- itcast01对应自己的主机名 -->
<!-- 指定hadoop运行时产生文件的存储目录 -->
<property>
    <name>hadoop.tmp.dir</name>
    <value>/itcast/hadoop-2.4.1/tmp</value>
</property>

2.3 hdfs-site.xml

vim hdfs-site.xml

<!-- 指定HDFS副本的数量 -->
<property>
        <name>dfs.replication</name>
        <value>1</value>
</property>

2.4 mapred-site.xml

先对mapred-site.xml的样例文件改名：
mv mapred-site.xml.template mapred-site.xml
vim mapred-site.xml

<!-- 指定mr运行在yarn上 -->
<property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
</property>

2.5 yarn-site.xml

vim yarn-site.xml

<!-- 指定YARN的老大（ResourceManager）的地址 -->
<property>
    <name>yarn.resourcemanager.hostname</name>
    <value>itcast01</value>
</property>
<!-- reducer获取数据的方式 -->
<property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
</property>

3 启动hadoop

3.1 将hadoop添加到环境变量

vim /etc/proflie

export JAVA_HOME=/usr/java/jdk1.7.0_65
export HADOOP_HOME=/itcast/hadoop-2.4.1
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

source /etc/profile

3.2 格式化namenode

hdfs namenode -format

3.3 启动HDFS和YARN

进入到hadoop下的sbin文件，放着启动相关的问题件
先启动HDFS
./start-dfs.sh
再启动YARN
./start-yarn.sh

使用jps命令验证
27408 NameNode
28218 Jps
27643 SecondaryNameNode
28066 NodeManager
27803 ResourceManager
27512 DataNode

http://192.168.8.88:50070 （HDFS管理界面）
http://192.168.8.88:8088 （MR管理界面）
前面的地址与linux虚拟机的ip地址对应