大数据集群环境下的常用linux基础配置

版权声明:schoolboy.damo https://blog.csdn.net/liuguanju/article/details/85762030

集群环境下常用Linux基础配置

1. 本地yum源配置

Yum全称是Yellow dog Updater,Modified,是一个在Fedora和Redhat以及CentOS中的Shell前端软件包管理器。基于RPM包管理,能够从指定的服务器自动下载RPM包并安装,可以自动处理依赖性关系,并且一次性安装所有依赖的软件包,无须繁琐的一次次下载、安装。

下面介绍一种常用的配置本地yum源的方法:

1. 上传挂载系统iso安装文件

mount /opt/ CentOS-7.0-1406-x86_64-DVD.iso /mnt -r

2. 创建/etc/yum.repos.d/base.repo新增以下内容

[base]

name=base

baseurl=file:///mnt/

gpgcheck=0

enabled=1

3. 清理yum缓存,查看本地yum源是否配置成功

扫描二维码关注公众号,回复: 4820774 查看本文章

yum clean all

yum list

         注:学会查看使用linux命令帮助,如yum -help,摆脱枯燥记忆的烦恼。

2. 手动创建swap分区

系统安装完成后,可能没有swap分区,需要手工创建,下面介绍一种手工创建swap分区的步骤:

1.创建swap分区

dd if=/dev/zero of=/home/swap bs=1024 count=2048000

2.格式化新建的分区

mkswap /home/swap

3.把新建的分区变成swap分区

swapon /home/swap

4.开机自动挂载swap

echo "/home/swap   swap   swap   defaults 0 0" >> /etc/fstab

5.查看swap分区大小

free -g 或 free -m

3. 配置ssh互信免密登录

大多数集群软件都是master-slave架构,需要主从服务器ssh免密登录,以下介绍一种配置方法:

1. 前提

yum install openssh

systemctl enable sshd

systemctl start sshd或者service sshd start

2. 在主从服务器上生成ssh公钥

ssh-keygen -t rsa

3. 将所有从服务器的id_rsa.pub合并到主服务器

ssh-copy-id -i /home/Hadoop/.ssh/id_rsa.pub datanode1

ssh-copy-id -i /home/Hadoop/.ssh/id_rsa.pub datanode2

ssh-copy-id -i /home/Hadoop/.ssh/id_rsa.pub datanode3

4. 测试

ssh datanode1

4. 修改主机名和/etc/hosts并关闭selinux关闭防火墙

以三个节点为例介绍CentOS7.0的配置方法:

1. 三个节点的/etc/sysconfig/network中分别添加

hostname node1

hostname node2

hostname node3

2. 三个节点的/etc/hosts文件中都添加

101.12.82.103 node1

101.12.82.104 node2

101.12.82.105 node3

3. 修改/etc/selinux/config文件将SELINUX=enforcing改为SELINUX=disabled

三个节点都重启生效

init 6

4. 关闭防火墙

systemctl stop firewalld.service

systemctl disable firewalld.service

firewall-cmd --state

5. 修改系统参数/etc/sysctl.conf

根据产品推荐修改系统参数:

1. 修改/etc/sysctl.conf文件增加以下参数

kernel.pid_max = 524288

vm.max_map_count = 16527169

vm.dirty_background_ratio = 1

vm.dirty_ratio = 2

kernel.hung_task_panic = 0

2. 生效

sysctl -p

6. 修改磁盘预读参数/etc/rc.local

Vertica数据要求修改磁盘预读参数如:

1. 修改/etc/rc.local文件增加以下内容

echo deadline > /sys/block/vda/queue/scheduler

/sbin/blockdev --setra 8192 /dev/vda

echo always > /sys/kernel/mm/transparent_hugepage/enabled

echo always > /sys/kernel/mm/transparent_hugepage/defrag

echo 0 > /proc/sys/vm/swappiness

2. 生效

source /etc/rc.local

7. 配置时钟同步

配置时钟同步是集群软件常见的要求:

yum install ntp

设置vh001服务器做内部时钟服务器

vh001修改/etc/ntp.conf文件,添加

server 127.127.1.0

启动服务

systemctl start ntpd.service

systemctl enable ntpd.service

vh002服务器优先与vh001服务器同步,修改/etc/ntp.conf启动ntpd服务

/etc/ntp.conf增加以下内容:

server vh001 prefer

启动服务

systemctl start ntpd.service

systemctl enable ntpd.service

vh003服务器优先与vh001服务器同步,其次与vh002同步,修改/etc/ntp.conf启动ntpd服务

/etc/ntp.conf增加以下内容:

server vh001 prefer

server vh002

启动服务

systemctl start ntpd.service

systemctl enable ntpd.service

检查时钟同步结果

ntpdate -u vh001

 

猜你喜欢

转载自blog.csdn.net/liuguanju/article/details/85762030