定制化rpm包及本地yum仓库搭建以及同步支持rsync的源和同步不支持rsync源

为方便本地yum的管理,一般都是在公司局域网内搭建本地yum仓库,实现公司内部快速安装常用软件。
步骤如下:
1、搭建要实现本地yum管理的软件,测试该软件搭建成功与否;
2、定制rpm包及其相关依赖;
3、搭建本地yum源
4、配置客户端yum,实现局域网取包安装。
 
首先声明:该本地yum仓库中的包要尽量全,不然有些定制包可能安装不上。原因很简单,该包原本就需要一些其他的依赖包,而你的本地仓库没有。
 
安装nginx,测试安装是否成功
1.
#先保留平常下载下来的rpm包
sed -i 's#keepcache=0#keepcache=1#g' /etc/yum.conf
这样当我们yum安装软件的时候,文件就是被保存下来:
/var/cache/yum/
#部署nginx,提供80端口服务
#安装依赖包
yum install  -y pcre-devel openssl-devel ;
rpm -qa  pcre-devel openssl-devel
#下载nginx-10.0.2
mkdir /tmp/tools
cd /tmp/tools/
tar xf nginx-1.10.2.tar.gz
cd nginx-1.10.2
mkdir /application
#配置
./configure  --user=www --group=www --prefix=/application/nginx-1.10.2 --with-http_stub_status_module  --with-http_ssl_module
#编译
make && make install
#做软连接
ln -s /application/nginx-1.10.2 /application/nginx
添加www用户:
useradd -u 789 www -s /sbin/nologin  -M
#启动nginx进行测试
/applicaton/nginx/sbin/nginx
 
lsof -i:80
关闭nginx 为定制rpm包做准备:
pkill   nginx
 
#定制rpm包
####下载工具及配置
FPM安装
#fpm是ruby写的,因此系统环境需要ruby,且ruby版本号大于1.8.5
#安装ruby模块
yum -y install ruby rubygems ruby-devel
检查安装成功与否
rpm -qa ruby rubygems ruby-devel
#添加阿里云的rubygems仓库,外国的源太慢
gem sources -ahttp://mirrors.aliyun.com/rubygems/ http://mirrors.aliyun.com/rubygems/ added to sources
#移除原生的Ruby仓库
gem sources --remove http://rubygems.org/ http://rubygems.org/ removed from sources
#安装fpm
#指定安装fpm1.3.3版本的软件,fpm这个工具升级很频繁,而且在每次升级后会出现各种各样的问题。但是老版本的fpm工具能够满足我们的需求,因此就用这个版本了。
#这里一定要指定fpm的版本,不然会报错,报错原因可追溯到版本频繁升级的问题导致。
gem install fpm -v 1.3.3
开始定制nginx 的rpm包
#创建nginx的rpm包要执行的脚本
cat  >  /server/scripts/nginx_rpm.sh   << eof
#!/bin/bash
 
useradd -u 789 www -M -s /sbin/nologin
ln -s /application/nginx-1.10.2/ /application/nginx
eof
#通过fpm命令打包rpm
fpm -s dir -t rpm -n nginx -v 1.10.2 -d 'pcre-devel,openssl-devel' --post-install /server/scripts/nginx_rpm.sh  -f /application/nginx-1.10.2/
#fpm相关命令说明
#    fpm -h #查看命令的帮助,下面对常用的参数进行简单的说明
#    -s:指定源类型
#    -t:指定目标类型
#    -n:指定名字
#    -v:指定版本号
#    -C:指定打包的相对路径
#    -d:指定依赖于哪些包
#    -f:第二次打包时目录下如果有同名安装包存在,则覆盖它
#    -p:输出的安装包的目录,不想放在当前目录下就需要指定
#    --post-install  软件包安装完成之后所要运行的脚本;同--after-install
#    --pre-install  软件包安装完成之前所要运行的脚本;同--before-install
#    --post-uninstall   软件包卸载完成之后所要运行的脚本;同--after-remove
#    --pre-uninstall    软件包卸载完成之前所要运行的脚本;同--before-remove
#查看rpm包信息
rpm -qpi nginx-1.10.2-1.x86_64.rpm
#查看rpm包内容
rpm -qpl nginx-1.10.2-1.x86_64.rpm
#查看rpm的包依赖
rpm -qpR nginx-1.10.2-1.x86_64.rpm
#查看rpm自带的执行脚本,执行脚本不是以文件的形式存在rpm包中
rpm -qp --scripts nginx-1.10.2-1.x86_64.rpm
 
创建本地yum仓库
创建仓库目录
mkdir /application/yum/centos6/x86_64 -p
将生成的nginx  rpm包放到该目录
mv nginx-1.10.2-1.x86_64.rpm /application/yum/centos6/x86_64/
安装createrepo
yum -y install createrepo
初始化repodata索引文件
createrepo -pdo /application/yum/centos6/x86_64/  /application/yum/centos6/x86_64/
#修改nginx配置文件,让它默认访问浏览器找到/application/yum/centos6/x86_64/目录
cat  >/application/nginx/conf/nginx.conf<<EOF
worker_processes  1;
events {
    worker_connections  1024;
}
http {
    include       mime.types;
    default_type  application/octet-stream;
    sendfile        on;
    keepalive_timeout  65;
    server {
        listen       80;
        server_name  localhost;
        location / {
            root   /application/yum/centos6/x86_64/;
            autoindex on;         ##开启目录
            index  index.html index.htm;
        }
        error_page   500 502 503 504  /50x.html;
        location = /50x.html {
            root   html;
        }
    }
}
EOF
检查nginx配置问,启动nginx:
/application/nginx/sbin/nginx -t
/application/nginx/sbin/nginx
使用yum下载nginx依赖包,拷贝到本地yum源目录:
yumdownloader pcre-devel openssl-devel
mv openssl* pcre* /application/yum/centos6/x86_64/
#每加入一个rpm包就要执行一下如下命令,用来更新索引
createrepo --update /application/yum/centos6/x86_64
 
配置客户端
创建脚本
cat >  /etc/yum.repos.d/local.repo  << eof
[local]
name=Server
baseurl=http://172.16.1.61
enable=1
gpgcheck=0
eof
yum操作、清除缓存、重新建立缓存;
yum clean all
指定指定使用local源,此命令重启linux系统失效:
yum --enablerepo=local --disablerepo=base,extras,updates,epel list
# 这条命令中的local名称一定要对应local.repo中的[local]
#注意最下面白色的文件列表
永久生效法:
vi CentOS-Base.repo
#在每一个启动的源加上
enabled=0   #改为1就启用,没有此参数也是启用。
安装nginx
yum install nginx
 
~~~~~~~~~~~~~~~~~~~~~~~~~

同步支持rsync上游yum源必须要支持rsync协议,否则不能使用rsync进行同步。

扩展:
但还有一种企业需求,说的更具体一点,平时大家yum安装软件都是从公网下载的,占用带宽,因此在公司里搭建一个内网yum服务器,但又考虑到如果yum软件的数据库文件repodata不一样,就会有问题。因此我想到的解决方法就是直接使用公网yum源的repodata。
 
 
镜像同步公网yum源
上游yum源必须要支持rsync协议,否则不能使用rsync进行同步。
http://mirrors.ustc.edu.cn/status/
CentOS官方标准源:rsync://mirrors.ustc.edu.cn/centos/
epel源:rsync://mirrors.ustc.edu.cn/epel/
 
同步命令:
# 使用rsync同步yum源,为了节省带宽、磁盘和下载时间,我只同步了CentOS6的rpm包,这样所有的rpm包只占用了21G,全部同步需要300G左右。
# 同步base源,小技巧,我们安装系统的光盘镜像含有部分rpm包,大概3G,这些就不用重新下载。
 
#创建四个目录,用于同步公网yum源
mkdir -p /application/yum/centos/6/os/x86_64/
mkdir -p /application/yum/centos/6/extras/x86_64/
mkdir -p /application/yum/centos/6/updates/x86_64/
mkdir -p /application/yum/epel/6/x86_64/
 
#下面四条命令,同时复制执行,就会开始同步官网yum源到本地。
1 /usr/bin/rsync -av rsync://mirrors.ustc.edu.cn/centos/6/os/x86_64/ /application/yum/centos/6/os/x86_64/
2 /usr/bin/rsync -av rsync://mirrors.ustc.edu.cn/centos/6/extras/x86_64/ /application/yum/centos/6/extras/x86_64/
3 /usr/bin/rsync -av rsync://mirrors.ustc.edu.cn/centos/6/updates/x86_64/ /application/yum/centos/6/updates/x86_64/
4 /usr/bin/rsync -av --exclude=debug rsync://mirrors.ustc.edu.cn/epel/6/x86_64/ /application/yum/epel/6/x86_64/
 
 

同步不支持rsync无所谓上游是什么情况,都可以

扩展:
 
  之前总结的搭建本地 yum 源是通过 rsync 直接同步其他在线的 yum 源,例如清华大学大 YUM 源,但是类似的阿里云的 yum 源,因为其不支持 rsync 所以不能进行同步,

  同样的,想要同步其他一些官方的YUM源,也要对方支持rsync才能支持同步,而有很希望安装的YUM源并不支持rsync,这样怎么办呢?

  因上述原因我想到了另一种思路去同步“所有”我想同步的YUM源,并且搭建成本地可用的YUM源,下面记录下我的思路。

 

1、首先预备好一台nginx或者apacheserver来做本地的YUM源(我喜欢nginx),该操作可以去参考“YUM本地源搭建,且Rsync同步官方”的操作。

 

2、搭建好的本地YUMserver后,再下载想要同步YUM源的repo文件。

  例如:

wget -O /etc/yum.repos.d/CentOS-Base.repohttp://mirrors.aliyun.com/repo/Centos-6.repo

3、安装几个工具,默认的centos是没有安装,yum installcreaterepo yum-utils -y

  安装这两个工具主要使用 createrepo reposync 这两个命令

4、上面的操作完毕后,执行命令yum repolist

  例如:其中“仓库标识:中的名字是我们下面将要用到的

 

 

5、例如我想要把wmj作为本地YUM源(这是我在做Ambari + hadoop实验的yum源,因为该源可能被很多台hadoop datanode端用到所有,搭建本地yum源会节约大量的出口带宽

提高工作效率。)那么我执行如下命令行

     [root@localhosttmp]# reposync -r wmj

     如下开始自动更新yum源到本地文件夹


当然在这一步,我们可以参考下reposync的帮助,直接把想要同步的yum源直接定位到希望下载的某个目录,

例如使用参数 -p

也可以使用 -d 来删除本地老旧,yum源已经不存的安装包。


6、当通过reposync命令同步yum源到想要指定的路径之下后,然后使用createrepo命令创对该路径下的rpm创建为本地的YUM仓库


 6.1、到这里的时候,其实想要的yum本地仓库已经算是制作完毕, 为了简化工作量,我们可以把上面的操作制作成bash脚本

 思路如下:

 reposync自动同步想要的yum 源到指定的路径,因为每次同步后,内容可能有所改变,所以需要重新执行createrepo命令重新创建YUM仓库。

  

7、上面的操作完毕后,就是在client端制作repo文件并指向我们本地的YUM源了,因为我们同步YUM源的时候,可能会忽略掉对方的gpgkey,那么记得“gpgcheck=0


例子:

为方便日常工作,需要在本地搭建CentOS\EPEL\Ovirt等的本地yum源,根据一般网上文章步骤搭建的本地源基本上都缺少软件分组信息,无法使用yum group*的相关命令,在认真研究相关命令的文档的前提下,经过实践,整理形成完美的,基于reposync/createrepo命令的YUM本地源搭建过程,具体步骤如下:
一、上游源配置目录结构及信息如下:

1、目录结构如下:

/app/yumconfig/centos6

├── cache

├── log

├── yum.conf

└── yum.repos.d

    └── Centos-6.repo

2、yum.conf的内容:
[main]
cachedir=/app/yumconfig/centos6/cache/yum/x86_64/6
keepcache=0
debuglevel=2
logfile=/app/yumconfig/centos6/log/yum.log
exactarch=1
obsoletes=0
gpgcheck=1
plugins=0
installonly_limit=3
reposdir=/app/yumconfig/centos6/yum.repos.d
3、Centos-6.repo的内容: (上游源为阿里云的软件源)
 [base]
name=CentOS-6 - Base - mirrors.aliyun.com
failovermethod=priority
baseurl=http://mirrors.aliyun.com/centos/6/os/x86_64/
gpgcheck=1
gpgkey=http://mirrors.aliyun.com/centos/RPM-GPG-KEY-CentOS-6
 
#released updates 
[updates]
name=CentOS-6 - Updates - mirrors.aliyun.com
failovermethod=priority
baseurl=http://mirrors.aliyun.com/centos/6/updates/x86_64/
gpgcheck=1
gpgkey=http://mirrors.aliyun.com/centos/RPM-GPG-KEY-CentOS-6
 
#additional packages that may be useful
[extras]
name=CentOS-6 - Extras - mirrors.aliyun.com
failovermethod=priority
baseurl=http://mirrors.aliyun.com/centos/6/extras/x86_64/
gpgcheck=1
gpgkey=http://mirrors.aliyun.com/centos/RPM-GPG-KEY-CentOS-6
 
#additional packages that extend functionality of existing packages
[centosplus]
name=CentOS-6 - Plus - mirrors.aliyun.com
failovermethod=priority
baseurl=http://mirrors.aliyun.com/centos/6/centosplus/x86_64/
gpgcheck=1
enabled=1
gpgkey=http://mirrors.aliyun.com/centos/RPM-GPG-KEY-CentOS-6

 
二、同步脚本sync_centos6.sh的内容如下:
#!/bin/bash
#set -x
date=`date +%Y%m%d` 
log_file="/app/log/sync_centos6.$date.log" #同步日志文件,请根据实际情况进行修改
echo "---- $Date `date` Begin ----" >>$log_file
cd /app/centos6 #本地软件源目目录,请根据实际情况进行修改
reposync -m -c /app/yumconfig/centos6/yum.conf -n   >> $log_file 2>&1
#从上游源同频软件包及软件分组信息:
#-m选项指明需下载软件分组信息文件——comps.xml,
#-c选项指明上游源的配置文件
#-n选项指明只下载最新的软件包
for file in `ls `
do
  if [ -d $file ]
  then
    if [ -f ./$file/comps.xml ]
    then
      createrepo -g comps.xml --update ./$file >> $log_file 2>&1 #如果存在comps.xml文件,则创建含软件分组信息的本地包索引信息
    else
      createrepo --update ./$file >> $log_file 2>&1 
    fi
  fi
done
#createrepo ./ >> $log_file 2>&1
echo "---- $Date `date` End ----" >>$log_file

三、配置apache,通过http服务发布"/app/centos6"目录的本地源
   发布时需注意目录文件的权限问题,建议执行:chown -R apache:apache /app/centos6命令,确保权限设置正确。




  

 
 

 
分类:  linux 服务

猜你喜欢

转载自blog.csdn.net/Michaelwubo/article/details/80609690