CentOS7下Docker Storage Pool扩容

前言:在docker刚起步的时候,RHEL的内核并不支持AUFS作为docker的后端存储而将移植工作推迟。后来,红帽和docker合作开发一种基于Device Mapper技术的后端存储框架,也就是现在的device-mapper插件。

问题

systemctl start docker.service 提示启动失败。

分析

使用命令查看docker启动日志:

# journalctl -xe
  • 1

发现docker-pool容量不足,不能继续分配新的空间,错误信息如下:

 Insufficient Free Extents for a docker-pool
  • 1

由于centos上的docker使用存储池,也就是基于LVM的块系统,所以只要增加docker-pool的容量就可以解决问题了。

收集证据

不看日志不行,比如有没有闲置的硬盘?物理卷挂在哪个硬盘?卷组挂在那个物理卷上?逻辑卷各自有多大?

查看磁盘容量:

# df -h# fdisk -l
  • 1
  • 2

查看物理卷(pv)信息:

# pvscan
  • 1

查看卷组(vg)信息:

# vgdisplay
  • 1

查看逻辑卷(lv)信息:

# lvdisplay
  • 1

解决问题

  • 查看卷组(vg)的使用和卷组的物理卷(PV)的情况:
# pvs -o+pv_used
  • 1

发现sdc确没有剩余空间了,查询结果如下:

扫描二维码关注公众号,回复: 288397 查看本文章
# pvs -o+pv_used
  PV         VG         Fmt  Attr PSize   PFree Used    
  /dev/sdc2  VolGroup00 lvm2 a--  558.69g    0   558.69g
  • 1
  • 2
  • 3
  • 新加一块硬盘就解决问题了。就怕没有新硬盘,需要重新划分区,move物理卷。

    1. fdisk /dev/sde;
    2. 创建主分区和扩展分区都行;
    3. 创建逻辑分区;这里有个坑,不创建逻辑分区是无法格式化硬盘的,格不了硬盘,pvcreate会报错。
    4. 格式化逻辑分区 mkfs.ext3 /dev/sde2;
  • 创建物理卷

# pvcreate /dev/sde2
  • 1
  • 为卷组VolGroup00添加新的物理卷sde2来增大卷组的容量
# vgextend VolGroup00 /dev/sde2
  • 1
  • 用vg里新增的空间扩展LVM逻辑卷(lv)的大小
# lvextend -L +1T /dev/VolGroup00/docker-pool
  • 1
  • 重启电脑,使划分生效,比较暴力好用(软刷新使用resizefs2)。
resize2fs   /dev/VolGroup00/docker-pool
  • 1

很不幸,执行resize2fs时报错了。直接reboot解决问题。

  • 最后一步重启docker服务
systemctl start docker.service
  • 1

终于要见到佛祖了,想想心里还有些小激动~~

然而启动又失败了,第一件事是做什么,还不赶紧看看日志!

journalctl -xe
  • 1

发现172.17.0.1这个ip无法bind, 看了看网卡,日,docker0的虚拟net-card没了。 
这里不卖关子了,大部分情况是/var/lib/docker下的配置出错了,解决方案有两种:

  1. 创建docker用户组,保证用户有足够的权限运行docker。

        sudo usermod -aG docker $(whoami)
    • 1
  2. 简单暴力我喜欢的方法,直接删掉/var/lib/docker,相当于重置docker的运行配置,重启解决问题。(友情提示:删除之前要备份,文件再拷贝过去就可以正常用了)

        sudo service docker stop
        sudo rm -rf /var/lib/docker
        sudo service docker start 
    • 1
    • 2
    • 3
  3. 一切都平静了,去喝杯咖啡。

        ➜  # docker info
        Containers: 37
        Running: 5
        Paused: 0
        Stopped: 32
        Images: 365
        Server Version: 1.10.3
        Storage Driver: devicemapper
        Pool Name: VolGroup00-docker--pool
        Pool Blocksize: 524.3 kB
        Base Device Size: 107.4 GB
        Backing Filesystem: xfs
        Data file: 
        Metadata file: 
        Data Space Used: 263.7 GB
        Data Space Total: 1.388 TB
        Data Space Available: 1.124 TB
        Metadata Space Used: 35.59 MB
        Metadata Space Total: 604 MB
        Metadata Space Available: 568.4 MB
        Udev Sync Supported: true
        Deferred Removal Enabled: true
        Deferred Deletion Enabled: false
        Deferred Deleted Device Count: 0
        Library Version: 1.02.107-RHEL7 (2016-06-09)
        Execution Driver: native-0.2
        Logging Driver: json-file
        Plugins: 
        Volume: local
        Network: bridge null host
        Kernel Version: 3.10.0-327.36.3.el7.x86_64
        Operating System: CentOS Linux 7 (Core)
        OSType: linux
        Architecture: x86_64
        Number of Docker Hooks: 2
        CPUs: 24
        Total Memory: 251.7 GiB
        Name: localhost.localdomain
        ID: xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
        WARNING: bridge-nf-call-iptables is disabled
        WARNING: bridge-nf-call-ip6tables is disabled
        Registries: 190087c6.m.daocloud.io (secure), docker.io (secure
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42

docker storage pool再多说几句。因为是基于LVM的,所以镜像和容器都在块系统中,也就是VolGroup00这个池子里。/var/lib/docker主要存储的是镜像和容器的配置文件和device-mapper映射文件等,所以这个目录不会太大。

 

http://blog.csdn.net/counsellor/article/details/53413743

猜你喜欢

转载自m635674608.iteye.com/blog/2357234