s11 Docker+DevOps实战--过程和工具

时间 2019-11-09

标签 s11 docker+devops docker devops 实战过程工具栏目 Docker 繁體版

原文原文链接

开发人员本地提交代码，本地使用容器模拟生产环境测试，测试经过提交到git master 分支，就会触发pipeline执行集成构建。集成工具: gitlab-vi，travis，或Jenkins。自动构建docker镜像并push到仓库，利用docker cloud，k8s等持续部署到web服务器。而后配置发布服务器从仓库拉取镜像，删除旧的版本，从新run新的版本。就完成了一次自动集成部署。html

搭建GitLab CI服务器和Pipeline

不一样的项目可能须要不一样的测试环境，若是直接在CI服务器上面部署测试，多个项目可能会形成紊乱错误。python

利用docker 容器，将项目build 成docker 容器，再进行测试，测试成功再push到docker registry 服务器。即便在一个CI服务器，也能够部署多个测试环境，以供使用。大大精简测试和部署的流程。linux

# 安装 gitlab ci runner

curl -L https://packages.gitlab.com/install/repositories/runner/gitlab-ci-multi-runner/script.rpm.sh |sudo bash
 sudo yum install gitlab-ci-multi-runner -y

sudo gitlab-ci-multi-runner status

sudo usermod -aG docker gitlab-runner
 sudo service docker restart

sudo gitlab-ci-multi-runner restart

# 本地gitlab地址
http://gitlab.example.com/

安装 gitlab ci runner

# 注册runner 
 sudo gitlab-ci-multi-runner register
gitlab-ci 集成服务器注册runner（即不一样的集成环境供gitlab调用）

token 在项目的CI选项里面，能够找到
 通常不要把runner 绑定到一个项目，这样其余项目也能够调用。（除特殊项目需绑定以保护）

    [root@jenkins vagrant]# sudo gitlab-ci-multi-runner register
     Running in system-mode.

    Please enter the gitlab-ci coordinator URL (e.g. https://gitlab.com/):
     http://gitlab.example.com
     Please enter the gitlab-ci token for this runner:
     gWCZZjwskFtS5n4XT6kV
     Please enter the gitlab-ci description for this runner:
     [jenkins]: gitlab-ci
     Please enter the gitlab-ci tags for this runner (comma separated):
     python3.4
     Whether to run untagged builds [true/false]:
     [false]:
     Whether to lock Runner to current project [true/false]:
     [false]:
     Registering runner... succeeded                     runner=gWCZZjws
     Please enter the executor: docker, shell, ssh, kubernetes, docker-ssh, parallels, virtualbox, docker+machine, docker-ssh+machine:
     docker
     Please enter the default Docker image (e.g. ruby:2.1):
     python:3.4
     Runner registered successfully. Feel free to start it, but if it's running already the config should be automatically reloaded!

注册runner

查看
    [root@jenkins vagrant]# sudo gitlab-ci-multi-runner list
     Listing configured runners                          ConfigFile=/etc/gitlab-runner/config.toml
     jenkins                                             Executor=shell Token=d790b6db10f7f7d3b8547519818948 URL=http://10.0.0.190/
     gitlab-ci                                           Executor=shell Token=ad11a86454c6552424fbf0d6c8b029 URL=http://gitlab.example.com
     gitlab-ci                                           Executor=docker Token=0304db778d4e040d25234594dbe363 URL=http://gitlab.example.com
     gitlab-ci                                           Executor=docker Token=b57303fbaf1623a5d8c42723606aad URL=http://gitlab.example.com
     [root@jenkins vagrant]# sudo gitlab-ci-multi-runner verify
     Running in system-mode.
     Verifying runner... is alive                        runner=ad11a864
     Verifying runner... is alive                        runner=0304db77
     Verifying runner... is alive                        runner=b57303fb

查看

projects 的导入，能够经过github，url等导入到gitlabgit

在项目根目录下建立 .gitlab-ci.yml 并配置。 Python 的 tox 测试github

 .gitlab-ci.yml

stages:
  - style
  - test
  - deploy
  - release

pep8:
  stage: style
  script:
    - pip install tox
    - tox -e pep8
  tags:
    - python2.7
  except:
    - tags

unittest-py27:
  stage: test
  script:
    - pip install tox
    - tox -e py27
  tags:
    - python2.7
  except:
    - tags

unittest-py34:
  stage: test
  script:
    - pip install tox
    - tox -e py34
  tags:
    - python3.4
  except:
    - tags

docker-deploy:
  stage: deploy
  script:
    - docker build -t flask-demo .
    - if [ $(docker ps -aq --filter name=web)];then docker rm -f web;fi
    - docker run -d -p 5000:5000 --name web flask-demo
  tags:
    - demo
  only:
    - master

docker-image-release:
  stage: release
  script:
    - docker build -t registry.example.com:5000/flask-demo:$CI_COMMIT_TAG .
    - docker push registry.example.com:5000/flask-demo:$CI_COMMIT_TAG
  tags:
    - demo
  only:
    - tags

.gitlab-ci.yml

项目根目录下的集成文件    .gitlab-ci.yml     配置集成和部署的步骤 （pipeline）


    tags:            # 执行环境
      - runner

    except:          # 排除，tags不触发
      - tags

    only:          # 只有master更改才触发
      - master

    stages:        # 流程，有哪些步骤
      - style
      - test
      - dploy
      - release

    job name:     #job名称 ，属于某一个流程

.gitlab-ci.yml配置语法具体看帮助信息

gitlab 能够实现代码仓库托管，直接拉取仓库集成测试。这块比较好，并且天生支持分布式。web

CI的部署，可是runner公有的有限，仍是得要有本身的测试runner，能够在本地本身搭建linux gitlab runner ，配置好环境，并注册，供gitlab CI 测试调度。而后发布到正式服务器。
gitlab-ci 自己就支持分布式，能够再多台机器上执行runner 供gitlab 调用测试sql

要注意保护 master 分支，不能被随意修改，
     在 CI 设置里有 master protect 选项和 parallel 检查设置
     只有push-->merge request-->pipline 测试经过 --> commit
     docker

.travis.yml # travis集成环境的环境配置文件 https://travis-ci.org/ 一个CI网站，开源项目免费，私有项目要钱。shell

language: python
env:
  - TOXENV=py27
  - TOXENV=py34
  - TOXENV=pep8
  - TOXENV=docs

install:
  - pip install tox
  - pip install coveralls
script:
  - tox

after_success:
  coveralls --verbose

.travis.yml

提交触发后 pipeline 的执行流程，能够点不一样job 进行查看执行状况json

注意要给项目分配 runner

当runner 环境为shell等非docker 时，要拉取本身搭建的gitlab 仓库，只须要配置hosts文件便可。

可当用runner 是 docker 时，每次拉取代码时，docker并不知道宿主机上的host文件，又不可能手动加进去，那样太麻烦。因此会出现没法访问本身的gitlab仓库。

这时候就须要，搭建DNS解析服务器，让docker可以解析到仓库。

Gitlab CI DNS server

配置一个DNS服务器，能让其余容器解析到 gitlab.example.com

首先，在gitlab ci服务器上把 gitlab.example.com 从/etc/hosts里删除

这时候在gitlab ci服务器上是 ping 不通 gitlab.example.com的。
找一台新的Linux host，装好Docker，建立一个dnsmasq的容器，并运行。

docker-dns 服务器搭建
    docker-host
     docker run -d -p 53:53/tcp -p 53:53/udp --cap-add=NET_ADMIN --name dns-server andyshinn/dnsmasq
     docker exec -it dns-server /bin/sh

首先配置上行的真正的dns服务器地址，建立文件：
  vi /etc/resolv.dnsmasq
添加内容：
   nameserver 114.114.114.114
   nameserver 8.8.8.8
# 置本地解析规则，这才是咱们的真实目的。新建配置文件
vi /etc/dnsmasqhosts
# 加解析规则，其中192.168.205.160是本地 gitlab 服务器地址
  192.168.205.160 gitlab.example.com
修改 dnsmasq 配置文件，指定使用上述咱们自定义的配置文件

vi /etc/dnsmasq.conf 修改下述两个配置
  resolv-file=/etc/resolv.dnsmasq
  addn-hosts=/etc/dnsmasqhosts

回到宿主，重启dns-server容器服务。
  docker restart dns-server
这时候这台docker host就是一个DNS服务器了，假如他的地址是192.168.205.15

dns-server 配置

搭建完dns服务器后，要修改成gitlab ci 服务器DNS服务器的ip ---> nameserver 192.168.205.15

[vagrant@ci ~]$ more /etc/resolv.conf
# Generated by NetworkManager
#nameserver 10.0.2.3
nameserver 192.168.205.15

view

这时候 docker 就能访问到gitlab服务器。

docker registry 服务器

docker hub 上传的镜像，属于公开状态，docker cloud 有要钱，还好能够搭建本身的docker registry服务器。这样push pull就方便多了。

这里将docker registry 服务器安装在dns同一台机器上。

docker run -d -v /opt/registry:/var/lib/registry -p 5000:5000 --restart=always --name registry registry:2

配置 dns-server

执行
docker exec-it dns-server/bin/sh
添加一条新的记录
/ # more /etc/dnsmasqhosts
192.168.205.160 gitlab.example.com
192.168.205.15 reqistry.example.com

view

docker restart dns-server

ci 服务器 测试push 时 报错
    [root@jenkins vagrant]#  docker push registry.example.com:5000/flask-demo:V10
     The push refers to repository [registry.example.com:5000/flask-demo]
    Get https://registry.example.com:5000/v2/: http: server gave HTTP response to HTTPS client
docker-registry 服务器为http协议
    客户端设置默认是HTTPS 协议取push
     因此要特别更改/etc/docker/daemon.json
     "insecure-registries":["http://registry.example.com:5000"]

[root@jenkins vagrant]# more /etc/docker/daemon.json
    {
      "registry-mirrors": ["https://6qcpzbml.mirror.aliyuncs.com"],
      "insecure-registries":["http://registry.example.com:5000"]
     }

查看push到registry的镜像版本

http://registry.example.com:5000/v2/flask-demo/tags/list

查看push的镜像 registry
[root@docker-host ~]# ls /opt/registry/docker/registry/v2/repositories/
flask-demo

在测试经过须要将最新的image push 到仓库

同时部署容器时，要判断是否有旧的版本容器须要删除，而后再run新版本的容器

$CI_CONMMIT_TAG 是gitlab-ci 的环境变量。具体能够查看帮助文件

一有版本发布或是提交时会自动测试，管理员检查合并到master分支后，就会触发pipeline执行集成构建，build的最新镜像会被push 到仓库。

而后配置发布服务器从仓库拉取镜像，删除旧的版本，从新run新的版本。就完成了一次自动集成部署。