经过Jenkins与Docker构建CI/CD基础架构

时间  2019-11-08
标签 经过 jenkins docker 构建 基础 架构 栏目 自动化构建 繁體版
原文   原文链接

前言

提到容器平台，最先接触的即是LXC（Linux Container），是2010年刚刚接触虚拟化平台的时候，当时开源解决方案是xen的天下(后来KVM才后来者居上)，且性能各方面都不弱，价值当时还不是移动互联网时代，业务量远远没有那么大，大部分公司都是物理机部署应用，用虚拟化平台的公司也是寥寥无几，可想而知，没有业务，没有场景，那就没有技术的用武之地了，因此，LXC生而伟大而用不逢时，Docker之因此可以青出于蓝而胜于蓝，取得如此大的成功的缘由仍是归咎于移动互联网带来的流量大爆炸，普通基于物理机，虚拟机甚至云主机(虽然弹性伸缩应该是云主机的特性，可是当时国内看起来根本没有作到的，比起AWS来，差距之大，只能意会)的业务架构已经不能知足目前的应用场景了。html

关于Docker，在2013年的时候就开始接触了，当时在一家作私有云解决方案的公司里面以Openstack/Cloudstack私有云管理平台+VMWare/Xen/KVM等虚拟化平台在各大行业进行云平台的推广与实施，Docker当时对咱们而言就是个实验室里面的Demo产品，并无做过多的关注。java

后来于2014年在腾讯游戏任职业务运维，中心有一个部门就已经专门研究Docker技术，我也跟着凑了一把热闹，只是当时比较火的仍是云主机，并且腾讯云当时才刚刚起步，加之当时维护的更多的仍是端游业务，考虑到游戏的稳定性，当时内部使用虚拟机的场景都不是很是多，更不用提Docker容器技术的大规模应用了，本着业务运维以业务稳定为第一原则，加之业务运维的职责不在于基础架构的研究，因此就没再深刻了。node

直到2015年，一个运维朋友问我后面什么比较火，我就随口一答：Docker之后确定会流行的，你去看看吧，因而他就去了DaoCloud，Docker在后面的几年真的就火起来了，一时间Docker正在以星星之火能够燎原之势在整个中国掀起了一阵风，国内比较知名的DaoCloud,灵雀云等创业公司发展得很是迅猛，且资本不断进入，大公司也纷纷布局，如阿里云，腾讯云等，更不用说如今还有更多运维公司进场想分一杯羹了。linux

2016年，我跟另一个朋友选择了开发自动化运维平台做为创业方向，如今想来，应该抓着Docker一块儿作的，因为自动化运维平台更多仍是聚焦在运维层面的工做，若是须要实现持续集成/持续发布等工做支撑还须要作大量的设计，且成本不菲，算不得真正的DevOps整套解决方案，而有了Docker，这一切变得就简单多了，也变得瓜熟蒂落了许多。nginx

固然，创业方向虽然不是容器云方向，可是在作运维平台项目的时候，我本身都会不断关注Docker发展以及客户的Docker诉求，现在Docker+K8S已经成为了一个运维的技能标配，也是更多企业选择业务架构设计的底层架构，做为一个技术人，咱们不得不去正视Docker在将来的更大的发展，加之本人从2018年开始转作区块链架构设计与开发工做，接触到的Hyperledger Fabric在进行模块启动的时候也是经过Docker实现，更加坚决了将Docker技术研究完全的决心。git

因为时间有限，概念性的东西你们本身有不清楚的能够自行翻阅相关资料，本文主要将这几天学习到的东西进行整理并经过实战分享，在从此的学习与工做中，我会更多的把重心放在区块链架构与Docker的整合之上，将最好的技术整合在一块儿，为业务提供最好的架构设计与服务支撑。github

一. 部署环境

本文描述的就是一个测试环境(操做系统：CentOS7U5 X64)，测试代码用的是JAVA的开源博客系统solo(https://github.com/b3log/solo)，经过域名的方式进行角色的划分，你们在本身的实际环境中根据实际用途进行不一样主机不一样角色的划分。
经过Jenkins与Docker构建CI/CD基础架构web

角色 IP地址 访问域名 部署服务
Git版本控制器 172.16.222.180 git.brucefeng.com Git
Docker主机 172.16.222.180 docker01.brucefeng.com Docker|docker-compose
Docker仓库注册服务器 172.16.222.180 reg.brucefeng.com Docker主机服务+Harbor
Jenkins服务器(Master) 172.16.222.180 jenkins.brucefeng.com JDK|Tomcat|Jenkins
Jenkins客户端(Slave) 172.16.222.180 docker01.brucefeng.com JDK|Tomcat|Maven

须要在服务器与本身用于访问域名的机器上面都进行/etc/hosts的解析配置redis

二. 安装Git服务器

####1.概念简述docker

Git是一个开源的分布式版本控制系统,是Linus Torvalds(Linux之父)为了帮助管理Linux内核开发而开发的一个开放源码的版本控制软件。

2. 安装Git

(1) 安装git并建立用户

# yum install git -y ; useradd git  ; echo git123|passwd  --stdin git

注意: 相似安装以前的yum源配置等基础运维操做本文都不会赘述，下文如此。

(2) 建立仓库

# su - git # 切换至git用户
$ mkdir solo.git ; cd solo.git 
$ git  --bare init #初始化仓库

此时能够经过git clone命令访问这个仓库了，目前没有代码数据

# git clone git@git.brucefeng.com:/home/git/solo.git

####3. 将项目传至私有仓库

将solo项目从https://github.com/b3log/solo获取到以后提交至刚刚建立的git仓库(私有仓库)

(1) 从github.com拉取代码

$ git clone https://github.com/b3log/solo.git

(2) 添加至私有仓库

$ cd solo
$ git remote remove origin 
$ git remote add origin git@git.brucefeng.com:/home/git/solo.git

(3) 提交至私有仓库

$ git add .
$ git commit -m "All Solo Files To Local Git Server"
$ git push origin master

至此，咱们已经将solo项目成功传至咱们建立的本地git仓库中solo.git

###三.安装Docker CE

CentOS安装Docker的官方文档

https://docs.docker.com/install/linux/docker-ce/centos/

1.安装依赖组件

# yum install -y yum-utils \
  device-mapper-persistent-data \
  lvm2

2.添加docker专用yum源

# yum-config-manager \
    --add-repo \
    https://download.docker.com/linux/centos/docker-ce.repo

3.安装Docker CE

# yum install docker-ce

本身根据须要能够再配置一个Docker加速器(国内镜像源)，Daocloud跟阿里云都有，本身决定便可。

4.启动与中止命令

# systemctl start docker #启动docker
# systemctl stop docker  #中止docker

5.安装docker-compose

Compose 是一个用户定义和运行多个容器的 Docker 应用程序。在 Compose 中你可使用 YAML 文件来配置你的应用服务。而后，只须要一个简单的命令，就能够建立并启动你配置的全部服务。

使用 Compose 基本会有以下三步流程：

  • 在 Dockfile 中定义你的应用环境，使其能够在任何地方复制。
  • 在 docker-compose.yml 中定义组成应用程序的服务，以便它们能够在隔离的环境中一块儿运行。
  • 运行dcoker-compose up，Compose 将启动并运行整个应用程序。

(1)直接下载

# curl -L https://github.com/docker/compose/releases/download/1.18.0/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose

(2) 添加可执行权限

# chmod +x /usr/local/bin/docker-compose
# ln -s /usr/local/bin/docker-compose   /usr/bin/

(3) 查看版本

# docker-compose  version

返回结果

docker-compose version 1.18.0, build 8dd22a9
docker-py version: 2.6.1
CPython version: 2.7.13
OpenSSL version: OpenSSL 1.0.1t  3 May 201

或者经过pip工具进行安装

pip install -U -i https://pypi.tuna.tsinghua.edu.cn/simple docker-compose

5.拉取所需基础镜像

# docker pull centos:7

6.建立Tomcat镜像

(1) 建立Dockerfile文件 Dockfile-tomcat-85

FROM centos:7
MAINTAINER git.brucefeng.com

ENV TOMCAT_VERSION=8.5.32
ENV TOMCAT_MIRROR=http://mirrors.shu.edu.cn/apache/tomcat/tomcat-8/
ENV JDK_MIRROR=http://172.16.222.182:8888/jdk-8u181-linux-x64.tar.gz
ENV JAVA_HOME /usr/local/jdk

RUN yum install wget curl unzip iproute net-tools -y && \
    yum clean all && \
    rm -rf /var/cache/yum/* 

RUN wget ${TOMCAT_MIRROR}/v${TOMCAT_VERSION}/bin/apache-tomcat-${TOMCAT_VERSION}.tar.gz && \
    tar zxf apache-tomcat-${TOMCAT_VERSION}.tar.gz && \
    mv apache-tomcat-${TOMCAT_VERSION} /usr/local/tomcat && \
    rm -rf apache-tomcat-${TOMCAT_VERSION}.tar.gz /usr/local/tomcat/webapps/* && \
    mkdir /usr/local/tomcat/webapps/ROOT && \
    echo "${TOMCAT_VERSION} INSTALL DONE" > /usr/local/tomcat/webapps/ROOT/status.html && \
    sed -i '1a JAVA_OPTS="-Djava.security.egd=file:/dev/urandom"' /usr/local/tomcat/bin/catalina.sh && \
    ln -sf /usr/share/zoneinfo/Asia/Shanghai /etc/localtime

RUN wget ${JDK_MIRROR} && \
    tar zxf jdk-8u181-linux-x64.tar.gz  && \
    mv jdk1.8.0_181  /usr/local/jdk && \
    rm -rf jdk-8u181-linux-x64.tar.gz

ENV PATH $PATH:/usr/local/tomcat/bin
ENV PATH $PATH:/usr/local/jdk/bin
WORKDIR /usr/local/tomcat
EXPOSE 8080
CMD ["catalina.sh","run"]

(2) 构建docker镜像

镜像名: tomcat-85

docker build -t tomcat-85 -f Dockfile-tomcat-85 .

(3) 建立容器进行测试

docker container run -d  --name=tomcat-1 -p 8888:8080 tomcat-85

这一步务必作好，在后面Jenkins的Pipline中会用到

###四.配置Harbor服务器

以上咱们经过docker pull命令都是从公网拉取的镜像文件，为了方便企业内部开发须要，咱们有必要搭建一套Docker的私有仓库管理经常使用镜像。

VMWare Harbor是咱们经常使用的也是比较优秀的Docker私有仓库开源解决方案，项目地址为：https://github.com/vmware/harbor/，关于项目介绍以及特性相关内容可自行查阅。

Harbor的安装有多种方式，在线安装|离线安装|OVA安装，为了不由网络稳定性带来的问题，咱们采用离线安装的方式进行Harbor的安装（所需的Docker与Docker-Compose上文已经安装完毕，此处再也不写安装配置）

1.下载离线安装包

https://github.com/vmware/harbor/releases

选择 Harbor offline installer

https://storage.googleapis.com/harbor-releases/release-1.5.0/harbor-offline-installer-v1.5.2.tgz

2. 自签TLS证书

Harbor能够经过两种方式进行部署，HTTP与HTTPS，本文直接经过HTTPS的方式进行部署，你们能够参考官方文档的配置：https://github.com/vmware/harbor/blob/master/docs/configure_https.md

(1) 建立CA证书

# mkdir /tmp/ssl ; cd /tmp/ssl  #建立一个ssl目录,存放证书文件
# openssl req  -newkey rsa:4096 -nodes -sha256 -keyout ca.key  -x509 -days 365 -out ca.crt

设置这两处便可

Country Name (2 letter code) [XX]:CN
Common Name (eg, your name or your server's hostname) []:brucefeng.com

生成文件

ca.crt  ca.key

(2) 生成证书签名

# openssl req  -newkey rsa:4096 -nodes -sha256 \
-keyout brucefeng.com.key \
-out brucefeng.com.csr

注意: 

Country Name (2 letter code) [XX]:CN
Common Name (eg, your name or your server's hostname) []:brucefeng.com

生成文件

brucefeng.com.csr  brucefeng.com.key

(3) 生成注册证书

# openssl x509 -req -days 365 -in brucefeng.com.csr -CA ca.crt -CAkey ca.key -CAcreateserial -out brucefeng.com.crt

返回结果

Signature ok
subject=/C=CN/L=Default City/O=Default Company Ltd
Getting CA Private Key

所有的生成文件

brucefeng.com.crt  brucefeng.com.csr  brucefeng.com.key  ca.crt  ca.key  ca.srl

3. Harbor安装与配置

(1) 解压文件

# tar zxvf  harbor-offline-installer-v1.5.2.tgz 
# mv /tmp/ssl  harbor/  #将ssl目录拷贝进harbor目录下

(2)修改配置

# cd  harbor
# vim harbor.cfg

须要修改的参数以下

hostname = reg.brucefeng.com
ui_url_protocol = https
ssl_cert = ./ssl/reg.brucefeng.com.crt
ssl_cert_key = ./ssl/reg.brucefeng.com.key
harbor_admin_password = 123456

注意: 本人发现harbor的安装脚本有BUG,hostname必须是直接修改，不能注释后修改，不然报错！

以下为错误配置

# hostname =  reg.mydomain.com
hostname = reg.brucefeng.com

(3) 生成用于安装的配置文件

#./prepare

(4) 安装并启动Harbor

#./install.sh

(5)查看运行状态

# docker-compose ps

返回结果

Name           Command         State                                Ports                              
------------------------------------------------------------------------------------------
harbor-adminserver   /harbor/start.sh                 Up                                                                      
harbor-db            /usr/local/bin/docker-entr ...   Up      3306/tcp                                                        
harbor-jobservice    /harbor/start.sh                 Up                                                                      
harbor-log           /bin/sh -c /usr/local/bin/ ...   Up      127.0.0.1:1514->10514/tcp                                       
harbor-ui            /harbor/start.sh                 Up                                                                      
nginx                nginx -g daemon off;             Up      0.0.0.0:443->443/tcp, 0.0.0.0:4443->4443/tcp, 0.0.0.0:80->80/tcp
redis                docker-entrypoint.sh redis ...   Up      6379/tcp                                                        
registry             /entrypoint.sh serve /etc/ ...   Up      5000/tcp

4. 测试网页登陆

访问连接：https://reg.brucefeng.com/harbor/projects
用户名:admin
密码: 123456 
密码是咱们在配置文件harbor.cfg中配置的harbor_admin_password参数值

(1) 建立项目
经过Jenkins与Docker构建CI/CD基础架构

建立新项目名称：bruce-test

(2) 建立用户

经过Jenkins与Docker构建CI/CD基础架构

建立新用户为:bruce-test-user

(3) 关联项目与用户
经过Jenkins与Docker构建CI/CD基础架构

填写刚刚建立的新用户:

Name:bruce-test-user

Role角色:Project Admin

经过Jenkins与Docker构建CI/CD基础架构

5.为Docker主机添加信任

(1) 拷贝证书文件

# mkdir /etc/docker/certs.d/reg.brucefeng.com/
# cp /tmp/ssl/reg.brucefeng.com.crt  /etc/docker/certs.d/reg.brucefeng.com/

(2) 测试登陆

此处用的测试帐户仍未以前建立的brucefeng，项目按照以前建立的几个项目进行操做

$  docker login -u brucefeng -p password(自定义的密码) reg.brucefeng.com

返回结果

Login Succeeded

认证成功，能够经过命令行进行数据交互。

6. 上传下载镜像

以Harbor上的fabric项目为例进行镜像的上传与下载操做

(1) 将本地镜像打标签

命令格式

docker tag SOURCE_IMAGE[:TAG] reg.brucefeng.com/fabric/IMAGE[:TAG]

本文以centos7镜像为例测试

# docker tag docker.io/centos:7 reg.brucefeng.com/fabric/centos:v1.0

查看当前的centos7镜像

# docker image ls |grep centos

返回结果

docker.io/centos                             7                   49f7960eb7e4        7 weeks ago         200 MB
reg.brucefeng.com/fabric/centos              v1.0                49f7960eb7e4        7 weeks ago         200 MB

(2) 推送(上传)镜像

# docker push reg.brucefeng.com/fabric/centos:v1.0

经过Jenkins与Docker构建CI/CD基础架构

经过Jenkins与Docker构建CI/CD基础架构

(3) 拉取(下载)镜像

  • 删除本地镜像
# docker image  rm reg.brucefeng.com/fabric/centos:v1.0
  • 从Harbor上拉取镜像
# docker pull reg.brucefeng.com/fabric/centos:v1.0

五.Jenkins Master/Slave配置

Jenkins下载地址:https://jenkins.io/download/

本文经过Jenkins.war包启动Jenkins服务，而Slave须要经过maven工具进行代码构建，因此此处须要配置JDK|Tomcat|Maven环境

1. 依赖环境安装

# tar zxf jdk-8u181-linux-x64.tar.gz 
# tar zxf apache-tomcat-8.5.32.tar.gz
# tar zxf apache-maven-3.5.4-bin.tar.gz
# mv jdk1.8.0_181  /usr/local/jdk
# mv apache-tomcat-8.5.32 /usr/local/tomcat
# mv apache-maven-3.5.4 /usr/local/maven3.5

2.环境变量配置

# vim /etc/profile

添加以下信息

JAVA_HOME=/usr/local/jdk
PATH=$PATH:$JAVA_HOME/bin
export JAVA_HOME PATH
# source /etc/profile 
# java -version   #检查环境变量是否配置成功，查看java版本

返回结果

java version "1.8.0_181"
Java(TM) SE Runtime Environment (build 1.8.0_181-b13)
Java HotSpot(TM) 64-Bit Server VM (build 25.181-b13, mixed mode)

3. 启动Jenkins

(1) 部署Jenkins包

# rm -rf /usr/local/tomcat/webapps/ROOT
# unzip jenkins.war  -d /usr/local/tomcat/webapps/ROOT
# cd /usr/local/tomcat/bin ; ./startup.sh

(2) 获取Jenkins初始化密码

# tailf ../logs/catalina.out  #查看日志信息
# cat /root/.jenkins/secrets/initialAdminPassword //查看Jenkins初始化密码

4. 初始化 Jenkins

登陆地址: http://jenkins.brucefeng.com:8080

按照默认的方式进行安装便可，此处不深刻。

5. Jenkins Slave配置

Master/Slave至关于Server和agent的概念。Master提供web接口让用户来管理job和slave，job能够运行在master本机或者被分配到slave上运行。一个master能够关联多个slave用来为不一样的job或相同的job的不一样配置来服务。

(1) 建立认证方法

经过Jenkins与Docker构建CI/CD基础架构

点击Add credentials 建立新的凭据

经过Jenkins与Docker构建CI/CD基础架构

能够选择多种认证方式，通常咱们能够采用ssh的用户名跟密码或者秘钥登陆，此处我选择秘钥登陆。

(2) 新建Slave节点

Jenkins-Manage Jenkins-Manage Node-New Node
经过Jenkins与Docker构建CI/CD基础架构

注意配置项

  • Labels:docker01.brucefeng.com #用于标识Slave的标签
  • Remote root directory: /var/jenkins_home #用于指定经过jenkins构建的项目路径
  • JavaPath: /usr/local/jdk/bin/java #并不是JAVA_HOME的配置项

####6.配置Docker主机与Git服务器免密登陆

经过ssh-keygen与ssh-copy-id密码实现

六.经过Jenkins建立项目

1.新建任务

New Item 类型选择Pipeline,进行参数化设置

经过Jenkins与Docker构建CI/CD基础架构

选择字符串参数

经过Jenkins与Docker构建CI/CD基础架构

定义参数名为Tag，用于传入项目代码版本号

2.定义Pipline

关于Pipline就是一条任务流水线，便于分阶段执行与排错

经过Jenkins与Docker构建CI/CD基础架构

脚本内容以下

node ("docker01.brucefeng.com") {  //指定Slave的标签
    // 拉取代码，$Tag引用用户交互输入的tag
    stage('Git Checkout'){
                checkout([$class: 'GitSCM', branches: [[name: '$Tag']], doGenerateSubmoduleConfigurations: false, extensions: [], submoduleCfg: [], userRemoteConfigs: [[url: 'git@git.brucefeng.com:/home/git/solo.git']]])
       }
    // 代码编译   
    stage('Mavin Build')
    {
    sh '''
        export JAVA_HOME=/usr/local/jdk
        /usr/local/maven3.5/bin/mvn clean package -Dmaven.test.skip=true
    '''

    }

    // 项目打包到镜像并推送至镜像仓库
    stage('Build and Push Image'){
        sh '''
REPOSIROTY=reg.brucefeng.com/jenkins/solo:$Tag
cat > Dockerfile << EOF
FROM reg.brucefeng.com/libray/tomcat-85:latest
RUN rm -rf /usr/local/tomcat/webapps/ROOT
COPY target/*.war /usr/local/tomcat/webapps/ROOT.war
CMD ["catalina.sh","run"]
EOF
docker build -t $REPOSIROTY .
docker login -u brucefeng -p Cpic@1234 reg.brucefeng.com
docker push $REPOSIROTY
        '''
    }

    //根据$Tag做为镜像版本号
stage('Deploy to Docker'){
sh '''
REPOSIROTY=reg.brucefeng.com/jenkins/solo:$Tag
docker rm  -f blog-solo|true 
docker image rm $REPOSIROTY |true
docker login -u brucefeng -p Cpic@1234 reg.brucefeng.com
docker container run -d --name blog-solo  -p 88:8080 $REPOSIROTY
    '''
    }

}

3.模拟更新代码

# vim solo/src/main/resources/latke.properties

修改内容

# Browser visit domain name
serverHost=docker01.brucefeng.com
# Browser visit port, 80 as usual, THIS IS NOT SERVER LISTEN PORT!
serverPort=88

4.提交代码

# git add .
# git commit -m "modify latke.properties"
# git tag 1.0.1
# git push origin 1.0.1

5. 发布测试

经过Jenkins与Docker构建CI/CD基础架构

选择Build with Patameters

经过Jenkins与Docker构建CI/CD基础架构

填写Tag:1.0.1

经过Jenkins与Docker构建CI/CD基础架构

6.登陆访问

发布成功返回日志

Digest: sha256:dc45052ad607de3757d330c389071bcbd985dd9981aba1c4f8196d05265c62a8
Status: Downloaded newer image for reg.brucefeng.com/jenkins/solo:1.0.0
c639e3bd71ca3935486c9f49bb8ba414031dc85927664f2c0d5d8d7b5eef4066
[Pipeline] }
[Pipeline] // stage
[Pipeline] }
[Pipeline] // node
[Pipeline] End of Pipeline
Finished: SUCCESS

经过浏览器访问http://docker01.brucefeng.com:88
经过Jenkins与Docker构建CI/CD基础架构

更多内容，后续再聊。

相关文章
相关标签/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公众号
   欢迎关注本站公众号,获取更多信息
联系我们 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程