在企业开发过程中,我们开发的功能或者是修复的BUG都需要部署到服务器上去,而这部分部署操作又是重复且繁琐的工作,GitLab-CI 持续集成为我们解决了这一痛点,将重复部署的工作自动化,大大的节省了程序员们的宝贵时间。本文详细讲述了 GitLab-CI 持续集成的安装、部署、以及配置。
文中的工具包有需要的话也可以私信博主哟~
一、概述
1.1、什么是CI/CD
CI/CD
属于 DevOps
,代表持续集成、持续交付/部署。CI/CD 自动化了传统上将新代码从提交到生产(例如构建、测试和部署)以及基础设施配置所需的大部分或全部手动人工干预。借助 CI/CD ,开发人员可以对代码进行更改,然后自动测试并推出以进行交付和部署。以实现停机时间最小化,代码发布速度更快。
1.2、持续集成(CI)
持续集成是在提交或合并代码时,自动测试每个更改,并自动启动构建。可以大大减少开发和运维人员的重复工作,可以在软件开发生命周期的更早阶段更轻松的发现并修复错误和安全问题。
1.3、持续交付(CD)
持续交付是一种软件开发实践,一般与持续集成结合使用,以自动化基础设置供应和应用程序发布过程。
一旦代码作为 CI 流程的一部分进行了测试和构建,持续交付将在最后阶段接管,以确保可以随时部署并将部署所需要的环境打包在一起。
通过持续交付,可以随时将构建的软件部署到生产环境。可以手动触发部署,也可以进行自动化部署。
二、CI/CD流水线
2.1、Pipeline
Pipeline 相当于构建任务,里面可以包含多个流程,如安装依赖、运行测试、编译、部署测试服务器、部署生产服务器等流程。
任何提交或合并代码都可以触发 Pipeline。
2.2、Stages
Stages 表示构建阶段,可以在一次 Pipeline 中定义多个 Stages。
Stages 有以下特点:
- 所有 Stages 会按照顺序运行,即当一个 Stage 完成后,下一个 Stage 才会开始
- 只有当所有 Stages 完成后,该构建任务 (Pipeline) 才会成功
- 如果任何一个 Stage 失败,那么后面的 Stages 不会执行,该构建任务 (Pipeline) 失败
2.3、Jobs
Jobs 表示构建工作,表示某个 Stage 里面执行的工作。可以在 Stages 里面定义多个 Jobs。
Jobs 有以下特点:
- 相同 Stage 中的 Jobs 会并行执行
- 相同 Stage 中的 Jobs 都执行成功时,该 Stage 才会成功
- 如果任何一个 Job 失败,那么该 Stage 失败,即该构建任务 (Pipeline) 失败
2.4、Runners
Runner 是一个在 GitLab CI/CD 管道中运行作业的应用程序。简而言之,就是由 Runner 来执行这些构建任务。
GitLab Runner 可以安装到不同的机器上,也可以在容器或 Kubernetes 集群中运行。Runner 在安装机器上处理作业,在构建任务运行期间并不会影响到 GitLab 的性能。
三、安装GitLab Runner
3.1、环境准备
创建目录
|---|-----------------------------------------|
| 1 | mkdir
-p ``/usr/local/docker/runner
|
|---|-----------------------------------------------------|
| 1 | mkdir
-p ``/usr/local/docker/runner/environment
|
下载 jdk-8u341-linux-x64.tar.gz
、apache-maven-3.5.3-bin.tar.gz
、settings.xml
、docker-compose
,并将其上传至 environment
目录
|-----------------|----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 1 2 3 4 5 6 7 8 | $ ll
total 197168
drwxr-xr-x 2 root root 4096 Dec 3 20:13 ./
drwxr-xr-x 3 root root 4096 Dec 3 20:13 ../
-rw-r--r-- 1 root root 8799579 Dec 3 20:13 apache-maven-3.5.3-bin.``tar``.gz
-rw-r--r-- 1 root root 44924928 Dec 3 20:13 docker-compose
-rw-r--r-- 1 root root 148162542 Dec 3 20:13 jdk-8u341-linux-x64.``tar``.gz
-rw-r--r-- 1 root root 10596 Dec 4 20:13 settings.xml
|
settings.xml 中增加了 maven 部署的 server 节点,否则项目 deploy 时会失败
3.2、创建Dockerfile
在environment
目录下创建 daemon.json
|---|-------------------------------------------------------|
| 1 | vi /usr/local/docker/runner/environment/daemon.json
|
内容如下:
|-----------------|----------------------------------------------------------------------------------------------------------------------------------------------------------|
| 1 2 3 4 5 6 7 8 | {
``"registry-mirrors"``: [
``"https://mirror.ccs.tencentyun.com"
``],
``"insecure-registries"``: [
``"192.168.110.158:5000"
``]
}
|
registry-mirrors
:为镜像加速地址,这里是使用的腾讯云的镜像加速地址。insecure-registries
:Docker仓库的IP。
注意:需要提前搭建Docker 私服(Docker Registry)
在environment
目录下创建 Dockerfile
|---|--------------------------------------------------------|
| 1 | vi
/usr/local/docker/runner/environment/Dockerfile
|
内容如下:
|----------------------------------------------------------------------------------------------------------------------------|-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 | FROM gitlab``/gitlab-runner``:v11.0.2
# 修改软件源
RUN ``echo
'deb http://mirrors.aliyun.com/ubuntu/ xenial main restricted universe multiverse'
> ``/etc/apt/sources``.list && \
``echo
'deb http://mirrors.aliyun.com/ubuntu/ xenial-security main restricted universe multiverse'
>> ``/etc/apt/sources``.list && \
``echo
'deb http://mirrors.aliyun.com/ubuntu/ xenial-updates main restricted universe multiverse'
>> ``/etc/apt/sources``.list && \
``echo
'deb http://mirrors.aliyun.com/ubuntu/ xenial-backports main restricted universe multiverse'
>> ``/etc/apt/sources``.list && \
``apt-get update -y && \
``apt-get clean
# 安装 Docker
RUN apt-get -y ``install
apt-transport-https ca-certificates curl software-properties-common && \
``curl -fsSL http:``//mirrors``.aliyun.com``/docker-ce/linux/ubuntu/gpg
| apt-key add - && \
``add-apt-repository ``"deb [arch=amd64] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable"
&& \
``apt-get update -y && \
``apt-get ``install
-y docker-ce
COPY daemon.json ``/etc/docker/daemon``.json
# 安装 Docker Compose
WORKDIR ``/usr/local/bin
COPY docker-compose ``/usr/local/bin
RUN ``chmod
+x docker-compose
# 安装 Java
RUN ``mkdir
-p ``/usr/local/java
WORKDIR ``/usr/local/java
COPY jdk-8u341-linux-x64.``tar``.gz ``/usr/local/java
RUN ``tar
-zxvf jdk-8u341-linux-x64.``tar``.gz && \
``rm
-fr jdk-8u341-linux-x64.``tar``.gz
# 安装 Maven
RUN ``mkdir
-p ``/usr/local/maven
WORKDIR ``/usr/local/maven
COPY apache-maven-3.5.3-bin.``tar``.gz ``/usr/local/maven
RUN ``tar
-zxvf apache-maven-3.5.3-bin.``tar``.gz && \
``rm
-fr apache-maven-3.5.3-bin.``tar``.gz
COPY settings.xml ``/usr/local/maven/apache-maven-3``.5.3``/conf/settings``.xml
# 配置环境变量
ENV JAVA_HOME ``/usr/local/java/jdk1``.8.0_341
ENV MAVEN_HOME ``/usr/local/maven/apache-maven-3``.5.3
ENV PATH $PATH:$JAVA_HOME``/bin``:$MAVEN_HOME``/bin
WORKDIR /
|
3.3、创建docker-compose
在runner
目录下创建 docker-compose.yml
|---|------------------------------------------------------|
| 1 | vi
/usr/local/docker/runner/docker-compose``.yml
|
内容如下:
|----------------------|----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 1 2 3 4 5 6 7 8 9 10 | version: ``'3.1'
services:
``gitlab-runner:
``build: environment
``restart: always
``container_name: gitlab-runner
``privileged: ``true
``volumes:
``- .``/config``:``/etc/gitlab-runner
``- ``/var/run/docker``.sock:``/var/run/docker``.sock
|
构建启动
|---|------------------------|
| 1 | docker-compose up -d
|
启动后,会自动进行构建
3.4、注册Runner
需要将每一个项目都注册 Runner。
进入到我们需要注册Runner的项目
点击设置
->CI/CD
,在右侧找到Runner
,点击展开
可以看到这个项目的 Runner 的详细信息,其中注册令牌是我们接下来注册 Runner 时必须要用到的
在 GitLab Runner 部署服务器上执行命令
|---|------------------------------------------------------------|
| 1 | docker ``exec
-it gitlab-runner gitlab-runner register
|
|----------------------------------------------------------|--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 | # 输入 GitLab 地址
Please enter the gitlab-ci coordinator URL (e.g. https:``//gitlab``.com/):
http:``//192``.168.110.158:8080/
# 输入 Gitlab-ci token
Please enter the gitlab-ci token ``for
this runner:
78qwWqvR9xDc5_BjYpwo
# 输入 Runner 的说明
Please enter the gitlab-ci description ``for
this runner:
[cdc79d8453ec]:
# 设置 Tag
Please enter the gitlab-ci tags ``for
this runner (comma separated):
deploy
# 选择 runner 执行器
Registering runner... succeeded runner=78qwWqvR
Please enter the executor: kubernetes, docker-``ssh``, parallels, virtualbox, docker-``ssh``+machine, docker, shell, ``ssh``, docker+machine:
shell
Runner registered successfully. Feel ``free
to start it, but ``if
it's running already the config should be automatically reloaded!
|
配置完后,项目中会显示一个有效可用的 runner
3.4、项目配置
项目中需要添加一个 .gitlab-ci.yml
文件,用于定义要运行的脚本。
3.4.1、依赖管理模块
刚刚在my-project-dependencies
项目中配置了 Runner,而 my-project-dependencies
项目只需要将其部署到 Nexus
私服中,所以此项目的 .gitlab-ci.yml
文件脚本内容就只需要将其deploy
到Nexus
即可。
内容如下:
|---------------|-------------------------------------------------------------------------------------------------------------------------------------|
| 1 2 3 4 5 6 7 | stages:
``- deploy
deploy:
``stage: deploy
``script:
``- ``/usr/local/maven/apache-maven-3``.5.3``/bin/mvn
deploy
|
项目结构图如下:
提交my-project-dependencies
项目,可以在GitLab看到我们刚刚创建的流水线
如果状态一直在运行中
,在设置里面的 Runner 中,勾选运行没有标签的作业
3.4.2、通用模块
my-project-common
通用模块,也需要注册Runner,这里就不重复赘述了,参考上文。
通用模块持续集成步骤:
- 清理
- 打包
.gitlab-ci.yml
文件内容如下:
|---------------|-------------------------------------------------------------------------------------------------------------------------------------------|
| 1 2 3 4 5 6 7 | stages:
``- deploy
deploy:
``stage: deploy
``script:
``- ``/usr/local/maven/apache-maven-3``.5.3``/bin/mvn
clean deploy
|
提交my-project-common
通用模块,可以在Nexus
中看到上传的jar
,持续集成成功。
3.4.3、服务模块
my-project-server
项目服务模块,同样需要注册Runner。
项目服务模块持续集成步骤:
- 打包构建Docker镜像
- 推送Docker仓库
- 运行容器
- 清理虚悬镜像
.gitlab-ci.yml
文件内容如下:
|----------------------------------------------------------------------------------|---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 | stages:
``- build
``- push
``- run
``- clean
build:
``stage: build
``script:
``- ``/usr/local/maven/apache-maven-3``.5.3``/bin/mvn
clean package -Dmaven.``test``.skip=``true
``- ``cp
target``/my-project-server-1``.0.0-SNAPSHOT.jar docker
``- ``cd
docker
``- docker build -t 192.168.110.158:5000``/my-project-server
.
push:
``stage: push
``script:
``- docker push 192.168.110.158:5000``/my-project-server
run:
``stage: run
``script:
``- ``cd
docker
``- docker-compose down
``- docker-compose up -d
clean:
``stage: clean
``script:
``- docker rmi $(docker images -q -f dangling=``true``)
|
docker 仓库地址更改为自己的IP
提交my-project-server
项目服务模块,查看构建结果
第一次最后一个步骤构建失败,是因为没有可删除的虚悬镜像,导致删除失败,这个不影响
构建成功,访问查询所有用户接口:
http://IP:8899/sys-user/get/all
可以访问Docker仓库,可以看到刚刚持续集成推送的镜像
|-----|----------------------------------------------------------------------------------------------|
| 1 2 | $ curl 192.168.110.158:5000``/v2/_catalog
{``"repositories"``:[``"my-project-server"``]}
|
到这里,项目的持续集成就完成啦!!!