在上次发布失败后,不少朋友建议咱们改用 k8s ,但咱们仍是想再试试 docker swarm ,实在不行再改用 k8s 。html
在改进了 docker swarm 集群的部署后,咱们准备今天 17:30 左右进行一次发布尝试。linux
docker swarm 集群是咱们使用阿里云服务器本身搭建的,此次进行了3方面的改进。nginx
1. 升级了 worker 节点服务器的配置docker
worker 节点由6台4核8G服务器换成了3台8核16G服务器,基于3点考虑:centos
1)提升单台服务器的处理能力;缓存
2)提升服务器的网络处理能力,阿里云的服务器配置越高,网络处理能力越强;服务器
3)减小服务器数量能够减小 docker swarm 节点之间的通讯开销。网络
2. 升级了 docker engine,由 18.09.4 升级至 19.03.1
socket
wget -c https://download.docker.com/linux/centos/7/x86_64/stable/Packages/containerd.io-1.2.6-3.3.el7.x86_64.rpm && \ wget -c https://download.docker.com/linux/centos/7/x86_64/stable/Packages/docker-ce-19.03.1-3.el7.x86_64.rpm && \ wget -c https://download.docker.com/linux/centos/7/x86_64/stable/Packages/docker-ce-cli-19.03.1-3.el7.x86_64.rpm && \ yum install -y containerd.io-1.2.6-3.3.el7.x86_64.rpm && \ yum install -y docker-ce-19.03.1-3.el7.x86_64.rpm && \ yum install -y docker-ce-cli-19.03.1-3.el7.x86_64.rpm
3. nginx 改用 host 网络模式部署tcp
ports: - target: 80 published: 80 protocol: tcp mode: host
另外,改进了博客系统缓存部分的代码,解决了新旧版切换时的缓存冲突问题。
此次发布若是遇到问题,咱们能够快速回退到旧版。
若是在发布过程当中出现问题影响您的正常访问,请您谅解。
------------------------------------------
发布过程记录
17:40 使用 nginx 转发,切换了1/5不到的流量就出现了1秒延迟的问题。
18:20 改成 kestrel 以端口映射的方式直接监听 80 端口,切换了1/3左右的流量,未出现延迟1秒的问题。
18:33 全部流量都已切换,未出现延迟1秒的问题。
如下是发布过程当中服务器同时链接数监控,使用 nginx 转发时,当同时链接数超过 40K ,全部请求都出现1秒延迟的问题。当改成 kestrel 直接监听80端口后,即便同时链接数超过 100K ,也没出现1秒延迟的问题。没想到1秒延迟居然是 nginx 的问题(或者是 nginx 对 docker swarm 的支持问题),不是 docker swarm 网络自己的问题。
21:00 今天发布后一直在线上,若是明天上午的访问高峰能撑住,那就说明发布成功了。
8月8日
9:15 左右,服务器同时链接数超过 130K ,3台服务器撑不住,加了1台服务器。
9:26 左右,memcached 客户端 socketPool 满了,将 maxPoolSize 由 500 修改成 800 。
2019-08-08 09:24:30.781 [Error] Pool is full, timeouting. 10.0.78.124:11211
10:15 左右,docker swarm 集群有增长了1台8核16G的服务器,目前一共5台 worker 节点。
11:05 更新:每台服务器上博客应用容器的的 CPU 消耗在 5-6 核,内存消耗在 1G 与 1.5G 之间。
11:05 左右,负载没有降低,咱们什么也没动,响应速度却出奇地稳定,而且与访问低峰时同样飞快。
13:30 更新:今天上午访问高峰时单台服务器同时链接数最高达到21万(监控数据来自阿里云云监控)。
17:10 更新:今天下午访问高峰期间,访问速度很不稳定。咱们正在考虑下一步的对策。
17:30 左右,当访问量回落到必定程度后, 访问速度恢复正常。