nginx 代理缓存

nginx proxy 缓存简介

转自：https://mp.weixin.qq.com/s/DRTWuwiB6gdrRVEP6UWBAg

nginx 将用户已经访问过的内容保留在 nginx 服务器本地，这样在一段时间内用户再次访问该数据，就不须要 nginx 服务器对后端服务器发请求，减小 nginx 和后端服务器之间的网络阻塞，减少数据延迟，提升用户访问速度。即便后端服务器宕机，nginx 的 cache 也会返回给客户端请求，不至于服务不可用。 proxy cache 是把请求的连接用 md5 编码 hash 后保存，因此它能够支持任意连接，同时也支持 404/301/302 这样的非 200 状态。

nginx proxy cache 缓存配置

配置样例

proxy_cache_path /home/work/nginx/proxy_cache levels=1:2 keys_zone=cache:2g inactive=2d max_size=8g;
location ~ ^/api {
      proxy_buffering on;
      proxy_upstream_tries 2;
      proxy_cache cache;
      proxy_cache_valid 200 304 15m;
      proxy_cache_key $host$uri?Accept-Encoding=$http_accept_encoding;
      proxy_ignore_headers "Cache-Control" "Expires" ;
}

配置项说明
proxy_cache_path：本地路径，缓存文件存放路径。
levels：cache 目录的层次，使用 2 级目录来存储缓存文件。
keys_zone： 在共享内存中设置一块存储区域来存放缓存的 key 和 metadata（相似使用次数），这样 nginx 能够快速判断一个 request 是否命中或者未命中缓存，1m 能够存储 8000 个 key，10m 能够存储 80000 个 key。
inactive : 未被访问文件在缓存中保留时间，本配置中若是 2 天未被访问，缓存控制程序会删掉文件，默认为 10 分钟。
max_size : 最大 cache 空间，若是不指定，会使用掉全部 disk space，当达到配额后，会删除最少使用的 cache 文件。
proxy_cache : 启用 proxy cache，指定 key_zone。
proxy_cache_valid： 设置不一样相应码的缓存时间，当不指定响应码的时候，例如 proxy_cache_valid 5m; 只对响应码为 200，301，302 的访问请求资源设置缓存时间。
proxy_cache_key：若某个接口返回的值基本不变，或者是特定类别的，就能够根据请求的 url 的参数，自定义 cache key。
proxy_ignore_headers：禁止处理来自代理服务器的应答，能够设置的字段有 ”X-Accel-Redirect”, “X-Accel-Expires”, “Expires” 或”Cache-Control。
注意：proxy_cache_key 压缩方式 Accept-Encoding 应该指定为通用压缩格式，防止客户端不支持某种压缩方式。
nginx log 里能够添加缓存命中状态，便于查看是否命中，统计缓存命中率，具体能够以下定义格式：

log_format  main  '$remote_addr - $remote_user [$time_local] "$host|$request" $status $body_bytes_sent '
        '$request_length $request_body "$http_referer" "$http_user_agent" "$scheme" "$http_x_forwarded_for" '
        '"$upstream_cache_status" "$http_accept_encoding" "$upstream_addr" "$request_time_usec" "$request_time_msec" '
        '"$request_time" "$upstream_response_time"';

$upstream_cache_status 包含如下几种状态：
MISS：未命中，请求被传到后端
HIT：缓存命中
EXPIRED：缓存过时，请求被传到后端
UPDATING：缓存正在更新，使用旧缓存应答
STALE：后端将获得过时的应答

故障时利用 cache 对服务降级

当调用后端接口暂时故障时，好比用手机看视频拿不到播放数据，或者不出广告，这时候若是有 cache，nginx 会返回给客户端以前暂存的缓存数据，或者提早准备好的静态页面，用户不至于面对一个空白页面。对于重要的一级接口，能够天天请求一次填充 cache 到备份 nginx 服务器，即便线上后端接口彻底不可用，流量冗余到备份服务器，对用户体验也不会有很大影响。

cache 优化

nginx 只有硬盘级别 cache，没有内置内存级别的 cache，为了利用内存加速，减小服务器响应时间，能够将 cache 目录挂载到 / dev/shm 内存目录。
mount --bind /dev/shm/proxy_cache /home/work/nginx/proxy_cache
线上流量相差不大的状况下，将 cache 目录挂载到内存与未挂载到内存的耗时对比，仍是有明显差距，将 cache 目录挂载到内存中，响应时间能够缩短 7 倍以上。

总结

缓存不是什么高深技术，可是正确利用缓存，在业务遭受大流量冲击下，会起到重要做用，缓存的 key 设置需合理，避免不正确缓存。

参考资料

http://nginx.org/en/docs/http/ngx_http_proxy_module.html
http://www.alonely.com.cn/Nginx/20160827/18993.html