【OpenYurt 深度解析】边缘网关缓存能力的优雅实现

做者 | 何淋波（新胜）
来源 | 阿里巴巴云原生公众号

OpenYurt：延伸原生 K8s 的能力到边缘

阿里云边缘容器服务上线 1 年后，正式开源了云原生边缘计算解决方案 OpenYurt，跟其余开源的容器化边缘计算方案不一样的地方在于：OpenYurt 秉持 Extending your native Kubernetes to edge 的理念，对 Kubernetes 系统零修改，并提供一键式转换原生 Kubernetes 为 OpenYurt，让原生 K8s 集群具有边缘集群能力。

同时随着 OpenYurt 的持续演进，也必定会继续保持以下发展理念：

• 非侵入式加强 K8s
• 保持和云原生社区主流技术同步演进

OpenYurt 如何解决边缘自治问题

想要实现将 Kubernetes 系统延展到边缘计算场景，那么边缘节点将经过公网和云端链接，网络链接有很大不可控因素，可能带来边缘业务运行的不稳定因素，这是云原生和边缘计算融合的主要难点之一。

解决这个问题，须要使边缘侧具备自治能力，即当云边网络断开或者链接不稳定时，确保边缘业务能够持续运行。在 OpenYurt 中，该能力由 yurt-controller-manager 和 YurtHub 组件提供。

1. YurtHub 架构

在以前的文章中，咱们详细介绍了 YurtHub 组件的能力。其架构图以下：

图片连接

YurtHub 是一个带有数据缓存功能的“透明网关”，和云端网络断连状态下，若是节点或者组件重启，各个组件（kubelet/kube-proxy 等）将从 YurtHub 中获取到业务容器相关数据，有效解决边缘自治的问题。这也意味着咱们须要实现一个轻量的带数据缓存能力的反向代理。

2. 第一想法

实现一个缓存数据的反向代理，第一想法就是从 response.Body 中读取数据，而后分别返回给请求 client 和本地的 Cache 模块。伪代码以下：

func HandleResponse(rw http.ResponseWriter, resp *http.Response) {
        bodyBytes, _ := ioutil.ReadAll(resp.Body)
        go func() {
                // cache response on local disk
                cacher.Write(bodyBytes)
        }

        // client reads data from response
        rw.Write(bodyBytes)
}

当深刻思考后，在 Kubernetes 系统中，上述实现会引起下面的问题：

• 问题 1：流式数据须要如何处理(如: K8s 中的 watch 请求)，意味 ioutil.ReadAll() 一次调用没法返回全部数据。即如何能够返回流数据同时又缓存流数据。

• 问题 2：同时在本地缓存数据前，有可能须要对传入的 byte slice 数据先进行清洗处理。这意味着须要修改 byte slice，或者先备份 byte slice 再处理。这样会形成内存的大量消耗，同时针对流式数据，到底申请多大的 slice 也很差处理。

3. 优雅实现探讨

针对上面的问题，咱们将问题逐个抽象，能够发现更优雅的实现方法。

• 问题 1：如何对流数据同时进行读写

针对流式数据的读写(一边返回一边缓存)，以下图所示，其实须要的不过是把 response.Body(io.Reader) 转换成一个 io.Reader 和一个 io.Writer。或者说是一个 io.Reader 和 io.Writer 合成一个 io.Reader。这很容易就联想到 Linux 里面的 Tee 命令。

而在 Golang 中 Tee 命令是实现就是io.TeeReader，那问题 1 的伪代码以下：

func HandleResponse(rw http.ResponseWriter, resp *http.Response) {
        // create TeeReader with response.Body and cacher
        newRespBody := io.TeeReader(resp.Body, cacher)

        // client reads data from response
        io.Copy(rw, newRespBody)
}

经过 TeeReader 的对 Response.Body 和 Cacher 的整合，当请求 client 端从 response.Body 中读取数据时，将同时向 Cache 中写入返回数据，优雅的解决了流式数据的处理。

• 问题 2：如何在缓存前先清洗流数据

以下图所示，缓存前先清洗流数据，请求端和过滤端须要同时读取 response.Body（2 次读取问题）。也就是须要将 response.Body(io.Reader) 转换成两个 io.Reader。

也意味着问题 2 转化成：问题 1 中缓存端的 io.Writer 转换成 Data Filter 的 io.Reader。其实在 Linux 命令中也能找到相似命令，就是管道。所以问题 2 的伪代码以下：

func HandleResponse(rw http.ResponseWriter, resp *http.Response) {
        pr, pw := io.Pipe()
        // create TeeReader with response.Body and Pipe writer
        newRespBody := io.TeeReader(resp.Body, pw)
        go func() {
                // filter reads data from response 
                io.Copy(dataFilter, pr)
        }

        // client reads data from response
        io.Copy(rw, newRespBody)
}

经过 io.TeeReader 和 io.PiPe，当请求 client 端从 response.Body 中读取数据时，Filter 将同时从 Response 读取到数据，优雅的解决了流式数据的 2 次读取问题。

YurtHub 实现

最后看一下 YurtHub 中相关实现，因为 Response.Body 为 io.ReadCloser，因此实现了 dualReadCloser。同时 YurtHub 可能也面临对 http.Request 的缓存，因此增长了 isRespBody 参数用于断定是否须要负责关闭 response.Body。

// https://github.com/openyurtio/openyurt/blob/master/pkg/yurthub/util/util.go#L156
// NewDualReadCloser create an dualReadCloser object
func NewDualReadCloser(rc io.ReadCloser, isRespBody bool) (io.ReadCloser, io.ReadCloser) {
    pr, pw := io.Pipe()
    dr := &dualReadCloser{
        rc:         rc,
        pw:         pw,
        isRespBody: isRespBody,
    }

    return dr, pr
}

type dualReadCloser struct {
    rc io.ReadCloser
    pw *io.PipeWriter
    // isRespBody shows rc(is.ReadCloser) is a response.Body
    // or not(maybe a request.Body). if it is true(it's a response.Body),
    // we should close the response body in Close func, else not,
    // it(request body) will be closed by http request caller
    isRespBody bool
}

// Read read data into p and write into pipe
func (dr *dualReadCloser) Read(p []byte) (n int, err error) {
    n, err = dr.rc.Read(p)
    if n > 0 {
        if n, err := dr.pw.Write(p[:n]); err != nil {
            klog.Errorf("dualReader: failed to write %v", err)
            return n, err
        }
    }

    return
}

// Close close two readers
func (dr *dualReadCloser) Close() error {
    errs := make([]error, 0)
    if dr.isRespBody {
        if err := dr.rc.Close(); err != nil {
            errs = append(errs, err)
        }
    }

    if err := dr.pw.Close(); err != nil {
        errs = append(errs, err)
    }

    if len(errs) != 0 {
        return fmt.Errorf("failed to close dualReader, %v", errs)
    }

    return nil
}

在使用 dualReadCloser 时，能够在httputil.NewSingleHostReverseProxy的modifyResponse()方法中看到。代码以下：

// https://github.com/openyurtio/openyurt/blob/master/pkg/yurthub/proxy/remote/remote.go#L85
func (rp *RemoteProxy) modifyResponse(resp *http.Response) error {rambohe-ch, 10 months ago: • hello openyurt
            // 省略部分前置检查                                                          
            rc, prc := util.NewDualReadCloser(resp.Body, true)
            go func(ctx context.Context, prc io.ReadCloser, stopCh <-chan struct{}) {
                err := rp.cacheMgr.CacheResponse(ctx, prc, stopCh)
                if err != nil && err != io.EOF && err != context.Canceled {
                    klog.Errorf("%s response cache ended with error, %v", util.ReqString(req), err)
                }
            }(ctx, prc, rp.stopCh)

            resp.Body = rc
}

总结

OpenYurt 于 2020 年 9 月进入 CNCF 沙箱后，持续保持了快速发展和迭代，在社区同窗一块儿努力下，目前已经开源的能力有：

• 边缘自治
• 边缘单元化管理
• 云边协同运维
• 一键式无缝转换能力

同时在和社区同窗的充分讨论下，OpenYurt 社区也发布了2021 roadmap，欢迎有兴趣的同窗来一块儿贡献。
若是你们对 OpenYurt 感兴趣，欢迎扫码加入咱们的社区交流群，以及访问 OpenYurt 官网和 GitHub 项目地址：

• OpenYurt 官网：https://openyurt.io
• GitHub 项目地址：https://github.com/openyurtio/openyurt