go micro 熔断与限流

本篇文章参考【Micro In Action(七)：熔断与限流】

https://medium.com/@dche423/m...

@dche423写的太好了，这里仅作部分摘录介绍

熔断

go micro 封装了hystrix-go，gobreaker，都在plugins下

下面是hystrix的例子

import (
    ...
    "github.com/micro/go-plugins/wrapper/breaker/hystrix/v2"
    ...
)
func main(){
    ...
    // New Service
    service := micro.NewService(
        micro.Name("com.foo.breaker.example"),
        micro.WrapClient(hystrix.NewClientWrapper()),
    )
    // Initialise service
    service.Init()
    ...
}

他的默认值超时时间是1000毫秒，最大并发数是10

// DefaultTimeout is how long to wait for command to complete, in milliseconds
    DefaultTimeout = 1000
    // DefaultMaxConcurrent is how many commands of the same type can run at the same time
    DefaultMaxConcurrent = 10

其余参数请见官网，https://github.com/afex/hystr...

若是须要修改其余参数，能够在服务service.init()后设置

import (
    ...
    hystrixGo "github.com/afex/hystrix-go/hystrix"
    "github.com/micro/go-plugins/wrapper/breaker/hystrix/v2"
    ...
)
func main(){
    ...
    // New Service
    service := micro.NewService(
        micro.Name("com.foo.breaker.example"),
        micro.WrapClient(hystrix.NewClientWrapper()),
    )
    // Initialise service
    service.Init()
    hystrix.DefaultMaxConcurrent = 3//change concurrrent to 3
    hystrix.DefaultTimeout = 200 //change timeout to 200 milliseconds
    ...
}

DefaultMaxConcurrent限制的是hystrix 中的 command

看看插件中是怎么定义的Call

func (c *clientWrapper) Call(ctx context.Context, req client.Request, rsp interface{}, opts ...client.CallOption) error {
    return hystrix.Do(req.Service()+"."+req.Endpoint(), func() error {
        return c.Client.Call(ctx, req, rsp, opts...)
    }, nil)
}

都是return的hystrix.Do(), 他的参数没有包含节点信息，这意味着对于同一个服务，部署单个仍是多个节点对于熔断来讲是没有区别的，全部节点都共享一组限制

现实项目中，不一样服务的负载能力是不一样的，go micro能够为不一样的服务设置不一样的熔断限制

hystrix.ConfigureCommand("com.serviceA.methodFoo",
    hystrix.CommandConfig{
        MaxConcurrentRequests: 50,
        Timeout:               10,
    })
hystrix.ConfigureCommand("com.serviceB.methodBar",
    hystrix.CommandConfig{
        Timeout: 60,
    })

小结： 熔断功能做用于客户端，设置恰当阈值之后， 它能够保障客户端资源不会被耗尽 —— 哪怕是它所依赖的服务处于不健康的状态，也会快速返回错误，而不是让调用方长时间等待。

限流

在服务端生效，它的做用是保护服务器：避免服务器由于客户端的疯狂调用而总体垮掉。

go micro 封装了2个限流包ratelimiter/uber，ratelimiter/ratelimit，都在plugins下

这里演示uber的https://github.com/micro/go-p...

package main

import (
    ...
    limiter "github.com/micro/go-plugins/wrapper/ratelimiter/uber/v2"
    ...
)

func main() {
    const QPS = 100
    // New Service
    service := micro.NewService(
        micro.Name("com.foo.srv.hello"),
        micro.Version("latest"),
        micro.WrapHandler(limiter.NewHandlerWrapper(QPS)),
    )

    ...
}

默认QPS上限为100。这个限制由此服务的全部handler全部method 共享。换句话说，此限制的做用域是服务级别的。

其余设置和熔断的设置相似，具体使用请见官方的文档。

总结：

熔断的出发点是保护客户端， 不被外部服务的问题所拖累， 永远快速响应（哪怕获得一个错误，也好于长时间等待）。 永远避免资源的过分消耗。

限流的出发点是保护服务器。 只处理本身能力以内的流量，实现过载保护。 当流量超过设定限制时当即返回错误。

go micro 分析系列文章
go micro server 启动分析
go micro client
go micro broker
go micro cmd
go micro config
go micro store
go micro registry
go micro router
go micro runtime
go micro transport
go micro web
go micro registry 插件consul
go micro plugin
go micro jwt 网关鉴权
go micro 链路追踪
go micro 熔断与限流
go micro wrapper 中间件
go micro metrics 接入Prometheus、Grafana