编写健壮且高性能的网络服务须要付出大量的努力。提升服务性能的方式有不少种,好比优化应用层的代码,更进一步,还能够看看垃圾回收器,操做系统,网络传输,以及部署咱们服务的硬件是否有优化空间。node
TCP/IP协议栈中的一些算法会影响到服务性能。本文将简单介绍其中的Nagle算法,与Nagle算法相关的socket选项TCP_NODELAY
,以及在Go语言中如何使用它。git
大部分平台上的TCP实现都提供了socket选项,用于控制链接生命周期,流量控制等算法。github
其中一个会对网络传输性能形成影响的算法是Nagle算法,它在Linux,macOS,Windows平台默认都是打开的。golang
Nagle算法的作法是:将要发送的小包合并,并延缓发送。延缓后的发送策略是,收到前一个发送出去的包的ACK确认包,或者必定时间后,收集了足够数量的小数据包。算法
Nagle算法的目的是减小发送小包的数量,从而减少带宽,并提升网络吞吐量,付出的代价是有时会增长服务的延时。(译者yoko注:补充解释一下为何减小小包的数量能够减少带宽。由于每一个TCP包,除了包体中包含的应用层数据外,外层还要套上TCP包头和IP包头。因为应用层要发送的业务数据量是固定的,因此包数量越多,包头占用的带宽也越多)shell
引入的延时一般在毫秒级别,可是对于延迟敏感的服务来讲,减小一些毫秒数的延迟也是值得的。缓存
Nagle算法所对应的TCP socket选项是TCP_NODELAY
。开启TCP_NODELAY
能够禁用Nagle算法。禁用Nagle算法后,数据将尽量快的被发送出去。网络
另外,咱们也能够在应用层对数据进行缓存合并发送来达到Nagle算法的目的(译者yoko注:在Go语言中即便用bufio.Writer
。我的认为,使用bufio.Writer
还有一个好处,就是减小了调用write系统调用的次数,可是相应的,增长了数据拷贝的开销)。并发
在Go语言中,TCP_NODELAY
默认是开启的,而且标准库提供了net.SetNodelay(bool)
方法来控制它。socket
咱们经过一个小实验来观察TCP_NODELAY
打开和关闭时底层TCP包的变化。
代码逻辑十分简单,client端连续调用5次conn.Write
函数向server端发送相同的字符串GOPHER
。
服务端代码(server.go):
package main import ( "bufio" "fmt" "log" "net" "strings" ) func main() { port := ":" + "8000" // 建立监听 l, err := net.Listen("tcp", port) if err != nil { log.Fatal(err) } defer l.Close() for { // 接收新的链接 c, err := l.Accept() if err != nil { log.Println(err) return } // 处理新的链接 go handleConnection(c) } } func handleConnection(c net.Conn) { fmt.Printf("Serving %s\n", c.RemoteAddr().String()) for { // 读取数据 netData, err := bufio.NewReader(c).ReadString('\n') if err != nil { log.Println(err) return } cdata := strings.TrimSpace(netData) if cdata == "GOPHER" { c.Write([]byte("GopherAcademy Advent 2019!")) } if cdata == "EXIT" { break } } c.Close() }
客户端代码(client.go):
package main import ( "fmt" "log" "net" ) func main() { target := "localhost:8000" raddr, err := net.ResolveTCPAddr("tcp", target) if err != nil { log.Fatal(err) } // 和服务端创建链接 conn, err := net.DialTCP("tcp", nil, raddr) if err != nil { log.Fatal(err) } // conn.SetNoDelay(false) // 若是打开这行代码,则禁用TCP_NODELAY,打开Nagle算法 fmt.Println("Sending Gophers down the pipe...") for i := 0; i < 5; i++ { // 发送数据 _, err = conn.Write([]byte("GOPHER\n")) if err != nil { log.Fatal(err) } } }
为了观察TCP包,首先开启抓包程序tcpdump。为了简单,两个程序都在本机运行。我环境的内网环路网卡为lo0
,不一样机器上可能不一样:
$sudo tcpdump -X -i lo0 'port 8000'
而后,再打开两个终端窗口,先执行服务端程序,再执行客户端程序:
$go run server.go
$go run client.go
观察抓包结果,咱们会发现每次调用write函数发送"GOPHER",对应的都是一个独立的TCP包被发送。总共有5个TCP包。如下是抓包结果,为了简单,我只贴出两个包:
.... 14:03:11.057782 IP localhost.58030 > localhost.irdmi: Flags [P.], seq 15:22, ack 1, win 6379, options [nop,nop,TS val 744132314 ecr 744132314], length 7 0x0000: 4500 003b 0000 4000 4006 0000 7f00 0001 E..;..@.@....... 0x0010: 7f00 0001 e2ae 1f40 80c5 9759 6171 9822 .......@...Yaq." 0x0020: 8018 18eb fe2f 0000 0101 080a 2c5a 8eda ...../......,Z.. 0x0030: 2c5a 8eda 474f 5048 4552 0a ,Z..GOPHER. 14:03:11.057787 IP localhost.58030 > localhost.irdmi: Flags [P.], seq 22:29, ack 1, win 6379, options [nop,nop,TS val 744132314 ecr 744132314], length 7 0x0000: 4500 003b 0000 4000 4006 0000 7f00 0001 E..;..@.@....... 0x0010: 7f00 0001 e2ae 1f40 80c5 9760 6171 9822 .......@...`aq." 0x0020: 8018 18eb fe2f 0000 0101 080a 2c5a 8eda ...../......,Z.. 0x0030: 2c5a 8eda 474f 5048 4552 0a ,Z..GOPHER. ...
若是咱们打开客户端中被注释掉的conn.SetNoDelay(false)
这行代码,也即禁用掉TCP_NODELAY
,开启Nagle算法,再次抓包,结果以下:
14:27:20.120673 IP localhost.64086 > localhost.irdmi: Flags [P.], seq 8:36, ack 1, win 6379, options [nop,nop,TS val 745574362 ecr 745574362], length 28 0x0000: 4500 0050 0000 4000 4006 0000 7f00 0001 E..P..@.@....... 0x0010: 7f00 0001 fa56 1f40 07c9 d46f a115 3444 .....V.@...o..4D 0x0020: 8018 18eb fe44 0000 0101 080a 2c70 8fda .....D......,p.. 0x0030: 2c70 8fda 474f 5048 4552 0a47 4f50 4845 ,p..GOPHER.GOPHE 0x0040: 520a 474f 5048 4552 0a47 4f50 4845 520a R.GOPHER.GOPHER.
能够看到,有四个"GOPHER"被合并到了一个TCP包中。
TCP_NODELAY
并非万能的,有好处有坏处,须要根据实际业务场景决定打开仍是关闭。可是,在使用具体语言编写网络服务时,咱们须要知道它是否被默认开启。
还有其余一些相似的socket选项,好比TCP_QUICKACK
和TCP_CORK
等。可是因为有些socket选项是平台相关的,所以Go没有提供和TCP_NODELAY
相同的方式来控制这些socket选项。咱们能够经过一些平台相关的包来实现这一点。好比说,在类unix系统下,咱们可使用golang.org/x/sys/unix
包中的SetsockoptInt
方法。
举例:
err = unix.SetsockoptInt(fd, unix.IPPROTO_TCP, unix.TCP_QUICKACK, 1) if err != nil { return os.NewSyscallError("setsockopt", err) }
最后,若是你想学习更多和Nagle算法相关的知识,能够看看这篇英文博客
英文原文连接:Control packet flow with TCP_NODELAY in Go
原文连接: https://pengrl.com/p/20191217/
原文出处: yoko blog ( https://pengrl.com)
原文做者: yoko ( https://github.com/q191201771)
版权声明: 本文欢迎任何形式转载,转载时完整保留本声明信息(包含原文连接、原文出处、原文做者、版权声明)便可。本文后续全部修改都会第一时间在原始地址更新。
本篇文章由一文多发平台ArtiPub自动发布