[译] Go语言使用TCP_NODELAY控制发包流量

编写健壮且高性能的网络服务须要付出大量的努力。提升服务性能的方式有不少种，好比优化应用层的代码，更进一步，还能够看看垃圾回收器，操做系统，网络传输，以及部署咱们服务的硬件是否有优化空间。

TCP/IP协议栈中的一些算法会影响到服务性能。本文将简单介绍其中的Nagle算法，与Nagle算法相关的socket选项TCP_NODELAY，以及在Go语言中如何使用它。

理论

大部分平台上的TCP实现都提供了socket选项，用于控制链接生命周期，流量控制等算法。

其中一个会对网络传输性能形成影响的算法是Nagle算法，它在Linux，macOS，Windows平台默认都是打开的。

Nagle算法的作法是：将要发送的小包合并，并延缓发送。延缓后的发送策略是，收到前一个发送出去的包的ACK确认包，或者必定时间后，收集了足够数量的小数据包。

Nagle算法的目的是减小发送小包的数量，从而减少带宽，并提升网络吞吐量，付出的代价是有时会增长服务的延时。（译者yoko注：补充解释一下为何减小小包的数量能够减少带宽。由于每一个TCP包，除了包体中包含的应用层数据外，外层还要套上TCP包头和IP包头。因为应用层要发送的业务数据量是固定的，因此包数量越多，包头占用的带宽也越多）

引入的延时一般在毫秒级别，可是对于延迟敏感的服务来讲，减小一些毫秒数的延迟也是值得的。

Nagle算法所对应的TCP socket选项是TCP_NODELAY。开启TCP_NODELAY能够禁用Nagle算法。禁用Nagle算法后，数据将尽量快的被发送出去。

另外，咱们也能够在应用层对数据进行缓存合并发送来达到Nagle算法的目的（译者yoko注：在Go语言中即便用bufio.Writer。我的认为，使用bufio.Writer还有一个好处，就是减小了调用write系统调用的次数，可是相应的，增长了数据拷贝的开销）。

在Go语言中，TCP_NODELAY默认是开启的，而且标准库提供了net.SetNodelay(bool)方法来控制它。

实验

咱们经过一个小实验来观察TCP_NODELAY打开和关闭时底层TCP包的变化。

代码逻辑十分简单，client端连续调用5次conn.Write函数向server端发送相同的字符串GOPHER。

服务端代码（server.go）：

package main

import (
    "bufio"
    "fmt"
    "log"
    "net"
    "strings"
)

func main() {
    port := ":" + "8000"

    // 建立监听
    l, err := net.Listen("tcp", port)
    if err != nil {
        log.Fatal(err)
    }
    defer l.Close()

    for {
        // 接收新的链接
        c, err := l.Accept()
        if err != nil {
            log.Println(err)
            return
        }

        // 处理新的链接
        go handleConnection(c)
    }
}
func handleConnection(c net.Conn) {
    fmt.Printf("Serving %s\n", c.RemoteAddr().String())

    for {
        // 读取数据
        netData, err := bufio.NewReader(c).ReadString('\n')
        if err != nil {
            log.Println(err)
            return
        }

        cdata := strings.TrimSpace(netData)
        if cdata == "GOPHER" {
            c.Write([]byte("GopherAcademy Advent 2019!"))
        }

        if cdata == "EXIT" {
            break
        }
    }
    c.Close()
}
复制代码

客户端代码（client.go）：

package main

import (
    "fmt"
    "log"
    "net"
)

func main() {
    target := "localhost:8000"

    raddr, err := net.ResolveTCPAddr("tcp", target)
    if err != nil {
        log.Fatal(err)
    }

    // 和服务端创建链接
    conn, err := net.DialTCP("tcp", nil, raddr)
    if err != nil {
        log.Fatal(err)
    }

    // conn.SetNoDelay(false) // 若是打开这行代码，则禁用TCP_NODELAY，打开Nagle算法

    fmt.Println("Sending Gophers down the pipe...")

    for i := 0; i < 5; i++ {
        // 发送数据
        _, err = conn.Write([]byte("GOPHER\n"))
        if err != nil {
            log.Fatal(err)
        }
    }
}
复制代码

为了观察TCP包，首先开启抓包程序tcpdump。为了简单，两个程序都在本机运行。我环境的内网环路网卡为lo0，不一样机器上可能不一样：

$sudo tcpdump -X -i lo0 'port 8000'
复制代码

而后，再打开两个终端窗口，先执行服务端程序，再执行客户端程序：

$go run server.go
复制代码

$go run client.go
复制代码

观察抓包结果，咱们会发现每次调用write函数发送"GOPHER"，对应的都是一个独立的TCP包被发送。总共有5个TCP包。如下是抓包结果，为了简单，我只贴出两个包：

....
14:03:11.057782 IP localhost.58030 > localhost.irdmi: Flags [P.], seq 15:22, ack 1, win 6379, options [nop,nop,TS val 744132314 ecr 744132314], length 7
        0x0000:  4500 003b 0000 4000 4006 0000 7f00 0001  E..;..@.@.......
        0x0010:  7f00 0001 e2ae 1f40 80c5 9759 6171 9822  .......@...Yaq." 0x0020: 8018 18eb fe2f 0000 0101 080a 2c5a 8eda ...../......,Z.. 0x0030: 2c5a 8eda 474f 5048 4552 0a ,Z..GOPHER. 14:03:11.057787 IP localhost.58030 > localhost.irdmi: Flags [P.], seq 22:29, ack 1, win 6379, options [nop,nop,TS val 744132314 ecr 744132314], length 7 0x0000: 4500 003b 0000 4000 4006 0000 7f00 0001 E..;..@.@....... 0x0010: 7f00 0001 e2ae 1f40 80c5 9760 6171 9822 .......@...`aq."
        0x0020:  8018 18eb fe2f 0000 0101 080a 2c5a 8eda  ...../......,Z..
        0x0030:  2c5a 8eda 474f 5048 4552 0a              ,Z..GOPHER.

...
复制代码

若是咱们打开客户端中被注释掉的conn.SetNoDelay(false)这行代码，也即禁用掉TCP_NODELAY，开启Nagle算法，再次抓包，结果以下：

14:27:20.120673 IP localhost.64086 > localhost.irdmi: Flags [P.], seq 8:36, ack 1, win 6379, options [nop,nop,TS val 745574362 ecr 745574362], length 28
        0x0000:  4500 0050 0000 4000 4006 0000 7f00 0001  E..P..@.@.......
        0x0010:  7f00 0001 fa56 1f40 07c9 d46f a115 3444  .....V.@...o..4D
        0x0020:  8018 18eb fe44 0000 0101 080a 2c70 8fda  .....D......,p..
        0x0030:  2c70 8fda 474f 5048 4552 0a47 4f50 4845  ,p..GOPHER.GOPHE
        0x0040:  520a 474f 5048 4552 0a47 4f50 4845 520a  R.GOPHER.GOPHER.
复制代码

能够看到，有四个"GOPHER"被合并到了一个TCP包中。

结论

TCP_NODELAY并非万能的，有好处有坏处，须要根据实际业务场景决定打开仍是关闭。可是，在使用具体语言编写网络服务时，咱们须要知道它是否被默认开启。

还有其余一些相似的socket选项，好比TCP_QUICKACK和TCP_CORK等。可是因为有些socket选项是平台相关的，所以Go没有提供和TCP_NODELAY相同的方式来控制这些socket选项。咱们能够经过一些平台相关的包来实现这一点。好比说，在类unix系统下，咱们可使用golang.org/x/sys/unix包中的SetsockoptInt方法。

举例：

err = unix.SetsockoptInt(fd, unix.IPPROTO_TCP, unix.TCP_QUICKACK, 1)
if err != nil {
  return os.NewSyscallError("setsockopt", err)
}
复制代码

最后，若是你想学习更多和Nagle算法相关的知识，能够看看这篇英文博客

英文原文连接：Control packet flow with TCP_NODELAY in Go

原文连接： pengrl.com/p/20191217/
原文出处： yoko blog (pengrl.com)
原文做者： yoko (github.com/q191201771)
版权声明： 本文欢迎任何形式转载，转载时完整保留本声明信息（包含原文连接、原文出处、原文做者、版权声明）便可。本文后续全部修改都会第一时间在原始地址更新。

本篇文章由一文多发平台ArtiPub自动发布