优化 TCP 以提高 GCP 和混合方案中的网络性能

本文向您介绍如何缩短 Google Cloud Platform (GCP) 中流程之间的连接延迟时间,此外还概述了计算正确设置以缩短 TCP 连接延迟时间的方法。

现代微服务架构主张,开发者应该构建处理单一任务的小型服务。服务应根据系统的可靠性预期使用 TCP 或 UDP 进行通信。因此,确保基于微服务的系统能够可靠且低延迟地进行通信就变得至关重要。

GCP 提供全球网络,因而可实现可靠性和低延迟,这意味着我们的用户也可以走向全球。拥有全球网络意味着用户可以轻松地创建跨多个区域和地区VPC。应用可以跨区域和地区相互连接,甚至都无需离开 GCP 网络。

针对传统数据中心环境编写的应用在迁移到混合云环境后可能会变得性能缓慢。混合云环境是指一些应用组件在企业数据中心运行,而其他组件在云端运行。性能缓慢可能是许多因素造成的。本文重点讨论往返延迟,以及延迟如何影响在网络各部分移动大量数据的应用中的 TCP 性能。

问题:延迟和 TCP 行为

TCP 使用窗口机制来防止快速发送方超越慢速接收方。接收方通告发送方在必须等待来自接收方的窗口更新之前,应发送多少数据。因此,在接收方应用无法通过连接收到数据时,可排队等待应用的数据量是有一定限制的。

TCP 窗口使得发送方和接收方系统上的内存能得到更高效的利用。当接收方应用处理数据时,将向发送方发送窗口更新。窗口更新最快可在一次往返之内发生,从而得出以下公式,这是 TCP 连接的批量传输性能受到的限制之一:

吞吐量 <= 窗口大小/往返时间 (RTT) 延迟

在 TCP 的原始设计中,此窗口的大小上限为 65535 字节 (64 KiB - 1)。这是发送方在收到允许发送更多数据的窗口更新之前,可以发送的最大数据量。

TCP 自引入以来发生的改变

TCP 自引入以来,一些关键功能已经改变:

  • 典型的网络速度增加了四个数量级。
  • 系统中的典型内存增加了四个数量级。

第一项改变的结果是原始 TCP 窗口大小导致网络资源的使用效率低下。发送方会在网络条件下以尽可能最快的速度发送一个窗口的数据,然后在等待 TCP 窗口更新期间闲置相当长的时间。第二项改变的结果是发送方和接收方可以使用更多的内存进行联网,以解决第一项改变所暴露的限制。

下图说明了这种改变。

发送方仅发送 64K 数据,然后花费很长时间等待窗口更新

发送方无法充分利用网络,因为它需要等待 TCP 窗口更新才能发送更多数据。

一次发送更多数据

解决方案是一次发送更多数据。随着网络带宽的增加,更多数据可以容纳到管道(网络)中,并且随着管道变得越来越长,确认收到数据需要更长的时间。这种关系称为带宽时延乘积 (BDP)。该值的计算方法是,用带宽乘以往返时间 (RTT),得到的值就代表为填满管道应发送的最佳位数。公式如下:

BDP(位)= 带宽(位/秒)* RTT(秒)

计算得出的 BDP 用作优化建议的 TCP 窗口大小。

例如,假设您有一个 10 Gbps 的网络,RTT 为 30 毫秒。对于窗口大小,请使用原始 TCP 窗口大小的值(65535 字节)。该值远不能充分利用带宽能力。此链接上可能的最大 TCP 性能如下:

(65535 字节 * 8 位/字节)= 带宽 * 0.030 秒
带宽 =(65535 字节 * 8 位/字节)/0.030 秒
带宽 = 524280 位/0.030 秒
带宽 = 17476000 位/秒

换句话说,这些值产生的吞吐量略超过每秒 17 Mbit,这仅发挥了 10 Gbps 网络的一小部分能力。

解决方案:TCP 窗口大小缩放

为了解决 TCP 窗口大小的原始设计所施加的性能限制,我们引入了 TCP 协议的扩展,允许将窗口大小扩张到更大的值。窗口缩放支持将窗口扩大到最多 1073725440 字节(接近 1 GiB)。RFC 1323 中的 TCP 窗口缩放选项部分简要介绍了此功能。

窗口缩放扩展将 TCP 窗口的定义扩展为使用 32 位,然后使用缩放因子在 TCP 标头的 16 位窗口字段中包含此 32 位值。要查看是否在基于 Linux 的系统上启用了该功能,请使用以下命令:

sudo sysctl net.ipv4.tcp_window_scaling

(默认情况下,所有 GCP Linux 虚拟机都启用此功能。)返回值 1 表示该选项已启用。如果该功能被停用,则可以使用以下命令进行启用:

sudo sysctl -w net.ipv4.tcp_window_scaling=1

具有更大窗口大小的吞吐量

您可以使用前面的示例来演示窗口缩放的好处。如前所述,假设一个具有 30 毫秒延迟的 10 Gbps 网络,然后使用以下公式计算新的窗口大小:

(链接速度 * 延迟)/8 位 = 窗口大小

如果代入示例数字,会得到:

(10 Gbps * 30 毫秒/1000 秒)/8位/字节 = 窗口大小
(10000 Mbps * 0.030 秒)/8 位/字节 = 37.5 MB

将 TCP 窗口大小增加到 37 MB 可以将 TCP 批量传输性能的理论限制提高到接近网络性能上限的值。当然,许多其他因素也可能会限制性能,包括系统开销、平均数据包大小以及共享链接的其他流的数量,但正如您所看到的,该窗口大小可以显著减轻先前受限窗口大小所施加的限制。

设置 Linux 可调参数以更改 TCP 窗口大小

在 Linux 中,TCP 窗口大小受以下 sysctl(8) 可调参数的影响:

net.core.rmem_max
net.core.wmem_max
net.ipv4.tcp_rmem
net.ipv4.tcp_wmem

前两个可调参数会影响尝试直接控制 TCP 窗口大小的应用的最大 TCP 窗口大小,方法是将应用的请求限制为不超过这些值。后两个可调参数会影响允许 Linux 自动调整运行的应用的 TCP 窗口大小。

最佳窗口大小值取决于您的具体情况,但您可以从希望系统发送数据的一条或多条路径的最大 BDP(带宽时延乘积)着手。在这种情况下,可使用以下步骤设置可调参数:

  1. 确保您具有 root 权限。
  2. 获取当前缓冲区设置。保存这些设置以备您想要回滚这些更改。

    sudo sysctl -a | grep mem
    
  3. 将环境变量设置为要使用的新 TCP 窗口大小:

    MaxExpectedPathBDP=8388608
    
  4. 为所有类型的连接设置最大 OS 接收缓冲区大小:

    sudo sysctl -w net.core.rmem_max=$MaxExpectedPathBDP
    
  5. 为所有类型的连接设置最大 OS 发送缓冲区大小:

    sudo sysctl -w net.core.wmem_max=$MaxExpectedPathBDP
    
  6. 设置 TCP 接收内存缓冲区 (tcp_rmem):

    sudo sysctl -w net.ipv4.tcp_rmem="4096 87380 $MaxExpectedPathBDP"
    

    tcp_rmem 设置使用三个值:

    • 可以为 TCP 套接字分配的最小接收缓冲区大小。在此示例中,该值为 4096 字节。
    • 默认接收缓冲区大小,它还会替换其他协议使用的 /proc/sys/net/core/rmem_default 值。在该示例中,值为 87380 字节。
    • 可以为 TCP 套接字分配的最大接收缓冲区大小。在该示例中,该值设置为您之前设置的值(8388608 字节)。
  7. 设置 TCP 发送内存缓冲区 (tcp_wmem):

    sudo sysctl -w net.ipv4.tcp_wmem="4096 16384 $MaxExpectedPathBDP"
    

    tcp_wmem 设置使用三个值:

    • 可用于单个 TCP 套接字的最小 TCP 发送缓冲区空间。
    • 单个 TCP 套接字允许的默认缓冲区空间。
    • 最大 TCP 发送缓冲区空间。
  8. 设置可调参数,以便后续连接使用您指定的值:

    sudo sysctl -w net.ipv4.route.flush=1
    

要使这些设置能够在重新启动后保留,请将先前设置的命令附加到 /etc/sysctl.conf 文件中:

sudo bash -c 'cat << EOF >> /etc/sysctl.conf
net.core.rmem_max=8388608
net.core.wmem_max=8388608
net.ipv4.tcp_rmem=4096 87380 8388608
net.ipv4.tcp_wmem=4096 16384 8388608
net.ipv4.route.flush=1
EOF'

使用更新的窗口大小测试 RTT

当 TCP 窗口足够大,可以充分利用 BDP 时,局面就会发生变化,如下图所示:

发送方一次发送大量数据,并且花费很短时间等待窗口更新

TCP 窗口大小始终可以根据所涉及的过程可用的资源和使用的 TCP 算法进行调整。如图所示,窗口缩放功能使连接远远超出原始 TCP 规范中定义的 65 KiB 的窗口大小。

您可以自己测试一下。首先,确保您已通过在本地机器和远程机器上设置可调参数,更改了两个机器的 TCP 窗口大小。然后运行以下命令:

dd if=/dev/urandom of=sample.txt bs=1M count=1024 iflag=fullblock
scp sample.txt your_username@remotehost.com:/some/remote/directory

第一个命令创建一个包含随机数据的 1 GB sample.txt 文件。第二个命令将该文件从本地机器复制到远程机器。

请注意控制台上的 scp 命令输出,其中显示的带宽单位为 Kbps。您应该看到 TCP 窗口大小更改之前和之后的结果相差甚远。

后续步骤

  • 阅读提高 GCP 网络性能的 5 个步骤的相关博文。
  • 了解全球网络产品
  • 详细了解 Google Cloud Platform 上的网络层级
  • 了解 Iperf,这是一款常用的网络测试工具,可以创建 TCP/UDP 数据流并测量承载这些数据流的网络的吞吐量。
  • 学习使用另一个优秀的网络测试工具 NetperfPerfKitBenchmark 套件也使用该工具来对比测试各种云提供商的性能和进行基准化分析。
  • 亲自试用其他 Google Cloud Platform 功能。查阅我们的教程
此页内容是否有用?请给出您的反馈和评价:

发送以下问题的反馈:

此网页
Solutions