在 Web 服务中，限流是保护系统免受恶意攻击和过载的重要手段。Nginx 的 limit_req_zone 模块提供了灵活的限流机制，其中 burst 参数允许缓存处理一定程度的突发请求，从而平滑流量。然而，当 burst 队列设置得较大时，请求排队时间变长，导致用户响应时间（RT）增加，影响用户体验。为了解决这个问题，Nginx 引入了 nodelay 参数，它允许请求在排队时立即被处理。本文将详细介绍 burst 和 nodelay 参数的作用，并通过实际测试展示其效果。
配置基础
首先，我们回顾一下基本的限流配置，并引入 burst 参数：
http {
limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;
}
server {
listen 80;
server_name example.com;
location / {
limit_req zone=mylimit burst=4;
}
}
在这个配置中，每个 IP 的请求速率被限制为每秒 2 次，同时允许最多 4 个突发请求进入队列缓存处理。如果突发请求超过 4 个，多余的请求将被拒绝或延迟处理。
引入 nodelay 参数
为了优化请求排队时间，我们可以在 location 块中使用 nodelay 参数。 nodelay 参数与 burst 一起使用时，允许请求在进入 burst 队列后立即被后台 worker 处理，而不是等待前面的请求处理完。以下是修改后的配置：
http {
limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;
}
server {
listen 80;
server_name example.com;
location / {
limit_req zone=mylimit burst=4 nodelay;
}
}
在这个配置中， nodelay 参数的加入意味着只要请求能够进入 burst 队列，就会立即被处理，而不需要等待前面的请求按照限流速率逐个处理完。
nodelay 的影响
使用 nodelay 参数后，系统瞬间的 QPS（每秒查询率）可能会超过 rate 设置的阈值。这是因为 nodelay 允许突发请求立即被处理，而不是按照 rate 的速率平滑处理。然而，这种瞬间的超载通常是可接受的，因为它仅限于 burst 队列中的请求数量，并且可以被系统快速处理。
实际测试
为了验证 burst 和 nodelay 参数的效果，我们可以进行以下测试：
测试环境：
- Nginx 服务器已配置好上述限流规则。
- 使用 Apache Bench 或自定义脚本发送请求。
测试案例：
- 单个 IP 在短时间内发送 6 个请求。
测试命令（使用 Apache Bench）：
ab -n 6 -c 6 http://example.com/
-n 6：表示总共发送 6 个请求。-c 6：表示同时并发 6 个请求。
预期结果：
- 前 4 个请求：由于
burst=4且nodelay被设置，这 4 个请求将立即被处理。 - 后 2 个请求：由于已经超过了
burst允许的突发请求数，这 2 个请求可能会被拒绝，或者根据 Nginx 的处理机制和系统负载，可能会被延迟处理（但这取决于具体的请求处理时间和 Nginx 的配置）。
实际运行结果：
- 在 Apache Bench 的输出结果中，可能会看到大部分请求成功，部分请求失败。
- 成功的请求数应该接近或等于
burst值（4 个），并且这些请求的处理时间应该相对较短，因为nodelay允许它们立即被处理。 - 失败的请求数应该等于或少于超出
burst值的请求数（2 个）。
示例输出（可能因环境而异）：
This is ApacheBench, Version 2.3 <$Revision: 1807734 $>
Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Licensed to The Apache Software Foundation, http://www.apache.org/
Benchmarking example.com (be patient)
Server Software: nginx/1.21.6
Server Hostname: example.com
Server Port: 80
Document Path: /
Document Length: 0 bytes
Concurrency Level: 6
Time taken for tests: 0.015 seconds
Complete requests: 6
Failed requests: 2 (Connect: 0, Length: 0, Exceptions: 2)
Total transferred: 960 bytes
HTML transferred: 0 bytes
Requests per second: 400.00 [#/sec] (mean)
Time per request: 15.000 [ms] (mean)
Time per request: 2.500 [ms] (mean, across all concurrent requests)
Transfer rate: 62.50 [Kbytes/sec] received
...
（注意：实际输出可能会因网络延迟、服务器性能等因素有所不同。）
分析：
- 在这个测试中，有 2 个请求失败，这符合我们的预期，因为
burst=4只允许 4 个突发请求。 - 成功的请求数为 4，且由于
nodelay的作用，这些请求的处理时间相对较短。
结论
通过引入 nodelay 参数，Nginx 能够更高效地处理突发请求，减少请求排队时间，从而提高用户体验。然而，需要注意的是， nodelay 可能会导致系统瞬间的 QPS 超过 rate 设置的阈值，因此需要根据系统的实际承载能力和业务需求来合理配置 burst 和 nodelay 参数。
在实际应用中，建议根据具体的业务场景和系统性能来测试和调整限流规则，以达到最佳的保护效果和用户体验。如果你有任何问题或建议，请随时留言交流。