深入理解Go标准库-http server的优雅关闭

凉凉的知识库2023-12-04 13:43

本篇为【深入理解Go标准库】系列第三篇

第一篇：http server的启动

第二篇：ServeMux的使用与模式匹配

第三篇：http server的优雅关闭👈

本系列将持续更新，欢迎关注 👏 获取实时通知

还记得怎么启动一个HTTP Server么？

go 复制代码 
func main() {
	// 方式1
	err := http.ListenAndServe(":8080", nil)
	if err != nil {
	 	panic(err)
	}

	// 方式2
	// server := &http.Server{Addr: ":8080"}
	// err := server.ListenAndServe()
	// if err != nil {
	// 	panic(err)
	// }
}

ListenAndServe在不出错的情况下，会一直阻塞在这个位置，如何停止这样的一个HTTP Server呢？

CTRL+C是结束一个进程常用的方式，它和kill pid或者kill -l 15 pid命令本质上没有任何区别，他们都是向进程发送了SIGTERM信号。因为程序没有设置对SIGTERM信号的处理程序，所以系统默认的信号处理程序结束了我们的进程

这会带来什么问题？

在服务器的进程被杀死时，我们的服务器可能正在处理请求并未完成。因此对于客户端产生了一个预期外的错误

shell 复制代码 
curl -v --max-time 4 127.0.0.1:8009/foo

* Connection #0 to host 127.0.0.1 left intact
*   Trying 127.0.0.1:8009...
* Connected to 127.0.0.1 (127.0.0.1) port 8009 (#0)
> GET /foo HTTP/1.1
> Host: 127.0.0.1:8009
> User-Agent: curl/7.86.0
> Accept: */*
> 

* Empty reply from server
* Closing connection 0
curl: (52) Empty reply from server

如果有nginx代理，因为upstream的中断，nginx会产生502的响应

shell 复制代码 
curl -v --max-time 11 127.0.0.1:8010/foo
*   Trying 127.0.0.1:8010...
* Connected to 127.0.0.1 (127.0.0.1) port 8010 (#0)
> GET /foo HTTP/1.1
> Host: 127.0.0.1:8010
> User-Agent: curl/7.86.0
> Accept: */*
> 
* Mark bundle as not supporting multiuse
< HTTP/1.1 502 Bad Gateway
< Server: nginx/1.25.3
< Date: Sat, 02 Dec 2023 10:14:33 GMT
< Content-Type: text/html
< Content-Length: 497
< Connection: keep-alive
< ETag: "6537cac7-1f1"

优雅关闭的初步实现

优雅关闭（graceful shutdown），指的是我们的HTTP Server关闭前既拒绝新来的请求，又正确的处理完正在进行中的请求，随后进程退出。如何实现？

🌲 异步启动HTTP server

因为ListenAndServe会阻塞goroutine，如果还需要让代码继续执行，我们需要把它放到一个异步的goroutine中

go 复制代码 
go func() {
    if err := srv.ListenAndServe(); err != nil {
        panic(err)
    }
}()

🌲 第二步：设置SIGTERM信号处理程序

操作系统默认的信号处理程序是直接结束进程，因此要实现graceful shutdown，要设置程序自己的信号处理程序。

Go中可以使用如下的方式来处理信号

  • signal.Notify来设置我们要监听的信号，一旦有程序设定的信号发生时，信号会被写入channel中
  • signalCh chan os.Signal我们定义的是一个带缓冲的channel，当channel中没有数据时读操作会阻塞
go 复制代码 
signalCh := make(chan os.Signal, 1)
signal.Notify(signalCh, syscall.SIGINT, syscall.SIGTERM)

sig := <-signalCh
log.Printf("Received signal: %v\n", sig)

🌲 第三步：平滑的关闭HTTP Server

在自定义的信号处理程序中处理什么呢？

1、首先需要关闭端口的监听，此时新的请求就无法建立连接

2、对空闲的连接进行关闭

3、对进行中的连接等待处理完成，变成空闲连接后进行关闭

在Go 1.8以前实现上述操作需要编写大量的代码，也有一些第三方的库（tylerstillwate/graceful、facebookarchive/grace等）可供使用。但Go1.8之后标准库提供了 Shutdown()方法

🌲 实现：综合上面三步有如下实现

go 复制代码 
func main() {
	mx := http.NewServeMux()
	mx.HandleFunc("/foo", func(w http.ResponseWriter, r *http.Request) {
		time.Sleep(time.Duration(rand.Intn(10)) * time.Second)
		w.Write([]byte("Receive path foo\n"))
	})

	srv := http.Server{
		Addr:    ":8009",
		Handler: mx,
	}

	go func() {
		if err := srv.ListenAndServe(); err != nil {
			panic(err)
		}
	}()

	signalCh := make(chan os.Signal, 1)
	signal.Notify(signalCh, syscall.SIGINT, syscall.SIGTERM)

	sig := <-signalCh
	log.Printf("Received signal: %v\n", sig)

	if err := srv.Shutdown(context.Background()); err != nil {
		log.Fatalf("Server shutdown failed: %v\n", err)
	}

	log.Println("Server shutdown gracefully")
}

没有收到SIGINT、SIGTERM信号前，main goroutine被signalCh的读阻塞

一旦收到信号，signalCh的阻塞被解除会往下执行server的Shutdown()，Shutdown()函数会处理好活跃和非活跃的连接，并返回结果

上述代码有什么问题么？

优雅关闭实现的细节

🌲 当Shutdown被调用时ListenAndServe会立刻返回http.ErrServerClosed的错误

go 复制代码 
go func() {
    if err := srv.ListenAndServe(); err != nil {
        panic(err)
    }
}()

对于上文的代码，Shutdown()刚被调用，ListenAndServe所在的goroutine就抛出了panic，因而也导致main goroutine被退出，并没有达到运行Shutdown()预期的效果

如果依旧想对ListenAndServe的错误抛出painc，需要忽略http.ErrServerClosed的错误

go 复制代码 
go func() {
    err := srv.ListenAndServe()
    if err != nil && err != http.ErrServerClosed {
        panic(err)
    }
}()

🌲 在有限的时间内关闭服务器

优雅关闭过程中会等待进行中的请求完成。但请求处理的过程可能非常耗时，或者请求本身已经陷入了无法结束的状态，我们不可能无限的等待下去，因此设定一个关闭的上限时间会更稳妥。

Shutdown()接受一个context.Context类型的参数，我们可以用来设定超时时间

go 复制代码 
ctx, cancel := context.WithTimeout(context.Background(), 5*time.Second)
defer cancel()

if err := srv.Shutdown(ctx); err != nil {
    log.Fatalf("Server shutdown failed: %v\n", err)
}

log.Println("Server shutdown gracefully")

通过ctx.Done()可以区分是否因为超时导致的服务器关闭，因而可以对不同的退出原因进行区分

go 复制代码 
ctx, cancel := context.WithTimeout(context.Background(), 5*time.Second)
defer cancel()

if err := srv.Shutdown(ctx); err != nil {
    select {
        case <-ctx.Done():
        // 由于达到超时时间服务器关闭，未完成优雅关闭
        log.Println("timeout of 5 seconds.")
        default:
        // 其他原因导致的服务关闭异常，未完成优雅关闭
        log.Fatalf("Server shutdown failed: %v\n", err)
    }
    return
}

// 正确执行优雅关闭服务器
log.Println("Server shutdown gracefully")

🌲 释放其他资源

除了显式的释放资源，main goroutine也有必要通知其他goroutine进程即将退出，做必要的处理

例如，我们的服务在启动后会向服务中心进行注册，之后异步定时上报自身状态。

为了让注册中心第一时间感知到服务已下线，需要主动注销服务。在注销服务前，需要先暂停异步的定时上报

context.Context让我们可以很轻松的做到这件事

go 复制代码 
ctx, cancel := context.WithCancel(context.Background())
defer func() {
    cancel()
}()

// 需要在服务启动后才在注册中心注册
go func() {
    tc := time.NewTicker(5 * time.Second)
    for {
        select {
            case <-tc.C:
            // 上报状态
            log.Println("status update success")
            case <-ctx.Done():
            // server closed, return
            tc.Stop()
            log.Println("stop update success")
            return
        }
    }
}()

示例仓库中还有一个更复杂的利用context.Context退出子goroutine的例子

🌲 全貌

结合上面的所有的细节，一个优雅关闭的http server代码如下

go 复制代码 
func registerService(ctx context.Context) {
	tc := time.NewTicker(5 * time.Second)
	for {
		select {
		case <-tc.C:
			// 上报状态
			log.Println("status update success")
		case <-ctx.Done():
			tc.Stop()
			log.Println("stop update success")
			return
		}
	}
}

func destroyService() {
	log.Println("destroy success")
}

func gracefulShutdown() {
	mainCtx, mainCancel := context.WithCancel(context.Background())
	// 用ctx初始化资源，mysql，redis等
	// ...

	defer func() {
		mainCancel()
		// 主动注销服务
		destroyService()

		// 清理资源，mysql，redis等
		// ...
	}()

	mx := http.NewServeMux()
	mx.HandleFunc("/foo", func(w http.ResponseWriter, r *http.Request) {
		time.Sleep(time.Duration(rand.Intn(10)) * time.Second)
		w.Write([]byte("Receive path foo\n"))
	})

	srv := http.Server{
		Addr:    ":8009",
		Handler: mx,
	}

	// ListenAndServe也会阻塞，需要把它放到一个goroutine中
	go func() {
		if err := srv.ListenAndServe(); err != nil && err != http.ErrServerClosed {
			panic(err)
		}
	}()

	// 需要在服务启动后才在注册中心注册
	go registerService(mainCtx)

	signalCh := make(chan os.Signal, 1)
	signal.Notify(signalCh, syscall.SIGINT, syscall.SIGTERM)

	// 等待信号
	sig := <-signalCh
	log.Printf("Received signal: %v\n", sig)

	ctxTimeout, cancelTimeout := context.WithTimeout(context.Background(), 5*time.Second)
	defer cancelTimeout()

	if err := srv.Shutdown(ctxTimeout); err != nil {
		select {
		case <-ctxTimeout.Done():
			// 由于达到超时时间服务器关闭，未完成优雅关闭
			log.Println("timeout of 5 seconds.")
		default:
			// 其他原因导致的服务关闭异常，未完成优雅关闭
			log.Fatalf("Server shutdown failed: %v\n", err)
		}
		return
	}

	// 正确执行优雅关闭服务器
	log.Println("Server shutdown gracefully")
}

✨ 微信公众号【凉凉的知识库】同步更新，欢迎关注获取最新最有用的后端知识 ✨

相关推荐
Karoku0663 小时前
【网站架构部署与优化】web服务与http协议
linux·运维·服务器·数据库·http·架构
友友马6 小时前
『 Linux 』HTTP(一)
linux·运维·服务器·网络·c++·tcp/ip·http
2401_872514976 小时前
深入探究HTTP网络协议栈：互联网通信的基石
网络·网络协议·http
清水白石0086 小时前
C++使用Socket编程实现一个简单的HTTP服务器
服务器·c++·http
不良人天码星8 小时前
HTTP 协议的基本格式
网络·网络协议·http
活老鬼15 小时前
Web与HTTP
网络·网络协议·http
天启代理ip16 小时前
HTTP代理PAC脚本：自动化代理设置的利器
网络协议·http·自动化
小霸王_3003786316 小时前
《网络协议 - HTTP传输协议及状态码解析》
网络·网络协议·http
SchneeDuan20 小时前
HTTP和HTTPS的区别
网络协议·http·https·ssl/tls协议·数字证书、签名
小堃学编程1 天前
计算机网络（六） —— http协议详解
网络协议·计算机网络·http
热门推荐
01RAG 实践- Ollama+RagFlow 部署本地知识库02组基轨迹建模 GBTM的介绍与实现（Stata 或 R）032024年高教社杯数学建模国赛C题超详细解题思路分析04Coze扣子平台完整体验和实践（附国内和国际版对比）05苍穹外卖面试总结06【2024数模国赛赛题思路公开】国赛B题思路丨附可运行代码丨无偿自提07yolov8实战第五天——yolov8+ffmpg实时视频流检测并进行实时推流——（推流，保姆教学）08CCF-CSP认证考试 202406-3 文本分词 100分题解09【2024高教社杯全国大学生数学建模竞赛】B题 生产过程中的决策问题——解题思路 代码 论文10浏览器插件——ModHeader 的分享和学习