Go FastHttp优雅关闭实现方案

使用Go开发web服务时很多情况下都会使用号称比标准库快10x的FastHttp, 但fasthttp(版本: 20180529.0.0)至今也没有提供优雅关闭的方法，默认情况下退出服务只能kill。下面谈几个实现方案。

首先，要明确所谓的优雅关闭是要求我们在调用close()时要做到以下几点：

拒绝接受新连接
等待正在处理的请求完成，然后关闭连接
关闭剩余空闲的连接

要做到第一点，我们需要重写一下net.Listener实现，例如叫GraceListener, 在此结构体中组合一个真正干活的Listener，覆盖Close()方法，在此方法中先将干活的Listener关闭，此时就不会再监听新请求了，然后再block当前routine直到所有连接全部关闭为止。代码如下：

type graceListener struct {
    net.Listener
}

func (gl *graceListener) Close() error {
    err := gl.Close()
    if nil != err {
        return err
    }

    // block, 直到所有连接关闭
}

fastServ := &fasthttp.Server{
        Concurrency:  100,
        Handler:      xxxFunc,
        LogAllErrors: true,
    }

    ln, err := net.Listen("tcp4", ":8080")
    if nil != err {
        // err
    }

    graceLn := &graceListener{
        Listener: ln,
    }

    fastServ.Serve(graceLn)

接下来看看如何满足后面两条要求。这里有两种方案，第一种最简单的方案是，保存一个全局的sync.WaitGroup指针，在你的请求处理函数中，先调用wg.Add(1), 然后defer wg.Done(), 最后在上面的Close()方法中使用wg.Wait()即可。这里建议最好使用select给等待加个超时功能，即如果超过指定时间还没有退出则强制退出：

// 此方法一直block到所有请求退出或超时
func WaitForGracefullyClose() error {
    select {
    case <-waitAllRoutineDone():
        return nil

    case <-time.After(maxWait):
        return fmt.Errorf("force shutdown after %v", maxWait)
    }

}

// 等待所有请求处理routine完成;
// 此方法返回只有1个缓冲的channel, 只有当所有routine结束时channel才会有元素
func waitAllRoutineDone() chan struct{} {
    flagChan := make(chan struct{}, 1)

    go func() {
        wg.Wait()

        flagChan <- struct{}{}
    }()

    return flagChan
}

此外还有第二种方案，那就是在自己的graceListener中添加一个计数器用于统计当前的连接数，重写Accept()方法，将计数器+1，再定义一个自己的套壳net.Conn实现，重写Close()方法，在里面将计数器-1。这里要注意线程安全问题，最好使用atomic包进行操作。最后在graceListener#Close()中关闭Listener后等待计数器归零。这种方案有以下几个缺点：

实现繁琐
无法处理keep-alive连接。即请求已经处理完成，但是连接并没有关闭，这时计数器不会归零。不过可以使用go 1.3新增加的 Conn State Hook来实现当连接状态变更时的通知，但是也是比较繁琐的。

因此不推荐这种方案。

完成Http Server的关闭后，就可以添加一些清理自己业务资源的逻辑了，比如关闭数据库连接，redis连接，取消注册，刷新日志等。

Go FastHttp优雅关闭实现方案

猜你喜欢