golang http服务在上线时,需要重新编译可执行文件,关闭正在运行的进程,然后再启动新的运行进程。对于访问频率比较高的面向终端用户的产品,关闭、重启的过程中会出现无法访问(nginx表现为502)的情况,影响终端用户的使用体验。
实现的一般思路
选型与实践
重复造平滑重启及升级的轮子比较简单,但测试覆盖无法控制,比较耗时耗力。所以秉着不重复造轮子的思路,使用github中的三方库进行选择:
endless与grace的实现方式原理都比较类似,所以在选型初期我们以facebookgo/grace
库为例集成到项目中进行测试:
func (h *server) listenandserve(listenaddress string) error { // .... return gracehttp.serve(&http.server{ addr: listenaddress, handler: h.httpservermux, }) }
使用ab
工具压测 api-publish
服务进行测试,服务启动后,执行以下命令:
ab -c 10 -n 2000
然后给进程发送usr2
信号 kill -usr2 api-server-pid
,可看到以下结果:
结果中 failed requests
表示在整个压测请求中没有错误的请求,这可以说明服务重启时没有中断请求的接收和处理。如果使用sleep的方式测试,可以明显的看到新进程替代老进程的过程。
supervisor的问题
实际项目中,线上服务是被supervisor启动的。如上所说的我们如果通过grace或者endless的子进程启动后退出父进程这种方式的话,存在的问题就是子进程会被1号进程接管,导致supervisor认为服务挂掉重启服务,为了避免这种问题我们需要使用master-worker的方式。
overseer
这个备选库实现了master-worker的方式。简单集成方式:
return overseer.runerr(overseer.config{ address: address, program: func(state overseer.state) { // ... http.serve(state.listener, nil) }, })
另外:在更新supervisor时,配置不需要更新,但重启服务的命令不能使用supervisor restart
,需要使用supervisor signal sigusr2 api
的命令。
还是使用上面的测试方式:
可以明显的看到,supervisor发送了usr2信号后,主进程的pid没有变化,重新启动了一个新的子进程来处理线上请求。
其他的问题
在使用overseer集成到项目中测试时,子进程的运行函数中仅仅加入了http服务的启动,这样导致一个问题。
main函数中任务会被执行两次,如果是cron的初始化,那么cron就会初始化两次,导致有两个cron在执行,这样的方式是不符合预期的。
导致这样的原因是:overseer在启动子进程时是使用和主进程一样的启动命令。所以main函数会执行两次。
func (mp *master) fork() error { mp.debugf("starting %s", mp.binpath) cmd := exec.command(mp.binpath) //mark this new process as the "active" slave process. //this process is assumed to be holding the socket files. mp.slavecmd = cmd mp.slaveid++ //provide the slave process with some state e := os.environ() e = append(e, envbinid+"="+hex.encodetostring(mp.binhash)) e = append(e, envbinpath+"="+mp.binpath) e = append(e, envslaveid+"="+strconv.itoa(mp.slaveid)) e = append(e, envisslave+"=1") e = append(e, envnumfds+"="+strconv.itoa(len(mp.slaveextrafiles))) cmd.env = e //inherit master args/stdfiles cmd.args = os.args cmd.stdin = os.stdin cmd.stdout = os.stdout cmd.stderr = os.stderr //include socket files cmd.extrafiles = mp.slaveextrafiles if err := cmd.start(); err != nil { return fmt.errorf("failed to start slave process: %s", err) } // ... }
我们通过调整main函数的内容来解决这个问题:
func main() { // 配置初始化 if err := config.init(appconf); err != nil { fmt.println(err) return } cfg := config.getconfig() // 初始化graceful http服务 gracefulhttpserver := microsvr.gracefulhttpserver{ address: cfg.httplistenaddress, conf: cfg, initialization: initialization, httpserver: httpserver, } // 启动 if err := gracefulhttpserver.run(); err != nil { fmt.println(err) return } } // 初始化日志、数据库链接、定时任务等 func initialization(cfg *config.conf) { if err := microsvr.init(cfg); err != nil { fmt.println(err) return } if err := server.addconnect(cfg.databases.string()); err != nil { fmt.println(err) return } logger.info("数据库链接成功:" + cfg.databases.address) // cron cron.cron.init() } // 初始化http服务,但不启动 func httpserver() *http.server { server := microsvr.newhttpserver() server.setalloworginback() routers(server) return server }
实践对比结果:
grace与endless的原理比较相像,都是类似上述的一般思路的实现原理。overseer的不同,主要有两点:
我们使用了overseer作为最终的选型结果。
总结
到此这篇关于golang http 服务平滑重启及升级的思路的文章就介绍到这了,更多相关golang http 平滑重启内容请搜索移动技术网以前的文章或继续浏览下面的相关文章希望大家以后多多支持移动技术网!
如对本文有疑问, 点击进行留言回复!!
VSCode1.4 搭建Golang的开发调试环境(遇到很多问题)
网友评论