883ssscom,东方卫视跨年演唱会节目单,中房网
django的orm是非常好用的,哪怕不是做web项目也值得一用,所以网上也可以找到不少使用 django 开发非web项目的资料,因为除了orm之个,命令行、配置文件等组件也非常好用。
最近用这种方式开发了一个非web项目,而且是多线程的。有n个工作线程从db中获取jobs,并把结果写回db。简单来说就是这样。
项目运行一段时间后,发现数据库连接耗尽了,幸好内存大,然后一直往上调,最后连接数都上九千多一万了。耗尽连接数的时候,postgresql 会出现类似这样的错误:
fatal: remaining connection slots are reserved for non-replication superuser connections
然后就各种看文档、代码,找问题,其中艰难略下不表,最后大概是这么些个知识点:
最后的解决方案是找时机主动关闭数据库连接,具体到我们项目,就是每次工作线程完成一个任务后,就把它相关的连接关掉,因为我们用的是 threadpoolexecutor
,所以django很容易做到这一点。
重点代码如下:
from django.db import connections def on_done(future): # 因为每一个线程都有一个 connections,所以这里可以调用 close_all(),把本线程名下的所有连接关闭。 connections.close_all() def main(): # ... with threadpoolexecutor() as executor: while true: future = executor.submit(do, get_a_job()) future.add_done_callback(on_done)
主动关闭后,数据库连接数降到与工作线程数相近,并保持稳定。
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持移动技术网。
如对本文有疑问,请在下面进行留言讨论,广大热心网友会与你互动!! 点击进行留言回复
新手学习Python2和Python3中print不同的用法
Python基于os.environ从windows获取环境变量
网友评论