一 DBUtils的认识
首先管理数据库连接池的包是 DBUtils,为高频度并发的数据库访问提供更好的性能,可以自动管理连接对象的创建和释放,最常用的两个外部接口是PersistentDB 和 PooledDB,前者提供了单个线程专用的数据库连接池,后者则是进程内所有线程共享的数据库连接池。
二 DBUtils 简介
DBUtils是一套Python数据库连接池包,并允许对非线程安全的数据库接口进行线程安全包装。DBUtils来自Webware for Python。
DBUtils提供两种外部接口:
PersistentDB :提供线程专用的数据库连接,并自动管理连接。
PooledDB :提供线程间可共享的数据库连接,并自动管理连接。
三 创建数据库连接池
1 import time
2 import pymysql
3 import threading
4 from DBUtils.PooledDB import PooledDB, SharedDBConnection
5 POOL = PooledDB(
6 creator=pymysql, # 使用链接数据库的模块
7 maxconnections=6, # 连接池允许的最大连接数,0和None表示不限制连接数
8 mincached=2, # 初始化时,链接池中至少创建的空闲的链接,0表示不创建
9 maxcached=5, # 链接池中最多闲置的链接,0和None不限制
10 maxshared=3, # 链接池中最多共享的链接数量,0和None表示全部共享。PS: 无用,因为pymysql和MySQLdb等模块的 threadsafety都为1,所有值无论设置为多少,_maxcached永远为0,所以永远是所有链接都共享。
11 blocking=True, # 连接池中如果没有可用连接后,是否阻塞等待。True,等待;False,不等待然后报错
12 maxusage=None, # 一个链接最多被重复使用的次数,None表示无限制
13 setsession=[], # 开始会话前执行的命令列表。如:["set datestyle to ...", "set time zone ..."]
14 ping=0,
15 # ping MySQL服务端,检查是否服务可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always
16 host='127.0.0.1',
17 port=3306,
18 user='root',
19 password='123',
20 database='pooldb',
21 charset='utf8'
22 )
四 使用数据库连接池
1 def func():
2 # 检测当前正在运行连接数的是否小于最大链接数,如果不小于则:等待或报raise TooManyConnections异常
3 # 否则
4 # 则优先去初始化时创建的链接中获取链接 SteadyDBConnection。
5 # 然后将SteadyDBConnection对象封装到PooledDedicatedDBConnection中并返回。
6 # 如果最开始创建的链接没有链接,则去创建一个SteadyDBConnection对象,再封装到PooledDedicatedDBConnection中并返回。
7 # 一旦关闭链接后,连接就返回到连接池让后续线程继续使用。
8 conn = POOL.connection()
9
10 cursor = conn.cursor()
11 cursor.execute('select * from tb1')
12 result = cursor.fetchall()
13 conn.close()
五 自制sqlhelper
1 class MySQLhelper(object):
2 def __init__(self, host, port, dbuser, password, database):
3 self.pool = PooledDB(
4 creator=pymysql, # 使用链接数据库的模块
5 maxconnections=6, # 连接池允许的最大连接数,0和None表示不限制连接数
6 mincached=2, # 初始化时,链接池中至少创建的空闲的链接,0表示不创建
7 maxcached=5, # 链接池中最多闲置的链接,0和None不限制
8 maxshared=3,
9 # 链接池中最多共享的链接数量,0和None表示全部共享。PS: 无用,因为pymysql和MySQLdb等模块的 threadsafety都为1,所有值无论设置为多少,_maxcached永远为0,所以永远是所有链接都共享。
10 blocking=True, # 连接池中如果没有可用连接后,是否阻塞等待。True,等待;False,不等待然后报错
11 maxusage=None, # 一个链接最多被重复使用的次数,None表示无限制
12 setsession=[], # 开始会话前执行的命令列表。如:["set datestyle to ...", "set time zone ..."]
13 ping=0,
14 # ping MySQL服务端,检查是否服务可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always
15 host=host,
16 port=int(port),
17 user=dbuser,
18 password=password,
19 database=database,
20 charset='utf8'
21 )
22
23 def create_conn_cursor(self):
24 conn = self.pool.connection()
25 cursor = conn.cursor(pymysql.cursors.DictCursor)
26 return conn,cursor
27
28 def fetch_all(self, sql, args):
29 conn,cursor = self.create_conn_cursor()
30 cursor.execute(sql,args)
31 result = cursor.fetchall()
32 cursor.close()
33 conn.close()
34 return result
35
36
37 def insert_one(self,sql,args):
38 conn,cursor = self.create_conn_cursor()
39 res = cursor.execute(sql,args)
40 conn.commit()
41 print(res)
42 conn.close()
43 return res
44
45 def update(self,sql,args):
46 conn,cursor = self.create_conn_cursor()
47 res = cursor.execute(sql,args)
48 conn.commit()
49 print(res)
50 conn.close()
51 return res
52
53
54 sqlhelper = MySQLhelper("127.0.0.1", 3306, "root", "1233121234567", "dragon")
55
56 # sqlhelper.fetch_all("select * from user where id=%s",(1))
57
58 # sqlhelper.insert_one("insert into user VALUES (%s,%s)",("jinwangba",4))
59
60 # sqlhelper.update("update user SET name=%s WHERE id=%s",("yinwangba",1))