我有一张大桌子,上面有大约。 PostgreSQL 9.4 数据库中有 1000 万行。它看起来有点像这样:
gid | number1 | random | result | ...
1 | 2 | NULL | NULL | ...
2 | 15 | NULL | NULL | ...
... | ... | ... | ... | ...
现在我想更新列random
and result
作为一个函数number1
。这意味着至少random
需要在数据库外部的脚本中生成。由于我的 RAM 有限,我想知道如何使用有效地做到这一点psycopg2
。我相信我面临两个问题:如何在不使用太多 RAM 的情况下获取数据以及如何将其放回原处。简单方法看起来像这样:
curs.execute("""SELECT gid1, number1 FROM my_table;""")
data = curs.fetchall()
result = []
for i in data:
result.append((create_random(i[1]), i[0]))
curs.executemany("""UPDATE my_table
SET random = %s
WHERE gid = %s;""",
results)
curs.execute("""UPDATE my_table
SET result = number1 * random;""")
然而,这肯定会很快耗尽我所有的记忆,并且需要永远UPDATE my_table
.
什么是更明智的策略?数据库正在被独占访问并且可以被锁定。不幸的是,PostgreSQL 随机函数不适合我的情况。
unnest一次性完成所有数据:
def create_random(i):
return random() * i
curs.execute("select gid, number from t;")
data = curs.fetchall()
results = []
for i in data:
results.append((create_random(i[1]), i[0]))
curs.execute("""
update t
set
rnd = s.rnd,
result = number * s.rnd
from unnest(%s) s(rnd numeric, gid integer)
where t.gid = s.gid;
""", (results,))
con.commit()
Table t:
create table t (
gid integer,
number integer,
rnd float,
result float
);
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)