Python 使用 copy_from 完成批量插入postgre数据库脚本分享

背景

上个月排查一个 Bug ,需要采集一张 PostgreSQL 的大表,测试时需要造数据。Python 比 Java 方便多了,所以用 Python写了一个批量插入 PostgreSQL 表的简单脚本。本文分享这个脚本,很简单的,就是利用 psycopg2copy_from 完成批量插入 postgre 及其类似数据库的脚本。

之前网上找了好多脚本都没有能直接用的,尤其是 CSV 文件参数,自己尝试调了一下竟然通了,总结一下以备不时之需。

表结构创建

创建一个简单的人员信息的表 person_info 包含 几个简单的字段,SQL 创建脚本如下:

sql 复制代码
drop table if exists person_info;
create table public.person_info
(
    pk_uuid     numeric(19)  not null constraint person_info_pk primary key,
    id          varchar(20) not null,
    name        varchar(200) not null,
    birthday    varchar(20)  not null,
    address     varchar(255) not null,
    remark      varchar(255),
    create_time numeric(19)  not null
);

生成CSV数据

按字段顺序生成 CSV 文件,这个可以用 Java 循环生成,按需要生成200万条数据。 Java的代码如下:

sql 复制代码
public class DataGeneUtil {
    public static void main(String[] args) {
        int counter = 0;
        String fileName = "/Applications/2025NewYear/mydata10.csv";

        File outFile = new File(fileName);

        try (FileWriter outFileWriter = new FileWriter(outFile, false)){
            for(int i = 0;i<20000; i++) {
                counter++;
                if (counter % 5000 == 0) {
                    System.out.println("already write counter " + counter);
                }

                StringBuffer buffer = new StringBuffer();
                buffer.append(i).append(",");//pk_uuid
                buffer.append("i").append(",");//ID
                buffer.append("张三").append(i).append(",");//name
                buffer.append("1990-01-01").append(",");//birthday
                buffer.append("地球村2号").append(",");//address
                buffer.append("test").append(",");//remark
                buffer.append(System.currentTimeMillis()).append("\n");//remark

                outFileWriter.write(buffer.toString());
            }} catch (IOException e) {
            throw new RuntimeException(e);
        }
    }
}

编写 Python 脚本

python 复制代码
import psycopg2

# 连接数据库
conn = psycopg2.connect(dbname='xx', user='xx', password='xx',host='192.xx.xx.x',port='7700')

# 创建一个cursor对象
cur = conn.cursor()

#配置 CSV 路径,读取后写入
csvDataFile= '/Applications/2025NewYear/mydata10.csv'
tableColumn=("pk_uuid", "id", "name", "address", "birthday", "remark","create_time")
with open(csvDataFile, 'r') as f:
    cur.copy_from(f, 'person_info', sep=',', columns=tableColumn)

# 提交事务
conn.commit()

# 关闭cursor和连接
cur.close()
conn.close()

脚本运行结果: 查看数据库插入结果:

注意事项:

  1. 关键点 copy_from 后面第一个参数是一个 CSV 文件,最初搜到很多信息都是使用 io.StringIO 创建一个内存中的文件对象的,反复尝试都执行失败。后面找到一个介绍方法,直接传递文件,才形成本文这个脚本。此外还找到了一个比较齐全的文章《psycopg2中copy_to /copy_from/copy_expert的使用方法》 记录下来,以供参考。
  2. 需要先使用 pip install psycopg2 安装数据库操作模块。

启示录

实际上,这个批量插入 PostgreSQL 的脚本确实非常简单,对比之下 Java 的 JDBC 批量插入就繁琐多了!

同时还需要测试 Oracle 和 MySQL 的批量入库,这个两个数据库的批量入库脚本也写过,之后会一起整理出来。

相关推荐
万粉变现经纪人1 小时前
如何解决 pip install 安装报错 ModuleNotFoundError: No module named ‘tokenizers’ 问题
python·selenium·测试工具·scrapy·beautifulsoup·fastapi·pip
编程武士2 小时前
从50ms到30ms:YOLOv10部署中图像预处理的性能优化实践
人工智能·python·yolo·性能优化
我的xiaodoujiao3 小时前
Windows系统Web UI自动化测试学习系列2--环境搭建--Python-PyCharm-Selenium
开发语言·python·测试工具
傻啦嘿哟5 小时前
Python SQLite模块:轻量级数据库的实战指南
数据库·python·sqlite
Q_Q5110082855 小时前
python+django/flask+uniapp基于微信小程序的瑜伽体验课预约系统
spring boot·python·django·flask·uni-app·node.js·php
XueminXu5 小时前
Python读取MongoDB的JSON字典和列表对象转为字符串
python·mongodb·json·pymongo·mongoclient·isinstance·json.dumps
techdashen6 小时前
12分钟讲解Python核心理念
开发语言·python
jie*6 小时前
小杰机器学习(nine)——支持向量机
人工智能·python·机器学习·支持向量机·回归·聚类·sklearn
闭着眼睛学算法6 小时前
【华为OD机考正在更新】2025年双机位A卷真题【完全原创题解 | 详细考点分类 | 不断更新题目 | 六种主流语言Py+Java+Cpp+C+Js+Go】
java·c语言·javascript·c++·python·算法·华为od
郝学胜-神的一滴6 小时前
谨慎地迭代函数所收到的参数 (Effective Python 第31条)
开发语言·python·程序人生·软件工程