Python 连接clickhouse常用的三种方式

1. 概述

ClickHouse是一个开源的分布式列式数据库管理系统,它被设计用于存储和分析大规模数据。Python是一种流行的编程语言,凭借其简洁的语法和丰富的生态系统,成为了数据处理和分析的首选语言之一。在Python中,我们可以使用多种方式与ClickHouse进行连接并操作数据。

本文将详细介绍Python连接ClickHouse的三种常用方式,分别是使用clickhouse-driver、clickhouse-sqlalchemy和pyclickhouse库。每种方式都有其特点和适用场景,可以根据具体需求选择合适的方法。

2. 使用clickhouse-driver

clickhouse-driver是一个Python用于连接ClickHouse的官方驱动程序。它提供了高效的连接池和数据序列化等功能,并且支持大多数ClickHouse的特性和API。

2.1 安装clickhouse-driver

要使用clickhouse-driver,首先需要安装它。可以使用pip命令进行安装:

复制代码
pip install clickhouse-driver

2.2 创建连接

在使用clickhouse-driver连接ClickHouse之前,首先需要创建一个连接对象。可以使用clickhouse_driver包中的connect函数来创建连接。以下是一个示例:

复制代码
import clickhouse_driver

conn = clickhouse_driver.connect(
    host='localhost',
    port=9000,
    user='default',
    password='',
    database='default'
)

Python

Copy

上述代码中,我们使用connect函数创建了一个名为conn的连接对象。其中,host参数指定ClickHouse的主机名,port参数指定端口号,user和password参数指定连接的用户名和密码,database参数指定使用的数据库名。

2.3 执行查询

一旦建立连接,就可以使用连接对象执行查询语句了。clickhouse-driver提供了execute函数来执行查询,并返回查询结果。以下是一个示例:

复制代码
result = conn.execute('SELECT * FROM my_table')

Python

Copy

上述代码中,我们执行了一个简单的SELECT查询,查询了名为my_table的表中的所有数据。查询结果将保存在result对象中。

2.4 插入数据

除了查询,我们还可以使用clickhouse-driver插入数据到ClickHouse中。clickhouse-driver提供了execute函数来执行插入操作。以下是一个示例:

复制代码
conn.execute('INSERT INTO my_table (col1, col2) VALUES (1, 2)')

Python

Copy

上述代码中,我们在名为my_table的表中插入了一行数据,其中col1和col2是表中的两个列名。

2.5 关闭连接

在完成操作后,我们应该关闭连接以释放资源。可以使用连接对象的close方法来关闭连接。

复制代码
conn.close()

Python

Copy

3. 使用clickhouse-sqlalchemy

clickhouse-sqlalchemy是一个基于SQLAlchemy的ClickHouse数据库连接库。SQLAlchemy是一个Python SQL工具和对象关系映射(ORM)库,用于简化数据库操作。

3.1 安装clickhouse-sqlalchemy

要使用clickhouse-sqlalchemy,首先需要安装它。可以使用pip命令进行安装:

复制代码
pip install clickhouse-sqlalchemy

3.2 创建连接

在使用clickhouse-sqlalchemy连接ClickHouse之前,首先需要创建一个连接对象。以下是一个示例:

复制代码
from clickhouse_sqlalchemy import make_session, get_declarative_base

session = make_session('clickhouse://default:@localhost:9000')
Base = get_declarative_base(bind=session)

Python

Copy

上述代码中,我们使用make_session函数创建了一个名为session的连接对象,使用get_declarative_base函数创建了一个名为Base的基类。其中,clickhouse://default:@localhost:9000是连接字符串,指定ClickHouse的主机名、端口号、用户名和密码。

3.3 执行查询

一旦建立连接,就可以使用连接对象执行查询语句了。clickhouse-sqlalchemy提供了session对象的query方法来执行查询,并返回查询结果。以下是一个示例:

复制代码
result = session.query(MyTable).all()

Python

上述代码中,我们执行了一个简单的SELECT查询,查询了名为MyTable的表中的所有数据。查询结果将保存在result对象中。

3.4 插入数据

除了查询,我们还可以使用clickhouse-sqlalchemy插入数据到ClickHouse中。clickhouse-sqlalchemy提供了session对象的add方法来执行插入操作。以下是一个示例:

复制代码
new_record = MyTable(col1=1, col2=2)
session.add(new_record)
session.commit()

Python

上述代码中,我们创建了一个名为new_record的对象,并使用session对象的add方法将其添加到会话中,然后使用commit方法提交更改。

3.5 关闭连接

在完成操作后,我们应该关闭连接。可以使用连接对象的close方法来关闭连接。

复制代码
session.close()

Python

Copy

4. 使用pyclickhouse

pyclickhouse是一个纯Python编写的ClickHouse客户端库,它提供了简单的API和高度可定制的功能。

4.1 安装pyclickhouse

要使用pyclickhouse,首先需要安装它。可以使用pip命令进行安装:

复制代码
pip install pyclickhouse

4.2 创建连接

在使用pyclickhouse连接ClickHouse之前,首先需要创建一个连接对象。以下是一个示例:

复制代码
from pyclickhouse import Client

client = Client(
    host='localhost',
    port=9000,
    user='default',
    password='',
    database='default'
)

Python

Copy

上述代码中,我们使用Client类创建了一个名为client的连接对象。其中,host参数指定ClickHouse的主机名,port参数指定端口号,user和password参数指定连接的用户名和密码,database参数指定使用的数据库名。

4.3 执行查询

一旦建立连接,就可以使用连接对象执行查询语句了。pyclickhouse提供了execute方法来执行查询,并返回查询结果。以下是一个示例:

复制代码
result = client.execute('SELECT * FROM my_table')

Python

Copy

上述代码中,我们执行了一个简单的SELECT查询,查询了名为my_table的表中的所有数据。查询结果将保存在result对象中。

4.4 插入数据

除了查询,我们还可以使用pyclickhouse插入数据到ClickHouse中。pyclickhouse提供了insert方法来执行插入操作。以下是一个示例:

复制代码
client.insert('my_table',
              [{'col1': 1, 'col2': 2}, {'col1': 3, 'col2': 4}],
              structure=['col1', 'col2'])

Python

Copy

上述代码中,我们在名为my_table的表中插入了两行数据,数据以字典的形式表示。

4.5 关闭连接

在完成操作后,我们应该关闭连接。可以使用连接对象的disconnect方法来关闭连接。

复制代码
client.disconnect()

Python

Copy

5. 总结

以上是Python连接ClickHouse常用的三种方式,分别是使用clickhouse-driver、clickhouse-sqlalchemy和pyclickhouse。

6、python pandas.DataFrame 直接写入Clickhouse

由于dataframe读取和存储数据的效率很高。使用客户端方式批量入库。

python 复制代码
client.execute(
     "insert into table values", df.values.tolist()
)
相关推荐
weixin_贾5 分钟前
最新AI-Python机器学习与深度学习技术在植被参数反演中的核心技术应用
python·机器学习·植被参数·遥感反演
zhoupenghui1688 分钟前
ClickHouse进行LEFT JOIN 关联查询时, 关联键的数据类型不一致,导致报错 的解决方案详解
clickhouse·left join·uint64·int64
张槊哲15 分钟前
函数的定义与使用(python)
开发语言·python
船长@Quant19 分钟前
文档构建:Sphinx全面使用指南 — 实战篇
python·markdown·sphinx·文档构建
北辰浮光23 分钟前
[Mybatis-plus]
java·开发语言·mybatis
光而不耀@lgy1 小时前
C++初登门槛
linux·开发语言·网络·c++·后端
lkbhua莱克瓦241 小时前
用C语言实现——一个中缀表达式的计算器。支持用户输入和动画演示过程。
c语言·开发语言·数据结构·链表·学习方法·交友·计算器
Mr__Miss1 小时前
面试踩过的坑
java·开发语言
偶尔微微一笑1 小时前
AI网络渗透kali应用(gptshell)
linux·人工智能·python·自然语言处理·编辑器
啊丢_1 小时前
C++——Lambda表达式
开发语言·c++