Redis——使用 python 操作 redis 之从 hmse 迁移到 hset

环境

问题描述

我想向一个 hash 类型的 key 中插入多个 键值对 value。

在 redis-cli 中我可以使用 HMSET 命令实现这种批量插入,但是当我使用 redis library 4.1.4 中的 hmset 方法时报错:DeprecationWarning: Redis.hmset() is deprecated. Use Redis.hset() instead. conn.hmset(article, content)

代码如下:

复制代码
import time
import redis3

conn = redis3.Redis(host='localhost', port=6379, db=0, decode_responses=True)
conn.flushdb()

now = time.time()
article = 'article:' + str(1)

content = {
    'title': 'A title',
    'link': 'http://www.google.com',
    'poster': 'username',
    'time': now,
    'votes': 1,
}

conn.hmset(article, content)
print(conn.hgetall(article))

查了一下,根据hmset() uses deprecated command HMSET #1269的说法, hmset 方法从 4.0.0 版本开始就被弃用了。

尽管这里报错,但实际上它还是起作用了,因为它并没有被从 redis library 4.1.4 的 API 源码中移出。

因为它早晚会被移除,我就想从 hmse 迁移到 hset,于是这就产生了一些问题:

  • 怎样使用 hset API。
  • 在使用 hset API时遇到了一些问题。

解决过程

过程及方法一:

使用循环,但这样在处理大数据时会比较慢:

复制代码
from pyinstrument import Profiler
profiler=Profiler()
profiler.start()
for i in range(100000):
    for item in content:
        conn.hset(article, item, content[item])
profiler.stop()
profiler.print()

执行性能如下:

复制代码
  _     ._   __/__   _ _  _  _ _/_   Recorded: 18:10:52  Samples:  41159
 /_//_/// /_ / //_// / //_'/ //     Duration: 41.370    CPU time: 38.547
/   _/                      v4.1.1

Program: F:/python基础/操作数据库/redis/test.py

41.366 <module>  test.py:8
└─ 40.991 hset  redis3client.py:3034
      [130 frames hidden]  redis3, <built-in>
         8.293 socket.sendall  <built-in>:0

过程及方法二:

根据源码以及hset mapping not working #1396的说法,我使用mapping参数映射一下:

复制代码
conn.hset(article, mapping=content)

但报错:redis3.exceptions.ResponseError: wrong number of arguments for 'hset' command

按照 redis doc:hset 的说法,mapping 参数应该是支持以 python 字典形式插入 hash 类型的数据的,就在想是不是本地 windows redis 版本的问题,根据[BUG] hset does not support multiple dict mapping #8622中的讨论,去查了一下本地 windows redis 版本:

好家伙,版本太低了,要么直接卸载,然后手动编译重装 6.X 版本,要么还是在 linux 环境操作:

复制代码
# 查看redis版本
dfl@WEB:/opt/redis-6.0.9$ redis-cli
127.0.0.1:6379> info server
# Server
redis_version:6.0.9

执行官结果如下:

复制代码
{'title': 'A title', 'link': 'http://www.google.com', 'poster': 'username', 'time': '1648130581.633493', 'votes': '1'}

过程及方法三:

Redis 大量数据插入

相关推荐
weixin_4521595510 小时前
如何从Python初学者进阶为专家?
jvm·数据库·python
Hello.Reader10 小时前
面向 403 与域名频繁变更的合规爬虫工程实践以 Libvio 系站点为例
爬虫·python·网络爬虫
深蓝海拓11 小时前
PySide6从0开始学习的笔记(二十五) Qt窗口对象的生命周期和及时销毁
笔记·python·qt·学习·pyqt
Dfreedom.11 小时前
开运算与闭运算:图像形态学中的“清道夫”与“修复匠”
图像处理·python·opencv·开运算·闭运算
2301_7903009611 小时前
用Python读取和处理NASA公开API数据
jvm·数据库·python
shuair11 小时前
redis实现布隆过滤器
spring boot·redis·bootstrap
葱明撅腚11 小时前
利用Python挖掘城市数据
python·算法·gis·聚类
万象.11 小时前
redis持久化:AOF和RDB
数据库·redis·缓存
Serendipity_Carl11 小时前
1637加盟网数据实战(数分可视化)
爬虫·python·pycharm·数据可视化·数据清洗
流㶡11 小时前
网络爬虫之requests.get() 之爬取网页内容
python·数据爬虫