Redis——使用 python 操作 redis 之从 hmse 迁移到 hset

环境

问题描述

我想向一个 hash 类型的 key 中插入多个 键值对 value。

在 redis-cli 中我可以使用 HMSET 命令实现这种批量插入,但是当我使用 redis library 4.1.4 中的 hmset 方法时报错:DeprecationWarning: Redis.hmset() is deprecated. Use Redis.hset() instead. conn.hmset(article, content)

代码如下:

复制代码
import time
import redis3

conn = redis3.Redis(host='localhost', port=6379, db=0, decode_responses=True)
conn.flushdb()

now = time.time()
article = 'article:' + str(1)

content = {
    'title': 'A title',
    'link': 'http://www.google.com',
    'poster': 'username',
    'time': now,
    'votes': 1,
}

conn.hmset(article, content)
print(conn.hgetall(article))

查了一下,根据hmset() uses deprecated command HMSET #1269的说法, hmset 方法从 4.0.0 版本开始就被弃用了。

尽管这里报错,但实际上它还是起作用了,因为它并没有被从 redis library 4.1.4 的 API 源码中移出。

因为它早晚会被移除,我就想从 hmse 迁移到 hset,于是这就产生了一些问题:

  • 怎样使用 hset API。
  • 在使用 hset API时遇到了一些问题。

解决过程

过程及方法一:

使用循环,但这样在处理大数据时会比较慢:

复制代码
from pyinstrument import Profiler
profiler=Profiler()
profiler.start()
for i in range(100000):
    for item in content:
        conn.hset(article, item, content[item])
profiler.stop()
profiler.print()

执行性能如下:

复制代码
  _     ._   __/__   _ _  _  _ _/_   Recorded: 18:10:52  Samples:  41159
 /_//_/// /_ / //_// / //_'/ //     Duration: 41.370    CPU time: 38.547
/   _/                      v4.1.1

Program: F:/python基础/操作数据库/redis/test.py

41.366 <module>  test.py:8
└─ 40.991 hset  redis3client.py:3034
      [130 frames hidden]  redis3, <built-in>
         8.293 socket.sendall  <built-in>:0

过程及方法二:

根据源码以及hset mapping not working #1396的说法,我使用mapping参数映射一下:

复制代码
conn.hset(article, mapping=content)

但报错:redis3.exceptions.ResponseError: wrong number of arguments for 'hset' command

按照 redis doc:hset 的说法,mapping 参数应该是支持以 python 字典形式插入 hash 类型的数据的,就在想是不是本地 windows redis 版本的问题,根据[BUG] hset does not support multiple dict mapping #8622中的讨论,去查了一下本地 windows redis 版本:

好家伙,版本太低了,要么直接卸载,然后手动编译重装 6.X 版本,要么还是在 linux 环境操作:

复制代码
# 查看redis版本
dfl@WEB:/opt/redis-6.0.9$ redis-cli
127.0.0.1:6379> info server
# Server
redis_version:6.0.9

执行官结果如下:

复制代码
{'title': 'A title', 'link': 'http://www.google.com', 'poster': 'username', 'time': '1648130581.633493', 'votes': '1'}

过程及方法三:

Redis 大量数据插入

相关推荐
喵手9 小时前
Python爬虫实战:京东/淘宝搜索多页爬虫实战 - 从反爬对抗到数据入库的完整工程化方案(附CSV导出 + SQLite持久化存储)!
爬虫·python·爬虫实战·零基础python爬虫教学·京东淘宝页面数据采集·反爬对抗到数据入库·采集结果csv导出
消失的旧时光-19439 小时前
第十四课 · 实战篇:Redis 缓存系统落地指南(Spring Boot 从 0 到可用)
spring boot·redis·缓存
B站_计算机毕业设计之家9 小时前
猫眼电影数据可视化与智能分析平台 | Python Flask框架 Echarts 推荐算法 爬虫 大数据 毕业设计源码
python·机器学习·信息可视化·flask·毕业设计·echarts·推荐算法
PPPPPaPeR.9 小时前
光学算法实战:深度解析镜片厚度对前后表面折射/反射的影响(纯Python实现)
开发语言·python·数码相机·算法
JaydenAI9 小时前
[拆解LangChain执行引擎] ManagedValue——一种特殊的只读虚拟通道
python·langchain
·云扬·9 小时前
MySQL Redo Log落盘机制深度解析
数据库·mysql
骇城迷影9 小时前
Makemore 核心面试题大汇总
人工智能·pytorch·python·深度学习·线性回归
长安牧笛10 小时前
反传统学习APP,摒弃固定课程顺序,根据用户做题正确性,学习速度,动态调整课程难度,比如某知识点学不会,自动推荐基础讲解和练习题,学习后再进阶,不搞一刀切。
python·编程语言
用户9828630256810 小时前
pg内核实现细节
数据库