Pandas DataFrame 分组聚合中处理 JSON 列的高效方法

当对包含 json(字典/列表)类型列的 dataframe 进行 groupby 时,因字典不可哈希会报错;本文介绍无需序列化/反序列化即可安全、高效完成分组聚合的推荐方案。 当对包含 json(字典/列表)类型列的 dataframe 进行 groupby 时,因字典不可哈希会报错;本文介绍无需序列化/反序列化即可安全、高效完成分组聚合的推荐方案。在 Pandas 中,对含嵌套结构(如字典、列表)的列执行 groupby 操作时,常遇到 TypeError: unhashable type: 'dict' 错误------这是因为 groupby 默认将分组键视为哈希对象,而 Python 字典和列表是可变且不可哈希的。虽然将 JSON 列临时转为字符串(json.dumps)再分组是一种常见 workaround,但该方法存在明显缺陷:引入额外的序列化开销、可能因浮点精度或键序差异导致逻辑不等价的 JSON 被判为不同键、且需手动管理来回转换,易出错且可读性差。更专业、更健壮的解决方案是:避免将 JSON 列作为分组键,而是将其作为被聚合的值,并选用语义明确、无副作用的聚合函数(如 'first'、'last' 或自定义函数)。只要同一分组内 JSON 内容逻辑一致(如示例中两行 json 完全相同),直接取首个即可保留原始结构,且完全规避哈希问题。以下为推荐实现:import pandas as pdimport json# 构造示例数据json_data = { "employees": {"name": "Shyam", "email": "shyam@example.com"}, {"name": "Bob", "email": "bob@example.com"}, {"name": "Jai", "email": "jai@example.com"}, }df = pd.DataFrame({ "key": "A", "A", "val": 1, 2, "json": json_data, json_data # 注意:两行内容完全相同})# ? 推荐做法:以 'key' 为分组键,对 'val' 聚合为列表,对 'json' 取首个(保证结构完整)df_grouped = df.groupby("key").agg({ "val": list, "json": "first" # 安全、高效、保持原生类型}).reset_index()print(df_grouped)输出结果: 文小言 百度旗下新搜索智能助手,有问题,问小言。

相关推荐
傻啦嘿哟5 小时前
某招聘平台爬虫:爬取招聘岗位数据,分析各城市薪资水平
开发语言·爬虫·python
2501_933670795 小时前
2026秋招量化分析岗技能栈:Python、SQL、统计建模、回测项目怎么准备
开发语言·python·sql
2601_962077605 小时前
python Dejavu库快速识别音频指纹实例探究
python·音乐识别·dejavu库·音频指纹识别·实例探究
科技苑5 小时前
如何用Python编程实现一个简单的Web爬虫?
人工智能·python
程序员清风6 小时前
Java 后端高并发设计:线程池、限流、熔断与降级
java·数据库·oracle
天衍四九-6 小时前
MySQL中如何定位慢查询?如果SQL语句执行很慢,如何分析和优化?
数据库·sql·mysql
dayDayupbetter6 小时前
Visual C++ 2010安装与使用高手秘籍
python
隐擎fox6 小时前
深入理解网络传输层安全:TLS 指纹识别(JA3/JA4)原理与 Python 协议层检测实战
爬虫·python·网络协议·安全·网络安全·https
尚久龙6 小时前
mysql-5.7.26-winx64的安装步骤
数据库·mysql
医疗信息化王工6 小时前
DataForge:基于 Python 的数据库批量导出 Excel 工具——从架构到部署的全流程实战
数据库·python·excel