Pandas DataFrame 分组聚合中处理 JSON 列的高效方法

当对包含 json(字典/列表)类型列的 dataframe 进行 groupby 时,因字典不可哈希会报错;本文介绍无需序列化/反序列化即可安全、高效完成分组聚合的推荐方案。 当对包含 json(字典/列表)类型列的 dataframe 进行 groupby 时,因字典不可哈希会报错;本文介绍无需序列化/反序列化即可安全、高效完成分组聚合的推荐方案。在 Pandas 中,对含嵌套结构(如字典、列表)的列执行 groupby 操作时,常遇到 TypeError: unhashable type: 'dict' 错误------这是因为 groupby 默认将分组键视为哈希对象,而 Python 字典和列表是可变且不可哈希的。虽然将 JSON 列临时转为字符串(json.dumps)再分组是一种常见 workaround,但该方法存在明显缺陷:引入额外的序列化开销、可能因浮点精度或键序差异导致逻辑不等价的 JSON 被判为不同键、且需手动管理来回转换,易出错且可读性差。更专业、更健壮的解决方案是:避免将 JSON 列作为分组键,而是将其作为被聚合的值,并选用语义明确、无副作用的聚合函数(如 'first'、'last' 或自定义函数)。只要同一分组内 JSON 内容逻辑一致(如示例中两行 json 完全相同),直接取首个即可保留原始结构,且完全规避哈希问题。以下为推荐实现:import pandas as pdimport json# 构造示例数据json_data = { "employees": [ {"name": "Shyam", "email": "shyam@example.com"}, {"name": "Bob", "email": "bob@example.com"}, {"name": "Jai", "email": "jai@example.com"}, ]}df = pd.DataFrame({ "key": ["A", "A"], "val": [1, 2], "json": [json_data, json_data] # 注意:两行内容完全相同})# ? 推荐做法:以 'key' 为分组键,对 'val' 聚合为列表,对 'json' 取首个(保证结构完整)df_grouped = df.groupby("key").agg({ "val": list, "json": "first" # 安全、高效、保持原生类型}).reset_index()print(df_grouped)输出结果: 文小言 百度旗下新搜索智能助手,有问题,问小言。

相关推荐
2301_8092047018 分钟前
JavaScript中严格模式use-strict对引擎解析的辅助.txt
jvm·数据库·python
zjy2777734 分钟前
mysql如何选择合适的索引类型_mysql索引设计实战
jvm·数据库·python
Aaswk35 分钟前
Java Lambda 表达式与流处理
java·开发语言·python
笨蛋不要掉眼泪1 小时前
Mysql架构揭秘:update语句的执行流程
数据库·mysql·架构
万邦科技Lafite1 小时前
京东item_get接口实战案例:实时商品价格监控全流程解析
java·开发语言·数据库·python·开放api·淘宝开放平台
秋92 小时前
ruoyi项目更换为mysql9.7.0数据库
数据库
Andya_net2 小时前
MySQL | MySQL 8.0 权限管理实践-精确赋予库、表只读等权限
android·数据库·mysql
Cyber4K2 小时前
【Python专项】进阶语法-系统资源监控与数据采集(1)
开发语言·python·php
冷小鱼2 小时前
JVM 异常崩溃排查全指南:从 Core Dump 到根因定位
jvm
筑梦之路3 小时前
harbor数据库报错权限异常如何处理——筑梦之路
数据库·harbor