用Python做数据分析之数据筛选及分类汇总

1、按条件筛选(与,或,非)

为数据筛选,使用与,或,非三个条件配合大于,小于和等于对数据进行筛选,并进行计数和求和。与 excel 中的筛选功能和 countifs 和 sumifs 功能相似。

Excel 数据目录下提供了"筛选"功能,用于对数据表按不同的条件进行筛选。Python 中使用 loc 函数配合筛选条件来完成筛选功能。配合 sum 和 count 函数还能实现 excel 中 sumif 和 countif 函数的功能。

1)使用"与"条件进行筛选

条件是年龄大于 25 岁,并且城市为 beijing。筛选后只有一条数据符合要求。

1#使用"与"条件进行筛选

2df_inner.loc(df_inner\['age' > 25) & (df_inner'city' == 'beijing'), 'id','city','age','category','gender']

2)使用"或"条件进行筛选

年龄大于 25 岁或城市为 beijing。筛选后有 6 条数据符合要求。

1#使用"或"条件筛选

2df_inner.loc(df_inner\['age' > 25) | (df_inner'city' == 'beijing'), 'id','city','age','category','gender'].sort

3('age')

3)求和

在前面的代码后增加 price 字段以及 sum 函数,按筛选后的结果将 price 字段值进行求和,相当于 excel 中 sumifs 的功能。

1 #对筛选后的数据按 price 字段进行求和

2 df_inner.loc(df_inner\['age' > 25) | (df_inner'city' == 'beijing'),

3 'id','city','age','category','gender','price'].sort('age').price.sum()

4)使用"非"条件进行筛选

城市不等于 beijing。符合条件的数据有 4 条。将筛选结果按 id 列进行排序。

1#使用"非"条件进行筛选

2df_inner.loc(df_inner\['city'

!= 'beijing'), 'id','city','age','category','gender'].sort('id')

在前面的代码后面增加 city 列,并使用 count 函数进行计数。相当于 excel 中的 countifs 函数的功能。

1#对筛选后的数据按 city 列进行计数

2df_inner.loc(df_inner\['city'

!= 'beijing'), 'id','city','age','category','gender'].sort('id').city.count()

还有一种筛选的方式是用 query 函数。下面是具体的代码和筛选结果。

1#使用 query 函数进行筛选

2df_inner.query('city == 'beijing', 'shanghai'')

在前面的代码后增加 price 字段和 sum 函数。对筛选后的 price 字段进行求和,相当于 excel 中的 sumifs 函数的功能。

1 #对筛选后的结果按 price 进行求和

2 df_inner.query('city == 'beijing', 'shanghai'').price.sum()

3 12230

2、数据汇总

接下来是对数据进行分类汇总,Excel 中使用分类汇总和数据透视可以按特定维度对数据进行汇总,python 中使用的主要函数是 groupby 和 pivot_table。下面分别介绍这两个函数的使用方法。

1)分类汇总

Excel 的数据目录下提供了"分类汇总"功能,可以按指定的字段和汇总方式对数据表进行汇总。Python 中通过 Groupby 函数完成相应的操作,并可以支持多级分类汇总。

Groupby 是进行分类汇总的函数,使用方法很简单,制定要分组的列名称就可以,也可以同时制定多个列名称,groupby 按列名称出现的顺序进行分组。同时要制定分组后的汇总方式,常见的是计数和求和两种。

1 #对所有列进行计数汇总

2 df_inner.groupby('city').count()

可以在 groupby 中设置列名称来对特定的列进行汇总。下面的代码中按城市对 id 字段进行汇总计数。

1 #对特定的 ID 列进行计数汇总

2 df_inner.groupby('city')'id'.count()

3 city

4 beijing 2

5 guangzhou 1

6 shanghai 2

7 shenzhen 1

8 Name: id, dtype: int64

在前面的基础上增加第二个列名称,分布对 city 和 size 两个字段进行计数汇总。

1 #对两个字段进行汇总计数

2 df_inner.groupby('city','size')'id'.count()

3 city size

4 beijing A 1

5 F 1

6 guangzhou A 1

7 shanghai A 1

8 B 1

9 shenzhen C 1

10 Name: id, dtype: int64

除了计数和求和外,还可以对汇总后的数据同时按多个维度进行计算,下面的代码中按城市对 price 字段进行汇总,并分别计算 price 的数量,总金额和平均金额。

1 #对 city 字段进行汇总并计算 price 的合计和均值。

2 df_inner.groupby('city')'price'.agg(len,np.sum, np.mean)

2)数据透视

Excel 中的插入目录下提供"数据透视表"功能对数据表按特定维度进行汇总。Python 中也提供了数据透视表功能。通过 pivot_table 函数实现同样的效果。

数据透视表也是常用的一种数据分类汇总方式,并且功能上比 groupby 要强大一些。下面的代码中设定 city 为行字段,size 为列字段,price 为值字段。分别计算 price 的数量和金额并且按行与列进行汇总。

1 #数据透视表

2pd.pivot_table(df_inner,index='city',values='price',columns='size',aggfunc=len,np.sum,fill_value=0,margins=True)

文章来源:网络 版权归原作者所有

上文内容不用于商业目的,如涉及知识产权问题,请权利人联系小编,我们将立即处理

相关推荐
Zane199433 分钟前
闭包到底"闭"住了什么?一文讲透 LEGB 规则与循环里的闭包陷阱
后端·python
Lumi_Peak1 小时前
Claude思考了42秒,我的代码质量直接提升了一个档次
python·claude
m沐沐1 小时前
【机器学习】DBSCAN聚类算法——原理、参数调优与实战
人工智能·python·深度学习·算法·机器学习·聚类·dbscan
梅孔立2 小时前
推荐一个 Python 开源项目:AI 模板填充 + Markdown 转 Word,面向 Aspose 模板引擎的效率神器
人工智能·python·开源
码农小韩2 小时前
AIAgent应用开发——大模型理论基础与应用(七)
python·学习·ai·大模型·agent
CodeLinghu2 小时前
LangSmith Evaluate实战评估Agent
人工智能·python·语言模型·llm
起司喵喵2 小时前
推荐一款基于 Python 和 Rust 开发的跨平台 GUI 自动化库!
python·rust·自动化
过期的秋刀鱼!2 小时前
学习曲线-过拟合和欠拟合要做什么以及原因
人工智能·python·深度学习·算法·机器学习·模型评估
m沐沐3 小时前
【自然语言处理】词向量转换与中文文本情感分类——从CountVectorizer到朴素贝叶斯
人工智能·算法·机器学习·自然语言处理·分类·中文分词·词向量转换
Yolanda_20223 小时前
Python学习-第九部分-错误处理与异常处理
开发语言·python·学习