Pandas数据分析处理库
数据预处理
导入一份泰坦尼克号乘客数据
df.head()展示读取数据,默认读取前5行
df.tail()默认读取后5行
df.head(10)读取前10行
DataFrame结构
Pandas工具包的基础结构,二维矩阵结构,行表示数据样本,列表示特征指标。基本上读取数据返回的都是DataFrame结构。
DataFrame能调用的属性很多,具体查看API文档。
举例几种:
数据索引
Pandas中bool类型同样可以当作索引:
创建DataFrame
创建一个字典结构,其中key表示特征名字,value表示各个样本的实际值,通过pf.DataFrame()函数来创建。
Series操作
前面的操作对象都是DataFrame,读取的数据都是二维的,
如果在数据中单独取一列,就是Series格式,DataFrame是由Series组合起来得到的。
创建Series:
数据分析
机器学习中比拼的就是数据特征够不够好,将特征中连续值离散化是常用套路。
pivot数据透视表
groupby操作
常用函数操作
Merge操作
如key列值不同
data.drop_duplicates()去掉重复数据
data.drop_duplicates(subset='k1')只考虑某一列重复的情况,其他全部舍弃
数据处理通常会遇到缺失值,通过isnull()函数判断缺失情况,True表示缺失
df.isnull().any()判断某一列是否有缺失