商业数据分析概论

🐳 我正在和鲸社区参加"商业数据分析训练营活动" https://www.heywhale.com/home/competition/6487de6649463ee38dbaf58b ,以下是我的学习笔记:

学习主题:波士顿房价数据快速查看

日期:2023.9.4

关键概念/知识点:

  • 数据导入
  • 查看数据
  • 缺失值的处理
  • 统计特征描述

掌握的新函数/方法:

  • pandas.read_csv()
  • df.head()
  • df.tail()
  • df.iloc
  • df.loc
  • df.dropna (inplace=True)
  • df.describe()

代码举例

数据导入:

javascript 复制代码
# 一切的工作都从引入 python 库包开始,import 是引入库包的语句,加一个 as 就可以把原先比较长的库包名改成简写
import pandas as pd
# 读取本地数据
# Pandas数据分析库中read_csv函数能够进行读取本地数据,我们将读取到的数据存储在名为 df(DataFrame)的变量中
df = pd.read_csv('/home/mw/input/data_analysis8875/Boston Housing Data.csv')

查看数据:

javascript 复制代码
# Head of the data
# 现在我们将展示数据的前五行,以便快速查看数据结构和内容
# head()函数默认显示前五行,可以传入一个整数参数来指定显示的行数,例如df.head(10)将显示前十行。
print(df.head())

# Tail of the data
# 接着,我们展示数据的最后五行,以了解数据尾部的情况
# 与head()函数类似,tail()函数也是默认显示前五行,也可传入一个整数参数来指定显示的行数
print(df.tail())
javascript 复制代码
# Python还提供了查看特定某行或某列数据的方法,可以用到iloc或者loc属性进行查看
# 如提取数据第一列的前五行
# iloc 用于基于整数索引的数据切片,逗号前的 ":" 代表选取所有行,而逗号后的 "0" 代表选取第一列
print(df.iloc[:,0].head())

# 提取从11到20行前3列数据
print(df.iloc[10:20,0:3])

# 提取从11到20行,CRIM、RM、AGE三列中数据
print(df.loc[10:20,['CRIM','RM','AGE']])

缺失值的处理:

查找并打印数据集中每列的缺失值数量

javascript 复制代码
# isna() 函数检查每个元素是否为缺失值,sum() 函数将每列的缺失值数量加总
print(df.isna().sum())

若数据中包含缺失值,可使用如下方法进行处理:
删除缺失值:若缺失值不是很多,可以直接选择删除缺失值

javascript 复制代码
df.dropna (inplace=True)

补充缺失值:若数据量不大,还要进行预测,建议选择数据填充

javascript 复制代码
# 填充空值核心代码(将 A 列中缺失值填充为 B):
df.loc [df ['A'].isna (),'A'] = B

统计特征描述:

javascript 复制代码
# 使用 describe() 函数生成数据集的描述性统计信息,如计数、均值、标准差、最小值、四分位数和最大值
# 输出行依次代表:数据量、平均值、标准差、最小值、下四分位点、中值、上四分位点、最大值
print(df.describe())

关键总结:

导入数据是进行数据分析的第一步,通常来说,数据一般是 csv 格式,在 Python 中,利用pd.read_csv()导入数据;

有数据之后,就要进行数据变换。通常会在这一步移除分析中的非必要数据,在移除之前首先需要查看一下已有数据,包括查看数据的前几行、后几行以及选择特定列的数据;

通过df.isna().sum()查找缺失值数量,并按照实际需要对缺失值进行删除或填充;

python 中通过 describe 属性对数据的统计特征进行描述,获取数据集的描述性统计信息,例如平均值、标准差、最小值、最大值和四分位数。

... ...

问题/困惑:

只是先对于数据的加载有了初步的了解,对于后续数据分析的流程尚不清楚

下一步计划:

通过练习掌握pandas数据导入、查看数据、数据描述

参考资料/相关资源链接:

Pandas文档:https://pandas.pydata.org/docs/

相关推荐
阿里云大数据AI技术1 小时前
从数据平台到智能数据助手:Agentic 数据分析与 API 生产实践
人工智能·数据分析·agent
慧都小项1 小时前
夜间Web回归跑到一半停了?TestComplete 15.83提升批量测试稳定性
前端·测试工具·数据挖掘·回归·汽车·web
逻辑君4 小时前
ANNA 意识驱动 RAG 系统
人工智能·机器学习·数据挖掘
数据智研5 小时前
【数据分享】阿庐风景名胜区(国家级地质公园)边界数据
人工智能·数据分析·数据可视化
CC数分6 小时前
如何用Excel数据透视分析业务?3分钟出报表
数据分析·excel
民乐团扒谱机8 小时前
【读论文】2005 一种旋律转录的分类方法A classification approach to melody transcription[C]
人工智能·分类·数据挖掘
追风少年ii19 小时前
课前准备--蛋白建模AlphaFold 2与AlphaFold 3
数据分析·分子动力学·分子对接·结构生物学
躺柒1 天前
读数据可视化12可视化设计原则
信息可视化·数据分析·可视化·数据可视化·大数据分析
十三画者1 天前
【文献分享】KCFtools:基于k-mer的无比对基因组变异检测与基因型矩阵构建工具
人工智能·深度学习·数据挖掘·数据分析
今天AI了吗1 天前
AI Agent 在数据分析领域的落地判断:哪些场景真的需要 Agent
java·数据库·人工智能·python·sql·数据分析·copilot