数据分析-前期数据处理

复制代码
   今天找到一份关于医学体检的数据,在数据分析前期工作需要对数据做处理,在这里我们对原始数据做一些处理,将数据处理为可分析的标准数据。下一篇文章做数据的分析。数据想要获取的话可以到我的资源下载。

1 数据读取

python 复制代码
import pandas as pd
data = pd.read_excel(r'E:\学习\项目\数据分析\体检数据\dataset.xls')
print(data.head())

2 定义数据处理函数

数据中有"是否吸烟","是否饮酒","性别"是否,需要将其转化为0 1二分类数据,便于后期分析。

python 复制代码
# 替换特定的值
def replace_value1(row):
    if row['是否吸烟'] == '是': # ['是否吸烟'] == '是':
        return 1
    else:
        return 0
def replace_value2(row):
    if row['是否饮酒'] == '是':
        return 1
    else:
        return 0
def replace_value3(row):
    if row['性别'] == '男':
        return 1
    else:
        return 0

3 数据处理

数据处理,获取出生年月,从事工作时间,体检年份,年龄等

python 复制代码
data['出生年月'] = data['身份证号'].str[4:8]  ## 添加出生年月
data['从事工作年份'] = data['开始从事某工作年份'].astype(str).str[0:4]
data['是否吸烟'] = data.apply(replace_value1, axis=1)
data['是否饮酒'] = data.apply(replace_value2, axis=1)
data['性别'] = data.apply(replace_value3, axis=1)
# for name,group in data.groupby('体检年份'):  ## 体检年份包含字符字段
    # print(name,group)
data['体检年份'] = data['体检年份'].astype(str).replace('2015年','2015')
data['从事工作时间'] = data['体检年份'].astype(float) - data['从事工作年份'].astype(float)
data['年龄'] = data['体检年份'].astype(float) - data['出生年月'].astype(float)

4 清洗后的数据

干净的数据可以直接用来分析

python 复制代码
data_new = data.loc[:,['序号 ', '性别', '是否吸烟', '是否饮酒', '体检年份', '淋巴细胞计数','白细胞计数',  '血小板计数', '出生年月', '从事工作年份', '从事工作时间','年龄']]
print(data_new.head(20))

结果:

下一篇文章会给予处理后的数据进行数据分析。

相关推荐
大数据魔法师8 小时前
【最全详解】DuckDB Python 全套 API 语法、参数与实战用法(零基础全覆盖)
python·数据分析
世人万千丶10 小时前
鸿蒙Crash高级捕获与异常监控:全局异常兜底/崩溃栈解析/符号表还原/智能聚类/闭环修复
学习·机器学习·华为·数据挖掘·harmonyos·鸿蒙·聚类
大数据魔法师12 小时前
Python 网络请求库 curl_cffi:从入门到实战,如何规避网站指纹检测
python·数据分析
Highcharts.js14 小时前
五大痛点拖慢数据分析平台决策效率:Highchart可视化与AI分析解决方案解析
人工智能·信息可视化·数据分析·数据可视化·highcharts·ai可视化分析
趣味科技15 小时前
记录修复EAGET忆捷移动硬盘损坏
windows·数据分析·硬件工程
spider_xcxc17 小时前
[特殊字符] 空间数据挖掘中频繁并置模式挖掘的并行与分布式加速:从传统方法到异构协同新架构
数据挖掘
AI科技星17 小时前
全域光速运动理论体系 (GAQ-UFT)——范式重构、核心方程与传统物理的本质分野
人工智能·线性代数·机器学习·重构·数据挖掘·回归·ai科技星
临床数据科学和人工智能兴趣组1 天前
要使用 R Markdown,首先需要安装 R 和 RStudio,接着安装 rmarkdown 包
开发语言·数据挖掘·数据分析·r语言·r语言-4.2.1
效率工作实验室1 天前
2026企业AI数据分析选型平台全景指南:从“人找数”到“AI自主行动”
人工智能·数据挖掘·数据分析
维克兜率天2 天前
【维克】正则化回归:从Lasso到Ridge:防止过拟合的数学魔法
人工智能·数据挖掘·回归