【数学建模】数据预处理

在数学建模赛题中,官方给所有选手的数据可能受到主观或客观条件的影响有一定的问题,如果不进行数据的处理而直接使用的话可能对最终的结果造成一定的影响,因此为了保证数据的真实性和建模结果的可靠性,需要在建模之前对数据进行相关的预处理工作。

数据预处理一般包括:数据清洗,数据集成,数据变换和数据规约

数据清洗(数据中存在错误或异常数据,我们将这些数据找出并进行相关处理,使其变成常规的,近似正常的数据)

数据集成(将不同格式,不同获取规范,不同获取逻辑的数据集合在一块进行集中化处理)

数据变换(将数据按照一定的规范使它变成一个统一的数据集)

数据规约/数据降维(数据存在很多冗余或者数据的维度过高,计算起来十分复杂繁琐,因而使用关键的指标代替原先高维的数据)

数据清洗

缺失值处理

缺失值处理方法主要有三种:删除记录、数据插补、不处理

删除记录:指当该组数据某一个案的数据缺省时,删除组个案的数据,这种方法的优点是处理方便,但在数据较少时要慎重使用。

数据插补:使用不同的插补方法将缺省数据补齐。

最近邻插补:在记录中找到与缺失样本最接近的样本的该属性插补,可以通过计算对象间的欧氏距离衡量。

回归方法插补:根据已有数据和与其相关的其他变量的数据建立拟合模型来预测缺失值。

插值法:常用的插值法有很多,主要有拉格朗日插值法、牛顿插值法。

异常值处理

处理方法有两种:正态分布原则和画箱型图
1、正态分布3σ原则
数值分布在(μ-3σ,μ+3σ)中的概率为99.73%,其中μ为平均值,σ为标准差。
求解步骤:
1.计算均值μ和标准差σ;2.判断每个数据值是否在(μ-3σ,μ+3σ)内,不在则为异常值。
适用题目: 总体符合正态分布,例如人口数据、测量误差、生产加工质量、考试成绩等。
不适用题目: 总体符合其他分布,例如公交站人数排队论符合泊松分布

2、画箱型图
箱型图中,把数据从小到大排序。
下四分位数 Q1 是排第25%的数值,上四分位数 Q3 是排第75%的数值。
四分位距 IQR = Q3 - Q1 ,也就是排名第75%的减去第25%的数值
正态分布类似,设置个合理区间,在区间外的就是异常值。
一般设[ Q1 − 1.5* IQR , Q3 +1.5* IQR ]内为正常值。

数据变换

数据类型的一致化处理方法

一般问题的数据指标可能有"极大型","极小型","中间型","区间型"指标。

极大型:期望取值越大越好

极小型:期望取值越小越好

中间型:期望取值既不要太大,也不要太小,取适当区间为最好

区间型:期望取值最好是落在某个确定的区间内为最好
极小型:对某个极小型数据指标x,则令x'=1/x(x>0),或x'=M-x,即可将x极大化。

中间型:对某个中间型数据指标x,则令:

即可将中间型数据指标x极大化。

区间型:对某个区间型数据指标x,则令:

其中[a,b]为x的最佳稳定区间,c=max{a-m,M-b},M和m分别为x可能取值的最大值和最小值,即可将x极大化。

数据指标的无量纲化处理

在实际数据指标之间,往往存在着不可公度性(没有共同的基础、尺度和标准),直接应用是困难的,会出现"大数吃小数"(数据指标之间的量纲不同导致)的错误,从而导致结果的不合理。

常用方法:标准差法(数据比较均匀)、极值差法(数据分布不是很均匀,保留数据的原有特性)、功效系数法(极值差法基础改进)等。

定性指标(文字指标)的量化处理方法

在社会实践中,很多问题都涉及到定性因素(指标)的定量化处理问题。诸如:教学质量、科研水平、工作政绩、人员素质、各种满意度、信誉、态度、意识、观念、能力等因素有关的政治、社会、人文等领域的问题。如何对这些相关问题给出定量分析呢?

相关推荐
王然-HUDDM2 天前
HUDDM(全息普适需求动力学模型)详解
数学建模·架构·系统架构·agi·预编码算法
lisw053 天前
计算神经科学:概念、历史、内容与发展战略!
人工智能·科技·数学建模
Deepoch3 天前
Deepoc数学大模型:通信行业智能化的算法引擎
人工智能·算法·数学建模·开发板·通信·具身模型·deepoc
wheeldown3 天前
【数学建模】用代码搞定无人机烟幕:怎么挡导弹最久?
数学建模·无人机
民乐团扒谱机5 天前
【微实验】数模美赛备赛:多目标优化求解实战(MATLAB实现,以流水车间调度为例)
开发语言·数学建模·matlab·甘特图·遗传算法·多目标优化·优化模型
88号技师5 天前
2026年1月一区SCI-最优或最劣优化器Farthest better or nearest worse optimizer-附Matlab免费代码
开发语言·数学建模·matlab·启发式算法·优化算法
88号技师6 天前
2025年11月一区SCI-电磁波传播优化算法Electromagnetic wave propagation algorithm-附Matlab免费代码
开发语言·算法·数学建模·matlab·优化算法
3Bronze1Pyramid6 天前
【微分方程——传染病模型(一)】
数学建模
qianbo_insist10 天前
基于APAP算法的图像和视频拼接
算法·数学建模·图像拼接
万行10 天前
机器学习&第三章
人工智能·python·机器学习·数学建模·概率论