数据挖掘实验(二)数据预处理【等深分箱与等宽分箱】

一、分箱平滑的原理

(1)分箱方法

在分箱前,一定要先排序数据,再将它们分到等深(等宽)的箱中。

常见的有两种分箱方法:等深分箱和等宽分箱。

等深分箱:按记录数进行分箱,每箱具有相同的记录数,每箱的记录数称为箱的权重,也称箱子的深度。

等宽分箱:在整个属性值的区间上平均分布,即每个箱的区间范围设定为一个常量,称为箱子的宽度。

(2)数据平滑

将数据划分到不同的箱子之后,可以运用如下三种策略对每个箱子中的数据进行平滑处理:

平均值平滑:箱中的每一个值被箱中数值的平均值替换。

中值平滑:箱中的每一个值被箱中数值的中值替换。

边界平滑:箱中的最大值和最小值称为箱子的边界,箱中的每一个值被最近的边界值替换。

二、Matlab代码实现

首先用rand()函数随机生成20*5的矩阵,其数据范围为[0,1]。

1.等深分箱

Matlab 复制代码
clear;clc; % 清除变量和命令窗口

A=rand(20,5); % 随机生成20*5的矩阵,其中每个数取值范围[0,1]
fprintf("当前生成的原数据:\n");
disp(A);

% 排序,参数1表示按列排序,取2为按行排序;'ascend'为升序,'descend'为降序
A=sort(A,1,'ascend'); 
fprintf("将原数据的每列排序后:\n"); 
disp(A);

h=input("请输入等深分箱的深度h(1<h<20):");

% 检查输入变量h是否有效
if ~isnumeric(h) || ~isscalar(h) || h<=1 || h>=20 || h~=floor(h)
    error("输入变量h必须是一个大于1小于20的正整数");
end

%% 对每列进行等深分箱,然后求每个箱子的均值
[n,m]=size(A); % n行m列
B=zeros(n,m); % 预分配输出变量B
for j=1:m % 列j
	for i=1:h:n % 行i
		% 当前箱子第一个数位置为i,最后一个数位置为min(i+h-1,n)
		p1=int64(i); % 转换成整数(i默认是double类型,但是索引必须要为整数)
		p2=int64(min(i+h-1,n));
		B(p1:p2,j)=mean(A(p1:p2,j)); % 当前箱子的均值
    end
end % 结束行循环

fprintf("\n经过等深分箱,用箱均值平滑处理后的数据:\n"); 
disp(B);

for i=1:h:n 的含义是:

  • i 是一个循环变量,它的初始值是 1。
  • h 是一个输入变量,它表示等深分箱的深度。
  • n 是一个由 size 函数得到的变量,它表示矩阵 A 的行数。
  • 这个循环的作用是从第一行开始,每隔 h 行取一行作为一个箱子的起始位置,然后计算这个箱子中所有元素的均值,并赋给输出矩阵 B 的相应位置。
    isnumeric 函数是一个用于判断输入是否为数值数组的函数。数值数组是指由数值类型的元素组成的数组,例如整数、浮点数、无穷大或非数字。MATLAB 中的数值类型包括 int8, int16, int32, int64, uint8, uint16, uint32, uint64, single, 和 double。

isnumeric 函数的语法格式是:

复制代码
TF = isnumeric(A)

其中,A 是输入数组,可以是任意维度的;TF 是输出逻辑值,如果 A 是数值数组,则返回 1 (true),否则返回 0 (false)。

例如,如果 A 是一个包含整数和浮点数的矩阵,那么 isnumeric(A) 将返回 1;如果 A 是一个包含字符串或单元数组的矩阵,那么 isnumeric(A) 将返回 0。
~isscalar(h) 函数是一个逻辑表达式,它用于判断 h 是否不是一个标量。标量是一个大小为 1×1 的二维数组,也就是一个单个的数值。如果 h 不是一个标量,那么 ~isscalar(h) 将返回 1 (true),否则返回 0 (false)。

python代码为

python 复制代码
import numpy as np # 导入 numpy 库
=

A = np.random.rand(20,5) # 随机生成 20*5 的矩阵,其中每个数取值范围 [0,1]
print("当前生成的原数据:")
print(A)

# 排序,参数 0 表示按列排序,取 1 为按行排序;'ascend' 为升序,'descend' 为降序
A = np.sort(A, axis=0, kind='quicksort') # 使用快速排序算法
print("将原数据的每列排序后:")
print(A)

h = int(input("请输入等深分箱的深度 h (1<h<20):")) # 输入一个整数

# 检查输入变量 h 是否有效
if not isinstance(h, int) or h <= 1 or h >= 20: # 如果 h 不是一个大于 1 小于 20 的整数
    raise ValueError("输入变量 h 必须是一个大于 1 小于 20 的正整数") # 抛出异常

# 对每列进行等深分箱,然后求每个箱子的均值
n, m = A.shape # n 行 m 列
B = np.zeros((n,m)) # 预分配输出变量 B
for j in range(m): # 列 j
    for i in range(0, n, h): # 行 i
        # 当前箱子第一个数位置为 i,最后一个数位置为 min(i+h,n)
        p1 = int(i) # 转换成整数 (i 默认是 double 类型,但是索引必须要为整数)
        p2 = int(min(i+h,n))
        B[p1:p2,j] = np.mean(A[p1:p2,j]) # 当前箱子的均值

print("\n经过等深分箱,用箱均值平滑处理后的数据:")
print(B)
代码运行结果

输入的深度为3:

Matlab 复制代码
当前生成的原数据:
A =

    0.4067    0.4504    0.5747    0.5154    0.9969
    0.6669    0.2057    0.3260    0.6575    0.5535
    0.9337    0.8997    0.4564    0.9509    0.5155
    0.8110    0.7626    0.7138    0.7223    0.3307
    0.4845    0.8825    0.8844    0.4001    0.4300
    0.7567    0.2850    0.7209    0.8319    0.4918
    0.4170    0.6732    0.0186    0.1343    0.0710
    0.9718    0.6643    0.6748    0.0605    0.8877
    0.9880    0.1228    0.4385    0.0842    0.0646
    0.8641    0.4073    0.4378    0.1639    0.4362
    0.3889    0.2753    0.1170    0.3242    0.8266
    0.4547    0.7167    0.8147    0.3017    0.3945
    0.2467    0.2834    0.3249    0.0117    0.6135
    0.7844    0.8962    0.2462    0.5399    0.8186
    0.8828    0.8266    0.3427    0.0954    0.8862
    0.9137    0.3900    0.3757    0.1465    0.9311
    0.5583    0.4979    0.5466    0.6311    0.1908
    0.5989    0.6948    0.5619    0.8593    0.2586
    0.1489    0.8344    0.3958    0.9742    0.8979
    0.8997    0.6096    0.3981    0.5708    0.5934

将原数据的每列排序后:
A =

    0.1489    0.1228    0.0186    0.0117    0.0646
    0.2467    0.2057    0.1170    0.0605    0.0710
    0.3889    0.2753    0.2462    0.0842    0.1908
    0.4067    0.2834    0.3249    0.0954    0.2586
    0.4170    0.2850    0.3260    0.1343    0.3307
    0.4547    0.3900    0.3427    0.1465    0.3945
    0.4845    0.4073    0.3757    0.1639    0.4300
    0.5583    0.4504    0.3958    0.3017    0.4362
    0.5989    0.4979    0.3981    0.3242    0.4918
    0.6669    0.6096    0.4378    0.4001    0.5155
    0.7567    0.6643    0.4385    0.5154    0.5535
    0.7844    0.6732    0.4564    0.5399    0.5934
    0.8110    0.6948    0.5466    0.5708    0.6135
    0.8641    0.7167    0.5619    0.6311    0.8186
    0.8828    0.7626    0.5747    0.6575    0.8266
    0.8997    0.8266    0.6748    0.7223    0.8862
    0.9137    0.8344    0.7138    0.8319    0.8877
    0.9337    0.8825    0.7209    0.8593    0.8979
    0.9718    0.8962    0.8147    0.9509    0.9311
    0.9880    0.8997    0.8844    0.9742    0.9969

请输入等深分箱的深度h(1<h<20):3

经过等深分箱,用箱均值平滑处理后的数据:
B =

    0.2615    0.2013    0.1273    0.0521    0.1088
    0.2615    0.2013    0.1273    0.0521    0.1088
    0.2615    0.2013    0.1273    0.0521    0.1088
    0.4262    0.3195    0.3312    0.1254    0.3279
    0.4262    0.3195    0.3312    0.1254    0.3279
    0.4262    0.3195    0.3312    0.1254    0.3279
    0.5472    0.4519    0.3899    0.2633    0.4527
    0.5472    0.4519    0.3899    0.2633    0.4527
    0.5472    0.4519    0.3899    0.2633    0.4527
    0.7360    0.6490    0.4443    0.4851    0.5541
    0.7360    0.6490    0.4443    0.4851    0.5541
    0.7360    0.6490    0.4443    0.4851    0.5541
    0.8526    0.7247    0.5611    0.6198    0.7529
    0.8526    0.7247    0.5611    0.6198    0.7529
    0.8526    0.7247    0.5611    0.6198    0.7529
    0.9157    0.8478    0.7031    0.8045    0.8906
    0.9157    0.8478    0.7031    0.8045    0.8906
    0.9157    0.8478    0.7031    0.8045    0.8906
    0.9799    0.8979    0.8495    0.9626    0.9640
    0.9799    0.8979    0.8495    0.9626    0.9640

2.等宽分箱

输入箱子的宽度w(0<w<1),将每列按等宽分箱,然后用箱均值平滑。

Matlab 复制代码
clear;clc; % 清除变量和命令窗口

%A=rand(20,5); % 随机生成20*5的矩阵,其中每个数取值范围[0,1]
A=[ 0.5038    0.3600    0.6690    0.1432    0.9419
    0.6128    0.4542    0.5002    0.5594    0.6559
    0.8194    0.3864    0.2180    0.0046    0.4519
    0.5319    0.7756    0.5716    0.7667    0.8397
    0.2021    0.7343    0.1222    0.8487    0.5326
    0.4539    0.4303    0.6712    0.9168    0.5539
    0.4279    0.6938    0.5996    0.9870    0.6801
    0.9661    0.9452    0.0560    0.5051    0.3672
    0.6201    0.7842    0.0563    0.2714    0.2393
    0.6954    0.7056    0.1525    0.1008    0.5789
    0.7202    0.1093    0.0196    0.5078    0.8669
    0.3469    0.3899    0.4352    0.5856    0.4068
    0.5170    0.5909    0.8322    0.7629    0.1126
    0.5567    0.4594    0.6174    0.0830    0.4438
    0.1565    0.0503    0.5201    0.6616    0.3002
    0.5621    0.2287    0.8639    0.5170    0.4014
    0.6948    0.8342    0.0977    0.1710    0.8334
    0.4265    0.0156    0.9081    0.9386    0.4036
    0.8363    0.8637    0.1080    0.5905    0.3902
    0.7314    0.0781    0.5170    0.4406    0.3604];
fprintf("当前生成的原数据:\n");
disp(A);
% 排序,参数1表示按列排序,取2为按行排序;'ascend'为升序,'descend'为降序
A=sort(A,1,'ascend'); 
fprintf("将原数据的每列排序后:\n"); 
disp(A);

w=input("请输入等宽分箱的宽度w(0<w<1):");
% 检查输入变量w是否有效
if ~isnumeric(w) || ~isscalar(w) || w<=0
    error("输入变量w必须是一个大于0小于1的正数");
end

%% 对每列进行等宽分箱,然后求每个箱子的均值
[n,m]=size(A); % n行m列
B=zeros(n,m); % 预分配输出变量B
for j=1:m % 列j
	pos=1; % 当前箱子第一个数的位置
	A(n+1,j)=18e9; % 保证i=n+1时,A(i,j)-A(pos,j)>w一定成立
	for i=1:n+1  % 行i
		if A(i,j)-A(pos,j)>w % 当前箱子最后一个数的位置为i-1
			B(pos:i-1,j)=mean(A(pos:i-1,j)); % 当前箱子的均值
			pos=i; % 更新为下一个箱子的第一个数的位置
		end
	end
end

fprintf("\n经过等宽分箱,用箱均值平滑处理后的数据:\n"); 
disp(B);

if A(i,j)-A(pos,j)>w

这段代码的作用是判断当前元素是否属于当前箱子。如果当前元素与当前箱子的第一个元素的差大于 w,那么说明当前元素已经超出了当前箱子的范围,需要开始新的一个箱子;如果不大于 w,那么说明当前元素还在当前箱子内,继续循环。

代码运行结果

输入的宽度为0.2:

Matlab 复制代码
当前生成的原数据:
A =

    0.5038    0.3600    0.6690    0.1432    0.9419
    0.6128    0.4542    0.5002    0.5594    0.6559
    0.8194    0.3864    0.2180    0.0046    0.4519
    0.5319    0.7756    0.5716    0.7667    0.8397
    0.2021    0.7343    0.1222    0.8487    0.5326
    0.4539    0.4303    0.6712    0.9168    0.5539
    0.4279    0.6938    0.5996    0.9870    0.6801
    0.9661    0.9452    0.0560    0.5051    0.3672
    0.6201    0.7842    0.0563    0.2714    0.2393
    0.6954    0.7056    0.1525    0.1008    0.5789
    0.7202    0.1093    0.0196    0.5078    0.8669
    0.3469    0.3899    0.4352    0.5856    0.4068
    0.5170    0.5909    0.8322    0.7629    0.1126
    0.5567    0.4594    0.6174    0.0830    0.4438
    0.1565    0.0503    0.5201    0.6616    0.3002
    0.5621    0.2287    0.8639    0.5170    0.4014
    0.6948    0.8342    0.0977    0.1710    0.8334
    0.4265    0.0156    0.9081    0.9386    0.4036
    0.8363    0.8637    0.1080    0.5905    0.3902
    0.7314    0.0781    0.5170    0.4406    0.3604

将原数据的每列排序后:
A =

    0.1565    0.0156    0.0196    0.0046    0.1126
    0.2021    0.0503    0.0560    0.0830    0.2393
    0.3469    0.0781    0.0563    0.1008    0.3002
    0.4265    0.1093    0.0977    0.1432    0.3604
    0.4279    0.2287    0.1080    0.1710    0.3672
    0.4539    0.3600    0.1222    0.2714    0.3902
    0.5038    0.3864    0.1525    0.4406    0.4014
    0.5170    0.3899    0.2180    0.5051    0.4036
    0.5319    0.4303    0.4352    0.5078    0.4068
    0.5567    0.4542    0.5002    0.5170    0.4438
    0.5621    0.4594    0.5170    0.5594    0.4519
    0.6128    0.5909    0.5201    0.5856    0.5326
    0.6201    0.6938    0.5716    0.5905    0.5539
    0.6948    0.7056    0.5996    0.6616    0.5789
    0.6954    0.7343    0.6174    0.7629    0.6559
    0.7202    0.7756    0.6690    0.7667    0.6801
    0.7314    0.7842    0.6712    0.8487    0.8334
    0.8194    0.8342    0.8322    0.9168    0.8397
    0.8363    0.8637    0.8639    0.9386    0.8669
    0.9661    0.9452    0.9081    0.9870    0.9419

请输入等宽分箱的宽度w(0<w<1):0.2

经过等宽分箱,用箱均值平滑处理后的数据:
B =

    0.2352    0.0633    0.1038    0.1005    0.2174
    0.2352    0.0633    0.1038    0.1005    0.2174
    0.2352    0.0633    0.1038    0.1005    0.2174
    0.5213    0.0633    0.1038    0.1005    0.4312
    0.5213    0.3413    0.1038    0.1005    0.4312
    0.5213    0.3413    0.1038    0.3560    0.4312
    0.5213    0.3413    0.1038    0.3560    0.4312
    0.5213    0.3413    0.1038    0.5610    0.4312
    0.5213    0.4837    0.5373    0.5610    0.4312
    0.5213    0.4837    0.5373    0.5610    0.4312
    0.5213    0.4837    0.5373    0.5610    0.4312
    0.5213    0.4837    0.5373    0.5610    0.4312
    0.5213    0.7702    0.5373    0.5610    0.4312
    0.7496    0.7702    0.5373    0.5610    0.6383
    0.7496    0.7702    0.5373    0.8467    0.6383
    0.7496    0.7702    0.7591    0.8467    0.6383
    0.7496    0.7702    0.7591    0.8467    0.8705
    0.7496    0.7702    0.7591    0.8467    0.8705
    0.7496    0.7702    0.7591    0.8467    0.8705
    0.9661    0.9452    0.9081    0.9870    0.8705
相关推荐
CM莫问5 小时前
<论文>(微软)避免推荐域外物品:基于LLM的受限生成式推荐
人工智能·算法·大模型·推荐算法·受限生成
康谋自动驾驶6 小时前
康谋分享 | 自动驾驶仿真进入“标准时代”:aiSim全面对接ASAM OpenX
人工智能·科技·算法·机器学习·自动驾驶·汽车
深蓝学院7 小时前
密西根大学新作——LightEMMA:自动驾驶中轻量级端到端多模态模型
人工智能·机器学习·自动驾驶
归去_来兮7 小时前
人工神经网络(ANN)模型
人工智能·机器学习·人工神经网络
2201_754918417 小时前
深入理解卷积神经网络:从基础原理到实战应用
人工智能·神经网络·cnn
强盛小灵通专卖员8 小时前
DL00219-基于深度学习的水稻病害检测系统含源码
人工智能·深度学习·水稻病害
Luke Ewin8 小时前
CentOS7.9部署FunASR实时语音识别接口 | 部署商用级别实时语音识别接口FunASR
人工智能·语音识别·实时语音识别·商用级别实时语音识别
Joern-Lee8 小时前
初探机器学习与深度学习
人工智能·深度学习·机器学习
云卓SKYDROID8 小时前
无人机数据处理与特征提取技术分析!
人工智能·科技·无人机·科普·云卓科技
R²AIN SUITE8 小时前
金融合规革命:R²AIN SUITE 如何重塑银行业务智能
大数据·人工智能