数据挖掘实验(二)数据预处理【等深分箱与等宽分箱】

一、分箱平滑的原理

(1)分箱方法

在分箱前,一定要先排序数据,再将它们分到等深(等宽)的箱中。

常见的有两种分箱方法:等深分箱和等宽分箱。

等深分箱:按记录数进行分箱,每箱具有相同的记录数,每箱的记录数称为箱的权重,也称箱子的深度。

等宽分箱:在整个属性值的区间上平均分布,即每个箱的区间范围设定为一个常量,称为箱子的宽度。

(2)数据平滑

将数据划分到不同的箱子之后,可以运用如下三种策略对每个箱子中的数据进行平滑处理:

平均值平滑:箱中的每一个值被箱中数值的平均值替换。

中值平滑:箱中的每一个值被箱中数值的中值替换。

边界平滑:箱中的最大值和最小值称为箱子的边界,箱中的每一个值被最近的边界值替换。

二、Matlab代码实现

首先用rand()函数随机生成20*5的矩阵,其数据范围为[0,1]。

1.等深分箱

Matlab 复制代码
clear;clc; % 清除变量和命令窗口

A=rand(20,5); % 随机生成20*5的矩阵,其中每个数取值范围[0,1]
fprintf("当前生成的原数据:\n");
disp(A);

% 排序,参数1表示按列排序,取2为按行排序;'ascend'为升序,'descend'为降序
A=sort(A,1,'ascend'); 
fprintf("将原数据的每列排序后:\n"); 
disp(A);

h=input("请输入等深分箱的深度h(1<h<20):");

% 检查输入变量h是否有效
if ~isnumeric(h) || ~isscalar(h) || h<=1 || h>=20 || h~=floor(h)
    error("输入变量h必须是一个大于1小于20的正整数");
end

%% 对每列进行等深分箱,然后求每个箱子的均值
[n,m]=size(A); % n行m列
B=zeros(n,m); % 预分配输出变量B
for j=1:m % 列j
	for i=1:h:n % 行i
		% 当前箱子第一个数位置为i,最后一个数位置为min(i+h-1,n)
		p1=int64(i); % 转换成整数(i默认是double类型,但是索引必须要为整数)
		p2=int64(min(i+h-1,n));
		B(p1:p2,j)=mean(A(p1:p2,j)); % 当前箱子的均值
    end
end % 结束行循环

fprintf("\n经过等深分箱,用箱均值平滑处理后的数据:\n"); 
disp(B);

for i=1:h:n 的含义是:

  • i 是一个循环变量,它的初始值是 1。
  • h 是一个输入变量,它表示等深分箱的深度。
  • n 是一个由 size 函数得到的变量,它表示矩阵 A 的行数。
  • 这个循环的作用是从第一行开始,每隔 h 行取一行作为一个箱子的起始位置,然后计算这个箱子中所有元素的均值,并赋给输出矩阵 B 的相应位置。
    isnumeric 函数是一个用于判断输入是否为数值数组的函数。数值数组是指由数值类型的元素组成的数组,例如整数、浮点数、无穷大或非数字。MATLAB 中的数值类型包括 int8, int16, int32, int64, uint8, uint16, uint32, uint64, single, 和 double。

isnumeric 函数的语法格式是:

复制代码
TF = isnumeric(A)

其中,A 是输入数组,可以是任意维度的;TF 是输出逻辑值,如果 A 是数值数组,则返回 1 (true),否则返回 0 (false)。

例如,如果 A 是一个包含整数和浮点数的矩阵,那么 isnumeric(A) 将返回 1;如果 A 是一个包含字符串或单元数组的矩阵,那么 isnumeric(A) 将返回 0。
~isscalar(h) 函数是一个逻辑表达式,它用于判断 h 是否不是一个标量。标量是一个大小为 1×1 的二维数组,也就是一个单个的数值。如果 h 不是一个标量,那么 ~isscalar(h) 将返回 1 (true),否则返回 0 (false)。

python代码为

python 复制代码
import numpy as np # 导入 numpy 库
=

A = np.random.rand(20,5) # 随机生成 20*5 的矩阵,其中每个数取值范围 [0,1]
print("当前生成的原数据:")
print(A)

# 排序,参数 0 表示按列排序,取 1 为按行排序;'ascend' 为升序,'descend' 为降序
A = np.sort(A, axis=0, kind='quicksort') # 使用快速排序算法
print("将原数据的每列排序后:")
print(A)

h = int(input("请输入等深分箱的深度 h (1<h<20):")) # 输入一个整数

# 检查输入变量 h 是否有效
if not isinstance(h, int) or h <= 1 or h >= 20: # 如果 h 不是一个大于 1 小于 20 的整数
    raise ValueError("输入变量 h 必须是一个大于 1 小于 20 的正整数") # 抛出异常

# 对每列进行等深分箱,然后求每个箱子的均值
n, m = A.shape # n 行 m 列
B = np.zeros((n,m)) # 预分配输出变量 B
for j in range(m): # 列 j
    for i in range(0, n, h): # 行 i
        # 当前箱子第一个数位置为 i,最后一个数位置为 min(i+h,n)
        p1 = int(i) # 转换成整数 (i 默认是 double 类型,但是索引必须要为整数)
        p2 = int(min(i+h,n))
        B[p1:p2,j] = np.mean(A[p1:p2,j]) # 当前箱子的均值

print("\n经过等深分箱,用箱均值平滑处理后的数据:")
print(B)
代码运行结果

输入的深度为3:

Matlab 复制代码
当前生成的原数据:
A =

    0.4067    0.4504    0.5747    0.5154    0.9969
    0.6669    0.2057    0.3260    0.6575    0.5535
    0.9337    0.8997    0.4564    0.9509    0.5155
    0.8110    0.7626    0.7138    0.7223    0.3307
    0.4845    0.8825    0.8844    0.4001    0.4300
    0.7567    0.2850    0.7209    0.8319    0.4918
    0.4170    0.6732    0.0186    0.1343    0.0710
    0.9718    0.6643    0.6748    0.0605    0.8877
    0.9880    0.1228    0.4385    0.0842    0.0646
    0.8641    0.4073    0.4378    0.1639    0.4362
    0.3889    0.2753    0.1170    0.3242    0.8266
    0.4547    0.7167    0.8147    0.3017    0.3945
    0.2467    0.2834    0.3249    0.0117    0.6135
    0.7844    0.8962    0.2462    0.5399    0.8186
    0.8828    0.8266    0.3427    0.0954    0.8862
    0.9137    0.3900    0.3757    0.1465    0.9311
    0.5583    0.4979    0.5466    0.6311    0.1908
    0.5989    0.6948    0.5619    0.8593    0.2586
    0.1489    0.8344    0.3958    0.9742    0.8979
    0.8997    0.6096    0.3981    0.5708    0.5934

将原数据的每列排序后:
A =

    0.1489    0.1228    0.0186    0.0117    0.0646
    0.2467    0.2057    0.1170    0.0605    0.0710
    0.3889    0.2753    0.2462    0.0842    0.1908
    0.4067    0.2834    0.3249    0.0954    0.2586
    0.4170    0.2850    0.3260    0.1343    0.3307
    0.4547    0.3900    0.3427    0.1465    0.3945
    0.4845    0.4073    0.3757    0.1639    0.4300
    0.5583    0.4504    0.3958    0.3017    0.4362
    0.5989    0.4979    0.3981    0.3242    0.4918
    0.6669    0.6096    0.4378    0.4001    0.5155
    0.7567    0.6643    0.4385    0.5154    0.5535
    0.7844    0.6732    0.4564    0.5399    0.5934
    0.8110    0.6948    0.5466    0.5708    0.6135
    0.8641    0.7167    0.5619    0.6311    0.8186
    0.8828    0.7626    0.5747    0.6575    0.8266
    0.8997    0.8266    0.6748    0.7223    0.8862
    0.9137    0.8344    0.7138    0.8319    0.8877
    0.9337    0.8825    0.7209    0.8593    0.8979
    0.9718    0.8962    0.8147    0.9509    0.9311
    0.9880    0.8997    0.8844    0.9742    0.9969

请输入等深分箱的深度h(1<h<20):3

经过等深分箱,用箱均值平滑处理后的数据:
B =

    0.2615    0.2013    0.1273    0.0521    0.1088
    0.2615    0.2013    0.1273    0.0521    0.1088
    0.2615    0.2013    0.1273    0.0521    0.1088
    0.4262    0.3195    0.3312    0.1254    0.3279
    0.4262    0.3195    0.3312    0.1254    0.3279
    0.4262    0.3195    0.3312    0.1254    0.3279
    0.5472    0.4519    0.3899    0.2633    0.4527
    0.5472    0.4519    0.3899    0.2633    0.4527
    0.5472    0.4519    0.3899    0.2633    0.4527
    0.7360    0.6490    0.4443    0.4851    0.5541
    0.7360    0.6490    0.4443    0.4851    0.5541
    0.7360    0.6490    0.4443    0.4851    0.5541
    0.8526    0.7247    0.5611    0.6198    0.7529
    0.8526    0.7247    0.5611    0.6198    0.7529
    0.8526    0.7247    0.5611    0.6198    0.7529
    0.9157    0.8478    0.7031    0.8045    0.8906
    0.9157    0.8478    0.7031    0.8045    0.8906
    0.9157    0.8478    0.7031    0.8045    0.8906
    0.9799    0.8979    0.8495    0.9626    0.9640
    0.9799    0.8979    0.8495    0.9626    0.9640

2.等宽分箱

输入箱子的宽度w(0<w<1),将每列按等宽分箱,然后用箱均值平滑。

Matlab 复制代码
clear;clc; % 清除变量和命令窗口

%A=rand(20,5); % 随机生成20*5的矩阵,其中每个数取值范围[0,1]
A=[ 0.5038    0.3600    0.6690    0.1432    0.9419
    0.6128    0.4542    0.5002    0.5594    0.6559
    0.8194    0.3864    0.2180    0.0046    0.4519
    0.5319    0.7756    0.5716    0.7667    0.8397
    0.2021    0.7343    0.1222    0.8487    0.5326
    0.4539    0.4303    0.6712    0.9168    0.5539
    0.4279    0.6938    0.5996    0.9870    0.6801
    0.9661    0.9452    0.0560    0.5051    0.3672
    0.6201    0.7842    0.0563    0.2714    0.2393
    0.6954    0.7056    0.1525    0.1008    0.5789
    0.7202    0.1093    0.0196    0.5078    0.8669
    0.3469    0.3899    0.4352    0.5856    0.4068
    0.5170    0.5909    0.8322    0.7629    0.1126
    0.5567    0.4594    0.6174    0.0830    0.4438
    0.1565    0.0503    0.5201    0.6616    0.3002
    0.5621    0.2287    0.8639    0.5170    0.4014
    0.6948    0.8342    0.0977    0.1710    0.8334
    0.4265    0.0156    0.9081    0.9386    0.4036
    0.8363    0.8637    0.1080    0.5905    0.3902
    0.7314    0.0781    0.5170    0.4406    0.3604];
fprintf("当前生成的原数据:\n");
disp(A);
% 排序,参数1表示按列排序,取2为按行排序;'ascend'为升序,'descend'为降序
A=sort(A,1,'ascend'); 
fprintf("将原数据的每列排序后:\n"); 
disp(A);

w=input("请输入等宽分箱的宽度w(0<w<1):");
% 检查输入变量w是否有效
if ~isnumeric(w) || ~isscalar(w) || w<=0
    error("输入变量w必须是一个大于0小于1的正数");
end

%% 对每列进行等宽分箱,然后求每个箱子的均值
[n,m]=size(A); % n行m列
B=zeros(n,m); % 预分配输出变量B
for j=1:m % 列j
	pos=1; % 当前箱子第一个数的位置
	A(n+1,j)=18e9; % 保证i=n+1时,A(i,j)-A(pos,j)>w一定成立
	for i=1:n+1  % 行i
		if A(i,j)-A(pos,j)>w % 当前箱子最后一个数的位置为i-1
			B(pos:i-1,j)=mean(A(pos:i-1,j)); % 当前箱子的均值
			pos=i; % 更新为下一个箱子的第一个数的位置
		end
	end
end

fprintf("\n经过等宽分箱,用箱均值平滑处理后的数据:\n"); 
disp(B);

if A(i,j)-A(pos,j)>w

这段代码的作用是判断当前元素是否属于当前箱子。如果当前元素与当前箱子的第一个元素的差大于 w,那么说明当前元素已经超出了当前箱子的范围,需要开始新的一个箱子;如果不大于 w,那么说明当前元素还在当前箱子内,继续循环。

代码运行结果

输入的宽度为0.2:

Matlab 复制代码
当前生成的原数据:
A =

    0.5038    0.3600    0.6690    0.1432    0.9419
    0.6128    0.4542    0.5002    0.5594    0.6559
    0.8194    0.3864    0.2180    0.0046    0.4519
    0.5319    0.7756    0.5716    0.7667    0.8397
    0.2021    0.7343    0.1222    0.8487    0.5326
    0.4539    0.4303    0.6712    0.9168    0.5539
    0.4279    0.6938    0.5996    0.9870    0.6801
    0.9661    0.9452    0.0560    0.5051    0.3672
    0.6201    0.7842    0.0563    0.2714    0.2393
    0.6954    0.7056    0.1525    0.1008    0.5789
    0.7202    0.1093    0.0196    0.5078    0.8669
    0.3469    0.3899    0.4352    0.5856    0.4068
    0.5170    0.5909    0.8322    0.7629    0.1126
    0.5567    0.4594    0.6174    0.0830    0.4438
    0.1565    0.0503    0.5201    0.6616    0.3002
    0.5621    0.2287    0.8639    0.5170    0.4014
    0.6948    0.8342    0.0977    0.1710    0.8334
    0.4265    0.0156    0.9081    0.9386    0.4036
    0.8363    0.8637    0.1080    0.5905    0.3902
    0.7314    0.0781    0.5170    0.4406    0.3604

将原数据的每列排序后:
A =

    0.1565    0.0156    0.0196    0.0046    0.1126
    0.2021    0.0503    0.0560    0.0830    0.2393
    0.3469    0.0781    0.0563    0.1008    0.3002
    0.4265    0.1093    0.0977    0.1432    0.3604
    0.4279    0.2287    0.1080    0.1710    0.3672
    0.4539    0.3600    0.1222    0.2714    0.3902
    0.5038    0.3864    0.1525    0.4406    0.4014
    0.5170    0.3899    0.2180    0.5051    0.4036
    0.5319    0.4303    0.4352    0.5078    0.4068
    0.5567    0.4542    0.5002    0.5170    0.4438
    0.5621    0.4594    0.5170    0.5594    0.4519
    0.6128    0.5909    0.5201    0.5856    0.5326
    0.6201    0.6938    0.5716    0.5905    0.5539
    0.6948    0.7056    0.5996    0.6616    0.5789
    0.6954    0.7343    0.6174    0.7629    0.6559
    0.7202    0.7756    0.6690    0.7667    0.6801
    0.7314    0.7842    0.6712    0.8487    0.8334
    0.8194    0.8342    0.8322    0.9168    0.8397
    0.8363    0.8637    0.8639    0.9386    0.8669
    0.9661    0.9452    0.9081    0.9870    0.9419

请输入等宽分箱的宽度w(0<w<1):0.2

经过等宽分箱,用箱均值平滑处理后的数据:
B =

    0.2352    0.0633    0.1038    0.1005    0.2174
    0.2352    0.0633    0.1038    0.1005    0.2174
    0.2352    0.0633    0.1038    0.1005    0.2174
    0.5213    0.0633    0.1038    0.1005    0.4312
    0.5213    0.3413    0.1038    0.1005    0.4312
    0.5213    0.3413    0.1038    0.3560    0.4312
    0.5213    0.3413    0.1038    0.3560    0.4312
    0.5213    0.3413    0.1038    0.5610    0.4312
    0.5213    0.4837    0.5373    0.5610    0.4312
    0.5213    0.4837    0.5373    0.5610    0.4312
    0.5213    0.4837    0.5373    0.5610    0.4312
    0.5213    0.4837    0.5373    0.5610    0.4312
    0.5213    0.7702    0.5373    0.5610    0.4312
    0.7496    0.7702    0.5373    0.5610    0.6383
    0.7496    0.7702    0.5373    0.8467    0.6383
    0.7496    0.7702    0.7591    0.8467    0.6383
    0.7496    0.7702    0.7591    0.8467    0.8705
    0.7496    0.7702    0.7591    0.8467    0.8705
    0.7496    0.7702    0.7591    0.8467    0.8705
    0.9661    0.9452    0.9081    0.9870    0.8705
相关推荐
小鸡吃米…1 天前
机器学习 - K - 中心聚类
人工智能·机器学习·聚类
好奇龙猫1 天前
【AI学习-comfyUI学习-第三十节-第三十一节-FLUX-SD放大工作流+FLUX图生图工作流-各个部分学习】
人工智能·学习
沈浩(种子思维作者)1 天前
真的能精准医疗吗?癌症能提前发现吗?
人工智能·python·网络安全·健康医疗·量子计算
minhuan1 天前
大模型应用:大模型越大越好?模型参数量与效果的边际效益分析.51
人工智能·大模型参数评估·边际效益分析·大模型参数选择
Cherry的跨界思维1 天前
28、AI测试环境搭建与全栈工具实战:从本地到云平台的完整指南
java·人工智能·vue3·ai测试·ai全栈·测试全栈·ai测试全栈
MM_MS1 天前
Halcon变量控制类型、数据类型转换、字符串格式化、元组操作
开发语言·人工智能·深度学习·算法·目标检测·计算机视觉·视觉检测
ASF1231415sd1 天前
【基于YOLOv10n-CSP-PTB的大豆花朵检测与识别系统详解】
人工智能·yolo·目标跟踪
水如烟1 天前
孤能子视角:“意识“的阶段性回顾,“感质“假说
人工智能
Carl_奕然1 天前
【数据挖掘】数据挖掘必会技能之:A/B测试
人工智能·python·数据挖掘·数据分析
旅途中的宽~1 天前
《European Radiology》:2024血管瘤分割—基于MRI T1序列的分割算法
人工智能·计算机视觉·mri·sci一区top·血管瘤·t1