sklearn中fit、transform、fit_transform用法详解

1. 基本概念

这三个方法是 scikit-learn 转换器(Transformer)的核心方法:

fit() - 学习数据的参数(如均值、标准差等)

transform() - 应用学到的参数转换数据

fit_transform() - 一次性完成学习和转换

2. 详细解释

fit() - 训练/学习阶段

bash 复制代码
# 只学习参数,不转换数据
scaler.fit(X_train)

计算并存储数据的统计信息(如均值、方差等)

不返回转换后的数据,只返回转换器对象本身

通常用于训练集

transform() - 转换阶段

bash 复制代码
# 使用已学习的参数转换数据
X_train_scaled = scaler.transform(X_train)
X_test_scaled = scaler.transform(X_test)  # 对测试集用相同的参数

应用之前 fit() 学到的参数

返回转换后的数据

可用于训练集和测试集

fit_transform() - 训练+转换

bash 复制代码
# 一次性完成学习和转换
X_train_scaled = scaler.fit_transform(X_train)

相当于先调用 fit() 再调用 transform()

只返回转换后的数据(不返回转换器)

仅用于训练集

3. 实际示例

示例1:标准化 (StandardScaler)

bash 复制代码
from sklearn.preprocessing import StandardScaler
import numpy as np

# 创建数据
X_train = np.array([[1, 2], [3, 4], [5, 6]])
X_test = np.array([[7, 8], [9, 10]])

# 创建标准化器
scaler = StandardScaler()

# 正确用法
scaler.fit(X_train)  # 只在训练集上学习参数
X_train_scaled = scaler.transform(X_train)
X_test_scaled = scaler.transform(X_test)  # 测试集用相同参数

# 或者用快捷方式
X_train_scaled = scaler.fit_transform(X_train)  # 训练集
X_test_scaled = scaler.transform(X_test)        # 测试集

print("训练集标准化后:")
print(X_train_scaled)
print("\n测试集标准化后:")
print(X_test_scaled)

示例2:PCA降维

bash 复制代码
from sklearn.decomposition import PCA

# 创建PCA对象,保留2个主成分
pca = PCA(n_components=2)

# 在训练集上学习主成分
X_train_pca = pca.fit_transform(X_train)  # 相当于 fit() + transform()

# 在测试集上应用相同的主成分
X_test_pca = pca.transform(X_test)  # 只用 transform()

print(f"解释方差比例: {pca.explained_variance_ratio_}")

4. 重要注意事项

绝对不能这样用!

bash 复制代码
# ❌ 错误:测试集上调用 fit_transform()
X_test_scaled = scaler.fit_transform(X_test)  # 错误!

# ❌ 错误:训练集只transform不fit
X_train_scaled = scaler.transform(X_train)  # 报错:没有先fit

为什么测试集只用 transform()?

保证训练集和测试集使用相同的转换规则

防止数据泄露(Data Leakage)

确保模型评估的准确性

5. 流程总结

bash 复制代码
# 训练阶段(训练集)
X_train_transformed = transformer.fit_transform(X_train)

# 测试/预测阶段(测试集/新数据)
X_test_transformed = transformer.transform(X_test)

# 如果有新数据需要预测
new_data_transformed = transformer.transform(new_data)

记忆技巧

fit = 学习规则(只在训练集做一次)

transform = 应用规则(训练集、测试集都要做)

fit_transform = fit + transform(训练集的快捷方式)

记住这个原则:训练集可以了解数据,测试集只能应用从训练集学到的规则。

相关推荐
人工智能训练37 分钟前
【极速部署】Ubuntu24.04+CUDA13.0 玩转 VLLM 0.15.0:预编译 Wheel 包 GPU 版安装全攻略
运维·前端·人工智能·python·ai编程·cuda·vllm
yaoming16843 分钟前
python性能优化方案研究
python·性能优化
源于花海1 小时前
迁移学习相关的期刊和会议
人工智能·机器学习·迁移学习·期刊会议
码云数智-大飞2 小时前
使用 Python 高效提取 PDF 中的表格数据并导出为 TXT 或 Excel
python
DisonTangor3 小时前
DeepSeek-OCR 2: 视觉因果流
人工智能·开源·aigc·ocr·deepseek
薛定谔的猫19823 小时前
二十一、基于 Hugging Face Transformers 实现中文情感分析情感分析
人工智能·自然语言处理·大模型 训练 调优
发哥来了3 小时前
《AI视频生成技术原理剖析及金管道·图生视频的应用实践》
人工智能
biuyyyxxx3 小时前
Python自动化办公学习笔记(一) 工具安装&教程
笔记·python·学习·自动化
数智联AI团队3 小时前
AI搜索引领开源大模型新浪潮,技术创新重塑信息检索未来格局
人工智能·开源
极客数模3 小时前
【2026美赛赛题初步翻译F题】2026_ICM_Problem_F
大数据·c语言·python·数学建模·matlab