机器学习 —— 训练与测试

摘要:机器学习中,训练集-测试集划分是评估模型性能的关键技术。通过将数据分为训练集(用于模型训练)和测试集(用于性能评估),可以避免过拟合问题,确保模型具有良好的泛化能力。示例使用sklearn的train_test_split函数将鸢尾花数据集按8:2划分,训练逻辑回归模型后获得100%的测试准确率。该方法通过独立测试集验证模型对新数据的预测能力,random_state参数保证了实验可重复性。

目录

[机器学习 ------ 训练与测试](#机器学习 —— 训练与测试)

示例

输出结果

术语说明


机器学习 ------ 训练与测试

在机器学习中,训练集 - 测试集划分(train-test split)是一种常用的模型性能评估技术。其核心思想是将现有数据划分为两个数据集:训练集(training set)和测试集(testing set)。训练集用于模型的训练过程,测试集则用于评估模型的性能表现。

训练集 - 测试集划分至关重要,因为它能让我们在模型未见过的数据上进行测试。这一过程的必要性在于:若直接使用训练数据评估模型,可能会出现模型在训练集上表现优异,但对新数据的泛化能力较差的情况。

示例

在 Python 中,可以使用sklearn.model_selection模块中的train_test_split函数实现数据的划分。以下是具体实现示例:

python 复制代码
# 导入所需库和数据集
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression

# 加载鸢尾花数据集
data = load_iris()
X = data.data  # 特征数据
y = data.target  # 目标标签

# 将数据划分为训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 创建逻辑回归模型并在训练集上训练
model = LogisticRegression()
model.fit(X_train, y_train)

# 在测试集上评估模型性能
accuracy = model.score(X_test, y_test)
print(f"准确率: {accuracy:.2f}")

在上述示例中,我们首先加载了鸢尾花(iris)数据集,然后通过train_test_split函数将数据划分为训练集和测试集。接着创建逻辑回归模型并使用训练集进行训练,最后通过模型的score方法在测试集上评估性能。

train_test_split函数中的test_size参数用于指定测试集所占的比例。本示例中该参数设为 0.2,即 20% 的数据用于测试,80% 的数据用于训练。random_state参数用于保证数据划分的可重复性,确保每次运行代码都能得到相同的划分结果。

输出结果

运行上述代码后,将得到以下输出:

plaintext

python 复制代码
准确率: 1.00

总而言之,训练集 - 测试集划分是评估机器学习模型性能的关键步骤。通过将数据分离为训练集和测试集,能够有效避免模型对训练数据的过拟合(overfitting),确保模型具备良好的新数据泛化能力。

术语说明

  1. 训练集(training set):用于模型训练的数据集合,模型通过学习该数据集的特征规律构建预测逻辑。
  2. 测试集(testing set):独立于训练集的评估数据集合,用于检验模型对未见过数据的预测能力。
  3. 泛化能力(generalization ability):模型从训练数据中学习到的规律,应用于新数据时的预测准确性。
  4. 过拟合(overfitting):模型过度贴合训练数据的细节(包括噪声),导致在新数据上表现下降的现象。
  5. random_state:控制随机数据划分的种子参数,设定固定值可确保实验结果的可重复验证。
相关推荐
Data_Journal3 小时前
Scrapy vs. Crawlee —— 哪个更好?!
运维·人工智能·爬虫·媒体·社媒营销
云边云科技_云网融合3 小时前
AIoT智能物联网平台:架构解析与边缘应用新图景
大数据·网络·人工智能·安全
VCR__3 小时前
python第三次作业
开发语言·python
韩立学长3 小时前
【开题答辩实录分享】以《助农信息发布系统设计与实现》为例进行选题答辩实录分享
python·web
码农水水3 小时前
得物Java面试被问:消息队列的死信队列和重试机制
java·开发语言·jvm·数据结构·机器学习·面试·职场和发展
康康的AI博客3 小时前
什么是API中转服务商?如何低成本高稳定调用海量AI大模型?
人工智能·ai
技术与健康3 小时前
AI Coding协作开发工作台 实战案例:为电商系统添加用户评论功能
人工智能
在下胡三汉3 小时前
怎么在线编辑修改查看glb/gltf格式模型,支持多选,反选择多物体,单独导出物体(免费)
人工智能
小白狮ww3 小时前
Ovis-Image:卓越的图像生成模型
人工智能·深度学习·目标检测·机器学习·cpu·gpu·视觉分割模型
运维有小邓@3 小时前
生物制药企业 AD 域管理破局:合规 · 效率 · 安全三维解决方案
人工智能·安全