数学建模 15 逻辑回归与随机森林

逻辑回归(用于分类)

**用途:**通过已有数据,计算出线性方程的参数w后,可以用于预测某一个物品属于某一类的概率,0,1;

求解思想: 逻辑回归通过最大似然估计(Maximum Likelihood Estimation, MLE) 学习参数w,核心思想是:找到一组w,使得 "所有训练样本的实际类别(y=1 或 y=0)与模型预测的概率(P (y=1|x))尽可能一致"。

情形适用:标签与属性有 极近线性关系,样本量需远大于特征量否则容易过拟合,特征间不能存在强相关性(如 "身高 cm" 和 "身高 m"),否则参数估计不稳定,必须进行数据的标准化/正向化/归一化;

随机森林(用于分类和回归预测)

**输出是:**特征重要性

适用范围: 数据之间存在非线性关联,可解释性强,可以输出重要特征。

**不适用范围:**数据维度极高且样本量少的场景(如 100 个样本、1000 个特征):易因 "特征随机选择" 导致信息利用率低。

得到主成分之后的选择:

相关推荐
会编程的小孩4 分钟前
初识数据类型以及变量定义
数据结构·算法
Reart15 分钟前
Leetcode 337.打家劫舍3(717)
后端·算法
梅梅绵绵冰16 分钟前
数据结构-时间复杂度
数据结构·算法
遥感知识服务19 分钟前
盐碱地、白屋顶和裸土都很亮,卫星怎样分清?
人工智能·算法·机器学习
可编程芯片开发31 分钟前
基于PID控制器的车辆控制系统simulink建模与仿真
算法
广州灵眸科技有限公司44 分钟前
瑞芯微RV1126B开发板(EASY-EAI-PI2) 系统操作-线进程操作
数据库·单片机·嵌入式硬件·算法·php
-dzk-1 小时前
【哈希】LC 49.字母异位词分组
算法·哈希算法
·醉挽清风·1 小时前
学习笔记—算法—算法题
笔记·学习·算法
2401_854151551 小时前
嵌入式传感器驱动开发深度解析——从 I2C/SPI 驱动到数据融合算法
驱动开发·算法
cpp_25011 小时前
P6625 [省选联考 2020 B 卷] 卡牌游戏
数据结构·c++·算法·前缀和·贪心·洛谷题解·省选