数学建模 15 逻辑回归与随机森林

逻辑回归(用于分类)

**用途:**通过已有数据,计算出线性方程的参数w后,可以用于预测某一个物品属于某一类的概率,[0,1];

求解思想: 逻辑回归通过最大似然估计(Maximum Likelihood Estimation, MLE) 学习参数w,核心思想是:找到一组w,使得 "所有训练样本的实际类别(y=1 或 y=0)与模型预测的概率(P (y=1|x))尽可能一致"。

情形适用:标签与属性有 极近线性关系,样本量需远大于特征量否则容易过拟合,特征间不能存在强相关性(如 "身高 cm" 和 "身高 m"),否则参数估计不稳定,必须进行数据的标准化/正向化/归一化;

随机森林(用于分类和回归预测)

**输出是:**特征重要性

适用范围: 数据之间存在非线性关联,可解释性强,可以输出重要特征。

**不适用范围:**数据维度极高且样本量少的场景(如 100 个样本、1000 个特征):易因 "特征随机选择" 导致信息利用率低。

得到主成分之后的选择:

相关推荐
tt5555555555551 小时前
字符串与算法题详解:最长回文子串、IP 地址转换、字符串排序、蛇形矩阵与字符串加密
c++·算法·矩阵
元亓亓亓2 小时前
LeetCode热题100--101. 对称二叉树--简单
算法·leetcode·职场和发展
不会学习?2 小时前
算法03 归并分治
算法
NuyoahC3 小时前
笔试——Day43
c++·算法·笔试
2301_821919923 小时前
决策树8.19
算法·决策树·机器学习
秋难降3 小时前
别再用暴力排序了!大小顶堆让「取极值」效率飙升至 O (log n)
python·算法·排序算法
学行库小秘4 小时前
基于门控循环单元的数据回归预测 GRU
人工智能·深度学习·神经网络·算法·回归·gru
二向箔reverse5 小时前
机器学习算法核心总结
人工智能·算法·机器学习
猿究院--冯磊6 小时前
JVM垃圾收集器
java·jvm·算法