数学建模 15 逻辑回归与随机森林

逻辑回归(用于分类)

**用途:**通过已有数据,计算出线性方程的参数w后,可以用于预测某一个物品属于某一类的概率,[0,1];

求解思想: 逻辑回归通过最大似然估计(Maximum Likelihood Estimation, MLE) 学习参数w,核心思想是:找到一组w,使得 "所有训练样本的实际类别(y=1 或 y=0)与模型预测的概率(P (y=1|x))尽可能一致"。

情形适用:标签与属性有 极近线性关系,样本量需远大于特征量否则容易过拟合,特征间不能存在强相关性(如 "身高 cm" 和 "身高 m"),否则参数估计不稳定,必须进行数据的标准化/正向化/归一化;

随机森林(用于分类和回归预测)

**输出是:**特征重要性

适用范围: 数据之间存在非线性关联,可解释性强,可以输出重要特征。

**不适用范围:**数据维度极高且样本量少的场景(如 100 个样本、1000 个特征):易因 "特征随机选择" 导致信息利用率低。

得到主成分之后的选择:

相关推荐
我爱工作&工作love我7 分钟前
P4913 【深基16.例3】二叉树深度 dfs-二叉树的遍历
算法·深度优先·图论
TracyCoder12315 分钟前
LeetCode Hot100(25/100)——2. 两数相加(链表)
算法·leetcode·链表
long31615 分钟前
Z算法(线性时间模式搜索算法)
java·数据结构·spring boot·后端·算法·排序算法
2501_9248787324 分钟前
企业级营销安全防线:AdAgent 合规风控体系设计与实践
人工智能·逻辑回归·动态规划
望未来无悔26 分钟前
系统学习算法 专题十九 优先级队列(堆)
java·算法
啊阿狸不会拉杆27 分钟前
《机器学习导论》第3章 -贝叶斯决策理论
人工智能·python·算法·机器学习·numpy·深度优先·贝叶斯决策理论
阿蔹28 分钟前
力扣面试题二Python
python·算法·leetcode·职场和发展
jaysee-sjc43 分钟前
【项目二】用GUI编程实现石头迷阵游戏
java·开发语言·算法·游戏
元亓亓亓1 小时前
LeetCode热题100--169. 多数元素--简单
算法·leetcode·职场和发展
闲人不梦卿1 小时前
算法的特性
算法