数学建模 15 逻辑回归与随机森林

逻辑回归(用于分类)

**用途:**通过已有数据,计算出线性方程的参数w后,可以用于预测某一个物品属于某一类的概率,[0,1];

求解思想: 逻辑回归通过最大似然估计(Maximum Likelihood Estimation, MLE) 学习参数w,核心思想是:找到一组w,使得 "所有训练样本的实际类别(y=1 或 y=0)与模型预测的概率(P (y=1|x))尽可能一致"。

情形适用:标签与属性有 极近线性关系,样本量需远大于特征量否则容易过拟合,特征间不能存在强相关性(如 "身高 cm" 和 "身高 m"),否则参数估计不稳定,必须进行数据的标准化/正向化/归一化;

随机森林(用于分类和回归预测)

**输出是:**特征重要性

适用范围: 数据之间存在非线性关联,可解释性强,可以输出重要特征。

**不适用范围:**数据维度极高且样本量少的场景(如 100 个样本、1000 个特征):易因 "特征随机选择" 导致信息利用率低。

得到主成分之后的选择:

相关推荐
艾醒1 小时前
大模型面试题剖析:模型微调中冷启动与热启动的概念、阶段与实例解析
深度学习·算法
新学笺1 小时前
数据结构与算法 —— 从基础到进阶:带哨兵的单向链表,彻底解决边界处理痛点
算法
智者知已应修善业2 小时前
【51单片机计时器1中断的60秒数码管倒计时】2023-1-23
c语言·经验分享·笔记·嵌入式硬件·算法·51单片机
Jiezcode2 小时前
LeetCode 148.排序链表
数据结构·c++·算法·leetcode·链表
Asmalin2 小时前
【代码随想录day 29】 力扣 406.根据身高重建队列
算法·leetcode·职场和发展
Asmalin2 小时前
【代码随想录day 32】 力扣 70.爬楼梯
算法·leetcode·职场和发展
张书名3 小时前
《强化学习数学原理》学习笔记3——贝尔曼方程核心概念梳理
笔记·学习·算法
闻缺陷则喜何志丹3 小时前
【中位数贪心】P6696 [BalticOI 2020] 图 (Day2)|普及+
c++·算法·贪心·洛谷·中位数贪心
嵌入式-老费4 小时前
Easyx使用(中篇)
算法
信奥卷王4 小时前
[GESP202312 五级] 烹饪问题
算法