似然函数,最大似然函数理解

引言

很早以前就学过这个概念,但是一直对这个定义抱有疑问:

为什似然函数是用乘积的方式进行构建?

在似然函数的定义中说似然函数是联合概率密度函数,联合概率密度函数就是要区分连续型和非连续型,为什么用联合概率密度函数定义似然函数,又给了他超越定义(连续或者离散)的统一形式呢(乘积)?


理解似然函数、最大似然函数前提知识:

1.概率函数VS.概率密度函数

2.联合概率密度VS.联合概率

|----------------|---------|---------------------------------------------------------------------------|--------|
| | 适用对象 | 含义 | |
| 概率函数P(x) | 离散型随机变量 | 概率函数用于描述离散型随机变量取某个特定值的概率。 | 联合概率 |
| 概率密度函数f(x) | 连续性随机变量 | 概率密度函数用于描述连续型随机变量在某个区间内取值的概率,它不是某个点的概率(连续型随机变量在某一点的概率为),而是通过积分来计算某一区间的概率。 | 联合概率密度 |


接下来说明

似然函数的概率:

就是说,存在一个来自X中的样本x1,,,,,Xn,通过计算它们的连乘L(θ)可以得到它们的联合概率密度函数,称之为似然函数。

似然函数的作用:

  • 似然函数的一个主要作用是进行参数估计。通过寻找使似然函数达到最大值的参数值,我们可以得到参数的最大似然估计(Maximum Likelihood Estimation,MLE)。
  • 似然函数可用于比较不同的统计模型。对于给定的数据集,我们可以计算不同模型下的似然值。例如,比较线性回归模型和多项式回归模型对同一组数据的拟合程度,我们可以分别计算两个模型下的似然函数值。

回答前面两个问题:

实际上是一个问题,如果不说是联合概率密度函数,就不会问为什么是连乘。

简单来说,就是说联合概率密度函数没有什么问题,是我理解的狭义了,积分用于计算概率(涉及区域),连乘用于构建似然函数(基于独立同分布样本的联合概率密度 / 概率)。这两种计算方式是根据不同的应用场景来使用的。

这些样本是独立同分布的(i.i.d),根据独立事件概率的乘法规则,样本的联合概率:


最大似然函数就比较好理解了,就是找到一个参数θ,使得的概率值最大。

相关推荐
无限的鲜花3 小时前
协程本质是函数加状态机——零基础深入浅出 C++20 协程
c++·算法·c++20
旖-旎3 小时前
《LeetCode 64 最小路径和 || LeetCode 174 地下城游戏》
c++·算法·leetcode·动态规划
森林古猿14 小时前
再论斜率优化
c++·学习·算法
万法若空4 小时前
【数学-简单数论】同余中的逆
线性代数·算法
凯瑟琳.奥古斯特5 小时前
力扣1009补码解法C++实现
开发语言·c++·算法·leetcode·职场和发展
KaMeidebaby5 小时前
卡梅德生物技术快报|蛋白的叠氮基修饰:实操解析:核酸模板耦合蛋白的叠氮基修饰实现靶蛋白定点共价标记
前端·人工智能·物联网·算法·百度
通信仿真爱好者6 小时前
第【60期】--大规模MIMO系统信号检测算法误码率比较 --matlab完整代码+参考文章
算法·matlab·mimo·信号检测
AI科技星6 小时前
全域谱分析:无穷维超复数信息场分形统一场论——自然、量子、金融多重分形第一性原理完整体系(中英双语终稿)
人工智能·python·算法·金融·乖乖数学·全域数学
先吃饱再说7 小时前
为什么堆能 O(log n) 插入?拆解完全二叉树的数组魔法
算法·排序算法
留白_8 小时前
【决策树】泰坦尼克号生存预测
算法·决策树·机器学习