(undone) 什么是马尔可夫链?Markov Chain

参考视频1:https://www.bilibili.com/video/BV1ko4y1P7Zv/?spm_id_from=333.337.search-card.all.click\&vd_source=7a1a0bc74158c6993c7355c5490fc600

参考视频2:https://www.bilibili.com/video/BV1xg4y1K7z4/?spm_id_from=333.788\&vd_source=7a1a0bc74158c6993c7355c5490fc600


如下图所示,马尔可夫链条实际上就是 "状态机",只不过状态机里不同状态之间的边上是 "概率"

马尔可夫链有一个非常好的性质,那就是:所有 next state 都只和 current state 有关

所以,计算概率的时候,条件只有当前状态

一个很自然的想法是:马尔可夫链是否有 "稳态"?

也就是说,当链条足够长时,链条上出现的不同状态是否会收敛于某个比例

经过试验统计,比如 100W 长度的链条,发现确实会收敛于某个比例

那么是否可以通过计算得到 "稳态" 呢?是可以的,如下图,分别是转移矩阵 A,和状态概率矢量 pi

通过让状态概率矢量 pi 和转移矩阵A 相乘,我们可以得到披萨状态的未来概率。(披萨状态用 0 1 0 表示)

此时,我们可以把 0.3 0 0.7 表示为 pi1,随后用 pi1 x A 来计算 pi2

如果存在稳态,用 pi 表示,那么有 pi x A = pi。此时一看,卧槽,这个 pi 不是特征值为 1 的特征向量嘛?

此时还有另外一个条件:pi 的所有元素加起来必须等于 1,因为每一个元素代表一个东西的概率

于是,有两个等式,如下图

于是,有两个等式,如下图,分别是:

1.pi x A = pi

2.pi1 + pi2 + pi3 = 1

解完这两个等式后,我们得到了下图的内容,就是 "稳态"

如下图,是通过两个式子计算出的 "稳态"。

那么,有可能存在多个 "稳态" 嘛?答案是肯定的,我们只需要看一下是否存在不止一个特征值等于1的特征向量即可


啊

TODO: here

相关推荐
小七-七牛开发者36 分钟前
周 1 上线 | DSH 喜提原神进场动画,Anthropic 启动 IPO 路演;黄仁勋辞任;微软全球大宕机超 24 小时
ai·大模型·agent·token·工作流·claudecode·ai coding
GISer_Jing1 小时前
GitHub热点I
后端·ai·langchain
QuZhengRong2 小时前
【AI】Agent 全栈进阶|AgentScope 沙箱源码解析
python·学习·ai·agent·沙箱
梯度下降者5 小时前
让AI的“隐形思维“也能越练越强,这项突破或将重写推理效率的边界
ai·强化学习·潜在推理·代理概率·停止门
我才是银古6 小时前
chat-demo 源码解析与 DeepSeek 全家桶 API 能力盘点
ai·demo·deepseek
装不满的克莱因瓶7 小时前
【从零搭建】AI大模型之ReactAgent智能体对接MCP实战
java·人工智能·ai·springai·mcp·springaialibaba
cpolar技术支持10 小时前
容器数是 6 个、6 个、还是 6 个,可服务早被换掉了:用一个 5.5MB 的 Go 单文件把机器每周的变化记下来,再给它套一层别人看不懂的入口
python·docker·ai·cpolar
万俟淋曦11 小时前
[ROS 系列学习教程] 建模与仿真 - 使用 ros_control 控制六轴串联机械臂
人工智能·ai·机器人·ros·机械臂·robotics·具身智能
效率工作实验室11 小时前
企业级AI Agent平台选型指南:主流厂商能力对比与落地场景解析
ai·企业级ai·agent平台选型·agent平台能力对比·企业智能体落地场景
进击的雷神1 天前
不预测数字,而是重演未来:多智能体仿真引擎 MiroFish 上手体验
ai·开源·mirofish