(undone) 什么是马尔可夫链?Markov Chain

参考视频1:https://www.bilibili.com/video/BV1ko4y1P7Zv/?spm_id_from=333.337.search-card.all.click\&vd_source=7a1a0bc74158c6993c7355c5490fc600

参考视频2:https://www.bilibili.com/video/BV1xg4y1K7z4/?spm_id_from=333.788\&vd_source=7a1a0bc74158c6993c7355c5490fc600


如下图所示,马尔可夫链条实际上就是 "状态机",只不过状态机里不同状态之间的边上是 "概率"

马尔可夫链有一个非常好的性质,那就是:所有 next state 都只和 current state 有关

所以,计算概率的时候,条件只有当前状态

一个很自然的想法是:马尔可夫链是否有 "稳态"?

也就是说,当链条足够长时,链条上出现的不同状态是否会收敛于某个比例

经过试验统计,比如 100W 长度的链条,发现确实会收敛于某个比例

那么是否可以通过计算得到 "稳态" 呢?是可以的,如下图,分别是转移矩阵 A,和状态概率矢量 pi

通过让状态概率矢量 pi 和转移矩阵A 相乘,我们可以得到披萨状态的未来概率。(披萨状态用 [0 1 0] 表示)

此时,我们可以把 [0.3 0 0.7] 表示为 pi1,随后用 pi1 x A 来计算 pi2

如果存在稳态,用 pi 表示,那么有 pi x A = pi。此时一看,卧槽,这个 pi 不是特征值为 1 的特征向量嘛?

此时还有另外一个条件:pi 的所有元素加起来必须等于 1,因为每一个元素代表一个东西的概率

于是,有两个等式,如下图

于是,有两个等式,如下图,分别是:

1.pi x A = pi

2.pi[1] + pi[2] + pi[3] = 1

解完这两个等式后,我们得到了下图的内容,就是 "稳态"

如下图,是通过两个式子计算出的 "稳态"。

那么,有可能存在多个 "稳态" 嘛?答案是肯定的,我们只需要看一下是否存在不止一个特征值等于1的特征向量即可


TODO: here

相关推荐
weixin_699602442 小时前
Claude Desktop 一体化创作站:配置 11 个 MCP 服务器
ai
实在智能RPA4 小时前
哪家AI agent产品在制造业做的比较好?2026工业智能体选型深度解析
人工智能·ai
克里斯蒂亚诺·罗纳尔达4 小时前
智能体学习21——知识检索(RAG)
人工智能·学习·ai
AI、少年郎6 小时前
MiniMind 第 4 篇:《数据工程|Tokenizer 训练 + 预训练 / SFT/DPO 全数据集处理》
人工智能·python·ai·大模型·微调·大模型训练·minimind
阿杰学AI7 小时前
AI核心知识121—大语言模型之 基于人类反馈的强化学习 (简洁且通俗易懂版)
人工智能·深度学习·ai·语言模型·强化学习·奖励模型·rm
GEO索引未来7 小时前
为什么做GEO需要一套好的数据系统?
大数据·人工智能·ai·chatgpt·googlecloud
鸿乃江边鸟8 小时前
Nanobot 从 Channel 消息处理看python协程的使用
人工智能·ai·协程
@atweiwei9 小时前
LangChainRust:用 Rust 构建高性能 LLM 应用的完整指南
开发语言·人工智能·ai·rust·大模型·llm·agent
莹宝思密达9 小时前
【AI】chrome-dev-tools-mcp
前端·ai
fanstuck9 小时前
当 openClaw 遇上 EdgeOne Pages:不只智能问数,更能直接获取BI 数据大屏(附工程落地实战)
人工智能·ai·aigc·openclaw