首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >数学建模暑期集训16:马尔科夫链

数学建模暑期集训16:马尔科夫链

作者头像
zstar
发布于 2022-06-14 03:40:25
发布于 2022-06-14 03:40:25
4820
举报
文章被收录于专栏:往期博文往期博文

马尔科夫链模型基本假设

  • 系统在每个时期所处的状态是随机的
  • 从一时期到下时期的状态按一定概率转移
  • 下时期状态只取决于本时期状态和转移概率(未来 = 现在 * 转移概率)

马尔科夫链的两个重要类型

正则链

正则链:从任一状态出发经有限次转移能以正概率到达另外任一状态。 (名字起的花里胡哨的,实际上就是最为常见的情况) 例如:

吸收链

吸收链:存在吸收状态,且从任一非吸收状态出发经有限次转移能以正概率到达吸收状态。 (这种情况较少,下面的例题暂不做这种情况的考虑。所谓吸收态,以“死亡“作为例子,一旦到达”死亡“状态,就无法向”健康“、”疾病“状态转移,因此死亡就可称作吸收态)

马尔科夫链例题

例题一:健康与疾病

无论初始是健康还是疾病,投保若干年后健康的健康的几率依旧为7/9,因此保险公司无须关注投保人目前的身体状态。

例题二:钢琴销售的存储的策略

这里假设需求量近似服从泊松分布,从而得到概率矩阵。

由于是正则化矩阵,只求前两个方程即可。 0.368w1+0.368w2+0.184w3 = w1 0.368w2+0.368w3=w2

失去销售机会的情况:销售量>存货量

略小于的原因:实际需求量不完全符合泊松分布

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2021-08-02,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
【机器学习】马尔科夫决策过程
本文介绍了马尔可夫决策过程,首先给出了马尔可夫决策过程的定义形式,其核心是在时序上的各种状态下如何选择最优决策得到最大回报的决策序列,通过贝尔曼方程得到累积回报函数;然后介绍两种基本的求解最优决策的方法,值迭代和策略迭代,同时分析了两种方法的适用场景;最后回过头来介绍了马尔科夫决策过程中的参数估计问题:求解-即在该状态下采取该决策到底下一状态的概率。
yuquanle
2020/02/13
1.2K0
独家 | 使用python马尔科夫链方法建模星巴克等待时长
我来自意大利,可以肯定的说,咖啡就是信仰。我们喝咖啡来社交,在早上喝来唤醒我们,在午餐、晚餐后也会喝咖啡。如果好久未见某个朋友,我们会说
数据派THU
2022/12/16
4120
独家 | 使用python马尔科夫链方法建模星巴克等待时长
随机过程(1)——引入,有限状态马尔科夫链,状态转移,常返与瞬时状态
大家好!这是一个全新的系列,我们会给大家介绍随机过程(Stochastic Process)相关的内容。
学弱猹
2021/08/10
2.4K0
随机过程(1)——引入,有限状态马尔科夫链,状态转移,常返与瞬时状态
随机过程(E)——习题课(马尔科夫链-更新过程)
这一节开始我们进入习题课。我们会对于每一个部分的内容给出一些习题,并计划以计算题为主,证明题为辅。注意到在每一节的正文其实或多或少都有一些题目用于概念和性质的理解和应用,所以在这里我们挑选的题目不会特别简单,更多的是需要一些思考或计算的题目,这也是我一直写习题课保持的一个习惯。
学弱猹
2021/08/10
2.1K0
随机过程(E)——习题课(马尔科夫链-更新过程)
多渠道归因分析:python实现马尔可夫链归因(三)
马尔可夫链是一个过程,它映射运动并给出概率分布,从一个状态转移到另一个状态。马尔可夫链由三个属性定义:
悟乙己
2021/12/07
1K0
多渠道归因分析:python实现马尔可夫链归因(三)
MCMC(二)马尔科夫链
    在MCMC(一)蒙特卡罗方法中,我们讲到了如何用蒙特卡罗方法来随机模拟求解一些复杂的连续积分或者离散求和的方法,但是这个方法需要得到对应的概率分布的样本集,而想得到这样的样本集很困难。因此我们需要本篇讲到的马尔科夫链来帮忙。
刘建平Pinard
2018/08/14
1.4K0
MCMC(二)马尔科夫链
13张动图助你彻底看懂马尔科夫链、PCA和条件概率!
[ 导读 ]马尔科夫链、主成分分析以及条件概率等概念,是计算机学生必学的知识点,然而理论的抽象性往往让学生很难深入地去体会和理解。而本文,将这些抽象的理论概念,用可视化的方式来解释,还可调节相应参数来改变结果,使这些抽象概念变得生动而立体!
数据派THU
2018/09/17
1.2K0
13张动图助你彻底看懂马尔科夫链、PCA和条件概率!
初探随机过程中的马尔科夫模型
正如在现实中一样,很多当前时刻的状态只取决于上一个时刻所做的决定而不是受所有历史所做出的的决定的影响,比如灯泡的以后发光的寿命只和当前是否发光有关、某一个时刻的销售额只与现在已知的累计销售额有关和过去任一时刻的累计销售额无关、人生以后的路只和当下的路有关而不是取决于过去等等,这种在概率学上成为无记忆性,一般指数分布是属于无记忆的概率分布,而马氏链属于无记忆的随机过程。
用户7506105
2021/08/09
1.2K0
从马尔科夫链到吉布斯采样与PageRank
马尔科夫链表示state的链式关系,下一个state只跟上一个state有关。 吉布斯采样通过采样条件概率分布得到的样本点,近似估计概率分布P(z)P(z)。PageRank通过节点间的连接,估计
用户1147754
2018/03/08
1.8K0
从马尔科夫链到吉布斯采样与PageRank
AlphaGo等智能体是如何炼成的?你需要懂得马尔科夫链
近年来,世界各地的研究员和媒体对深度学习极其关注。而深度学习方面成就最为突出的就是深度强化学习——从谷歌Alpha Go击败世界顶级棋手,到DeepMind的AI智能体自学走路、跑步以及躲避障碍物,如下图所示:
新智元
2018/11/08
6920
【强基固本】13张动图,彻底看懂马尔科夫链、PCA和条件概率
“强基固本,行稳致远”,科学研究离不开理论基础,人工智能学科更是需要数学、物理、神经科学等基础学科提供有力支撑,为了紧扣时代脉搏,我们推出“强基固本”专栏,讲解AI领域的基础知识,为你的科研学习提供助力,夯实理论基础,提升原始创新能力,敬请关注。
马上科普尚尚
2023/08/29
8290
【强基固本】13张动图,彻底看懂马尔科夫链、PCA和条件概率
动力系统视野下的马尔科夫链 :一个量化进化的案例
【新智元导读】计算机领域里的理论“动力系统“和“马尔科夫链” 可用于搭建分析生物进化的模型,进而量化地理解进化,这对理解诸多经济、政治和文化现象有着显著的意义。 原文标题:Markov Chains Through the Lens of Dynamical Systems: The Case of Evolution 来自:http://www.offconvex.org/ 本文中我们将以一种高级的方式介绍进化以及我们怎样使用动力系统和马尔科夫链等数学工具来为进化建模。这样,关于进化的问题就可以转化为关
新智元
2018/03/22
9490
动力系统视野下的马尔科夫链 :一个量化进化的案例
随机过程(2)——极限状态的平稳分布与周期(上),一些特殊的马尔科夫链
这一节我们接着上一节的内容,继续介绍与状态分类有关的一些内容。包括上一节最后,利用图来划分状态的方法的解释。以及在这基础上,我们也会对极限状态进行一些探讨。
学弱猹
2021/08/10
2.3K0
随机过程(2)——极限状态的平稳分布与周期(上),一些特殊的马尔科夫链
随机过程(9)——连续时间马尔科夫链的泊松过程描述,爆炸现象,离散马尔科夫链对比
上一节笔记:随机过程(8)——更新过程在排队论的两个应用,PASTA,连续时间马尔科夫链引入
学弱猹
2021/08/10
2.3K0
随机过程(9)——连续时间马尔科夫链的泊松过程描述,爆炸现象,离散马尔科夫链对比
随机过程(F)——习题课(连续时间马尔科夫链-布朗运动)
这是《随机过程》系列习题课的第二部分。这一部分我们会介绍从连续时间马尔科夫链到布朗运动的一些习题。这一部分的难度相对大一些,当然了,我们提供的习题也会稍微少一些。
学弱猹
2021/08/10
9600
这是 隐马尔科夫模型(HMM) 的 2 个基本假设
上一篇 1个例子解释 隐马尔科夫模型(HMM) 的 5 个基本要素 说了隐马尔可夫模型 (HMM) 的参数,细分的话,包括 5 个基本要素:
double
2018/07/25
3.2K0
这是 隐马尔科夫模型(HMM) 的 2 个基本假设
【AlphaGo核心技术-教程学习笔记02】深度强化学习第二讲 马尔科夫决策过程
【导读】Google DeepMind在Nature上发表最新论文,介绍了迄今最强最新的版本AlphaGo Zero,不使用人类先验知识,使用纯强化学习,将价值网络和策略网络整合为一个架构,3天训练后就以100比0击败了上一版本的AlphaGo。Alpha Zero的背后核心技术是深度强化学习,为此,专知有幸邀请到叶强博士根据DeepMind AlphaGo的研究人员David Silver《深度强化学习》视频公开课进行创作的中文学习笔记,在专知发布推荐给大家!(关注专知公众号,获取强化学习pdf资料,详情
WZEARW
2018/04/09
1.1K0
【AlphaGo核心技术-教程学习笔记02】深度强化学习第二讲 马尔科夫决策过程
【机器学习】隐马尔可夫模型
本文介绍了隐马尔可夫模型,首先介绍了隐马尔科夫模型定义,核心思想是引入了隐状态序列(引入隐状态是所有隐因子模型最巧妙的地方,如:隐因子分解,LDA),然后介绍了隐马尔科夫模型要解决的三个问题,1)在参数已知的情况下计算可观测序列的总概率,2)在给出观测序列数据时学习模型的参数,3)在参数已知的情况下通过维特比解码预测出所有产生可观测序列中概率最大的一条不可观测序列,即序列标注问题。
yuquanle
2020/02/21
1K0
MCMC原理解析(马尔科夫链蒙特卡洛方法)
马尔科夫链蒙特卡洛方法(Markov Chain Monte Carlo),简称MCMC,MCMC算法的核心思想是我们已知一个概率密度函数,需要从这个概率分布中采样,来分析这个分布的一些统计特性,然而这个这个函数非常之复杂,怎么去采样?这时,就可以借助MCMC的思想。
种花家的奋斗兔
2020/11/13
2.9K0
MCMC原理解析(马尔科夫链蒙特卡洛方法)
强化学习通俗理解系列一:马尔科夫奖赏过程MRP
本文写作目的:尽量通俗讲解强化学习知识,使读者不会被各种概念吓倒!本文是第一篇,但是最关键的一篇是第二篇马尔科夫决策过程(Markov Decision Process,MDP),只有充分理解了马尔科夫决策过程,才能游刃有余的学习后续知识,所以希望读者能够将MDP深入理解后再去学习后续内容。
机器学习算法工程师
2018/07/27
9150
强化学习通俗理解系列一:马尔科夫奖赏过程MRP
推荐阅读
相关推荐
【机器学习】马尔科夫决策过程
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档