随机博弈

这类博弈由一系列阶段组成。在博弈中每一阶段的起始，博弈处於某种特定状态。每一参与者选择某种行动，然後会获得取决於当前状态和所选择行动的收益。之後，博弈发展到下一阶段，处於一个新的随机状态，这一随机状态的分布取决於先前状态和各位参与者选择的行动。在新状态中重复上述过程，然後博弈继续进行有限或无限个数的阶段。一个参与者得到的总收益常用各阶段收益的贴现和，或是各阶段收益平均值的下极限来计算。

下面给出随机博弈的一个例子：

当前有任意个装着球的桶，每个桶中球的数目也是任意的，两位参与者轮流从中取出球，且需要遵守如下规则：

1. 每一步应至少取出一只球，且只能从某一桶中取走部分或全部球；
2. 谁取到最后一只球，谁就获胜。

贴现因子为${\displaystyle \lambda }$（${\displaystyle 0<\lambda \leq 1}$）的贴现博弈${\displaystyle \Gamma _{\lambda }}$ 中，参与者${\displaystyle i}$ 的收益是${\displaystyle \lambda \sum _{t=1}^{\infty }(1-\lambda )^{t-1}g_{t}^{i}}$ 。${\displaystyle n}$ 阶段博弈中，参与者${\displaystyle i}$ 的收益是${\displaystyle {\bar {g}}_{n}^{i}:={\frac {1}{n}}\sum _{t=1}^{n}g_{t}^{i}}$ 。

若存在有限多个状态和行动的二人零和博弈${\displaystyle \Gamma _{n}}$（各自是${\displaystyle \Gamma _{\lambda }}$）的值为${\displaystyle v_{n}(m_{1})}$（各自是${\displaystyle v_{\lambda }(m_{1})}$），则${\displaystyle v_{n}(m_{1})}$ 在${\displaystyle n}$ 趋於无穷时收敛到一个极限，且${\displaystyle v_{\lambda }(m_{1})}$在${\displaystyle \lambda }$趋於${\displaystyle 0}$时收敛到相同的极限。这一结论已被杜鲁门·彪利（Truman Bewley）和艾朗·克尔伯格（Elon Kohlberg）於1976年证明。[2]

非贴现博弈${\displaystyle \Gamma _{\infty }}$中，参与者${\displaystyle i}$ 的收益是各阶段收益平均值的极限。在定义二人零和博弈${\displaystyle \Gamma _{\infty }}$的值与非零和博弈${\displaystyle \Gamma _{\infty }}$的均衡收益之前需要注意一些事情：若对於每一${\displaystyle \varepsilon >0}$都有正整数${\displaystyle N}$ 、参与者1的策略${\displaystyle \sigma _{\varepsilon }}$和参与者2的策略${\displaystyle \tau _{\varepsilon }}$，二人零和随机博弈${\displaystyle \Gamma _{\infty }}$的一致值（uniform value）${\displaystyle v_{\infty }}$存在，这样对於每一${\displaystyle \sigma }$、${\displaystyle \tau }$和每一${\displaystyle n\geq N}$，博弈中由${\displaystyle \sigma _{\varepsilon }}$和${\displaystyle \tau }$定义的概率的${\displaystyle {\bar {g}}_{n}^{i}}$期望至少为${\displaystyle v_{\infty }-\varepsilon }$，由${\displaystyle \sigma }$和${\displaystyle \tau _{\varepsilon }}$定义的概率的${\displaystyle {\bar {g}}_{n}^{i}}$期望至多为${\displaystyle v_{\infty }+\varepsilon }$。让·弗朗索瓦·梅顿斯（Jean Francois Mertens）和亚伯拉罕·奈曼（Abraham Neyman）於1981年证明二人零和随机博弈具有一致值。[3]

若参与者数量有限且行动集和状态集有限，则有限阶段随机博弈总有纳什均衡，对於总收益是贴现和的无限多阶段随机博弈也是如此。尼古拉斯·维勒（Nicolas Vieille）已经证明当总收益是各阶段收益平均值的下极限时，所有具有有限状态和行动空间的二人随机博弈都有近似纳什均衡。不过，当参与者多於2名时，随机博弈是否存在这类均衡仍是一个极具挑战性的开放性问题。[4]

随机博弈在经济学、演化生物学和计算机网络中都有应用。[5]事实上，随机博弈是重复博弈这类每一阶段都处於相同状态的博弈的一般化形式。

有关随机博弈的最全面的参考书籍是奈曼和索林编著的文集。[2]菲拉尔和乌瑞兹所著的书籍更为基础，书中提供了马尔可夫决策过程（MDP）和二人随机博弈理论的严密的统一处理方法。[6]他们创造了Competitive MDPs这一术语来概括一人和二人随机博弈。