大數法則

弱大数定律(WLLN) 也称为辛钦定理，陈述为：样本均值依概率收敛于期望值。[1]

${\displaystyle {\overline {X}}_{n}\ {\xrightarrow {P}}\ \mu \quad {\textrm {as}}\quad n\to \infty }$

也就是说对于任意正数 ε,

${\displaystyle \lim _{n\to \infty }P\left(\,|{\overline {X}}_{n}-\mu |>\varepsilon \,\right)=0}$

强大数定律(SLLN)指出，样本均值以概率1收敛于期望值。

${\displaystyle {\overline {X}}_{n}\ {\xrightarrow {\text{a.s.}}}\ \mu \quad {\textrm {as}}\quad n\to \infty }$

即

${\displaystyle P\left(\lim _{n\to \infty }{\overline {X}}_{n}=\mu \right)=1}$

设 ${\displaystyle a_{1},\ a_{2},\ \dots \ ,\ a_{n},\ \dots }$ 为相互独立的随机变量，其数学期望为：${\displaystyle \operatorname {E} (a_{i})=\mu \quad (i=1,\ 2,\ \dots )}$，方差为：${\displaystyle \operatorname {Var} (a_{i})=\sigma ^{2}\quad (i=1,\ 2,\ \dots )}$

则序列${\displaystyle {\overline {a}}={\frac {1}{n}}\sum _{i=1}^{n}a_{i}}$依概率收敛于${\displaystyle \mu }$（即收敛于此数列的数学期望${\displaystyle E(a_{i})}$）。

换言之，在定理条件下，当${\displaystyle n}$无限变大时，${\displaystyle n}$个随机变量的算术平均将变成一个常数。

设在${\displaystyle n}$次独立重复伯努利试验中，事件${\displaystyle X}$发生的次数为${\displaystyle n_{x}}$，事件${\displaystyle X}$在每次试验中发生的母體機率为${\displaystyle p}$，${\displaystyle {\frac {n_{x}}{n}}}$代表樣本發生事件${\displaystyle X}$的频率。

则对任意正数${\displaystyle \varepsilon >0}$，伯努利大数定律表明：

${\displaystyle \lim _{n\to \infty }{P{\left\{\left|{\frac {n_{x}}{n}}-p\right|<\varepsilon \right\}}}=1}$

換言之，事件发生的频率依機率收敛于事件的母體機率。該定理以严格的数学形式表达了频率的稳定性，也就是说当${\displaystyle n}$很大时，事件发生的频率与母體機率有较大偏差的可能性很小。