大数定律

极限定理是概率论的基本理论，在理论研究和实际应用中起着非常重要的作用。大数定律和中性极限定理则可能是概率论中最重要的两类极限定理。

其中，大数定律的内容是随机变量序列的前一些项的算术均值在某种条件下收敛到这些项的期望的算术均值。在各种大数定律中，切比雪夫大数定理更为基本，表述了大数定理比较一般的情况，它可以通过切比雪夫不等式来证明(切比雪夫不等式与马尔可夫不等式)。而其他一些大数定理则可以看作是切比雪夫大数定理的特殊情形。

切比雪夫大数定理 设​x₁,x₂,…,x_n-1,x_n​,....是一列相互独立的随机变量，他们分别存在期望E(x_k)和方差D(x_k)。若存在常数C使得D(x_k)≤C (k=1,2,3,…)，则对于任意ε>0,有

也就是说，当n→∞时，这些随机变量的算术均值依概率收敛于这些随机变量期望的算术均值，可以记为

辛钦大数定理 设​x₁,x₂,…,x_n-1,x_n​,....为独立同分布的随机变量序列，且具有数学期望E(x_k)=μ (k=1,2,3,…)，则对于任意ε>0,有

​

显然，辛钦大数定理是切比雪夫大数定理中随机变量序列各向同分布时的特殊情形。辛钦大数定理是说，大量的独立同分布的随机变量的算术均值几乎等于它们的期望。这其实是抽样调查中用样本均值代替总体均值的理论依据。例如从群体中抽取一部分人称重，用他们的平均体重近似代替整个群体的平均体重就是这个道理。

伯努利大数定律 设f_A是n次独立重复试验中事件A发生的次数，p是事件A在每次试验中发生的概率，则对任意正数任意ε>0,有

​

伯努利大数定理是辛钦大数定理中随机变量值只能取0和1，且取1的概率为p时的特殊情形。伯努利大数定理的含义是，试验重复次数足够多时，事件A发生的频率几乎等于其发生的概率。这反应了频率的稳定性。这是在抽样调查中用样本成数去估计总体成数的理论依据。例如从一批种子中抽取一部分种子进行播种，然后用它们的发芽率近似代替这一批种子的发芽率就是这个道理。