概率论历史上第一个极限定理属于伯努利，后人称之为“大数定律”

概率论历史上第一个极限定理属于伯努利，后人称之为“大数定律”。概率论中讨论随机变量序列的算术平均值向随机变量各数学期望的算术平均值收敛的定律。

则称序列依概率收敛于$a$，记作：

收敛：表明这是一个随机变量序列，而不是某个随机变量；且序列是无限长，而不是有限长。

由于$X_i$同分布，他们有相同的分布，也就具有相同的特征函数：

因此$X$的期望$E(X)$可以用特征函数在$t=0$处的一阶导数表示：

将特征函数在$t=0$处泰勒展开，有：

根据（可由洛必达法则推出）：

即$X$的$n$阶矩与期望的关系为：

二者具有相同的特征函数，因此具有相同的分布，有：