Закон больших чисел

Зако́н больши́х чи́сел в теории вероятностей утверждает, что эмпирическое среднее (среднее арифметическое) достаточно большой конечной выборки из фиксированного распределения близко к теоретическому среднему (математическому ожиданию) этого распределения. В зависимости от вида сходимости различают слабый закон больших чисел, когда имеет место сходимость по вероятности, и усиленный закон больших чисел, когда имеет место сходимость почти всюду.

Всегда найдётся такое конечное число испытаний, при котором с любой заданной наперёд вероятностью меньше 1 относительная частота появления некоторого события будет сколь угодно мало отличаться от его вероятности.

Общий смысл закона больших чисел — совместное действие большого числа одинаковых и независимых случайных факторов приводит к результату, в пределе не зависящему от случая.

На этом свойстве основаны методы оценки вероятности на основе анализа конечной выборки. Наглядным примером является прогноз результатов выборов на основе опроса выборки избирателей.

Слабый закон больших чисел

Пусть есть бесконечная последовательность (последовательное перечисление) одинаково распределённых и некоррелированных случайных величин $\{X_i\}_{i=1}^{\infty}$, определённых на одном вероятностном пространстве $(\Omega,\mathcal{F},\mathbb{P})$. То есть их ковариация $\mathrm{cov}(X_i,X_j) = 0,\; \forall i \not=j$. Пусть $\mathbb{E}X_i = \mu,\; \forall i\in \mathbb{N}$. Обозначим $S_n$ выборочное среднее первых $n$ членов:

$S_n = \frac{1}{n} \sum\limits_{i=1}^n X_i,\; n \in \mathbb{N}$.

Тогда $S_n \to^{\!\!\!\!\!\! \mathbb{P}} \mu$.

То есть для всякого положительного $\varepsilon$,

$\lim_{n\to\infty}\Pr\!\left(\,|S_n-\mu| < \varepsilon\,\right) = 1.$

Усиленный закон больших чисел

Пусть есть бесконечная последовательность независимых одинаково распределённых случайных величин $\{X_i\}_{i=1}^{\infty}$, определённых на одном вероятностном пространстве $(\Omega,\mathcal{F},\mathbb{P})$. Пусть $\mathbb{E}X_i = \mu,\; \forall i\in \mathbb{N}$. Обозначим $S_n$ выборочное среднее первых $n$ членов:

$S_n = \frac{1}{n} \sum\limits_{i=1}^n X_i,\; n \in \mathbb{N}$.

Тогда $S_n \to \mu$ почти всегда.

То есть

$\Pr\!\left( \lim_{n\to\infty} S_n = \mu \right) = 1.$

Замечания

Приведенная формулировка слабого закона больших чисел предполагает, что случайные величины имеют второй момент. Однако это не обязательно. Из усиленного закона больших чисел вытекает, что суммы $S_n$ независимых случайных величин стремятся к нулю и по вероятности при условии существования только первого момента.

См. также

• Центральная предельная теорема
• Закон повторного логарифма

Литература

• Ширяев А. Н. Вероятность, — М.: Наука. 1989.
• Чистяков В. П. Курс теории вероятностей, — М., 1982.