Закон больших чисел

Материал из Википедии — свободной энциклопедии
Перейти к: навигация, поиск

Зако́н больши́х чи́сел в теории вероятностей утверждает, что эмпирическое среднее (среднее арифметическое) достаточно большой конечной выборки из фиксированного распределения близко к теоретическому среднему (математическому ожиданию) этого распределения. В зависимости от вида сходимости различают слабый закон больших чисел, когда имеет место сходимость по вероятности, и усиленный закон больших чисел, когда имеет место сходимость почти всюду.

Всегда найдётся такое конечное число испытаний, при котором с любой заданной наперёд вероятностью меньше 1 относительная частота появления некоторого события будет сколь угодно мало отличаться от его вероятности.

Общий смысл закона больших чисел — совместное действие большого числа одинаковых и независимых случайных факторов приводит к результату, в пределе не зависящему от случая.

На этом свойстве основаны методы оценки вероятности на основе анализа конечной выборки. Наглядным примером является прогноз результатов выборов на основе опроса выборки избирателей.

Слабый закон больших чисел[править | править исходный текст]

Пусть есть бесконечная последовательность (последовательное перечисление) одинаково распределённых и некоррелированных случайных величин \{X_i\}_{i=1}^{\infty}, определённых на одном вероятностном пространстве (\Omega,\mathcal{F},\mathbb{P}). То есть их ковариация \mathrm{cov}(X_i,X_j) = 0,\; \forall i \not=j. Пусть \mathbb{E}X_i = \mu,\; \forall i\in \mathbb{N}. Обозначим S_n выборочное среднее первых n членов:

S_n = \frac{1}{n} \sum\limits_{i=1}^n X_i,\; n \in \mathbb{N}.

Тогда S_n \to^{\!\!\!\!\!\! \mathbb{P}} \mu.

То есть для всякого положительного \varepsilon,


    \lim_{n\to\infty}\Pr\!\left(\,|S_n-\mu| < \varepsilon\,\right) = 1.

Усиленный закон больших чисел[править | править исходный текст]

Пусть есть бесконечная последовательность независимых одинаково распределённых случайных величин \{X_i\}_{i=1}^{\infty}, определённых на одном вероятностном пространстве (\Omega,\mathcal{F},\mathbb{P}). Пусть \mathbb{E}X_i = \mu,\; \forall i\in \mathbb{N}. Обозначим S_n выборочное среднее первых n членов:

S_n = \frac{1}{n} \sum\limits_{i=1}^n X_i,\; n \in \mathbb{N}.

Тогда S_n \to \mu почти всегда.

То есть


    \Pr\!\left( \lim_{n\to\infty} S_n = \mu \right) = 1.

Замечания[править | править исходный текст]

Приведенная формулировка слабого закона больших чисел предполагает, что случайные величины имеют второй момент. Однако это не обязательно. Из усиленного закона больших чисел вытекает, что суммы S_n независимых случайных величин стремятся к нулю и по вероятности при условии существования только первого момента.

См. также[править | править исходный текст]

Литература[править | править исходный текст]

  • Ширяев А. Н. Вероятность, — М.: Наука. 1989.
  • Чистяков В. П. Курс теории вероятностей, — М., 1982.