Центральная предельная теорема

Материал из Википедии — свободной энциклопедии

Текущая версия (не проверялась)

Центра́льные преде́льные теоре́мы (Ц.П.Т.) — класс теорем в теории вероятностей, утверждающих, что сумма большого количества независимых случайных величин имеет распределение, близкое к нормальному. Так как многие случайные величины в приложениях являются суммами нескольких случайных факторов, центральные предельные теоремы обосновывают популярность нормального распределения.

[править] Классическая формулировка Ц.П.Т.

Пусть $X_1,\ldots, X_n,\ldots$ есть бесконечная последовательность независимых одинаково распределённых случайных величин, имеющих конечное математическое ожидание и дисперсию. Обозначим последние $μ$ и $σ 2$ , соответственно. Пусть $S_n = \sum\limits_{i=1}^n X_i$ . Тогда

$\frac{S_n - \mu n}{\sigma \sqrt n} \to N(0,1)$ по распределению при $n \to \infty$ ,

где $N (0,1)$ — нормальное распределение с нулевым математическим ожиданием и стандартным отклонением, равным единице. Обозначив символом $\bar{X}$ выборочное среднее первых $n$ величин, то есть $\bar{X} = \frac{1}{n} \sum\limits_{i=1}^n X_i$ , мы можем переписать результат центральной предельной теоремы в следующем виде:

$\frac{\bar{X} - \mu}{\sigma / \sqrt{n}} \to N(0,1)$ по распределению при $n \to \infty$ .

[править] Замечания

Неформально говоря, классическая центральная предельная теорема утверждает, что сумма $n$ независимых одинаково распределённых случайных величин имеет распределение, близкое к $N (n μ, n σ 2)$ . Эквивалентно, $\bar{X}$ имеет распределение близкое к $N (μ,σ 2 / n)$ .
Так как функция распределения стандартного нормального распределения непрерывна, сходимость к этому распределению эквивалентна поточечной сходимости функций распределения к функции распределения стандартного нормального распределения. Положив $Z_n = \frac{S_n - \mu n}{\sigma \sqrt{n}}$ , получаем $F_{Z_n}(x) \to \Phi(x),\; \forall x \in \mathbb{R}$ , где $Φ(x)$ — функция распределения стандартного нормального распределения.
Центральная предельная теорема в классической формулировке доказывается методом характеристических функций (теорема Леви о непрерывности).
Вообще говоря, из сходимости функций распределения не вытекает сходимость плотностей. Тем не менее в данном классическом случае имеет место.

[править] Локальная Ц.П.Т.

В предположениях классической формулировки, допустим в дополнение, что распределение случайных величин $\{X_i\}_{i=1}^{\infty}$ абсолютно непрерывно, то есть оно имеет плотность. Тогда распределение $Z n$ также абсолютно непрерывно, и более того,

$f_{Z_n}(x) \to \frac{1}{\sqrt{2\pi}}\, e^{-\frac{x^2}{2}}$ при $n \to \infty$ ,

где $f_{Z_n}(x)$ - плотность случайной величины $Z n$ , а в правой части стоит плотность стандартного нормального распределения.

[править] Некоторые обобщения

Результат классической центральной предельной теоремы справедлив для ситуаций гораздо более общих, чем полная независимость и одинаковая распределённость.

[править] Ц.П.Т. Линдеберга

Пусть независимые случайные величины $X_1,\ldots ,X_n, \ldots$ определены на одном и том же вероятностном пространстве и имеют конечные математические ожидания и дисперсии: $\mathbb{E}[X_i] = \mu_i,\; \mathrm{D}[X_i] = \sigma^2_i$ . Как и прежде построим частичные суммы $S_n = \sum\limits_{i=1}^n X_i$ . Тогда в частности, $\mathbb{E}[S_n] = m_n = \sum\limits_{i=1}^n \mu_i,\; \mathrm{D}[S_n] = s_n^2 = \sum\limits_{i=1}^n \sigma_i^2$ . Наконец, пусть выполняется условие Линдеберга:

$\forall \varepsilon>0,\; \lim\limits_{n\to \infty}\sum\limits_{i=1}^n \mathbb{E}\left[\frac{(X_i-\mu_i)^2}{s_n^2}\, \mathbf{1}_{\{|X_i-\mu_i|> \varepsilon s_n\}}\right] = 0.$

Тогда

$\frac{S_n-m_n}{s_n} \to N(0,1)$ по распределению при $n \to \infty$ .

[править] Ц.П.Т. Ляпунова

Пусть выполнены базовые предположения Ц.П.Т. Линдеберга. Пусть случайные величины ${X i}$ имеют конечный третий момент. Тогда определена последовательность

$r^3_n = \sum_{i=1}^n \mathbb{E}\left[|X_i-\mu_i|^3\right]$ . Если предел