Дисперсия случайной величины

Диспе́рсия случа́йной величины́ — мера разброса значений случайной величины относительно её математического ожидания. Обозначается $D[X]$ в русской литературе и $\operatorname {Var} (X)$ (англ. variance) в зарубежной. В статистике часто употребляется обозначение $\sigma _{X}^{2}$ или $\displaystyle \sigma ^{2}$.

Квадратный корень из дисперсии, равный $\displaystyle \sigma$, называется среднеквадрати́ческим отклоне́нием, станда́ртным отклоне́нием или стандартным разбросом. Стандартное отклонение измеряется в тех же единицах, что и сама случайная величина, а дисперсия измеряется в квадратах этой единицы измерения.

Из неравенства Чебышёва следует, что вероятность того, что значения случайной величины отстают от математического ожидания этой случайной величины более чем на $k$ стандартных отклонений, составляет менее $1/k^{2}$. В специальных случаях оценка может быть усилена. Так, например, как минимум в 95 % случаев значения случайной величины, имеющей нормальное распределение, удалены от её среднего не более чем на два стандартных отклонения, а в примерно 99,7 % — не более чем на три.

Определение

Дисперсией случайной величины называют математическое ожидание квадрата отклонения случайной величины от её математического ожидания.

Пусть $X$ — случайная величина, определённая на некотором вероятностном пространстве. Тогда дисперсией называется

$D[X]=M\left[{\big (}X-M[X]{\big )}^{2}\right]$

где символ $M$ обозначает математическое ожидание.

Замечания

• Если случайная величина $X$ дискретная, то

  $D[X]=\sum _{i=1}^{n}{p_{i}(x_{i}-M[X])^{2}}$,

  $D[X]={\frac {1}{2}}\sum _{i=1}^{n}\sum _{j=1}^{n}{p_{i}p_{j}(x_{i}-x_{j})^{2}}=\sum _{i=1}^{n}\sum _{j<i}{p_{i}p_{j}(x_{i}-x_{j})^{2}}$,

где $x_{i}$ — $i$-ое значение случайной величины, $p_{i}$ — вероятность того, что случайная величина принимает значение $x_{i}$, $n$ — количество значений случайной величины.

• Если случайная величина $X$ непрерывна, то:

  $D[X]=\int \limits _{-\infty }^{+\infty }{(x-M[X])^{2}f(x)dx}$,

  $D[X]={\frac {1}{2}}\int \limits _{-\infty }^{+\infty }\int \limits _{-\infty }^{+\infty }(x_{2}-x_{1})^{2}{f(x_{1})f(x_{2})dx_{1}dx_{2}}$,

где $f(x)$ — плотность вероятности случайной величины.

• В силу линейности математического ожидания, справедлива формула:

  $D[X]=M[X^{2}]-\left(M[X]\right)^{2}$

• Дисперсия является вторым центральным моментом случайной величины;
• Дисперсия может быть бесконечной.
• Дисперсия может быть вычислена с помощью производящей функции моментов $U(t)$:

  $D[X]=M[X^{2}]-\left(M[X]\right)^{2}=U''(0)-\left(U'(0)\right)^{2}$

• Дисперсия целочисленной случайной величины может быть вычислена с помощью производящей функции последовательности.
• Удобная формула для вычисления смещённой оценки дисперсии (англ. biased sample variance) случайной величины $X$ по последовательности $X_{1}...X_{n}$ — реализаций этой случайной величины:

  ${\bar {S}}^{2}={\dfrac {\sum \limits _{i=1}^{n}X_{i}^{2}-{\dfrac {\left(\sum \limits _{i=1}^{n}X_{i}\right)}{n}}^{2}}{n}}={\dfrac {\sum \limits _{i=1}^{n}X_{i}^{2}-n{\bar {X}}^{2}}{n}}={\dfrac {\sum \limits _{i=1}^{n}\left(X_{i}^{2}-{\bar {X}}^{2}\right)}{n}}$

  где ${\bar {X}}={\dfrac {\sum \limits _{i=1}^{n}X_{i}}{n}}$ — несмещённая оценка $M[X]$.

  Для получения несмещённой оценки дисперсии (англ. unbiased sample variance) правую часть вышеуказанного равенства необходимо умножить на ${\frac {n}{n-1}}$. Несмещённая оценка обозначается ${\widetilde {S}}^{2}$:

  ${\widetilde {S}}^{2}={\dfrac {\sum \limits _{i=1}^{n}X_{i}^{2}-{\dfrac {\left(\sum \limits _{i=1}^{n}X_{i}\right)}{n}}^{2}}{n-1}}={\dfrac {\sum \limits _{i=1}^{n}X_{i}^{2}-n{\bar {X}}^{2}}{n-1}}={\dfrac {\sum \limits _{i=1}^{n}\left(X_{i}^{2}-{\bar {X}}^{2}\right)}{n-1}}$

Свойства

• Дисперсия любой случайной величины неотрицательна: $D[X]\geqslant 0;$
• Если дисперсия случайной величины конечна, то конечно и её математическое ожидание;
• Если случайная величина равна константе, то её дисперсия равна нулю: $D[a]=0.$ Верно и обратное: если $D[X]=0,$ то $X=M[X]$ почти всюду;
• Дисперсия суммы двух случайных величин равна:

  $D[X+Y]=D[X]+D[Y]+2\,{\text{cov}}(X,Y)$, где ${\text{cov}}(X,Y)$ — их ковариация;

• Для дисперсии произвольной линейной комбинации нескольких случайных величин имеет место равенство:

  $D\left[\sum _{i=1}^{n}c_{i}X_{i}\right]=\sum _{i=1}^{n}c_{i}^{2}D[X_{i}]+2\sum _{1\leqslant i<j\leqslant n}c_{i}c_{j}\,{\text{cov}}(X_{i},X_{j})$, где $c_{i}\in \mathbb {R}$;

• В частности, $D[X_{1}+\ldots +X_{n}]=D[X_{1}]+\ldots +D[X_{n}]$ для любых независимых или некоррелированных случайных величин, так как их ковариации равны нулю;
• $D\left[aX\right]=a^{2}D[X];$
• $D\left[-X\right]=D[X];$
• $D\left[X+b\right]=D[X].$
• Если $X=X(\omega ,\tau )$ - случайная величина от пары элементарных событий (случайная величина на декартовом произведении вероятностных пространств), то

  $D_{(\omega ,\tau )}[X]=M_{\omega }[D_{\tau }[X]]+D_{\omega }[M_{\tau }[X]]$

Условная дисперсия

Наряду с условным математическим ожиданием $M[X|Y]$ в теории случайных процессов используется условная дисперсия случайных величин $D[X|Y]$.

Условной дисперсией случайной величины $X$ относительно случайной величины $Y$ называется случайная величина

$D[X|Y]=M[(X-M[X|Y])^{2}|Y]=M[X^{2}|Y]-M[X|Y]^{2}$

Её свойства:

• Условная дисперсия относительно случайной величины $Y$ является Y-измеримой случайной величиной (то есть измерима относительно сигма-алгебры, порождённой случайной величиной $Y$);
• Условная дисперсия неотрицательна: $D[X|Y]\geqslant 0$;
• Условная дисперсия $D[X|Y]$ равна нулю тогда и только тогда, когда $X=M[X|Y]$ почти наверное, то есть тогда и только тогда, когда $X$ совпадает почти наверное с некоторой Y-измеримой величиной (а именно, с $M[X|Y]$);
• Обычная дисперсия также может быть представлена как условная: $D[X]=D[X|1]$;
• Если величины $X$ и $Y$ независимы, случайная величина $D[X|Y]$ является константой, равной $D[X]$.
• Если $X,Y$ - две числовые случайные величины, то

  $D[X]=M[D[X|Y]]+D[M[X|Y]]$,

откуда, в частности, следует, что дисперсия условного математического ожидания $M[X|Y]$ всегда меньше или равна дисперсии исходной случайной величины $X$.

Пример

Пусть случайная величина $\displaystyle X$ имеет стандартное непрерывное равномерное распределение на $\displaystyle [0,1],$ то есть её плотность вероятности задана равенством

$f_{X}(x)=\left\{{\begin{matrix}1,&x\in [0,1]\\0,&x\not \in [0,1].\end{matrix}}\right.$

Тогда математическое ожидание квадрата случайной величины

$M\left[X^{2}\right]=\int \limits _{0}^{1}\!x^{2}\,dx=\left.{\frac {x^{3}}{3}}\right\vert _{0}^{1}={\frac {1}{3}},$

и математическое ожидание случайной величины

$M\left[X\right]=\int \limits _{0}^{1}\!x\,dx=\left.{\frac {x^{2}}{2}}\right\vert _{0}^{1}={\frac {1}{2}}.$

Тогда дисперсия случайной величины

$D[X]=M\left[X^{2}\right]-(M[X])^{2}={\frac {1}{3}}-\left({\frac {1}{2}}\right)^{2}={\frac {1}{12}}.$

См. также

• Среднеквадратическое отклонение
• Моменты случайной величины
• Ковариация
• Выборочная дисперсия
• Независимость (теория вероятностей)
• Скедастичность
• Абсолютное отклонение

Литература

• Гурский Д., Турбина Е. Mathcad для студентов и школьников. Популярный самоучитель. — СПб.: Питер, 2005. — С. 340. — ISBN 5469005259.
• Орлов А. И. Дисперсия случайной величины // Математика случая: Вероятность и статистика — основные факты. — М.: МЗ-Пресс, 2004.