Математическое ожидание

См. также: Условное математическое ожидание

Математи́ческое ожида́ние — среднее значение случайной величины, распределение вероятностей случайной величины рассматривается в теории вероятностей. В англоязычной литературе обозначается через $\mathbb{E}[X]$ (например, от англ. Expected value или нем. Erwartungswert), в русской — $M[X]$ (возможно, от англ. Mean value или нем. Mittelwert, а возможно от рус. Математическое ожидание). В статистике часто используют обозначение $\mu$.

Определение

Пусть задано вероятностное пространство $(\Omega,\mathfrak{F},\mathbb{P})$ и определённая на нём случайная величина $X$. То есть, по определению, $X\colon\Omega \to \mathbb{R}$ — измеримая функция. Если существует интеграл Лебега от $X$ по пространству $\Omega$, то он называется математическим ожиданием, или средним (ожидаемым) значением и обозначается $M[X]$ или $\mathbb{E}[X]$.

$M[X]=\int\limits_{\Omega}\! X(\omega)\, \mathbb{P}(d\omega).$

Основные формулы для математического ожидания

• Если $F_X(x)$ — функция распределения случайной величины, то её математическое ожидание задаётся интегралом Лебега — Стилтьеса:

$M[X]=\int\limits_{-\infty}^{\infty}\!x\, dF_X(x); x \in \mathbb R$.

Математическое ожидание дискретного распределения

• Если $X$ — дискретная случайная величина, имеющая распределение

$\mathbb{P}(X=x_i) = p_i,\; \sum\limits_{i=1}^{\infty} p_i = 1$,

то прямо из определения интеграла Лебега следует, что

$M[X]=\sum\limits_{i=1}^{\infty} x_i\, p_i$.

Математическое ожидание целочисленной величины

• Если $X$ — положительная целочисленная случайная величина (частный случай дискретной), имеющая распределение вероятностей

$\mathbb{P}(X=j) = p_j,\; j=0,1,...;\quad \sum\limits_{j=0}^{\infty} p_j = 1$

то её математическое ожидание может быть выражено через производящую функцию последовательности $\{p_i\}$

$P(s)=\sum_{k=0}^\infty\;p_k s^k$

как значение первой производной в единице: $M[X] = P'(1)$. Если математическое ожидание $X$ бесконечно, то $\lim_{s\to 1}P'(s)=\infty$ и мы будем писать $P'(1)=M[X]=\infty$

Теперь возьмём производящую функцию $Q(s)$ последовательности «хвостов» распределения $\{q_k\}$

$q_k=\mathbb{P}(X>k)=\sum_{j=k+1}^\infty{p_j};\quad Q(s)=\sum_{k=0}^\infty\;q_k s^k.$

Эта производящая функция связана с определённой ранее функцией $P(s)$ свойством: $Q(s)=\frac{1-P(s)}{1-s}$ при $|s|<1$. Из этого по теореме о среднем следует, что математическое ожидание равно просто значению этой функции в единице:

$M[X]=P'(1)=Q(1)$

Математическое ожидание абсолютно непрерывного распределения

• Математическое ожидание абсолютно непрерывной случайной величины, распределение которой задаётся плотностью $f_X(x)$, равно

$M[X]=\int\limits_{-\infty}^{\infty}\! x f_X(x)\, dx$.

Математическое ожидание случайного вектора

Пусть $X=(X_1,\dots,X_n)^{\top}\colon\Omega \to \mathbb{R}^n$ — случайный вектор. Тогда по определению

$M[X]=(M[X_1],\dots,M[X_n])^{\top}$,

то есть математическое ожидание вектора определяется покомпонентно.

Математическое ожидание преобразования случайной величины

Пусть $g\colon\mathbb{R}\to \mathbb{R}$ — борелевская функция, такая что случайная величина $Y = g(X)$ имеет конечное математическое ожидание. Тогда для него справедлива формула:

$M\left[g(X)\right] = \sum\limits_{i=1}^{\infty} g(x_i) p_i$,

если $X$ имеет дискретное распределение;

$M\left[g(X)\right] = \int\limits_{-\infty}^{\infty}\!g(x) f_X(x)\, dx$,

если $X$ имеет абсолютно непрерывное распределение.

Если распределение $\mathbb{P}^X$ случайной величины $X$ общего вида, то

$M\left[g(X)\right] = \int\limits_{-\infty}^{\infty}\!g(x)\, \mathbb{P}^X(dx)$.

В специальном случае, когда $g(X)=X^k$, Математическое ожидание $M\left[g(X)\right]=M[X^k]$ называется $k$-тым моментом случайной величины.

Простейшие свойства математического ожидания

• Математическое ожидание числа есть само число.

$M[a] = a$

$a \in \mathbb{R}$ — константа;

• Математическое ожидание линейно, то есть

$M[aX+bY] = aM[X]+bM[Y]$,

где $X,Y$ — случайные величины с конечным математическим ожиданием, а $a,b\in \mathbb{R}$ — произвольные константы;

• Математическое ожидание сохраняет неравенства, то есть если $0 \leqslant X \leqslant Y$ почти наверное, и $Y$ — случайная величина с конечным математическим ожиданием, то математическое ожидание случайной величины $X$ также конечно, и более того

$0 \leqslant M[X] \leqslant M[Y]$;

• Математическое ожидание не зависит от поведения случайной величины на событии вероятности нуль, то есть если $X = Y$ почти наверное, то

$M[X]=M[Y]$.

• Математическое ожидание произведения двух независимых случайных величин $X,Y$ равно произведению их математических ожиданий

$M[XY] = M[X]M[Y]$.

Дополнительные свойства математического ожидания

• Неравенство Маркова;
• Теорема Леви о монотонной сходимости;
• Теорема Лебега о мажорируемой сходимости;
• Тождество Вальда;
• Лемма Фату.
• Математическое ожидание случайной величины $X$ может быть выражено через её производящую функцию моментов $G(u)$ как значение первой производной в нуле: $M[X] = G'(0)$

Примеры

• Пусть случайная величина имеет дискретное равномерное распределение, то есть $\mathbb{P}(X = x_i) = \frac{1}{n},\; i=1,\ldots, n.$ Тогда её математическое ожидание

$M[X] = \frac{1}{n} \sum\limits_{i=1}^n x_i$

равно среднему арифметическому всех принимаемых значений.

• Пусть случайная величина имеет непрерывное равномерное распределение на интервале $[a,b]$, где $a<b$. Тогда её плотность имеет вид $f_X(x) = \frac{1}{b-a} \mathbf{1}_{[a,b]}(x)$ и математическое ожидание равно

$M[X] = \int\limits_{a}^b\!\frac{x}{b-a}\, dx = \frac{a+b}{2}$.

• Пусть случайная величина $X$ имеет стандартное распределение Коши. Тогда

$\int\limits_{-\infty}^{\infty}\!xf_X(x)\, dx = \infty$,

то есть математическое ожидание $X$ не определено.

См. также

• Дисперсия случайной величины;
• Моменты случайной величины;
• Условное математическое ожидание;
• Выборочное среднее.
• Математическое ожидание и его свойства на http://www.toehelp.ru

Литература

• В.Феллер. Глава XI. Целочисленные величины. Производящие функции // Введение в теорию вероятностей и её приложения = An introduction to probability theory and its applicatons, Volume I second edition / Под ред. Е. Б. Дынкина. — 2-е изд. — М.: Мир, 1964. — С. 270—272.