Распределение вероятностей

Распределение вероятностей — это закон, описывающий область значений случайной величины и соответствующие вероятности появления этих значений.

Определение

Пусть задано вероятностное пространство $(\Omega ,{\mathcal {F}},\mathbb {P} )$, и на нём определена случайная величина $X:\Omega \to \mathbb {R}$. В частности, по определению, $X$ является измеримым отображением измеримого пространства $(\Omega ,{\mathcal {F}})$ в измеримое пространство $(\mathbb {R} ,{\mathcal {B}}(\mathbb {R} ))$, где ${\mathcal {B}}(\mathbb {R} )$ обозначает борелевскую сигма-алгебру на $\mathbb {R}$. Тогда случайная величина $X$ индуцирует вероятностную меру $\mathbb {P} ^{X}$ на $\mathbb {R}$ следующим образом:

$\mathbb {P} ^{X}(B)=\mathbb {P} (X^{-1}(B)),\;\forall B\in {\mathcal {B}}(\mathbb {R} ).$

Мера $\mathbb {P} ^{X}$ называется распределением случайной величины $X$. Иными словами, $\mathbb {P} ^{X}(B)=\mathbb {P} (X\in B)$, таким образом $\mathbb {P} ^{X}(B)$ задаёт вероятность того, что случайная величина $X$ попадает во множество $B\in {\mathcal {B}}(\mathbb {R} )$.

Классификация распределений

Функция $F_{X}(x)=\mathbb {P} ^{X}((-\infty ,x])=\mathbb {P} (X\leqslant x)$ называется (кумулятивной) функцией распределения случайной величины $X$. Из свойств вероятности вытекает теорема:

Функция распределения $F_{X}(x)$ любой случайной величины удовлетворяет следующим трем свойствам:

1. $F_{X}$ — функция неубывающая;
2. $\lim _{x\to -\infty }F_{X}(x)=0,\;\lim _{x\to \infty }F_{X}(x)=1$;
3. $F_{X}$ непрерывна справа.

Из того факта, что борелевская сигма-алгебра на вещественной прямой порождается семейством интервалов вида $\{(-\infty ,x]\}_{x\in \mathbb {R} }$, вытекает теорема:

Любая функция $F(x)$, удовлетворяющая трём свойствам, перечисленным выше, является функцией распределения для какого-то распределения $\mathbb {P} ^{X}$.

Для вероятностных распределений, обладающих определенными свойствами, существуют более удобные способы их задания. В то же время распределения (и случайные величины) принято классифицировать по характеру функций распределения.

Дискретные распределения

Случайная величина $X$ называется простой или дискретной, если она принимает не более, чем счётное число значений. То есть $X(\omega )=a_{i},\;\forall \omega \in A_{i}$, где $\{A_{i}\}_{i=1}^{\infty }$ — разбиение $\Omega$.

Распределение простой случайной величины тогда по определению задаётся: $\mathbb {P} ^{X}(B)=\sum _{i:a_{i}\in B}\mathbb {P} (A_{i})$. Введя обозначение $p_{i}=\mathbb {P} (A_{i})$, можно задать функцию $p(a_{i})=p_{i}$. В силу свойств вероятности $\sum _{i=1}^{\infty }p_{i}=1$. Используя счётную аддитивность $\mathbb {P}$, легко показать, что эта функция однозначно определяет распределение $X$.

Набор вероятностей $p(a_{i})=p_{i}$, где $\sum _{i=1}^{\infty }p_{i}=1$ называется распределением вероятностей дискретной случайной величины $X$. Совокупность значений $a_{i},i=1,2...\infty$ и вероятностей $p_{i},i\in {1,2...\infty }$ называется дискретным законом распределения вероятностей.

Пусть функция $p$ задана таким образом, что $p(-1)={\frac {1}{2}}$ и $p(1)={\frac {1}{2}}$. Эта функция задаёт распределение случайной величины $X$, для которой $\mathbb {P} (X=\pm 1)={\frac {1}{2}}$ (см. распределение Бернулли, где случайная величина принимает значения $0,1$). Случайная величина $X$ является моделью подбрасывания уравновешенной монеты.

Другими примерами дискретных случайных величин являются распределение Пуассона, биномиальное распределение, геометрическое распределение.

Дискретное распределение обладает следующими свойствами:

1. $p_{i}\geqslant 0$,

2. $\sum _{i=1}^{n}p_{i}=1$, если множество значений - конечное — из свойств вероятности,

3. Функция распределения $F_{X}(x)$ имеет конечное или счётное множество точек разрыва первого рода,

4. Если $x_{0}$ - точка непрерывности $F_{X}(x)$, то существует ${\frac {dF_{X}(x_{0})}{dx}}=0$.

Решётчатые распределения

Решётчатым называется распределение с дискретной функцией распределения и точки разрыва функции распределения образуют подмножество точек вида $a+nh$, где $a$ - вещественное, $h>0$, $n$ - целое.

Теорема. Для того, чтобы функция распределения $F$ была решётчатой с шагом $h$, необходимо и достаточно, чтобы её характеристическая функция $f$ удовлетворяла соотношению $|f(2\pi /h)|=1$.

Абсолютно непрерывные распределения

Основная статья: Плотность вероятности

Распределение случайной величины $X$ называется абсолютно непрерывным, если существует неотрицательная функция $f_{X}:\mathbb {R} \to \mathbb {R} _{+}$, такая что $\mathbb {P} ^{X}(B)\equiv \mathbb {P} (X\in B)=\int \limits _{B}f_{X}(x)\,dx$. Функция $f_{X}$ тогда называется плотностью распределения вероятностей случайной величины $X$. Функция таких распределений абсолютно непрерывна в смысле Лебега.

Примерами абсолютно непрерывных распределений являются нормальное распределение, равномерное распределение, экспоненциальное распределение, распределение Коши.

Пример. Пусть $f(x)=1$, когда $0\leqslant x\leqslant 1$, и $f(x)=0$ в противном случае. Тогда $\mathbb {P} (a<X<b)=\int \limits _{a}^{b}1\,dx=b-a$, если $(a,b)\subset [0,1]$.

Для любой плотности распределения $f_{X}$ верны свойства:

1. $f_{X}(x)\geqslant 0$;
2. $\int \limits _{-\infty }^{\infty }f_{X}(x)\,dx=1$.

Верно и обратное — если функция $f:\mathbb {R} \to \mathbb {R}$ такая, что:

1. $f(x)\geqslant 0,\;\forall x\in \mathbb {R}$;
2. $\int \limits _{-\infty }^{\infty }f(x)\,dx=1$,

то существует распределение $\mathbb {P} ^{X}$ такое, что $f(x)$ является его плотностью.

Применение формулы Ньютона-Лейбница приводит к следующим соотношениям между функцией и плотностью абсолютно непрерывного распределения:

$\mathbb {P} (a<X<b)=F(b)-F(a)=\int \limits _{a}^{b}f(t)\,dt$.

Теорема. Если $f(x)$ — непрерывная плотность распределения, а $F(x)$ — его функция распределения, то

1. $F'(x)=f(x),\;\forall x\in \mathbb {R} ,$
2. $F(x)=\int \limits _{-\infty }^{x}f(t)\,dt$.

При построении распределения по эмпирическим (опытным) данным следует избегать ошибок округления.

Сингулярные распределения

Основная статья: Сингулярное распределение

Кроме дискретных и непрерывных случайных величин существуют величины, не являющиеся ни на одном интервале ни дискретными, ни непрерывными. К таким случайным величинам относятся, например, те, функции распределения которых непрерывные, но возрастают только на множестве лебеговой меры нуль.

Сингулярными называют распределения, сосредоточенные на множестве нулевой меры (обычно меры Лебега).

Литература

• Распределение вероятностей // Большая российская энциклопедия : [в 35 т.] / гл. ред. Ю. С. Осипов. — М. : Большая российская энциклопедия, 2004—2017.
• Лагутин М.Б. Наглядная математическая статистика. — М.: Бином, 2009. — 472 с.
• Жуковский М.Е., Родионов И.В. Основы теории вероятностей. — М.: МФТИ, 2015. — 82 с.
• Жуковский М.Е., Родионов И.В., Шабанов Д.А. Введение в математическую статистику. — М.: МФТИ, 2017. — 109 с.
• Рамачандран Б. Теория характеристических функций. — М.: Наука, 1975. — 224 с.
• Королюк В.С., Портенко Н.И., Скороход А.В., Турбин А.Ф. Справочник по теории вероятностей и математической статистике. — М.: Наука, 1985. — 640 с.
• Губарев В.В. Вероятностные модели: Справочник в 2-х частях. — Новосибирск.: Новосибир. электротехн. ин-т, 1992. — 422 с.

См. также

• Маргинальное распределение