Ковариационная матрица
Материал из Википедии — свободной энциклопедии
Ковариацио́нная ма́трица (или ма́трица ковариа́ций) в теории вероятностей — это матрица, составленная из попарных ковариаций элементов двух случайных векторов.
[править] Определения
- Пусть
— два случайных вектора размерности n и m соответственно. Пусть также случайные величины 
имеют конечный второй момент, то есть 
. Тогда матрицей ковариации векторов 
называется
![\Sigma = \mathrm{cov}(\mathbf{X},\mathbf{Y}) = \mathbb{E}\left[(\mathbf{X} - \mathbb{E}\mathbf{X})(\mathbf{Y} - \mathbb{E}\mathbf{Y})^{\top}\right],](http://upload.wikimedia.org/math/c/6/4/c647c676e65db9126ed004cc1056f759.png)
то есть
- Σ = (σij),
где
![\sigma_{ij} = \mathrm{cov}(X_i,Y_j) \equiv \mathbb{E}\left[(X_i - \mathbb{E}X_i) (Y_j - \mathbb{E}Y_j)\right],\; i=1,\ldots, n,\; j = 1,\ldots, m](http://upload.wikimedia.org/math/1/8/f/18f60757eacfc6da968e99f186185c06.png)
.
- Если
, то Σ называется матрицей ковариации вектора 
и обозначается 
. Такая матрица ковариации является обобщением дисперсии для многомерной случайной величины, а ее след — скалярным выражением дисперсии многомерной случайной величины. Собственные векторы и собственные числа этой матрицы позволяют оценить размеры и форму облака распределения такой случайной величины, аппроксимировав его эллипсоидом (или эллипсом в двумерном случае).
[править] Свойства матриц ковариации
- Сокращённая формула для вычисления матрицы ковариации:
![\mathrm{cov}(\mathbf{X}) = \mathbb{E}\left[\mathbf{X} \mathbf{X}^{\top}\right] - \mathbb{E}[\mathbf{X}] \cdot \mathbb{E}\left[\mathbf{X}^{\top}\right]](http://upload.wikimedia.org/math/f/b/2/fb27f2ac44f15197f8a4eb8910558c42.png)
.
- Матрица ковариации случайного вектора неотрицательно определена:
.
- Смена масштаба:
.
- Матрица ковариации афинного преобразования:
,
где 
— произвольная матрица размера 
, а 
.
- Перестановка аргументов:
- Матрица ковариации аддитивна по каждому аргументу:
,
.
- Матрица ковариации независимых векторов равна нулю. Если и
независимы, то
.
