Оценка апостериорного максимума

Материал из Википедии — свободной энциклопедии
Перейти к навигации Перейти к поиску

В статистике метод оценки с помощью апостериорного максимума (MAP) тесно связан с методом максимального правдоподобия (ML), но дополнительно при оптимизации использует априорное распределение величины, которую оценивает.

Предположим, что нам нужно оценить cтатистический параметр на основе наблюдений . Пусть  — выборочное распределение , так что  — вероятность при условии, что параметр выборки принимает значение . Тогда функция

функция правдоподобия, а оценка

оценка максимального правдоподобия .

Теперь предположим, что существует априорное распределение величины . Это позволяет рассматривать как случайную величину в байесовской статистике. Тогда апостериорное распределение :

где плотность распределения ,  — область определения . Это прямое приложение Теоремы Байеса.

Метод оценки апостериорного максимального правдоподобия даёт оценку как моды апостериорного распределения этой случайной величины:

Знаменатель апостериорного распределения не зависит от и поэтому не играет роли в оптимизации. Заметим, что MAP-оценка соответствует ML-оценке, когда априорное распределение постоянно (то есть константа).

Предположим, что у нас есть последовательность i.i.d. случайных величин и априорное распределение задано . Мы хотим найти MAP оценку .

Функция, которую нужно максимизировать задана

что эквивалентно минимизации в

Таким образом, мы видим, что MAP оценка для μ задана

Литература

[править | править код]
  • DeGroot, Morris H. Optimal Statistical Decisions. McGraw-Hill. 1970.
  • Harold W. Sorenson. Parameter Estimation: Principles and Problems. Marcel Dekker. 1980.