Оценка апостериорного максимума

Материал из Википедии — свободной энциклопедии
Перейти к: навигация, поиск

В статистике метод оценки с помощью апостериорного максимума (MAP) тесно связан с методом максимального правдоподобия (ML), но дополнительно при оптимизации использует априорное распределение величины, которую оценивает.

Введение[править | править вики-текст]

Предположим, что нам нужно оценить неконтролируемый параметр выборки на базе наблюдений . Пусть - выборочное распределение , такое, что - вероятность в то время как параметр выборки . Тогда функция

известна как функция правдоподобия, а оценка

как оценка максимального правдоподобия .

Теперь, предположим, что априорное распределение на существует. Это позволяет рассматривать как случайную величину как в Байесовской статистике. тогда апостериорное распределение :

где плотность распределения , - область определения . Это прямое приложение Теоремы Байеса.

Метод оценки максимального правдоподобия затем оценивает как апостериорное распределение этой случайной величины:

Знаменатель апостериорного распределения не зависит от и поэтому не играет роли в оптимизации. Заметим, что MAP оценка соответствует ML оценке когда априорная постоянна (т.е., константа).

Пример[править | править вики-текст]

Предположим, что у нас есть последовательность i.i.d. случайных величин и априорное распределение задано . Мы хотим найти MAP оценку .

Функция, которую нужно максимизировать задана

что эквивалентно минимизации в

Таким образом, мы видим, что MAP оценка для μ задана

См. также[править | править вики-текст]

Литература[править | править вики-текст]

  • DeGroot, Morris H. Optimal Statistical Decisions. McGraw-Hill. 1970.
  • Harold W. Sorenson. Parameter Estimation: Principles and Problems. Marcel Dekker. 1980.