Неравенство Крамера — Рао

Материал из Википедии — свободной энциклопедии
Перейти к навигации Перейти к поиску

Неравенство Краме́ра — Ра́о — неравенство, которое при некоторых условиях на статистическую модель даёт нижнюю границу для дисперсии оценки неизвестного параметра, выражая её через информацию Фишера.

Названо по именам шведского математика Харальда Крамера[sv] и индийского математика Кальямпуди Рао, но независимо от них устанавливалось также Фреше, Дармуа (фр. Georges Darmois), Айткеном (англ. Alexander Aitken) и Сильверстоуном (Harold Silverstone). Известно обобщение в квантовой теории оценивания — квантовое неравенство Крамера — Рао.

Формулировка[править | править код]

Для статистической модели ,  — выборка размера , — определена функция правдоподобия и выполнены следующие условия (условия регулярности):

  • и везде дифференцируема по ;
  • функция (функция вклада выборки) имеет конечную дисперсию (или, что то же, конечна информация Фишера);
  • для любой статистики с конечным вторым моментом имеет место равенство:
    .

Если при этих условиях дана статистика , которая несмещённо оценивает дифференцируемую функцию , то справедливо следующее неравенство:

, где ;

а равенство достигается тогда и только тогда, когда:

.

Здесь  — количество информации по Фишеру в одном наблюдении, а  — плотность распределения генеральной совокупности в случае непрерывной статистической модели и вероятность события в случае дискретной статистической модели.

Частный случай[править | править код]

Часто используется следующий частный случай, также называемый неравенством Крамера — Рао: если выполнены условия регулярности, а  — несмещённая оценка параметра , то:

.

Равенство в этом неравенстве достигается тогда и только тогда, когда .

Применение[править | править код]

Оценка параметра называется эффективной, если для неё неравенство Крамера — Рао обращается в равенство. Таким образом, неравенство может быть использовано для доказательства того, что дисперсия данной оценки наименьшая из возможных, то есть что данная оценка в некотором смысле лучше всех остальных.

Литература[править | править код]

  • Математическая статистика, под ред. В. С. Зарубина, серия «Математика в техническом университете», вып. XVII, М., МГТУ, 2002