Неравенство Крамера — Рао

Материал из Википедии — свободной энциклопедии

В математической статистике неравенством Краме́ра — Ра́о (в честь Гаральда Крамера и К. Р. Рао) называется неравенство, которое при некоторых условиях на статистическую модель даёт нижнюю границу для дисперсии оценки неизвестного параметра, выражая её через информацию Фишера.

[править] Формулировка

Пусть дана статистическая модель , — выборка размера n, определена функция правдоподобия и выполнены следующие условия (условия регулярности):

• и везде дифференцируема по .
• Функция (функция вклада выборки) имеет конечную дисперсию (или, что то же, конечна информация Фишера).
• Для любой статистики имеет место равенство

.

Пусть при этих условиях дана статистика , которая оценивает дифференцируемую функцию τ(θ), причём смещение равно дифференцируемой функции b(θ). Тогда справедливы следующие утверждения:

• ;
• равенство достигается тогда и только тогда, когда представляется в виде .

Здесь — информация Фишера.

[править] Частный случай

Часто используется следующая, более слабая версия неравенства. Пусть выполнены условия регулярности, а — несмещённая оценка параметра θ. Тогда неравенство выглядит так:

.

Этот случай получается из первого, если взять τ(θ) = θ и b(θ) = 0.

[править] Применение

Оценка параметра называется эффективной, если для неё неравенство Крамера — Рао обращается в равенство. Таким образом, неравенство может быть использовано для доказательства того, что дисперсия данной оценки наименьшая из возможных, то есть что данная оценка в некотором смысле лучше всех остальных.