Информационное неравенство (математическая статистика)

Информационное неравенство (математическая статистика) — неравенство для несмещённой оценки с локально минимальной дисперсией, задающее нижнюю границу для величины дисперсии этой оценки. Играет важную роль в теории асимптотически эффективных оценок.

Формулировка

Обозначим $X$ — данные наблюдений, $\theta$ — оцениваемый на их основе параметр, $p(X,\theta )$ — условная плотность вероятности распределения, информацию Фишера как $I(\theta )=E\left[{\frac {\partial }{\partial \theta }}\ln p(X,\theta )\right]^{2}$. Пусть $I(\theta )>0$, $\delta$ — любая статистика с $E_{\theta }(\delta ^{2})<\infty$, для которой производная по $\theta$ от математического ожидания $E_{\theta }(\delta )=\int \delta p_{\theta }d\mu$ существует и может быть получена дифференцированием под знаком интеграла. Тогда справедливо информационное неравенство: $D_{\theta }(\delta )\geqslant {\frac {\left[{\frac {\partial }{\partial \theta }}E_{\theta }(\delta )\right]^{2}}{I(\theta )}}$.

Литература

• Леман Э. Теория точечного оценивания. — М.: Наука, 1991. — 448 с. — ISBN 5-02-013941-6.