Обсуждение:Расстояние Кульбака — Лейблера

Материал из Википедии — свободной энциклопедии
Перейти к навигации Перейти к поиску

А почему бы не дать общее определение через мат. ожидание логарифмов плотностей или, что тоже самое - через информационную энтропию? D_KL=H_p(q)-H_p(p)=E(-\ln q)-E(-ln p). Или я чего не понимаю?