Функция потерь Хьюбера

Материал из Википедии — свободной энциклопедии
Перейти к навигации Перейти к поиску

Функция потерь Хьюбера — это функция потерь, используемая в устойчивой регрессии, которая менее чувствительна к выбросам, чем квадратичная ошибка.

Определение[править | править код]

Функция потерь Хьюбера (зеленый, ) и квадратичная функция потерь (синий) как функция от

Функция потерь Хьюбера задает штраф за процедуру оценки. Хьюбер (1964) описал ее как кусочную функцию вида:[1]

Эта функция квадратична для малых значений a, и линейна для больших значений, с одинаковым значением и уклоном для различных участков двух точек где . Переменную a часто рассматривают как остаток, т.е как разницу между наблюдаемым и предсказанным значением , поэтому исходное определение может быть расширено до[2]:

Примечания[править | править код]

  1. Huber, Peter J. Robust Estimation of a Location Parameter (англ.) // Annals of Statistics (англ.) : journal. — 1964. — Vol. 53, no. 1. — P. 73—101. — doi:10.1214/aoms/1177703732.
  2. Hastie, Trevor; Tibshirani, Robert; Friedman, Jerome. The Elements of Statistical Learning (неопр.). — 2009. — С. 349. Архивная копия от 26 января 2015 на Wayback Machine Compared to Hastie et al., the loss is scaled by a factor of ½, to be consistent with Huber's original definition given earlier.