Функция потерь Хьюбера

Функция потерь Хьюбера — функция потерь, используемая в устойчивой регрессии, которая менее чувствительна к выбросам, чем квадратичная ошибка.

Определение

Функция потерь Хьюбера (зеленый, $\delta =1$) и квадратичная функция потерь (синий) как функция от $y-f(x)$

Функция потерь Хьюбера задает штраф за процедуру оценки. Хьюбер (1964) описал её как кусочную функцию вида:

$L_{\delta }(a)={\begin{cases}{\frac {1}{2}}{a^{2}}&{\text{для }}|a|\leq \delta ,\\\delta (|a|-{\frac {1}{2}}\delta ),&{\text{иначе.}}\end{cases}}$

Эта функция квадратична для малых значений a, и линейна для больших значений, с одинаковым значением и уклоном для различных участков двух точек где $|a|=\delta$. Переменную a часто рассматривают как остаток, т.е как разницу между наблюдаемым и предсказанным значением $a=y-f(x)$, поэтому исходное определение может быть расширено до:$L_{\delta }(y,f(x))={\begin{cases}{\frac {1}{2}}(y-f(x))^{2}&{\text{для }}|y-f(x)|\leq \delta ,\\\delta \,|y-f(x)|-{\frac {1}{2}}\delta ^{2}&{\text{иначе.}}\end{cases}}$