Регуляризация (математика)

Материал из Википедии — свободной энциклопедии
Перейти к: навигация, поиск

Регуляризация в статистике, машинном обучении, теории обратных задач — метод добавления некоторой дополнительной информации к условию с целью решить некорректно поставленную задачу или предотвратить переобучение. Эта информация часто имеет вид штрафа за сложность модели. Например, это могут быть ограничения гладкости результирующей функции или ограничения по норме векторного пространства.

C философской точки зрения регуляризация означает попытку применить бритву Оккама к решению задачи[источник не указан 266 дней]. С байесовской точки зрения многие методы регуляризации соответствуют добавлению некоторых априорных распределений на параметры модели.

Некоторые виды регуляризации: