Регуляризация (математика)

Материал из Википедии — свободной энциклопедии
Перейти к: навигация, поиск

Регуляризация в статистике, машинном обучении, теории обратных задач — метод добавления некоторой дополнительной информации к условию с целью решить некорректно поставленную задачу или предотвратить переобучение. Эта информация часто имеет вид штрафа за сложность модели. Например, это могут быть ограничения гладкости результирующей функции или ограничения по норме векторного пространства.

C точки зрения методологии регуляризация означает попытку применить бритву Оккама к решению задачи [1] . С байесовской точки зрения многие методы регуляризации соответствуют добавлению некоторых априорных распределений на параметры модели.

Некоторые виды регуляризации:

Примечания[править | править вики-текст]