Сигмоида

Материал из Википедии — свободной энциклопедии
(перенаправлено с «Сигмоид»)
Перейти к: навигация, поиск
Логистическая кривая (сигмоида)

Сигмо́ида — это гладкая монотонная нелинейная функция, имеющая форму буквы "S", которая часто применяется для «сглаживания» значений некоторой величины. Возрастающая функция.

Часто под сигмоидой понимают логистическую функцию

Семейство функций класса сигмоид[править | править вики-текст]

В семейство функций класса сигмоид также входят такие функции как арктангенс, гиперболический тангенс и другие функции подобного вида.

Функция Ферми (экспоненциальная сигмоида):

Рациональная сигмоида:

Гиперболический тангенс:

Модифицированный гиперболический тангенс:

Применение[править | править вики-текст]

Нейронные сети[править | править вики-текст]

Сигмоида применяется в нейронных сетях в качестве функций активации, так как позволяет как усиливать слабые сигналы, так и не насыщаться от сильных сигналов[1].

Производная сигмоиды может быть легко выражена через саму функцию, что позволяет существенно сократить вычислительную сложность метода обратного распространения ошибки, сделав его применимым на практике:

 — для гиперболического тангенса
 — для логистической функции

Логистическая регрессия[править | править вики-текст]

Логистическая функция используется в логистической регрессии следующим образом. В ней решается задача классификации с двумя классами ( и , где  — переменная, указывающая класс объекта), и делается предположение о том, что вероятность принадлежности объекта к одному из классов выражается через значения признаков этого объекта (действительные числа):

где  — некоторые коэффициенты, требующие подбора, обычно, методом наибольшего правдоподобия.

Выбор именно этой функции можно обосновать, рассматривая логистическую регрессию, как обобщённую линейную модель в предположении, что зависимая переменная распределена по закону Бернулли.

См. также[править | править вики-текст]

Литература[править | править вики-текст]

  • Mitchell, Tom M. Machine Learning. — WCB–McGraw–Hill, 1997. — ISBN 0-07-042807-7.

Примечания[править | править вики-текст]

Ссылки[править | править вики-текст]