Ядерная регрессия: различия между версиями
Киберрыба (обсуждение | вклад) ← Новая страница: «'''Ядерная регрессия''' ({{lang-en|kernel regression}}) — Непараметрические методы|непарамет…» |
(нет различий)
|
Версия от 07:02, 31 августа 2017
Ядерная регрессия (англ. kernel regression) — непараметрический метод статистики, позволяющий оценить условное математическое ожидание случайно величины. Его смысл заключается в поиске нелинейного отношения между парой случайных величин X и Y.
В любой непараметрической регрессии условное матожидание величины относительно величины можно записать так:
где — некая неизвестная функция.
Ядерная регрессия Надарая — Уотсона
Надарая и Уотсон одновременно (в 1964 году) предложили оценивать как локально взвешенное среднее, где веса определялись бы ядром[1][2][3].Оценка Надарая — Уотсона:
где — ядро с шириной окна . Знаменатель представляет собой весовой член с единичной суммой.
Получение
Применяя ядерную оценку плотности для совместного распределения f(x,y) и распределения f(x) с ядром K,
,
,
получаем
это и есть оценка Надарая — Уотсона.
Ядерная оценка Пристли — Чжао
Ядерная оценка Гассера — Мюллера
где
В статистических пакетах
- MATLAB: свободно распространяемый инструментарий для ядерных регрессий, оценок плотности и проч. доступны по ссылке (является приложением к книге[4]).
- Stata: kernreg2
- R: функция
npreg
в пакете np способна построить ядерную регрессию[5][6]. - Python: пакет kernel_regression (расширение sklearn).
- GNU Octave: математический программный пакет.
Примечания
- ↑ Nadaraya, E. A. (1964). "On Estimating Regression". Theory of Probability and its Applications. 9 (1): 141—2. doi:10.1137/1109020.
{{cite journal}}
: Недопустимый|ref=harv
(справка) - ↑ Watson, G. S. (1964). "Smooth regression analysis". Sankhyā: The Indian Journal of Statistics, Series A. 26 (4): 359—372. JSTOR 25049340.
{{cite journal}}
: Недопустимый|ref=harv
(справка) - ↑ Bierens, Herman J. The Nadaraya–Watson kernel regression function estimator // Topics in Advanced Econometrics. — New York : Cambridge University Press, 1994. — P. 212–247. — ISBN 0-521-41900-X.
- ↑ Horová, I. Kernel Smoothing in MATLAB: Theory and Practice of Kernel Smoothing / I. Horová, J. Koláček, J. Zelinka. — Singapore : World Scientific Publishing, 2012. — ISBN 978-981-4405-48-5.
- ↑ np: Nonparametric kernel smoothing methods for mixed data types
- ↑ Kloke, John. Nonparametric Statistical Methods Using R / John Kloke, Joseph W. McKean. — CRC Press, 2014. — P. 98–106. — ISBN 978-1-4398-7343-4.
Литература
- Henderson, Daniel J. Applied Nonparametric Econometrics / Daniel J. Henderson, Christopher F. Parmeter. — Cambridge University Press, 2015. — ISBN 978-1-107-01025-3.
- Li, Qi. Nonparametric Econometrics: Theory and Practice / Qi Li, Jeffrey S. Racine. — Princeton University Press, 2007. — ISBN 0-691-12161-3.
- Pagan, A. Nonparametric Econometrics / A. Pagan, A. Ullah. — Cambridge University Press, 1999. — ISBN 0-521-35564-8.
- Simonoff, Jeffrey S. Smoothing Methods in Statistics. — Springer, 1996. — ISBN 0-387-94716-7.
Ссылки
- Scale-adaptive kernel regression (with Matlab software).
- Tutorial of Kernel regression using spreadsheet (with Microsoft Excel).
- An online kernel regression demonstration Requires .NET 3.0 or later.
- Kernel regression with automatic bandwidth selection (with Python)