Робастные методы оценивания параметров регрессионной модели

В регрессионном анализе не всегда уместно использование классических методов оценивания параметров, таких как метод наименьших квадратов или метод наименьших модулей. Все дело в том, что данные методы неустойчивы к экстремальным наблюдениям, так называемым выбросам. Для решения подобных задач в 1960-1970 годах был изобретен робастный анализ. Основной идеей робастного анализа является разработка оценок, которые устойчивы к выбросам и при этом показывают достаточно близкий к классическим методам результат на данных, не содержащих нетипичных наблюдений. В ходе дипломной работы, приводятся описания нескольких основных робастных оценок – M-, MM-, L-, R-, HBR- оценок, а также приводится сравнительный анализ робастного методов машинного обучения RANSAC и Тейла-Сена. Затем, с помощью метода Монте-Карло, проводится численный сравнительный анализ оценок с целью выявления достоинств и недостатков каждой из них. Для этого рассматриваются две модели – одномерной и многомерной регрессии. Для каждого случая моделируются распределения ошибок с «тяжелыми» хвостами, такие как распределения Тьюки и Коши, дающие выбросы в данных. А также, проводится сравнительный анализ на смоделированных данных, содержащих кластеры выбросов. Также, в данной работе предложено улучшение HBR- и MM-оценок. В каждом из случаев даются рекомендации по использованию робастных оценок. В финальной главе, все рассматриваемые оценки применяются к реальным задачам.