Робастные методы в статистике

Магистратура 2019/2020

Статус: Курс по выбору (Науки о данных)

Направление: 01.04.02. Прикладная математика и информатика

Кто читает: Кафедра технологий моделирования сложных систем

Где читается: Факультет компьютерных наук

Когда читается: 1-й курс, 1, 2 модуль

Формат изучения: без онлайн-курса

Преподаватели: Цитович Иван Иванович

Прогр. обучения: Науки о данных

Язык: русский

Кредиты: 4

Контактные часы: 52

Полная версия программы учебной дисциплины

Аннотация

Учебная дисциплина «Робастные методы в статистике» является логическим продолжением и развитием курса «Теория вероятностей и математическая статистика», где будет показано, каким образом необходимо формулировать задачу, где предполагается использование статистических методов, а так же каким образом необходимо адаптировать классические статистические методы принятия решений в зависимости от условий статистического эксперимента, на базе которого принимается решение. Такой подход необходим в тех случаях, когда необходимо принять гарантийное решение, т.е. такое решение, риски которого могут быть надежно оценены. Будут рассмотрены необходимые модификации классических статистических методов тех случаях, когда вероятность ошибки очень мала и решение должно приниматься не на основе классических предельных теорем теории вероятностей, а на основании теории больших уклонений. Будут рассмотрены алгоритмы, позволяющие правильно учитывать «выбросы» в выборке, которые обычно рассматриваются как ошибочные наблюдения и отбрасываются. Сегодня грамотный практик обязан учитывать множество факторов, влияющих на процесс формирования данных наблюдений, и использовать статистические решения, устойчивые к негативному влиянию неконтролируемых негативных факторов, влияющих на результаты наблюдений и дисциплина «Робастные методы в статистике» позволит правильно выбирать методы обработки данных в зависимости от природы формирования данных и целей их обработки.

Цель освоения дисциплины

научить методике постановки конкретных задач анализа статистических данных в зависимости от природы формирования данных и целей их обработки
научить выбирать адекватные статистические методы решения задачи обработки данных наблюдений и правильно интерпретировать получаемые статистические выводы

Планируемые результаты обучения

знать теоретические основы математической статистики: статистическая структура, статистический фильтр, статистический эксперимент, функция цели, регуляризирующий функционал;
знать отличительные особенности робастных статистических выводов; их положительные и отрицательные свойства
правильно формулировать задачу обработки данных в зависимости от природы формирования данных и целей их обработки;
уметь выбирать робастный статистический критерий в зависимости от точности доступных данных наблюдений и целей решения статистической задачи
уметь строить гарантийные решающие правила принятия решений по данным наблюдений

Содержание учебной дисциплины

Классические методы математической статистики.
Выборка. Эмпирические характеристики выборки и их свойства: выборочная функция распределения, выборочное среднее, выборочные центральные моменты, выборочные квантили. Статистики. Достаточные статистики. Примеры семейств вероятностных распределений и достаточных статистик. Понятие оценки неизвестного параметра. Функция риска оценки. Среднеквадратичный риск. Свойства оценок: несмещенность, состоятельнось, эффективность. Асимптотические характеристики качества оценок. Оценки максимального правдоподобия и их свойства. Метод моментов оценивания параметров. Проблема эффективного оценивания. Информационное количество Кульбака-Лейблера. Информационное количество Фишера и его связь с информационным количеством Кульбака-Лейблера. Неравенство Рао-Крамера. Доверительные интервалы и множества. Принципы построения доверительных интервалов и доверительных множеств. Задача проверки простых статистических гипотез. Статистический критерий. Критерий Неймана-Пирсона. Задача проверки сложных статистических гипотез. Параметрические и непараметрические гипотезы. Проблема ошибок первого и второго рода. Байесовский и гарантийный подходы. Построение статистических критериев проверки параметрических гипотез с использованием доверительных множеств. Критерии согласия. Построение статистических критериев проверки непараметрических гипотез. Критерии Колмогорова и Колмогорова-Смирнова. Критерии однородности.
Основные понятия робастной математической статистики
Предмет математической статистики. Статистический фильтр. Вероятностные меры: абсолютно непрерывные и ортогональные меры. Плотность вероятностной меры. Теорема Радона-Никодима. Влияние статистического фильтра на свойства мер. Примеры семейств вероятностных распределений. Принципы формирования семейств вероятностных распределений. Проблема нарушения условий проведения экспериментов. Примеры построения статистической структуры. Статистическое решение. Примеры статистических задач. Функции ущерба и риска статистического решения на примере задачи проверки статистических гипотез. Понятие о робастности статистических решений в широком и узком смысле. Статистические модели распределения наблюдений с примесями и их влияние на устойчивость эмпирических характеристик выборки. Понятие о субоптимальном статистическом решении.
Робастные методы принятия решений
Информационные расстояния между вероятностными мерами и их свойства. Гарантийное решающее правило в задачах проверки непараметрических гипотез. Влияние скорости убывания хвостов распределений на гарантийное решающее правило. Рекомендации по учету «выбросов» в статистических данных. Задача выбора весов порядковых статистик для обеспечения субоптимальности решающего правила. Группировка данных наблюдений для повышения эффективности решающего правила. Задача оценивания параметров распределений, заданных с ошибками. Свойства оценок параметров распределений, если наблюдаемое распределение не принадлежит предполагаемому параметрическому множеству. Правила выбора функции риска для построения робастных оценок параметров. Оценки параметров на основании порядковых статистик. Влияние выбора весов на эффективность оценивания параметров распределений.

Элементы контроля

домашняя работа 1
оценивается по 10-бальной шкале
домашняя работа 2
оценивается по 10-бальной шкале
контрольная работа
онлайн опрос
онлайн контрольная работа
Посещение лекций
работа на семинаре
Инициативная тема
экзамен
Билет на экзамене состоит из двух теоретических вопросов и задачи. Все задания имеют одинаковый вес в оценке за экзамен.

Промежуточная аттестация

Промежуточная аттестация (2 модуль)
Накопленная оценка: О=(ДЗ1+ДЗ2+КР+0.5*К1+0.5*К2)/4+1/20*(Л+C)+0.2*А

Программа дисциплины