Математическая статистика (углубленный курс)

2023/2024

Учебный год

RUS

Обучение ведется на русском языке

5

Кредиты

Кто читает:

Департамент больших данных и информационного поиска

Статус:

Курс по выбору

Когда читается:

2-й курс, 3, 4 модуль

Преподаватели

Демидова Дарья Сергеевна

Носков Федор Андреевич

Пучкин Никита Андреевич

Самсонов Сергей Владимирович

Программа дисциплины

Аннотация

“Математическая статистика (углубленный курс)” является самостоятельной учебной дисциплиной, относится к математическому и естественно- научному циклу дисциплин. Для специализации 01.03.02 «Прикладная математика и информатика» настоящая дисциплина является базовой. В рамках курса слушатели познакомятся с теоретическими основами современной математической статистики ее основными результатами, научатся решать стандартные задачи в данной области. Курс носит продвинутый характер, слушатели смогут познакомиться с доказательствами большинства математических утверждений. Основные положения дисциплины могут быть использованы в дальнейшем при изучении следующих дисциплин: “Машинное обучение 1”, “Машинное обучение 2”, “Statistical Learning Theory”, “Прикладная статистика в машинном обучении”.

Цель освоения дисциплины

• Уметь составлять вероятностно-статистические модели для описания случайных явлений и применять математические методы для их анализа.
• Знать основные методы построения точечных и интервальных оценок, проверки статистических гипотез, а также условия их применимости.
• Владеть байесовским подходом к построению оценок и проверке статистических гипотез.
• Уметь применять аппарат теории вероятностей для проверки основных свойств статистических оценок и анализа их численных характеристик.

Планируемые результаты обучения

• Уметь сравнивать различные точечные оценки и методы проверки гипотез.
• Владеть навыками решения стандартных задач по математической статистике.
• Уметь проводить статистические численные эксперименты с использованием языка программирования Python.
• Уметь реализовывать основные алгоритмы построения оценок и проверки статистических гипотез на языке программирования Python или использовать их готовые имплементации для анализа данных.

Содержание учебной дисциплины

• Основные понятия математической статистики. Вероятностно-статистическая модель, выборка, точечная оценка. Оптимальные оценки. Выборочные моменты, эмпирическая функция распределения. Порядковые статистики, вариационный ряд.
• Параметрическая и непараметрическая модели. Точечная оценка, сравнение оценок. Несмещенность, состоятельность и сильная состоятельность оценок. Асимптотическая нормальность оценок.
• Информация Фишера, функция правдоподобия, эффективные оценки и неравенство Рао-Крамера. Экспоненциальное семейство распределений. Сверхэффективные оценки.
• Метод моментов и метод максимального правдоподобия. Свойства оценок максимального правдоподобия.
• Условные математические ожидания и вероятности. Свойства условного математического ожидания.
• Достаточные статистики. Критерий факторизации. Теорема Рао-Блекуэлла-Колмогорова. Полные достаточные статистики. Теорема Басу.
• Интервальное оценивание. Доверительные интервалы. Центральная статистика.
• Байесовское оценивание. Байесовский риск. Априорное и апостериорное распределения. Сопряженное априорное распределение.
• Основные понятия статистической проверки гипотез. Простая и сложная гипотезы. Статистический критерий. Уровень значимости критерия. Ошибки первого и второго рода.
• Критерии согласия для проверки гипотезы о виде распределения. Критерий согласия Колмогорова. Статистика Колмогорова-Смирнова. Теорема Гливенко-Кантелли. Критерий Пирсона хи-квадрат для проверки простой и сложной гипотез о виде распределения.
• Наиболее мощный критерий. Лемма Неймана-Пирсона. Равномерно наиболее мощный критерий. Последовательный анализ Вальда.
• Байесовский подход к проверке гипотез.
• Проверка гипотез независимости и однородности. Критерии хи-квадрат для проверки гипотез независимости и однородности. Множественное тестирование, поправка Бонферрони.
• A/B-тестирование. Проверка гипотезы однородности в гауссовском случае, F-тест и t-тест.
• Модель линейной регрессии. Свойства оценки метода наименьших квадратов. Риск оценки метода наименьших квадратов.
• Нарушение линейного параметрического предположения в модели регрессии. Оценки риска, ошибка аппроксимации и стохастическая ошибка.
• Мисспецифицированный шум в модели линейной регрессии. Теорема Гаусса-Маркова.
• Проверка гипотез в модели линейной регрессии. Коэффициент детерминации.
• Интервальное оценивание в модели линейной регрессии.
• Выбор модели. Кросс-валидация. Несмещенная оценка риска, информационный критерий Акаике и байесовский информационный критерий.
• Непараметрическая оценка плотности. Ядерная оценка и метод k ближайших соседей.
• Непараметрическая регрессия. Оценка Надарая-Ватсона. Локально полиномиальное оценивание.

Элементы контроля

• Домашние задания
• Коллоквиум 1
• Контрольная работа
• Коллоквиум 2
• Экзамен

Промежуточная аттестация

• 2023/2024 учебный год 4 модуль
  Итоговая оценка рассчитывается по формуле Итог = Округление(0.2 * ДЗ + 0.15 * K1 + 0.25 * КР + 0.15 * K2 + 0.25 * Э), где ДЗ — оценка за домашние задания, вычисляемая как отношение суммы набранных баллов за решения задач к максимальному количеству баллов, которое можно было набрать за решение всех задач из домашних заданий; K1 — оценка за первый коллоквиум, КР — оценка за контрольную работу, K2 — оценка за второй коллоквиум, Э — оценка за экзамен. Округление арифметическое.

Список литературы

Рекомендуемая основная литература

• Введение в математическую статистику, Ивченко, Г. И., 2010
• Введение в математическую статистику, учебник, Изд. стер., 599 с., Ивченко, Г. И., Медведев, Ю. И., 2015
• Наглядная математическая статистика : учеб. пособие для вузов, Лагутин, М. Б., 2019

Рекомендуемая дополнительная литература

• Бородин, А. Н. Элементарный курс теории вероятностей и математической статистики / А. Н. Бородин. — 9-е изд., стер. — Санкт-Петербург : Лань, 2023. — 256 с. — ISBN 978-5-507-47132-4. — Текст : электронный // Лань : электронно-библиотечная система. — URL: https://e.lanbook.com/book/330488 (дата обращения: 00.00.0000). — Режим доступа: для авториз. пользователей.
• Математическая статистика : учебник, Боровков, А. А., 2007