Кто читает:: Департамент больших данных и информационного поиска

Статус:: Курс по выбору

Когда читается:: 4-й курс, 1, 2 модуль

Преподаватели

Ветров Дмитрий Петрович

Оганов Александр Артурович

Чимбулатов Егор Феликсович

Дополнительные материалы в LMS Задать вопрос

Аннотация

Изучение дисциплины «Байесовские методы машинного обучения» нацелено на освоение т.н. байесовского подхода к теории вероятностей как одного из последовательных способов математических рассуждений в условиях неопределенности. В байесовском подходе вероятность интерпретируется как мера незнания, а не как объективная случайность. Простые правила оперирования с вероятностью, такие как формула полной вероятности и формула Байеса, позволяют проводить рассуждения в условиях неопределенности. В этом смысле байесовский подход к теории вероятностей можно рассматривать как обобщение классической булевой логики. Целью курса также является освоение студентами основных способов применения байесовского подхода при решении задач машинного обучения. Байесовский подход позволяет эффективно учитывать различные предпочтения пользователя при построении решающих правил прогноза. Кроме того, он позволяет решать задачи выбора структурных параметров модели. В частности, здесь удается решать без комбинаторного перебора задачи селекции признаков, выбора числа кластеров в данных, размерности редуцированного пространства при уменьшении размерности, значений коэффициентов регуляризации и проч. Предполагается, что в результате освоения курса студенты будут способны строить комплексные вероятностные модели, учитывающие структуру прикладной задачи машинного обучения, выводить необходимые формулы для решения задач обучения и вывода в рамках построенных вероятностных моделей, а также эффективно реализовывать данные модели на компьютере.

Цель освоения дисциплины

Освоение байесовского подхода к теории вероятностей и основных способов его применения для решения задач машинного обучения.
Приобретение навыков построения комплексные вероятностных моделей, вывода необходимых формул для решения задач обучения и вывода в рамках построенных вероятностных моделей, а также эффективной реализации данных моделей на компьютере.

Планируемые результаты обучения

Знать основные методы обучения и вывода в вероятностных моделях (точные и приближенные)
Знать основные методы обучения и вывода в вероятностных моделях (точные и приближенные).
Знать основные байесовские модели, используемые для решения различных задач машинного обучения (смеси распределений, модель релевантных векторов, LDA и т.д.)
Знать основные методы генерации выборки из ненормированного вероятностного распределения
Уметь выбирать наиболее подходящий метод обучения для данных моделей
Уметь выводить необходимые формулы для решения задач обучения и вывода в рамках построенных вероятностных моделей
Уметь строить вероятностные модели, учитывающие структуру прикладной задачи машинного обучения
Уметь эффективно реализовывать данные модели на компьютере

Содержание учебной дисциплины

Байесовский подход к теории вероятностей. Полный байесовский вывод.
Байесовский выбор модели.
Модель релевантных векторов для задачи регрессии. Модель релевантных векторов для задачи классификации
ЕМ-алгоритм
Вариационный подход
Методы Монте Карло по схеме марковских цепей (МСМС). Стохастические методы МСМС
Вариационный автокодировщик и VQVAE
Диффузионные модели на основе вариационного вывода и стохастических дифференциальных уравнений.
Термодинамика глубинного обучения.

Элементы контроля

Домашние задания
4 домашних задания
Защита домашних заданий
устное объяснение случайно выбранных частей выполненных домашних заданий
Устный экзамен

Промежуточная аттестация

2026/2027 2nd module
0.35 * Защита домашних заданий + 0.3 * Устный экзамен + 0.35 * Домашние задания

Список литературы

Авторы

Ветров Дмитрий Петрович

Бакалаврская программа «Прикладная математика и информатика»

Приемные часы учебного офиса

По вопросам поступления абитуриентов

Адрес

Байесовские методы в машинном обучении

Преподаватели

Программа дисциплины