Магистратура 2021/2022

Нейробайесовские методы в машинном обучении

Лучший по критерию «Полезность курса для Вашей будущей карьеры»

Лучший по критерию «Полезность курса для расширения кругозора и разностороннего развития»

Лучший по критерию «Новизна полученных знаний»

Статус: Курс по выбору (Программирование и анализ данных)

Направление: 01.04.02. Прикладная математика и информатика

Кто читает: Департамент информатики

Где читается: Санкт-Петербургская школа физико-математических и компьютерных наук

Когда читается: 2-й курс, 3 модуль

Формат изучения: без онлайн-курса

Охват аудитории: для своего кампуса

Преподаватели: Кузнецов Антон Михайлович

Прогр. обучения: Программирование и анализ данных

Язык: русский

Кредиты: 4

Контактные часы: 28

Программа дисциплины

Аннотация

Является дисциплиной по выбору. Дисциплина посвящена применению байесовских методов в глубинном обучении. На лекциях будет рассказано о применении вероятностного моделирования для построения порождающих моделей данных, использованию состязающихся сетей для приближенного вывода, моделированию неопределенности в параметрах нейронной сети и о некоторых открытых проблемах глубинного обучения.

Цель освоения дисциплины

• Изучение байесовских методов в глубинном обучении.

Планируемые результаты обучения

• Владеть эвристиками для ускорения работы нейробайесовских алгоритмов и для снижения дисперсии стохастических градиентов
• Знать различные вариации методов байесовского вывода
• Уметь анализировать теоретические свойства рассматриваемых алгоритмов машинного обучения
• Уметь выбирать и обучать генеративные модели из семейства GAN
• Уметь выбирать и обучать генеративные модели из семейства VAE
• Уметь осуществлять сжатие нейронных сетей на основе байесовского подхода

Содержание учебной дисциплины

• Стохастический вариационный вывод
• Вариационный автокодировщик
• Байесовские нейронные сети
• GAN

Элементы контроля

• Домашнее задание 1
• Домашнее задание 2
• Экзамен

Промежуточная аттестация

• 2021/2022 учебный год 3 модуль
  0.3 * Домашнее задание 1 + 0.3 * Домашнее задание 2 + 0.4 * Экзамен

Список литературы

Рекомендуемая основная литература

• Геворкян Гурген Аркадиевич. (2017). Нейронные сети: графический интерфейс пользователя в Matlab. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.4576DF4C
• Дифференциальные уравнения и вариационное исчисление : Учебник для вузов, Эльсгольц, Л. Э., 2000
• Нейронные сети, генетические алгоритмы и нечеткие системы, Рутковская, Д., 2008

Рекомендуемая дополнительная литература

• U. Rabtsau N., & В. Рябцев Н. (2015). Stochastic Approach for Evaluation of Reliability and Residual Life of Transport Structures ; Стохастический Подход К Оценке Надежности И Остаточного Ресурса Транспортных Сооружений. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.74B384A1
• Байесовские методы статистического оценивания : надежность технических объектов, Савчук, В. П., 1989
• Бутусов Олег Борисович, Butusov Oleg Borisovich, Джулай Анна Алексеевна, & Dzhulai Anna Alekseevna. (2018). Применение методов визуального моделирования и программирования в образовательном процессе по дисциплине «Нейронные сети». Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.E28243B