Магистратура
2021/2022
Байесовские методы в анализе данных
Лучший по критерию «Новизна полученных знаний»
Статус:
Курс обязательный (Финансовые технологии и анализ данных)
Направление:
01.04.02. Прикладная математика и информатика
Где читается:
Факультет компьютерных наук
Когда читается:
2-й курс, 1 модуль
Формат изучения:
без онлайн-курса
Охват аудитории:
для своего кампуса
Преподаватели:
Чиркова Надежда Александровна
Прогр. обучения:
Финансовые технологии и анализ данных
Язык:
русский
Кредиты:
5
Контактные часы:
28
Программа дисциплины
Аннотация
This course introduces the basic theoretical and applied principles of Bayesian statistical analysis in a manner geared toward students in the social sciences. The Bayesian paradigm is particularly useful for the type of data that social scientists encounter given its recognition of the mobility of population parameters, its ability to incorporate information from prior research, and its ability to update estimates as new data are observed.
Цель освоения дисциплины
- Освоение байесовского подхода к теории вероятностей и основных способов его применения для решения задач машинного обучения.
- Приобретение навыков построения вероятностных моделей, вывода необходимых формул для решения задач обучения и вывода в рамках построенных вероятностных моделей, а также эффективной реализации данных моделей на компьютере.
Планируемые результаты обучения
- Знать основные байесовские модели, используемые для решения различных задач машинного обучения (смеси распределений, модель релевантных векторов, байесовский метод главных компонент, LDA и т.д.).
- Знать основные методы генерации выборки из ненормированного вероятностного распределения.
- Знать основные методы обучения и вывода в вероятностных моделях (точные и приближенные)
- Знать основные методы обучения и вывода в вероятностных моделях (точные и приближенные).
- Уметь выбирать подходящий метод обучения для данных моделей.
- Уметь выводить необходимые формулы для решения задач обучения и вывода в рамках построенных вероятностных моделей.
- Уметь строить вероятностные модели, учитывающие структуру прикладной задачи машинного обучения.
- Уметь эффективно реализовывать данные модели на компьютере.
Содержание учебной дисциплины
- Байесовский подход к теории вероятностей. Полный байесовский вывод.
- Байесовский выбор модели.
- Модель релевантных векторов для задачи регрессии.
- ЕМ-алгоритм.
- Вариационный подход.
- Методы Монте Карло по схеме марковских цепей (МСМС).
- Гауссовские процессы для задачи регрессии.
- Тематическая модель Latent Dirichlet Allocation (LDA).
- Стохастический вариационный вывод. Вариационный автокодировщик.
- Байесовские нейронные сети.
Список литературы
Рекомендуемая основная литература
- Christopher M. Bishop. (n.d.). Australian National University Pattern Recognition and Machine Learning. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.EBA0C705
- Mohri, M., Talwalkar, A., & Rostamizadeh, A. (2012). Foundations of Machine Learning. Cambridge, MA: The MIT Press. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsebk&AN=478737
Рекомендуемая дополнительная литература
- Michael E. Tipping, & Alex Smola. (2001). Sparse Bayesian Learning and the Relevance Vector Machine. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.E06406A3
- Tipping, M. E. (2001). Sparse Bayesian Learning and the Relevance Vector Machine. Journal of Machine Learning Research, 1(3), 211–244. https://doi.org/10.1162/15324430152748236