Магистратура
2018/2019
Графовые модели
Статус:
Курс по выбору (Анализ больших данных в бизнесе, экономике и обществе)
Направление:
01.04.02. Прикладная математика и информатика
Кто читает:
Департамент математики
Когда читается:
1-й курс, 3, 4 модуль
Формат изучения:
без онлайн-курса
Прогр. обучения:
Анализ больших данных в бизнесе, экономике и обществе
Язык:
русский
Кредиты:
4
Контактные часы:
60
Программа дисциплины
Аннотация
Целью освоения дисциплины «Вероятностные графовые модели» является формирование у студентов теоретических знаний и практических навыков реализации вероятностных графовых моделей для задач машинного обучения и анализа данных. В результате изучения этой дисциплины студенты будут владеть основными концепциями вероятностных графовых моделей и практическими навыками применения вероятностных графовых моделей для задач машинного обучения и анализ данных.
Цель освоения дисциплины
- формирование у студентов теоретических знаний и практических навыков реализации вероятностных графовых моделей для задач машинного обучения и анализа данных
Планируемые результаты обучения
- Демонстрирует знание понятия независимой случайной величины, знает вероятностные графовые модели, понятие независимых случайных величин на графах и умеет находить идеальные карты
- Знает понятия параметризации, распределения Гиббса и марковских сетей, частично направленных сетей
- Умеет применять форвард сэмплирование, взвешивание по правдоподобию и методы цепей Монте-Карло.
- Знает цели обучения графовых сетей, эмпирический риск и переобучение, знает задачи ограничения моделей и таксономию задач обучения, оценивает структуру
Содержание учебной дисциплины
- Главы теории вероятности и байесовские сети.Независимые случайные величины. Условная параметризация. Наивная байесовская модель. Структурированные вероятностные модели. Вероятностные графовые модели: представление, обучение, вывод. Вероятностные распределения на графах. Независимые случайные величины на графах. D-разделение. Алгоритм для D-разделения. I-эквивалентность. От распределения к графам. Минимальные I-карты. Идеальные карты. Нахождение идеальных карт.
- Ненаправленные графовые моделиПараметризация. Факторы. Распределения Гиббса и марковские сети. Ограниченные марковские сети. Байесовские сети и марковские сети. Частично направленные модели.
- СэмплированиеФорвард сэмплирование. Сэмплирование из байесовской сети. Анализ ошибки. Запросы условной вероятности. Взвешивание по правдоподобию. Сэмплирование по важности. Методы цепей Монте-Карло. Сэмплинг Гиббса. Марковские цепи. Использование марковских цепей.
- Байесовское обучение и обучение структуры сетейЦели обучения графовых моделей. Оценка плотности. Задачи предсказание. Выделение информации. Обучение как оптимизация. Эмпирический риск и переобучение. Обучение генераторов и классификаторов. Задачи обучения. Ограничения моделей. Наблюдаемость данных. Таксономия задач обучения. Обучение структуры байесовских сетей. Оценка структуры: правдоподобие, байесовская оценка. Поиск структуры. Обучение деревьев. Общие графы.
Промежуточная аттестация
- Промежуточная аттестация (4 модуль)0.167 * Домашнее задание 1 + 0.166 * Домашнее задание 2 + 0.167 * Домашнее задание 3 + 0.5 * Экзамен
Список литературы
Рекомендуемая основная литература
- David R. Mandel, & Gorka Navarrete. (2016). Improving Bayesian Reasoning: What Works and Why? Web server without geographic relation, Web server without geographic relation (org): Frontiers Media SA. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.AE67AE1E
Рекомендуемая дополнительная литература
- Darwiche, A. (2009). Modeling and Reasoning with Bayesian Networks. Cambridge: Cambridge University Press. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsebk&AN=400758
- Højsgaard, S., Lauritzen, S. L., & Edwards, D. (2012). Graphical Models with R. New York: Springer. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsebk&AN=534901