Магистратура
2018/2019
Современные методы принятия решений
Лучший по критерию «Полезность курса для Вашей будущей карьеры»
Лучший по критерию «Полезность курса для расширения кругозора и разностороннего развития»
Лучший по критерию «Новизна полученных знаний»
Кто читает:
Департамент математики
Когда читается:
1-й курс, 4 модуль
Формат изучения:
без онлайн-курса
Преподаватели:
Суворова Алёна Владимировна
Язык:
русский
Кредиты:
4
Контактные часы:
44
Программа дисциплины
Аннотация
Целями освоения дисциплины «Современные методы принятия решений» являются • формирование теоретических знаний о математических методах поиска и анализа данных для принятия и реализации решений. • формирование представление о системах поддержки принятия решений. В рамках дисциплины изучаются такие разделы, как "Графические модели", "Основы нейронных сетей", "Специальные виды нейронных сетей" и "Выбор стратегий помощью нейросетей".
Цель освоения дисциплины
- формирование теоретических знаний о математических методах поиска и анализа данных для принятия и реализации решений
- формирование представление о системах поддержки принятия решений
Планируемые результаты обучения
- Демонстрирует знание определений, обозначений и примеров графических моделей
- Демонстрирует умение вывода на графе с циклами и без циклов, в моделях со сложными факторами (Expectation Propagation)
- Умеет обучать перцептрон и знает историю развития нейронных сетей
- Умеет применять метод моментов и методы второго порядка
- Демонстрирует знание специальных видов нейронных сетей: рекуррентные, сверточные, глубокие сети для обработки текстов (распределенные представления слов и рекурсивные нейронные сети)
- Знает основы и определения обучения с подкреплением
- Умеет применять нейробайесовские методы
Содержание учебной дисциплины
- Графические моделиГрафические модели: определения, обозначения, примеры. Маргинализация в общем виде, вывод на графе без циклов. Вывод на графе с циклами: вариационные приближения. Алгоритм EM в общем виде. Сэмплирование как метод приближённого вычисления. Методы сэмплирования. Тематическое моделирование и модель LDA. Вывод в моделях со сложными факторами: Expectation Propagation. Байесовские рейтинг-системы.
- Основы нейронных сетейНейронные сети: перцептрон. Виды функций активации. Обучение одного перцептрона. История развития нейронных сетей. Градиентный спуск. Обратное распространение градиента на графе вычислений. Как сделать градиентный спуск быстрее и лучше. Метод моментов, методы второго порядка и другие трюки. Регуляризация в нейронных сетях. Дропаут и его мотивация. Другие методы.
- Специальные виды нейронных сетейРекуррентные сети: базовые архитектуры, LSTM, GRU. Свёрточные сети: архитектуры, как обучать, для чего они нужны. Глубокие сети для обработки текстов I: распределённые представления слов. Глубокие сети для обработки текстов II: рекурсивные нейронныесети, сети со стеком, сети с памятью.
- Выбор стратегий с помощью нейросетейОбучение с подкреплением: основы, определения, классические алгоритмы Как работает AlphaGo: обучение с подкреплением на глубоких сетях. DQN. Соединяем байесовский вывод и глубокие сети: нейробайесовские методы.
Промежуточная аттестация
- Промежуточная аттестация (4 модуль)0.36 * Домашнее задание + 0.24 * Контрольная работа + 0.4 * Экзамен
Список литературы
Рекомендуемая основная литература
- Murphy, K. P. (2012). Machine Learning : A Probabilistic Perspective. Cambridge, Mass: The MIT Press. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsebk&AN=480968
Рекомендуемая дополнительная литература
- Hetland, M. L. (2014). Python Algorithms : Mastering Basic Algorithms in the Python Language (Vol. Second edition). [New York, N.Y.]: Apress. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsebk&AN=1174465