Магистратура
2022/2023
Теория глубокого обучения
Лучший по критерию «Полезность курса для Вашей будущей карьеры»
Лучший по критерию «Полезность курса для расширения кругозора и разностороннего развития»
Лучший по критерию «Новизна полученных знаний»
Статус:
Курс по выбору (Науки о данных (Data Science))
Направление:
01.04.02. Прикладная математика и информатика
Кто читает:
Базовая кафедра Яндекс
Где читается:
Факультет компьютерных наук
Когда читается:
2-й курс, 1, 2 модуль
Формат изучения:
без онлайн-курса
Охват аудитории:
для своего кампуса
Прогр. обучения:
Науки о данных
Язык:
русский
Кредиты:
8
Контактные часы:
56
Программа дисциплины
Аннотация
Курс посвящен "глубинному обучению", т.е. новому поколению методов, основанному на многослойных нейронных сетях и позволившему радикально улучшить работу систем распознавания образов и искусственного интеллекта. В данном курсе будут покрыты все основные темы, но преимущественное внимание будет посвящаться наиболее современным техникам и методам.
Цель освоения дисциплины
- Ознакомление с основными принципами глубинного обучения, знакомство с важнейшими задачами, которые решаются с их помощью, и популярными архитектурами.
Планируемые результаты обучения
- Иметь представление о генеративных архитектурах на основе адверсариального подхода
- Иметь представление о глубинных автоэнкодерах, в том числе о вариационных автокодировщиках
- Иметь представление о нейросетевых архитектурах, используемых для решения задач семантической сегментации и детектирования
- Иметь представление о свёрточных нейронных сетях, об эволюции свёрточных архитектур, об используемых в свёрточных нейросетях функциях активации
- Иметь представление о свойствах представлений, возникающих в промежуточных слоях свёрточных нейросетях.
- Иметь представление об архитектурах для работы с облаками точек и о графовых нейронных сетях
- Иметь представление об основных видах слоёв и функций активаций, а также об алгоритме обратного распространения ошибки.
- Уметь использовать модификации стохастического градиентного спуска для обучения нейронных сетей
- Уметь обучать рекуррентные нейронные сети
- Уметь решать задачи трансформации последовательностей с помощью архитектур на основе рекуррентных нейронных сетей
Содержание учебной дисциплины
- Введение
- Оптимизация для глубинного обучения
- Свёрточные сети
- Представления внутри свёрточных сетей
- Использование свёрточных сетей в задачах компьютерного зрения.
- Модели с латентными переменными и автоэнкодеры
- Adversarial Learning
- Моделирование последовательностей
- Seq2seq
- Нейронные сети для работы с облаками точек и графами
Элементы контроля
- Домашняя работа 1
- Домашняя работа 2
- Контрольная работа
- Домашняя работа 1
- Домашняя работа 2
- Экзамен
Промежуточная аттестация
- 2022/2023 учебный год 2 модуль0.2 * Экзамен + 0.15 * Домашняя работа 2 + 0.15 * Домашняя работа 1 + 0.15 * Домашняя работа 2 + 0.15 * Домашняя работа 1 + 0.2 * Контрольная работа
Список литературы
Рекомендуемая основная литература
- Yu, C., Wang, J., Chen, Y., & Huang, M. (2019). Transfer Learning with Dynamic Adversarial Adaptation Network. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsarx&AN=edsarx.1909.08184
- Zhang, J., Han, B., Niu, G., Liu, T., & Sugiyama, M. (2019). Where is the Bottleneck of Adversarial Learning with Unlabeled Data? Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsarx&AN=edsarx.1911.08696
- Компьютерное зрение : учеб. пособие для студентов вузов, Шапиро, Л., 2006
- Методы оптимизации : учеб. пособие, Дегтярев, Ю. И., 1980
- Методы оптимизации и принятия решений : Учеб. пособие, Черноруцкий, И. Г., 2001
Рекомендуемая дополнительная литература
- Karnadud Ye.N., & Yaroshik A.A. (2018). Modern Trends in Production Personnel Safety Provision at Coal Industry Enterprises. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.6FB473CE
- Асхатова, Л., Галимов, Э., & Габдуллин, И. (2015). Компьютерное Зрение. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.6F41AB6F
- Компьютерное зрение : современный подход, Форсайт, Д., 2004
- Математические методы оптимизации и экономическая теория, Интрилигатор, М., 2002