Master
2021/2022
Deep Learning
Category 'Best Course for Career Development'
Category 'Best Course for Broadening Horizons and Diversity of Knowledge and Skills'
Category 'Best Course for New Knowledge and Skills'
Type:
Elective course (Data Science)
Area of studies:
Applied Mathematics and Informatics
Delivered by:
Big Data and Information Retrieval School
Where:
Faculty of Computer Science
When:
2 year, 1, 2 module
Mode of studies:
distance learning
Open to:
students of all HSE University campuses
Instructors:
Fedor Ratnikov
Master’s programme:
Data Science
Language:
English
ECTS credits:
8
Contact hours:
54
Course Syllabus
Abstract
Предлагаемый курс посвящён методам “глубинного обучения” - нового поколения нейросетевых методов машинного обучения, вызвавших бурный всплеск развития в ряде прикладных областей. В первую очередь курс направлен на формирования у студентов навыков решения прикладных задач при помощи глубоких нейронных сетей.
Learning Objectives
- формирование у студента навыков и опыта решения прикладных задач с использованием глубинного обучения
Expected Learning Outcomes
- Знает основные сферы применения методов глубокого обучения, особенности и трюки в каждой такой сфере
- Имеет углублённое понимание одной из основных сфер применения глубокого обучения
- Умеет решать задачи производственной и технологической деятельности с использованием методов глубокого обучения на профессиональном уровне, включая постановку задачи, базовое решение, прототипирование и внедрение
Course Contents
- Введение. Основные абстракции, глубинное обучение. Обучение представлений.
- Основные сферы применения глубинного обучения
- Практические задачи компьютерного зрения
- Анализ проектных задач и способов их решения
- Практические задачи обработки последовательностей (текст, речь и т.д.), приёмы для их решения
- Промежуточный отчёт по проектным задачам
- Deep Reinforcement Learning
- Вычислительная оптимизация обученных нейронных сетей. Особенности применения в production
- Отчёт по проектным задачам
Assessment Elements
- Домашние задания
- ПроектПредполагается решение задачи в semi-supervised режиме в течение всего курса с периодическими выступлениями о том, что удалось сделать, что не заработало и обсуждений, как с этим бороться.
Interim Assessment
- 2021/2022 2nd moduleИтоговая оценка = max(1,min(10,Округление(L/10))), где L - сумма баллов за выполненные домашние задания, проект, а также дополнительные активности (участие в обсуждении проектов однокурсников; статьи, посты, коммиты, доклады, если они публично доступны и опубликованы не раньше начала курса).
Bibliography
Recommended Core Bibliography
- Гудфеллоу, Я. Глубокое обучение / Я. Гудфеллоу, И. Бенджио, А. Курвилль ; перевод с английского А. А. Слинкина. — 2-е изд. — Москва : ДМК Пресс, 2018. — 652 с. — ISBN 978-5-97060-618-6. — Текст : электронный // Лань : электронно-библиотечная система. — URL: https://e.lanbook.com/book/107901 (дата обращения: 00.00.0000). — Режим доступа: для авториз. пользователей.
Recommended Additional Bibliography
- Bengio, Y., Courville, A., & Vincent, P. (2012). Representation Learning: A Review and New Perspectives. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsarx&AN=edsarx.1206.5538
- Graves, A., Fernàndez, S., Gomez, F., & Schmidhuber, J. (2017). Connectionist Temporal Classification: Labelling Unsegmented Sequence Data with Recurrent Neural Networks. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.163BBE7B
- Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2017). ImageNet Classification with Deep Convolutional Neural Networks. Communications of the ACM, 60(6), 84–90. https://doi.org/10.1145/3065386