Магистратура
2019/2020
Введение в глубокое обучение
Лучший по критерию «Полезность курса для Вашей будущей карьеры»
Лучший по критерию «Полезность курса для расширения кругозора и разностороннего развития»
Лучший по критерию «Новизна полученных знаний»
Статус:
Курс по выбору (Суперкомпьютерное моделирование в науке и инженерии)
Направление:
01.04.04. Прикладная математика
Кто читает:
Департамент прикладной математики
Когда читается:
1-й курс, 3 модуль
Формат изучения:
с онлайн-курсом
Преподаватели:
Артамонов Сергей Юрьевич
Прогр. обучения:
Суперкомпьютерное моделирование в науке и инженерии
Язык:
русский
Кредиты:
3
Контактные часы:
4
Программа дисциплины
Аннотация
The goal of this course is to give learners basic understanding of modern neural networks and their applications in computer vision and natural language understanding. The course starts with a recap of linear models and discussion of stochastic optimization methods that are crucial for training deep neural networks. Learners will study all popular building blocks of neural networks including fully connected layers, convolutional and recurrent layers. Learners will use these building blocks to define complex modern architectures in TensorFlow and Keras frameworks. In the course project learner will implement deep neural network for the task of image captioning which solves the problem of giving a text description for an input image. The prerequisites for this course are: 1) Basic knowledge of Python. 2) Basic linear algebra and probability. Please note that this is an advanced course and we assume basic knowledge of machine learning. Доступ к дисциплине - https://www.coursera.org/learn/intro-to-deep-learning
Цель освоения дисциплины
- You should understand: 1) Linear regression: mean squared error, analytical solution. 2) Logistic regression: model, cross-entropy loss, class probability estimation. 3) Gradient descent for linear models. Derivatives of MSE and cross-entropy loss functions. 4) The problem of overfitting. 5) Regularization for linear models.
Планируемые результаты обучения
- Understand: Linear regression: mean squared error, analytical solution
- Understand:Logistic regression: model, cross-entropy loss, class probability estimation.
- Understand: Gradient descent for linear models. Derivatives of MSE and cross-entropy loss functions.
- Understand: The problem of overfitting.
- Understand: Regularization for linear models.
- Chatterbot, Tensorflow, Deep Learning, Natural Language Processing
Содержание учебной дисциплины
- Неделя 1In the first week you'll learn about linear models and stochatic optimization methods. Linear models are basic building blocks for many deep architectures, and stochastic optimization is used to learn every model that we'll discuss in our course.
- Неделя 2This module is an introduction to the concept of a deep neural network. You'll begin with the linear model and finish with writing your very first deep network.
- Неделя 3In this week you will learn about building blocks of deep learning for image input. You will learn how to build Convolutional Neural Network (CNN) architectures with these blocks and how to quickly solve a new task using so-called pre-trained models.
- Неделя 4This week we're gonna dive into unsupervised parts of deep learning. You'll learn how to generate, morph and search images with deep learning.
- Неделя 5In this week you will learn how to use deep learning for sequences such as texts, video, audio, etc. You will learn about several Recurrent Neural Network (RNN) architectures and how to apply them for different tasks with sequential input/output.
- Неделя 6In this week you will apply all your knowledge about neural networks for images and texts for the final project. You will solve the task of generating descriptions for real world images!
Элементы контроля
- Оценивание проводится в форме собеседования после предъявления студентом результатов тестирования.Экзамен проводится в устной форме (опрос по материалам курса). Экзамен проводится на платформе Zoom (https://www.zoom.us/). К экзамену необходимо подключиться согласно расписанию ответов, высланному преподавателем на корпоративные почты студентов накануне экзамена. Компьютер студента должен удовлетворять требованиям: наличие рабочей камеры и микрофона, поддержка Zoom. Для участия в экзамене студент обязан: поставить на аватар свою фотографию, явиться на экзамен согласно точному расписанию, при ответе включить камеру и микрофон. Во время экзамена студентам запрещено: выключать камеру, пользоваться конспектами и подсказками. Кратковременным нарушением связи во время экзамена считается нарушение связи менее минуты. Долговременным нарушением связи во время экзамена считается нарушение минута и более. При долговременном нарушении связи студент не может продолжить участие в экзамене. Процедура пересдачи подразумевает использование усложненных заданий.
- результаты прохождения курса на coursera.org
- Контрольно-измерительные материалы
