Исследование проблемы катастрофического забывания при обучении нейронных сетей

ФИО студента: Прищепа Вячеслав Олегович

Руководитель: Жукова Людмила Вячеславовна

Кампус/факультет: Московский институт электроники и математики им. А.Н. Тихонова

Программа: Прикладная математика (Бакалавриат)

Год защиты: 2020

Катастрофическое забывание – это основная проблема, препятствующая реализации технологий онлайн обучения нейронных сетей и других моделей, основанных на градиентных методах. В ходе дипломной работы было уделено особенное внимание изучению данной проблемы и её возможных решений. Практическим результатом работы стал вывод собственного алгоритма для предотвращения забывания. В работе доказана его работоспособность в различных сценариях обучения глубоких нейронных сетей, реализация которых при помощи стандартных методов невозможна.

Выпускные квалификационные работы (ВКР) в НИУ ВШЭ выполняют все студенты в соответствии с университетским Положением и Правилами, определенными каждой образовательной программой.

Аннотации всех ВКР в обязательном порядке публикуются в свободном доступе на корпоративном портале НИУ ВШЭ.

Полный текст ВКР размещается в свободном доступе на портале НИУ ВШЭ только при наличии согласия студента – автора (правообладателя) работы либо, в случае выполнения работы коллективом студентов, при наличии согласия всех соавторов (правообладателей) работы. ВКР после размещения на портале НИУ ВШЭ приобретает статус электронной публикации.

ВКР являются объектами авторских прав, на их использование распространяются ограничения, предусмотренные законодательством Российской Федерации об интеллектуальной собственности.

В случае использования ВКР, в том числе путем цитирования, указание имени автора и источника заимствования обязательно.

Реестр дипломов НИУ ВШЭ