Разреживание рекуррентных нейронных сетей с гейтами

ФИО студента: Маркович Александр -

Руководитель: Лобачева Екатерина Максимовна

Кампус/факультет: Факультет компьютерных наук

Программа: Прикладная математика и информатика (Бакалавриат)

Год защиты: 2019

Широкий спектр задач в обработке ествественного языка успешно решается с помощью рекуретный нейронных сетей (РНС), однако такие модели содержат огромное количество параметром, что часто ведет в переобучению, медленному предсказанию и невозможности портировать модели на устройства с ограниченной памятью. Наиболее распространенным типом РНС являются гейтовые РНС, например, LSTM и GRU. В данного работе будет рассмотрен метод структурного разреживания гейтовых РНС, основанный на прунинге гейтов и нейронов.

Выпускные квалификационные работы (ВКР) в НИУ ВШЭ выполняют все студенты в соответствии с университетским Положением и Правилами, определенными каждой образовательной программой.

Аннотации всех ВКР в обязательном порядке публикуются в свободном доступе на корпоративном портале НИУ ВШЭ.

Полный текст ВКР размещается в свободном доступе на портале НИУ ВШЭ только при наличии согласия студента – автора (правообладателя) работы либо, в случае выполнения работы коллективом студентов, при наличии согласия всех соавторов (правообладателей) работы. ВКР после размещения на портале НИУ ВШЭ приобретает статус электронной публикации.

ВКР являются объектами авторских прав, на их использование распространяются ограничения, предусмотренные законодательством Российской Федерации об интеллектуальной собственности.

В случае использования ВКР, в том числе путем цитирования, указание имени автора и источника заимствования обязательно.

Реестр дипломов НИУ ВШЭ