Непрерывное обучение в задачах обработки текстов

ФИО студента: Маткаримов Отабек Ойбекович

Руководитель: Артемова Екатерина Леонидовна

Кампус/факультет: Факультет компьютерных наук

Программа: Науки о данных (Магистратура)

Год защиты: 2020

В данной работе основное внимание уделено проблеме непрерывного обучения на потоковых текстовых данных. Мы предлагаем модель эпизодической памяти на слова, которая выполняет воспроизведение важных слов для каждого класса, чтобы смягчить катастрофическое забывание модели на обученных данных. Эксперименты по классификации текстов демонстрируют преимущества воспроизведения важных слов над воспроизведением опыта, позволяющее классификатору постоянно извлекать знания из новых наборов данных. Так же представлены результаты исследования по эффективности отбора ключевых слов для каждого класса. Вся работа была реализована на Python с использованием следующих библиотек: nltk, pymorphy2, sklearn и библиотеки машинного обучения PyTorch. Ключевые слова: NLP, lifelong learning, classification tasks, Bag-of-words, TF-IDF, BERT, python.

Выпускные квалификационные работы (ВКР) в НИУ ВШЭ выполняют все студенты в соответствии с университетским Положением и Правилами, определенными каждой образовательной программой.

Аннотации всех ВКР в обязательном порядке публикуются в свободном доступе на корпоративном портале НИУ ВШЭ.

Полный текст ВКР размещается в свободном доступе на портале НИУ ВШЭ только при наличии согласия студента – автора (правообладателя) работы либо, в случае выполнения работы коллективом студентов, при наличии согласия всех соавторов (правообладателей) работы. ВКР после размещения на портале НИУ ВШЭ приобретает статус электронной публикации.

ВКР являются объектами авторских прав, на их использование распространяются ограничения, предусмотренные законодательством Российской Федерации об интеллектуальной собственности.

В случае использования ВКР, в том числе путем цитирования, указание имени автора и источника заимствования обязательно.

Реестр дипломов НИУ ВШЭ