Исследование аффинных преобразований в семантическом пространстве BERT

ФИО студента: Солодянкин Андрей Александрович

Руководитель: Клышинский Эдуард Станиславович

Кампус/факультет: Московский институт электроники и математики им. А.Н. Тихонова

Программа: Информатика и вычислительная техника (Бакалавриат)

Год защиты: 2021

Современные методы обработки естественного языка основаны на моделях векторного представления слов. Одна из особенностей этих моделей состоит в том, чтобы решать задачу пропорциональной аналогии. Данная задача неоднократно исследовалась для неконтекстуализированных моделей. В этой работе исследуются аффинные преобразования параллельного переноса для контекстуализированных моделей. Проводились численные эксперименты с векторным представлениями моделей ELMo и BERT, которые показали, что параллельный перенос не всегда дает возможность получить верное решение.

Выпускные квалификационные работы (ВКР) в НИУ ВШЭ выполняют все студенты в соответствии с университетским Положением и Правилами, определенными каждой образовательной программой.

Аннотации всех ВКР в обязательном порядке публикуются в свободном доступе на корпоративном портале НИУ ВШЭ.

Полный текст ВКР размещается в свободном доступе на портале НИУ ВШЭ только при наличии согласия студента – автора (правообладателя) работы либо, в случае выполнения работы коллективом студентов, при наличии согласия всех соавторов (правообладателей) работы. ВКР после размещения на портале НИУ ВШЭ приобретает статус электронной публикации.

ВКР являются объектами авторских прав, на их использование распространяются ограничения, предусмотренные законодательством Российской Федерации об интеллектуальной собственности.

В случае использования ВКР, в том числе путем цитирования, указание имени автора и источника заимствования обязательно.

Реестр дипломов НИУ ВШЭ