Формальное представление символических структур естественного языка: нейросетевой подход

Тема: Формальное представление символических структур естественного языка: нейросетевой подход. Целью данной работы является определение важности применения Tensor Product Representations (TPR) в модели. На примере реализованной модели TP-N2F, работающей через TPR, было необходимо установить способно ли использование данного компонента (TPR) как в кодере, так и в декодере модели обеспечить лучшую точность в решении задачи генерации ответа на вопрос, генерации операций для решения математических задач. Выпускная квалификационная работа состоит из введения, постановки задачи, рассмотрения связанных работ, двух основных глав, заключения, списка литературы, приложения. Во введении обоснована актуальность выбранной темы, поставлена цель и задачи исследования. Затем сформулирована задача, на примере которой будет исследоваться модель, и приведен обзор связанной с темой литературы. В теоретической части был рассмотрен механизм TPR и изучено само устройство архитектуры модели TP-N2F. Бала реализована рабочая версия модели TP-N2F на языке Python, которая способна генерировать формулу решения математической задачи. Во второй, практической части работы модель была обучена и протестирована на наборе математических задач, сформулированных на английском языке MathQA. Для определения важности TPR проведен эксперимент сравнения модели с другой моделью, решающей подобную задачу. А также для анализа важности именно TPR компонентов в модели TP-N2F, были провели эксперименты по замене кодировщика и декодера на стандартные рекуррентные модули сети. В заключении приведены основные выводы, полученные в результате проведенного исследования. Установлена значимость подхода, применяющего TPR, для достижения более точных результатов. Общий объем работы составляет 32 страницы.