Представления текстов с помощью графовых моделей

Обучение представлений является фундаментальной проблемой в области обработки естественного языка. Широко распространенные методы позволяют извлекать свойства и особенности текстовых документов в виде векторов, которые могут быть использованы в качестве основы для решения последующих целевых задач. Однако такие подходы используют только простую “одномерную” статистику совместного употребления лексем, не учитывая ценные особенности структуры текса. Тем не менее, представление естественного языка на основе графов позволяет использовать преимущества сетевого анализа, улавливая семантические или синтаксические зависимости и другие лингвистические отношения. Более того, с появлением графовых нейронных сетей (Graph Neural Networks) стало возможным оперировать на графах непосредственно с помощью end-to-end моделей. В данной работе рассматриваются графовые сверточные сети на графах, построенных по содержанию текстовых документов, для решения задачи классификации. Данный метод позволяет достичь сравнимых с современными результатов. Кроме того, по сравнению с предыдущими моделями на основе графов удалось усовершенствовать потребление памяти. Несмотря на многообещающие результаты, предложенная модель обладает ограничениями, которые открывают пространство для будущих улучшений и исследований.