Измерение гендерной предвзятости русскоязычных моделей векторных представлений слов

Проблема гендерной предвзятости в моделях обработки естественного языка (NLP) вызывает все большую озабоченность в сообществе NLP в последние годы. Различные типы моделей NLP демонстрируют социальные предубеждения с точки зрения пола, расы и религии, которые они наследуют из обучающих текстов. Было показано, что модели векторных представлений слов (word embeddings) также воспроизводят различные предрассудки, в том числе, гендерные предубеждения. С другой стороны, такие модели часто используются в социальных науках для изучения корпусов текстов, их авторов или некоторых социальных явлений в целом. Для таких исследований важно понимать природу и причины появления предубеждений в моделях, а также условия, при которых предрассудки наследуется моделями из обучающих текстов. Существующие исследования гендерной предвзятости часто сосредоточены на моделях английского языка, а для моделей на русском языке таких исследований нет. Также существует пробел в исследованиях влияния параметров модели на ее предвзятость. В данной работе выбран экспериментальный подход, построено 36 моделей на 4 корпусах с варьированием как параметров модели (алгоритм, размер окна), так и корпусных (размер корпуса, жанр). Для обучения используются русскоязычные корпуса GeoWAC, Википедия, Национальный Корпус Русского Языка и ДетКорпус. Затем гендерная предвзятость моделей векторных представлений слов была проанализирована с помощью метода WEAT. Исследовано влияние состава корпуса и параметров модели на гендерную предвзятость модели. Результаты и выводы, сделанные в этом исследовании, могут быть полезны как исследователям в области социальных наук, так и в области NLP.