Непредвзятость и оценки неопределённости в задачах анализа текстаFairness and uncertainty estimation in text analysis tasks

Диссертационная работа посвящена повышению безопасности применения моделей обработки естественного языка за счёт совместного использования методов оценки неопределенности и методов удаления предвзятости. В работе предложен метод оценки неопределенности на основе расстояния Махаланобиса и спектральной нормализации, обеспечивающий улучшение качества оценок неопределенности в задачах анализа текста. Показано, что методы удаления предвзятости могут существенно ухудшать качество оценок неопределенности, что особенно критично для задач с высокой ценой ошибки. Для решения данной проблемы предложены способы эффективного совмещения методов оценки неопределенности и удаления предвзятости, позволяющие одновременно улучшать непредвзятость модели и сохранять качество оценок неопределенности и точность предсказаний. Дополнительно разработан подход выборочного удаления предвзятости, основанный на использовании оценок неопределенности для точечного применения методов постобработки к наиболее смещённым примерам. Эффективность предложенных методов подтверждена экспериментально на ряде задач обработки естественного языка. Полученные результаты демонстрируют перспективность совместного учета неопределенности и предвзятости для повышения надежности и безопасности моделей машинного обучения.