Объективность машинного обучения в демографических данных

Искусственный интеллект (AI) и машинное обучение (ML) становятся все более распространенными в различных аспектах человеческой жизни, особенно в тех, которые связаны с принятием решений. Многие из этих алгоритмических решений принимаются без участия человека и в результате непрозрачных процессов принятия решений. Это поднимает вопросы о возможной предвзятости этих процессов в пользу определенных групп общества, что может привести к неоднозначным выводам и потенциальным нарушениям прав человека. Одна из основных проблем в поддержании общественного доверия - иметь дело с такими предвзятыми моделями. Итак, для моей диссертации мы рассмотрели вопрос о модели справедливости и справедливости процесса для набора демографических данных по России, сделав прогнозы разводов, религии, работы и образования человека. В частности, мы рассмотрели, как сделать классификаторы более справедливыми, уменьшив их зависимость от чувствительных функций при одновременном повышении или, по крайней мере, сохранении их точности. Мы черпаем вдохновение из техник «выпадения» из нейронных подходов для достижения обеих целей и предлагаем модель, которая использует «выпадение функций» для обеспечения справедливости процесса. Чтобы оценить справедливость классификатора и решить, какие важные особенности следует исключить, мы использовали «Объяснения LIME». Это приводит к пулу классификаторов из-за исключения признаков, ансамбль которых, как было показано, меньше зависит от чувствительных признаков и улучшил или не повлиял на точность.