Эмпирический анализ свойств обучения моделей в парадигме Self-supervised learning

ФИО студента: Садртдинов Ильдус Рустемович

Руководитель: Лобачева Екатерина Максимовна

Кампус/факультет: Факультет компьютерных наук

Программа: Прикладная математика и информатика (Бакалавриат)

Оценка: 10

Год защиты: 2021

В последние годы парадигма self-supervised learning набирает популярность в задачах компьютерного зрения. Она позволяет предобучать искусственные нейронные сети на неразмеченных данных. При этом качество на контрольных задачах получается лучше, чем при предобучении на классификацию набора данных ImageNet. В данной работе мы проводим сравнительный анализ парадигмы self-supervised learning, обучения с учителем и обучения со случайной разметкой и приходим к выводу, что в контексте всех трех постановок существуют простые и сложные для выучивания нейронной сетью объекты. Также мы показываем, что динамика обучения в парадигме self-supervised learning похожа на динамику обучения со случайной разметкой.

Текст работы (работа добавлена 17 мая 2021 г.)

Выпускные квалификационные работы (ВКР) в НИУ ВШЭ выполняют все студенты в соответствии с университетским Положением и Правилами, определенными каждой образовательной программой.

Аннотации всех ВКР в обязательном порядке публикуются в свободном доступе на корпоративном портале НИУ ВШЭ.

Полный текст ВКР размещается в свободном доступе на портале НИУ ВШЭ только при наличии согласия студента – автора (правообладателя) работы либо, в случае выполнения работы коллективом студентов, при наличии согласия всех соавторов (правообладателей) работы. ВКР после размещения на портале НИУ ВШЭ приобретает статус электронной публикации.

ВКР являются объектами авторских прав, на их использование распространяются ограничения, предусмотренные законодательством Российской Федерации об интеллектуальной собственности.

В случае использования ВКР, в том числе путем цитирования, указание имени автора и источника заимствования обязательно.

Реестр дипломов НИУ ВШЭ