Экспериментальное исследование формы поверхности функционала качества нейронных сетей

ФИО студента: Мусаткина Дарья Андреевна

Руководитель: Лобачева Екатерина Максимовна

Кампус/факультет: Факультет компьютерных наук

Программа: Прикладная математика и информатика (Бакалавриат)

Оценка: 9

Год защиты: 2019

Функции ошибки глубинных нейронных сетей имеют сложную структуру, и их геометрические свойства плохо известны. В недавних статьях эмпирически выяснили, что минимумы функции ошибки нейронных сетей, найденных с по- мощью стохастического градиентного спуска, образуют связное многообразие. В данной работе мы исследуем связность более точных оптимумов и связность оп- тимумов, обладающих разными обобщающими способностями. По результатам более точные оптимумы не соединяются простой кривой, однако увеличение в функции ошибки не такое большое. Оптимумы с разными обобщающими спо- собностями нейросети с особой архитектурой не соединяются.

Текст работы (работа добавлена 19 мая 2019 г.)

Выпускные квалификационные работы (ВКР) в НИУ ВШЭ выполняют все студенты в соответствии с университетским Положением и Правилами, определенными каждой образовательной программой.

Аннотации всех ВКР в обязательном порядке публикуются в свободном доступе на корпоративном портале НИУ ВШЭ.

Полный текст ВКР размещается в свободном доступе на портале НИУ ВШЭ только при наличии согласия студента – автора (правообладателя) работы либо, в случае выполнения работы коллективом студентов, при наличии согласия всех соавторов (правообладателей) работы. ВКР после размещения на портале НИУ ВШЭ приобретает статус электронной публикации.

ВКР являются объектами авторских прав, на их использование распространяются ограничения, предусмотренные законодательством Российской Федерации об интеллектуальной собственности.

В случае использования ВКР, в том числе путем цитирования, указание имени автора и источника заимствования обязательно.

Реестр дипломов НИУ ВШЭ