• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта
ФИО студента
Название работы
Руководитель
Факультет
Программа
Оценка
Год защиты
Кириченко Полина Егоровна
Study of Bayesian Regularization of Neural Networks
9
2018
Deep neural networks have shown state-of-the-art performance in many machine learning tasks. However, such models with a large number of parameters are prone to overfitting, and this problem must be addressed for obtaining good generalization ability. Commonly used regularization techniques to tackle this issue are binary dropout or its fast approximation Gaussian dropout. In this work, we study a novel approach for neural network regularization via injecting noise on weight vector magnitude and direction instead of independently perturbing individual scalar weights. We consider several direction noise distributions and, further, propose a probabilistic model where variational inference can be applied for automatic hyperparameter tuning. Incorporating appropriate prior distributions in such a model can also potentially lead to structural sparsity and model compression.
Текст работы (работа добавлена 22 мая 2018г.)

Выпускные квалификационные работы (ВКР) в НИУ ВШЭ выполняют все студенты в соответствии с университетским Положением и Правилами, определенными каждой образовательной программой.

Аннотации всех ВКР в обязательном порядке публикуются в свободном доступе на корпоративном портале НИУ ВШЭ.

Полный текст ВКР размещается в свободном доступе на портале НИУ ВШЭ только при наличии согласия студента – автора (правообладателя) работы либо, в случае выполнения работы коллективом студентов, при наличии согласия всех соавторов (правообладателей) работы. ВКР после размещения на портале НИУ ВШЭ приобретает статус электронной публикации.

ВКР являются объектами авторских прав, на их использование распространяются ограничения, предусмотренные законодательством Российской Федерации об интеллектуальной собственности.

В случае использования ВКР, в том числе путем цитирования, указание имени автора и источника заимствования обязательно.

Расширенный поиск ВКР