• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

Разработка комбинированных нейробайесовских методов машинного обучения

2017

Цель исследования - разработать ряд нейробайесовских моделей глубинного обучения и необходимый для этого математический аппарат.

Задачи исследования:

  • Разработка алгоритмов байесовской регуляризации глубинных нейронных сетей на основе технологии вариационного дропаута;
  • Разработка технологий компактного представления нейронных сетей с помощью тензоризации сверточных, рекуррентных и полносвязных слоев с помощью тензорных разложений и байесовских процедур автоматического определения значимости;
  • Создание комбинированных средств адаптивного ускорения обработки информации нейронными сетями на основе карт внимания и их теоретическое обоснование;
  • Разработка средств инкрементального обучения нейронных сетей;
  • Разработка эффективных методов стохастической оптимизации для настройки весов нейронных сетей;
  • Разработка робастных (устойчивых) процедур нейросетевого байесовского вывода.

Публикации по проекту:


Quadrianto N., Sharmanska V. Recycling Privileged Learning and Distribution Matching for Fairness, in: Advances in Neural Information Processing Systems 30 (NIPS 2017). Montreal : Curran Associates, 2017.
Figurnov M., Collins M. D., Zhu Y., Zhang L., Huang J., Vetrov D., Salakhutdinov R. Spatially Adaptive Computation Time for Residual Networks, in: Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR 2017). Curran Associates, Inc., 2017. P. 1039-1048.
Ni X., Quadrianto N., Wang Y., Chen C. Composing Tree Graphical Models with Persistent Homology Features for Clustering Mixed-Type Data // Proceedings of Machine Learning Research. 2017. Vol. Volume 70: International Conference on Machine Learning. P. 2622-2631.