Нейронные сети с динамической рекуррентной маршрутизацией

Нейронные сети на сегодняшний день показывают наилучшие результаты во многих задачах из областей автоматической обработки текста, построения экспертных систем и компьютерного зрения. Используемые модели обладают хорошей выразительной способностью, но обрабатывают все поступающие данные по одному шаблону, т.е. ко входным объектам применяются одни и те же преобразования. В данной работе будут изучены существующие и предложены новые способы автоматического подбора нейронной сетью последовательности преобразований для каждого входного объекта. Полученная динамическая маршрутизация позволяет нейронной сети выучить набор полезных преобразований и применить только необходимые из них для получения требуемого результата на выходе модели. Проведенный сравнительный анализ предложенной модели с ResNet-38 на наборе данных CIFAR-10.1 выявил более высокое качество работы первой модели относительно второй (точность выше на 1.3%). Было обнаружено, что предложенная модель строит различные маршруты для изображений разных классов и схожие маршруты для семантически близких изображений.