Нейросетевые детекторы объектов

В силу быстро растущего количества данных, все чаще и чаще различные IT-компании сталкиваются с проблемой поддержания модели в актуальном состоянии, так как переобучать ее на объединенном наборе нецелесообразно с точки зрения и времени, и качества и затраченных ресурсов. И область self-driving car не исключение, такие компании как Yandex, Tesla получают в свое распоряжение большой массив новых данных каждый день. Однако основная трудность дообучения детекторов на новом наборе данных заключается в том, что простой fine-tuning ведет к проблеме называемой catastrophic forgetting. В данной работе мы исследуем возможности дообучения плотных детекторов объектов на новом наборе данных без потери (с малой потерью) уже выученных паттернов с предыдущего датасета. В качестве примера, на котором проводились опыты была выбрана архитектура - RetinaNet\cite{focal}, лучшая по качеству в своем классе на момент написания текущего исследования. Для сравнения разных подходов была выбрана метрика AP, а датасеты на которых проводились опыты: CityScapes\cite{cityscape}, на котором обучалась базовая модель и RTSD\cite{rtsd}, на котором модель дообучалась. Были проведены следующие эксперименты для установления оптимального подхода к решению данной задачи: дообучение с выбором в батч различных примеров из обоих датасетов, инкрементальное обучение, дистилляция данных с онлайн размножением. В результате проведенных экспериментов было получено, что наилучший способ для дообучения плотных детекторов объектов инкрементальный подход с онлайн размножением, который позволяет терять в среднем от $3\%$ до $5\%$ в качестве по AP по каждому классу в отличие например от обычного fine-tuning, который быстро забывает выученный паттерны с предыдущего датасета и теряет в качестве до 20-30\% по каждому из классов.