Ветров Дмитрий Петрович, профессор-исследователь Департамента больших данных и информационного поиска факультета компьютерных наук, заведующий Лабораторией глубинного обучения и байесовских методов (Москва)

НОМИНАЦИЯ «Достижение в науке»

Ветров Дмитрий Петрович

Номинируется за выдающийся вклад в развитие байесовских методов в глубинном обучении

Кандидатуру предлагает инициативная группа сотрудников факультета компьютерных наук: Аржанцев Иван Владимирович, декан факультета компьютерных наук, профессор; Ашуха Арсений Павлович, стажёр-исследователь; Конушин Антон Сергеевич, доцент, академический руководитель программы "Прикладная математика и информатика"; Лобачёва Екатерина Максимовна, старший преподаватель; Молчанов Дмитрий Александрович, стажёр-исследователь; Неклюдов Кирилл Олегович, стажёр-исследователь; Новиков Александр Витальевич, научный сотрудник; Осокин Антон Александрович, доцент; Родоманов Антон Олегович, стажёр-исследователь; Струминский Кирилл Алексеевич, стажёр-исследователь; Фам Конг Тханг, научный сотрудник; Фигурнов Михаил Викторович, научный сотрудник; Чиркова Надежда Александровна, стажёр-исследователь

Профессор-исследователь, заведующий международной лабораторией глубинного обучения и байесовских методов Дмитрий Петрович Ветров - выдающийся молодой учёный, которым получены значительные результаты в области байесовских методов в глубинном обучении.

В последнее десятилетие активно разрабатываются новые методы анализа больших выборок данных. Пожалуй, самые впечатляющие успехи были достигнуты в глубинном обучении, подобласти машинного обучения, рассматривающей нейронные сети с большим числом слоёв. В начале 2010-х годов использование таких моделей привело к прорыву в точности решения задач распознавания образов, которые до этого считались подвластными лишь человеческому интеллекту. Примерами таких задач является распознавание объекта, изображённого на картинке, преобразование звукозаписи речи в текст, идентификация человека по фотографии. Несмотря на очевидные успехи, глубинные нейронные сети существенно ограничены как по скорости работы, так и по функционалу. На сегодняшний день одним из самых перспективных способов преодоления этих недостатков глубинного обучения является использование аппарата байесовских методов. Его использование даёт строгую интерпретацию многим из применяемых в глубинном обучении эвристических методов, что позволяет обобщить и расширить эти методы.

За последние три года Д.П. Ветровым (в соавторстве с его учениками) опубликовано 8 работ на ведущих конференциях по компьютерным наукам ранга А и А* (по рейтингу CORE), таких как NIPS, ICML, CVPR, ICCV: список публикаций. На некоторых из указанных конференций эти публикации являлись единственными докладами из России, что демонстрирует выдающийся вклад претендента в российскую науку и авторитет НИУ ВШЭ на международном уровне.

Полученные Д.П. Ветровым научные результаты охватывают широкий спектр задач глубинного обучения. Кратко опишем наиболее практически важные результаты, направленные на ускорение и сжатие нейронных сетей, что крайне важно для использования нейросетей в мобильных устройствах. Тензоризация нейронных сетей основана на формате представления тензоров Tensor Train и в некоторых случаях приводит к сокращению числа параметров полносвязных слоёв в сотни тысяч раз. Перфорация свёрточных нейронных сетей предлагает способ ускорения за счёт пропуска вычисления свёрточных слоёв в некоторых пространственных позициях. На основе этой работы коллективом авторов, включающим претендента, предложен метод пространственной адаптации вычислений в свёрточных нейросетях. Наконец, Д.П. Ветровым и его учениками предложен способ сжатия нейронных сетей за счёт прореживания параметров, основанный на байесовской интерпретации дропаута, популярной эвристики для регуляризации нейронных сетей.

Д.П. Ветров создал группу байесовских методов, научный коллектив, проводящий исследования на мировом уровне. О качестве исследований свидетельствует тот факт, что с 2015 по 2017 год три ученика претендента получили предложения о работе исследователями в центре DeepMind корпорации Google. В последние годы DeepMind стал одним из мировых лидеров в области исследований по глубинному обучению и искусственному интеллекту, в котором работают многие ведущие учёные в этой области. Попасть в DeepMind невероятно сложно, поскольку для этого необходимо иметь научные достижения, которые произведут впечатление на сотрудников центра.

Д.П. Ветров и его научная группа проводят совместные работы с исследователями из Microsoft Research (Pushmeet Kohli) и Carnegie Mellon University (Ruslan Salakhutdinov), университета Амстердама (Max Welling). На основе коллектива группы в 2017 году на ФКН открыта международная лаборатория глубинного обучения и байесовских методов под руководством Д.П. Ветрова. Группа проводит еженедельный научный спецсеминар по байесовским методам машинного обучения, который регулярно посещает около 50 человек. Под руководством Д.П. Ветрова в 2017 году проведена летняя школа по байесовским методам в глубинном обучении, собравшая в ВШЭ около 100 студентов (отобранных из около 300 заявок) и получившая очень хорошие отзывы участников. В 2017 году коллектив исследователей под руководством претендента выиграл грант РНФ для молодых научных групп. Также претендент является исполнителем по мегагранту, полученному Сколковским институтом науки и технологий. Практическая важность исследований претендента подчёркивается тем, что под его руководством проводятся совместные проекты с такими индустриальными компаниями, как Samsung, Сбербанк, Schlumberger. Д.П. Ветров неоднократно являлся приглашенным докладчиком на всероссийских и международных научных мероприятиях: Berlin Deep Learning Workshop, Machines Can See, Samsung AI Forum, Sberbank Data Science Day и др. В настоящее время им ведутся активные переговоры о создании на факультете компьютерных наук совместной лаборатории с корпорацией Samsung.

Отдельно стоит отметить, что Д.П. Ветров разработал несколько авторских учебных курсов о современных методах и тенденциях в машинном обучении: “Байесовские методы машинного обучения”, “Вероятностные графические модели”. Аналогичные курсы читаются лишь в небольшом числе ведущих университетов мира. В настоящее время заканчивается разработка курса “Нейробайесовские методы”, базирующегося на прорывных результатах, полученных в последние 6 лет (в том числе при участии претендента), и не имеющего на осень 2017 г. аналогов в мире.

Д.П. Ветровым получены научные результаты мирового уровня в области байесовских методов в глубинном обучении, что подтверждается публикациями на ведущих конференциях по машинному обучению. Помимо этого, он успешно руководит научной группой, международной лабораторией, научными мероприятиями, такими как спецсеминар и летняя школа, и разрабатывает уникальные учебные курсы, что приводит к созданию в НИУ ВШЭ научной школы по данной тематике. Таким образом, Д.П. Ветров является ведущим российским ученым в перспективной научной области и заслуживает присуждения премии "Золотая Вышка".