Диссертации, представленные на защиту и подготовленные в НИУ ВШЭ

В последние годы методы машинного обучения все чаще применяются для решения экономических и теоретико-игровых задач. В то же время, задачи машинного обучения с множеством агентов или пользователей могут быть формализованы и проанализированы с помощью теории игр. Данная диссертация состоит из трех независимых исследований на стыке этих областей и касается следующих тем: 1) применение методов глубокого обучения к дизайну экономических механизмов (аукционов), 2) адаптация теоретико-игрового концепта медиаторов к мультиагентному обучению с подкреплением в контексте марковских игр и 3) персонализация моделей глубокого обучения с подкреплением с целью максимизации общественного благосостояния. Все предложенные подходы и методы имеют надежную теоретическую основу и сопровождаются экспериментами в симуляторах.

Диссертационная работа посвящена разработке метода исследования фазовых переходов в решеточных спиновых моделях с помощью анализа функции вариации выхода нейронной сети. Разработанный метод позволяет систематически извлекать критический показатель корреляционной длины и температуру фазового перехода для моделей Изинга, Бакстера-Ву и четырехкомпонентного Поттса с высокой точностью. Полученные результаты в пределах статистических ошибок согласуются с данными численного моделирования методами Монте-Карло и точными аналитическими решениями. Исследуются факторы, влияющие на точность работы метода, даны рекомендации при выборе параметров моделирования. Разработан метод кодирования входных конфигураций спинов, позволяющий переносить знание о фазовом переходе между классами универсальности для исследования решеточных спиновых моделей.

В данной работе исследуется использование глубоких генерирующих моделей, в частности, для повышения надежности и эффективности методов обнаружения аномалий и редких классов. Такого рода задачи часто встречаются в реальных сценариях, когда выборок определенных классов мало или нет вовсе, что приводит к значительному дисбалансу классов и неполному использованию данных об аномальных и редких классах или переобучению. В исследовании представлен ряд принципиально новых подходов, основанных на глубинных MCMC процессах, нормализующих потоках и латентных стохастических дифференциальных уравнениях, направленных на преодоление разрыва между задачами обнаружения аномалий с учителем и без учителя. Эти методы изучаются и подтверждаются с помощью множественных экспериментов на табличных, графических и временных данных, в которых представленные методы значительно превосходят ранее существующие подходы обнаружения аномалий.В частности, практическая значимость изучаемых методов отдельно изучается на реальной задаче обнаружения аномалий в физике высоких энергий, где также демонстрируются большой потенциал глубоких генерирующих моделей обучения.

В данной работе исследуются различные методы для получения новых возможностей при генерации изображений и 3D-сцен. В первой части разбирается проблема преобразования изображений высокого разрешения из непарных данных и создания генеративных моделей без сверточных нейронных сетей. Далее демонстрируется новое представление произвольных трехмерных сцен, что позволяет осуществлять реконструкцию на основе разреженных входных данных. В последней части рассматривается задача генерации анимируемых изображений людей выучивая зависимости из видео. В работе предлагаются новые методы нейронного рендеринга на основе построения аппроксимированной геометрии головы по входному изображению и альтернативный метод без использования явной 3D геометрии. Также выявляется способ улучшить выходное разрешение без прямого использования высококачественных данных.

Диссертация посвящена улучшению обобщающей способности моделей 3D компьютерного зрения, что важно для их надежного функционирования в разнообразных, ранее не исследованных условиях. Исследование фокусируется на создании инновационных моделей для генерации синтетических данных, 3D реконструкции, генерации новых видов и плотной оценки позы человека. В частности, рассматривается возможность моделирования последовательности кадров в дискретном скрытом пространстве. Далее предложен метод для локализации особых кривых в 3D моделях, позволяющий обрабатывать зашумленные, высокоразрешенные 3D данные. Также рассмотрена модель для быстрой генерации новых видов, не требующая дополнительной оптимизации на новых сценах. Предложены улучшения для модели плотной оценки позы человека, позволяющие запускать её на мобильных устройствах. Наконец, показывается, как адаптировать модель 3D реконструкции головы человека на основе одного изображения для использования с неизвестными параметрами камеры.

Большинство нейронных сетей работают с алгеброй вещественных чисел, однако по мере развития теоретического понимания основ нейронных сетей и их практического применения возникают новые проблемы, требующие выхода за эти рамки. В частности, возникают различные задачи, когда исходные данные, естественно имеют комплексные форматы. Это побуждает исследовать, могут ли нейронные сети, основанные на комплексных числах, обеспечить преимущества перед теми, которые ограничены реальными числами, а также разработку архитектуры и строительных блоков комплексных нейронных сетей. В работе предлагается следующий шаг по обобщению подхода комплексных нейронных сетей на алгебру дуальных чисел. Осуществляется поиск путей реализации и приводятся результаты массовых экспериментов.
Используются идеи дуальных чисел. Разрабатывается математическое обеспечение различных операций. Предлагаются обобщённые операторы и методология переноса знаний. Строятся дуальные сети. В результатепоказывается, что подобное обобщение улучшает производительность и точность.

Большинство современных нейронных сетей используют в своей архитектуре те или иные техники нормализации, к примеру, пакетную нормализацию (batch normalization), что эмпирически позволяет стабилизировать обучение и добиться лучшего качества. Главным следствием нормализации является масштабная инвариантность параметров, предшествующих слоям нормализации. В данной работе приводится подробное экспериментальное и теоретическое исследование влияния свойства масштабной инвариантности на динамику обучения и ландшафт функции потерь нормализованных нейросетевых моделей. В первой части работы раскрывается эффект периодического поведения динамики обучения с использованием нормализации и сокращения веса. Во второй части работы анализируются три режима обучения масштабно-инвариантных нейронных сетей на сфере, что позволяет выделить ряд особенностей внутреннего устройства ландшафта функции потерь.

Диссертационная работа представляет собой комплексное исследование, направленное на улучшение эффективности моделей и методов автоматической обработки текстов в биомедицинской области на основе современных языковых моделей архитектуры Трансформер. Разработаны новые модели и методы классификации и извлечения информации, в том числе модель связывания именованных сущностей, оптимизирующая сходство представлений сущностей и концептов, многоязычные модели для распознавания именованных сущностей, мультимодальные методы для обнаружения побочных реакций на лекарственные препараты. Впервые предложены и созданы аннотированные корпуса текстов на английском и русском языках из различных биомедицинских источников: научные абстракты (корпус NEREL-BIO), пользовательские отзывы о лекарствах (RuDReC), электронные медицинские карты (RuCCoN) и клинические испытания. Предложены новые подходы к оценке моделей связывания именованных сущностей. Эффективность предложенных моделей и методов подтверждена в рамках большого числа вычислительных экспериментов и открытых тестирований CLEF eHealth 2017 Task 1, #SMM4H Shared Tasks 2019-2021 годов. Предложенные корпуса, кодовая база и другие материалы находятся в открытом доступе.

Обучение больших нейронных сетей, достигающих в настоящее время наилучших результатов на большинстве прикладных задач, требует существенных вычислительных ресурсов. Доступ к суперкомпьютерам, обладающим достаточной мощностью, имеется только у ограниченного круга исследователей, что ограничивает возможности для развития машинного обучения как научной области. В данной работе предлагается способ для решения проблемы нехватки вычислительных ресурсов посредством добровольных вычислений, то есть использования свободных ресурсов волонтеров, подключенных к одной распределенной сети. Для решения проблем, возникающих при использовании распределенного машинного обучения в этой постановке, предлагается ряд методов, учитывающих такие её особенности, как ненадежность отдельных узлов, гетерогенность аппаратного обеспечения и сравнительно низкая скорость сетевых соединений. В частности, в работе предложена специализированная нейросетевая архитектура, устойчивая к сетевым задержкам и нестабильности узлов, разработан эффективный способ агрегации параметров моделей в неустойчивой сети, а также представлен метод для совместного предварительного обучения с учетом возможностей каждого участвующего устройства. Предложенные методы позволяют эффективно использовать мощности устройств волонтеров или вытесняемых облачных узлов при распределенном обучении нейронных сетей для широкого ряда сценариев.

В рамках данной диссертации сделан фокус на разработку методов, основанных на обучении с подкреплением, применимых для управления робототехническими устройствами. Современные методы глубокого обучения с подкреплением способны решать задачи  управления в виртуальных средах без использования априорной информации о решаемой задаче. Обучение происходит путем проб и ошибок, в котором агент взаимодействует со средой и учится оптимизировать свои действия так, чтобы они приводили к большей ожидаемой награде. При применении таких методов для управления физическими устройствами возникает ряд сложностей, связанных с переносом из симуляции на физическую установку, использованием действий различного масштаба, сходимостью к суб-оптимальной стратегии и трудности с объединением нейросетевых и алгоритмических подходов. В работе предложен набор алгоритмов, которые позволяют выучить эффективную стратегию с учетом этих ограничений. Качество работы предложенных алгоритмов рассматривается на практически важных задачах, таких как настройка оптического интерферометра, управление движением шагающего робота и виртуальная среда NetHack.