Диссертации, представленные на защиту и подготовленные в НИУ ВШЭ

Диссертация посвящена разработке методологии автоматического анализа письменной речи на русском языке для социологических задач, с фокусом на анализ репрезентаций этнических групп и межэтнических отношений в текстах социальных медиа. В работе тестируется применимость обширного набора новых вариаций алгоритмов машинного обучения к интерпретируемому анализу этих репрезентаций. Алгоритмы представлены двумя группами: тематическое моделирование, направленное на выявление имплицитных контекстов упоминания этнических групп и отношений между ними, и алгоритмы классификации, направленные на выявление заранее заданных классов отношений к этническим группам.  Алгоритмы тестируются на большом наборе специально созданных датасетов из сообщений социальных сетей, часть из которых размечена на категории, обоснованные социологическими теориями межэтнических отношений (включая язык вражды). В работе установлено, что на коллекциях, не обогащенных этнорелевантными текстами, тематическое моделирование эффективно только с частичным обучением, причем наиболее эффективно обучение на основе специально составленного словаря этнонимов. На обогащенных коллекциях обучение не требуется, однако при этом может происходить потеря текстов с имплицитным освещением тематики этничности. Также установлено, что классификация сообщений на классы уровня текста, такие как «наличие межэтнического конфликта», легко решается стандартными классификационными методами, тогда как задача классификации отношений к отдельным этническим группам в тексте требует работы на уровне вхождения именованной сущности «этическая группа» в текст, в связи с большой долей текстов, в которых упоминается более одной этнической группы. В этой задаче лучшие результаты получены при сочетании языковой модели Conversational RuBERT с нейросетевым алгоритмом, состоящим из одного плотного слоя. В работе даны рекомендации для пользователей алгоритмов машинного обучения по составлению коллекций, выбору настроек алгоритмов и интерпретации результатов совместного использования тематического моделирования и классификации.

В связи с бурным развитием языкового моделирования и языковых моделей на основе архитектуры «Трансформер», особую актуальность приобретают вопросы, связанные с оценкой языковых моделей и того, насколько хорошо они понимают естественный язык. Возникает необходимость в разработке методов количественного оценивания языковых моделей, а также в разработке систем тестов и инструментов, с помощью которой можно оценивать те или иные аспекты языкового моделирования и сравнивать модели между собой. В данном исследовании предложен метод оценивания устойчивости языковых моделей в задаче распознавания причинно-следственных связей. В работе разработана методология для мультиязычного оценивания моделей на пяти языках и проведено оригинальное исследование стабильности мультиязычной модели BERT в задаче распознавания причинно-следственных связей. Помимо этого, в рамках создания первого русскоязычного набора тестов на понимание естественного языка в работе представлен фреймворк для оценивания языковых моделей на данном наборе тестов, с помощью которого проведено оригинальное исследование по оцениванию ряда предобученных моделей архитектуры BERT для русского языка.

Диссертационное исследование посвящено изучению режимов динамики в двух нелинейных моделях, возникающих в биофизических приложениях. Первая модель описывает осцилляции взаимодействующих инкапсулированных газовых пузырьков в жидкости, вторая – осцилляции в нейронах, моделируемых системой Хиндмарш-Роуза и взаимодействующих через электрическую связь. Разработан программный комплекс для численного исследования указанных моделей. Для модели газовых пузырьков построены карты режимов динамики и описаны основные бифуркационные сценарии переходов между ними. Предложено два новых феноменологических сценария возникновения гиперхаотических аттракторов, найденных в данной модели. Для системы двух взаимодействующих нейронов установлены области устойчивости синхронных режимов динамики, найден новый асинхронный режим и области бистабильности. Рассмотрены механизмы возбудимости системы из двух связанных нейронов и её реакция на возбуждающий сигнал, создаваемый отдельным нейроном.

В диссертационной работе представлены теоретические результаты в области популяционной и эволюционной генетики. На основе новых математических моделей разработаны методы анализа генетических данных и соответствующее программное обеспечение для оценки популяционных и эволюционных параметров. Также получены результаты анализа экспериментальных данных для человека и коронавируса SARS-CoV-2. Результаты работы расширяют арсенал методов для исследований в области популяционной и эволюционной генетики, позволяя выяснять детальную и точную картину истории развития популяций, получать новые знания об эволюционных процессах и адаптации. Разработанные модели и методы позволяют оценивать из генетических данных такие основополагающие параметры как скорость миграции, пропорции примешивания, время разделения и примешивания популяций, силу естественного отбора. Новые алгоритмы и программное обеспечение отвечает требованиям современных и перспективных задач геномики, требующих обработки большого объема данных.

Для получения надёжных результатов во многих задачах машинного обучения и анализа данных требуются обучающие выборки значительного объема. Однако получить достаточное количество данных для обучения не всегда возможно. В таких ситуациях одним из решений является обогащение обучающих выборок синтетическими данными, искусственно созданными генеративной моделью. В данной работе рассматривается проблема генерации последовательностей изображений с сохранением их свойств. В частности, разработаны методы для генерации трёхмерных воксельных данных, генерации последовательности кадров видео, а так же очистки растровых изображений с сохранением семантически важной информации.

В работе рассмотрены возможности применения деформированных энтропий (энтропия Реньи, Цаллиса, Шарма-Миттала) для анализа поведения тематических моделей как функции от гиперпараметров. В рамках данной работы коллекция документов и слов рассматривается в виде мезоскопической информационной системы, состояние которой описывается деформированными энтропиями, а поведение информационной системы определяется значениями гиперпараметров и числом кластеров/тем. Тематическое моделирование рассматривается как процедура упорядочивания информационный системы. Исходя из этого, проблема выбора оптимальных значений параметров тематических моделей сводится к задаче нахождения минимума свободной энергии или минимума параметризованной энтропии.

Диссертационное исследование посвящено разработке метода, предназначенного для решения задачи обратного стресс-тестирования. Теоретической основой исследования являются принцип приближенного динамического программирования, системная динамика и ARIMA-GARCH-модели. Предлагаемый метод позволяет построить стресс-сценарии, максимизирующие финансовые потери банка, которые возникают вследствие дефолта заемщиков, в рамках заданного критерия правдоподобия. В качестве основы для искомых стресс-сценариев выступает многомерная ARIMA-GARCH-модель. Для воспроизведения динамики и структуры заемщиков осуществлено построение системно-динамических моделей. Написан исследовательский набор программ, реализующий данный алгоритм. Представлены численные эксперименты по построению сценариев обратного стресс-тестирования для кредитного портфеля из шести заемщиков на временном периоде пяти лет, которые демонстрируют применение разработанного метода. Произведено сравнение результатов разработанного численного метода с результатами решения задачи при помощи классического генетического алгоритма. Доказаны утверждения, которые позволяют сделать выводы о свойствах и применимости разработанного метода.

Диссертационное исследование посвящено автоматизации процесса низкоуровневого моделирования подсистемы связи сети на кристалле (СтнК), как одного из важнейших этапов жизненного цикла проектирования. Теоретической основой исследования является предложенная новая модель подсистемы связи СтнК, в основе которой лежит принцип раздельного моделирования за счет функционального разделения компонентов сети на независимые блоки, передача данных между которыми осуществляется с помощью разработанного универсального интерфейса. Также в основе предлагаемого решения лежит метод редуцирования модели СтнК. На основе предложенной модели разработана архитектура САПР для автоматизации процессов подготовки низкоуровневой модели, автоматизированной генерации ее описания на языке описания аппаратуры Verilog, запуска модели и получения результатов ее работы и реализовано программное обеспечение САПР HDLNoCGen. Предложенные новые решения позволили проводить исследование СтнК с количеством узлов до 200 с использованием любых характеристик, ускорили до 15 раз процесс получения результатов моделирования, позволили автоматизировать параметрический синтез низкоуровневых моделей подсистемы связи СтнК, унифицировать использование специализированных алгоритмов, как в высокоуровневых, так и в низкоуровневых моделях, обработку и хранение данных моделирования, а также обеспечили непрерывность процесса проектирования СтнК.

Диссертация посвящена исследованию и модификации высокоуровневых имитационных моделей передачи данных в сетях на кристалле (СтнК) с целью создания новых инструментов и методов для автоматизации этапа высокоуровневого проектирования СтнК. В работе проведен анализ основных этапов проектирования СтнК, в результате чего продемонстрирована высокая значимость высокоуровневого моделирования и его влияние на весь процесс проектирования. Показана необходимость разработки САПР, которая обеспечила бы автоматизацию процесса выбора высокоуровневых моделей, их множественного запуска и подбора параметров в зависимости от требований моделируемой СтнК. Основным итогом диссертационной работы является решение важной и актуальной научно прикладной задачи, связанной с увеличением скорости и повышением точности в/у моделирования СтнК путем разработки, специализированной САПР, содержащей в себе СППР, средства интеграции моделей, хранения и обработки результатов моделирования, а также автоматизации моделирования.

Диссертационное исследование посвящено идентификации параметров деформационного поведения сверхпластичных материалов в условиях двуосного растяжения. Предложен метод позволяющий определять зависимости интенсивности напряжения от скорости деформации, описывающие деформационное поведение материала. Принципиальная особенность данной методики заключается в том, что получаемая информация о поведении материала соответствует напряженному состоянию в условиях двухосного растяжения. Для определения данной зависимости предлагается использовать результаты тестовых формовок листовых заготовок в цилиндрическую матрицу. В работе предложена и теоретически обоснована модель формоизменения купола в процессе испытания по формовке. Предложенная методика используется для определения деформационного поведения сплавов на основе алюминия и титана.