Диссертации, представленные на защиту и подготовленные в НИУ ВШЭ

В связи с бурным развитием языкового моделирования и языковых моделей на основе архитектуры «Трансформер», особую актуальность приобретают вопросы, связанные с оценкой языковых моделей и того, насколько хорошо они понимают естественный язык. Возникает необходимость в разработке методов количественного оценивания языковых моделей, а также в разработке систем тестов и инструментов, с помощью которой можно оценивать те или иные аспекты языкового моделирования и сравнивать модели между собой. В данном исследовании предложен метод оценивания устойчивости языковых моделей в задаче распознавания причинно-следственных связей. В работе разработана методология для мультиязычного оценивания моделей на пяти языках и проведено оригинальное исследование стабильности мультиязычной модели BERT в задаче распознавания причинно-следственных связей. Помимо этого, в рамках создания первого русскоязычного набора тестов на понимание естественного языка в работе представлен фреймворк для оценивания языковых моделей на данном наборе тестов, с помощью которого проведено оригинальное исследование по оцениванию ряда предобученных моделей архитектуры BERT для русского языка.

С текстом диссертациии можно ознакомится на сайте диссертционного совета Д 002.073.05

Научная новизна определяется следующими результатами: 1.     Получен ответ на вопрос о практической применимости резервных цен как инструмента оптимизации. Даны формальные определения для эффективности резервных цен и давления конкуренции в аукционе. Построено понятие доминирования аукционов друг над другом в смысле их уровня конкуренции. Доказана обратная зависимость между уровнем конкуренции в аукционе и эффективностью резервной цены. Изучены свойства контекста, обуславливающие уровень конкуренции в аукционе.2.  Автором предложены четыре различные модели  представлений аукциониста об асимметрии участников и доказана теорема об эквивалентности некоторых из них друг другу. Предложенные четыре модели оказываются исчерпывающими все возможные случаи при рассмотрении аукционов с  равновесием в слабо доминирующих стратегиях. Теорема об эквивалентности этих моделей говорит о том, что лишь точное знание числа представителей сильного класса игроков может чем-то помочь аукционисту в вопросе оптимизации ожидаемой прибыли.3.   Для рассматриваемых форматов аукционов при ограничении возможности персонально дискриминировать участников установлен факт, что игнорирование асимметрии приводит к недооцениванию оптимального значения резервной цены. В случае многотоварности аукционов показана зависимость значения оптимальной резервной цены  от свойств контекста аукциона, в частности, от числа участников, идя вразрез с результатами классической теории оптимизации аукционов.4.  Проведены численные эксперименты по сравнительному анализу существующих методов структурной эконометрики многотоварных аукционов.5.  Предложена и опробована на реальных данных в компании «Яндекс» улучшенная модификация подхода по оптимизации рекламных аукционов с помощью резервных цен. Реализованный для этого комплекс программ используется на практике для исследований и оптимизации аукционов в компании «Яндекс». 6.  Предложено обобщение статистического теста на соответствие предположения симметричности участников аукциона в рамках модели независимых частных ценностей для случая позиционных рекламных аукционов.Объекты исследования: модели аукционов с известным в них равновесием в слабо доминантных стратегиях (аукцион второй цены, аукцион равномерной цены, обобщенный аукцион второй цены и их эквивалентные форматы). Предмет исследования: возможная оптимизация рассматриваемых моделей аукционов с помощью резервной цены при различных представлениях (информационных моделей) аукциониста об асимметрии участников. Целью исследования является разрешение следующих вопросов.1.    Необходимо понять, какова эффективность инструмента резервных цен для оптимизации фиксированных форматов аукциона.2.    Какие свойства в контексте аукциона влияют на эту эффективность резервной цены?3.    Имеет ли значение информация, которой обладает аукционист про участников, в асимметричной ситуации, и, если имеет, то какая информация важна для задачи оптимизации и почему?4.    Важно ли вообще учитывать в условиях анонимного участия асимметричность покупателей в модели аукциона?5.    Отдельно стоит отметить необходимость изучения вопроса о практической применимости теоретических результатов на примере многотоварных аукционов интернет-рекламы.