• A
  • A
  • A
  • АБB
  • АБB
  • АБB
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта
Версия для слабовидящихЛичный кабинет сотрудника ВШЭПоискМеню

Дважды стохастический вариационный вывод с полунеявными и несобственными распределениямиDoubly stochastic variational inference with semi-implicit and improper distributions

Члены комитета:
Деркач Денис Александрович (Национальный исследовательский университет «Высшая школа экономики», PhD, председатель комитета), Артемов Алексей Валерьевич (Технический университет Мюнхена, кандидат физико-математических наук, член комитета), Луизос Христос (Компания Qualcomm Technologies Netherlands B.V., PhD, член комитета), Наумов Алексей Александрович (Национальный исследовательский университет «Высшая школа экономики», PhD, член комитета), Томчак Якуб (Амстердамский свободный университет, PhD, член комитета)
Диссертация принята к предварительному рассмотрению:
6/23/2022
Диссертация принята к защите:
9/9/2022 (Протокол №16)
Дисс. совет:
Совет по компьютерным наукам
Дата защиты:
10/28/2022
Несмотря на широкую популярность вероятностного подхода в современных применениях глубокого обучения, область применимости существующих методов вероятностного вывода остается существенно ограничена. Главной целью данной работы является расширение инструментария для работы с современными вероятностными моделями. В работе было разработано два обобщения существующих методов обучения вероятностных моделей. Первый предложенный метод позволил открыть и исследовать два новых режима работы модели вариационного дропаута – режим разреживания параметров, полезный для алгоритмов сжатия модели, и режим дисперсионных сетей, устойчивый к состязательным атакам. Второй предложенный в работе метод, Дважды Полунеявный Стохастический Вариационный Вывод (DSIVI), является универсальным методом вероятностного вывода, имеющим самую широкую область применимости среди существующих аналогов. DSIVI может быть использован для обучения и оценки вероятностных моделей, использующих полунеявные распределения, а также для ускорения работы с моделями, использующими вероятностные распределения вида смеси.
Диссертация [*.pdf, 6.00 Мб] (дата размещения 6/24/2022)
Резюме [*.pdf, 1.67 Мб] (дата размещения 6/24/2022)
Summary [*.pdf, 1.63 Мб] (дата размещения 6/24/2022)

Отзывы
Отзыв научного руководителя
Отзыв члена Комитета
Сведения о результатах защиты:
Комитет по диссертации рекомендовал присудить ученую степень кандидата наук с отличием (протокол №2 от 28.10.2022). Решением диссертационного совета (протокол № 21 от 31.10.2022) присуждена ученая степень кандидата компьютерных наук с отличием.