• A
  • A
  • A
  • АБB
  • АБB
  • АБB
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

Дважды стохастический вариационный вывод с полунеявными и несобственными распределениямиDoubly stochastic variational inference with semi-implicit and improper distributions

Соискатель:
Молчанов Дмитрий Александрович
Члены комитета:
Деркач Денис Александрович (Национальный исследовательский университет «Высшая школа экономики», PhD, председатель комитета), Артемов Алексей Валерьевич (Технический университет Мюнхена, кандидат физико-математических наук, член комитета), Луизос Христос (Компания Qualcomm Technologies Netherlands B.V., PhD, член комитета), Наумов Алексей Александрович (Национальный исследовательский университет «Высшая школа экономики», PhD, член комитета), Томчак Якуб (Амстердамский свободный университет, PhD, член комитета)
Диссертация принята к предварительному рассмотрению:
6/23/2022
Диссертация принята к защите:
9/9/2022 (Протокол №16)
Дисс. совет:
Совет по компьютерным наукам
Дата защиты:
10/28/2022
Несмотря на широкую популярность вероятностного подхода в современных применениях глубокого обучения, область применимости существующих методов вероятностного вывода остается существенно ограничена. Главной целью данной работы является расширение инструментария для работы с современными вероятностными моделями. В работе было разработано два обобщения существующих методов обучения вероятностных моделей. Первый предложенный метод позволил открыть и исследовать два новых режима работы модели вариационного дропаута – режим разреживания параметров, полезный для алгоритмов сжатия модели, и режим дисперсионных сетей, устойчивый к состязательным атакам. Второй предложенный в работе метод, Дважды Полунеявный Стохастический Вариационный Вывод (DSIVI), является универсальным методом вероятностного вывода, имеющим самую широкую область применимости среди существующих аналогов. DSIVI может быть использован для обучения и оценки вероятностных моделей, использующих полунеявные распределения, а также для ускорения работы с моделями, использующими вероятностные распределения вида смеси.
Диссертация [*.pdf, 6.00 Мб] (дата размещения 6/24/2022)
Резюме [*.pdf, 1.67 Мб] (дата размещения 6/24/2022)
Summary [*.pdf, 1.63 Мб] (дата размещения 6/24/2022)

Отзывы
Отзыв научного руководителя
Сведения о результатах защиты:
Комитет по диссертации рекомендовал присудить ученую степень кандидата наук с отличием (протокол №2 от 28.10.2022). Решением диссертационного совета (протокол № 21 от 31.10.2022) присуждена ученая степень кандидата компьютерных наук с отличием.
См. на ту же тему

Обучение по данным как основа моделирования позы и внешности людей и виртуальных аватаровКандидатская диссертация

Соискатель: Бурков Егор Андреевич
Руководитель: Лемпицкий Виктор Сергеевич

Методы повышения обобщающей способности моделей в задачах 3D компьютерного зренияКандидатская диссертация

Соискатель: Рахимов Руслан Ильдарович
Руководитель: Бурнаев Евгений Владимирович
Дата защиты: 9/30/2024

Обобщение нейронных сетей на алгебру дуальных чиселКандидатская диссертация

Соискатель: Павлов Станислав Владимирович
Руководитель: Калягин Валерий Александрович
Дата защиты: 7/23/2024