Доказуемая устойчивость нейронных сетейCertified robustness of neural networks
Соискатель:
Паутов Михаил Александрович
Руководитель:
Оселедец Иван Валерьевич (др. работы под рук-вом)
Члены комитета:
Деркач Денис Александрович (НИУ ВШЭ, PhD, председатель комитета), Маркин Юрий Витальевич (Институт системного программирования им. В.П. Иванникова РАН, к.т.н., член комитета), Наумов Алексей Александрович (НИУ ВШЭ, д.комп.н., член комитета), Тутубалина Елена Викторовна (НИУ ВШЭ, д.комп.н., член комитета), Яроцкий Дмитрий Александрович (Сколковский институт науки и технологий, д.ф.-м.н., член комитета)
Диссертация принята к предварительному рассмотрению:
5/16/2024
Диссертация принята к защите:
6/13/2024
Дисс. совет:
Совет по компьютерным наукам
Дата защиты:
10/8/2024
Глубокие нейронные сети чувствительны к состязательным атакам – незначительным возмущениям входных данных, не изменяющим их семантику, но значительно влияющим на предсказание нейронной сети. Данная уязвимость ограничивает применение нейронных сетей в задачах, где требуется предоставление гарантий корректности предсказания нейронных сетей. В работе рассматривается проблема предоставления гарантий корректности поведения нейронной сети при наличии произвольных возмущений входных данных. Предложен метод вычисления вероятностных гарантий устойчивости классификационных нейронных сетей к случайным возмущениям входных данных произвольной природы. Также предложен метод предоставления детерминированных гарантий устойчивости прототипических нейронных сетей к аддитивным возмущениям ограниченной нормы. Помимо этого, разработан метод создания цифровых водяных знаков в качестве механизма защиты нейронных сетей от атак, направленных на кражу функциональности.
Диссертация [*.pdf, 6.66 Мб] (дата размещения 8/6/2024)
Резюме [*.pdf, 940.66 Кб] (дата размещения 8/6/2024)
Summary [*.pdf, 974.19 Кб] (дата размещения 8/6/2024)
Публикации, в которых излагаются основные результаты диссертации
Pautov M., Melnikov G., Kaziakhmedov E., Kireev K., Petiushko A. On Adversarial Patches: Real-World Attack on ArcFace-100 Face Recognition System (смотреть на сайте журнала)
Kaziakhmedov E., Kireev K., Melnikov G., Pautov M., Petiushko A. Real-world Attack on MTCNN Face Detection System (смотреть на сайте журнала)
Pautov M., Kuznetsova O., Tursynbek N., Petiushko A., Oseledets I. Smoothed Embeddings for Certified Few-Shot Learning (смотреть на сайте журнала)
Pautov M., Tursynbek N., Munkhoeva M., Muravev N., Petiushko A., Oseledets I. CC-Cert: A Probabilistic Approach to Certify General Robustness of Neural Networks (смотреть на сайте журнала)
Отзывы
Отзыв научного руководителя
- Оселедец Иван Валерьевич (дата размещения 5/17/2024)
Отзыв члена Комитета
- Тутубалина Елена Викторовна (дата размещения 9/27/2024)
- Маркин Юрий Витальевич (дата размещения 9/27/2024)
- Яроцкий Дмитрий Александрович (дата размещения 9/27/2024)
- Деркач Денис Александрович (дата размещения 9/27/2024)
- Наумов Алексей Александрович (дата размещения 9/27/2024)
Сведения о результатах защиты:
Комитет по диссертации рекомендовал присудить ученую степень кандидата наук (протокол № 2 от 8.10.2024); Решением диссертационного совета (протокол № 9 от 31.10.2024) присуждена ученая степень кандидата компьютерных наук.