• A
  • A
  • A
  • АБB
  • АБB
  • АБB
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта
Версия для слабовидящихЛичный кабинет сотрудника ВШЭПоискМеню

Разработка модернизированной системы анализа ошибок с применением методов квантизации и дистилляции нейронных сетей

ФИО студента: Сорокин Никита Александрович

Руководитель: Клышинский Эдуард Станиславович

Кампус/факультет: Московский институт электроники и математики им. А.Н. Тихонова

Программа: Информатика и вычислительная техника (Бакалавриат)

Год защиты: 2021

Объектом разработки являет нейросетевая модель для исправления грамматических ошибок в тексте на английском языке, различной степени сложности. Целью является реализация нейросети для исправления грамматических ошибок, исследование и применение методов компрессии(дистилляции и квантизации) для нейронной сети T5. В ходе выполнения работы был реализована и обучена нейросеть на базе архитектуры T5, проведены исследования методов квантизации и дистилляции нейронных сетей на базе архитектуре T5 и выбраны оптимальные алгоритмы для нашей задачи, что улучшило время работы алгоритма в 7 раз и уменьшило количество занимаемого места на диске в 9 раз. Так же удалось добиться качества модели превосходящие лучшие или близкое к лучшему качеству существующих на данный момент нейросетевых моделей для исправления грамматических ошибок на бенчмарках BEA и JFLEG. Также модель была внедрена в демонстрационный веб сайт. Полученная модель может быть внедрена и использоваться на мобильных устройствах или компьютерах пользователей, в виду свой высокой эффективности работы, и использоваться по прямому назначению. Объем выпускной квалификационной работы – 39 страниц, количество иллюстраций – 27, количество таблиц – 0, количество использованных источников – 30.

Выпускные квалификационные работы (ВКР) в НИУ ВШЭ выполняют все студенты в соответствии с университетским Положением и Правилами, определенными каждой образовательной программой.

Аннотации всех ВКР в обязательном порядке публикуются в свободном доступе на корпоративном портале НИУ ВШЭ.

Полный текст ВКР размещается в свободном доступе на портале НИУ ВШЭ только при наличии согласия студента – автора (правообладателя) работы либо, в случае выполнения работы коллективом студентов, при наличии согласия всех соавторов (правообладателей) работы. ВКР после размещения на портале НИУ ВШЭ приобретает статус электронной публикации.

ВКР являются объектами авторских прав, на их использование распространяются ограничения, предусмотренные законодательством Российской Федерации об интеллектуальной собственности.

В случае использования ВКР, в том числе путем цитирования, указание имени автора и источника заимствования обязательно.

Реестр дипломов НИУ ВШЭ