• Партнерство с индустрией: Программа разрабатывается и реализуется при участии ключевых технологических компаний (VK, OZON), что обеспечивает доступ к реальным кейсам, данным и экспертам. Сотрудники указанных компаний также будут вовлечены в учебный процесс. На базе технологических партнеров будут проводиться практики студентов.
• Уникальная междисциплинарность: Глубокое пересечение ML, DevOps и Security.
• Практико-ориентированность: Соотношение теории и практики 40/60%. Сквозной проектный трек, где студенты разрабатывают и защищают собственный ML-сервис.
• Онлайн-формат: Доступность для студентов из всех регионов России и СНГ, совмещение с работой.
• Фокус на актуальных угрозах и инструментах: Изучение MITRE ATLAS, OWASP ML Top 10, ART, MLflow, DVC, Kubernetes, DevSecOps-инструментов.
• Ориентация на передовые технологии генеративного ИИ: программа включает изучение угроз и методов защиты для современных и перспективных технологий, таких как большие языковые модели (LLM), базовые модели (Foundation Models). Кроме того, программа включает в себя изучения задач, связанных с промт-программированием. Это обеспечивает соответствие содержания программы быстроразвивающимся технологическим трендам и готовит специалистов, способных обеспечивать безопасность систем генеративного ИИ, которые становятся основой новых ИИ-решений и сервисов.

Область профессиональной деятельности выпускников, освоивших программу, включает сферы науки, техники и технологии, охватывающие совокупность проблем,  связанных с созданием, внедрением и обеспечением безопасности систем искусственного интеллекта и машинного обучения.

Объектами профессиональной деятельности выпускников, освоивших программу магистратуры, являются:

• Проектирование и построение безопасных и отказоустойчивых ML-пайплайнов и систем машинного обучения промышленного уровня 
• Организация и управление процессами обеспечения безопасности ML-систем на протяжении всего жизненного цикла
• Средства и технологии разработки защищенных ML-решений и инструменты безопасности
• Процессы разработки и эксплуатации ML-моделей с интеграцией практик безопасности
• Разработка и внедрение инструментальных средств мониторинга, аудита и тестирования ML-систем на уязвимости 
• Методы и подходы к обеспечению конфиденциальности данных в ML-системах (дифференциальная приватность, федеративное обучение) 
• Системы защиты от специализированных атак на ML-модели (adversarial attacks, data poisoning, model extraction, membership inference) 
• Архитектура и инфраструктура защищенных ML-решений, включая системы управления доступом и шифрования данных 
• Методы обеспечения безопасности систем, построенных на базе больших языковых моделей (LLM) и генеративного ИИ, включая защиту от атак типа prompt injection, jailbreaking, предотвращение утечек конфиденциальных данных
• Инструменты промт-инжиниринга для задач анализа уязвимостей ИИ-моделей, обработки данных и создания интеллектуальных средств защиты в рамках методологии Security Automation.

В результате освоения ОП у выпускника НИУ ВШЭ формируются универсальные, общепрофессиональные (определены в разделах ОС по направлениям подготовки) и профессиональные компетенции.

Профессиональные компетенции являются специфическими для выпускников данной образовательной программы. Профессиональные компетенции определяются на основе профессиональных стандартов:

• 06.032 «Специалист по безопасности компьютерных систем и сетей».
• 06.033 «Специалист по защите информации в автоматизированных системах».

Данные стандарты соответствуют профессиональной деятельности выпускников. Также профессиональные компетенции сформированы на основе анализа требований рынка труда, обобщения зарубежного опыта, проведения консультаций с ведущими работодателями, объединениями работодателей отрасли, в которой востребованы выпускники.

Профессиональные компетенции:

Модуль «Ключевые семинары» предназначен для проектирования персональных образовательных результатов, координации учебной деятельности по освоению ОП в соответствии с ИУП студентов, объединенных одним семинаром наставника, а также для получения студентом представления о передовом опыте и/или исследованиях, соотнесенных с тематикой его траектории обучения.

Модуль «Major» включает основные дисциплины, формирующие профессиональные компетенции выпускника образовательной программы. Вариативность в данном модуле не предусмотрена. В модуле присутствуют как теоретико-прикладные дисциплины, так и полностью практические. Вариативность для студентов не предусмотрена, программа назначает фиксированные дисциплины.

Модуль «МагоЛего» содержит дисциплины общефакультетского пула, предлагаемые студентам для самостоятельного выбора. Предусмотрена вариативность, студенты самостоятельно выбирают курс для дальнейшего обучения.

Модуль «Практика» содержит блок проектных дисциплин, который предназначен для развития общекультурных, общепрофессиональных и профессиональных компетенций студентов.

Проектные работы студентов могут реализовываться в различных формах, например:

• учебно-исследовательский проект – вид самостоятельной работы студента под руководством преподавателя, направленный на решение одной из актуальных задач в области профессиональной деятельности;
• исследовательский проект – работа в НУЛ, НУГ, научных подразделениях НИУ ВШЭ и других организациях;
• проектная деятельность в рамках внутренних проектов (Ярмарка проектов НИУ ВШЭ и Кабинет проектной деятельности МИЭМ).

          Студенты самостоятельно выбирают проект для дальнейшего выполнения.

Модуль «Государственная итоговая аттестация» представляет собой защиту выпускной квалификационной работы. В данный модуль входит только защита ВКР, так как ОП имеет специфику, направленную на разработку программного обеспечения, что требует тщательной теоретической и практической подготовки.

Информационная безопасность систем искусственного интеллекта

Образовательная программа высшего образования НИУ ВШЭ адаптирована для обучения на ней инвалидов и лиц с ограниченными возможностями здоровья. В учебном процессе используются специальные технические средства обучения коллективного и индивидуального пользования для инвалидов и лиц с ограниченными возможностями здоровья. Особенности адаптации программ учебных дисциплин содержатся в полной версии каждой программы учебной дисциплины и доступны студентам через электронную образовательную среду.

Все документы образовательной программы хранятся в электронном виде на настоящем сайте образовательной программы. Учебные планы, календарные учебные графики, программы учебных дисциплин разрабатываются и проходят электронные процедуры утверждения в корпоративных информационных системах. Их актуальные версии автоматически публикуются на сайте ОП. Методические материалы, оценочные средства и иные материалы образовательной программы в актуальном виде хранятся на сайте образовательной программы в соответствии с локальными нормативными актами университета.

Подтверждаю актуальность комплекта документов образовательной программы, размещенных на настоящем сайте образовательной программы.

Проректор С.Ю. Рощин

Паспорт образовательной программы «Информационная безопасность систем искусственного интеллекта»