Будущая профессия

Выпускники становятся MLSecOps-инженерами / архитекторами. Их основная задача — проектирование, разработка и эксплуатация промышленных ML-систем, изначально устойчивых к атакам. Они работают в командах разработки AI/ML-продуктов, обеспечивая безопасность на уровне данных, моделей, пайплайнов и инфраструктуры.

Объектами профессиональной деятельности выпускников, освоивших программу магистратуры, являются:

• Проектирование и построение безопасных и отказоустойчивых ML-пайплайнов и систем машинного обучения промышленного уровня 
• Организация и управление процессами обеспечения безопасности ML-систем на протяжении всего жизненного цикла
• Средства и технологии разработки защищенных ML-решений и инструменты безопасности
• Процессы разработки и эксплуатации ML-моделей с интеграцией практик безопасности
• Разработка и внедрение инструментальных средств мониторинга, аудита и тестирования ML-систем на уязвимости 
• Методы и подходы к обеспечению конфиденциальности данных в ML-системах (дифференциальная приватность, федеративное обучение) 
• Системы защиты от специализированных атак на ML-модели (adversarial attacks, data poisoning, model extraction, membership inference) 
• Архитектура и инфраструктура защищенных ML-решений, включая системы управления доступом и шифрования данных 
• Методы обеспечения безопасности систем, построенных на базе больших языковых моделей (LLM) и генеративного ИИ, включая защиту от атак типа prompt injection, jailbreaking, предотвращение утечек конфиденциальных данных
• Инструменты промт-инжиниринга для задач анализа уязвимостей ИИ-моделей, обработки данных и создания интеллектуальных средств защиты в рамках методологии Security Automation

В результате освоения ОП у выпускника НИУ ВШЭ формируются универсальные, общепрофессиональные (определены в разделах ОС по направлениям подготовки) и профессиональные компетенции.

Профессиональные компетенции являются специфическими для выпускников данной образовательной программы. Они определяются на основе профессиональных стандартов:

• 06.032 «Специалист по безопасности компьютерных систем и сетей».
• 06.033 «Специалист по защите информации в автоматизированных системах».

Данные стандарты соответствуют профессиональной деятельности выпускников. Также профессиональные компетенции сформированы на основе анализа требований рынка труда, обобщения зарубежного опыта, проведения консультаций с ведущими работодателями, объединениями работодателей отрасли, в которой востребованы выпускники.