О программе
Что я буду изучать?
Данная образовательная программа ориентирована на подготовку архитекторов и ведущих инженеров, обладающих глубокими междисциплинарными знаниями в области машинного обучения, DevOps-практик и кибербезопасности. Благодаря подготовке, мы выпускаем специалистов, способных проектировать, разрабатывать и эксплуатировать безопасные и надежные высоконагруженные системы машинного обучения (ML). В отличие от общих программ по ИБ или Data Science, выпускники данной программы будут обладать уникальной комбинацией практических компетенций на стыке трех областей:
- Машинное обучение: Глубокое понимание жизненного цикла ML-моделей, архитектуры нейросетей и процессов их обучения.
- DevOps/MLOps: Навыки построения и эксплуатации отказоустойчивых ML-пайплайнов, контейнеризации, оркестрации и CI/CD для ML.
- Информационная безопасность: Специализированные знания в области защиты ML-систем от целевых угроз (adversarial-атаки, отравление данных, кража моделей, инжекция промптов в LLM) и интеграции практик безопасности в каждый этап жизненного цикла (MLSecOps).
В чем преимущества программы?
1. Центральная методология: MLSecOps как инженерная дисциплина.
В отличие от большинства программ, которые рассматривают безопасность ИИ как либо одну из дисциплин или направлений, либо рассматривают применение ИИ для классических задач ИБ, программа «Информационная безопасность систем искусственного интеллекта» строится вокруг методологии MLSecOps. Это сквозной подход к интеграции практик безопасности (Security) на всех этапах жизненного цикла ML-системы: от сбора и подготовки данных до разработки модели, её развертывания (DevOps) и промышленной эксплуатации (Ops).
2. Фокус на защиту самих ИИ-систем как нового класса активов.
Отличие от программ «Искусственный интеллект в кибербезопасности» (СПбПУ, МГТУ им. Баумана, ДонГУ): данные программы готовят специалистов, которые используют ИИ как инструмент для решения задач традиционной кибербезопасности (например, обнаружение вторжений, анализ вредоносного ПО). Программа «Информационная безопасность систем искусственного интеллекта» готовит специалистов, которые защищают сам ИИ как объект атаки. Выпускники смогут проектировать и строить ML-системы, устойчивые к специализированным угрозам: adversarial-атакам, отравлению данных (data poisoning), краже моделей (model extraction), инжекции промптов (prompt injection) в LLM.
3. Практико-ориентированность и уникальная индустриальная интеграция.
Программа разрабатывается и реализуется при прямом участии ключевых технологических партнеров (VK, Ozon). Это обеспечивает не просто участие партнеров в реализации части дисциплин, а обеспечивает интеграцию реальных кейсов, данных и инструментов в учебный процесс, сквозной проектный трек и практики на базе компаний-партнеров.
4. Онлайн-формат, ориентированный на работающих специалистов и регионы.
Программа реализуется в онлайн-формате, что делает её доступной для квалифицированных абитуриентов из всех регионов России и других стран, а также позволяет совмещать обучение с профессиональной деятельностью. Это расширяет целевую аудиторию на практикующих ML-инженеров, DevOps- и Security-специалистов, желающих переквалифицироваться в востребованную область MLSecOps.
5. Глубокий охват современных и перспективных угроз, включая LLM.
Программа изначально включает изучение угроз и методов защиты для технологий последнего поколения: больших языковых моделей (LLM). Это снижает риск быстрого устаревания содержания и готовит специалистов к вызовам, которые будут актуальны на момент выпуска (2028 г. и далее).
6. Четкий профиль выпускника: MLSecOps-архитектор и инженер.
В отличие от программ, выпускающих «широких» специалистов по ИБ со знанием элементов ИИ, программа «Информационная безопасность систем искусственного интеллекта» целенаправленно формирует инженерный профиль для работы в продуктовых и инженерных командах, разрабатывающих высоконагруженные AI/ML-системы. Выпускники способны занимать позиции MLSecOps Engineer, AI Security Architect, ML Security Lead — новые роли, напрямую отвечающие на запрос рынка.
Где я буду работать?
- 06.032 «Специалист по безопасности компьютерных систем и сетей».
- 06.033 «Специалист по защите информации в автоматизированных системах».
Выпускник может применить свои знания и навыки в области проектирования, разработки и эксплуатации промышленных ML – систем. Будет готов работать в команде разработки AI/ML-продуктов, где буду обеспечивать безопасность компании на уровне данных, моделей, пайплайнов и инфраструктуры.
