Информационная безопасность систем искусственного интеллекта

• Учебный год 2026/2028
• RUS обучение ведется на русском языке
• 15 кредиты

Преподаватель - Иванов Федор Ильич

Аннотация

Семинар наставника предназначен для координации учебной деятельности по освоению ОП в соответствии с ИУП студентов, объединенных одним семинаром наставника. На семинаре студенты получают представление о передовом опыте и исследованиях в области MLSecOps, соотнесенных с тематикой программы. В ходе семинаров студенты разбирают возможности применения знаний, полученных в рамках учебных курсов, для решения практических задач проектирования безопасных и надежных ML-систем. Семинар развивает навыки критического анализа, командной работы, управления проектами и академического взаимодействия.

Курс является базовым и развивает такие умения как анализ больших объемов информации, коммуникативные навыки в части устного и письменного изложения сложной технической информации, а также умение работать в команде. Полученные знания и навыки студенты могут применять на протяжении всего учебного процесса.

Ключевые образовательные результаты

- Формирование целостного представления о методологии MLSecOps

- Развитие навыков критического анализа и командной работы

- Освоение практик академического взаимодействия и управления проектами

- Интеграция знаний из различных дисциплин для решения комплексных задач

Список литературы

-1. Корягина, Н. А. Самопрезентация и убеждающая коммуникация : учебник и практикум для вузов / Н. А. Корягина. — Москва : Издательство Юрайт, 2019. — 225 с. — (Высшее образование). — ISBN 978-5-534-11562-8

Дополнительная литература

1. MITRE ATLAS: Matrix — https://atlas.mitre.org/matrices/ATLAS.

2. OWASP ML Top 10 — https://owasp.org/www-project-machine-learning-security-top-10/.

- Учебный год 2026/2027

-RUS обучение ведется на русском языке

-3 кредиты

Преподаватель – ______________________

Аннотация

Данный курс является ключевым интеграционным элементом первого года обучения, синтезирующим знания и навыки, полученные в фундаментальных и специализированных дисциплинах Major. В рамках курса студенты выполняют сквозной командный проект по созданию промышленного ML-сервиса, уделяя особое внимание встраиванию практик безопасности (MLSecOps) на всех этапах его жизненного цикла. Проектная деятельность строится на непосредственном применении компетенций, сформированных в рамках обязательных курсов: для разработки ядра сервиса, создания ML-пайплайнов и API используются инструменты и принципы промышленного программирования на Python; безопасная конфигурация инфраструктуры, защита от сетевых угроз и анализ инцидентов опираются на знания системного программирования и кибербезопасности; а проектирование надежного, консистентного и безопасного хранилища данных и метаданных моделей реализуется с учетом современных подходов к работе с базами данных. Этот опыт служит переходным звеном от освоения отдельных технологий к комплексному решению инженерных задач и закладывает методологическую основу для выполнения выпускной квалификационной работы (ВКР), позволяя студенту на практике отработать полный цикл создания ML-продукта, обоснование архитектурных решений и презентацию результатов. Итогом курса является защита рабочего прототипа сервиса с демонстрацией его архитектуры и реализованных механизмов защиты. 

Базовые курсы: Промышленное программирование на Python, Системное программирование и кибербезопасность, базы данных: хранение и передача информации
Курс является базовым для: Подготовка ВКР

Ключевые образовательные результаты

- Практическое применение знаний для создания полноценного ML-сервиса

- Формирование навыков сквозной разработки - от данных до production

- Освоение принципов проектирования безопасных и отказоустойчивых систем

- Развитие навыков презентации и защиты проектных решений

Список литературы

-Hulten, G. Building Intelligent Systems: A Guide to Machine Learning Engineering. — Apress, 2018

Дополнительная литература

1. MLflow: A Tool for Managing the Machine Learning Lifecycle — https://mlflow.org/.

2. Docker Documentation — https://docs.docker.com/

- Учебный год 2026/2027

-RUS обучение ведется на русском языке

-6 кредиты

Преподаватель – _______________________

Аннотация

Курс предназначен для систематизации и углубления знаний в области математики и машинного обучения. Содержание включает повторение и изучение ключевых разделов математического анализа, линейной алгебры, теории вероятностей и математической статистики, необходимых для успешного освоения специализированных дисциплин программы. Особое внимание уделяется применению математических методов для решения прикладных задач ML: оптимизация, линейная регрессия, методы понижения размерности, основы теории информации. Курс включает практические задания на Python с использованием библиотек NumPy, SciPy, Pandas.

Курс также затрагивает математические основы, лежащие в архитектуре больших языковых моделей (LLM), такие как механизмы внимания и принципы работы трансформеров, что создает фундамент для последующего изучения их безопасности.

Курс является базовым адаптационным курсом, необходимым для выравнивания знаний студентов в области математики и машинного обучения. Приобретенные знания могут быть применены практически на всех курсах программы

Ключевые образовательные результаты

- Систематизация математических основ ML: анализ, алгебра, теория вероятностей

- Формирование навыков применения математических методов к прикладным задачам ML

- Освоение практической работы с Python-библиотеками для вычислений

- Создание фундамента для освоения специализированных дисциплин

- Формирование базового понимания архитектурных и математических принципов, лежащих в основе современных генеративных моделей (LLM)

Список литературы

-Bishop, C. M. Pattern Recognition and Machine Learning. — Springer, 2006

Дополнительная литература

1. Goodfellow, I., Bengio, Y., Courville, A. Deep Learning. — MIT Press, 2016.

2. Hastie, T., Tibshirani, R., Friedman, J. The Elements of Statistical Learning. — Springer, 2009

- Учебный год 2026/2027

-RUS обучение ведется на русском языке

-6 кредиты

Преподаватель – _________________________

Аннотация

Курс посвящен изучению инструментов и практик промышленной разработки на Python для создания машинного обучения (ML) компонентов и пайплайнов. Материал курса развивает математические основы и базовые концепции ML, освоенные в адаптационном курсе, в направлении их программной реализации. Рассматриваются современные фреймворки для ML (scikit-learn, PyTorch, TensorFlow), библиотеки для обработки данных (Pandas, Dask) и создания веб-API (FastAPI). В рамках курса изучаются практики обеспечения качества и поддерживаемости кода: статическая типизация (mypy), модульное тестирование (pytest), логирование, профилирование и оптимизация. Отдельный модуль посвящен применению методологий промт-инжиниринга (prompt engineering) для взаимодействия с API больших языковых моделей (LLM) в целях автоматизации задач разработки и анализа кода. Полученные компетенции в области разработки на Python непосредственно используются при создании ядра ML-сервиса в курсовом проекте, при построении автоматизированных пайплайнов в дисциплине «Разработка и эксплуатация моделей машинного обучения (MLOps)», а также при реализации логики работы с данными в курсе «Современные технологии хранения и обработки данных».

Базовые курсы: Адаптационный курс по машинному обучению и математике

Курс является базовым для: Курсовой проект - разработка защищенного ML-сервиса, Разработка и эксплуатация моделей машинного обучения (MLOps), Современные технологии хранения и обработки данныхы

Ключевые образовательные результаты

- Освоение практик промышленной разработки на Python

- Формирование навыков создания надежных и поддерживаемых ML-пайплайнов

- Изучение инструментов типизации, тестирования, логирования и оптимизации

- Интеграция DevOps-практик в процессы ML-разработки

- Применение инструментов и методик промт-инжиниринга для повышения эффективности разработки и анализа кода

Список литературы

-Ramalho, L. Fluent Python: Clear, Concise, and Effective Programming. — O'Reilly Media, 2022

Дополнительная литература

1. Python Documentation — https://docs.python.org/3/.

2. McKinney, W. Python for Data Analysis. — O'Reilly Media, 2022

 - Учебный год 2026/2027

-RUS обучение ведется на русском языке

-3 кредиты

Преподаватель – _______________________

Аннотация

Курс направлен на изучение языка программирования C++ для разработки высокопроизводительных компонентов в составе систем машинного обучения (ML). Материал охватывает современные стандарты языка (C++17/20), управление памятью, работу с шаблонами, а также принципы многопоточного и асинхронного программирования. Практическая часть курса включает задачи по оптимизации вычислительных ядер, интеграции C++-библиотек в Python-проекты с использованием pybind11 и разработке эффективных модулей для инференса ML-моделей. Полученные знания и навыки низкоуровневого программирования и оптимизации составляют необходимую основу для освоения дисциплин «Высокопроизводительные вычисления и параллельная обработка в ML системах» и «Системное программирование и кибербезопасность», где они применяются для создания распределенных вычислительных систем и реализации механизмов защиты на уровне кода и исполняемой среды.

Является базовым для: Высокопроизводительные вычисления и параллельная обработка в ML системах, Системное программирование и кибербезопасность

Ключевые образовательные результаты

- Освоение высокопроизводительных вычислений на C++ для ML-систем

- Формирование навыков оптимизации вычислительных ядер

- Изучение методов управления памятью и многопоточного программирования

- Разработка компонентов для инференса ML-моделей

Список литературы

-Stroustrup, B. The C++ Programming Language. — 4th ed. — Addison-Wesley, 2013

Дополнительная литература

1. Meyers, S. Effective Modern C++. — O'Reilly Media, 2014.

2. Williams, A. C++ Concurrency in Action. — Manning Publications, 2019

- Учебный год 2027/2028

-RUS обучение ведется на русском языке

-3 кредиты

Преподаватель – ____________________________

Аннотация

Курс посвящен изучению архитектурных решений, технологий и инструментов для хранения и обработки данных в контексте задач машинного обучения (ML). Материал курса опирается на математические основы анализа данных и алгоритмов, а также на навыки программирования на Python, полученные в рамках адаптационного курса и дисциплины «Промышленное программирование на Python». Рассматриваются реляционные (PostgreSQL) и нереляционные (ClickHouse, Cassandra, Redis) системы управления базами данных, распределенные файловые системы (HDFS, S3) и фреймворки для распределенной обработки (Apache Spark). Особое внимание уделяется принципам проектирования отказоустойчивых, масштабируемых и безопасных хранилищ, а также оптимизации запросов для ML-сервисов. Полученные компетенции в области организации данных и инфраструктуры необходимы для последующего изучения дисциплины «Мониторинг, телеметрия и управление ML-системами», где они применяются для построения систем сбора, анализа и визуализации телеметрии, включая отслеживание состояния данных и моделей.

Базовые курсы: Адаптационный курс по машинному обучению и математике, Промышленное программирование на Python

Является базовым для: Мониторинг, телеметрия и управление ML-системами

Ключевые образовательные результаты

- Освоение современных подходов к хранению и обработке больших данных

- Формирование навыков проектирования отказоустойчивых и масштабируемых хранилищ

- Практический опыт работы с реляционными и нереляционными СУБД

- Оптимизация запросов для ML-сервисов

Список литературы

-Kleppmann, M. Designing Data-Intensive Applications. — O'Reilly Media, 2017

Дополнительная литература

1. Apache Spark Documentation — https://spark.apache.org/documentation.html.

2. Martin, R. C. Clean Architecture. — Prentice Hall, 2017

- Учебный год 2027/2028

-RUS обучение ведется на русском языке

-6 кредиты

Преподаватель – _________________________

Аннотация

Курс рассматривает методы и инструменты распараллеливания вычислений для задач машинного обучения (ML). Материал основывается на математических основах ML и навыках низкоуровневого программирования, полученных в рамках адаптационного курса и дисциплины «Углубленное программирование на C++». В ходе обучения изучаются архитектуры CPU/GPU, программирование на CUDA, применение фреймворков для распределенного обучения (Horovod, PyTorch DDP), а также техники оптимизации процессов инференса, управления памятью и организации конвейеров данных в условиях высоких нагрузок. Полученные компетенции в области высокопроизводительных вычислений необходимы для освоения дисциплины «Мониторинг, телеметрия и управление ML-системами», где они применяются для анализа производительности, диагностики узких мест и обеспечения эффективности работы распределенных ML-систем в production-среде.

Базовые курсы: Адаптационный курс по машинному обучению и математике, Углубленное программирование на C++

Курс является базовым для: Мониторинг, телеметрия и управление ML-системами

Ключевые образовательные результаты

- Освоение методов распараллеливания вычислений в задачах ML

- Формирование навыков программирования на CUDA и использования GPU

- Изучение фреймворков для распределенного обучения

- Оптимизация процессов инференса в условиях высоких нагрузок

Список литературы

-Kirk, D. B., Hwu, W. W. Programming Massively Parallel Processors. — Morgan Kaufmann, 2016

Дополнительная литература

1. NVIDIA CUDA Documentation — https://docs.nvidia.com/cuda/.

2. PyTorch Tutorials — https://pytorch.org/tutorials/

- Учебный год 2026/2027

-RUS обучение ведется на русском языке

-6 кредиты

Преподаватель – ____________________________

Аннотация

Курс рассматривает основы системного программирования в контексте обеспечения безопасности инфраструктуры машинного обучения (ML). Материал опирается на математические основы ML и знания низкоуровневого программирования, полученные в адаптационном курсе и дисциплине «Углубленное программирование на C++». В ходе обучения изучаются устройство операционных систем (на примере Linux), управление процессами и памятью, сетевые взаимодействия, механизмы аутентификации и авторизации. Особое внимание уделяется практикам безопасного кодирования, анализу уязвимостей и методам защиты на уровне ОС и сети. Отдельно рассматриваются специфичные угрозы для систем, использующих большие языковые модели (LLM), включая риски, связанные с промт-инъекциями (prompt injection) и эксплуатацией уязвимостей в API-интерфейсах моделей. Приобретенные компетенции в области системной безопасности являются необходимой основой для дисциплин «Проектирование высоконагруженных и отказоустойчивых ML систем» и «Мониторинг, телеметрия и управление ML-системами», где они применяются для создания защищенных архитектур, анализа системных метрик и расследования инцидентов безопасности.

Базовые курсы: Адаптационный курс по машинному обучению и математике, Углубленное программирование на C++

Курс является базовым для: Проектирование высоконагруженных и отказоустойчивых ML систем, Мониторинг, телеметрия и управление ML-системами

Ключевые образовательные результаты

- Понимание устройства ОС и сетевых взаимодействий в контексте ML-инфраструктуры

- Освоение практик безопасного кодирования

- Формирование навыков анализа уязвимостей и защиты на уровне ОС

- Изучение механизмов аутентификации и авторизации

- Анализ новых классов угроз, характерных для систем, построенных на основе больших языковых моделей (LLM)

Список литературы

-Kerrisk, M. The Linux Programming Interface. — No Starch Press, 2010

Дополнительная литература

1. MITRE ATT&CK Framework — https://attack.mitre.org/.

2. Tanenbaum, A. S. Modern Operating Systems. — Pearson, 2022

 - Учебный год 2027/2028

-RUS обучение ведется на русском языке

-3 кредиты

Преподаватель – ___________________

Аннотация

Курс рассматривает принципы и методы проектирования архитектуры систем машинного обучения (ML), ориентированных на работу в условиях высоких нагрузок и требующих обеспечения отказоустойчивости. Материал курса интегрирует знания в области защиты системной инфраструктуры и обеспечения конфиденциальности данных, полученные в дисциплинах «Системное программирование и кибербезопасность» и «Безопасность данных и конфиденциальность в ИИ». В ходе обучения изучаются архитектурные паттерны (микросервисы, event-driven), стратегии балансировки нагрузки, механизмы репликации данных и проектирование систем, сохраняющих работоспособность в условиях сбоев. Приобретенные компетенции в области проектирования комплексных ML-архитектур составляют основу для подготовки выпускной квалификационной работы (ВКР), где они применяются для обоснования выбора архитектуры, анализа компромиссов между производительностью, надежностью и безопасностью, а также для проектирования системы в рамках решаемой исследовательской или инженерной задачи.

Базовые курсы: Системное программирование и кибербезопасность, безопасность данных и конфиденциальность в ИИ

Курс является базовым для: Подготовка ВКР

Ключевые образовательные результаты

- Освоение принципов проектирования ML-систем, устойчивых к высоким нагрузкам

- Формирование навыков применения архитектурных паттернов

- Изучение методов балансировки нагрузки и репликации данных

- Проектирование систем, обеспечивающих стабильную работу в условиях сбоев

Список литературы

-Kleppmann, M. Designing Data-Intensive Applications. — O'Reilly Media, 2017

Дополнительная литература

1. Nygard, M. T. Release It! Design and Deploy Production-Ready Software. — Pragmatic Bookshelf, 2018

 - Учебный год 2027/2028

-RUS обучение ведется на русском языке

-3 кредиты

Преподаватель – __________________________

Аннотация

Курс рассматривает инструменты и методологии мониторинга, телеметрии и управления промышленными системами машинного обучения (ML). Материал курса интегрирует знания о производительности распределенных вычислений, основах системной безопасности и архитектуре хранения данных, полученные в рамках дисциплин «Высокопроизводительные вычисления и параллельная обработка в ML системах», «Системное программирование и кибербезопасность» и «Современные технологии хранения и обработки данных».

В ходе обучения изучаются инструменты сбора метрик (Prometheus), визуализации (Grafana), логирования (ELK Stack), трейсинга (Jaeger), методы анализа аномалий, построения оповещений, а также специализированный мониторинг качества ML-моделей (data drift, concept drift) и автоматизация реагирования на инциденты.

Приобретенные компетенции в области эксплуатационной observability применяются при подготовке выпускной квалификационной работы (ВКР) для обоснования выбора метрик, проектирования систем контроля целостности и безопасности ML-системы, а также анализа её поведения в production-среде.

Базовые курсы: Высокопроизводительные вычисления и параллельная обработка в ML системах, Системное программирование и кибербезопасность, Современные технологии хранения и обработки данных

Курс является базовым для: Подготовка ВКР

Ключевые образовательные результаты

- Освоение инструментов мониторинга промышленных ML-систем

- Формирование навыков сбора метрик, визуализации и логирования

- Мониторинг качества ML-моделей (data drift, concept drift)

- Построение систем оповещения и автоматизации реагирования на инциденты

Список литературы

-Beyer, B. et al. Site Reliability Engineering: How Google Runs Production Systems. — O'Reilly, 2016

Дополнительная литература

1. Prometheus Documentation — https://prometheus.io/docs/.

2. Evidently AI — https://evidentlyai.com/

- Учебный год 2027/2028

-RUS обучение ведется на русском языке

-6 кредиты

Преподаватель – ______________________________

Аннотация

Курс рассматривает методологии и инструменты, обеспечивающие полный жизненный цикл машинного обучения (ML) — от экспериментов до промышленной эксплуатации (MLOps). Материал курса основывается на математических основах ML и навыках разработки на Python, полученных в рамках адаптационного курса и дисциплины «Промышленное программирование на Python». В ходе обучения изучаются инструменты версионирования данных и моделей (DVC, MLflow), автоматизации пайплайнов (Kubeflow, Airflow), практики непрерывной интеграции и доставки (CI/CD) для ML, а также управление экспериментами и развертыванием моделей в различных окружениях. Полученные компетенции в области оркестрации ML-рабочих нагрузок являются основой для дисциплины «Контейнеризация и оркестрация в ML», где они углубляются применительно к контейнерным платформам. Знания и практический опыт, приобретенные в данном курсе, также применяются при подготовке выпускной квалификационной работы (ВКР) для построения воспроизводимых экспериментальных стендов, проектирования развертываемых ML-архитектур и описания инженерной части исследования.

Базовые курсы: Адаптационный курс по машинному обучению и математике, Промышленное программирование на Python

Курс является базовым для: Контейнеризация и оркестрация в ML, Подготовка ВКР

Ключевые образовательные результаты

- Освоение полного жизненного цикла ML-моделей

- Формирование навыков версионирования данных и моделей

- Автоматизация ML-пайплайнов и CI/CD процессов

- Управление экспериментами и развертыванием моделей

Список литературы

-Treveil, M. et al. Introducing MLOps. — O'Reilly Media, 2020

Дополнительная литература

1. MLflow Documentation — https://mlflow.org/docs/latest/index.html.

2. Kubeflow Documentation — https://www.kubeflow.org/docs/

- Учебный год 2027/2028

-RUS обучение ведется на русском языке

-6 кредиты

Преподаватель – ____________________________

Аннотация

Курс рассматривает технологии контейнеризации и оркестрации для развертывания и управления рабочими нагрузками машинного обучения (ML). Материал курса развивает знания в области автоматизации жизненного цикла ML-моделей, полученные в дисциплине «Разработка и эксплуатация моделей машинного обучения (MLOps)», и фокусируется на их реализации в изолированных и масштабируемых средах. В ходе обучения изучаются создание Docker-образов для ML-приложений, настройка и администрирование Kubernetes-кластеров, управление основными ресурсами (поды, сервисы, ingress-контроллеры), а также использование специализированных инструментов (KFServing, Seldon Core) для организации serving-инфраструктуры моделей. Приобретенные компетенции в области контейнерной оркестрации применяются при подготовке выпускной квалификационной работы (ВКР) для проектирования и описания развертываемой, отказоустойчивой и масштабируемой архитектуры ML-системы, являющейся ключевым компонентом большинства инженерно-ориентированных исследований.

Базовые курсы: Разработка и эксплуатация моделей машинного обучения (MLOps)

Курс является базовым для: Подготовка ВКР

Ключевые образовательные результаты

- Освоение использования контейнеров и оркестраторов для ML-рабочих нагрузок

- Формирование навыков создания Docker-образов для ML-приложений

- Настройка Kubernetes-кластеров для управления ML-сервисами

- Использование специализированных инструментов для servingа ML-моделей

Список литературы

-Hightower, K. et al. Kubernetes: Up and Running. — O'Reilly Media, 2022

Дополнительная литература

1. Docker Documentation — https://docs.docker.com/.

2. Kubernetes Documentation — https://kubernetes.io/docs/home/

- Учебный год 2026/2027

-RUS обучение ведется на русском языке

-6 кредиты

Преподаватель - _____________________________

Аннотация

Курс предоставляет углубленные знания по работе с базами данных в контексте систем машинного обучения (ML). Рассматриваются реляционные (PostgreSQL) и нереляционные (MongoDB, Redis) системы управления базами данных, их внутреннее устройство, методы индексирования, механизмы транзакций, а также стратегии репликации и шардирования. Особое внимание уделяется принципам обеспечения консистентности, доступности и безопасности данных. Полученные компетенции в области проектирования и оптимизации хранилищ составляют необходимую основу для последующего изучения дисциплин «Безопасность данных и конфиденциальность в ИИ» и «DevSecOps: безопасность в жизненном цикле разработки», где они применяются для реализации механизмов защиты информации, аудита доступа и интеграции проверок безопасности в процессы работы с данными. Практические навыки работы с СУБД непосредственно используются при выполнении курсового проекта по разработке защищенного ML-сервиса для создания отказоустойчивой и безопасной логики хранения и обработки данных.

Курс является базовым для: Безопасность данных и конфиденциальность в ИИ, DevSecOps: безопасность в жизненном цикле разработки, курсовой проект - разработка защищенного ML сервиса

Ключевые образовательные результаты

- Углубленное понимание работы с базами данных в контексте ML-систем

- Формирование навыков проектирования схем данных и оптимизации запросов

- Освоение методов обеспечения консистентности, доступности и безопасности данных

- Изучение внутреннего устройства СУБД и методов индексирования

Список литературы

-Redmond, E., Wilson, J. R. Seven Databases in Seven Weeks. — Pragmatic Bookshelf, 2018

Дополнительная литература

1. PostgreSQL Documentation — https://www.postgresql.org/docs/.

2. MongoDB Documentation — https://www.mongodb.com/docs/.

- Учебный год 2026/2027

-RUS обучение ведется на русском языке

-6 кредиты

Преподаватель - ______________________________

Аннотация

Курс рассматривает методы защиты данных и обеспечения конфиденциальности в системах машинного обучения (ML). Материал основывается на математических основах ML и знаниях в области проектирования и управления базами данных, полученных в рамках адаптационного курса и дисциплины «Базы данных: хранение и передача информации». В ходе обучения изучаются основы криптографии, методы анонимизации и псевдонимизации, дифференциальная приватность, федеративное обучение и гомоморфное шифрование, а также анализ кейсов утечек данных. Приобретенные компетенции в области защиты информации на уровне данных и алгоритмов составляют необходимую основу для дисциплины «Проектирование высоконагруженных и отказоустойчивых ML-систем», где они применяются для внедрения требований конфиденциальности в архитектурные решения. Полученные знания также используются при подготовке выпускной квалификационной работы (ВКР) для обоснования выбора методов защиты данных, анализа соответствующих рисков и проектирования соответствующих механизмов в рамках решаемой исследовательской или инженерной задачи.

Базовые курсы: Адаптационный курс по машинному обучению и математике, Базы данных: хранение и передача информации

Курс является базовым для: Проектирование высоконагруженных и отказоустойчивый ML-систем, Подготовка ВКР

Ключевые образовательные результаты

- Освоение методов защиты данных и обеспечения конфиденциальности в ML-системах

- Формирование навыков применения дифференциальной приватности

- Изучение федеративного обучения и гомоморфного шифрования

- Анализ кейсов утечек данных и проектирование защищенных систем

Список литературы

-Dwork, C., Roth, A. The Algorithmic Foundations of Differential Privacy. — Now Publishers, 2014

Дополнительная литература

1. Bonawitz, K. et al. Towards Federated Learning at Scale: System Design. — Proc. of MLSys, 2019.

2. NIST Privacy Framework — https://www.nist.gov/privacy-framework

 - Учебный год 2026/2027

-RUS обучение ведется на русском языке

-6 кредиты

Преподаватель - ___________________________

Аннотация

Курс рассматривает методологии и практики интеграции безопасности в процессы разработки и эксплуатации систем машинного обучения (ML) в рамках подхода DevSecOps. Материал курса развивает знания в области обеспечения безопасности данных и инфраструктуры, полученные в дисциплине «Базы данных: хранение и передача информации». В ходе обучения изучаются методы статического и динамического тестирования безопасности (SAST, DAST), анализ состава программного обеспечения (SCA), управление уязвимостями, безопасность контейнеров, принципы инфраструктуры как код (IaC), а также автоматизация проверок безопасности в CI/CD-пайплайнах. Отдельное внимание уделяется подходам к обеспечению безопасности в проектах, использующих большие языковые модели (LLM), включая автоматизированное тестирование на устойчивость к промт-инъекциям и сканирование зависимостей, связанных с генеративным ИИ. Приобретенные компетенции в области автоматизации безопасности жизненного цикла ML-систем применяются при подготовке выпускной квалификационной работы (ВКР) для проектирования и реализации защищенных CI/CD-процессов, обоснования выбора инструментов безопасности и анализа соответствующих рисков в рамках разрабатываемого решения.

Базовые курсы: Базы данных: хранение и передача информации

Курс является базовым для: Подготовка ВКР

Ключевые образовательные результаты

- Интеграция практик безопасности в процессы разработки и эксплуатации ML-систем

- Освоение методов SAST, DAST, SCA и управления уязвимостями

- Формирование навыков автоматизации проверок безопасности в CI/CD

- Создание культуры информационной безопасности в командах разработки

- Освоение принципов обеспечения безопасности в жизненном цикле разработки систем, использующих генеративный ИИ и LLM

Список литературы

-OWASP DevSecOps Guideline — https://owasp.org/www-project-devsecops-guideline/

Дополнительная литература

1. Kim, G. et al. The DevOps Handbook. — IT Revolution Press, 2021.

2. McGraw, G. Software Security. — Addison-Wesley Professional, 2006