2026/2027
Безопасность данных и конфиденциальность в ИИ
Статус:
Маго-лего
Когда читается:
3, 4 модуль
Охват аудитории:
для своего кампуса
Язык:
русский
Кредиты:
6
Контактные часы:
48
Программа дисциплины
Аннотация
Курс посвящён угрозам конфиденциальности данных и методам их защиты на всех этапах жизненного цикла систем искусственного интеллекта — от сбора и подготовки обучающих выборок до эксплуатации и вывода моделей из эксплуатации. Дисциплина формирует целостное понимание того, как данные и обученные модели могут раскрывать чувствительную информацию и какими математическими, криптографическими, инженерными и организационно-правовыми средствами эти риски снижаются.
В ходе изучения дисциплины рассматриваются атаки на конфиденциальность моделей машинного обучения (определение принадлежности, инверсия модели, извлечение обучающих данных, кража модели), дифференциальная приватность и алгоритм DP-SGD, федеративное обучение с защищённой агрегацией, криптографические методы (гомоморфное шифрование, защищённые многосторонние вычисления, доверенные среды исполнения), обезличивание и синтетические данные, а также конфиденциальность больших языковых моделей (утечки, инъекции в промпт, риски RAG, OWASP LLM Top 10).
Курс имеет выраженную отраслевую направленность на финансовый сектор. Отдельные модули посвящены криптографии в ИИ и обработке информации ограниченного доступа: как с помощью ИИ обрабатывать банковскую тайну и персональные данные и, в особенности, как их обезличивать для целей обучения и совместной разработки моделей; применению ИИ в банках и построению системы защиты информации (СЗИ) для ИИ-систем, включая управление модельным риском. Нормативная часть опирается на актуальные документы Банка России: Кодекс этики в сфере разработки и применения ИИ на финансовом рынке (ИН-016-13/91 от 09.07.2025), Методические рекомендации по обеспечению информационной безопасности при разработке и применении ИИ (№ 3-МР от 16.06.2026) и Доклад «Применение искусственного интеллекта на финансовом рынке» (2025).
Практическая часть ориентирована на приватности-аудит и проектирование защиты данных собственного ML-проекта, который может использоваться в качестве основы выпускной квалификационной работы.