Проектный семинар "Правовое регулирование и этика безопасного создания и использования систем искусственного интеллекта"

Магистратура 2026/2027

Статус: Курс обязательный (Информационная безопасность и технологии искусственного интеллекта)

Кто читает: Кафедра информационной безопасности киберфизических систем

Где читается: Московский институт электроники и математики им. А.Н. Тихонова

Когда читается: 1-й курс, 4 модуль

Охват аудитории: для своего кампуса

Преподаватели: Ошманкевич Ксения Романовна

Язык: русский

Кредиты: 6

Контактные часы: 32

Дополнительные материалы в LMS Задать вопрос

Аннотация

Учебная дисциплина «Правовое регулирование и этика безопасного создания и использования систем искусственного интеллекта» посвящена изучению правовых и этических аспектов разработки, внедрения и применения технологий искусственного интеллекта (ИИ) с акцентом на безопасность систем ИИ и управление связанными с ними рисками. Курс фокусируется на взаимосвязи цифровой этики и правового регулирования в эпоху развития ИИ, на основе анализа актуальных вызовов внедрения ИИ в различных сферах жизнедеятельности рассматриваются актуальные этико-правовые вопросы цифровой трансформации. В рамках курса рассматриваются вопросы юридической ответственности в сфере ИИ, обеспечения алгоритмической прозрачности и информационной безопасности систем ИИ, гарантии недопустимости дискриминации и нарушения прав граждан при применении технологий ИИ. Дисциплина нацелена на формирование у технических специалистов и разработчиков ИИ-систем компетенций по переводу требований регуляторов (включая требования Европейского акта об ИИ, российского законодательства и стандартов NIST) и этических стандартов в конкретные технические и архитектурные решения.

Цель освоения дисциплины

Получение комплексных знаний о правовых и этических аспектах внедрения искусственного интеллекта в различные сферы общественных отношений с акцентом на безопасность систем ИИ, которые позволят сформировать у технических специалистов и разработчиков ИИ-систем компетенций по применению правовых и этических норм на всех этапах жизненного цикла модели — от постановки задачи до вывода модели из эксплуатации.

Планируемые результаты обучения

Применяет глубокие знания в отношении правового регулирования безопасного создания и использования систем искусственного интеллекта
Перечисляет основные актуальные этические проблемы, которые возникают при создании и использовании систем искусственного интеллекта
Способен идентифицировать и классифицировать системы ИИ по уровню риска в соответствии с регуляторными требованиями
Называет основные критерии для обеспечения соответствия систем ИИ требованиям законодательства в области защиты данных, приватности и недискриминации
Способен применять методы обеспечения прозрачности и объяснимости как инструменты аудита и соответствия
Оценивает текущее состояние, возможности и ограничения, перспективы развития ИИ-систем с учетом этических стандартов
Объясняет взаимосвязи правового регулирования и этических аспектов создания ИИ-систем
Способен выявлять особенности правового регулирования безопасного создания и использовании ИИ-систем в России и в зарубежных странах
Оценивает текущее состояние, возможности и ограничения, перспективы развития искусственного интеллекта
Описывает взаимосвязи этики, права и искусственного интеллекта
Выявляет особенности влияния искусственного интеллекта на права человека
Способен формулировать подходы к правовой квалификации искусственного интеллекта
Называет принципы разработки, внедрения и использования технологий ИИ
Способен выявлять особенности влияния искусственного интеллекта на отдельные сферы и отрасли права
Владеет методиками применения полученных правовых знаний в ходе правоприменительной деятельности; методиками экспертной оценки технологий ИИ-систем с точки зрения соблюдения правовых и этических требований

Содержание учебной дисциплины

1. Регуляторный ландшафт и его влияние на архитектуру систем искусственного интеллекта
2. Управление данными в контексте правовых и этических требований
3. Этический инжиниринг: имплементация принципов в технические решения
4. Управление рисками и юридическая ответственность

Элементы контроля

Активность на семинарах
Групповой проект
Структура презентации: • Титульный лист. • Введение (актуальность, цели, задачи, объект анализа). • Описание системы ИИ и контекста её использования. • Анализ применимых правовых и этических норм (с обоснованием классификации системы по риску). • Идентификация и оценка рисков (с применением NIST AI RMF или аналога). • Рекомендации по управлению рисками (технические и организационные меры). • Выводы и предложения по дальнейшему мониторингу. • Список использованных источников. Формат защиты проекта: • Устная презентация – 10–15 минут. • Ответы на вопросы преподавателя и других студентов – 5–10 минут. • Интерактивная часть (по желанию): мини-опрос, квиз или короткая дискуссия по теме проекта.

Промежуточная аттестация

2026/2027 4th module
0.5 * Активность на семинарах + 0.5 * Групповой проект

Список литературы

Авторы

Ошманкевич Ксения Романовна
Евсютин Олег Олегович

Программа дисциплины