2026/2027
Дополнительные главы оптимизации
ID 1217232
Статус:
Маго-лего
Где читается:
Факультет компьютерных наук
Когда читается:
1 модуль
Охват аудитории:
для своего кампуса
Преподаватели:
Джанабекова Алия
Язык:
русский
Кредиты:
3
Контактные часы:
28
Программа дисциплины
Аннотация
Дисциплина посвящена современным методам непрерывной оптимизации, используемым в задачах машинного обучения и анализа данных. В курсе рассматриваются основы выпуклого анализа и условной оптимизации, градиентные методы и методы второго порядка, негладкая и составная оптимизация, барьерные методы и методы внутренней точки, ускоренные и стохастические градиентные методы, а также основные подходы к анализу невыпуклых задач. Особое внимание уделяется условиям применимости методов, их сходимости, вычислительной стоимости и зависимости эффективности алгоритмов от свойств оптимизируемой задачи
Цель освоения дисциплины
- Формирование у студентов системного представления о современных методах непрерывной оптимизации, их теоретических основаниях, условиях применимости и сравнительных свойствах, а также умений выбирать и анализировать методы оптимизации для задач, возникающих в машинном обучении и анализе данных
Планируемые результаты обучения
- Знание основных понятий выпуклого анализа; условий оптимальности для безусловных и условных задач; принципов работы и теоретических свойств градиентных, ньютоновских, квазиньютоновских, субградиентных, проксимальных, барьерных, ускоренных и стохастических методов; основных критериев качества алгоритмов оптимизации; понятий стационарности и условий сходимости в невыпуклой оптимизации
- Умение исследовать задачи оптимизации на выпуклость, гладкость и сильную выпуклость; формулировать условия Каруша–Куна–Таккера; анализировать сходимость и вычислительную сложность методов; выбирать подходящий метод с учетом структуры задачи, наличия ограничений, обусловленности и доступной информации о целевой функции; применять изученные методы к модельным задачам
- Владение навыками математического анализа алгоритмов оптимизации, вывода условий оптимальности и оценок сходимости, сравнительного анализа методов первого и второго порядка, а также методов решения негладких, стохастических и невыпуклых задач
Содержание учебной дисциплины
- Выпуклость, гладкость и сильная выпуклость
- Условная оптимизация: лагранжиан, двойственность и условия Каруша–Куна–Таккера
- Гладкая безусловная оптимизация: градиентный метод, метод Ньютона и квазиньютоновские методы
- Негладкая и составная оптимизация: субградиентные и проксимальные методы
- Барьерные методы и методы внутренней точки
- Ускоренные и стохастические градиентные методы
- Невыпуклая оптимизация
Элементы контроля
- Домашние заданияРегулярные индивидуальные задания по каждой теме курса, выполняемые и сдаваемые еженедельно. Задания направлены на закрепление теоретического материала, применение изученных методов и развитие навыков математического анализа задач и алгоритмов оптимизации
- ЭкзаменУстный экзамен по материалу дисциплины. Экзаменационный билет включает один теоретический вопрос и одну практическую задачу. В ходе ответа преподаватель может задавать дополнительные вопросы по программе дисциплины
