Delivered at:: Big Data and Information Retrieval School

Course type:: Elective course

When:: 2 year, 1-3 module

Instructors

Бурцев Леонид Андреевич

Здержиков Николай Игоревич

Косолапов Илья Артемович

Levin, Ilya

Морозов Станислав Викторович

Поздняков Арсений Константинович

Ряжапов Айдар Хамзаевич

Таумурзаев Ахматали Канаматович

Третьяк Илья Дмитриевич

Хитрин Глеб Игоревич

Дополнительные материалы в LMS Задать вопрос

Аннотация

Курс представляет собой введение в теорию вероятностей. В рамках курса будет изложена аксиоматка Колмогорова и построены основные объекты и понятия теории вероятностей, такие как вероятностное пространство, случайная величина, распределение вероятностей, математическое ожидание, дисперсия, характеристические функции и другие. Отдельное внимание будет посвящено вопросам независимости и формуле Байеса. Также будут изучены необходимые базовые результаты из теории меры, имеющие отношение к теории вероятностей. Кроме того, подробно будет изучены вопросы сходимости случайных величин и доказаны законы больших чисел и центральная предельная теорема. В качестве приложений планируется изучение различных неравенств о концентрации меры и приложения к рандомизированной линейной алгебре.

Цель освоения дисциплины

Иметь представление о современной аксиоматике теории вероятностей
Уметь работать со случайными величинами и вычислять их различные характеристики
Владеть навыками решения базовых задач теории вероятностей

Планируемые результаты обучения

Владеть теорией сходимости случайных величин
Знать основные теоремы теории вероятностей: закон больших чисел, центральную предельную теорему
Владеть навыками приложения теории вероятностей в других разделах математики

Содержание учебной дисциплины

Конечное вероятностное пространство. Простейшие свойства вероятности. Случайные величины в дискретных вероятностных пространствах. Примеры стандартных распределений
Общее понятие вероятностного пространства. Алгебра, сигма-алгебра, примеры. Борелевская сигма-алгебра. Лемма о существовании наименьшей (порожденной) системы. Мера, сигма-конечная мера, вероятностная мера.
Вероятностные меры в многомерном пространстве R^n с борелевской сигма-алгеброй B(R^n). Простейшие свойства вероятности. Теорема о непрерывности вероятностной меры. Измеримые функции (в R^n), замкнутость относительно sup
Случайная величина. Функция распределения и её свойства. Теорема о взаимооднозначном соответствии функции распределения и вероятностной меры. Примеры и классификация функций распределения на R.
Ступенчатая функция, представимость измеримых функций в виде пределов ступенчатых. Определение интеграла, линейность.
Матожидание. Pushforward меры и абстрактная формула замены переменной. Плотность распределения. Математическое ожидание функции от случайного вектора, имеющего плотность. Дисперсия и ковариация. Следствия из теоремы о свойствах дисперсии и ковариации.
Теорема Фубини, определение свертки, измеримость и интегрируемость. Формула свёртки. Свойства дисперсии, ковариации и коэффициента корреляции. Матрица ковариаций случайного вектора. Неравенство Йенсена.
Теорема Радона-Никодима. Дивергенция Кульбака-Лейблера и ее основные свойства.
Дискретные, сингулярные и абсолютно-непрерывные меры. Теорема Лебега о разложении меры.
Условные вероятности. Формула полной вероятности. Аналог формулы полной вероятности для математического ожидания. Формула Байеса. Независимость событий. Независимость случайных величин и случайных векторов. Критерий независимости в терминах плотностей.
Многомерное нормальное распределение. Теорема об эквивалентных определениях для гауссовского вектора. Линейные преобразования гауссовского вектора. Лемма о независимости компонент гауссовского вектора. Теорема о плотности гауссовского вектора.
Сходимости измеримых функций (случайных величин). Сходимость почти всюду (наверное) и по мере (вероятности). Предельный переход под знаком интеграла (математического ожидания). Теорема о монотонной сходимости. Теорема Лебега о мажорируемой сходимости.
Неравенства Маркова и Чебышева. Закон больших чисел в форме Чебышева и Кантелли.
Теорема Прохорова
Характеристическая функция случайной величины и случайного вектора, основные свойства
Сходимость в основном, по распределению и слабая сходимость.
Теорема Бохнера.
Центральная предельная теорема
Определение и условия существования условного матожидания. Основные свойства условного матожидания. Условные распределения.
Границы Чернова
Субгауссовы случайные величины.
Неравенство об оценке для липшицевых функций от нормальных случайных величин.
Лемма Джонсона-Линденштраусса
Рандомизированная линейная алгебра

Элементы контроля

Бонусное домашнее задание
На каждом семинаре выдаются бонусные домашние задания. Бонусные домашние задания сдаются устно семинаристу. Бонусные задачи сдаются до начала сессии, во время сессии их уже нельзя досдавать.
Письменный экзамен
Письменный экзамен проходит в письменной форме в зимнюю сессию. На письменном экзамене студенту выдается набор задач для самостоятельного решения. Задачи могут быть как вычислительного характера, так и теоретические (доказать утверждение, дать определение, сформулировать).
Экзамен
Экзамен проходит в устной очной форме. На экзамене студенту выдается 2 теоретических вопроса, которые требуется рассказать с доказательством (4 балла), несколько вопросов на формулировки и определения (2 балла), и 1-2 задачи (2 балла). Кроме того, на экзамене принимающий задает допвопросы по своему усмотрению, которые также оцениваются до 2 баллов (уточняющие вопросы по билету не считаются за допвопросы). На экзамене запрещается пользоваться любыми вспомогательными материалами.
Контрольные работы
За курс будет проведено 2 контрольные работы. Первая контрольная включает в себя темы, посвященные элементарной теории вероятностей, математическим основаниям теории вероятностей, условным вероятностям и многомерному нормальному распределению. Она будет проведена после того, как эти темы будут рассказаны на лекциях (примерно после 11 лекции). Вторая контрольная будет проведена в конце курса и содержать оставшиеся темы. Контрольные работы будут проводиться вне времени лекций и семинаров. На каждой контрольной студентам выдается набор задач для письменного решения. На контрольной можно пользоваться любыми бумажными источниками, но нельзя общаться и пользоваться электронными устройствами.
Домашнее задание
На каждом семинаре выдается домашнее задание.
Коллоквиумы
Первый коллоквиум проходит после построения математических основ теории вероятностей (примерно 9 лекция). Второй коллоквиум включает условные вероятности, многомерное нормальное распределение и вопросы сходимости (примерно 17 лекция). Коллоквиум сдается устно. На коллоквиуме запрещается пользоваться любыми вспомогательными материалами.

Промежуточная аттестация

2026/2027 2nd module
Оценка по результатам промежуточной аттестации зимней сессии вычисляется следующим образом: ИтогПром = Округление(0.25 * Кол1 + min{7.5, 0.25 * Кр1 + 0.25 * ПЭ + 0.25 * ДЗ + 0.1 * БДЗ}). ПЭ – оценка за письменный экзамен (от 0 до 10) Кол1 – оценка за 1 коллоквиум(от 0 до 10 каждый), Кр1 – оценка за контрольную работу (от 0 до 10 каждая), ДЗ – оценка за домашние задания (от 0 до 10), БДЗ – оценка за бонусные домашние задания.
2026/2027 3rd module
Итоговая оценка за курс по результатам трех модулей вычисляется следующим образом: Итог = Округление(0.25 * Э + 0.15 * Кол1 + 0.15 * Кол2 + min{4.5, 0.1 * Кр1 + 0.1 * Кр2 + 0.1 * ПЭ + 0.15 * ДЗ + 0.1 * БДЗ}). Здесь Э — оценка за экзамен (от 0 до 10), ПЭ – оценка за письменный экзамен (от 0 до 10) Кол1 и Кол2 – оценки за 1 и 2 коллоквиумы соответственно (от 0 до 10 каждый), Кр1 и Кр2 – оценки за контрольные работы (от 0 до 10 каждая), ДЗ – оценка за домашние задания (от 0 до 10), БДЗ – оценка за бонусные домашние задания.

Список литературы

Авторы

Морозов Станислав Викторович

Bachelor’s Programme 'Applied Mathematics and Information Science'

Probability Theory

Instructors

Программа дисциплины