2023/2024

Теория информации

Статус: Маго-лего

Кто читает: Базовая кафедра Яндекс

Когда читается: 1, 2 модуль

Охват аудитории: для всех кампусов НИУ ВШЭ

Преподаватели: Верещагин Николай Константинович, Мануйленко Никита Сергеевич

Язык: русский

Кредиты: 6

Контактные часы: 56

Программа дисциплины

Аннотация

В науке не существует единого подхода к определению понятия информации. В разных областях это понятие трактуется по-разному. Имеются информация по Хартли, энтропия Шеннона, Колмогоровская сложность, коммуникационная сложность. Каждое из этих понятий отражает некоторую грань интуитивного понятия информации. В курсе будет рассказано об этих понятиях и как они применяются в решении разных задач.

Цель освоения дисциплины

• Обучить студентов основным понятиям и методам теории информации, необходимым как в дальнейшем обучении, так и в работе по специальности
• Целями освоения дисциплины являются овладение студентами основными концепциями и результатами теории информации, а также ее приложений

Планируемые результаты обучения

• Владеть навыками формализации и решения практических задач методами теории информации
• Знать основные понятия и методы теории информации
• Уметь пользоваться основными методами теории информации для решения задач как в области теории информации, так и за ее пределами

Содержание учебной дисциплины

• Информация по Хартли
• Коммуникационная сложность
• Классическая теория информации Шеннона
• Применение теории информации Шеннона
• Игры и предсказания
• Начала теории обучения
• Алгоритмическая теория информации

Элементы контроля

• Дз 1
• Дз 2
• Контрольная работа

Промежуточная аттестация

• 2023/2024 учебный год 2 модуль
  0.3 * Дз 1 + 0.3 * Дз 2 + 0.4 * Контрольная работа

Список литературы

Рекомендуемая основная литература

• Верещагин, Н. К. Информация, кодирование и предсказание : монография / Н. К. Верещагин, Е. В. Щепин. — Москва : МЦНМО, 2012. — 236 с. — ISBN 978-5-94057-920-5. — Текст : электронный // Лань : электронно-библиотечная система. — URL: https://e.lanbook.com/book/71863 (дата обращения: 00.00.0000). — Режим доступа: для авториз. пользователей.

Рекомендуемая дополнительная литература

• Cesa-Bianchi, N., Lugosi, G. Prediction, learning, and games. – Cambridge university press, 2006. – 408 pp.
• Верещагин, Н. К. Колмогоровская сложность и алгоритмическая случайность : учебное пособие / Н. К. Верещагин, В. А. Успенский, А. Шень. — Москва : МЦНМО, 2013. — 575 с. — ISBN 978-5-4439-2012-2. — Текст : электронный // Лань : электронно-библиотечная система. — URL: https://e.lanbook.com/book/56395 (дата обращения: 00.00.0000). — Режим доступа: для авториз. пользователей.
• Шень, А. Игры и стратегии с точки зрения математики / А. Шень. — Москва : МЦНМО, 2007. — 40 с. — ISBN 978-5-94057-271-8. — Текст : электронный // Лань : электронно-библиотечная система. — URL: https://e.lanbook.com/book/9443 (дата обращения: 00.00.0000). — Режим доступа: для авториз. пользователей.