Теория информации

Специалитет 2019/2020

Лучший по критерию «Полезность курса для Вашей будущей карьеры»

Лучший по критерию «Полезность курса для расширения кругозора и разностороннего развития»

Лучший по критерию «Новизна полученных знаний»

Статус: Курс обязательный (Компьютерная безопасность)

Кто читает: Кафедра компьютерной безопасности

Где читается: Московский институт электроники и математики им. А.Н. Тихонова

Когда читается: 3-й курс, 3, 4 модуль

Формат изучения: без онлайн-курса

Преподаватели: Миронкин Владимир Олегович

Специальность: 10.05.01. Компьютерная безопасность

Язык: русский

Кредиты: 4

Контактные часы: 62

Полная версия программы учебной дисциплины

Аннотация

Данная дисциплина относится к базовой части Профессионального цикла (Major), проводится на 3 курсе обучения и является обязательной. Для освоения учебной дисциплины студенты должны владеть базовыми знаниями и компетенциями, полученными при изучении следующих дисциплин: Теория вероятностей и математическая статистика, Теория информации, Системы и сети передачи информации. Результаты освоения дисциплины используются в дальнейшем при изучении таких дисциплин, как Компьютерные системы и сети, Модели безопасности компьютерных систем, Криптографические методы защиты информации, Компьютерные системы и сети.

Цель освоения дисциплины

Раскрыть содержание базовых понятий теории информации
Изучить математические модели источников информации и каналов связи
Дать представление о предельно допустимых значениях теоретико-информационных характеристик систем передачи информации

Планируемые результаты обучения

Знать фундаментальные понятия теории информации (энтропия, взаимная информация, источники сообщений, каналы связи, коды)
Знать основные свойства энтропии и взаимной информации
Знать понятие пропускной способности канала связи, прямую и обратную теоремы кодирования
Уметь вычислять теоретико-информационные характеристики источников сообщений и каналов связи (энтропия, взаимная информации, пропускная способность)
Уметь решать типовые теоретико-информационные задачи
Уметь работать с научно-технической литературой по тематике дисциплины
Владеть основами построения математических моделей текстовой информации и моделей систем передачи информации
Владеть навыками применения математического аппарата для решения прикладных теоретико-информационных задач

Содержание учебной дисциплины

Энтропия и взаимная информация
Предмет теории информации. Дискретные случайные величины. Собственная, условная и взаимная информация. Средняя взаимная информация. Сопоставление различных подходов к определению энтропии.
Дискретные источники сообщений
Математическая модель источника сообщений. Примеры источников сообщения. Стационарные источники. Свойство асимптотической равно распределённости. Теоремы теории информации. Теорема об асимптотической оценке.
Дискретные каналы связи
Математическая модель канала связи. Определение пропускной способности. Симметричные каналы связи.

Элементы контроля

Самостоятельная работа 1
Самостоятельная работа 2
Самостоятельная работа 3
Самостоятельная работа 4
Самостоятельная работа 5
Контрольная работа
Аудиторная активность
Экзамен

Промежуточная аттестация

Промежуточная аттестация (4 модуль)
0.1 * Аудиторная активность + 0.2 * Контрольная работа + 0.04 * Самостоятельная работа 1 + 0.04 * Самостоятельная работа 2 + 0.04 * Самостоятельная работа 3 + 0.04 * Самостоятельная работа 4 + 0.04 * Самостоятельная работа 5 + 0.5 * Экзамен

Программа дисциплины