• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

Автоматизированный сбор больших данных в экономико-социологических исследованиях

2019/2020
Учебный год
RUS
Обучение ведется на русском языке
4
Кредиты
Статус:
Курс по выбору
Когда читается:
1-й курс, 3, 4 модуль

Преподаватель

Программа дисциплины

Аннотация

Стремительный рост технологий привел к тому, что в данный момент исследователи имеют доступ к данными о самых разных аспектах жизни людей и о происходящих экономических и социальных процессах. Подобные данные отличаются большими объемами, разной степенью структурированности, многомерностью и специфическими формами хранения и доступа, и требуют от исследователя дополнительных навыков по сбору и обработке подобных данных. Курс направлен на знакомство с особенностями сбора и анализа больших данных в экономико-социологических исследованиях. Первая часть курса посвящена основам работы в среде R: элементы синтаксиса, объекты и структуры данных, манипуляции с данными, создание кодбуков (codebooks). Вторая часть курса посвящена импорту и препроцессингу данных из разных источников - файловые базы данных разных форматов (в том числе *.sav), удаленные базы данных. Отдельное внимание уделено парсингу данных с веб-страниц, работе с открытыми API, в том числе с API социальных сетей (в частности, Vkontakte). В третьей части курса рассмотрены методы и принципы визуализации данных (статичные и интерактивные графики), основы эксплораторного анализа и практики создания воспроизводимых отчетов.
Цель освоения дисциплины

Цель освоения дисциплины

  • Дать студентам представление о роли данных в современном мире и формирование базовых навыков работы с большими данными – импорт данных из разных источников, чистка и манипуляции с данными.
Планируемые результаты обучения

Планируемые результаты обучения

  • Знать основы синтаксиса R. Уметь делать базовые манипуляции с данными - семплинг, изменение строк и колонок, слияние таблиц, решейпинг, агрегации.
  • Знать виды источников данных. Уметь импортировать xlsx, sav, csv-файлы.
  • Уметь визуализировать данные в основных типах графиков (линии, гистограммы, боксплоты). Знать правила корректных визуализаций.
  • Знать общие концепции организации сети Интернет. Умение xpath-запросы и собирать данные с web-страниц. Уметь писать запросы к API Vkontakte.
Содержание учебной дисциплины

Содержание учебной дисциплины

  • Введение в большие данные - идеи, технологии, методы и области применения.
    Развитие технологий. Web2.0, удешевление технологий хранения, облачные технологии, интернет вещей, quantified self. Многообразие доступных данных. Тренды на открытую науку и предоставление данных в открытый доступ. Data-driven подход. Развитие машинного обучения и прочих методов анализа данных.
  • Виды источников данных
    Этапы ETL. Структурированные и неструктурированные типы данных. Основные форматы файлов - txt, csv, xls, sav. Структура файлов. Виды разделителей, символы окончания строки. Проблема кодировок и различия операционных систем. SQL-базы данных. Удаленные базы данных (API). Неструктурированные данные - json, xml. NoSQL-базы данных. Сохранение или запись файлов, представление в внешних веб-приложения.
  • Визуализация данных
    Задачи визуализации данных. Статичные графики, интерактивные визуализации, инфографика. Виды графиков - описательные, статистические, геокарты, многомерные графики. Принципы визуальной презентации данных. Ошибки в использовании линейных графиков, гистограмм, круговых и объемных диаграмм. Палитры для графиков.
  • Методы сбора удаленных данных. Парсинг.
    Сайты как источник данных. HTML, XPath, DOM-разметка. CSS-селекторы. Пакет rvest. Подключение и импорт данных из базы данных. Облачная архитектура. Подключение к API. Oauth-авторизация. Шифрование данных. Пароли. Хранение персональных данных, законы о защите персональных данных.
Элементы контроля

Элементы контроля

  • неблокирующий Контрольная работа 1
    Работа сдается в виде скрипта на R.
  • неблокирующий Домашнее задание 1
    Работа сдается в markdown-формате.
  • неблокирующий Контрольная работа 2
    Работа сдается в виде скрипта на R.
  • неблокирующий Домашнее задание 2
    Работа сдается в markdown-формате. Оценка за дисциплину выставляется в соответствии с формулой оценивания от всех пройденных элементов контроля. Экзамен не проводится.
Промежуточная аттестация

Промежуточная аттестация

  • Промежуточная аттестация (4 модуль)
    0.35 * Домашнее задание 1 + 0.35 * Домашнее задание 2 + 0.1 * Контрольная работа 1 + 0.2 * Контрольная работа 2
Список литературы

Список литературы

Рекомендуемая основная литература

  • - Мастицкий С.Э., Шитиков В.К. — Статистический анализ и визуализация данных с помощью R - Издательство "ДМК Пресс" - 2015 - ISBN: 978-5-97060-301-7 - Текст электронный // ЭБС Лань - URL: https://e.lanbook.com/book/73072

Рекомендуемая дополнительная литература

  • Introduction to R. (2016). France, Europe: HAL CCSD. https://doi.org/10.1051/eas/1677002