• A
  • A
  • A
  • АБB
  • АБB
  • АБB
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта
2026/2027

Машинное обучение для малоресурсных языков

Статус: Маго-лего
Когда читается: 2 модуль
Охват аудитории: для всех кампусов НИУ ВШЭ
Язык: русский
Кредиты: 3
Контактные часы: 28

Программа дисциплины

Аннотация

Курс в формате практической лаборатории, в рамках которой изучим все области машинного обучения, которые можно использовать для сохранения и развития малоресурсных языков: asr, ocr, машинный перевод, выравнивание параллельных текстов, поиск и предобработка данных.
Цель освоения дисциплины

Цель освоения дисциплины

  • на примере малоресурсных языков ознакомиться с современными подходами и методами в машинном обучении для обработки текстов
  • иметь представление о том, какие способы лучше подходят для тех или иных задач разработки моделей для малоресурсных языков и почему;
  • уметь построить end2end систему под необходимую задачу;
  • разбираться в том как создавать и поддерживать системы при помощи агентов.
Планируемые результаты обучения

Планируемые результаты обучения

  • Владеет механизмами: multi-head attention, self-attention, маскирование, сглаживание в механизме внимания, positional encoding. Понимает ахитектуру transformer.
  • Понимает архитектуру transformer. Знает основные базовые модели на основе transformer. Ориентируется на ресурсе hugging face. Умеет пользоваться предобученными моделями
  • Понимать принципы работы нейросетевых моделей (Transformer, LLM), методы их настройки и адаптации под специфические предметные области.
  • Знать архитектуру Transformer
  • Умеет использовать современные инструменты для распознавания речи для пополнения текстовых корпусов.
  • Владеет методами машинного и глубокого обучения для обработки текстовых данных.
Содержание учебной дисциплины

Содержание учебной дисциплины

  • Использование ASR для пополнения корпусов
  • Использование методов машинного и глубокого обучения для фильтрации и обработки данных
Элементы контроля

Элементы контроля

  • неблокирующий лабораторные работы
  • неблокирующий семинары
  • неблокирующий Экзамен
Промежуточная аттестация

Промежуточная аттестация

  • 2026/2027 2nd module
    0.2 * Экзамен + 0.4 * лабораторные работы + 0.4 * семинары
Список литературы

Список литературы

Рекомендуемая основная литература

  • 45318 - Осваиваем архитектуру Transformer. Разработка современных моделей с помощью передовых методов обработки естественного языка - М.Асгари-Ченаглу; С.Йылдырым - ДМК Пресс - 9785937001061 - 2022 - https://hse.alpinadigital.ru/document/45318 - Alpina
  • Transformers for machine learning : a deep dive, Kamath, U., 2022

Рекомендуемая дополнительная литература

  • Осваиваем архитектуру Transformer : разработка современных моделей с помощью передовых методов обработки естественного языка, Йылдырым, С., 2022

Авторы

  • Дьячкова Анна Евгеньевна
  • Клышинский Эдуард Станиславович