2026/2027




Машинное обучение для малоресурсных языков
Статус:
Маго-лего
Кто читает:
Школа лингвистики
Где читается:
Факультет гуманитарных наук
Когда читается:
2 модуль
Охват аудитории:
для всех кампусов НИУ ВШЭ
Язык:
русский
Кредиты:
3
Контактные часы:
28
Программа дисциплины
Аннотация
Курс в формате практической лаборатории, в рамках которой изучим все области машинного обучения, которые можно использовать для сохранения и развития малоресурсных языков: asr, ocr, машинный перевод, выравнивание параллельных текстов, поиск и предобработка данных.
Цель освоения дисциплины
- на примере малоресурсных языков ознакомиться с современными подходами и методами в машинном обучении для обработки текстов
- иметь представление о том, какие способы лучше подходят для тех или иных задач разработки моделей для малоресурсных языков и почему;
- уметь построить end2end систему под необходимую задачу;
- разбираться в том как создавать и поддерживать системы при помощи агентов.
Планируемые результаты обучения
- Владеет механизмами: multi-head attention, self-attention, маскирование, сглаживание в механизме внимания, positional encoding. Понимает ахитектуру transformer.
- Понимает архитектуру transformer. Знает основные базовые модели на основе transformer. Ориентируется на ресурсе hugging face. Умеет пользоваться предобученными моделями
- Понимать принципы работы нейросетевых моделей (Transformer, LLM), методы их настройки и адаптации под специфические предметные области.
- Знать архитектуру Transformer
- Умеет использовать современные инструменты для распознавания речи для пополнения текстовых корпусов.
- Владеет методами машинного и глубокого обучения для обработки текстовых данных.
Содержание учебной дисциплины
- Использование ASR для пополнения корпусов
- Использование методов машинного и глубокого обучения для фильтрации и обработки данных
Промежуточная аттестация
- 2026/2027 2nd module0.2 * Экзамен + 0.4 * лабораторные работы + 0.4 * семинары
Список литературы
Рекомендуемая основная литература
- 45318 - Осваиваем архитектуру Transformer. Разработка современных моделей с помощью передовых методов обработки естественного языка - М.Асгари-Ченаглу; С.Йылдырым - ДМК Пресс - 9785937001061 - 2022 - https://hse.alpinadigital.ru/document/45318 - Alpina
- Transformers for machine learning : a deep dive, Kamath, U., 2022
Рекомендуемая дополнительная литература
- Осваиваем архитектуру Transformer : разработка современных моделей с помощью передовых методов обработки естественного языка, Йылдырым, С., 2022