Научно-исследовательский семинар «Контролируемая генерация текста»

Бакалавриат 2026/2027

Статус: Курс по выбору (Фундаментальная и компьютерная лингвистика)

Кто читает: Школа лингвистики

Где читается: Факультет гуманитарных наук

Когда читается: 4-й курс, 1, 2 модуль

Охват аудитории: для своего кампуса

Преподаватели: Ляшевская Ольга Николаевна

Язык: русский

Кредиты: 4

Контактные часы: 28

Дополнительные материалы в LMS Задать вопрос

Аннотация

Тема курса -- разработка гибридных подходов в генерации текстов, объединяющих имплицитную информацию больших языковых моделей (LLM) и многоуровневые лингвистические представления. Предполагается, что контролируемая генерация повышает интерпретируемость, верифицируемость и воспроизводимость ответов LLM. В рамках курса будут рассмотрены задачи воспроизведения параметров связности текста (когезии и когерентности) в LLM, контроля дискурса (в соответствии с заданными риторическими структурами, намерениями говорящего, аргументативными целями и т. д.), управления стилем, сложностью и идиоматичностью текста, а также задач семантической и формальной компрессии (генерации ключевых выражений, тематического моделирования, перифразирования, суммаризации и упрощения, лексической аббревиации и др.). Отдельное внимание будет уделено разработке методов оценки результатов генерации. В результате слушатели получат более глубокое понимание роли теорий и моделей языка, а также методов аннотирования текстов в решении задач компьютерной лингвистики.

Цель освоения дисциплины

Познакомить слушателей с существующими подходами к решению задач семантического анализа, оценки когерентности текста, профилирования синтетических персон и т. д.
Научить слушателей применять компьютерные технологии моделирования лексики, коллокаций, конструкций и текста

Планируемые результаты обучения

Определяет сильные и слабые стороны существующих методов интерпретации
Различает методы пробинга и альтернативные подходы для анализа NLP-моделей
Ориентируется в современных подходах к интерпретации языковых моделей
студент владеет основными понятиями и методами, используемыми в представлении лексико-семантических отношений
студент владеет основными понятиями дистрибутивной семантики и векторного представления языковых единиц
студент владеет навыками работы с Word2vec/GloVe и архитектурами-трансформерами
студент владеет основными понятиями и методами работы с коллокациями, генерации, маскирования, промпт-инжиниринга
студент владеет основными понятиями и методами разработки таксономий
студент владееет методами классификации, ранжирования, генерации
студент владеет понятиями представления фреймовой информации
студент владеет методами решениями задач определения фреймов, разметки семантических ролей, генерации описания новых фреймов
студент владеет методами генерации ключевых выражений, перифразирования, суммаризации и упрощения высказываний и текстов

Содержание учебной дисциплины

Альтернативные методы интерпретации моделей
Практика: Примеры исследований и критический разбор
Практика: воспроизведение экспериментов
Представление лексико-семантических отношений в языковых моделях
Предсказание коллокаций с заданными свойствами с помощью языковых моделей
Дифференциация лексико-семантических отношений в языковых моделях
Предсказание конструкций с заданными свойствами
Выделение семантических ролей и генерация фреймов
Семантическая компрессия и языковые модели

Элементы контроля

Экзамен
Защита экзаменационной проектной работы
Участие в дискуссии
Выполнение практических заданий 1 модуль
Выполнение практических заданий 2 модуль

Промежуточная аттестация

2026/2027 2nd module
0.3 * Выполнение практических заданий 2 модуль + 0.05 * Участие в дискуссии + 0.3 * Выполнение практических заданий 1 модуль + 0.3 * Экзамен

Список литературы

Авторы

Ляшевская Ольга Николаевна

Программа дисциплины