Бакалавриат 2026/2027

Научно-исследовательский семинар "Лингвистическая интерпретация языковых моделей"

Статус: Курс по выбору (Фундаментальная и компьютерная лингвистика)

Кто читает: Школа лингвистики

Где читается: Факультет гуманитарных наук

Когда читается: 3-й курс, 1, 2 модуль

Охват аудитории: для своего кампуса

Преподаватели: Бажуков Максим Олегович

Язык: русский

Кредиты: 3

Контактные часы: 36

Программа дисциплины

Аннотация

Большие языковые модели стали синонимом искусственного интеллекта: все важные интеллектуальные задачи подвержены автоматизации с их помощью. Тем не менее нам лишь отчасти известно, что же именно эти модели знают про мир, и какими закономерностями они руководствуются в работе. НИС посвящён обзору существующих подходов к этой проблеме и их избирательному воспроизведению.

Цель освоения дисциплины

• Ознакомление с основными методами анализа лингвистической интерпретации NLP-моделей
• Развитие навыков воспроизведения экспериментов и анализа результатов
• Ознакомление с работой агентных систем на основе больших языковых моделей и интерпретация работы таких систем
• Ознакомление с вопросами несовпадения целей и ценностей пользователя и модели

Планируемые результаты обучения

• Определяет сильные и слабые стороны существующих методов интерпретации
• Различает методы пробинга и альтернативные подходы для анализа NLP-моделей
• Ориентируется в современных подходах к интерпретации языковых моделей
• Называет основные этапы работы агента
• Интерпретирует поведение агента
• Определяет потенциальные проблемы запросов к языковой модели
• Исправляет поведение модели в сторону соответствия задачам и ценностям пользователя

Содержание учебной дисциплины

• Методы пробинга языковых моделей
• Альтернативные методы интерпретации моделей
• Практика: Примеры исследований и критический разбор
• Практика: воспроизведение экспериментов
• Агенты на основе языковых моделей
• Рассогласование целей и ценностей моделей с человеческими (misalignment)
• Философия языковых моделей и искусственного интеллекта

Элементы контроля

• Воспроизведение эксперимента
• Активность
  Оценивается прохождение мини-тестов и непосредственное участие в семинарах
• Доклад по статье

Промежуточная аттестация

• 2026/2027 2nd module
  0.45 * Доклад по статье + 0.25 * Активность + 0.3 * Воспроизведение эксперимента

Список литературы

Рекомендуемая основная литература

• 9781491962992 - Bengfort, Benjamin; Bilbro, Rebecca; Ojeda, Tony - Applied Text Analysis with Python : Enabling Language-Aware Data Products with Machine Learning - 2018 - O'Reilly Media - https://search.ebscohost.com/login.aspx?direct=true&db=nlebk&AN=1827695 - nlebk - 1827695

Рекомендуемая дополнительная литература

• Miroslav Kubat. (2017). An Introduction to Machine Learning (Vol. 2nd ed. 2017). Springer.

Авторы

• Бажуков Максим Олегович