• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

В НИУ ВШЭ создали инструмент для оценки сложности текстов на малоресурсных языках

Инсталляция в Национальной библиотеке Республики Татарстан, использующая символы исторических письменностей татарского языка

Инсталляция в Национальной библиотеке Республики Татарстан, использующая символы исторических письменностей татарского языка
Фото: Wikimedia Commons

Исследователи Центра языка и мозга НИУ ВШЭ разработали инструмент, позволяющий определить сложность текстов на малоресурсных языках. В первой версии поддерживаются несколько малых языков России: адыгейский, башкирский, бурятский, татарский, осетинский и удмуртский. Это первая подобная разработка, адаптированная специально для этих языков и учитывающая их морфологические и лексические особенности.

По данным Института языкознания РАН, в России насчитывается 155 языков. Среди них есть малочисленные: например, на адыгейском говорят около 80 тысяч человек, на бурятском, осетинском и удмуртском — от 250 до 350 тысяч человек. Есть и языки с более чем миллионом носителей, например башкирский и татарский. Все эти языки имеют статус государственных в республиках России, поэтому важно не только сохранить их, но и создавать условия для их развития, а также возможности для обучения и реального использования, в том числе в образовании и науке. 

В 2025 году был принят Указ Президента РФ «Об утверждении Основ государственной языковой политики Российской Федерации». Он поддерживает языковое многообразие и задает курс на развитие и практическое использование языков народов России. Один из способов достичь этих целей — создать цифровые инструменты, которые сделают работу с малоресурсными языками проще и доступнее.

Команда ученых из Центра языка и мозга НИУ ВШЭ разработала онлайн-инструмент — калькулятор сложности текстов, который помогает быстро и легко оценить сложность текста на нескольких малых языках с учетом их лингвистических особенностей. Калькулятор создавался с опорой на опыт Антонины Лапошиной и Марии Лебедевой, разработавших инструмент для оценки сложности русскоязычных текстов («Текстометр»).

Калькулятор, созданный психолингвистами НИУ ВШЭ, оценивает тексты по нескольким параметрам: во-первых, длина и частотность слов — они анализируются на основе данных из больших языковых корпусов,  во-вторых, процент лексики из частотного списка, то есть учитывается доля слов, входящих в список 5000 наиболее употребляемых слов каждого языка, и, в-третьих, соотношение частей речи — анализируется распределение различных частей речи в тексте. Кроме того, калькулятор учитывает такие характеристики, как лексическая плотность, лексическое разнообразие, динамичность и описательность текста.

Ключевая инновация — использование формулы удобочитаемости Флеша, адаптированной для каждого языка отдельно. Это позволяет точнее оценивать сложность и удобство восприятия текста. 

Индекс Флеша основан на количестве слов, предложений и слогов, но исходные коэффициенты были подобраны для английского языка и плохо работают для языков с иной структурой — например, для полисинтетического адыгейского, где средняя длина слова значительно больше. В исследовании 2025 года Ульяны Петруниной и Нины Здоровой коэффициенты в формуле были пересчитаны для адыгейского языка отдельно, что значительно повысило точность оценки.

Ульяна Петрунина

«Параметры нашего калькулятора адаптированы под структурные особенности каждого из шести малоресурсных языков России — на основе корпусов текстов, частотного и морфологического анализа. Аналогичным образом мы скорректировали и классический индекс удобочитаемости Флеша. Благодаря этому алгоритм можно легко перенастраивать на другие малоресурсные языки, независимо от их типологических характеристик», — поясняет один из разработчиков инструмента, научный сотрудник Центра языка и мозга НИУ ВШЭ Ульяна Петрунина.

Инструмент поможет создавать сопоставимые стимульные материалы в научных экспериментах и обеспечит преподавателей ресурсом для подбора качественного учебного материала по уровням сложности. Такая разработка — важный вклад в сохранение и развитие малых языков России, поддержку языкового многообразия страны. 

Нина Здорова

«Наш инструмент позволяет исследователям и педагогам подбирать материалы с учетом их лингвистической сложности, что особенно важно для исследований и преподавания с ограниченным количеством ресурсов на данных языках», — отмечает Нина Здорова, один из авторов инструмента.

В следующих версиях планируется добавление других малоресурсных и мало представленных в лингвистике языков — не только на территории России.

Вам также может быть интересно:

ИИ будет предсказывать поломки промышленного оборудования до аварии

Институт искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ представил мультиагентный программно-аппаратный комплекс, который анализирует электрические параметры промышленного оборудования и помогает заранее выявлять признаки неисправностей. Разработка призвана перевести техническое обслуживание от ремонта после отказа к прогнозированию состояния оборудования и планированию работ до возникновения аварийной ситуации. Система была представлена в рамках IV профессиональной конференции для ИТ и инженерного cообщества в нефтегазовой отрасли.

Команда ВШЭ победила в технологическом конкурсе «Автономный поиск» для отряда «ЛизаАлерт»

Навигационная система, разработанная специалистами Лаборатории интеллектуальных беспилотных систем (ЛИБС) МИЭМ ВШЭ, предназначена для поиска людей и позволяет беспилотному аппарату автономно выполнять маршрутные задания без спутниковой навигации. Уникальность конкурса «Автономный поиск» — в комплексной проверке реально работающих технологий. Из 50 поданных заявок до квалификации допустили 15, в финал вышли четыре команды.

МТС и MAGNIT TECH стали индустриальными партнерами ФКН ВШЭ в рамках проекта «Топ-ИИ» Минцифры

Цель партнерства — объединить фундаментальную академическую базу факультета с актуальными задачами бизнеса. Благодаря проекту «Топ-ИИ» при поддержке гранта Минцифры России (при участии АНО «Аналитический центр при Правительстве Российской Федерации») и прямому участию лидеров индустрии студенты ФКН уже во время учебы включаются в разработку передовых технологий и выходят на рынок готовыми специалистами высокой квалификации по ключевым направлениям: генеративный искусственный интеллект, высоконагруженная инфраструктура, инженерия данных и машинное обучение в ритейле.

Лев Толстой и спецификации, контрапункт и инклюзивность ИИ: в НИУ ВШЭ обсудили вайбкодинг

В НИУ ВШЭ прошла первая международная конференция по вайбкодингу VIBE CODING RUSSIA 2026. Более 450 ее участников, спикеров из университетов, банков, телекома, кибербезопасности и самих вайбкодеров, обсудили, как ИИ сокращает путь от научного результата к продукту и кто отвечает за код, который пишет алгоритм.

Проект НИУ ВШЭ CheckAI победил на престижной премии BISA

НИУ ВШЭ укрепляет лидерские позиции в сфере отечественной кибернетической безопасности и искусственного интеллекта. Проект Вышки CheckAI под руководством Антона Сергеева, директора Центра программных разработок и цифровых сервисов МИЭМ ВШЭ, одержал победу на престижной профессиональной премии BISA «За вклад в безопасность цифрового будущего». Инновационная разработка была признана лучшей в номинации «Лучший проект — сервисы цифрового будущего».

В НИУ ВШЭ стартуют 11 исследовательских проектов с участием научных центров из пяти стран

Высшая школа экономики подвела итоги Конкурса совместных фундаментальных научных проектов «Международное академическое сотрудничество». Полностью поддержано пять проектов, еще шесть получили сокращенное финансирование. Исследовательские команды сформированы с участием учёных из Бразилии, ЮАР, Китая, Индии и Омана. Подробностями о победителях МАС 2026 поделился Александр Балышев, проректор НИУ ВШЭ.

НИУ ВШЭ разработает стандарт обучения по созданию и применению ИИ-агентов

НИУ ВШЭ совместно с российской платформой Nodul создаст стандарт и методику обучения по работе с ИИ-агентами. Доступ к платформе смогут получить до 8 тыс. студентов НИУ ВШЭ разных специальностей — от программистов до маркетологов, экономистов и юристов. По оценке Nodul, это станет самым массовым внедрением инструментов для создания ИИ-агентов в российском высшем образовании. Запуск новой программы начнется уже в текущем учебном году в рамках университетского проекта «Культура работы с данными» Data Culture.

«Наш коллектив состоит из настоящих лидеров в своих научных дисциплинах»

Международный центр анализа и выбора решений НИУ ВШЭ исследует широкий спектр методов изучения принятия решений и вероятных сценариев развития природных, социально-экономических и политических явлений, применяя различные математические модели. Использование методов высшей математики для прогнозирования позволяет избежать негативного развития событий и ошибочных решений. О деятельности центра новостная служба «Вышка.Главное» побеседовала с его директором профессором Фуадом Алескеровым.

Какие компетенции развивает аспирантура

Российская аспирантура, по оценкам ее выпускников, лучше развивает исследовательские навыки, чем сквозные компетенции, востребованные в различных, в том числе неакадемических, областях. К таким выводам пришли исследователи ИСИЭЗ НИУ ВШЭ Елизавета Маринина и Алена Нефедова, а также Галина Ефимова из Тюменского государственного университета. Результаты анализа были представлены на 38-й ежегодной международной конференции Консорциума исследователей высшего образования CHER 2026.

Ключевой навык — критическое мышление: в НИУ ВШЭ обсудили, как ИИ меняет требования к работникам

Форсайт-центр и Институт искусственного интеллекта и цифровых наук (Институт ИИ) НИУ ВШЭ провели круглый стол «Как меняется работа в эпоху ИИ: опыт бизнеса, науки и госсектора». Представители бизнеса и эксперты обсудили роль руководителя в интеграции ИИ в бизнес-процессы, границы доверия к самостоятельным решениям ИИ-агентов, а также почему пилотные проекты не доходят до внедрения и как справедливо оценить труд сотрудников, чья производительность выросла благодаря использованию ИИ.