ИИ в науке без иллюзий: где можно доверять, а где лучше перепроверить
27 августа 2026 на открытом вебинаре Центра научной интеграции НИУ ВШЭ Андрей Федоров, главный аналитик Отдела информационных систем и электронных ресурсов Библиотеки НИУ ВШЭ, рассказал, как исследователям работать с искусственным интеллектом, не теряя в качестве и научной строгости. Эксперт предложил практическую систему оценки рисков и показал, где ИИ действительно помогает, а где создает опасные ошибки.
Карта зон доверия к ИИ
По словам Андрея Федорова, вопрос «можно или нельзя использовать ИИ в науке» не имеет универсального ответа – все зависит от этапа исследования и цены ошибки. Эксперт предложил простую карту из трех зон.
Зеленая зона – это задачи, где ошибку легко заметить и она недорого обойдется. Сюда относится поиск литературы, составление черновиков структуры, перевод, форматирование библиографии под требования журнала. «Здесь ИИ работает как ассистент, а не как соавтор содержания», – отметил Андрей.
Желтая зона требует обязательной проверки. Сюда входит, например, написание кода для анализа данных. «Ошибка в коде не выглядит как ошибка – программа просто выдает число, и его легко принять на веру, потому что оно посчитано компьютером, а не интуицией», – объяснил спикер. То же самое с разделом обсуждения: ИИ может незаметно вывести формулировку вывода за пределы того, что реально показывают данные.
Красная зона – это два конкретных риска: фактическая достоверность и конфиденциальность. Модели могут придумывать ссылки, которые выглядят абсолютно правдоподобно – реальные имена авторов, правдоподобные названия, год, – но публикации не существует. Второй риск: если загружать в публичные сервисы неопубликованные данные или материалы заявки на грант, эта информация может уйти в базу данных модели и получить неконтролируемое распространение.
Библиографические галлюцинации: три типа ошибок
Андрей выделил три основных типа библиографических ошибок, которые создают языковые модели:
- Полная фабрикация – ссылка выглядит реалистично, но полностью сфабрикована и не существует ни в одной базе данных.
- Химера (гибрид) – собирается из фрагментов реальных публикаций: автор из одной, название из другой, журнал из третьей. Этот тип особенно коварен, потому что частичная достоверность создает ложное чувство надежности.
- Метаданные-призраки – реальная статья существует, но модель искажает ее выходные данные: год, название журнала, том. Это затрудняет поиск и проверку.
Эксперт привел конкретный пример: работа Юрия Лотмана о семиосфере действительно существует, но была опубликована в 1984 году в сборнике «Труды по знаковым системам», выпуск 17. Модель же выдала другие выходные данные.
Андрей также упомянул термин «алгоритмическая шизофрения», введенный исследователем Рустамом Алиевым для описания неспособности ИИ выявить собственные ошибки. При усложнении запроса модель комбинирует реальные факты из базы знаний с собственной фантазией, формируя псевдореальность без каких-либо сигналов неуверенности.
Пять стоп-сигналов: когда перестать доверять
Эксперт выделил пять признаков, по которым можно распознать, что ответу ИИ больше нельзя доверять:
- Гладкий ответ без единой оговорки – на узкий специализированный вопрос модель выдает идеально уверенный ответ без альтернативных версий. «Чем увереннее звучит ответ на действительно сложный вопрос, тем больше оснований для проверки, а не для доверия», – отметил Андрей.
- Форма ответа не говорит о его достоверности – правильный и продуманный ответ выглядит абсолютно так же, как и выдуманный. Нет никакого визуального или семантического маркера, по которому можно было бы отличить факт от фантазии модели.
- Библиографические конфабуляции – создание правдоподобных, но несуществующих источников.
- Модель не может сказать «я не знаю» – отсутствие неопределенности в сложных вопросах противоестественно.
- Ответ меняется при переформулировке – если задать один и тот же вопрос двумя разными формулировками и получить разные цифры или факты, это явный маркер того, что модель не помнит точный факт, а генерирует правдоподобное число заново.
Как документировать использование ИИ
Андрей показал, что единого стандарта раскрытия использования ИИ в российских журналах пока нет. Разные издания выбирают разные подходы: от либеральной позиции «Оптического журнала» (раскрывать нужно только если ИИ реально повлиял на содержание работы) до формализованной политики журнала «Научные и технические библиотеки», которая ссылается не только на международные стандарты, но и на российские ГОСТы.
Эксперт предложил универсальный шаблон раскрытия, который включает пять пунктов:
- Как использовался ИИ (инструмент, версия, дата доступа)
- Для каких задач (черновой поиск литературы, перевод, форматирование)
- Что НЕ делал ИИ (не формулировал гипотезы, не интерпретировал результаты, не генерировал ссылки без проверки)
- Кто верифицировал (автор, дата проверки)
- Ограничения и меры (учтена дата отсечки знаний модели, проведена дополнительная ручная проверка ключевых фактов)
«Третий пункт часто самый основной и самый пропускаемый, – подчеркнул Андрей. – Явно написать, чего ИИ не делал, снимает большинство вопросов рецензента, потому что заранее показывает, где проходит граница вашей личной научной ответственности».
Практический инструмент: интерактивный тренажер
Чтобы закрепить теорию на практике, Андрей Федоров подготовил для участников специальный интерактивный тренажер по материалам вебинара. Инструмент «Разбор кейса: карта зон ИИ» помогает быстро определить, в какую зону риска попадает конкретная исследовательская задача. Пользователю предлагается пройти четыре простых шага: выбрать этап работы, ответить на два наводящих вопроса о цене ошибки и отметить наличие стоп-сигналов, если они есть. В финале тренажер выдает цвет зоны, краткую рекомендацию и даже готовый черновик текста для корректного раскрытия использования ИИ. Опробовать инструмент можно по ссылке: https://aigateway.ru/webinar/zonai.html.
Что это значит для исследователей и где получить навыки
Проблема не в самом ИИ, а в отсутствии у большинства исследователей четкой системы: где делегировать, где проверять, а где не использовать вовсе. Предложенная Андреем карта зон помогает принять это решение на каждом этапе исследования.
Развитию именно этих компетенций посвящена программа повышения квалификации «ИИ для науки: как эффективнее работать с данными», старт которой намечен на 5 октября 2026 в Центре научной интеграции НИУ ВШЭ.
Обучение длится 9 недель и охватывает три ключевых направления: работу с научной литературой, анализ данных с помощью ИИ (включая агентные системы без навыков программирования), а также правовые и этические границы использования ИИ-технологий в исследованиях. Слушатели учатся не просто «общаться с чат-ботом», а выстраивать собственный исследовательский процесс: подбирать литературу через специализированные ИИ-поисковики, интерпретировать данные в строгом соответствии с научной методологией и прозрачно документировать использование ИИ в научных статьях и грантовых заявках.
Программа ориентирована на широкую академическую и прикладную аудиторию: ее уже успешно проходят преподаватели вузов, научные сотрудники (в том числе из РАН), магистранты и аспиранты, а также аналитики из коммерческих компаний, работающие на стыке науки и бизнеса. Как отметила выпускница первого потока Ольга Губина, старший научный сотрудник, Федеральный исследовательский центр комплексного изучения Арктики Уральского отделения РАН, курс помогает преодолеть первоначальный барьер и превратить ИИ из «черного ящика» в надежного интеллектуального партнера, который не подменяет, а усиливает экспертизу исследователя.
Федоров Андрей Олегович
Отдел информационных систем и электронных ресурсов: Главный аналитик