• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

НИУ ВШЭ представил в Китае исследование о безопасности нейросетей для анализа видео

НИУ ВШЭ представил в Китае исследование о безопасности нейросетей для анализа видео

Фото: из личного архива Александра Ивченко

Ученые Высшей школы экономики презентавали на международной конференции ChinaMM 2026 в Китае исследование о том, как искажения при передаче видео влияют на работу нейросетей. Авторы предложили новый способ проверять устойчивость таких моделей в условиях, близких к реальному использованию видеосервисов.

Работу представил в Тайюане директор Центра интеллекта машин Института робототехнических систем НИУ ВШЭ Александр Ивченко. Доклад, подготовленный Александром Ивченко, Алексеем Солдатовым, Виктором Минченковым, Владимиром Башуном и Антоном Сергеевым, получил название “Non-Secure VQA: Exploiting Codec Artifacts and Natural Distortions” («Небезопасная VQA: эксплуатация артефактов кодеков и естественных искажений»).  

Для демонстрации метода были выбраны модели оценки качества видео, которые, например, используются в YouTube для автоматической оценки качества восприятия пользователей. Такие модели обучались на оценках множества пользователей и должны следовать человеческим шаблонам восприятия.

Обычно устойчивость нейросетей проверяют с помощью специально созданных изменений изображения. Например, в видео или отдельные кадры вносят небольшие изменения, которые человек почти не замечает, и смотрят, насколько сильно меняется ответ модели. Авторы исследования предлагают другой подход: использовать искажения, которые и без специального воздействия возникают при обычной передаче видео по сети. Это могут быть снижение качества изображения при сжатии, потери данных или ошибки во время передачи.

Ивченко Александр Владимирович

Александр Ивченко

«Основная идея работы заключается в том, чтобы проверять нейросетевые модели в условиях, максимально похожих на реальные. При видеозвонке или просмотре потокового видео изображение меняется из-за сжатия и ограничений сети. Для пользователя такие изменения привычны и приемлемы, но они могут существенно изменять ответы нейросетевых моделей», — отмечает Александр Ивченко.

Исследователи обнаружили, что разные сцены в видео по-разному реагируют на такие изменения. Так, условно статичные сцены без мелких деталей практически не искажаются при небольших потерях в сети и слабо подвержены таким атакам, но сложные сцены, сцены с динамикой приведут к заметному изменению результата. Для проверки нейросетей важно учитывать особенности самого видео, а не только силу внесенного искажения.

Чтобы определить, какие видео наиболее чувствительны к искажениям, авторы разработали набор характеристик сцены. В него входят технические параметры видео, например разрешение, частота кадров и битрейт, а также характеристики изображения: яркость, цвет, контрастность, резкость, особенности движения и многие другие.

На основе этих характеристик исследователи отобрали 270 видеороликов из более чем 40 тысяч, собранных из четырех широко используемых наборов данных. Такой подход позволил получить разнообразную выборку и избежать ситуации, когда в эксперименте оказывается слишком много похожих видео.

Фото: из личного архива Александра Ивченко

На иллюстрациях можно проследить пример «слепой» атаки на нейросетевую модель оценки качества видео UVQ, используемую в YouTube. Слева — исходный кадр: модель оценивает его в 4,007 (из 5). В центре — кадр с сильными, хорошо заметными искажениями: оценка снижается до 3,431 (разница 0,576). Справа — кадр, который визуально почти не отличается от исходного, но из-за естественных искажений при сжатии и передаче видео модель оценивает его еще ниже — 3,380 (разница 0,627). Иллюстрация показывает, что нейросеть может реагировать на малозаметные для человека артефакты сильнее, чем на очевидные дефекты.

Для дальнейших экспериментов ученые создали собственный набор данных NetEmVQA V1. Они воспроизводили разные условия передачи видео по сети: меняли скорость передачи данных и моделировали потерю пакетов. Затем для каждого кадра оценивали, насколько изменилось качество видео и как на это отреагировала нейросетевая модель.

Результаты показали, что разработанный подход позволяет заранее определить, какие части видео наиболее чувствительны к искажениям. Для разделения чувствительных и менее чувствительных данных исследователи получили F1-меру более 95%. Метод также позволяет прогнозировать, насколько оценка качества отдельных кадров будет отличаться от средней оценки видео.

Исследование позволяет не только выявлять чувствительные к искажениям видео. Авторы также рассматривают возможность заранее определять, какие условия передачи данных приведут к нужному изменению оценки нейросети. Такой подход может использоваться для более детального тестирования моделей компьютерного зрения.

Предложенный метод потенциально применим и к другим задачам, в которых нейросети анализируют видео или изображения. Среди них авторы выделяют трекинг объектов и обнаружение дипфейков.

Вам также может быть интересно:

Исследователи ФГГТ ВШЭ — в числе авторов первого в России комплексного доклада о проектах по удалению СО2 из атмосфер

Первый в России аналитический доклад о наземных проектах по удалению диоксида углерода из атмосферы (CDR) и перспективах их инвестирования представили на 31-й Конференции сторон Рамочной конвенции ООН об изменении климата (COP31) в Анталье. Документ подготовили Центр технологий устойчивого развития (ЦТУР), Исследовательский центр энергетической политики и международных отношений (ИЦ ЭНЕРПО) Европейского университета в Санкт-Петербурге, компания АЛРОСА и Центр цифровых технологий для природно-климатических проектов НИУ ВШЭ.

Вышка открыла представительство на Ближнем Востоке и подписала соглашение с вузом №1 в ОАЭ

В Абу-Даби открылось официальное представительство Высшей школы экономики. Оно займется развитием образовательных, научных и гуманитарных инициатив на Ближнем Востоке и станет представительством не только Вышки, но и российского образования в целом — открытым для университетов, научных центров и бизнес-сообщества.

Ученые ФКН ВШЭ представили исследования в области тензорных методов на международной конференции в Китае

Исследователи Института искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ приняли участие в Международной конференции-школе по тензорным методам в математике и вычислениях для искусственного интеллекта (3rd Conference-School on Tensor Methods in Mathematics and Artificial Intelligence Computing). Мероприятие прошло в конце октября в Шэньчжэне (Китай). Одна из работ ученых института получила награду Best Poster Award и вошла в число пяти лучших постеров конференции.

Исследователи НИУ ВШЭ с помощью iFORA показали, куда движется Индустрия 4.0

Высшая школа экономики представила возможности системы интеллектуального анализа больших данных iFORA на форуме Kazan Digital Week. Исследователи проанализировали технологические возможности и угрозы для Индустрии 4.0. С докладом выступил директор Центра стратегической аналитики и больших данных ИСИЭЗ НИУ ВШЭ Константин Вишневский.

«Демографы не боятся заглянуть в будущее»

Один из стратегических технологических проектов (СТП), реализуемых в НИУ ВШЭ, — «Национальный центр социально-экономического и научно-технологического прогнозирования». В рамках этого СТП научные коллективы разрабатывают прогнозы развития различных отраслей. Что представляет собой прогноз в сфере демографии, какие факторы учитываются его авторами и как можно будет использовать его результаты, «Вышке.Главное» рассказал директор Института демографии имени А.Г. Вишневского НИУ ВШЭ Михаил Денисенко.

Физики научили ИИ настраивать пучок частиц в ускорителе

Исследователи Института искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ и Института ядерной физики СО РАН разработали RLABC — программу, которая помогает подбирать оптимальные настройки ускорителя частиц с помощью обучения с подкреплением. В компьютерном эксперименте программа настроила модель так, что до конца ускорителя доходило около 70% частиц. Исследование опубликовано в журнале Computer Physics Communications.

В Москве подвели итоги первых в истории Международных космических игр

Молодежные студенческие команды из восьми стран (Китая, Индии, Казахстана, Кыргызстана, Мексики, Пакистана, Узбекистана и России) успешно справились с главной задачей Международных космических игр (МКИ) — обеспечили устойчивую жизнедеятельность автономного поселения на другой планете.Уникальный формат МКИ, исключающий классическое соперничество ради победы одной страны, доказал свою эффективность. Оператором проекта выступает Высшая школа экономики.

«Погружение в машинное обучение — 2026»: от фундаментальных исследований до дискуссий о будущем ИИ

23–24 октября в Высшей школе экономики состоялась пятая конференция «Погружение в машинное обучение» (Fall into ML 2026). За пять лет мероприятие выросло из камерной встречи исследователей в масштабную научную площадку, объединяющую ведущих специалистов по машинному обучению, молодых ученых, студентов и представителей технологических компаний. Юбилейный год стал новым этапом развития конференции: в программу вошли дискуссии с участием международных спикеров, обсуждение совместных исследовательских проектов и мини-курсы по актуальным направлениям искусственного интеллекта.

Мир ИИ: «Ответственность за принимаемые решения останется на людях»

В НИУ ВШЭ прошла V конференция «Погружение в машинное обучение». В ходе панельной дискуссии форума «Прорыв в области искусственного интеллекта: каким станет ИИ и кем станем мы?» эксперты поделились прогнозами, как изменятся наука и ИТ-индустрия через 5–10 лет и какие задачи по-прежнему останутся за человеком.

Программа ТОП ИТ «ПРО» НИУ ВШЭ: первые результаты и перспективные задачи

Программа топ-уровня в МИЭМ ВШЭ — это трек подготовки кадров для ИТ-отрасли, созданный в партнерстве с ведущими российскими технологическими компаниями на программе высшего образования «Информатика и вычислительная техника». На треке обучаются студенты, прошедшие дополнительный отбор с учетом требований индустрии и способные быстро вырасти до уровней мидл и сеньор. Учебный процесс выстроен вокруг конкретных инженерных ролей.