• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

Ученые ВШЭ оптимизировали обучение генеративных потоковых нейросетей

Ученые ВШЭ оптимизировали обучение генеративных потоковых нейросетей

© iStock

Исследователи факультета компьютерных наук НИУ ВШЭ улучшили метод обучения генеративных потоковых нейросетей для работы с неструктурированными задачами. Это поможет искать новые лекарства эффективнее. Результаты работы были представлены на одной из ведущих конференций по машинному обучению — ICLR 2025. Текст работы доступен в репозитории Arxiv.org.

Генеративные потоковые сети (GFlowNets) — особый тип алгоритмов машинного обучения, который строит сложные объекты шаг за шагом. Ученые применяют их для поиска белков, лекарств и оптимизации транспортных систем. 

Чтобы GFlowNets находили такие сложные структуры, исследователи объясняют им  свойства объекта, который они хотели бы получить. Чем ближе решение нейросети по свойствам к заданным, тем более высокую награду она получит. Сеть стремится решить задачу так, чтобы получить максимальный приз. На данные она не обращает внимание, только на вознаграждение. Оно вычисляется через уравнение, которое называют функцией вознаграждения.

Процесс поиска сложного объекта можно сравнить со сборкой модели из блоков Lego. Вы последовательно добавляете детали, пока не получится что-то цельное, при этом у каждого объекта есть своя заданная ценность. Собранная модель растения, например, может оцениваться дороже модели животного. В отличие от других методов машинного обучения, которые будут стремиться любой ценой получить растение, GFlowNets будут собирать много разных объектов, но растения чаще, чем животных: так выгоднее.

При таком типе поиска GFlowNets используют две вероятностные модели, которые работают в паре: прямую и обратную. Прямая модель — прораб-строитель, который решает, куда идти дальше, и предсказывает вероятность последующего состояния, а обратная модель — эксперт-разборщик, который определяет, каким был предыдущий шаг. Важно, чтобы эти потоки были сбалансированы, но сделать это очень сложно. Во-первых, требуются большие вычислительные мощности, во-вторых, обратная модель не обладает достаточной гибкостью: обычно исследователи запрещают ей меняться в процессе поиска и подсматривать за действиями прямой.

Ученые НИУ ВШЭ нашли способ оптимизировать обратную модель с помощью метода Trajectory Likelihood Maximization (TLM). Они доработали алгоритмы обратной модели таким образом, чтобы она могла постоянно сверяться с действиями прямой модели.

Тимофей Грицаев

«Мы сделали так, что поиск оптимального решения стал похож на переговоры, в которых обе стороны готовы менять свою позицию. В  задачах с большой степенью неизвестности обратная модель — лишь вспомогательный инструмент, улучшающий результаты прямой модели. Мы искали способ сделать работу обратной модели гибкой и наконец смогли его получить», — поясняет один из авторов работы, стажер-исследователь Центра глубинного обучения и байесовских методов Института искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ Тимофей Грицаев.

После внедрения TLM функция вознаграждения, описывающая успешность решения задачи для обратной модели, стала сложнее. Однако, несмотря на увеличение сложности, вся система поиска стала быстрее и эффективнее.

Никита Морозов

«Наш метод заметно быстрее просматривает пространство возможных решений и находит больше качественных вариантов. Этот подход в целом сближает генеративные модели с методами обучения с подкреплением», — говорит Никита Морозов, младший научный сотрудник Центра глубинного обучения и байесовских методов Института искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ.

Авторы исследования уверены, что их работа поможет специалистам, применяющим GFlowNets в различных областях, таких как поиск новых лекарственных соединений, разработка материалов с заданными свойствами, а также тонкая настройка крупных языковых моделей. Благодаря способности таких сетей эффективно исследовать огромное пространство решений и быстро находить наиболее оптимальные варианты можно заметно сократить нагрузку на вычислительные мощности.

Вам также может быть интересно:

НИУ ВШЭ запатентовал цифровую платформу для разработки и апробации технологий связи 6G

Научно-исследовательский институт телекоммуникаций НИУ ВШЭ зарегистрировал собственную цифровую платформу для разработки и апробации технологий связи шестого поколения. Платформа позволяет проводить имитационное моделирование сетей связи на физическом и канальном уровнях, а также создавать цифровые двойники базовых станций и других элементов сетевой инфраструктуры.

Отличить тренд от хайпа: эксперты ИСИЭЗ ВШЭ показали, как превратить глобальные тренды в решения для бизнеса

Не каждое технологическое новшество становится трендом, и не каждое глобальное изменение сразу заметно бизнесу. Как вовремя реагировать на долгосрочные перемены, распознавать слабые сигналы, оценивать их последствия и соотносить с собственными задачами, рассказали эксперты ИСИЭЗ НИУ ВШЭ на сессии «Картирование хайпа: что внедрять, что игнорировать, что делегировать» в рамках конференции «ИнтерКомм.Конструктор».

Новые доказательства, старые вопросы: что ИИ творит с математикой

Искусственный интеллект все активнее участвует в математических исследованиях: находит решения известных задач, опровергает гипотезы, которые долгое время оставались предметом изучения. О новых возможностях ИИ и роли ученого говорили на открытой дискуссии «Математика в эпоху искусственного интеллекта», организованной факультетом математики НИУ ВШЭ. В ней приняли участие исследователи и представители индустрии.

Исследователи ФГГТ ВШЭ — в числе авторов первого в России комплексного доклада о проектах по удалению СО2 из атмосфер

Первый в России аналитический доклад о наземных проектах по удалению диоксида углерода из атмосферы (CDR) и перспективах их инвестирования представили на 31-й Конференции сторон Рамочной конвенции ООН об изменении климата (COP31) в Анталье. Документ подготовили Центр технологий устойчивого развития (ЦТУР), Исследовательский центр энергетической политики и международных отношений (ИЦ ЭНЕРПО) Европейского университета в Санкт-Петербурге, компания АЛРОСА и Центр цифровых технологий для природно-климатических проектов НИУ ВШЭ.

Ученые ФКН ВШЭ представили исследования в области тензорных методов на международной конференции в Китае

Исследователи Института искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ приняли участие в Международной конференции-школе по тензорным методам в математике и вычислениях для искусственного интеллекта (3rd Conference-School on Tensor Methods in Mathematics and Artificial Intelligence Computing). Мероприятие прошло в конце октября в Шэньчжэне (Китай). Одна из работ ученых института получила награду Best Poster Award и вошла в число пяти лучших постеров конференции.

Исследователи НИУ ВШЭ с помощью iFORA показали, куда движется Индустрия 4.0

Высшая школа экономики представила возможности системы интеллектуального анализа больших данных iFORA на форуме Kazan Digital Week. Исследователи проанализировали технологические возможности и угрозы для Индустрии 4.0. С докладом выступил директор Центра стратегической аналитики и больших данных ИСИЭЗ НИУ ВШЭ Константин Вишневский.

«Демографы не боятся заглянуть в будущее»

Один из стратегических технологических проектов (СТП), реализуемых в НИУ ВШЭ, — «Национальный центр социально-экономического и научно-технологического прогнозирования». В рамках этого СТП научные коллективы разрабатывают прогнозы развития различных отраслей. Что представляет собой прогноз в сфере демографии, какие факторы учитываются его авторами и как можно будет использовать его результаты, «Вышке.Главное» рассказал директор Института демографии имени А.Г. Вишневского НИУ ВШЭ Михаил Денисенко.

Физики научили ИИ настраивать пучок частиц в ускорителе

Исследователи Института искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ и Института ядерной физики СО РАН разработали RLABC — программу, которая помогает подбирать оптимальные настройки ускорителя частиц с помощью обучения с подкреплением. В компьютерном эксперименте программа настроила модель так, что до конца ускорителя доходило около 70% частиц. Исследование опубликовано в журнале Computer Physics Communications.

«Погружение в машинное обучение — 2026»: от фундаментальных исследований до дискуссий о будущем ИИ

23–24 октября в Высшей школе экономики состоялась пятая конференция «Погружение в машинное обучение» (Fall into ML 2026). За пять лет мероприятие выросло из камерной встречи исследователей в масштабную научную площадку, объединяющую ведущих специалистов по машинному обучению, молодых ученых, студентов и представителей технологических компаний. Юбилейный год стал новым этапом развития конференции: в программу вошли дискуссии с участием международных спикеров, обсуждение совместных исследовательских проектов и мини-курсы по актуальным направлениям искусственного интеллекта.

Мир ИИ: «Ответственность за принимаемые решения останется на людях»

В НИУ ВШЭ прошла V конференция «Погружение в машинное обучение». В ходе панельной дискуссии форума «Прорыв в области искусственного интеллекта: каким станет ИИ и кем станем мы?» эксперты поделились прогнозами, как изменятся наука и ИТ-индустрия через 5–10 лет и какие задачи по-прежнему останутся за человеком.