• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

Эксперты Вышки зададут стандарт искусственному интеллекту

Эксперты Вышки зададут стандарт искусственному интеллекту

© iStock

Высшая школа экономики по заказу Федерального агентства по технологическому регулированию и метрологии разработает российские стандарты создания и применения искусственного интеллекта (ИИ) в сетях связи, системах аналитики, нейронных сетях, системах госуслуг, для контроля оборота алкоголя и в других сферах. Об этом проекте и о том, зачем и как нужно стандартизировать ИИ, новостной службе портала рассказал директор по научным проектам НИУ ВШЭ, председатель национального технического комитета по стандартизации ТК164 «Искусственный интеллект» Сергей Гарбук.

Стандарты необходимы для создания благоприятных нормативных возможностей внедрения технологий искусственного интеллекта в различные отрасли экономики и социальной сферы. Дело в том, что в настоящее время отсутствуют единые, признанные профессиональным сообществом и государственными регуляторами правила подтверждения функциональной надежности и безопасности прикладных интеллектуальных систем. Отсутствие таких правил делает невозможным применение систем ИИ в наиболее ответственных задачах, ошибки решения которых могут привести к опасным последствиям: на транспорте, в медицине, образовании, в системах безопасности и других. Система стандартов в области искусственного интеллекта как раз и направлена, прежде всего, на формирование таких единых принципов оценки соответствия систем ИИ установленным требованиям, выполнение которых обеспечивало бы гарантии качества прикладных интеллектуальных систем.

Сергей Гарбук

Государству стандарты нужны для того, чтобы защитить потребителя систем ИИ, предоставляя ему гарантии качества, надежности и безопасности этих систем. Добросовестным разработчикам стандартизация в области искусственного интеллекта необходима для обеспечения единства измерений в этой сфере, благодаря чему появится, например, возможность объективного сопоставления прикладных систем ИИ, созданных разными разработчиками. Такая возможность обеспечит прозрачность конкурентной среды и безусловно будет способствовать развитию отрасли искусственного интеллекта в целом.

Стоит подчеркнуть, что технологии ИИ бурно развиваются. Большие перспективы открываются, в том числе, в связи с использованием интеллектуальных технологий в образовательном процессе. Но такое использование возможно лишь при одном условии: если будут обеспечены гарантии того, что качество образования при этом, как минимум, не снизится. Получение таких гарантий предполагает создание системы оценки соответствия интеллектуальных технологий предъявляемым требованиям. При этом как сами типовые требования к технологиям ИИ, так и способы оценки соответствия этим требованиям должны быть едиными для всех, то есть унифицированными, одобренными профессиональным сообществом, и закреплены в соответствующих стандартах.

Таким образом, отсутствие стандартов ИИ не позволяет использовать эти технологии во многих важных прикладных областях, включая образование, то есть там, где требуются определенные гарантии качества работы интеллектуальных систем. В данном случае можно говорить о наличии серьёзного нормативно-технического барьера, препятствующего эффективному созданию и применению систем искусственного интеллекта.

Стандарты ИИ уже несколько лет активно разрабатываются в разных странах и на международном уровне. Например, национальный план разработки стандартов искусственного интеллекта в США был принят в августе 2019 года. Работа над международными стандартами ведется с начала 2018 года, когда был создан соответствующий подкомитет SC42 Artificial Intelligence Объединенного технического комитета по стандартизации JTC1 Information Technologies. В настоящее время в разработке находится более 20 международных стандартов, и Высшая школа экономики принимает активное участие в этой работе.

В России Перспективный план разработки стандартов искусственного интеллекта на 2021-2024 годы был принят в конце 2020 года. В перечень работ Высшей школы экономики войдет разработка национальных стандартов общего назначения, устанавливающих термины и определения в данной области, форматы представления данных и другие вопросы, решение которых обеспечит терминологическое единство и необходимый уровень совместимости интеллектуальных систем с существующей и перспективной информационной инфраструктурой. Также значительное внимание будет уделено стандартам, устанавливающим единые требования к испытанию систем ИИ, рассчитанных на решение различных прикладных задач. Особенностью таких стандартов является то, что в этих документах будут сформулированы требования к тестовым наборам данных (т.н. датасетам), на которых необходимо проводить испытание интеллектуальных систем для определения их безопасности и функциональности.

Часть стандартов будет разрабатываться путем гармонизации отечественных нормативных документов с соответствующими международными стандартами. Такие работы также запланированы в рамках данного комплексного проекта.

Принципиальным моментом нормативно-технического регулирования ИИ на данном этапе является то, что стандарты не устанавливают требований к способам создания интеллектуальных систем. Унификации подлежат лишь принципы их испытаний, измерения функциональных характеристик и характеристик безопасности. При этом стандарты никак не ограничивают исследователей и разработчиков в выборе принципов создания и функционирования систем.

Вам также может быть интересно:

Эксперты ВШЭ рассказали слушателям Таврической духовной семинарии об ИИ-технологиях

Делегация Вышки в июне побывала с визитом в Таврической духовной семинарии Симферопольской и Крымской епархии. Стороны обсудили развитие партнерских проектов и совместных инициатив, в частности студенческие экспедиции в рамках проекта «Открываем Россию заново». Кроме того, директор Института искусственного интеллекта и цифровых наук ВШЭ Алексей Масютин прочел лекцию об ИИ-технологиях.

В НИУ ВШЭ состоялась первая конференция «Искусственный интеллект в медиа»

В работе форума приняли участие представители бизнеса, коммуникационных агентств, медиа, а также эксперты Вышки. Они обсудили то, как ИИ изменит креативные индустрии и повлияет на личный бренд и может ли искусственный интеллект помочь бизнесу лучше понять своего клиента. Стоит отметить, что прошедшая конференция — первая из серии запланированных мероприятий для профессионалов медиарынка и коммуникаций.

ВШЭ открывает программу подготовки элитных ИИ-специалистов в сфере прорывных технологий

Высшая школа экономики запускает программу «ИИ 360: Инженерия искусственного интеллекта» в формате трека на флагманской бакалаврской программе «Прикладная математика и информатика» факультета компьютерных наук. Партнерами станут «Яндекс» и Сбер, а также сильнейшие технические вузы — ИТМО, МФТИ и Университет Иннополис.

Обучение с подкреплением позволило лучше работать генеративным потоковым нейросетям

Ученые Центра ИИ и Института искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ применили классические алгоритмы обучения с подкреплением для настройки генеративных потоковых сетей (GFlowNets). Это позволило улучшить работу GFlowNets, которые применяются уже три года для решения сложнейших научных задач на этапах моделирования, генерации гипотез и экспериментального проектирования. Результаты работы вошли в 5% лучших публикаций на Международной конференции по искусственному интеллекту и статистике AISTATS, которая состоялась 2–4 мая 2024 года в Валенсии.

НИУ ВШЭ и Сбер провели форсайт искусственного интеллекта

Высшая школа экономики совместно со Сбером провела форсайт искусственного интеллекта (ИИ). Его первые итоги обсудили участники стратегической форсайт-сессии по поисковым исследованиям в сфере ИИ, которая прошла в Координационном центре Правительства РФ под руководством вице-премьера Дмитрия Чернышенко. Результаты форсайта лягут в основу Единой программы исследований и разработок в сфере ИИ.

Искусственный интеллект: «поход в качалку для мозга»

На днях в Вышке состоялось очередное заседание дискуссионного клуба «Самовар», главной темой которого на этот раз стал искусственный интеллект. Вместе с руководителем департамента больших данных и информационного поиска, доцентом факультета компьютерных наук ВШЭ Евгением Соколовым и директором по связям с общественностью НИУ ВШЭ, модератором встречи Романом Левковичем участники разбирались в том, что такое ИИ, что он умеет, чему и как быстро учится и зачем нам всем нужно об этом знать.

На выставке-форуме «Россия» представили систему сертификации технологий ИИ «Интеллометрика» НИУ ВШЭ

В рамках дней Росстандарта на выставке-форуме «Россия» прошла дискуссия о том, как обеспечить доверие к технологиям искусственного интеллекта. Участники рассказали о подходах к испытаниям систем ИИ в промышленности, управлении городом, образовании, в области контроля вредных выбросов. На сессии также была представлена система добровольной сертификации технологий ИИ «Интеллометрика», разработанная в Вышке.

На Академическом форуме БРИКС обсудили возможности и угрозы искусственного интеллекта

В рамках Академического форума БРИКС, который на днях завершил свою работу в Москве, ученые, эксперты и представители бизнеса обсудили вопросы развития технологий искусственного интеллекта (ИИ), в том числе разработку стандартов и этических норм в этой области, а также совместные исследовательские проекты стран объединения.

ФКН ВШЭ и МТС открывают магистратуру по искусственному интеллекту

В ходе конференции True Tech Day МТС объявила об открытии в сентябре 2024 года магистратуры по направлению «Исследования и предпринимательство в искусственном интеллекте» на факультете компьютерных наук Высшей школы экономики. Цель программы — применение новых технологий в бизнесе и обучение специалистов, которые будут заниматься созданием инновационных продуктов, используя передовые методы машинного и глубинного обучения.

НИУ ВШЭ — лидер среди вузов по вкладу в развитие ИИ

15 мая состоялось вручение премии «AI Awards: создатели будущего 2024».  Команда по искусственному интеллекту и цифровым продуктам «Билайна» Big Data & AI* совместно с Brand Analytics объявили победителей рейтинга искусственного интеллекта, который составила нейросеть. Вышка стала победителем в индустриальной номинации «Вузы. Вклад в развитие ИИ».