• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

Эксперты Вышки просчитали риски цифровизации

Эксперты Вышки просчитали риски цифровизации

© iStock

Подавляющее большинство российских граждан — 85% — не готовы доверить принятие решений искусственному интеллекту, говорится в докладе Центра исследований гражданского общества и некоммерческого сектора НИУ ВШЭ. Соответствующее исследование он провел для Совета при Президенте РФ по развитию гражданского общества и правам человека (СПЧ). Чтобы минимизировать риски, нужна новая модель правового регулирования, говорится в исследовании.

Развитие цифровой сферы связано с серьезными рисками в области прав человека, заявил на пресс-конференции в минувшую пятницу председатель СПЧ Валерий Фадеев.  Он напомнил, что впервые эта тема была поднята на встрече президента с членами Совета в декабре прошлого года. По ее итогам глава государства дал ряд поручений, в частности, разработать методологические и правовые основы в сфере цифровизации, своего рода «цифровой кодекс».

«Как любая мощная технология, которая меняет жизнь почти всех областей деятельности человека, цифровизация несет новые риски. Мы должны минимизировать эти риски в области прав человека», — пояснил Фадеев.

В рамках подготовки предложений СПЧ взаимодействует с научным сообществом, с общественными институтами, подчеркнул глава СПЧ, представляя исследование ВШЭ «Влияние процессов цифровизации на права человека и развитие гражданского общества». По мнению авторов, цифровая среда дает много преимуществ: повышение производительности, создание новых продуктов, услуг, впечатлений, доступность актуальной и достоверной информации и новые технологии ее обработки.

Однако вместе с новыми возможностями появляются новые риски. Так, алгоритмическая обработка данных цифровыми платформами и государством может привести к нарушению права на неприкосновенность частной жизни. Также среди основных угроз: цифровая дискриминация граждан государством и частными корпорациями на основе злоупотребления персональными данными и накопления больших данных о гражданах; кибератаки и компьютерное мошенничество; кибербуллинг, троллинг, иные акты агрессии в цифровой среде; информационные войны в киберпространстве, рост числа «фейковых новостей» и спланированных кампаний по дезинформации в интернете, в том числе с использованием современных технологий синтезирования медиаконтента (DeepFake).

По результатам опроса выяснилось, что российские граждане обеспокоены соблюдением своих прав. Так, 64% граждан при пользовании интернетом опасаются утечки персональных данных, и только 35% не видят рисков. При этом с агрессией в интернете от незнакомых людей сталкивались лишь 28% опрошенных, 71% — не встречал словесных угроз в свой адрес.

Внедрение цифровых технологий в целом несет обществу только пользу (так считает 20% респондентов) или по крайней мере больше пользы, чем вреда (полагают 44% опрошенных).

Ирина Мерсиянова

«Чтобы граждане перестали опасаться доверять принятие решений искусственному интеллекту, у них должно возникнуть доверие к самой технической системе, — говорит директор Центра исследований гражданского общества и некоммерческого сектора НИУ ВШЭ Ирина Мерсиянова. — Однако доверие на пустом месте возникнуть не сможет, ведь это, по сути, оправданные ожидания от взаимодействия. Даже если постоянно уверять людей в том, что все хорошо и надежно, без своего опыта взаимодействия доверие не возникнет. У людей просто не будет такой установки».

Несмотря на пока несформировавшееся доверие граждан к искусственному интеллекту, вектор развития правового регулирования должен быть направлен на укрепление информационного суверенитета государств и защиту прав граждан в цифровой среде, не нарушая вектора раскрытия положительного потенциала технологий, полагают авторы исследования.

Читать исследование

Вам также может быть интересно:

Fall into ML: результаты исследований в области ИИ обсудили в формате школы-конференции ФКН ВШЭ

Международная лаборатория стохастических алгоритмов и анализа многомерных данных факультета компьютерных наук ВШЭ и Научно-учебная лаборатория методов анализа больших данных ФКН ВШЭ при поддержке Центра ИИ НИУ ВШЭ и Российского научного фонда организовали в начале ноября Первую осеннюю школу-конференцию по искусственному интеллекту Fall into ML. Новый формат научного мероприятия начался со школы для студентов и молодых исследователей.

Искусственный интеллект ускорит поиск новых лекарственных препаратов до одного-двух месяцев

Комбинирование методов драг-дизайна и анализа больших данных может заметно ускорить процесс создания новых лекарств. Рекомендации по развитию одного из наиболее перспективных направлений в современной фармакологии разработали исследователи НИУ ВШЭ, Сеченовского университета и Ассоциации фармацевтических производителей ЕАЭС в ходе стратегической сессии «Перспективы технологического развития в области драг-дизайна», прошедшей 8 октября в Парке науки и искусства «Сириус».

Российские ученые научили искусственный интеллект анализировать эмоции участников онлайн-мероприятий

Исследователи НИУ ВШЭ предложили новый нейросетевой метод распознавания эмоций и вовлеченности людей. Алгоритмы строятся на основе анализа видеоизображений лиц и превосходят по точности известные аналоги. Разработанные модели подходят для малопроизводительного оборудования, в том числе для мобильных устройств. Результаты работы могут быть внедрены в системы теле-конференц-связи и онлайн-обучения для анализа вовлеченности и эмоций участников. Итоги исследования опубликованы в IEEE Transactions on Affective Computing.

Искусственный интеллект распознает изображения хуже человека

У компьютерного зрения нет тех физиологических особенностей, которые есть у человека, поэтому оно хуже распознает изображения. К такому выводу пришли ученые из ВШЭ и Московского политехнического университета. Результаты исследования опубликованы в сборнике Proceedings of Seventh International Congress on Information and Communication Technology.

Ученые усомнились в том, что искусственный интеллект DeepMind понимает физику молекул с нецелым зарядом

В журнале Science, одном из самых авторитетных научных изданий, команда исследователей из Высшей школы экономики, Сколтеха, Института органической химии им. Н.Д. Зелинского и Kyungpook National University (Южная Корея) опубликовала комментарий к статье DeepMind, говорится на сайте Сколтеха. В нем ученые показали, что приведенные аргументы в пользу достижения поставленной DeepMind цели не настолько надежны, как кажется, и требуют дополнительного исследования.

Искусственный интеллект обнаружил новые космические аномалии

Международная команда проекта SNAD, куда входит доцент факультета физики НИУ ВШЭ Матвей Корнилов, обнаружила 11 аномалий, 7 из которых — кандидаты в сверхновые. Исследования проводились на цифровых снимках северного неба за 2018 год, для поиска использовался метод ближайших соседей на основе K-мерных деревьев. Автоматизировать поиск аномалий позволили методы машинного обучения. Исследование опубликовано в журнале New Astronomy.

От искусственного интеллекта до культуры отмены: эксперты ВШЭ обсудили правовые вопросы на ПМЮФ

Эксперты Высшей школы экономики приняли участие в дискуссиях состоявшегося на днях X Петербургского международного юридического форума (ПМЮФ). Представители НИУ ВШЭ обсудили вопросы юридического образования, правового регулирования в сфере искусственного интеллекта, а также рассказали о феномене культуры отмены.

НИУ ВШЭ и АГУ договорились о сотрудничестве в сфере ИИ

Ректор Высшей школы экономики Никита Анисимов подписал соглашение о сотрудничестве в научно-исследовательской и образовательной сфере с ректором Адыгейского государственного университета (АГУ) Даудом Мамием. Стороны договорились участвовать в проектах Центра искусственного интеллекта НИУ ВШЭ, направленных на разработку новых технологий в этой сфере.

От беспилотников до диагностики дислексии у детей: чем занимается Центр ИИ Вышки

Центр искусственного интеллекта НИУ ВШЭ вместе с индустриальными партнерами ведет работу над 25 прикладными проектами в сфере телекоммуникаций, финансов, образования, медицины и др. Результаты работы исследователей и разработчиков на днях были представлены на заседании рабочей группы при правительстве РФ, где были подведены первые итоги реализации федерального проекта «Искусственный интеллект» национальной программы «Цифровая экономика».

Технологии искусственного интеллекта помогут реабилитации бездомных

Исследовательская группа Центра искусственного интеллекта ФКН НИУ ВШЭ под руководством Ивана Ямщикова разработала модель для прогнозирования успешности  реабилитации бездомных. Модель с вероятностью около 80% предсказывает эффективность  работы с клиентами организаций для бездомных. Проект представлен на конференции, посвященной деятельности социальных центров.