• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

Эксперты Вышки просчитали риски цифровизации

Эксперты Вышки просчитали риски цифровизации

© iStock

Подавляющее большинство российских граждан — 85% — не готовы доверить принятие решений искусственному интеллекту, говорится в докладе Центра исследований гражданского общества и некоммерческого сектора НИУ ВШЭ. Соответствующее исследование он провел для Совета при Президенте РФ по развитию гражданского общества и правам человека (СПЧ). Чтобы минимизировать риски, нужна новая модель правового регулирования, говорится в исследовании.

Развитие цифровой сферы связано с серьезными рисками в области прав человека, заявил на пресс-конференции в минувшую пятницу председатель СПЧ Валерий Фадеев.  Он напомнил, что впервые эта тема была поднята на встрече президента с членами Совета в декабре прошлого года. По ее итогам глава государства дал ряд поручений, в частности, разработать методологические и правовые основы в сфере цифровизации, своего рода «цифровой кодекс».

«Как любая мощная технология, которая меняет жизнь почти всех областей деятельности человека, цифровизация несет новые риски. Мы должны минимизировать эти риски в области прав человека», — пояснил Фадеев.

В рамках подготовки предложений СПЧ взаимодействует с научным сообществом, с общественными институтами, подчеркнул глава СПЧ, представляя исследование ВШЭ «Влияние процессов цифровизации на права человека и развитие гражданского общества». По мнению авторов, цифровая среда дает много преимуществ: повышение производительности, создание новых продуктов, услуг, впечатлений, доступность актуальной и достоверной информации и новые технологии ее обработки.

Однако вместе с новыми возможностями появляются новые риски. Так, алгоритмическая обработка данных цифровыми платформами и государством может привести к нарушению права на неприкосновенность частной жизни. Также среди основных угроз: цифровая дискриминация граждан государством и частными корпорациями на основе злоупотребления персональными данными и накопления больших данных о гражданах; кибератаки и компьютерное мошенничество; кибербуллинг, троллинг, иные акты агрессии в цифровой среде; информационные войны в киберпространстве, рост числа «фейковых новостей» и спланированных кампаний по дезинформации в интернете, в том числе с использованием современных технологий синтезирования медиаконтента (DeepFake).

По результатам опроса выяснилось, что российские граждане обеспокоены соблюдением своих прав. Так, 64% граждан при пользовании интернетом опасаются утечки персональных данных, и только 35% не видят рисков. При этом с агрессией в интернете от незнакомых людей сталкивались лишь 28% опрошенных, 71% — не встречал словесных угроз в свой адрес.

Внедрение цифровых технологий в целом несет обществу только пользу (так считает 20% респондентов) или по крайней мере больше пользы, чем вреда (полагают 44% опрошенных).

Ирина Мерсиянова

«Чтобы граждане перестали опасаться доверять принятие решений искусственному интеллекту, у них должно возникнуть доверие к самой технической системе, — говорит директор Центра исследований гражданского общества и некоммерческого сектора НИУ ВШЭ Ирина Мерсиянова. — Однако доверие на пустом месте возникнуть не сможет, ведь это, по сути, оправданные ожидания от взаимодействия. Даже если постоянно уверять людей в том, что все хорошо и надежно, без своего опыта взаимодействия доверие не возникнет. У людей просто не будет такой установки».

Несмотря на пока несформировавшееся доверие граждан к искусственному интеллекту, вектор развития правового регулирования должен быть направлен на укрепление информационного суверенитета государств и защиту прав граждан в цифровой среде, не нарушая вектора раскрытия положительного потенциала технологий, полагают авторы исследования.

Читать исследование

Вам также может быть интересно:

ВШЭ получила грант правительства РФ на создание Исследовательского центра в сфере искусственного интеллекта

Завершился отбор исследовательских центров, которые получат гранты в рамках федерального проекта «Искусственный интеллект». В число победителей вошел НИУ ВШЭ. Среди целей центра — разработка новых технологий ИИ, позволяющих расширить области его применения, преодолеть существующие ограничения для решения прикладных задач и оптимизировать модели ИИ.

«Плохо обученный искусственный интеллект опаснее восстания машин»

При нынешнем уровне развития искусственного интеллекта (ИИ) человечеству не грозит восстание машин. Более актуальной угрозой представляется применение недостаточно обученного ИИ в жизненно важных сферах, а также попытки его использования для того, чтобы поставить под контроль жизнь человека. Об этом шла речь на семинаре «Угрозы, которых мы не ожидали от искусственного интеллекта», проведенном Научно-учебной лаборатории трансцендентальной философии ВШЭ.

Права человека: как предотвратить вытеснение людей из сферы творчества

Искусственный интеллект составляет реальную конкуренцию человеку в создании результатов интеллектуальной деятельности. Массовое использование ИИ приводит к тому, что права автора-человека защищать все труднее. Необходимо корректировать законодательство, уверены эксперты Института права цифровой среды ВШЭ, подготовившие доклад «Проблема машинного творчества в системе права: регулирование создания и использования результатов интеллектуальной деятельности с применением искусственного интеллекта. Зарубежный опыт и российские перспективы».

Эксперты Вышки разобрались, кто должен нести ответственность за действия искусственного интеллекта

Искусственный интеллект (ИИ) вскоре может стать участником принятия юридически значимых решений, система ИИ фактически будет наделена властью, считают эксперты Института права цифровой среды НИУ ВШЭ. Поэтому должен быть решен вопрос о порядке ответственности в случае «автоматизированного принятия решения». О том, должны ли отвечать за действия системы ее разработчики и какие меры государство может принять для развития инвестпроектов в сфере ИИ, эксперты рассказали в специальном докладе.

Россия и Москва в гонке за искусственный интеллект

За последние пять лет Россия вышла на 17-е место среди топ-30 стран по числу публикаций в области искусственного интеллекта и демонстрирует темпы роста публикационной активности выше среднемировых. При сохранении текущих темпов роста Россия может достичь 7 места к 2025 г., а к концу 2030 г. — будет уступать только Индии, Китаю и США. Об этом говорится в исследовании ИСИЭЗ НИУ ВШЭ.

Эксперты Вышки зададут стандарт искусственному интеллекту

Высшая школа экономики по заказу Федерального агентства по технологическому регулированию и метрологии разработает российские стандарты создания и применения искусственного интеллекта (ИИ) в сетях связи, системах аналитики, нейронных сетях, системах госуслуг, для контроля оборота алкоголя и в других сферах. Об этом проекте и о том, зачем и как нужно стандартизировать ИИ, новостной службе портала рассказал директор по научным проектам НИУ ВШЭ, председатель национального технического комитета по стандартизации ТК164 «Искусственный интеллект» Сергей Гарбук.

Цифровая трансформация требует нестандартных решений

В ближайшие десять лет Россию ждет глобальная цифровизация. О необходимости активного внедрения технологии искусственного интеллекта, анализа больших данных неоднократно говорил президент. 11 января при Институте государственного и муниципального управления НИУ ВШЭ начала работу Лаборатория цифровой трансформации в государственном управлении. О том, что ждет граждан с появлением цифровых ресурсов, взаимодействии государства, общества и бизнеса, а также неудачных примерах цифровизации и способах их решения говорит заведующий лабораторией Евгений Стырин.

Восемь вопросов к искусственному интеллекту

Словосочетания «нейронные сети», «машинное обучение», «искусственный интеллект» звучат все чаще и чаще. Их произносят Владимир Путин и Максим Кац. Профессию специалиста по анализу данных называют одной из самых востребованных сейчас и в ближайшем будущем. Но вокруг темы искусственного интеллекта существует большое количество мифов и заблуждений. Ответы на наиболее популярные вопросы об искусственном интеллекте (ИИ) VTimes дает Дмитрий Ветров, профессор-исследователь НИУ ВШЭ.

Проектная деятельность станет основой обновленной модели обучения студентов ВШЭ

Лучшие черты университетской модели, созданной Вышкой за все годы работы, будут сохранены, но для дальнейшего развития необходима новая модель. В ее основе – проектное обучение для всех студентов и цифровая трансформация.

«Идешь и чувство гордости возникает»: Герман Греф познакомился с Покровкой и преподавателями

Председатель Попечительского совета НИУ ВШЭ – президент и председатель правления Сбербанка – Герман Греф посетил новый кампус Вышки на Покровском бульваре. Он встретился с молодыми учеными факультета экономических наук и факультета компьютерных наук, а ректор Ярослав Кузьминов провел для гостя экскурсию по Покровке.